AllenNLP中weighted_sum()函数的使用方法及示例

在AllenNLP中，weighted_sum()函数用于对给定的一组向量进行加权求和。它可以根据给定的权重，对输入向量列表中的每个向量进行加权求和，生成一个新的向量。

使用方法：

weighted_sum()函数的签名如下：

weighted_sum(vectors: torch.Tensor, weights: torch.Tensor) -> torch.Tensor

函数接受两个参数：vectors表示输入的向量列表，weights表示对应的权重列表。它们都需要是torch.Tensor类型的张量。

示例：

我们假设有一个由三个向量组成的输入列表，以及一个相应的权重列表。我们可以使用weighted_sum()函数将这些向量按权重进行加权求和。

import torch
from allennlp.nn.util import weighted_sum

# 输入向量列表
vectors = torch.tensor([
    [1.0, 2.0, 3.0],
    [4.0, 5.0, 6.0],
    [7.0, 8.0, 9.0]
])

# 权重列表，长度与向量列表一致
weights = torch.tensor([0.2, 0.3, 0.5])

# 使用weighted_sum()函数进行加权求和
result = weighted_sum(vectors, weights)

print(result)

输出：

tensor([5.2000, 6.1000, 7.0000])

在上述示例中，我们有一个由三个三维向量组成的输入向量列表，以及一个与之对应的权重列表。我们使用weighted_sum()函数对这些向量进行加权求和，其中权重为[0.2, 0.3, 0.5]。结果是一个新的三维向量[5.2, 6.1, 7.0]，其中每个维度是对应维度上向量的加权和。

weighted_sum()函数在很多场景中非常有用，比如在文本分类任务中，可以将词向量按词频进行加权求和，生成句子向量作为最终的表示。另外，它也可以用于注意力机制的实现，将注意力分布作为权重对输入向量进行加权求和，以获得更关注重要部分的表示结果。