在上下文中表示单词语义
Wolfram 神经网络存储库包含许多用数字向量表示单词的模型。这些语义向量是解决语言应用程序的关键元素。该范例演示了一个嵌入模型,它考虑了每个单词的上下文,并说明了它如何实现单词意义消歧。
ELMo 神经网络在训练了大约 10 亿个单词后学习了语境词表示。
默认情况下,ELMo 为每个单词生成三个向量(一个非上下文和两个上下文级别)。可以容易地操纵网络以仅输出每个单词的语义向量。
在文本上可视化网络的输出(每个单词的一个 1024 维向量)。
在不同的上下文中绘制单词 "Apple" 的二维语义表示。
现在使用颜色可视化单词语义。
从 ELMo 表示实现三维尺寸缩减。
构建一个网络,为文本的每个单词输出 RGB 颜色。
可视化上下文中单词的语义颜色。