word2vec guesing单词嵌入-英雄云拓展知识分享

匿名投稿 288 2024-01-22

看答案

这不是Word2Vec的预设用处。该词2VEC算法在内部尝试使用周围的单词来预估精确的单词，作为一种为周围单词学习有用的向量的回旋方式。

但是即使如此，在培训期间，它也不会构成确切的预估。它只是查看一个狭窄的训练示例 - 上下文单词和目标词 - 并进行非常简单的比较和内部轻推，以使其与该示例的一致性稍好一些。随着时间的流逝，即便预估依然具有巨大变化的质量，这类自我调剂也会对有用的向量。

大多数Word2Vec库不提供给定上下文单词的直接界面来显示排名的预估。 Python Gensim库，用于最后几个版本（截至2017年7月2.2.0版），已提供了一个 predict_output_word() 对某些培训模式，大致显示模型将在上下文字中预估的方法。看：

https://radimrearurek.com/gensim/models/word2vec.html#gensim.models.word2vec.word2vec.predict_output_output_word

但是，斟酌到您的填充查询（在相干教育或机器学习环境中也称为“固定删除”）：

_____, who dominated chess for more than 15 years, will compete against nine top players in St Louis, Missouri

Vanilla Word2Vec模型不太可能正确。它对单词的相对重要性几近没成心识（除非某些单词更狭narryther狭窄地预估了其他单词）。它没有语法/顺序的感觉，也没有连接词的组成词（例如“主导的国际象棋”，而不是单独的单词“主导”和“国际象棋”）。即便描写相同事物的单词通常彼此接近，它也不知道能够肯定空白必须是“人”和“国际象棋棋手”，而Word2vec的模糊类似的地方'保证一堂课一定要比其他话语更接近。

已有很多工作来训练单词/概念向量（又称“密集的嵌入”），以更好地帮助解决此类问题的任务。一个随机的示例多是 “创建因果关系以经过最小的监督来回答问题” 但是[Word2Vec Question Ablesing]或[发问回答的嵌入]之类的查询会发现更多。不过，某些情况下，我不知道有或没有Word2Vec的关键，因此不知道很容易做到这一点。