，word2vec模型可以把每个词映射到一个向量，来表示词与词之间的关系。该向量为神经网路的隐藏层。Word2vec依赖skip-grams或连续词袋（CBOW）来建立神经词嵌入。Word2vec为托马斯·米科洛夫（Tomas Mikolov）在Google带领的研究团队创造。该演算法渐渐被其他人所分析和解释。
Skip-grams和CBOW.CBOW把一个词从词窗剔除。在CBOW下给定词围绕着词，word2vec预测一个句子中其中一个缺漏的词，即以机率formula_1来表示