Word2vec

係廿一世紀初嗰陣出嘅一套 NLP 演算法。

首先想像字嵌入嘅概念－家陣攞一段字俾個 AI 分析，段嘢入面每隻字都有件字嵌入，每件字嵌入係個以實數表示嘅  維向量，啲實數會表示隻字嘅意思，所以啲數值相近嘅字嵌入會係表示緊意思上相近嘅字，例如想像每隻字嘅字嵌入有 30 個實數，當中第一個實數表示嗰隻字同「貓科」有幾強嘅語義關聯，第二個實數表示嗰隻字同「人類」有幾強嘅語義關聯，所以
貓呢隻字嘅字嵌入係 [0.9, 0.1, ...]；
老虎呢隻字嘅字嵌入係 [0.7, -0.6, ...]... 呀噉。

Word2vec 呢套演算法做到嘅嘢，就係攞一拃字喺樣本文件入面「點出現法」，同啲字計出佢哋嘅字嵌入。

Word2vec 嘅做法涉及訓練一個簡單嘅前饋神經網絡由語境嘅字度估隻字係乜；

語義網絡

參攷

自然語言處理