語言模型

統計式的語言模型是一個機率分佈 ， 給定一個長度爲 的字詞所組成的字串 ， 派機率給字串 ： 。 語言模型提供上下文來區分聽起來相似的單詞和短語 。 例如 ， 短語 “ 再給我兩份蔥 ， 讓我把記憶煎成餅 ” 和 “ 再給我兩分鐘 ， 讓我把記憶結成冰 ” 聽起來相似 ， 但意思不同 。 語言模型經常使用在許多自然語言處理方面的應用 ， 如語音識別 ， 機器翻譯 ， 詞性標註 ， 句法分析 ， 手寫體識別和資訊檢索 。 由於字詞與句子都是任意組合的長度 ， 因此在訓練過的語言模型中會出現未曾出現的字串 ， 也使得在語料庫中估算字串的機率變得很困難 ， 這也是要使用近似的平滑n - 元語法 ( N - gram ) 模型之原因 。 在語音辨識和在資料壓縮的領域中 ， 這種模式試圖捕捉語言的特性 ， 並預測在語音串列中的下一個字 。 在語音識別中 ， 聲音與單詞序列相匹配 。 當來自語言模型的證據與發音模型和聲學模型相結合時 ， 歧義更容易解決 。 當用於資訊檢索 ， 語言模型是與文件有關的集合 。 以查詢字 「 Q 」 作爲輸入 ， 依據機率將文件作排序 ， 而該機率代表該文件的語言模型所產生的語句之機率 。