文本挖掘

文本挖掘（Text mining）有時也被稱為文字探勘、文本數據挖掘等，大致相當於文字分析，一般指文本處理過程中產生高質量的資訊。高質量的資訊通常通過分類和預測來產生，如模式識別。文本挖掘通常涉及輸入文本的處理過程（通常進行分析，同時加上一些衍生語言特徵以及消除雜音，隨後插入到資料庫中），產生結構化數據，並最終評價和解釋輸出。'高品質'的文本挖掘通常是指某種組合的相關性，新穎性和趣味性。典型的文本挖掘方法包括文本分類，文本聚類，概念/實體挖掘，生產精確分類，觀點分析，文檔摘要和實體關係模型（即，學習已命名實體之間的關係）。文本分析包括了資訊檢索與詞典分析來研究詞語的頻數分布、模式識別、標籤\注釋、資訊抽取，數據挖掘技術包括連結和關聯分析、可視化和預測分析。本質上，首要的任務是，通過自然語言處理（NLP）和分析方法，將文本轉化為數據進行分析。

## 文本挖掘與文本分析

文本分析這一術語描述了一套語言學、統計學和機器學習技術，其對文本來源的內容資訊進行建模和結構化，用於商業智能、探索性數據分析、研究或調查。該術語大致與文本挖掘同義；事實上，Ronen Feldman在2004年修改了2000年對 "文本挖掘"的描述，以描述 "文本分析"。後一個術語現在在商業環境中使用得更頻繁，而 "文本挖掘 "則用於一些最早可以追溯到1980年代的應用領域，尤其是在生命科學研究和政府情報方面。

文本分析這一術語也描述了文本分析對商業問題的應用，無論是獨立的還是與現場數字數據的查詢和分析相結合的。不言而喻的，80%的商業相關資訊是以非結構化數據的形式出現的，主要是文本。這些技術和過程可以發現並展示知識——事實、商業規則和關係——否則這些知識就會被鎖定在文本形式中，無法被自動處理。

## 歷史

勞工密集型的人工純文字挖掘方法最早出現在20世紀80年代中期，但在過去的十年中，技術的進步已經使這一領域迅速取得進展。文本挖掘已經是資訊檢索、數據挖掘、機器學習、統計以及計算語言學等學科中的重要領域。由於目前的大多數資訊（80％）是以文本的形式來保存，文本挖掘被認為具有較高的商業潛在價值。

多語種數據挖掘已經越來越多的引起人們的興趣：能夠根據自己的意願從跨語種的文字來源中挖掘出有用的資訊。

## 應用

現在，文本挖掘技術被廣泛地應用於各種政府、研究和商業需求。所有這些群體都可能將文本挖掘用於管理記錄和搜索與他們日常活動相關的文件。例如，法律專業人士可將文本挖掘用於電子取證。政府和軍事團體將文本挖掘用於國家安全和情報目的。科學研究人員將文本挖掘方法納入組織大量文本數據（即解決非結構化數據的問題）的工作中，以挖掘通過文本交流的想法（例如，社交媒體的情感分析），並支持生命科學和生物資訊學等領域的科學發現。在商業領域，其應用有支持競爭情報和自動廣告投放，以及其他許多活動。

### 安全應用

許多文本挖掘的軟體包是為安全應用的。它們多數是出於國家安全的目的，監控和分析類似於網際網路新聞、部落格等的在線純文本。文本加密和解密的領域也需要研究文本挖掘。

### 軟體應用

包括IBM和微軟在內的大公司也在研究和開發文本挖掘方法和軟體，以進一步實現文本挖掘和分析過程的自動化；而搜索和索引領域的一些公司也在研究和開發文本挖掘方法和軟體，以改善其結果。在公共部門內，許多努力集中在開發跟蹤和監測恐怖活動的軟體上。對於研究而言，Weka軟體（見後文「軟體和應用」部分）是科學界最受歡迎的選擇之一，它對初學者來說是一個很好的入門點。對於Python程式設計師來說，為更加普遍的目的有一個優秀的工具包，叫做NLTK。對於更高級的程式設計師，還有Gensim庫，它專注於基於詞嵌入的文本表示。

### 在線媒體應用

大型媒體公司，如Tribune Media，正在使用文本挖掘來澄清資訊，為讀者提供更好的搜索體驗，這反過來又增加了網站的 "粘性 "和收入。此外，在後端，編輯們也正在受益，因為他們能夠分享、關聯和包裝新聞，大大增加了內容賺錢的機會。

### 營銷應用

文本分析正在被應用於商業領域，特別是營銷領域，如客戶關係管理。Coussement和Van den Poel（2008）將其應用於改善客戶流失的預測分析模型。文本挖掘也被應用於股票收益預測。

### 情感分析

情感分析可能涉及對電影評論的分析，以估計評論對電影的好感程度。這種分析可能需要一個已標記的數據集或對詞的情感性進行標記。WordNet和ConceptNet已經有分別詞彙和概念的情感性資源。

在情感計算的相關領域，文本已經被用來檢測情感。基於文本的情感計算方法已經被用於多個語料庫，如學生評價、兒童故事和新聞故事。情感分析也被應用於分析社交媒體內容。例如，之前對碳中和帖子的研究發現，正面情緒微博（83.9%）大約是負面情緒微博（9.9%）的八倍，只有 6.3% 是中性的。

## 軟體和應用

用來文本挖掘的電腦程式可從許多商業和開放原始碼公司和來源獲得。

### 開源軟體和應用

Weka工具 http://www.cs.waikato.ac.nz/ml/weka/

## 影響

直到最近，網站最常使用的是基於文本的搜索，它只能找到包含使用者給定的特定單詞或短語的文件。現在，通過使用語義網，文本挖掘可以根據意義和上下文（而不僅僅是某個特定的詞）來尋找內容。此外，文本挖掘軟體可以被用來建立有關特定人物和事件的大型資訊檔案。例如，可以根據從新聞報導中提取的數據建立大型數據集，以促進社會網絡分析或反情報工作。實際上，文本挖掘軟體的作用類似於情報分析員或研究圖書管理員，儘管分析的範圍更有限。文本挖掘也被用於一些電子郵件的垃圾郵件過濾器，作為確定可能為廣告或其他不需要的材料的資訊的一種方式。文本挖掘在確定金融市場情緒方面發揮著重要作用。

## 注釋

- Ronen Feldman and James Sanger, The Text Mining Handbook, Cambridge University Press, ISBN 9780521836579
- Kao Anne, Poteet, Steve R. (Editors), Natural Language Processing and Text Mining, Springer, ISBN 184628175X
- Konchady Manu "Text Mining Application Programming (Programming Series)" by Manu Konchady, Charles River Media, ISBN 1584504609
- M. Ikonomakis, S. Kotsiantis, V. Tampakas, Text Classification Using Machine Learning Techniques, WSEAS Transactions on Computers, Issue 8, Volume 4, August 2005, pp. 966-974 (https://web.archive.org/web/20081203004649/http://www.math.upatras.gr/~esdlab/en/members/kotsiantis/Text%20Classification%20final%20journal.pdf)

## 更多連結

- http://www.itl.nist.gov/iaui/894.02/related_projects/muc/ MUC
- http://projects.ldc.upenn.edu/ace/ ACE (LDC)
- https://web.archive.org/web/20060308054306/http://www.itl.nist.gov/iad/894.01/tests/ace/ ACE (NIST)
- https://web.archive.org/web/20070928002315/http://www.arts-humanities.net/text_mining (Discussion group text mining)
- Text Analysis Portal for Research (TAPoR)
- http://textanalytics.wikidot.com/ Text Analytics Wiki
- Getting started in text mining
- Pimiento A Text-Mining Application Framework written in Java.