文本挖掘

文本挖掘（Text mining）有时也被称为文字探勘、文本数据挖掘等，大致相当于文字分析，一般指文本处理过程中产生高质量的信息。高质量的信息通常通过分类和预测来产生，如模式识别。文本挖掘通常涉及输入文本的处理过程（通常进行分析，同时加上一些衍生语言特征以及消除杂音，随后插入到数据库中） ，产生结构化数据，并最终评价和解释输出。'高品质'的文本挖掘通常是指某种组合的相关性，新颖性和趣味性。典型的文本挖掘方法包括文本分类，文本聚类，概念/实体挖掘，生产精确分类，观点分析，文档摘要和实体关系模型（即，学习已命名实体之间的关系） 。文本分析包括了信息检索与词典分析来研究词语的频数分布、模式识别、标签\注释、信息抽取，数据挖掘技术包括链接和关联分析、可视化和预测分析。本质上，首要的任务是，通过自然语言处理（NLP）和分析方法，将文本转化为数据进行分析。

**文本挖掘与文本分析**
文本分析这一术语描述了一套语言学、统计学和机器学习技术，其对文本来源的内容信息进行建模和结构化，用于商业智能、Exploratory data analysis、研究或调查。 该术语大致与文本挖掘同义；事实上，Ronen Feldman在2004年修改了2000年对 "文本挖掘"的描述，以描述 "文本分析"。后一个术语现在在商业环境中使用得更频繁，而 "文本挖掘 "则用于一些最早可以追溯到1980年代的应用领域，尤其是在生命科学研究和政府情报方面。
文本分析这一术语也描述了文本分析对商业问题的应用，无论是独立的还是与现场数字数据的查询和分析相结合的。不言而喻的，80%的商业相关信息是以非结构化的形式出现的，主要是文本。这些技术和过程可以发现并展示知识——事实、Business rule和关系——否则这些知识就会被锁定在文本形式中，无法被自动处理。

**历史**
劳工密集型的人工纯文字挖掘方法最早出现在20世纪80年代中期，但在过去的十年中，技术的进步已经使这一领域迅速取得进展。文本挖掘已经是信息检索、数据挖掘、机器学习、统计以及计算语言学等学科中的重要领域。由于目前的大多数信息（80％）是以文本的形式来保存，文本挖掘被认为具有较高的商业潜在价值。
多语种数据挖掘已经越来越多的引起人们的兴趣：能够根据自己的意愿从跨语种的文字来源中挖掘出有用的信息。

**应用**
现在，文本挖掘技术被广泛地应用于各种政府、研究和商业需求。所有这些群体都可能将文本挖掘用于管理记录和搜索与他们日常活动相关的文件。例如，法律专业人士可将文本挖掘用于Electronic discovery。政府和军事团体将文本挖掘用于国家安全和情报目的。科学研究人员将文本挖掘方法纳入组织大量文本数据（即解决Unstructured data的问题）的工作中，以挖掘通过文本交流的想法（例如，社交媒体的情感分析），并支持生命科学和生物信息学等领域的Discovery (observation)。在商业领域，其应用有支持竞争情报和自动Ad serving，以及其他许多活动。

**安全应用**
许多文本挖掘的软件包是为安全应用的。它们多数是出于国家安全的目的，监控和分析类似于Digital journalism、博客等的在线纯文本。 文本加密和解密的领域也需要研究文本挖掘。

**软件应用**
包括IBM和微软在内的大公司也在研究和开发文本挖掘方法和软件，以进一步实现文本挖掘和分析过程的自动化；而搜索和索引领域的一些公司也在研究和开发文本挖掘方法和软件，以改善其结果。在公共部门内，许多努力集中在开发跟踪和监测恐怖活动的软件上。对于研究而言，Weka软件（见后文“软件和应用”部分）是科学界最受欢迎的选择之一，它对初学者来说是一个很好的入门点。对于Python程序员来说，为更加普遍的目的有一个优秀的工具包，叫做Natural Language Toolkit。对于更高级的程序员，还有Gensim库，它专注于基于词嵌入的文本表示。

**在线媒体应用**
大型媒体公司，如Tribune Media，正在使用文本挖掘来澄清信息，为读者提供更好的搜索体验，这反过来又增加了网站的 "粘性 "和收入。此外，在后端，编辑们也正在受益，因为他们能够分享、关联和包装新闻，大大增加了内容赚钱的机会。

**营销应用**
文本分析正在被应用于商业领域，特别是营销领域，如客户关系管理。Coussement和Van den Poel（2008）将其应用于改善Customer attrition的预测分析模型。文本挖掘也被应用于股票收益预测。

**情感分析**
情感分析可能涉及对电影评论的分析，以估计评论对电影的好感程度。这种分析可能需要一个已标记的数据集或对词的情感性进行标记。WordNet和Open Mind Common Sense已经有分别词汇和概念的情感性资源。
在情感计算的相关领域，文本已经被用来检测情感。基于文本的情感计算方法已经被用于多个语料库，如学生评价、儿童故事和新闻故事。情感分析也被应用于分析社交媒体内容。例如，之前对碳中和帖子的研究发现，正面情绪微博（83.9%）大约是负面情绪微博（9.9%）的八倍，只有 6.3% 是中性的。

**软件和应用**
用来文本挖掘的计算机程序可从许多商业和开放源代码公司和来源获得。

**开源软件和应用**
Weka工具 http://www.cs.waikato.ac.nz/ml/weka/ date=20111028090649 

**影响**
直到最近，网站最常使用的是基于文本的搜索，它只能找到包含用户给定的特定单词或短语的文件。现在，通过使用语义网，文本挖掘可以根据意义和上下文（而不仅仅是某个特定的词）来寻找内容。此外，文本挖掘软件可以被用来建立有关特定人物和事件的大型信息档案。例如，可以根据从新闻报道中提取的数据建立大型数据集，以促进社会网络分析或反情报工作。实际上，文本挖掘软件的作用类似于情报分析员或研究图书管理员，尽管分析的范围更有限。文本挖掘也被用于一些电子邮件的垃圾邮件过滤器，作为确定可能为广告或其他不需要的材料的信息的一种方式。文本挖掘在确定金融Market sentiment方面发挥着重要作用。

**注释**
 Ronen Feldman and James Sanger, The Text Mining Handbook, Cambridge University Press, ISBN 9780521836579- Kao Anne, Poteet, Steve R. (Editors), Natural Language Processing and Text Mining, Springer, ISBN 184628175X - Konchady Manu "Text Mining Application Programming (Programming Series)" by Manu Konchady, Charles River Media, ISBN 1584504609- M. Ikonomakis, S. Kotsiantis, V. Tampakas, Text Classification Using Machine Learning Techniques, WSEAS Transactions on Computers, Issue 8, Volume 4, August 2005, pp. 966-974 (https://web.archive.org/web/20081203004649/http://www.math.upatras.gr/~esdlab/en/members/kotsiantis/Text%20Classification%20final%20journal.pdf)

**参考资料**

**更多链接**
 http://www.itl.nist.gov/iaui/894.02/related_projects/muc/ date=20181215171607  MUC- http://projects.ldc.upenn.edu/ace/ date=20130925194420  ACE (LDC)- https://web.archive.org/web/20060308054306/http://www.itl.nist.gov/iad/894.01/tests/ace/ ACE (NIST)- https://web.archive.org/web/20070928002315/http://www.arts-humanities.net/text_mining (Discussion group text mining)-  Text Analysis Portal for Research (TAPoR)- http://textanalytics.wikidot.com/ date=20210117224747  Text Analytics Wiki-  Getting started in text mining date=20111107050856 -  Pimiento A Text-Mining Application Framework written in Java.