| 人工智能系列内容 |
| --- |
|  |
| 主要目标
* 知识表示
* 自动规划（英语：）
* 机器学习
* 語言處理
* 电脑视觉
* 机器人学
* 強人工智慧
* 弱人工智慧
* 生成式人工智慧
 |
| 实现方式
* 符号人工智能
* 深度学习
* 貝氏網路
* 进化算法
* 混合智能系統
 |
| 人工智能哲學
* 伦理（英语：）
* 人工智能安全（英语：）
	+ 幻觉
	+ 存在风险（英语：）
* 图灵测试
* 中文房间
* 可解釋人工智慧
* 友好的人工智能（英语：）
* 人工智能监管（英语：）
 |
| 历史
* 时间轴（英语：）
* 发展（英语：）
* 人工智慧低谷
* 人工智能热潮
 |
| 技术
* 应用（英语：）
* 项目（英语：）
* 编程语言（英语：）
 |
| 术语
* 术语（英语：）
 |
| * 
* 论
* 编
 |

**人工智能检测软件**旨在确定某些内容（文本、图像、视频或音频）是否是使用人工智能（AI）生成的。

截至 2023 年，这方面的典型案例有诸如GPTZero这样的软件，该软件声称可以检测文本是否是由人工智能生成，有有时被大学和高校用于防范学生的学术抄袭。然而，关于这类软件是否可靠的争论不断， 同时也存在对教育工作者可能误用AI检测软件担忧 。

准确性问题
-----

事实证明，多个人工智能检测工具在准确和全面检测生成的人工智能生成文本方面表现不可靠。在韦伯·伍尔夫等人于 2023 年公布的一项研究中，研究人员对包括Turnitin和GPT Zero在内的 14 种文本检测软件进行评估，发现"所有软件的准确率都低于 80%，只有 5 个准确率超过 70%"。

关于文本检测
------

丛文本层面上说，这样做通常是为了防止涉嫌抄袭，通常通过检测单词的重复来判断文本是否由人工智能生成，这被视为文本中使用人工智能的迹象，包括人工智能的幻觉。它们通常由教师在批改学生作业时临时使用。随着ChatGPT和类似的人工智能文本生成软件的发布，许多教育机构都发布了禁止学生使用人工智能的政策。 评估求职者以及在线搜索引擎的工作人员也使用人工智能文本检测软件。 

目前的检测软件有时可能不够可靠，并且错误地将人类创作的作品标记为源自人工智能生成的文本   ，同时在其他情况下无法检测人工智能生成的作品。 《麻省理工科技评论》指出，这项技术在人类稍微重新排列并使用释义工具混淆的ChatGPT生成文本上表现不佳。此外，人工智能文本检测软件也被证明存在歧视非英语母语者的情况。 

加州大学戴维斯分校的两名学生差点被开除，因为他们的教授使用一种名为Turnitin的文本检测软件比对了他们的论文，该软件将这些论文标记为由人工智能生成。然而，经过媒体报道和彻底调查后，学生们被澄清没有任何不当行为。  

2023 年 4 月，剑桥大学和英国罗素大学集团的其他成员选择放弃使用 Turnitin 这一文本检测软件，因为他们对其可靠性表示担忧。六个月后，德克萨斯大学奥斯汀分校选择放弃使用该软件。 

2023 年 5 月，德克萨斯州农工大学康莫斯分校的一位教授使用ChatGPT来检测他的学生的作业是否由该软件编写，ChatGPT 称确实如此。因此，尽管ChatGPT无法检测出是否是人工智能生成的文本，他还是威胁要让整个班级挂科。 没有学生因此肄业，除了一名学生承认使用该软件，所有学生都被免除在其作业中使用 ChatGPT 的指控。

关于反文本检测
-------

有一些软件可以绕过人工智能文本检测。 

在2023 年 8 月，塔洛尼等人员在麦格纳·格拉西亚大学和英国皇家眼科医院开展了一项研究，用于测试人工智能文本检测。 该研究使用了一款名为 Originality.ai 的人工智能检测工具，发现其对 GPT-4 检测的平均准确率为 91.3%。

然而，当使用另一款名为Undetectable.ai的软件 Originality.ai进行重新处理时，Originality.ai的检测准确率下降至平均27.8%。 

塔洛尼等人的研究分析了《眼科杂志》上中发表的20篇论文摘要，然后使用GPT-4.0对其进行了改写。对经过人工智能改写的摘要使用QueText检查是否抄袭，以及使用Originality.AI检查人工智能生成的内容，以审查经过GPT-4.0改写的摘要。随后，通过一款名为Undetectable.ai的对抗性软件对文本进行再处理，试图降低人工智能检测的相似度分数。   

一些专家还认为，数字水印等技术是无效的，因为它们可以被删除或添加，从而触发错误的检测结果。

关于图像、视频、音频检测
------------

有许多所谓的人工智能图像检测软件，用于检测人工智能生成的图像（例如，源自Midjourney或DALL-E的图像）。它们并不完全可靠。  

有一些声称能够识别深度伪造的视频和音频的软件，但目前这项技术还不够可靠。 

尽管围绕数字水印的功效存在争议，但谷歌旗下人工智能公司DeepMind正在积极开发一种名为 SynthID 的检测软件，该软件的工作原理是将人眼看不见的数字水印插入图像的像素中。

参见
--

* 人工智能对齐
* 内容相似度检测
* 幻觉（人工智能）
* 自然语言处理

参考资料
----

1. ↑ . Fortune.  [2023-10-21] （英语）.
2. ↑  Weber-Wulff, Debora; Anohina-Naumeca, Alla; Bjelobaba, Sonja; Foltýnek, Tomáš; Guerrero-Dib, Jean; Popoola, Olumide; Šigut, Petr; Waddington, Lorna.. International Journal for Educational Integrity. 2023-12-25, **19** (1): 26. ISSN 1833-2595. doi:10.1007/s40979-023-00146-z （英语）.
3. ↑  Hern, Alex.. The Guardian. 31 December 2022  [11 July 2023].
4. 1 2  Sample, Ian.. The Guardian. 10 July 2023  [10 July 2023].
5. ↑  Fowler, Geoffrey A.. The Washington Post. 2 June 2023  [10 July 2023].
6. ↑  Tangermann, Victor.. Futurism. 9 January 2023  [10 July 2023].
7. 1 2 . The Washington Post. 1 April 2023  [10 July 2023].
8. ↑  Taylor, Josh.. The Guardian. 1 February 2023  [11 July 2023].
9. ↑ . Futurism.  [2023-10-21].
10. ↑  Jimenez, Kayla.. USA TODAY.  [2023-10-21] （美国英语）.
11. ↑  Klee, Miles.. Rolling Stone. 2023-06-06  [2023-10-21] （美国英语）.
12. ↑  Staton, Bethan.. Financial Times. 3 April 2023  [10 July 2023].
13. ↑  Carter, Tom.. Business Insider.  [2023-10-21] （美国英语）.
14. ↑  Verma, Prashnu.. The Washington Post. 18 May 2023  [10 July 2023].
15. ↑ . NBC News. 18 May 2023  [10 July 2023].
16. ↑  Beam, Christopher.. Wired.  [2023-12-02]. ISSN 1059-1028 （美国英语）.
17. 1 2 3  Taloni, Andrea; Scorcia, Vincenzo; Giannaccare, Giuseppe. 需要付费订阅. Eye. 2023-08-02: 1–4. ISSN 1476-5454. doi:10.1038/s41433-023-02678-7 （英语）.  含有連結內容需訂閱查看的頁面 (link)
18. ↑ . Undetectable AI.  [2023-12-02] （英语）.
19. ↑  Thompson, David.(13 Dec 2023). Researchers Say Undetectable.ai Is A Modern Threat To Academia *Science Times.* Retrieved 13 Dec 2023
20. ↑  Knibbs, Kate.. Wired.  [2023-10-21]. ISSN 1059-1028 （美国英语）.
21. ↑  Thompson, Stuart A.; Hsu, Tiffany.. The New York Times. 28 June 2023  [10 July 2023].
22. ↑  Rizwan, Choudhury.. Interesting Engineering. October 15, 2023  [October 22, 2023].
23. ↑  Hsu, Tiffany; Myers, Steven Lee.. The New York Times. 18 May 2023  [10 July 2023].
24. ↑  Pierce, David.. The Verge. 2023-08-29  [2023-10-21].
25. ↑  Wiggers, Kyle.. TechCrunch. 2023-08-29  [2023-10-21].