混合式神经-符号人工智慧

混合式神经-符号人工智慧（Neuro-symbolic AI）是整合神经网路人工智慧及符号人工智慧的架构，以解决这两种AI方法的优缺点互补的问题，提供能够推理、学习和认知建模的强大AI。正如瓦利安特2008和许多人所说，2015 想要有效建立具有丰富计算能力的认知模型，需要结合可靠的符号推理和高效的机器学习模型。盖瑞‧马可斯（Gary Marcus）认为：「如果没有混合架构、丰富的先验知识和复杂的推理技术这三驾马车，我们就无法以合乎需要、自动化的方式打造丰富的认知模型。」p=44此外，「为了建构一种强大、知识驱动的人工智慧方法，我们必须在套组中拥有符号处理机制。太多有用的知识是抽象的，若没有用于表示和操作抽象知识的工具，就难以堪用，而迄今为止，我们所知道的唯一能可靠操纵这种抽象知识的运转体系是符号处理机制。」 
丹尼尔·卡尼曼的书《快思慢想 》中讨论了两种思维，Henry Kautz 、2020Francesca Rossi、2022和Bart Selman也主张综合法，其论点即基于解决《快思慢想 》中的这两种思维的需要。卡尼曼描述人类思维有两个部分「系统1和系统2」。- 系统1较快、自动、直观且无意识。用于模式识别。- 系统2较慢、循序渐进且明确。用于处理计划、演绎和审慎思考。
根据这种观点，深度学习适合处理第一种认知，符号推理适合处理第二种认知。两者都是强大、可靠的AI所必备的，可以学习、推理，并与人类互动以接受建议和回答问题。事实上，自1990年代以来，许多研究人员1995在人工智慧和认知科学领域已经在研究明确提及这两种对比系统的双历程模型。

**方法类型**
整合方法种类繁多。Henry Kautz提出的混合式神经-符号架构分类法以及一些例子如下：- Symbolic Neural symbolic——是自然语言处理中许多神经模型的当前方法，其中词或子词片段（subword tokens）是大型语言模型的最终输入和输出。例子包括BERT、RoBERTa和GPT-3 。- SymbolicNeural ——以AlphaGo为例，使用符号技术来调用神经技术。在这种情况下，符号方法采用蒙特卡洛树搜索，神经技术学习如何评估游戏位置。- Neural|Symbolic——使用神经架构将感知型数据解释为符号和关系，然后对其进行符号推理。神经概念学习器2019即为一例。- Neural:Symbolic → Neural——依靠符号推理来生成或标记训练资料，随后交由深度学习模型学习，例如，使用类似Macsyma的符号数学系统来建立或标记示例，借此训练用于符号计算的神经模型.- Neural_{Symbolic} — 使用从符号规则生成的神经网路。一个例子是 「Neural Theorem Prover」 ，它从知识库规则和术语生成的AND-OR证明树建立神经网路。逻辑张量网路也属于此类。- NeuralSymbolic ——允许神经模型直接调用符号推理引擎，例如执行动作或评估状态。
这些类别并不全面，例如，未考虑多智能体系统。Bader和Hitzler在2005年提出了一个更详细的分类，像是考虑了符号使用是否包括逻辑，如果包括，逻辑是命题逻辑还是一阶逻辑。2005 2021年有篇文章对2005年的分类法和Kautz的分类法进行了比较和对比。2020年，Sepp Hochreiter认为图神经网路「......是混合式神经-符号计算的主要模型」，因为「它们描述了分子的属性，模拟社交网路，或预测物理以及工程应用中具有粒子-粒子相互作用的的未来状态。」 date=20230106180203 

**作为通用人工智慧的先决条件**
马可斯认为「......结合学习和符号操作的混合架构对于强大的智能是必要的，但还不够」， p=50并认为：
建立强大的人工智慧需要四个先决的认知条件：- 将大规模学习与符号处理的表征和计算能力相结合的混合架构。- 大规模的知识库（可能利用先天框架）结合了符号知识以及其他形式的知识。- 推理机制能够以易于处理的方式利用这些知识基础。- 与这些机制和知识库携手合作的丰富的认知模型。p=48
这呼应了早在1990 年代对混合模型的提倡1994。

**历史**
Garcez和Lamb描述该领域的研究至少在过去二十年p=2一直在进行（实际上到现在已经三十多年了）。自2005年以来，每年都会举办一系列关于混合式神经-符号人工智慧的研讨会 date=20230605024106 。早在1990年代初期就组织了一批关于该主题的初期研讨会。1994

**未解决的研究问题**
许多关键的研究问题仍然存在，例如：- 整合神经网路架构和符号架构的最佳方式为何？- 符号结构应该如何在神经网路中表示，并从中提取？- 常识性知识应该如何学得和推理？- 如何操作逻辑上难以编码的抽象知识？

**实作**
混合式神经-符号方法的具体实作如下：- 逻辑张量网路：将逻辑公式编码为神经网路，同时从资料中学习术语神经编码、术语权重和公式权重。- DeepProbLog：将神经网路与ProbLog的机率推理相结合。

**引文**

**参考文献**
 title=Dimensions of Neural-symbolic Integration - A Structured Survey- date=2002- dead-url=yes - title=Neural-Symbolic Computing: An Effective Methodology for Principled Integration of Machine Learning and Reasoning- title=Neurosymbolic AI: The 3rd Wave- Hochreiter, Sepp. "Toward a Broad AI." Commun. ACM 65(4): 56-57 (2022). https://dl.acm.org/doi/pdf/10.1145/3512715 date=20230106180203 - doi=10.1007/978-0-585-29599-2_11- dead-url=no - dead-url=no - title=The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision- date=2019- title=The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence- dead-url=no- dead-url=no- title=Logic Tensor Networks: Deep Learning and Logical Reasoning from Data and Knowledge- doi=10.1016/0004-3702(94)00028-Y- date=1994- Sun, Ron; Alexandre, Frederic (1997). Connectionist Symbolic Integration. Lawrence Erlbaum Associates.- page=

**参见**
 符号人工智能- 联结主义人工智能- 混合智能系统

**外部连结**
  Artificial Intelligence: Workshop series on Neural-Symbolic Learning and Reasoning date=20230605024106