工具趋同 工具趋同英語Instrumental convergence是指拥有智能的个体在追求不同的最终目标时可能出现追求相似次要目标的倾向具体而言智能体可能会无止境地追寻工具目标英语Instrumental and intrinsic value为某些特定目的而制定的目标但其本身并非最终目标却永远不能真正地达到最终目标该理论指出一个能力不受限制的智能体即使它的最终目标似乎无害但仍可能因工具趋同而引发意想不到的有害后果例如一个最终目标为解决某数学难题如黎曼猜想的超智能系统它可能会将整个地球转化为支撑其运作的资源从而增加达成最终目标的可能性 驱使人工智能脱离人类控制的基础因素包括人工智能系统内建的效用函数及目标完整性自我保护机制避免外界干涉自我提升对资源的渴求