自主武器

自主武器（），或稱「殺手機器人」（），是指能够在无人干预情况下依預設條件独立搜索、识别并攻击目标的武器系統，包括目前某些防御武器所具有的能够拦截来袭的导弹、火箭弹和炮弹或附近的飞机的自主模式均属于自主武器的雏形。

作为新式武器，除了改變戰爭模式，而自主武器能否区分平民和军事目标、責任歸屬也引起国际人道组织关注。

值得注意的是，无人机属于遥控武器之列，其必须由操作人员选定目标并激活、瞄准和发射相关武器。因此，无人机不属于自主武器。

 定义 
2015年，自主武器在国际上尚未有明确而广泛接受的定义。红十字国际委员会将其定义为“可以根据自身所部署的环境中不断变化的情况，随时学习或调整运转的武器。 真正的自主武器能够在无人干预或操控的情况下搜索、识别并使用致命武力攻击包括人类在内的目标（敌军战斗员）。”也有人将自主武器称作“杀手机器人”，其“是具有某种形式人工智能的移动系统，能够在无人控制的情况下在动态环境中运行。”

自主武器不同於自动武器。自动武器，虽以自足完备和独立的方式运行，但最初目标由操作人员设定并控制，并在可控环境下严格执行预编程行动或序列。此类系统的实例包括自动岗哨炮和末敏弹（包括某些反车辆地雷）。在红十字国际委员会有关2011年挑战的报告中，该组织表示“最近科技的发展逐渐加强了此类系统区分某类军事目标与民用物体的能力。尽管如此，目前仍无法预测这类系统将来在多大程度上能够进行区分，此类系统的主要挑战仍将是如何确保在使用这些武器时能按国际人道法规定区分军事目标与民用物体。”

 自主性 
故，依照武器的自主性，能分成3個層級：

 全自動自主武器：即「人在迴路之外」（）系統。系統一旦啟動，便可在無需人類操作員進一步干預的情況下，選擇並攻擊目標。
 半自動自主武器：即「人在迴路之內」（）系統。系統僅攻擊人類操作員選定的單一目標或特定目標。如巡弋彈藥。
 受監督自主武器：即「人在迴路之上」（）系統。人類操作員能在武器造成不可回復損傷前介入並終止交戰，並在過程中享有完全控制權。如被用於攻擊的防禦武器系統。

 發展 
截至2015年，全自主武器目前尙不存在。世界各强权，包括美国，也都尙未决定是否部署这类武器。然而，某些武器装置已具有部分自主系统，特别是在识别和攻击目标方面。儘管如此，值得注意的是目前该类武器均固定在某特定位置，短期内在少平民和民用设施的限定环境下自主运转，攻击目标主要针对弹药或军用车辆

不过，有些高科技军事单位正着手发展，或已经部署某些自主性更强，能够自动调整的试验型的装备。美国是这个科技发展领域的先驱者。其他几个国家也已跟着投入，如中国、法国、德国、以色列、日本、俄罗斯和英国。许多专家预测，全自主武器可在二十到三十年内被研制成功，部分专家甚至认为更快。2013年5月17日俄罗斯负责国防工业的副总理罗戈津透露，俄罗斯科研人员正在研发一种机器人，该机器人被称之为“杀手机器人”，可不借助人类干预就能自行选择并攻击目标，还可以在恐怖分子袭击的环境中帮助疏散撤离受伤士兵和平民。

隨著人工智慧武器化，自主武器的倫理問題迫在眉睫。

 倫理議題與國際人道法 
美国陆军训练及战略思想司令部长肯尼斯·罗斯列举了自主武器的优势：“机器不会劳累，他们不会闭眼，他们不需要在下雨时躲在树下或和朋友交谈…人类在30分钟后注意力就会急剧下降，但机器从来不会感到害怕。” 从技术角度来说，有朝一日有可能设计出一种自主武器系统，完全能够遵守攻击中的区分、比例和预防原则。由于机器人不会受到情绪或个人利益的影响，自主武器在战场上也许能够比人类更道德和更审慎地行事。

但自主武器的研发带给人们更多的担忧：

 責任歸屬缺口：當自主武器犯下戰爭罪行（如誤炸平民）時，法律責任的歸屬成為難題。是指揮官、程式設計師，還是機器本身負責？這種「責任缺口」（）挑戰了現有的國際人道法架構。
 數位去人性化：自主武器將人類目標簡化為數據點（s），剝奪了受害者的尊嚴。機器缺乏人類的同理心與道德判斷力，無法理解生命的價值，這被稱為「數位去人性化」（）。
 衝突門檻降低與軍備競賽：由於自主武器不涉及己方人員傷亡，決策者可能更容易發動戰爭，降低了衝突的門檻。此外，大國之間為了取得技術優勢，已陷入AI軍備競賽，這可能導致不穩定的地緣政治局勢，甚至引發反應速度超越人類控制的「閃電戰」（）。

 禁止殺手機器人運動 
人权观察组织认为，“各国政府应当预先禁止全自主武器（），以免当它被部署于武装冲突时危及平民”。人权观察表示，由于全自主武器不会对被害者感到同情，因此，独裁者可能利用它们来对付自己的人民。虽然用机器来取代士兵可以减少军人的伤亡，但也可能因此导致战争更易发生，其生命代价却由军人转移到平民来负担。在《当心间隙：杀手机器人缺乏问责机制》（）报告中，人权观察明确阐述全自动武器的难以追责性。

2012年，非政府組織組成的全球聯盟發起「禁止殺手機器人運動」（）。該運動呼籲各國先發制人地禁止研發、生產和使用完全自主的武器系統，並主張必須在武力使用中保留「有意義的人類控制」（Meaningful Human Control）。2013年4月，人权观察还联合50多个非政府组织等正式组成“阻止杀手机器人组织”，呼吁预先禁止全自主武器的发展、生产和使用。

2015，红十字国际委员会呼吁各国遵守日内瓦公约第一附加议定书第36条，在使用或发展该类武器时预先对其后果和对国际人道法的影响作出判断，認為全自主武器可能对国际人道法形成的挑战：

 国际人道法要求战斗中需要明确区分战斗员和平民，保证平民免受攻击和伤害。但自主武器是否具有区分能力受到怀疑。
 国际人道法的比例性原则“规定平民生命与财产的损失或对平民造成的伤害与预期的具体和直接军事利益相比不得是过分的”。此类评估需要人类独特的判断力，而目前的编程技术可能无法使人工智能达到该种能力。
 预防原则要求尽量减少平民伤亡。而在战争瞬息万变环境中自主武器似乎很难根据情况进行判断。
2021年，红十字国际委员会進一步關切自主武器系統，主張明令禁止不可预测的自主武器，限制自主武器只能攻擊非人類，並規制自主武器的設計。红十字国际委员会主張在《特定常规武器公约》框架下制定細則。

 聯合國特定常規武器公約 
自2014年起，聯合國《特定常規武器公約》下的政府專家組（）開始討論自主武器的管制問題。儘管許多國家呼籲制定具有法律約束力的禁令，但包括美國、俄羅斯、以色列在內的主要軍事強國傾向於建立非約束性的行為準則，主張現有的國際人道法足以涵蓋自主武器的使用。

2019年，在《特定常规武器公约》框架下，各締約國通過11項指導原則。

 参考资料 

 參見 

 人工智慧武器化

Category:人工智能应用
Category:武器