乌克兰的无人机现在可以在没有人工参与的情况下进行杀戮

一家乌克兰无人机开发者最近宣布，人工智能控制的无人机在无人监督下击毙了俄罗斯士兵——这是现代战争史上一个新的、但并不完全积极的里程碑。

众所周知，乌克兰战场已经生产了一些尖端武器。从神风特攻队无人机到本土弹道导弹，乌克兰战争催生了许多新型武器系统。

但现在乌克兰军方披露了一个令人不安的新发展：一款自主杀手无人机能够从头到尾执行任务——巡逻战场某一区域，识别一名俄罗斯士兵，飞向其位置并引爆炸药——无需人工干预。

乌克兰的“终结者”无人机：一台自主杀戮机器

据一位乌克兰国防工业高级官员称，乌克兰军方曾试验过由人工智能控制的“终结者”自主无人机，用以攻击并击杀俄罗斯军队。

2024年，在战场一个未公开地点进行了一次操作测试，涉及10架完全独立操作的终结者四旋翼无人机。自主系统覆盖最多三英里的区域，根据预设的人工智能输入与路径上的一切目标交战。

“我们试过了。这是个测试。“[但]我们从未在更大规模上实施过，”自主系统制造商亚历山大·科哈诺夫斯基在乌克兰大使馆举办的媒体活动上告诉《新科学家》。

“我们刚刚发射，我们知道一切都会死去——在这个特定区域里发现的所有东西都会死去，”科哈诺夫斯基补充道。“和无人机完全没有连接，你看不到视频，什么都看不到。它看到的一切都会被杀死。”

自主系统在现代战场上扮演着日益重要的角色，主要借鉴了它们在乌克兰的成功。除了动能自主无人机测试外，乌克兰军方还使用了自主地面机器人在战场上俘获俄罗斯军队。事实上，今年一月，一台配备自主技术的乌克兰地面机器人成功冲击俄罗斯战壕线，俘获三名俄罗斯士兵，并在武装警卫下护送他们返回乌克兰防线。然而，在那种情况下，远程控制机器人的是人类，而非人工智能程序，保持“人类知情”;科哈诺夫斯基的无人机没有主动的人类引导。

不足为奇的是，自主系统面临多项伦理、法律和运营挑战。人类可以在武装冲突法和国际人权法下学习和行动。但自主系统存在设计者意图之外的行为风险。他们可以针对非战斗人员，这是一种战争罪。他们也可能意外袭击友军——在乌克兰等乌克兰人穿着相似迷彩、携带相似武器系统的环境中风险极高。归根结底，人类可以为重大错误负责，而人工智能则不会。

自主、半自主和远程操作系统

新兴技术有三类不一定需要直接人工干预：自主、半自主和远程操作系统。

完全自主系统基于预定输入、机器学习和人工智能参数自行运行。本质上，科学家编程这些机器在不同情境下行动和反应。一旦自主武器被释放，它就只能靠自己了。这是科哈诺夫斯基所发展的武器类别，也是让伦理学家深感不安的范畴。

半自主武器系统大多独立运作，但在任何动能行动前仍需人类批准。例如，半自主无人机可以独立导航到相关区域，但在攻击敌方目标前需要人工授权。这样可以让人工保持知情，同时为防止误伤或非法袭击提供额外保障。

最后，遥控武器系统依赖人类远程指挥。操作员可能距离几百码，蹲伏在乌克兰的战壕中——也可能在数千英里外的亚利桑那州空调拖车里，那里正是美国全球反恐战争的起点。