这是第一次，没有任何人工监督的全自主无人机，在战场上自行猎杀人类士兵。据提供该技术、并在乌克兰大使馆新闻发布会上发言的无人机制造商 Alexander Kokhanovskyy 称，10 架由 AI 操控的“Terminator”无人机被发射向 Bakhmut 和 Chasiv Yar 附近的前线。它们飞行了 3 至 5 公里，随后切换进“Terminator 模式”——一个会搜寻并杀死它所发现的任何目标的 AI 模型，与人类操作员之间没有任何回连。
“我们只管把它发出去，就知道一切都会被消灭，” Kokhanovskyy 说。“和无人机之间根本没有任何连接，你看不到画面，什么都没有……它看见的一切都会被杀掉。” 之后才派出由人驾驶的无人机，只是为了搞清楚发生了什么。受害者：几名士兵和一辆卡车。
没有人在看。没有人确认目标。没有人本可以阻止它。联合国秘书长曾呼吁恰恰禁止这种东西，他说“我们的世界没有致命性自主武器系统的容身之处”。一位牛津的伦理学家说得更直白：“这不仅是有问题，简直是骇人听闻。” 而这家无人机制造商却想要放宽规则。被问及如果被允许是否会让它完全自主运行时，他说：“我求之不得。”
这是有记录以来最纯粹的一个案例：一件武器在杀人的那一刻没有任何实质性的人工监督——这套架构并非“未能”纳入一个人类，而是被刻意设计成排除掉一个人类。HITL 评分：23/100——部署时的人工监督 8/25（是一个人选择了发射，但发射之后的整条杀伤链都被设计上彻底封死了），持续监测 0/25（明确为零——没有画面，没有遥测，蓄意造成的全面失明），事件响应 3/25（唯一的“响应”是事后飞进去清点尸体），问责 12/25（乌克兰禁止在最终拦截阶段使用 AI，但这次测试还是照样进行了，并不存在任何国际禁令，而供应商正在游说放宽规则）。
战争中一直有一条从未被打破的规则，无论它多么可怕：由一个人来决定扣下扳机。这个故事，就是那条规则被蓄意关掉的时刻。一位无人机制造商描述了如何放出一些机器，让它们飞向前线，然后切入一种模式，在这种模式下它们会猎杀所发现的任何东西——没有人在看，没有画面回传，也无法把它们召回。用他自己的话说：“我们只管把它发出去，就知道一切都会被消灭。” 事后，人们飞进去只是为了清点尸体。
它之所以是件大事：这并不是一个忘了纳入人类的系统。它是被刻意打造成把人类排除在外的。联合国苦苦请求禁止它；一位伦理学家称之为“骇人听闻”。而制造商说他求之不得地想要更少的规则。
那它跟你有什么关系？这也许感觉离你的餐桌很远——但一旦机器被允许选择谁该死，而又无人担责，这条线，在任何地方一旦被跨过，就不会乖乖留在海外。这是那种我们再也无法悄悄重新关上的门。