当机器开始自己决定打谁，人类战争会变成灾难吗？ 有一件事挺吊诡的。 人类花了几千年搞战争伦理，从古代的骑士精神到现代的日内瓦公约，核心逻辑其实只有一条：打人这件事，得由人来拍板。 哪怕是战场上最残酷的杀戮，背后也得有一个活生生的人类说，"打"。 这不只是道德感情用事，是整个战争问责体系的地基。 然后无人机来了。 5月7日，两架乌克兰无人机出现在拉脱维亚上空，把当地一处石油设施给炸了。 这是北约盟国的领土。 基辅的第一反应是甩锅给俄罗斯电子干扰。 西方官员倒是讲了另一个版本： 这些无人机原本锁定的是俄罗斯境内某个油料设施，结果被干扰信号一搅，自主系统识别混乱，看见另一个"匹配目标"就扑上去了。 瞧瞧，机器自己做了决定。 没有人下命令。 没有人在屏幕前按确认键。 目标选错了，炸的是自己人的盟友。 这一幕发生在拉脱维亚里加举行的无人机行业峰会前后，时机微妙得像是被安排过的。 英国武装部队大臣艾尔·卡恩斯就在里加。 他的一段发言，随后在整个北约圈子里流传开来。 他说： "我一直强调系统中必须有人类参与。但你也必须具备在必要时将人从决策环节中移除的能力，因为我们的对手根本不会在意是否有人类参与。" 听着好像很有道理。 再细品一下，这句话的意思其实是：因为对手不讲规矩，所以我们也准备不讲了。 这个逻辑当然有现实依据，但你得意识到，它同时在做一件事，就是把"人类必须参与目标选择"这条底线，从原则降格成了选项。 英国2022年的国防政策文件写得很清楚，能够识别、选定并打击目标的武器，必须有人类在具体情境下进行适当介入。 2024年英国向联合国提交的文件也说，不拥有、也无意研发完全自主武器系统。 所以卡恩斯的表态算什么？ 他坚持说自己没有违背现行政策。 这里有个词值得注意，他说的是"在必要时"将人移除决策环节。 问题是谁来界定"必要"？必要的标准在哪里写着？ 国际法副教授杰西卡·多西说得很清楚，这样做可能会对现有关于责任、可预见性以及平民保护的法律框架造成重大压力。 翻成大白话就是： 一旦机器打错了，打死了不该死的人，你去找谁问责？找算法？找芯片？ 问题是，乌克兰战场上已经在跑这套东西了。 利沃夫的Twist Robotics造的"Saker Scout"，通过计算机视觉搜索目标，能自主定位并打击47类预设军事装备和步兵。 俄罗斯的"柳叶刀"无人机，据信也在自主打击乌克兰目标，只是人类介入的程度到底有多少，目前没人说得清。 美军在伊朗战场部署的"Maven智能系统"，也在用AI辅助目标选择。 可以说整个俄乌战争，正在以肉眼可见的速度变成一场算法竞赛。 战场上的速度压力是真实的。 无人机群来袭时，人类反应速度根本跟不上，你硬要在每次拦截前等人类点头，代价可能是来不及。 这个困境不是卡恩斯造出来的，是技术演进逼出来的。 但这里有一个错位，就是防御端的速度压力，和进攻端的目标选择，是两件事。 拦截来袭的导弹，和主动出击决定打谁，伦理分量截然不同。 前者是被动防御，后者是主动杀伤。 把两件事混在一起谈"必须将人移出决策环节"，有点偷换了问题。 拉脱维亚那两架无人机飞错地方这件事，还在调查中。 但它提供了一个真实预演： 自主系统在被干扰、被欺骗、识别混淆的情况下，会做什么？ 答案是，它会继续执行任务逻辑，找一个它认为匹配的目标，然后打下去。 没有人类在那一刻踩刹车。 问题是，如果炸的不是一个空置的油库，而是一栋住着平民的楼呢？ 算法会生成一份报告，然后各方开始互相推责任。 卡恩斯被问到政治抱负时说，人们误解了"抱负"这个词，他的职责是为国家服务，无论担任何种职务都乐于去做。 瞧瞧，一个把人从战争决策链条里往外推的人，顺口提了一句自己不在乎职位高低。 也许真的不在乎。 但那条正在被讨论要不要拿掉的原则，一旦拿掉，就很难再装回去了。 不是因为技术，是因为先例。 第一个这样做的国家，会让第二个国家的门槛低很多，然后是第三个。 某种意义上，拉脱维亚那两架迷路的无人机，已经替所有人演示了一遍"没有人类在场"是什么感觉。 感觉就是，炸了，然后大家开会讨论是谁的锅。
