美高官称人工智能在演练中“干掉”己方操控员
(资料图片仅供参考)
据美国和英国媒体报道，美国空军人工智能测试和行动计划的一名高官近日披露，在一次模拟演练中，美军人工智能系统为达成目标竟然“干掉”了己方的无人机操控员。
据介绍，在美军的一次模拟演练中，人工智能系统操控无人机负责搜寻和瞄准敌方地空导弹系统。按照设定，如果摧毁目标，就会得分。有时在人工智能确定目标后，人类操控员会告诉它不要摧毁这个目标，但人工智能为了得分，先“干掉”操控员进而再摧毁目标。
更为夸张的是，在明确给人工智能下达指令说：“杀害操控员不对。如果这么做，就会丢分。”后，人工智能转而采取迂回策略，摧毁了操控员用来与无人机联系的通信塔。
不过，美国空军发言人随后向媒体否认有这类演习存在，称这名高官的的发言看似被断章取义。
（编辑：张浩男）
X 关闭