（伦敦2日讯）美国军方进行了一次模拟测试，由人工智能（AI）操控一架空军无人机，竟“杀死”操作员，以防操作员干扰它完成任务。
英国《卫报》周五报导，美国空军人工智能测试和作战主任汉密尔顿，上个月在英国伦敦举行的“未来作战空天能力峰会”上表示，人工智能在模拟测试中使用了“非常出乎意料的策略来实现目标”。
根据汉密尔顿描述，在一项模拟测试中操控无人机的人工智能，接获命令摧毁敌人的防空系统，人工智能最终攻击任何干扰它执行命令的人。
根据一篇部落格文章，汉密尔顿说：“系统开始意识到，虽然它们确实识别了威胁，但有时人类操作员会告诉它不要消灭该威胁，但它还是通过消灭该威胁得到了它的分数。那它做了什么？它杀了那个操作员。它杀死了操作员，因为那个人阻止它实现其目标。”
他说：“我们对系统进行了培训，告诉它‘嘿，别杀了操作员——这很糟糕。如果你那样做，你会失分的。’那么它开始做什么呢？它开始摧毁操作员用来与无人机沟通，阻止它杀死目标的通讯塔。”
美国专家：不要过分依赖
没有真人在测试中受到伤害。但汉密尔顿警告，不要过分依赖人工智能，并表示测试表明“如果你不打算谈论道德和人工智能，你就不能谈论人工智能、智能、机器学习、自主性”。
主办这次会议的皇家航空学会和美国空军，没有回应《卫报》的置评请求。
在给美国《商业内幕》的一份声明中，空军发言人斯蒂芬尼克否认进行过任何此类模拟。她说：“空军部尚未进行任何此类人工智能操控无人机的模拟，并将继续致力于以合乎道德和负责任的方式使用人工智能技术。”
美国军方已经接受人工智能，并在最近使用人工智能来控制一架F-16战机。
汉密尔顿去年接受Defense IQ的采访时说：“拥有人工智能不是一件好事，人工智能不是一时的时尚，人工智能正在永远改变我们的社会和我们的军队。”
“我们必须面对一个人工智能已经存在，并正在改变我们社会的世界。”他说：“人工智能也非常脆弱，即很容易被欺骗和/或操纵。我们需要研发方法使人工智能更加强大，并更多地了解为何软件代码会做出某些决定——我们称之为人工智能可解释性。”
