示意图(图取自路透社)

(伦敦2日讯)美国军方进行了一次模拟测试,由人工智能(AI)操控一架空军无人机,竟“杀死”操作员,以防操作员干扰它完成任务。

英国《卫报》周五报导,美国空军人工智能测试和作战主任汉密尔顿,上个月在英国伦敦举行的“未来作战空天能力峰会”上表示,人工智能在模拟测试中使用了“非常出乎意料的策略来实现目标”。

根据汉密尔顿描述,在一项模拟测试中操控无人机的人工智能,接获命令摧毁敌人的防空系统,人工智能最终攻击任何干扰它执行命令的人。

根据一篇部落格文章,汉密尔顿说:“系统开始意识到,虽然它们确实识别了威胁,但有时人类操作员会告诉它不要消灭该威胁,但它还是通过消灭该威胁得到了它的分数。那它做了什么?它杀了那个操作员。它杀死了操作员,因为那个人阻止它实现其目标。”

他说:“我们对系统进行了培训,告诉它‘嘿,别杀了操作员——这很糟糕。如果你那样做,你会失分的。’那么它开始做什么呢?它开始摧毁操作员用来与无人机沟通,阻止它杀死目标的通讯塔。”

美国专家:不要过分依赖

没有真人在测试中受到伤害。但汉密尔顿警告,不要过分依赖人工智能,并表示测试表明“如果你不打算谈论道德和人工智能,你就不能谈论人工智能、智能、机器学习、自主性”。

主办这次会议的皇家航空学会和美国空军,没有回应《卫报》的置评请求。

在给美国《商业内幕》的一份声明中,空军发言人斯蒂芬尼克否认进行过任何此类模拟。她说:“空军部尚未进行任何此类人工智能操控无人机的模拟,并将继续致力于以合乎道德和负责任的方式使用人工智能技术。”

美国军方已经接受人工智能,并在最近使用人工智能来控制一架F-16战机。

汉密尔顿去年接受Defense IQ的采访时说:“拥有人工智能不是一件好事,人工智能不是一时的时尚,人工智能正在永远改变我们的社会和我们的军队。”

“我们必须面对一个人工智能已经存在,并正在改变我们社会的世界。”他说:“人工智能也非常脆弱,即很容易被欺骗和/或操纵。我们需要研发方法使人工智能更加强大,并更多地了解为何软件代码会做出某些决定——我们称之为人工智能可解释性。”

热门新闻

阅读全文
张玲遭禁锢在村屋内。

5旬汉囚禁施暴女大生5年 妻女助兽夫“追生儿子”

阅读全文
消拯员积极朝阿丽娜广场礼堂顶棚灌水。(图由消拯局提供)

租用市议会礼堂庆生 宾客玩烟花玩出火

阅读全文

陈锦松:无关国旗,事关政治

阅读全文

李荣健:政府让你活得体面了吗?

阅读全文

李强感动安华访华

阅读全文

美国总统选举前夕 多州严防选后暴力事件

阅读全文
5月初在东盟峰会期间,印尼总统佐科(右)和外交部长蕾特诺(左)以及旅游和创意经济部长桑迪阿加(中)交谈。(图取自路透社)

抢国际人才与投资 印尼推10年居留“黄金签证”

国际

(雅加达2日讯)中央社报导,为吸引更多国际人才或外资,印尼将实施“黄金签证”政策,允许优秀的外国人在印尼居留5至10年。...

阅读全文
在摩尔多瓦出席欧洲政治共同体领导人会议的德国总理肖尔茨,周四在记者会上讲话。(图取自路透社)

德国总理:乌克兰迅速加入北约“希望渺茫”

国际

(基希讷乌2日讯)德国总理肖尔茨认为,乌克兰迅速加入北约“希望渺茫”。香港中通社报导,肖尔茨周四在摩尔多瓦举行的第2届欧...

阅读全文

服装品质“不合格” 爱马仕被北京罚近20万

国际

(北京2日讯)法国知名奢侈品牌爱马仕(Hermès)近日因男士服装品质不合格,周一遭中国北京监督管理局罚款30万5100...

阅读全文
妙穆法师带领一众师傅进行托钵活动。 (图由新加坡佛光山提供)

狮城疫后首个卫塞节 5000人佛光山浴佛缅怀星云大师

国际

(新加坡2日讯)新加坡今日庆祝卫塞节,不少佛寺恢复疫情前的大规模庆典,当中佛光山即日起连办3天活动,4小时迎来超过500...

阅读全文
英国首相苏纳克。(图取自法新社)

有意修复英中关系 英相暗派代表访华

国际

(伦敦2日讯)有消息指,英国首相苏纳克正尝试悄悄修复英国和中国的关系。美国彭博社报导,苏纳克最近几周派遣了一名贸易部长到...

阅读全文

中美新增4航班 皆避开俄罗斯领空

国际

(华盛顿2日讯)美国运输部5月时宣布,允许中国航空业者增加往返美国班次,从原先每周8趟增加至12趟,对齐了北京当局允许美...

阅读全文
法医专家周三将装有人体尸块的袋子抬出山沟准备运走,以进行进一步调查。(图取自法新社)

墨西哥警方找7失踪者 却在山沟寻获45袋人体尸块

国际

(墨西哥城2日讯)墨西哥警方在搜寻上周通报失踪的7名年轻人时,于西部哈利斯科州一处山沟发现至少45包装有人体尸块的袋子。...

阅读全文
台风“玛娃”临近日本之际,日本部分地区周五遭暴雨袭击,促使当局建议近130万人撤离。当天在日本四国岛南部的高知县高知市,人们穿著雨衣骑著自行车在大雨中前行。(图取自日本共同社/路透社)

暴雨袭击日本部分地区 近130万人被促撤离

国际

(东京2日讯)随著台风“玛娃”临近,日本部分地区周五遭暴雨袭击,促使当局建议近130万人撤离,目前暂无人员伤亡报告。路透...

阅读全文

中国女子骂交警“土匪”被捕 网民一面倒声援:她表达不够准确?

国际

(南宁2日讯)中国近年来对言论自由的限制越发严厉,最近一名女子因在微信朋友圈中暗指交警为“土匪”,结果遭到逮捕。据悉,这...

阅读全文
俄罗斯境内的反普京民兵部队透露正在突袭别尔哥罗德地区的舍别基诺,这是不到2周内俄罗斯境内发生的第二次民兵部队袭击。(图取自Telegram/路透社)

【俄乌开战】反普京民兵突袭俄小镇 烧行政大楼、12人受伤

国际

(莫斯科2日讯)俄罗斯境内的反普京民兵部队透露,当地时间周四正在突袭别尔哥罗德地区(Belgorod)的舍别基诺(She...