（伦敦、三藩市27日讯）美国互联网搜索引擎巨头——谷歌（Google）有一句知名的企业口号“不作恶”（Don‘t be evil），曾吸引众人迷恋其酷炫的企业文化，包括它的许多员工，但在该公司把其人工智能（AI）技术部署在军事用途后，正面临部份员工的反弹。
外媒采访了多名科技从业人员，他们或是最近已从谷歌旗下AI公司——Google DeepMind辞职，或正准备离职，原因是对这家科技企业的军事合约感到忧虑。
常驻英国伦敦的谷歌研究工程师利古里（Sofia Liguori）是其中之一。她在本周从Google DeepMind辞职，并向媒体谈及她的忧虑，尽管她的合约限制她这样做。利古里以个人身份发言，“意识到我的公司愈来愈积极推动在军事行动中使用AI系统，令我对在谷歌工作感到羞愧。”
谷歌一名发言人回应媒体置评要求时表示，“我们与全球各地的公共部门机构合作，并遵循一致的程序审查，及签订这些合约，包括遵守我们的可接受使用政策和AI原则。”
“我们亦设有专门管道，让员工能安全地提出任何忧虑，涵盖商业操守至不当行为等问题，而我们亦制订了严格的工作场所政策，以防止任何形式的报复行为。”
今年稍早，谷歌是与美国军方签署合约的多家科技公司之一，以便在机密军事环境中，部署AI技术。美国国防部长赫格塞斯（Pete Hegseth）已把AI技术整合至武装部队，列为重点优先事项，并表示美国总统特朗普政府将成为一支“以AI为先的作战力量”。
不过，AI技术正迅速演进。批评者质疑，在未经更多测试、缺乏更强保障措施，以及人类监督的情况下，AI的可靠性是否足以应用于战争。
谷歌能否说到做到？
在谷歌工作3年后，利古里表示，她因该公司日益加深与美国和以色列军方的合作而决定辞职。“我不同意这个方向，而这亦令我失去对谷歌能够忠于其所宣称道德价值的信心。”
根据谷歌的《AI原则》，这些价值包括在实施AI时纳入“人类监督”，并使技术符合“国际法和人权”。但媒体采访的谷歌现任及前员工，以及相关专家表示，他们担忧关键时刻的人类监督程度是否足够。
这些科技从业人员表示，他们尤其担心今年签署的AI军事协议，因为这些协议大幅扩大了五角大楼（The Pentagon）可使用相关技术的范围。
本月稍早，AI研究员基尔施（Andreas Kirsch）亦因相关忧虑从Google DeepMind辞职。
基尔施表示，他认为谷歌的治理和监督机制不足，或缺乏足够意义，无法在军事及机密环境中安全且负责任地部署AI，也不足以在未来安全地研发超级AI。
“谷歌似乎无权控制或否决五角大楼如何使用其AI，而且似乎也无法充份掌控其部署方式。”
过去数年，美国军方已部署多项由AI驱动的技术，以提升其作战能力。其中最著名的例子是“梅文智能系统”（Maven Smart System），这是五角大楼用于整理情报和数据的主要软件平台。
五角大楼一直坚称，采用AI技术对赢得战争至关重要。今年稍早，美国国防部副部长迈克尔（Emil Michael）在一份声明中表示，“速度决定了AI时代的胜利。”
谷歌与五角大楼于签署的合约，允许后者把其AI技术用于机密军事项目。协议指出，谷歌的AI模型可用于“任何合法的政府用途”。
把决定权交给AI危不危险？
美国其它知名科技巨头如OpenAI、亚马逊（Amazon）、微软（Microsoft）、SpaceX、甲骨文（Oracle）、英伟达（Nvidia），以及初创公司 Reflection 亦签署了类似协议，允许AI技术部署于运输、规划，以及战场行动等各种军事用途。
随著技术迅速发展，人们对AI用于战场的忧虑亦日益增加。
曾任OpenAI地缘政治团队主管的肖克（Sarah Shoker）表示，“AI运作速度远快于人类，因此会压缩操作员作出决策的时间，而在高压环境下这尤其危险。”
“当有数百个目标由AI选出，而可供决策的时间又很短时，人类操作员几乎不可能真正审查AI输出结果中，是否存在错误。”
一名现任Google DeepMind员工因担心遭到报复而拒绝具名。他表示，“很多因认同谷歌最初使命而加入的积极员工可能会离开，但同时也有源源不绝的职场新人可以填补这些职位。这可能是一场世代交替。”
另一名同样希望匿名的Google DeepMind员工表示，“很多对此事感受强烈的人已经离开谷歌。”
该员工说，“有些人仍在抗争，另一些人则想著：这是一家大公司。你真的期望能改变什么吗？”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
