（华盛顿10日讯）美国人工智能（AI）公司（Anthropic）拒绝让他们的人工智能模型Claude，用于自主致命战争和对美国民众的大规模监视，被美国国防部列入黑名单，这家初创企业当地时间周一提起诉讼，指控美国政府对该公司进行报复。
法新社报导，Anthropic在提交给加利福尼亚州三藩市联邦法院的这份长达48页的诉状中，寻求宣布其被认定为“对国家安全的供应链风险”的做法非法并予以阻止。
Anthropic在诉讼中表示，公司创立的初衷是相信其人工智能应该“以最大程度地造福人类的方式使用”，并且应该“是最安全、最负责任的”。
诉讼称：“Anthropic提起诉讼是因为联邦政府对其表达该原则进行了报复。”
Anthropic是第一家被公开贴上“供应链风险”企业标签的美国公司，而此标签通常只用于来自敌对外国的组织，例如中国科技巨头华为。
该标签不仅阻止五角大厦使用该公司的技术，还要求所有国防供应商和承包商证明，他们在与国防部的合作中没有使用Anthropic的模型。
诉讼书称，“此案的后果非常严重”，政府“试图摧毁世界上发展最快的私人公司之一所创造的经济价值”。
该诉讼将十几个联邦机构和内阁官员列为被告。
Anthropic坚持认为，其技术不应用于大规模监控或完全自主的武器系统，这激怒了美国国防部长赫格塞思。
随后，美国总统特朗普下令所有联邦机构停止使用该公司的所有技术。
几个小时后，赫格塞思便将Anthropic列为“对国家安全的供应链风险”，并下令任何军事承包商、供应商或合作伙伴“不得与Anthropic进行任何商业活动”，同时允许五角大厦本身有6个月的过渡期。
获得同行专业人士声援
这场争论爆发于美国对伊朗发动军事打击前几天。Anthropic的Claude是五角大厦部署最广泛的前沿人工智能模型，也是目前唯一在国防部机密系统上运作的此类模型。
Anthropic在诉讼中称，针对该公司的行动违反了美国宪法第一修正案，因为该公司就人工智能安全政策发表受保护的言论而受到惩罚，这超越了五角大厦的法定权限，并剥夺了该公司根据第5修正案享有的正当程序权利。
诉状中称：“宪法不允许政府动用其巨大的权力，惩罚一家公司受保护的言论。”
周一，包括谷歌首席科学家迪安在内的30多位来自OpenAI和谷歌的人工智能行业内部人士，向法院提交了一份法庭之友书状，支持Anthropic。
他们表示，他们是以人工智能的建构、训练或研究专业人士的身份表达自己的意见，并不代表他们的公司，并敦促法院支持Anthropic。
他们在书状中称：“我们一致认为，当今的前沿人工智能系统如果被部署用于实现国内大规模监控，或在无人监督的情况下操作自主致命武器系统，就会带来风险，而这些风险需要某种形式的防护措施，无论是通过技术保障还是使用限制。”
书状指出，目前的人工智能模型不够可靠，不足以让人信任它做出致命的目标选择决定，将强大的人工智能与所有可用的人员数据结合起来，可能会改变公共生活的结构。
书状中写道：“政府将Anthropic指定为供应链风险是滥用权力，对我们行业造成了严重影响。”
Anthropic由阿莫代伊和妹妹达妮埃拉于2021年创立，他们都曾是OpenAI的员工。Anthropic将自己定位为人工智能竞赛中以安全为中心的替代方案。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
