(萨克拉门托24日讯)美国加利福尼亚州立法机构正在审议一项旨在监管人工智能(AI)模型的法案,引起了业界人士在安全和创新之间的意见分歧。
法新社报导,该项编号SB 1047的法案,由加州三藩市的民主党州参议员维纳发起。他说,由于国会在人工智能监管问题上陷入僵局……加州必须采取行动,在快速发展的人工智能带来可预见风险之前采取预防措施,同时也要促进创新。
SB 1047法案要求大型“前沿”人工智能模型的开发者采取预防措施,例如部署前测试、模拟骇客攻击、安装网络安全保护措施,以及为举报人提供保护。
该法案最近进行了一些修改,包括将违反规定的刑事处罚替换为罚款等民事处罚。
维纳认为,人工智能的安全与创新并不相悖,而且对该法案的调整已解决了批评者的一些担忧。
反方:扼杀创新且不切实际
但包括民主党人在内的批评者认为,对新兴领域的开发者采取惩罚性措施的威胁,可能会扼杀创新。
民主党国会议员佩洛西表示,许多国会议员认为SB 1047法案是出于良好的意图,但缺乏充分的了解,并指党内高层成员已向维纳表示了他们的担忧。
曾经担任国会众议院议长的佩洛西称:“虽然我们希望加州在人工智能领域发挥领导作用,并能保护消费者、数据、知识产权等,但SB 1047法案在这方面的危害大于帮助。”
美国史坦福大学电脑科学系教授、被称为“人工智能教母”的李飞飞也反对该法案。
对于名为《前沿人工智能模型安全创新法案》的SB 1047,她本月早些时候在社交媒体X上写道,这项法案并不能解决它想要解决的问题,而且将“严重损害人工智能学术界、小科技以及开源社区”。
小科技指的是初创公司和小公司,以及研究人员和企业家。
但维纳表示,该法案旨在通过为训练成本超过1亿美元(约4亿3700万令吉)的系统开发者建立安全标准,确保大型人工智能模型的安全开发。
ChatGPT的创建者OpenAI也反对该法案,称其更倾向于全国性的规定,并担心美国各州的人工智能法规会造成混乱。
美国州立法会议的数据显示,今年至少有40个州提出了旨在监管人工智能的法案,其中有6州通过了决议或颁布了相关法律。
OpenAI表示,加州的这项法案还可能将创新者赶出加州矽谷。
加州理工学院的教授和学生,呼吁人们签署反对该法案的信函,他们认为SB 1047法案施加了繁重且不切实际的人工智能开发监管,对推进研究构成了重大威胁。
正方:修改后利大于弊
然而,生成式人工智能公司Anthropic表示,经过一些有益的修改后,SB 1047法案是利大于弊。
SB 1047法案还得到了人工智能界的知名者的支持。
被誉为“人工智能教父”的多伦多大学名誉教授辛顿称,强大的人工智能系统带来了令人难以置信的希望,但风险也非常真实,应该非常认真地对待。
他说:“SB 1047法案采取了非常明智的方法来平衡这些担忧。”
辛顿认为,具有“真正约束力”的人工智能监管至关重要,而加州自然是该法案的起点,因为它是该技术的发源地。