(伦敦7日讯)研究人工智能(AI)的先驱辛顿当地时间周五接受路透社访问时说,人工智能给人类带来的威胁可能比气候变迁“更加急迫”。
中央社引述路透社报导,75岁的辛顿被视为“人工智能教父”之一,他近期宣布已从效力10年的科技公司Alphabet离职,因为他希望在不连累雇主的条件下,将人工智能的风险公之于众。
各界咸认辛顿的研究对于当代人工智能系统发展有重要贡献。1986年,他与人合撰影响深远的论文“借由反向传播谬误来学习表征”(Learning representations by back-propagating errors),替支持人工智能技术的神经网络发展立下里程碑。2018年,他因研究上的种种突破获颁“图灵奖”。
如今有愈来愈多科技界领袖担心机器的智慧超越人类、最终控制地球,于是公开对人工智能构成的潜在威胁提出疑虑,辛顿也是其中之一。
仍不清楚如何克服威胁
辛顿说:“我不是要贬低气候变迁的重要性,也不是说不该担心气候变迁,那也一样是很大的风险。但我觉得(人工智能)最后可能会更急迫。”
“关于气候变迁,提出建议很简单:只要停止排碳就好了。只要这么做,情况总会好转。而关于这(人工智能),大家还不清楚该怎么做。”
获科技企业微软赞助的美国人工智能研究实验室OpenAI去年11月推出聊天机器人ChatGPT,替人工智能技术竞赛开了第一枪,这款工具很快就成为史上成长最快的应用程式,每月活跃用户在仅仅两个月内就达到1亿人次。
今年4月,有上千人签署公开信,呼吁所有人工智能实验室至少在6个月内暂停研发比OpenAI近期推出的GPT-4更强大的系统,其中包括社交媒体推特首席执行员马斯克、人工智能研究先驱班吉欧(Yoshua Bengio)和罗素(Stuart Russell)等。
鼓励投入大量资源研究
辛顿与联名人士怀有一样的忧虑,担心人工智能会对人类造成存亡威胁,但他不同意暂停研究。
他说:“这根本不切实际。我认同这是一种存亡风险,且已近在眼前,现在应该非常努力投入大量资源去了解我们能做什么。”
上述联名信公开后,12名欧洲议会议员呼吁美国总统拜登、欧盟委员会主席冯德莱恩等领袖召开峰会,讨论如何控管ChatGPT等先进人工智能系统的发展,因为这些系统的发展速度超乎预期。
辛顿说:“科技界领袖最懂(人工智能),政界也必须参与。这件事关乎我们所有人,所以大家都必须好好思考。”