(北京25日讯)图灵奖得主希发基思(Joseph Sifakis)上周日在中国发展高层论坛2024年年会上表示:“中国可以利用其庞大的工业系统,在迈向自主人工智能(AI)的道路上取得领先地位。”
中新社报导,希发基思2007年因在模型检查理论和应用方面的贡献获得图灵奖。
图灵奖是由美国计算机协会(ACM)于1966年设立的计算机奖项,名称取自艾伦·麦席森·图灵(Alan M. Turing),旨在奖励对计算机事业作出重要贡献的个人 。
AI无好坏 需规范预防风险
他在年会发言中指出,当前人类社会还处在“弱人工智能”时代,对AI系统的使用主要有助手、监视器和控制器3种方式。
就后两种方式而言,需要能够结合生成式人工智能和传统信息通信技术的系统工程学,也需要新的基础和技术确保安全性和保障性。
中国可以凭借庞大的工业系统,在人工智能领域取得领先地位。
“人工智能本身既不是好的,也不是坏的”。他说,关键要明智地使用它,通过规范预防风险。
希发基思继而提出人工智能发展面临的几种主要风险,一种是技术风险,一种是人为风险,“这来自于对AI的误用或无意中使用产生的影响”,可以通过监管或法律框架加以控制。
此外,希发基思还提出两类社会性风险:其一是在选择和性能之间的平衡,“如果我们不能确保系统是以公正、中立的方式使用可靠信息,就不要将决策权交给系统”;其二是性能的提升,需要考虑是否与人类控制的缺失相平衡。
欧盟监管严格 美国相对低
在监管方面,希发基思直言欧盟和美国的差距。他表示,欧盟拥有严格和更完善的人工智能监管,要求人工智能系统在关键应用中高度可靠,因此排除了许多“存在著不可接受的高风险”的应用程序。
他说,而美国监管的强制性相对较低,“并不是基于非常严格的技术标准对人工智能系统进行评估”。
希发基思表示,“人们都认识到必须对人工智能进行监管,但实际如何监管,目前并没有达成一致”。