（华盛顿9日讯）因在人工智能（AI）方面的开创性工作，获得2024年诺贝尔物理学奖的美国物理学家霍普菲尔德表示，他认为人工智能技术的最新进展“非常令人不安”，并警告如果不加以监管，可能会发生灾难。
法新社报导，美国普林斯顿大学荣誉教授霍普菲尔德与共同获奖的加拿大裔英国电脑科学家欣顿，一同呼吁更深入地了解深度学习系统的内部运作方式，以防止它们失控。
91岁的霍普菲尔德周二在英国透过视讯，在美国新泽西州普林斯顿大学举行的聚会发表讲话。他表示，在他的一生中，他目睹了两种强大但具有潜在危险的技术——生物工程与核物理的崛起。
“人们习惯拥有一种并非只有好或只有坏，而是具备双向能力的技术。”霍普菲尔德说：“作为一名物理学家，我对一些无法控制东西，对一些我不太了解，以至于我无法理解推动这项技术的极限是什么的东西，感到非常不安。”他继续说道：“这就是人工智能正在驱动的问题。”
他补充，尽管现代人工智能系统看起来“绝对是奇迹”，但人们对它们的运作方式缺乏了解，他将其描述为“非常非常令人不安”。
他说：“这就是为什么我本人，以及欣顿，都会强烈主张，将理解作为该领域的基本需求，这将发展出一些超出你目前想像的能力。”
霍普菲尔德因设计“霍普菲尔德网络”而荣获殊荣，这是一种理论模型，展示了人工神经网络如何模仿生物大脑储存和检索记忆的方式。
他的模型被有“人工智能教父”之称的欣顿改进，用“博尔茨曼机”（Boltzmann machine）引入随机性元素，为图像生成器等现代人工智能应用铺平了道路。
忧小说情节成真
欣顿去年成为人工智能末日论者的典型代表，作为多伦多大学名誉教授的他，在多伦多大学举行的新闻发布会上谈到这个主题。
76岁的欣顿告诉记者：“环顾四周，很少有更聪明的事物被不太聪明的事物控制的例子，这让你会想知道，当人工智能变得比我们更聪明时，它是否会接管控制权。”
随著人工智能能力的迅速崛起，以及它在公司之间引发的激烈竞争，这项技术因发展速度超出科学家的完全理解而面临批评。
霍普菲尔德强调：“你不知道你一开始拥有的集体财产，实际上是存在所有相互作用的集体属性，因此你不知道作品中是否隐藏著一些自发性但不想要的东西。”
他以美国黑色幽默文学家冯内古特1963年的小说《猫的摇篮》（Cat's Cradle）中，一种虚构的人工晶体“冰-9”（ice-nine）为例子。小说中，“冰-9”旨在帮助士兵应对泥泞的环境，但它无意中将世界海洋冻结成固体，导致文明的崩溃。
“我担心会出现一种东西会说出‘我比你更快，我比你更强大……你能和我和平相处吗？’的状况，我不知道，我担忧。”
欣顿表示，目前不可能知道如何逃离灾难性场景，“这就是为什么我们迫切需要更多的研究”。
他补充：“我主张我们最优秀的年轻研究人员，或者其中的许多人，应该致力于人工智能安全，政府应该迫使大公司提供他们需要的计算设施。”
_3.jpeg/6670ed947d8a5057fca88ace694c280c.jpeg)
