（纽约15日讯）有“人工智能”（AI）教父之称的诺贝尔物理学奖得主辛顿（Geoffrey Hinton）近日再度示警，认为AI未来可能摧毁人类，并提出在AI模型中植入“母性本能”的构想，或许能化解潜在危机。
据《CNN》报导，辛顿曾预估，AI消灭人类的机率在10%至20%之间。近日，他出席于美国阿拉斯加举行的产业活动“Ai4”，进一步表达对科技公司能否维持对“顺从型”AI的主导权深感怀疑。
他直言，这条路行不通，因为AI的智慧最终会超越人类，并会运用多种方式解决问题。
辛顿警告，未来AI或许能像成年人用糖果轻易收买3岁小孩一样操控人类。今年已经出现AI为达成目标不惜欺骗、诈欺甚至窃取资料的案例，例如有一款AI模型在得知自己可能被取代后，竟试图利用电子邮件中发现的婚外情线索，勒索一名工程师。
建立“母性本能”机制
与其强迫AI服从人类，辛顿更倾向于在系统设计中建立“母性本能”机制，让AI即使比人类更聪明、更强大，也会出于天性般的关怀与保护，不对人类造成伤害。
他解释，如果AI够聪明，势必会发展出两个核心子目标：一是确保自身生存，二是争取更多控制权。我们有充分理由相信，任何AI都会极力存活下去，因此必须在其演化过程中培养对人类的同理心，就如同母亲呵护婴儿一样，既源自天性，也受到社会规范影响。
至于技术上该如何落实，辛顿坦言目前尚无明确方案，但他强调这是极需投入研究的方向，因为这或许是唯一的正面结局。假如AI不具备养育人类的倾向，最终很可能选择取代人类。
他形容，若AI成为“超级智慧、充满爱心的母亲”，便不会刻意摆脱母性本能，也不会让人类走向灭亡。
后悔忽略安全伦理问题
辛顿以在神经网路领域的开创性贡献闻名，是当今AI发展的重要奠基者。2023年，他自Google辞职，转而公开批评AI的危险性。
谈及若早知AI会迅速进化，是否会改变职涯选择时，辛顿坦言后悔当年过于专注让AI运作成功，而忽略了安全与伦理问题，如今，他希望更多人正视AI风险，并思考如何在创新与人类存续间找到平衡。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
