(三藩市10日讯)美国人工智能公司OpenAI表示,对其人工智能(AI)的逼真语音功能可能导致人们与机器人建立情感联系,进而可能会影响人际互动而感到担忧。
法新社报导,这家位于三藩市的公司引用了相关文献,称与人工智能聊天就像与人聊天一样,可能会导致错误的信任,而GPT-4o语音的高质量可能会加剧这种影响。
OpenAI周四发布的一份有关ChatGPT-4o版本安全工作的报告说:“拟人化涉及将类似人类的行为和特征归因于非人类实体,例如人工智能模型。GPT-4o的音频功能可能会加剧这种风险,它使得模型进行更像人类的互动。”
OpenAI表示,它注意到测试人员与人工智能交谈的方式,暗示出共享的情感纽带,例如大声哀叹这是他们在一起的最后一天。
该公司指,这些情况看起来是良性的,但必须进行研究,以了解它们在更长的时间内会如何演变。
恐脱离现实人际关系
OpenAI推测,与人工智能社交还可能使用户在人际关系中,变得不那么擅长或不那么积极。
“与模型的长期互动可能会影响社会规范。”报告称:“例如,我们的模型是顺从的,允许用户随时打断和‘拿走麦克风’,这在人工智能中是预期的,但在人类互动中则是反常的。”
根据OpenAI的说法,人工智能在交谈时记住细节并处理任务的能力,也可能让人们过度依赖这项技术。
反抄袭检测平台Copyleaks的联合创办人兼首席执行员亚明称:“OpenAI最近对ChatGPT语音模式可能引发依赖的担忧表明,许多人已经开始询问:是否是时候暂停,并考虑这项技术对人际互动和关系的影响了?”
他说,人工智能永远不应取代真实的人际互动。
科幻电影逐渐成为现实
OpenAI表示,它将进一步测试其人工智能的语音功能,如何可能导致人们产生情感依赖。
测试ChatGPT-4o语音功能的团队发现,可以通过引导,让它重复错误信息和生成阴谋论,这引发了人们的担忧,担心该人工智能模型可以被教导以令人信服的方式进行此类操作。
OpenAI在今年6月不得不向好莱坞巨星丝嘉莉约翰逊(Scarlett Johansson)道歉,因为在其最新的聊天机器人中,使用了与她声音非常相似的声音,这使得语音克隆技术引起了人们关注。
尽管OpenAI否认他们使用了丝嘉莉约翰逊的声音,但情况并没有因其首席执行员奥尔特曼在社交媒体上,用一个单词“她”来标记新模型而有所帮助。
丝嘉莉约翰逊曾在电影《她》(Her)中为一个人工智能角色配音,奥尔特曼曾表示,这是他最喜欢的有关技术的电影。
这部2013年的电影,讲述了一个男人爱上了一个名叫萨曼莎的人工智能助手的故事。