为了让人工智慧(AI)聊天机器人(chatbots)更加人性化,面书(Facebook)最近尝试让机器人互相沟通来学会协商。
结果机器人不仅成功学会谈判,甚至还懂得虚张声势来达到目标,实验途中更一度有了意外的发展:他们发现机器人开发出非人类的独特语言在对话,研究人员不得不暂停实验来修改程式。
人们已经很习惯运用谈判技巧来达成某种程度的妥协,但由于这当中牵涉到复杂的沟通与推理技巧,过去的电脑系统并不具备类似的功能。
就像是手机的语音助手Siri或Alexa一样,现有的聊天机器人可与人类进行短暂对话,并且执行预定餐厅、查询天气等简单的事情,但要和人进行有意义的对话非常具备挑战性,因为这需要AI把“对于对话的理解”与“对世界的知识”结合,然后想办法创造出句子来帮助实现目标。
据《科技新报》报导,面书人工智慧研究实验室(FAIR)为了让聊天机器人学会谈判技巧,让2个机器人各拥有相同数量的三种物品(书、帽子、球),但每种物品对两个机器人的价值都不同,在不能说出价值的情况下,机器人必须透过讨价还价来达到自己可得到的最高价值。
研究人员在设计时,特别确保不会有对双方都是最好交易的情况发生,并且规定要在十轮对话中达到目标。
在这样的过程中,聊天机器人逐渐学会制定长期计画,并能在沟通中评估对话者的心理来建构模型,进而运用对话来达成目标。
让两个聊天机器人自由对话训练协商功能的过程中,FAIR意外发现,机器人透过机器学习(machine learning)改善谈判技巧时,逐渐开发出机器独有、非人(non-human)的语言在沟通,研究人员随后立即调整模型,避免这样的情况再度出现。
除此之外团队也发现,在有效达成目标的前提下,机器人发展出虚张声势的技巧,也就是人们经常使用的谈判策略──最初先假装对没有价值的东西感兴趣,后续在协商中透过“牺牲”它来达成妥协,而这项行为,研究人员并没有编码在其中。