（伦敦30日讯）英国剑桥大学研究人员在周一发表的一篇论文中警告称，对话式人工智能（AI）工具可能很快就会在一个名为“意向经济”（intention economy）的新商业领域中，对用户的决策产生“潜移默化影响”。
法新社报导，该研究表明，一个潜在“有利可图却又令人担忧”的“意向数码信号”（digital signals of intent）市场正在兴起，在不久的将来，它可能会影响从购买电影票到选举投票等一切事物。
此外，随著我们对聊天机器人、数码导师和其他所谓“拟人化”（anthropomorphic）人工智能代理的日益熟悉，这种新型“说服性技术”的实现成为可能。
该论文的两位合著者指出，将看到人工智能对我们在线习惯的了解呈与日益的增长，并将其预测用户需求的能力相结合，从而建立“新的信任和理解水平”。
不加以控制或操纵社会思想
这对来自剑桥大学的利文休姆未来智能中心（LCFI）的研究人员在《哈佛数据科学评论》上发表的论文中称，如果不加以控制，这可能会导致“大规模的社会操纵”。
该论文将该新兴领域称为“意向经济”，它将会如何分析用户的注意力和沟通风格，并将它与用户的行为模式和选择联系起来。
论文合著者乔杜里表示：“人工智能工具已经在被开发，用于引出、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的。”
根据该研究，新型人工智能将依赖所谓的大型语言模型（LLMs）来针对用户的语速、政治立场、词汇量、年龄、性别、在线历史，甚至是对奉承和谄媚的偏好。
这将与旨在实现特定目标（如出售电影票）的其他新兴人工智能技术相结合，或将对话引向特定平台、广告商、企业，甚至政治组织。
拿捏用户等于拥有金钱
合著者佩恩警告称：“如果不加以监管，‘意向经济’将把你的动机视为新的货币。对于瞄准、引导和销售人类动机的人来说，这将是一场淘金热。”
“在成为其意外后果的受害者之前，我们应该开始考虑这样一个市场对人类愿望（包括自由公正的选举、新闻自由和公平市场竞争）可能产生的影响。”
佩恩指出，公众对该问题的认识“确保我们不会走上错误道路的关键”。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
