剑桥大学研究人员在周一发表的一篇论文中警告称，在一个被称为“意图经济”的新商业领域，对话式人工智能（AI）工具可能很快会“暗中影响”用户的决策。

　　该研究认为，在不久的将来，“数字意向信号”的潜在“利润丰厚但令人不安”的市场可能会影响从购买电影票到为政治候选人投票的一切。它补充说，我们对聊天机器人、数字导师和其他所谓的“拟人化”人工智能代理的日益熟悉，正在帮助实现这一系列新的“说服性技术”。

　　该论文的两位合著者指出，人工智能将把对我们上网习惯的了解与不断增强的了解用户、预测用户需求的能力结合起来，建立“新的信任和理解水平”。

　　Leverhulme未来智能中心访问学者和合著者Yaqub Chaudhary博士说：“大量的资源被用于在生活的各个领域定位人工智能助手，这应该引发一个问题，即这些所谓的助手是为谁的利益和目的而设计的？”

　　发表在《哈佛数据科学评论》（Harvard Data Science Review）上的论文指出，如果不加以控制，这可能会导致“工业规模的社会操纵”。它描述了这个新兴领域——被称为“意图经济”——将如何描述用户的注意力和沟通风格，并将它们与他们做出的行为模式和选择联系起来。

　　“人工智能工具已经被开发出来，用于引出、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的，”合著者雅库布·乔杜里说。

　　另一位合著者Jonnie Penn博士和Chaudhary写道，意图经济将是“及时绘制”的注意力经济：描述用户的注意力和沟通风格如何与行为模式和我们最终做出的选择联系起来。

　　剑桥大学的乔杜里说：“虽然有些意图转瞬即逝，但对持续存在的意图进行分类和定位，对广告商来说将是极其有利可图的。”

　　根据这项研究，新的人工智能将依靠所谓的大型语言模型（Large Language Models，简称llm）来针对用户的节奏、政治、词汇、年龄、性别、上网历史，甚至是对奉承和讨好的偏好。

　　这将与其他新兴的人工智能技术联系在一起，这些技术试图实现一个特定的目标，比如出售一次电影院之旅，或者将对话引向特定的平台、广告商、企业甚至政治组织。

　　佩恩说：“几十年来，注意力一直是互联网的货币。在Facebook和Instagram等社交媒体平台上分享你的注意力，推动了网络经济的发展。”佩恩警告说：“除非受到监管，否则意向经济将把你的动机视为新的货币。”他补充说：“对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热。”