“意图经济”来袭：新研究称 AI 工具将操纵用户在线决策

GoodNav 12 月 31 日报道，剑桥大学的研究人员表示，人工智能（AI）工具可能会被用来操纵网上用户的决策，影响的领域包括购物选择、投票对象等多个方面。

这种操控建立在新兴的“意图经济”（intention economy）理论上，AI 助手在这一过程中理解、预测甚至调整人类的意图，并将这些信息出售给相关企业以获取利润。

剑桥莱弗休姆智能未来中心（LCFI）的研究人员认为，“意图经济”将逐渐取代“注意力经济”（attention economy），个人动机将成为新的交易货币。

注：注意力经济指的是在信息泛滥的时代，人的注意力成为一种珍稀资源，催生出的一种经济模式。企业和平台通过不同手段争夺用户的注意力，并将其转变为商业利益。

例如，社交媒体平台、短视频应用等，通过提供引人注目的内容和个性化推荐，吸引用户在其平台上花费更多时间，并通过广告、电商等形式获利。

研究人员指出，“意图经济”会更进一步，科技公司将用户的动机，如酒店订房计划、政治候选人的立场等信息，出售给出价最高的买家。

以 ChatGPT 为代表的 AI 聊天机器人背后，是迅速发展的大型语言模型（LLM），这些模型将用于基于“意图、行为与心理数据”来“预测和引导”用户。

LLM 能够实时获取用户的注意力，例如询问用户是否愿意观看某部电影，并根据用户的“个人行为轨迹”和“心理特征”动态生成建议。

广告商可以利用生成式 AI 工具创建定制的在线广告，甚至能够像 Meta 开发的 AI 模型 Cicero 一样，推断和预测用户的意图。

更令人为之关注的是，AI 模型能够通过日常交流推断个人信息，甚至“引导”对话以获取更多个人数据。未来，类似 Meta 的公司可能会将用户的餐厅、航班或酒店预订意图拍卖给广告商。

研究人员警告称，如果缺乏监管，“意图经济”将把用户的动机作为新的交易货币，针对和出售人类意图的人将进入“淘金热”。这一趋势可能对人类的愿望产生重大影响，包括自由公正的选举、新闻自由和公平的市场竞争。