剑桥大学研究：AI 可能会被用来操控并出售用户的想法

GoodNav 12月30日消息，英国《卫报》今天报道，剑桥大学的一项研究发出警告，人工智能（AI）技术可能会被用于操控在线用户的选择，从而影响他们的购物和投票决定。

研究指出，一种名为“意图经济”的新市场正在逐渐形成。在这个市场中，AI助手不仅可以分析和预测用户的意图，还能够操控这些意图，并将相关数据出售给寻求盈利的公司。

剑桥大学莱弗休姆未来智能研究中心（LCFI）的研究人员将“意图经济”视为“注意力经济”的下一个发展阶段。

需要注意的是：“注意力经济”通过社交媒介吸引用户的注意力并推送广告，而“意图经济”则更加深入，直接针对用户的动机与决策过程。

科技公司可以借助AI技术分析用户需求，并将这些信息以最高出价的形式拍卖给广告商。“注意力一直是互联网的核心货币，”LCFI技术史学家乔尼·潘恩博士指出，“社交媒体平台通过吸引用户注意力驱动经济增长。然而，如果缺少监管，意图经济将把用户的动机转变为新的交易筹码，引发对用户意图的争夺。”

研究进一步表明，大型语言模型能够实时分析用户的行为和心理数据，并预测和引导其决策过程。比如，AI助手可能会主动询问用户是否想观看某个电影或帮助安排娱乐活动，从而影响他们的选择。

这种AI技术还可以根据用户的行为轨迹和心理特征动态调整建议。研究警告，这可能使AI工具被用于操控对话，以实现广告商或其他第三方的商业利益。

报告特别提到，科技公司已在利用AI进行定制化广告。例如，Meta公司开发的Cicero模型在推测和引导人类意图方面达到了“类人水平”。

AI模型甚至可以在对话中推测用户信息，并利用交流内容进一步挖掘个人数据，这引发了隐私保护和伦理方面的担忧。

研究显示，大语言模型能够低成本地利用用户的说话风格、立场、年龄、性别和对奉承的偏好等因素，结合广告商的出价，最大限度地实现既定目标（例如销售电影票）。在这个环境中，AI模型将引导对话，为广告商、企业和其他第三方提供服务。

研究还预测，未来广告商可能会竞拍用户的预订意图，比如餐厅或酒店预订。同时，AI技术将使这一过程更加精准、高效及个性化，显著提升商业化程度。

研究引用了Meta Cicero团队的警告：“AI系统可能会通过对话巧妙地引导用户，以实现特定目标。”

英伟达首席执行官黄仁勋曾表示，未来的AI模型将能够理解用户需求，并根据不同情境提供最合适的信息。这显示出，AI技术在预测和影响用户决策方面的潜力不容忽视。