剑桥大学研究预测: AI 工具将操控用户在线决策-意图经济时代来临
据剑桥大学的研究人员称，人工智能（AI）工具可能很快就会被用来操纵在线用户的决策，从购买什么到投票给谁，包罗万象。
该论文重点指出，一个新兴的“数字意图信号”市场正在形成，被称为“意图经济”。在这个市场中，AI助手能够理解、预测甚至操控人类的意图，并将这些信息出售给能够从中获利的公司。
剑桥大学未来智能利弗休姆中心（LCFI）的研究人员认为，意图经济将取代当前的注意力经济。在注意力经济中，社交网络让用户沉迷于其平台，并向他们投放广告。
意图经济的核心在于，精通AI技术的公司将用户动机的相关信息出售给出价最高者。这些动机可能包括从酒店住宿计划到对某位政治候选人的看法等等。
LCFI的技术史学家乔尼·潘恩博士表示：“几十年来，注意力一直是互联网的通行货币。在Facebook和Instagram等社交媒体平台上分享你的注意力推动了在线经济的发展。”
他补充道：“如果不加以监管，意图经济将把你的动机视为新的货币。对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热。”
“在我们成为其意外后果的受害者之前，我们应该开始考虑这样一个市场可能对人类愿望产生的影响，包括自由公正的选举、自由的媒体和公平的市场竞争。”
该研究声称，大型语言模型（LLM），即ChatGPT等AI工具背后的技术，将被用来基于“意图、行为和心理数据”来“预测和引导”用户。
作者指出，注意力经济允许广告商通过广告交易所的实时竞价购买用户当前的注意力，或者通过购买广告牌上一个月的广告位来购买未来的注意力。
LLM也将能够实时获取注意力，例如，通过询问用户是否考虑去看某部电影——“你有没有想过今晚去看蜘蛛侠？”——以及提出与未来意图相关的建议，例如询问：“你说过你感觉工作压力很大，要我帮你预定我们之前说过的电影票吗？”
该研究提出了一种情景，在其中这些例子是“动态生成的”，以匹配诸如用户的“个人行为轨迹”和“心理档案”等因素。
该研究表明：“在意图经济中，LLM可以以低成本利用用户的语调、政治立场、词汇、年龄、性别、对奉承的偏好等等，并结合中介竞价，最大程度地提高实现特定目标（例如，出售电影票）的可能性。”在这样一个世界里，AI模型将为了广告商、企业和其他第三方的利益来引导对话。
报告称，广告商将能够使用生成式AI工具来创建定制化的在线广告。报告还引用了马克·扎克伯格的Meta公司创建的AI模型Cicero的例子，该模型在棋盘游戏《外交》中达到了“人类水平”的能力。《外交》这款游戏在作者看来，很大程度上依赖于推断和预测对手的意图。
研究补充说，AI模型将能够根据“源源不断的用户生成数据”来调整其输出。研究引用了相关研究，表明模型可以通过日常交流甚至“引导”对话来推断个人信息，以便获取更多个人信息。
该研究进一步提出了一个未来的情景，即Meta会将用户预订餐厅、航班或酒店的意图拍卖给广告商。尽管已经存在一个致力于预测和竞价人类行为的行业，但报告指出，AI模型将把这些实践提炼成一种“高度量化、动态和个性化的形式”。
该研究引用了Cicero研究团队的警告，即“AI代理可能会学会引导其对话伙伴来实现特定目标”。
该研究提到了科技公司高管讨论AI模型将如何预测用户的意图和行动。它引用了最大的AI芯片制造商英伟达的首席执行官黄仁勋去年的讲话，他说，模型将“根据上下文弄清楚你的意图、你的愿望、你想做什么，并以最佳方式向你呈现信息”。
Member discussion