苹果AI新闻推送再“翻车”：凸显AI信息误导难题

原文

导语： 苹果公司最新推出的AI功能正面临着越来越大的挑战，其在新闻推送方面频频出现错误，引发了人们对人工智能技术传播虚假信息的担忧。

苹果公司最近推出了一项利用人工智能技术总结用户通知的功能，然而，这项功能在上周却闹出了笑话。有用户反馈称，该功能错误地总结了BBC新闻App的通知，声称英国飞镖选手卢克· Littler 赢得了PDC世界飞镖锦标赛。

但这并非苹果人工智能系统（被称为Apple Intelligence）首次向用户推送虚假新闻通知。事实上，BBC已经就此问题与苹果方面沟通了一个月左右，希望他们能够尽快修复。

周一，苹果公司向BBC表示，他们正在努力通过更新来解决这个问题，即明确指出通知中显示的内容何时是由Apple Intelligence提供摘要的。

这项在iPhone上运行的人工智能功能正在生成虚假的新闻提醒，这加剧了人们对该技术传播虚假信息能力的担忧。

上周，苹果新推出的AI通知总结功能错误地总结了BBC新闻App关于PDC世界飞镖锦标赛半决赛的报道，错误地宣称英国飞镖选手卢克· Littler 赢得了冠军。

这一事件发生在实际决赛的前一天，而Littler最终确实赢得了决赛。

然而，就在这起事件发生后的几个小时，Apple Intelligence生成的另一条通知又出现了错误，声称网球传奇人物拉斐尔·纳达尔出柜。

BBC已经就此问题与苹果公司沟通了大约一个月的时间。早在去年12月，这家英国公共广播公司就向苹果投诉，称其AI功能生成了一个虚假的新闻标题，暗示在纽约联合健康集团（UnitedHealthcare）首席执行官布莱恩·汤普森被谋杀后被捕的嫌疑人路易吉·曼吉奥内开枪自杀——而这从未发生过。

CNBC联系苹果公司寻求置评，但截至发稿时尚未收到回复。周一，苹果公司告诉BBC，他们正在努力通过更新来解决这个问题，即在通知中添加说明，表明哪些文本是由Apple Intelligence生成的。目前，生成的推送通知直接显示来自新闻源。

苹果公司在发给BBC的一份声明中表示：“Apple Intelligence功能目前处于测试阶段，我们正在用户反馈的帮助下不断改进。”苹果补充说，他们鼓励用户在看到“意外的通知摘要”时报告问题。

BBC并非唯一一家受到Apple Intelligence错误总结新闻通知影响的新闻机构。去年11月，该功能发送了一条AI总结的通知，错误地声称以色列总理本雅明·内塔尼亚胡已被逮捕。

调查新闻网站ProPublica的资深编辑肯·施文克在社交媒体应用Bluesky上指出了这一错误。

CNBC已联系BBC和《纽约时报》，就苹果公司提出的解决其AI功能误报问题方案寻求置评。

AI的信息误导难题

苹果公司标榜其AI生成的新闻通知摘要功能可以有效地将新闻App的通知进行分组和重写，并在用户的锁屏上形成一个统一的提醒。

苹果表示，这项功能旨在帮助用户浏览通知，获取关键信息，并减少许多智能手机用户熟悉的铺天盖地的更新信息。

然而，这导致了人工智能专家所说的“幻觉”——人工智能生成的包含虚假或误导性信息的回应。

专注于科技市场的研究公司CCS Insights的首席分析师本·伍德告诉CNBC：“我怀疑苹果不会是唯一一家在AI生成内容方面遇到挑战的公司。我们已经看到了许多人工智能服务自信地讲述谎言的例子，即所谓的‘幻觉’。”

在苹果的案例中，由于人工智能试图整合通知并将其压缩以仅显示基本信息摘要，它以一种不准确的方式将词语组合在一起，错误地描述了事件，但却自信地将其呈现为事实。

伍德补充说：“苹果面临着试图将内容压缩成非常短的摘要的额外复杂性，这最终导致了错误的出现。苹果无疑将尽快寻求解决这个问题，我相信竞争对手将密切关注其如何回应。”

生成式人工智能的工作原理是试图找到用户提出的问题或提示的最佳答案，这依赖于其底层大型语言模型所训练的大量数据。

有时，人工智能可能不知道答案。但由于它被编程为始终对用户提示做出回应，这可能导致人工智能实际上在“说谎”的情况发生。

目前尚不清楚苹果何时能修复其通知摘要功能中的漏洞。这家iPhone制造商表示，预计将在“未来几周”内发布更新。

苹果公司最新AI功能的“翻车”事件再次提醒我们，人工智能技术在发展过程中仍面临着诸多挑战，尤其是在信息准确性方面。尽管苹果公司已意识到问题并着手解决，但这无疑给整个行业敲响了警钟：如何在享受AI带来的便利的同时，有效防范其可能带来的信息误导风险，仍然是一个亟待解决的重要课题。 苹果的这次事件也凸显了在AI技术应用于信息传播领域时，人工审核和用户反馈的重要性。未来，如何平衡AI的自动化能力和信息内容的准确性，将是科技公司需要持续关注和投入的重点。