谷歌 AI 搜索被指“幻觉”，错误称印度失事客机为“空中客车”

1輩吇筷楽

6 月 13 日消息，昨日印度一架波音 787-8“梦想客机”在起飞后不到 1 分钟坠毁，航班号为 AI-171，机上 242 人全部遇难，其中包括 169 名印度公民，53 名英国公民，1 名加拿大公民和 7 名葡萄牙公民。

后续有用户发现，谷歌搜索引擎引入的 AI 搜索功能在这起事件中出现了严重的“幻觉”现象，当用户询问失事客机的机型时，相应 AI 会声称此次空难涉及一架“空中客车（Airbus）A330-243 型客机”，在 Reddit 等论坛受到用户强烈批评。

对此，谷歌回应称该公司已手动移除了该错误回答。

我们将持续改进，并利用本次案例对搜索系统进行更新。目前该回答已不再显示。

那么，谷歌 AI 搜索功能为什么会给出错误的空难机型结果？最可能的原因是大量关于这起事故的新闻报道中都提到了“空客是波音的主要竞争对手”，而 AI 在汇总这些信息时产生混淆。

事实上，谷歌也承认其 AI 搜索功能有可能给出错误的结果，每项 AI 搜索结果下方都会有一条免责声明，声称相应 AI 搜索答案“可能存在错误”。尽管这类提示在所有 AI 产品中都很常见，但并不显眼，很多用户在面对“看起来很自信”的 AI 回答时，往往不会太在意相应提醒。然而在重大场合，这种不经意间往往就会导致错误的认知，进而引发更多蝴蝶效应。

1輩吇筷楽