“AI概览”漏洞百出，谷歌的维护方式竟然是手动删除

谷歌公司

北京时间5月24日，继谷歌的“AI概览”（AI Overviews）功能被指责给出事实错误和危险的答案后，谷歌公司被曝出试图手动删除这些答案。

谷歌表示，这个概述示例违反了其政策，并将“采取行动”。根据内容政策删除某些查询的 AI 概览，并利用这些案例对系统进行更广泛的改进，于是在这之后，许多用户发现自己在社交媒体发布的有关谷歌AI概览错误回答的内容消失了。

谷歌还表示，其AI Overview产品主要向用户输出“高质量信息”。谷歌发言人梅根·法恩斯沃斯在一封电子邮件中说:“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法复制的例子。”

此前，AI概览功能曾建议用户“在披萨上涂胶水”或是“吃石头”，甚至在关于前总统奥巴马的问题上，AI概览给出了“巴拉克·侯赛因·奥巴马被认为是美国第一位穆斯林总统”这个存在明显事实错误的答案。

AI概览给出的与事实不符的答案

这样的情况并非首次出现，2022年，Meta发布了一款名为Galactica的人工智能系统，该系统在发布后不久就不得不被撤下，因为该系统在回答中让人去吃玻璃。

谷歌公司曾以先进的科技产品得到业界的一致好评，然而最近谷歌的表现却令人感到失望，一位不愿透露姓名的人工智能创始人表示:“一家曾经以走在最前沿、生产高质量产品而闻名的公司，现在却以低质量的产品而闻名，而且还被人发布在网上嘲笑。”

事实上，谷歌目前的的处境很艰难。在谷歌之前，Bing 就大举进军人工智能领域，OpenAI 也在开发自己的搜索引擎，而只想要获得最佳体验的年轻一代用户正在转向 TikTok 。这些都给了谷歌很大的竞争的压力。