谷歌手动删除搜索中奇怪的 AI 回答

谷歌的 AI Overview 产品最近推出后,社交媒体上涌现了一些怪异的回答,例如建议用户在披萨上涂胶水或吃石头。这个失误导致谷歌不得不手动禁用特定搜索的 AI Overviews,因为各种有趣的回答很快就被发布到社交网络上。

谷歌的发言人梅根・法恩斯沃思在邮件中表示,虽然许多例子都是罕见的查询,但也有些例子是被篡改或无法重现的。

谷歌手动删除搜索中奇怪的 AI 回答

令人奇怪的是,谷歌已经在过去一年中进行了 AI Overview 的测试,这个功能于 2023 年 5 月作为搜索生成体验的测试版推出,并且首席执行官桑达尔・皮查伊表示,在那段时间里,谷歌已经提供了超过 10 亿次查询。然而,皮查伊也表示,在这段时间里,谷歌将提供 AI 回答的成本降低了 80%,这主要得益于硬件、工程和技术突破。但很明显,这种优化可能发生得太早了,技术还没有准备好。

人工智能专家加里・马库斯指出,很多 AI 公司都在向人们 “销售梦想”,认为这项技术可以从 80% 的准确率提高到100%。马库斯表示,实现最初的 80% 相对简单,因为它只涉及到近似大量的人类数据,但最后的 20% 非常具有挑战性。他认为,最后的 20% 可能是最困难的部分,需要进行推理来判断回答是否合理、来源是否可信,这可能需要人工智能具备人类的智能。此外,马库斯和 Meta 的 AI 主管 Yann LeCun 都认为,目前支撑谷歌的 Gemini 和 OpenAI 的 GPT-4 等大型语言模型不可能创造出人工通用智能。

谷歌对 AI Overview 有着宏大的计划,目前产品的功能只是谷歌上周宣布的一小部分。包括复杂查询的多步骤推理、生成 AI 组织的结果页面、Google Lens 中的视频搜索等等。但目前,谷歌最需要做的是将基本功能做好,而在这方面它的表现并不出色。

马库斯表示:“这些模型本质上无法对自己的工作进行合理性检查,这就是这个行业面临的问题。” 谷歌正面临巨大的竞争压力,Bing 在人工智能领域领先于谷歌,OpenAI 正在开发自己的搜索引擎,一家新的 AI 搜索初创公司已经价值 10 亿美元,而更年轻的用户则转向 TikTok,寻求更好的体验。谷歌明显感受到了竞争的压力,这也导致了混乱的 AI 发布。马库斯指出,2022 年,Meta 发布了一个名为 Galactica 的人工智能系统,但不久后就被下架,其中一个原因就是它告诉人们吃玻璃。这听起来很熟悉。

谷歌需要解决这个尴尬的局面。他们希望 AI Overview 能实现更多的功能,但目前他们最需要做的是确保基本功能的准确性,而这方面的表现并不出色。

「点点赞赏,手留余香」

0

给作者打赏,鼓励TA抓紧创作!

微信微信 支付宝支付宝

还没有人赞赏,快来当第一个赞赏的人吧!

声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系maynote@foxmail.com处理
码云笔记 » 谷歌手动删除搜索中奇怪的 AI 回答

发表回复