谷歌承诺提供更好的搜索体验,但是它建议网友往披萨上抹胶水?
点击蓝字 关注我们
SUBSCRIBE to US
Illustration by Cath Virginia / The Verge | Photos by Getty Images
想象一下:在某一个晚上你打算放松一下自制披萨,你把馅饼准备好放进烤箱烤好后兴奋地开始吃。但是你发现遇到了一个问题——奶酪一直掉下来。沮丧的你向谷歌寻求解决方案。
“加些胶水,”谷歌告诉你,“将大约1/8杯Elmer胶水与酱汁混合。无毒胶水会起作用。”
当然不要那样做。,虽然这是谷歌新的AI Overviews功能告诉你的方法。最近,谷歌搜索新增了一个叫做“AI Overview”的功能,它可以在搜索结果的最顶部直接展示一个简短的答案。有网友发现,披萨胶问题的答案似乎是基于一个用户在十多年前的Reddit帖子中的评论(https://www.reddit.com/r/Pizza/comments/1a19s0/my_cheese_slides_off_the_pizza_too_easily/),他们显然是在开玩笑。
有时候AI Overview功能呈现的错误信息,会误导用户以为是权威医疗专家或科学家的观点。谷歌发言人Meghann Farnsworth表示,绝大多数AI Overview提供的信息质量都很高,并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询,也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试,并且公司会在必要时快速采取行动来确保内容的准确性。
例如,当用户询问“我每天应该吃多少石头”时,该工具错误地引用加州大学伯克利分校地质学家的话称:“人们每天至少应该吃一块小石头”,并继续列出吃石头的好处,比如岩石是人体维生素和矿物质的重要来源,吃石头对消化健康有好处。
不仅仅是谷歌;像OpenAI、Meta和Perplexity这样的公司都在与人工智能的幻觉和错误作斗争。然而,谷歌是第一个大规模部署这项技术的公司,失败的例子不断出现。
微信号|IEEE电气电子工程师学会
新浪微博|IEEE中国
· IEEE电气电子工程师学会 ·
往
期
推
荐
微信扫码关注该文公众号作者