本周早些時候，谷歌AI搜索建議用戶使用“1/8 杯Elmer's膠水”來增稠披薩醬，這引發了源源不斷的笑話。現在看來，AI Overview從Reddit上的一個十年前的笑話中收獲了（糟糕的）食譜破解方法，導致一些人指出，谷歌在Reddit帖子上訓練大型語言模型是一個錯誤。

 

為 NFL 效力的狗。更換汽車“轉向燈液”的技巧。建議用剪刀跑步以增強免疫系統。這些只是使用Google全新AI概覽功能的幾個例子，也是許多人在嘗試使用世界上最受歡迎的搜索引擎時首先看到的東西。

經過多年（可能違法的）行業主導地位，谷歌的名字已成為“互聯網搜索”的代名詞。但其日益爭議的生成式人工智能項目可能會迅速抹去這一聲譽——尤其是已經為許多用戶提供的實驗性“人工智能概覽”功能。谷歌在本月初的新工具公告中寫道，人工智能概覽被宣傳為一種從廣泛的網站和已發布（通常受版權保護）內容中提煉內容的方法，據稱可以讓人們訪問“更多不同類型的網站，以解決更復雜的問題”。

但是，盡管AI Overview可能給出了許多正確的答案，但當它出錯時，顯然是極其錯誤的。迄今為止最流行的例子是谷歌本周早些時候建議使用“1/8杯Elmer's膠水”來增稠披薩醬，這引發了源源不斷的笑話。現在看來，AI Overview從Reddit上的一個十年前的笑話中收獲了（糟糕的）食譜破解方法，導致一些人指出， 在Reddit帖子上訓練大型語言模型是一個錯誤。（谷歌現在每年向論壇網站支付6000萬美元來這樣做）。

在向Verge和其他網站提供的一份聲明中，谷歌發言人聲稱，像在披薩上涂上黏合劑這樣的創意只會出現在搜索“通常非常不常見的查詢時，并不代表大多數人使用AI概覽的體驗”。但撇開谷歌搜索披薩醬配方技巧并不“罕見”這一事實不談，已經有一個X帳戶專門突出了數百個“足夠谷歌”的AI概覽示例，這說明了當前的問題。

當然，許多古怪的說法，如“約翰·亞當斯總統21次畢業于威斯康星大學”、“蛇是哺乳動物”和“制造氯氣來清潔你的洗衣機”等，可能是經過編輯的惡作劇圖片，無法區分這一事實只能說明互聯網存在更大的問題。而且，如果谷歌的許多荒謬或徹頭徹尾危險的人工智能建議中只有一部分是真的那么辯稱它們只是系統中的漏洞很可能無法保護該公司免受法律挑戰和訴訟的沖擊。

Google承諾公司將不斷改進其產品，包括AI Overview。在一份提供給Ars Technica的聲明中，一位發言人表示：“我們在推出這項新體驗之前進行了廣泛的測試，并將使用這些孤立的例子來繼續完善我們的整體系統。”目前還不清楚這些錯誤答案會在AI Overview中持續出現多久，或者這種缺陷是否真的可以修復。但與此同時，至少Google有大量“孤立的例子”可以用作學習經驗。在他們繼續改進這些系統的同時，用戶可以嘗試在自己的Google 搜索中禁用AI。

Google針對這些爭議，聲明道：“絕大多數AI Overview都提供了高質量的信息，并提供了在網絡上進行深入挖掘的鏈接。我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現的例子。在推出這一全新體驗之前，我們進行了廣泛的測試，正如我們在搜索中推出的其他功能一樣，我們非常感謝大家的反饋。我們會根據內容政策迅速采取行動，并利用這些案例對我們的系統進行更廣泛的改進，其中一些改進已經開始推出。”