一個價值 1200 億美元的錯誤！谷歌 Bard 暴露了 “類 ChatGPT 應用” 最大軟肋？

谷歌為了應對 ChatGPT 而自信推出的 Bard，迅速被指出犯了低級錯誤，這暴露了類似的人工智能系統實際上並不具備 “理解能力”。

華爾街見聞稍早時候曾介紹，有專家指出 Bard 在該產品的第一個演示視頻中犯了一個 “事實錯誤”。

在視頻中，Bard 回答了一個關於通過詹姆斯韋伯太空望遠鏡獲得的新發現的問題，稱它 “拍攝了我們太陽系外行星的第一張照片”。然而天文學家們指出，第一張系外行星照片是由歐洲南方天文台的甚大望遠鏡（VLT）在 2004 年拍攝的。

天文學家們認為，這一問題可能源於人工智能誤解了 “模稜兩可的 NASA 新聞稿，低估了過去的歷史”。

這個故障凸顯了 Bard 等所謂的生成人工智能系統的一個常見缺陷：這些系統不能 “理解” 它們反芻的信息，只能根據概率進行猜測。而微軟也承認了它的聊天機器人也面臨類似的挑戰。

儘管語言模型可以生成連貫且語法正確的文本，但它們也會表達虛假信息。

離奇的是，上述錯誤通過了谷歌的各個工程、法律、公關和營銷部門，並在出現在了 Bard 最重要的演示中。

Bard 的 “出師不利”，無疑對本就急需這一戰 “扳回一城” 的谷歌造成打擊。週三，谷歌一度跌去近 10% 市值，損失高達 1200 億美元。

除此之外，谷歌的利潤下降可能也在所難免。去年四季度，谷歌營收和 EPS 均遜於預期，連續第三個季度盈利同比下滑，廣告收入下降了 4%，是其歷史上第二個季度萎縮。

行動太倉促

Bard 出現重大錯誤，可能反映出谷歌為了應對微軟，在推行這一項目時過於匆忙。

有媒體指出，ChatGPT 在去年推出時，也被人們發現了會提供錯誤信息。儘管 OpenAI 沒有提供錯誤信息頻率的統計數據，但這家公司表示，會通過定期更新使該工具變得更好。

相比之下，谷歌似乎在使用這項新技術方面更加大膽。

在微軟發佈的必應的例子中，聊天機器人的答案將被降級到頁面的一側，而不是通常搜索結果將保留的前面和中心。機器人的回答還包括腳註和來源材料的鏈接，這在 ChatGPT 當中是沒有的，但這使得微軟的工具看起來更值得信賴。

反觀谷歌的 Bard，回答放在頁面中間、搜索結果上方顯示了單一的摘要答案，並且沒有腳註，這意味着用户不可能識別來源。

這也許是因為谷歌面臨着迅速行動的壓力。

OpenAI 等公司試圖通過增加數十億個參數來提高語言模型的準確性，但一些研究人員懷疑，隨着模型的增長，準確性的回報會遞減。

對微軟和谷歌來説，消除這些持續存在的少數謊言可能成為一項長期挑戰。