<img id="edit_6253366" src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/5e052a1245d268dcf2c1177c74c5735e_1682697436.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" width="1093" height="689" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/5e052a1245d268dcf2c1177c74c5735e_1682697436.png"/>圖片來源 @視覺中國<blockquote>文 | 腦極體</blockquote>聽説最近 AI 大廠的開發人員和高校的 NLP 研究人員，都在琢磨，怎麼讓大模型 “湧現”。那畫面莫名就讓我想到了程序員給服務器上香來保佑不宕機，都有種求諸於天的玄學。所謂 “湧現”，在大模型領域指的是當模型突破某個規模時，性能顯著提升，表現出讓人驚豔、意想不到的能力。比如語言理解能力、生成能力、邏輯推理能力等。一般來説，模型在 100 億到 1000 億參數區間，可能產生能力湧現。但老話説得好 “氪不救非，玄不改命”。靠砸錢和運氣，只一味把模型做的大大大，也未必能讓 AI“顯靈”。強大的邏輯推理是大語言模型 “智能湧現” 出的核心能力之一，好像 AI 有了人的意識一樣。而推理能力的關鍵，在於一個技術——思維鏈（Chain of Thought，CoT）。大家如果看過類 GPT 應用的翻車問題，會發現大多都是數學算術題、邏輯思考題等，這類需要精確推理的問題，而這正是思維鏈能夠重點解決的。現在訓練大語言模型的企業和機構很多，但能夠訓練出思維鏈並應用的很少。換句話説，只有解鎖了思維鏈技術，大語言模型才有可能 “湧現”，才能在 “大煉模型” 的競爭中具備能力優勢。思維鏈的故事，我們從一個奇男子説起。<h2>一個神奇的男子</h2>思維鏈，在人工智能領域，是一個非常非常新的概念。2022 年 1 月，它的相關論文才被放到 arxiv 上，成果也特別驚豔，谷歌在當年五月的年度開發者大會 Google I/O 2022，也對思維鏈這一研究成果進行了宣傳。當時同台宣傳的還有大模型 PaLM 和 Pixel 系列手機等。你可能發現了華點，怎麼讓思維鏈聞名世界的，卻變成了 OpenAI 的 ChatGPT 呢？這就要提到一個奇男子——思維鏈的提出者 Jason Wei。之所以神奇，一是本人能力卓絕。這位華人科學家，2020 年本科畢業成為谷歌大腦的高級研究員，在任職期間，提出了思維鏈的概念，發現思維鏈可以在大語言模型中增強推理能力。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/81371f673e8f1e0d6411957ee9ba69de_1682697436.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1080" height="620" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/81371f673e8f1e0d6411957ee9ba69de_1682697436.png"/>（Jason Wei 的個人博客 www.jasonwei.net）二是他的個人際遇，對 AI 影響很大，2022 年 2 月他離開谷歌，加入了 OpenAI，進入 ChatGPT 團隊，這也是思維鏈在 OpenAI 發揚光大，讓 ChatGPT 拔得頭籌的原因之一。那這位奇男子和同事的工作，究竟幹了什麼呢？<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/adcbf96594ce8ce01593d27162d8c640_1682697436.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="699" height="304" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/adcbf96594ce8ce01593d27162d8c640_1682697436.png"/>谷歌之前在大模型下了很大功夫，GPT 生成式預訓練模型中的 “T”，也就是 Transformer，就是谷歌大腦搞出來的。但是，預訓練 + 精調的大模型搞了幾年，仍然沒辦法很好地完成多步驟推理任務，比如數學問題和常識推理。所以 Jason Wei 等人提出了思維鏈提示的方法，真的一下子就讓大模型的邏輯推理能力不一樣了。具體來説，有三個不一樣：1.常識推理能力趕超人類。以前的語言模型，在很多挑戰性任務上都達不到人類水平，而採用思維鏈提示的大語言模型，在 Bench Hard(BBH) 評測基準的 23 個任務中，有 17 個任務的表現都優於人類基線。比如常識推理中會包括對身體和互動的理解，而在運動理解 sports understanding 方面，思維鏈的表現就超過了運動愛好者（95% vs 84%）。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/2151bb9fed36512a98f809dc3d09e738_1682697436.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="675" height="537" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/2151bb9fed36512a98f809dc3d09e738_1682697436.png"/>（思想鏈被高亮顯示）2.數學邏輯推理大幅提升。一般來説，語言模型在算術推理任務上的表現不太好，而應用了思維鏈之後，大語言模型的邏輯推理能力突飛猛進。MultiArith 和 GSM8K 這兩個數據集，測試的是語言模型解決數學問題的能力，而通過思維鏈提示，PaLM 這個大語言模型比傳統提示學習的性能提高了 300%！在 MultiArith 和 GSM8K 上的表現提升巨大，甚至超過了有監督學習的最優表現。 這意味着，大語言模型也可以解決那些需要精確的、分步驟計算的複雜數學問題了。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/81f6ab861364d08665c7b1639b194167_1682697437.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="480" height="411" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/81f6ab861364d08665c7b1639b194167_1682697437.png"/>3.大語言模型更具可解釋性，更加可信。我們知道超大規模的無監督深度學習，打造出來的大模型是一個黑盒，推理決策鏈不可知，這就會讓模型結果變得不夠可信。而思維鏈將一個邏輯推理問題，分解成了多個步驟，來一步步進行，這樣生成的結果就有着更加清晰的邏輯鏈路，提供了一定的可解釋性，讓人知道答案是怎麼來的。Jason Wei 這位奇男子提出的思維鏈，可以説是大語言模型驚豔世界的必要條件。<h2>一句神奇的咒語</h2>花式調戲大語言模型，有一句非常神奇的咒語，能讓 LLM 的回答結果大不一樣，那就是——“Let’s think step by step”。此前很多用户就發現，一旦在問題中加上 “Let’s think step by step”，ChatGPT 就好像被施了魔法，原本做錯的數學題，突然就會做了；原本的胡説八道，突然就有理有據了。這就是思維鏈的魔力。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/f7482a50d6ff7950ebf9c02a14f4ad32_1682697437.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1080" height="284" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/f7482a50d6ff7950ebf9c02a14f4ad32_1682697437.png"/> 思維鏈 (Chain-of-thought，CoT)，指的是一系列有邏輯關係的思考步驟，形成一個完整的思考過程。人在日常生活中，隨時隨地都會用思維鏈來解決問題，比如工作、讀書經常用到的思維導圖，就是為了儘可能全面拆解步驟，不忽略重要細節，從而充分地考慮問題。這種步驟分解的方式用在提示學習中，就被稱為思維鏈提示，將大語言模型的推理過程，分解成一個個步驟，直觀地展現出來，這樣開發人員可以在 LLM 推理出現錯誤時，就及時地修復。相當於讓 AI 做分析題，而不是 “填空題”，要把推理過程詳細説清楚，按步驟得分，最後給出答案。Jason Wei 等在 2022 年的論文中，展示了標準提示學習和思維鏈提示的不同之處：<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/1f88cbe1584f2ee95a12bdcb292e9bcd_1682697437.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1080" height="532" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/1f88cbe1584f2ee95a12bdcb292e9bcd_1682697437.png"/>可以看到，類似的算術題，思維鏈提示會在給出答案之前，還會自動給出推理步驟：“羅傑先有 5 個球，2 罐 3 個網球等於 6 個，5 + 6 = 11”“食堂原來有 23 個蘋果，用 20 個做午餐，23-20=3；又買了 6 個蘋果，3+6=9”。思維鏈提示給出了正確答案，而直接報答案的傳統提示學習，給出的答案就是錯的，連小學程度的加減法都做不好。簡單來説，語言模型很難將所有的語義直接轉化為一個方程，因為這是一個更加複雜的思考過程，但可以通過中間步驟，來更好地推理問題的每個部分。思維鏈提示，就是把一個多步驟推理問題，分解成很多箇中間步驟，分配給更多的計算量，生成更多的 token，再把這些答案拼接在一起進行求解。 <img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/4f62c82a079464d54802722ab265b090_1682697437.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="714" height="162" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/4f62c82a079464d54802722ab265b090_1682697437.png"/>再舉個例子，大家都特別希望有一個全能家政機器人，但目前的機器人看起來都挺傻的，只能執行一些很簡單的開關燈指令。如果用户問：“我把可樂灑在桌子上了，你能把它扔掉，然後拿點東西來幫我清理嗎？”機器人該怎麼辦呢？這時候有思維鏈的語言模型，會分析問題：用户把可樂灑在桌子上了。我會把它扔掉，然後給用户一塊海綿。拆解步驟：找 (可樂)，揀 (可樂)，找 (垃圾)，扔 (可樂)，找 (海綿)，揀 (海綿)，找 (桌子)，放 (海綿)。總的來説，思維鏈就相當於讓大語言模型做 “因式分解”，把一個複雜的推理問題進行拆解，逐步解決，自然也就更容易得到高質量的答案了。<h2>一個打破僵局的靈</h2>你可能會問，大語言模型 “智能湧現”，思維鏈是必須的嗎？目前階段，確實。因為，預訓練的大語言模型參數規模巨大，很容易被不相關的上下文分散注意力，影響性能表現，相當於學生上課走神了，被老師叫起來回答問題只能胡言亂語。這時候就需要提示學習（Prompt Learning）來進行微調，相當於旁邊有人給提了個醒，更好地完成下游任務。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/9ba2c8cc26cfbd73422acb10087ab62e_1682697438.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="480" height="351" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/9ba2c8cc26cfbd73422acb10087ab62e_1682697438.png"/>但離散式的硬提示（Discrete Prompt），需要人為設計提示詞 prompt，而人類覺得不錯的提示詞，語言模型卻不一定覺得好，最後還是回答的一塌糊塗，而且，離散的 token 作為提示詞，優化難度也特別大。所以，連續化的軟提示（Continuous Prompt），限制了模型參數不被調整，直接優化低維向量，這樣就可以用較小的微調來提升模型性能。這個方法省事兒，效果也不錯，但一直走這條路還是沒辦法讓語言模型搞懂邏輯推理。思維鏈的提出，用的是離散式的 token，又能自動構建問題、推理步驟和樣例，這就解決了離散提示人工設計難的問題，而且還能讓語言模型擁有可解釋性。所以説，思維鏈 promoting，可以算是打破了大語言模型能力僵局的神來之筆。有時候技術的突破靠的就是一個靈感，而造就這個靈感的人才機制、創新環境、組織模式等，卻需要漫長的時間去培育。<h2>一些待解的問題</h2>説了這麼多，是不是有了思維鏈，大語言模型就所向披靡了呢？照這麼發展下去，真能媲美人類的能力了？大可不必擔心，思維鏈本身還是有很多侷限的，而它的侷限也是大語言模型的侷限。首先，思維鏈必須在模型規模足夠大時才能湧現。在 Jason Wei 等的研究中，PaLM 在擴展到 540B 參數時，與思維鏈提示結合，才表現出了先進的性能。一些小規模模型，思維鏈並沒有太大的影響，能力提升也不會很大。谷歌大腦的研究人員認為，策略問題需要大量的世界知識，而小型模型沒有足夠的參數來記憶這些世界知識，所以也不太可能產生正確的推理步驟。但問題是，能落地到產業的模型，規模必然不會太大，思維鏈拆解了更多的步驟、用到更多的計算資源，相當於更加耗費腦力，很多研究機構和企業是負擔不起 175B 參數以上的大模型。所以思維鏈必須要探索，如何在較小的模型中進行推理，降低實際應用的成本。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/433ba162c85148ffdbc2137cea3819bd_1682697438.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="549" height="228" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/433ba162c85148ffdbc2137cea3819bd_1682697438.png"/>（62B 比 540B 的語言模型更容易出錯）其次，思維鏈的應用領域是有限的。目前，思維鏈只是在一些有限的領域，比如數學問題，五個常識推理基準（CommonsenseQA，StrategyQA，Date Understanding 和 Sports Understanding 以及 SayCan）上顯現出作用，其他類型的任務，像是機器翻譯，性能提升效果還有待評估。而且，相關研究用到的模型（GPT-3 API）或數據集，都是半公開或不公開的，這就使其難以被複現和驗證。嚴謹來看，思維鏈的效果還需要被進一步探索，才能下定論。<img src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/350fcbe5db96f6da1778684354470683_1682697438.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="301" height="234" original-src="https://imageproxy.pbkrs.com/https://images.tmtpost.com/uploads/images/2023/04/350fcbe5db96f6da1778684354470683_1682697438.png"/>此外，即使有思維鏈提示，大語言模型依然不能解決小學水平的數學問題。沒有思維鏈，數學推理是指定不行。但有了思維鏈，大語言模型也可能出現錯誤推理，尤其是非常簡單的計算錯誤。Jason Wei 等的論文中，曾展示過在 GSM8K 的一個子集中，大語言模型出現了 8% 的計算錯誤，比如 6 * 13 = 68（正確答案是 78）。這説明，即使有了思維鏈，大語言模型還是沒有真正理解數學邏輯，不知道加減乘除的真實意義，只是通過更精細的疊加來 “照葫蘆畫瓢”，所以，對於有精確要求的任務，還要進一步探索新的技術。思維鏈確實增強了大語言模型的能力，但邏輯推理仍然是大語言模型的弱項，等待着更多突破。<h2>One more thing</h2>通過思維鏈，我們可以看到大語言模型為什麼強，也為什麼弱。它強在，模型規模的提高，讓語義理解、符號映射、連貫文本生成等能力躍升，從而讓多步驟推理的思維鏈成為可能，帶來 “智能湧現”。它弱在，即使大語言模型表現出了前所未有的能力，但思維鏈暴露了它，依然是鸚鵡學舌，而非真的產生了意識。認知心理學教授斯坦尼斯拉斯·迪昂（Stanislas Dehaene）在《精準學習》中提出，緩慢地、理智地、符號化地運作，是人腦的特權。它可以在任何可能的時候，提取具有普遍性、邏輯性的、明確的原則。五六歲的兒童學會了較小數字的加法，就可以理解其含義，用到更大的數字的加法中，而目前最強大的大語言模型，還連 “加法” 這個簡單的抽象定律都理解不了。這麼説，並不是讓大家小看 AI 的能力，而是想説明，人腦和 AI，各有所長。大語言模型，正如科幻作家特德·姜所説，是網上所有文本的模糊圖像，一張有損壓縮的 JPEG，但它可以用遠超人腦的算力和數據，極其高產地做好文本生成、圖像生成這樣的模糊任務。而人腦更擅長精確的、邏輯性的任務，就像特德·姜説的：“當你還有原始圖片的時候，一張模糊的 JPEG 到底有多大用處呢？”智能時代的生存策略，就是不要以己之短，硬碰 AI 之長。而是用 AI 之長，讓自己的長板變得更長；用人腦的精確，讓 AI 生成的模糊答案變得更高質量；用好思維鏈提示，讓 LLM 生成時事半功倍。《哈利波特》電影中，有一個 “有求必應屋”，裏面全是人所需要的東西，海倫娜形容它：<img id="edit_6510950" src="https://imageproxy.pbkrs.com/http://images.tmtpost.com/uploads/images/2016/12/2r4t3hrn3.jpg?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/http://images.tmtpost.com/uploads/images/2016/12/2r4t3hrn3.jpg"/>If you have to ask, you'll never know. If you know, you need only ask.如果你還需要問，就永遠不會明白；如果你明白，你只需要開口問。有問必答的 AI 時代，是智者的天堂，也是愚者的地獄。永遠不要讓 AI 代替你思考。更多精彩內容，關注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體 App

天靈靈地靈靈，大模型快 “顯靈”。

大模型 “湧現” 的思維鏈，究竟是一種什麼能力？