學校封殺，大廠禁用，ChatGPT 引發大面積恐慌！

12 月，ChatGPT 大紅大紫之際，就有諸多學者和研究人員發出警告：ChatGPT 很可能「殺死」大學論文。最近，紐約市教育局就正式對 ChatGPT 下了封殺令。

無獨有偶，在很多互聯網大廠，ChatGPT 也遭到了封殺。很多已經習慣向 ChatGPT 諮詢代碼問題的碼農們，原地爆哭……

大廠封殺 ChatGPT，碼農哭了

近日，一位碼農在網上發帖稱，在自己所在的大廠，辦公室 wifi 禁用了 ChatGPT。這直接把他整崩潰了。

博主表示，自己一名初級軟件工程師，而在團隊中，前輩們總是很忙，沒有時間給他解釋問題。

每當他在工作中卡住時，ChatGPT 都是他的救星。

但是昨天，當他在辦公室坐下時，忽然發現沒法訪問 ChatGPT 了！他瞬間破防。

在他的帖子下，熱心網友紛紛獻計。

比如，買一個便宜的 VPS 和域名並設置一個反向代理到 ChatGPT 官網；在瀏覽器中啓用 DoH 和 ECH；使用一個在線代理；或者在手機上通過電子郵件將輸出結果發送給自己等等。

當然，有網友對公司的這個操作表示贊同：「你司禁用 ChatGPT 是很有道理的，好好想想，如果你解決公司問題的代碼可以很輕易地被競爭對手獲得，會產生什麼後果吧。」

「不要向 ChatGPT，或者從 ChatGPT 上覆制粘貼代碼。在法律上，公司或客户的代碼並不屬於你。而且你也沒有 ChatGPT 上代碼的版權。如果你這麼做，會讓你面臨訴訟，被解僱。」

的確，已經有大廠向員工發送電子郵件稱：「ChatGPT 不是不能用，但是如果你往裏面上傳代碼，你就會面臨被解僱的風險，因為我們的代碼非常敏感。」

不過，也有網友給出了扎心回覆：「如果一個初級開發者在沒有 ChatGPT 的情況下，就無法完成工作，那麼他對公司來説，真的是可有可無。」

紐約頒佈禁令，師生全都禁用

就在 1 月 3 日，擁有全美最大公立學校系統的紐約市，正式頒佈了「ChatGPT 禁令」。

也就是説，不管是老師還是學生，都無法在紐約市公立學校的網絡和設備上使用 ChatGPT。

最近，洛杉磯和巴爾的摩的學區也加入到了這個行列。

紐約市教育局發言人 Jenna Lyle 表示，雖然 ChatGPT 可以提供快速和簡單的問題答案，但它不能培養學生批判性思維和解決問題的能力，而這些對於學術和終身成功來説至關重要。

當然，如果學校的目的是研究 ChatGPT 背後的技術，還是可以申請訪問的。

目前，ChatGPT 將對論文作弊的風險產生什麼影響還有待觀察，因為學生仍然可以在校外訪問自己的設備和網絡。

而佐治亞州的科布縣的態度，不僅沒那麼強硬，甚至還對採用 ChatGPT 頗有興趣。

該學區的一位發言人表示，「在高素質的科布縣教師手中，ChatGPT 可以成為補充學生對學術內容理解的寶貴工具，並可以幫助學生髮展批判性思維能力。」

對此，在紐約精英高中 Brooklyn Tech 任教的 Adam Stevens 也認為，禁用 ChatGPT 反而會帶來消極的影響。

畢竟在 15、20 年前，當學生可以「在網上找到答案」時，這些人也是這麼針對谷歌的。

Stevens 認為，培養學生批判性寫作技能的最好方法是「邀請他們探索值得了解的事情」，並遠離基於嚴格的評分標準的公式化寫作教學。

「當然，如果你更看重學期末的分數，那麼 ChatGPT 確實是一個威脅。」

同樣，俄勒岡州桑迪市的一名高中英語老師也有類似的看法。

Shields 老師有 25 年教齡，她認為，其實大可不必「談 ChatGPT 色變」，這款 AI 完全可以被用來幫助學生產生想法、組織思路，甚至撰寫整篇論文。

在她看來，教師們應該接受，AI 是學生可以使用的一種工具，就像每個老師都教學生如何使用搜索引擎一樣。

很多學生苦於無話可寫，此時教師可以使用 ChatGPT 向學生展示如何生成提示，來刺激他們的寫作。

Shields 老師曾讓 ChatGPT 以 7 年級生、10 年級生和大學生的風格寫同一個主題的文章，每個級別之間的句法差異程度令人震驚。因而，完全可以使用這種 AI 生成的反饋，來向學生展示如何改進他們的寫作。

ICML 發文澄清：主要為防止抄襲，不影響潤色文章

前兩天，國際機器學習會議 ICML 2023 突然宣佈：禁止使用大規模語言模型（如 ChatGPT）生成論文的內容，除非這些文本是實驗分析的一部分。

要求一經提出，便引發了眾多研究人員的不滿：拼寫檢查和文本預測基於的就是語言模型，為啥不讓我們用？

對此 ，圖靈獎得主 Yann LeCun 評論道：「大型語言模型不能用，意思是換成中型和小型語言模型就行咯？」

隨後還不忘陰陽一句：「明年的 ICML 道德準則應該變成：研究人員必須徒手完成各種計算，不能借助計算機；各類圖形必須用筆和紙手繪；從今天起，ICML 的官方語言變為瑞典語（瑞典：？）。」

由於引發的討論太過激烈，ICML 不得不單獨發一條長文來解釋這個規定。概括來説，有三個要點：

• 政策禁止完全由 LLM「生成」的文本，但這並不影響作者使用 LLM 來編輯或潤色自己寫的文本。

• 政策主要是防止使用 LLM 可能會出現的潛在問題，比如抄襲。

• 目前，政策僅適用於 ICML2023。隨着我們對 LLM 及其對科學出版的影響有了更深入的瞭解，這一政策可能會在未來的會議中發生變化。

大規模語言模型，爭議叢生

在過去的幾年裏，大規模語言模型（LLM）的發展非常迅速。最近，這一進展不僅沒有放緩，甚至還更快了。

正如大家看到的，過去幾個月發佈的 LLM，如 OpenAI 的 ChatGPT，已經能夠生成難以與人類相區分的文本片段。毫無疑問，這是自然語言處理和生成方面令人興奮的進展。

但這種快速的進展往往伴隨着意想不到的後果以及無法解答的問題。比如，由模型生成的文本和圖像是新穎的，還是現有工作的衍生品？

此外，文本片段、圖像以及其他由這些模型產生的內容，又應該歸誰所有：是生成模型的用户，還是訓練模型的開發者，抑或是製作訓練數據的內容創作者？

可以肯定的是，隨着大規模生成模型被更廣泛地應用，這些問題都將隨着時間的推移得到解答，但現在還不行。尤其是距離 ChatGPT 的發佈才過了不到 2 個月（2022 年 11 月底）。

而對於 ICML 來説，他們並沒有足夠的時間來觀察和調研 ChatGPT 將會對論文審稿和發表過程，產生何種影響。

考慮到針對這項新技術所採用的策略，會直接關係到研究人員的職業生涯。因此 ICML 表示，自己只能更加謹慎，甚至還會有些保守。

時有錯漏，但碼農依然愛不釋手

其實，雖然 ChatGPT 經常因為「犯蠢」而被嘲，但自它誕生一個多月來，很多碼農的工作習慣，確實被它改變了。

在 12 月初，ChatGPT 亮相後，碼農們發現可以用它生成代碼，立馬沸騰了。

ChatGPT 不僅可以回答任何領域的問題，而且生成的答案，有很大的概率非常精確和詳細。 比如，當你問到「How to iterate over an keys and values array in Javascript」時，它生成了很完美的答案。

錦上添花的是，ChatGPT 還能通過一個支持性的例子和解釋，告訴你這個 JavaScript 中常見問題的最佳解決方案：

甚至，還可以用它給代碼糾錯。

不過隨後，碼農們馬上發現，ChatGPT 生成的代碼，其實有不少問題。

ChatGPT 會「犯蠢」，背後原因其實很簡單——AI 的輸出，是概率性的。ChatGPT 沒有任何標記了對錯的內部記錄，它其實是一個統計模型，這個模型中，是在不同上下文中的語言組合。

而上下文的基礎，就是 GPT-3 訓練所用的整體數據集，來自 ChatGPT 的 RLHF 訓練的額外上下文，prompt 和之前的對話，以及很快就會有的反饋。

ChatGPT 的答案，本質上就是從構成 GPT-3 的互聯網數據語料庫中收集的概率結果。在 10 秒內，ChatGPT 做出了結果的最佳猜測，這個猜測很可能是正確的。

當然，也有錯誤的概率。

雖然 ChatGPT 寫代碼的能力被很多人詬病，但其實，用還是可以用的。

其實，ChatGPT 最合適的定位，應該是編碼輔助工具。在 ChatGPT 的發佈方 OpenAI 看來，ChatGPT 的重要用途之一，正是幫助程序員檢查代碼。

對於開發者而言，它就是日益豐富的工具板中的一個工具。而且，就像任何自學模型一樣，ChatGPT 也會隨着時間的推移，不斷學習，不斷自我糾正和改進。

很多時候，與其在 Stack OverFlow 上為相對簡單的問題（如何在 Flutter 中觸發 HookConsumerWidget 的重建）等待幾天，不如直接向 ChatGPT 提問。

因為在 ChatGPT 上，開發者們有很大概率，得到一個可以用於解決問題的起點——

* 參考資料：

https://www.businessinsider.com/nyc-schools-ban-chatgpt-cheating-concern-grows-2023-1

https://www.theregister.com/2023/01/06/ai_conference_nyc_ban/?td=rt-3a

https://www.reddit.com/r/ChatGPT/comments/104rp2j/my_company_blocked_chatgpt/

本文來源：新智元，原文標題：《學校封殺，大廠禁用，ChatGPT 引發大面積恐慌！》