Is OpenAI falling apart as it plans to transition into a for-profit enterprise?

華爾街見聞
2024.09.28 02:36
portai
I'm PortAI, I can summarize articles.

OpenAI 最初的使命是為公眾利益開發 AI,而這與推出營利性產品的新舉措產生了矛盾。今年 OpenAI 的的核心科學家 Ilya Sutskever、John Schulman、Jan Leike 的離職,也都與公司的經營理念的變化息息相關。

創始團隊出走殆盡,OpenAI 正在變得分崩離析?

9 月 25 日週三晚上,OpenAI 首席技術官 Mira Murati 辭職,隨後首席研究官 Bob McGrew 和副總裁 Barret Zoph 也相繼離職。

9 月 27 日週五,《華爾街日報》報道,“OpenAI 計劃轉為營利性企業” 的這一事件正在讓公司變得四分五裂——OpenAI 最初的使命是為公眾利益開發 AI,這一使命與推出營利性產品的新舉措產生了矛盾。對於 OpenAI 來説,這無疑將是一個巨大的轉變。2015 年成立之際,OpenAI 在一份聲明裏明確了公司的願景:目標是開發 AI 技術以 “造福全人類,不受財務回報需求的限制”。

今年,OpenAI 的的核心科學家 Ilya Sutskever、John Schulman、Jan Leike 的離職,也都與公司的經營理念的變化有關。

於此同時,高管爭地盤、工作倦怠、核心員工索要更高薪酬,都進一步打擊了 OpenAI。

OpenAI 即將變為商業公司,內部理念衝突激烈

自去年 11 月 Altman 重新擔任 OpenAI CEO 後,OpenAI 逐漸演變為一家更正常的商業公司——公司員工從去年 11 月的 770 人增加到目前的 1700 人;公司在今年任命了首席財務官和首席產品官;具有企業和軍方背景的人士加入了公司董事會……OpenAI 還越來越專注於擴大其產品線,一些長期員工表示,這使得其研究重點受到影響。

一些員工認為,鑑於開發和運營 AI 模型需要數十億美元的成本,這樣的發展趨勢具有財務可行性。AI 需要走出實驗室,走向現實世界以改變人們的生活。

但是,一些在公司工作多年的 AI 科學家認為,資金注入和鉅額利潤前景已經腐蝕了 OpenAI 的文化。

幾乎所有員工都同意,造福公眾為導向的研究和快速發展的商業業務,集中在同一組織內,這使 OpenAI 發展地很痛苦。早期 OpenAI 員工、現任 AI 初創公司 Cresta 首席技術官的 Tim Shi 表示:

“同時做到這兩點很難,以產品為先的文化與科學研究文化截然不同,你必須吸引不同類型的人才,也許你正在建立一種不同類型的公司。”

創始團隊出走殆盡

今年 5 月,OpenAI 的聯合創始人、最受尊敬的科學家 Ilya Sutskever 離職,與他共同領導安全團隊的 Jan Leike 緊隨其後辭職,加盟競爭對手 Anthropic。OpenAI 高層擔心他們的離職可能引發更大規模的出走,努力促使 Sutskever 迴歸。

Sutskever 向前 OpenAI 同事表示他在認真考慮迴歸,但不久後,Brockman 打電話告知 Sutskever,OpenAI 撤回了讓他迴歸的邀請,因為內部高管在確定 Sutskever 的新角色以及他如何與其他研究人員合作時遇到了麻煩。

不久後,Sutskever 創立了一家新公司,專注於開發最先進的 AI,不再分心於發佈產品。這家名為安全超級智能的公司已籌集了 10 億美元。

5 月 17 日,Leike 在 X 上發文表示:

“我與 OpenAI 領導層在公司核心優先事項上存在分歧已久,我們終於達到了一個臨界點……在過去的幾年裏,安全文化和流程被閃亮的產品所掩蓋。”

今年春季,OpenAI 開發了新模型 GPT-4o,研究人員被要求進行比最初計劃更全面的安全測試,但只給了九天的時間——高管希望在谷歌年度開發者大會之前推出 4o,以吸引對手的關注。安全部門的工作人員每天工作 20 小時,沒有時間核對自己的工作。

基於不完整數據的初步結果顯示,GPT-4o 足夠安全,可以部署。但在模型推出後,熟悉該項目的人士表示,後續分析發現該模型在説服力方面超過了 OpenAI 的內部標準——説服力被定義為創造能夠説服人們改變信念,並參與潛在危險或非法行為的內容的能力。

安全團隊向 OpenAI 高管提出了這個問題,並致力於解決。但一些員工對這一過程感到沮喪,他們認為如果公司能多花些時間進行安全測試,完全可以在問題到達用户之前就被解決。

聯合創始人兼頂尖科學家 John Schulman 告訴同事,他對 OpenAI 內部的衝突感到沮喪,對未能成功吸引 Sutskever 迴歸也感到失望,對公司最初使命的重要性日益降低感到擔憂。8 月,Schulman 離職,加盟 Anthropic。

週三,首席技術官 Murati 在 X 發帖宣佈辭職,信中稱她離開 OpenAI 是因為希望騰出時間和空間做自己的研究。隨後首席研究官 Bob McGrew 和副總裁 Barret Zoph 也相繼離職。Murati 宣佈離職後不久,OpenAI 就爆出了向營利公司轉型的消息。

至此,OpenAI 創始團隊的 11 位高層,只剩下兩人還留在公司。

高管爭地盤、工作倦怠、核心員工索要更高薪酬

去年秋天,OpenAI 的董事會成員受夠了 CEO Altman 的管理風格,如挑撥其他領導人相互對抗。這些董事會成員擔心,如果不加以控制,可能會損害 OpenAI 留住關鍵研究人員和高管的能力。

9 月 25 日週三,Altman 在給員工的備忘錄中表示,他將更多地參與公司 “技術和產品部分”,而非之前主要關注的 “非技術” 方面,例如籌款、政府關係、與微軟等公司的商業夥伴關係。Altman 表示,公司的技術負責人之前向 Murati 和 McGrew 彙報,現在將向 Altman 彙報。

“我當然不會假裝這次突然的領導層變動是理所當然的,但我們不是一家普通公司。”

於此同時,OpenAI 的許多員工抱怨工作壓力大,他們應當得到補償。他們抱怨公司優先考慮產品交付,而不是其最初的使命——構建安全的人工智能系統。

幾名員工表示,Altman 正在敦促公司團隊儘快將突破性成果轉化為公共產品,這給公司帶來了壓力,因為員工們為了在短時間內推出產品,不得不在晚上和週末加班。與 Murati 和 McGrew 等領導者共事的員工也表示,這些壓力讓他們不堪重負。