Ex-OpenAI workers ask California and Delaware AGs to block for-profit conversion of ChatGPT maker

前 OpenAI 員工正在請求加利福尼亞州和特拉華州的最高執法官員阻止該公司將其人工智能技術的控制權從非營利慈善機構轉移到營利性企業。

他們擔心，如果 ChatGPT 的製造商實現其構建超越人類的人工智能的雄心，但不再對其公共使命負責以保護該技術不造成嚴重傷害，會發生什麼。

“最終，我擔心的是一旦技術被創造出來，誰擁有和控制這項技術，” 前 OpenAI 政策與倫理顧問 Page Hedley 在接受美聯社採訪時表示。

在三位諾貝爾獎得主及其他倡導者和專家的支持下，Hedley 和其他九位前 OpenAI 員工本週向兩位州檢察長髮送了一封信。

該聯盟請求加利福尼亞州檢察長 Rob Bonta 和特拉華州檢察長 Kathy Jennings（均為民主黨人）利用他們的權力保護 OpenAI 的慈善目的，並阻止其計劃中的重組。OpenAI 在特拉華州註冊，並在舊金山運營。

OpenAI 對此回應稱，“對我們現有結構的任何更改都將旨在確保更廣泛的公眾能夠從人工智能中受益。” 它表示，其營利性公司將是一家公共利益公司，類似於其他人工智能實驗室，如 Anthropic 和科技億萬富翁 Elon Musk 的 xAI，除了 OpenAI 仍將保留一個非營利部門。

“這種結構將繼續確保，隨着營利性公司的成功和增長，非營利性公司也會隨之發展，使我們能夠實現使命，” 該公司在一份聲明中表示。

這封信是本月第二次向州官員提出的請願。上一次來自一羣工會領導人和專注於保護 OpenAI 數十億美元慈善資產的非營利組織。

Jennings 去年秋天表示，她將 “審查任何此類交易，以確保公眾利益得到充分保護。” Bonta 的辦公室去年底向 OpenAI 尋求更多信息，但表示無法評論，甚至無法確認或否認是否正在調查。

OpenAI 的聯合創始人，包括現任首席執行官 Sam Altman 和 Musk，最初將其作為一個非營利研究實驗室創立，旨在安全地構建被稱為人工通用智能（AGI）的技術，以造福人類。近十年後，OpenAI 報告其市場價值為 3000 億美元，並擁有 4 億每週使用 ChatGPT 的用户，這是其旗艦產品。

OpenAI 已經擁有一家營利性子公司，但在轉換其核心治理結構方面面臨許多挑戰。其中之一是來自 Musk 的訴訟，他指控該公司和 Altman 背叛了導致特斯拉首席執行官投資慈善機構的創始原則。

雖然本週信件的一些簽署者支持 Musk 的訴訟，但 Hedley 表示其他人 “可以理解地持懷疑態度”，因為 Musk 也經營着自己的競爭對手 AI 公司。

簽署者包括兩位諾貝爾經濟學獎得主 Oliver Hart 和 Joseph Stiglitz，以及人工智能先驅和計算機科學家 Geoffrey Hinton（去年獲得諾貝爾物理學獎）和 Stuart Russell。

“我喜歡 OpenAI 的使命，即 ‘確保人工通用智能造福全人類’，我希望他們能夠執行這一使命，而不是讓投資者獲利，” Hinton 在週三的一份聲明中表示。“我很高興有一個努力來讓 OpenAI 遵循其使命，而不涉及 Elon Musk。”

關於 OpenAI 目的的衝突在舊金山的研究所長期存在，導致 Musk 在 2018 年辭職，Altman 在 2023 年短暫被罷免以及其他高管的離職。

Hedley 是一名受過法律訓練的律師，曾在 2017 年和 2018 年為 OpenAI 工作，那時非營利組織仍在探索最佳方式來管理其希望構建的技術。直到 2023 年，Altman 仍表示先進的人工智能充滿希望，但也警告存在極大的風險，從嚴重事故到社會動盪。

然而，近年來，Hedley 表示他擔心地看到 OpenAI 在 ChatGPT 成功的推動下，越來越多地在安全測試上打折扣，並急於推出新產品以超越商業競爭對手。

“這些決策的成本將隨着技術變得更強大而繼續上升，” 他説。“我認為在 OpenAI 想要的新結構中，急於做出這些決策的激勵將會增加，而將不會再有任何人真正能夠告訴他們不這樣做，告訴他們這不可以。”

軟件工程師 Anish Tondwalkar，前 OpenAI 技術團隊成員，表示 OpenAI 非營利章程中的一個重要保證是 “停止並協助條款”，該條款指示 OpenAI 在另一個組織接近實現超越人類的人工智能時停止並提供幫助。

“如果 OpenAI 被允許成為營利性公司，這些保障措施以及 OpenAI 對公眾的責任可能會在一夜之間消失，” Tondwalkar 在週三的一份聲明中表示。

另一位簽署信件的前員工更直白地表達了這一觀點。

“OpenAI 可能有一天會構建出可能讓我們所有人都面臨危險的技術，” 前 OpenAI AI 工程師 Nisan Stiennon（2018 年至 2020 年在職）表示。“OpenAI 的控制權由一個對人類有責任的非營利組織掌控，這是 OpenAI 的功勞。這種責任排除了放棄這種控制。”

\\\_

美聯社與 OpenAI 之間有一項許可和技術協議，允許 OpenAI 訪問 AP 的部分文本檔案。

你現在應該投資$1,000 在哪裏？

在你進行下一筆交易之前，你會想聽聽這個。

MarketBeat 每天跟蹤華爾街頂級評級和表現最佳的研究分析師及其推薦給客户的股票。

我們的團隊已經確定了五隻頂級分析師正在悄悄向客户推薦的股票，建議在更廣泛的市場注意到之前購買……而且沒有任何大牌股票在名單上。

他們認為這五隻股票是投資者現在最值得購買的五家公司...

在這裏查看這五隻股票