馬斯克們的擔憂並非空穴來風？大型科技公司裁減了 AI 倫理團隊

大型科技公司一直在裁減致力於評估部署 AI 相關倫理問題的團隊員工，這使人們對這項新技術的安全性更加擔憂。

近日，據媒體報道，微軟、Meta、谷歌、亞馬遜和推特等公司都裁減了其 “負責任的人工智能團隊”（Responsible AI）的成員，這些團隊負責為使用 AI 的消費產品提供安全建議。

被裁減的員工大概有幾十人，在因整個科技行業低迷而被裁掉的數萬名員工中，這只是冰山一角。但是在 AI 高速發展的當下，這麼多相關員工被解僱依然令業內人士感到震驚和不解。

這些公司表示，他們將繼續致力於推出安全的 AI 產品。但專家認為，裁員仍令人擔憂，因為就在全球開始測試大型 AI 工具之際，對這項技術的潛在濫用也在漸漸暴露出來。隨着 OpenAI 推出的聊天機器人 ChatGPT 在全球大熱，他們的擔憂也越來越強烈。

Alphabet 旗下 DeepMind 的前倫理和政策研究員、研究機構 Ada Lovelace Institute 副主任 Andrew Strait 向媒體表示：

令人震驚的是，在比以往任何時候都需要這樣的團隊的時候，有這麼多相關員工被解僱。

微軟、推特、亞馬遜等公司相繼行動

今年 1 月，在微軟的萬人級別大裁員行動中，該公司解散了其所有的倫理道德與社會團隊。微軟表示，此次裁員不到 10 個人，仍有數百人在 AI 辦公室工作。

微軟首席負責人工智能官 Natasha Crampton 稱：

我們已經大大增加了我們負責的 AI 工作，並努力在全公司範圍內將其制度化。

在馬斯克的領導下，推特裁掉了超過一半的員工，其中包括一個小型的道德 AI 團隊。該團隊過去的工作包括修正推特算法中的偏差，例如該算法在選擇裁剪社交網絡上的圖像時似乎更傾向於留下白人的面孔。

據媒體援引知情人士透露，亞馬遜旗下的流媒體平台 Twitch 上週也裁減了其道德 AI 團隊，要求所有從事 AI 產品開發的團隊都要對與 AI 偏見相關的問題負責。

今年 9 月，Meta 解散了其創新團隊，該團隊由約 20 名工程師和倫理學家組成，負責評估 Instagram 和 Facebook 上的公民權利和道德規範。Facebook 前 AI 倫理研究員 Josh Simons 向媒體表示：

AI 團隊是大型科技公司唯一的內部堡壘，必須確保構建 AI 系統的工程師考慮到受 AI 系統影響的人和社區。

它們被廢除的速度讓大型科技公司的算法受制於廣告需求，損害了兒童、弱勢羣體和我們民主的福祉。

另據知情人士透露，作為 Alphabet 整體裁員計劃的一部分，谷歌一些負責 AI 道德監管的員工也被解僱了。谷歌沒有具體説明有多少員工被削減，但表示 AI 仍是公司的首要任務，“我們將繼續投資於這些團隊”。

此前，谷歌內部已經出現過關於 AI 技術的發展、影響和安全性之間的緊張關係。兩位 AI 倫理研究負責人 Timnit Gebru 和 Margaret Mitchell 在與該公司爆發了一場激烈爭吵後，分別於 2020 年和 2021 年離職。

Strait 表示：

當負責任的人工智能實踐在競爭或推動市場時，卻被排除在外，這是有問題的。

而不幸的是，我現在看到的正是這種情況。

邪惡的 AI？

一個重要擔憂是，ChatGPT 等聊天機器人的大型語言模型會 “創造幻覺”，即它們會做出虛假陳述並將其包裝成事實，可用於傳播虛假信息和考試作弊等目的。另外，AI 自身潛在的高速進化也讓企業家和科學家們 “警鈴大作”。

華爾街見聞此前提及，3 月 22 日，生命未來研究所向全社會發布了一封《暫停大型人工智能研究》的公開信，呼籲所有人工智能實驗室立即暫停比 GPT-4 更強大的人工智能系統的訓練，暫停時間至少為 6 個月。

而截止目前，圖靈獎得主 Yoshua Bengio、馬斯克、蘋果聯合創始人 Steve Wozniak、Stability AI 創始人 Emad Mostaque 等上千名科技大佬和 AI 專家已經簽署公開信。

倫敦國王學院 AI 研究所主任 Michael Luck 向媒體表示：

我們開始看到的是，我們無法完全預測這些新技術將會發生的所有事情，關鍵是我們要對它們給予一定的關注。

AI 內部倫理團隊的角色也受到了審查，因為有議論稱，人類對算法的任何干預是否應該增加透明度，聽取公眾和監管機構的意見。

2020 年，Meta 旗下的 Instagram 成立了一個團隊 “IG Equity”，以解決其平台上的算法正義問題。該團隊希望對 Instagram 的算法進行調整，以加強對種族的討論，突出邊緣化人羣的形象。

Simons 認為，相關工程師們能夠干預並改變這些制度和偏見，並探索能夠促進公平的技術干預措施，但他們不應該決定社會應該如何被塑造。