Microsoft AI executives promise: If superintelligence threatens humanity, development will cease

美東時間 11 日週四，曾參與創立 DeepMind 的微軟消費人工智能（AI）主管 Mustafa Suleyman 承諾，若超級智能對人類構成威脅，將立即停止相關開發工作。

Suleyman 目前致力於打造 “與人類利益相符” 的超級智能系統。他在週四的媒體採訪中説：“我們不會繼續開發有可能失控的系統。” 他認為這本應是行業共識，"但我認為這在目前的行業中算是一個新穎的立場。"

這一表態正值微軟加速自主 AI 開發之際。去年 10 月的一項協議重塑了微軟與 OpenAI 的關係，使微軟獲得了此前受限的開發權。Suleyman 於 11 月宣佈成立 MAI 超級智能團隊，明確將構建"僅為服務人類而設計"的實用技術。

Suleyman 的承諾凸顯了科技巨頭在追逐 AI 突破時面臨的倫理考量。雖然 OpenAI、Anthropic 等競爭對手也聲稱有類似的目標，但 Suleyman 認為微軟的立場是獨特的。

微軟在 AI 戰略上的轉折源於與 OpenAI 關係的調整。此前，微軟因合同條款限制無法開發通用人工智能（AGI）或超級智能。前者指能力與人類相當的系統，後者則超越人類能力。

Suleyman 解釋稱，微軟此前實質上放棄了這些開發權，以換取使用 OpenAI 最新產品的權限，並在多年間為 OpenAI 建設和配備數據中心。"他們現在與軟銀和 Oracle 等許多公司簽訂了協議，建造的數據中心數量超過了微軟願意為他們建造的，"Suleyman 表示，"作為回報，我們現在有權開發自己的 AI。"

這一轉變對微軟意義重大。他説：” 過去 18 個月我們一直是 AGI 開發機構，但現在我們可以研究一些有潛力在所有任務上超越人類表現的技術和方法。這對我們來説確實是一個轉變。“

Suleyman 於 11 月在博客文章中宣佈成立 MAI 超級智能團隊，並親自領導該項目。該團隊將專注於醫療診斷、教育等領域的實際問題，而非"不明確且空靈的超級智能"。

該團隊首個目標是開發在醫療診斷等特定領域能力遠超人類的 AI。Suleyman 在博客中寫道：“我們將在全方位診斷方面實現專家級表現，同時在臨牀運營環境中具備高度的規劃和預測能力。"

這一舉措呼應了 Meta 等競爭對手的類似努力，但也引發了業界對技術突破能力的質疑。Suleyman 強調微軟"不會不惜一切代價、不設限制地構建超級智能"，回應了投資者對 AI 支出回報路徑的日益擔憂。

儘管暢談超級智能願景，Suleyman 坦承當前技術仍在發展中。類似 ChatGPT 的 AI 系統雖已能以十年前電腦無法實現的方式與人類互動，但距離滿足消費者和企業期望仍有差距。

微軟 Copilot 消費助手的智能代理功能"並非總是準確"，仍在開發階段。"我們還在試驗，"Suleyman 表示，"但當它真正奏效時，那是你見過的最神奇的事情。"

Suleyman 去年初加入微軟，此前微軟收購了他創立的 Inflection AI 的知識產權和大部分員工。微軟此後還開始使用谷歌和 Anthropic 的模型，持續降低對 OpenAI 的依賴。目前微軟持有 OpenAI 重組後的 1350 億美元股權。