Anthropic 創始人撰寫萬字長文：人工智能如何讓世界變得更美好？

編者按：日前，Anthropic 首席執行官兼聯合創始人 Dario Amodei 在其個人網站公佈了最近撰寫的一篇萬字長文《慈悲機器—人工智能如何讓世界變得更美好》。

在文章中，他提出了強力 AI (powerful AI ，Dario 説自己不喜歡 AGI 這個詞)、“智能的邊際收益” 等概念，並預計強力 AI 系統最早可能在 2026 年出現。

Dario Amodei 在文中對強力 AI 系統未來 5-10 年的潛在積極影響進行了展望，並詳細闡述了強力 AI 對五個具體領域——生物學和健康、神經學科和心理、經濟發展和消除貧困、和平與治理、工作和人類意義的積極影響。

前言：

作者首先闡述了其對強力 AI 持樂觀態度的原因，並解釋了為何之前較少談論 AI 的積極面。他認為，關注 AI 風險是為了更好地實現 AI 的積極未來。

基本假設和框架：

作者明確了 “強力 AI” 的定義，並提出了一個思考強力 AI 影響的框架：

強力 AI 的定義：作者將強力 AI 定義為一種類似於當前大型語言模型的 AI 系統，其智能水平超越諾貝爾獎獲得者，擁有與人類相當的虛擬交互能力，並能夠自主完成複雜任務。他預計這種 AI 系統最早可能在 2026 年出現。

分析框架：作者提出了 “智能的邊際收益” 的概念，類似於經濟學中的 “生產要素”。他認為，在 AI 時代，我們需要分析智能在解決不同任務時的邊際收益，以及其他與智能互補的限制性因素。作者列舉了五個可能限制智能發揮作用的因素：外部世界的速度、數據需求、內在複雜性、人類的限制和物理定律。

強力 AI 對五個領域的積極影響：

基於上述框架，作者對強力 AI 在未來 5-10 年內對五個領域的積極影響進行了預測，並詳細闡述了每個領域的具體影響和實現路徑。

1. 生物學和健康：

核心觀點：AI 驅動的生物學和醫學研究將使我們在 5-10 年內實現相當於 50-100 年的人類科學家才能取得的進展。

實現路徑：AI 將通過加速重大發現的速度（例如 CRISPR、顯微鏡、基因測序等）和扮演 “虛擬生物學家” 的角色（設計實驗、發明新方法等）， 以及提升臨牀試驗的效率來實現這一目標。

具體影響：

• 可靠地預防和治療幾乎所有自然傳染病；
• 消除大多數癌症；
• 有效預防和治癒遺傳病；
• 預防阿爾茨海默病；
• 改善大多數其他疾病的治療；
• 實現 “生物自由”（例如控制體重、外貌等）；
• 將人類壽命延長一倍。

2. 神經科學和心理：

核心觀點：AI 驅動的腦科學研究將幫助我們治癒大多數精神疾病，並提升人類的認知和情感能力。

實現路徑：AI 將通過以下四種途徑加速腦科學研究：

• 傳統的分子生物學、化學和遺傳學；
• 精細的神經測量和干預；
• 先進的計算神經科學；
• 行為干預。

具體影響：

• 治癒大多數精神疾病（例如 PTSD、抑鬱症、精神分裂症等）；
• 通過基因篩查預防精神疾病；
• 解決日常生活中常見的心理問題（例如 憤怒、注意力不集中、焦慮等）；
• 提升人類的基本體驗（例如 創造力、同情心、幸福感等）。

3. 經濟發展與消除貧困：

核心觀點：AI 可以幫助發展中國家趕上發達國家的經濟水平，並縮小全球範圍內的貧富差距。

實現路徑：

• 推廣醫療衞生干預措施；
• 促進經濟增長；
• 確保糧食安全；
• 減緩氣候變化；
• 解決國家內部的不平等問題；
• 克服人們對 AI 的牴觸情緒。

具體影響：

• 將 AI 驅動的醫療衞生進步推廣到發展中國家；
• 幫助發展中國家實現前所未有的經濟增長速度；
• 通過提高農業生產效率和供應鏈效率保障糧食安全；
• 通過開發清潔能源技術和減少碳排放減緩氣候變化；
• 確保每個人都能公平地獲得 AI 技術帶來的益處。

4. 和平與治理：

核心觀點：AI 可以幫助維護世界和平，促進民主發展，並改善民主制度。

• 實現路徑：（略……）
• 具體影響：（略……）

5. 工作和意義：

核心觀點：即使 AI 能夠取代大部分人類工作，人類仍然可以找到生活的意義，並通過新的經濟模式獲得生存保障。

實現路徑：

• 人類可以通過比較優勢和互補性繼續在 AI 時代發揮作用；
• 人類可以從人際關係、自我提升和創造性活動中獲得意義；
• 社會需要探索新的經濟模式，例如全民基本收入、AI 驅動的資源分配機制等。

具體影響：

• AI 時代的人類工作將更加註重創造性、策略性和人際交往能力；
• 人類將有更多的時間和資源去追求個人興趣和自我實現；
• 新的經濟模式將保障每個人的基本生活需求，並鼓勵人們為社會做出貢獻。

總結

作者對 AI 的未來充滿希望，他認為 AI 有潛力創造一個更加健康、富裕、和平、公正和有意義的世界。但他同時也強調，實現 AI 的積極未來需要全人類的共同努力，而文化價值觀是一個獲勝的策略，因為它是由無數具有明確道德力量的小決策構成的，這些決策傾向於將所有人拉到同一陣營。

本文作者：記錄 AI 技術與商業，來源：智能超參數，原文標題：《Anthropic 創始人撰寫萬字長文：人工智能如何讓世界變得更美好？》