Anthropic 创始人撰写万字长文：人工智能如何让世界变得更美好？

编者按：日前，Anthropic 首席执行官兼联合创始人 Dario Amodei 在其个人网站公布了最近撰写的一篇万字长文《慈悲机器—人工智能如何让世界变得更美好》。

在文章中，他提出了强力 AI (powerful AI ，Dario 说自己不喜欢 AGI 这个词)、“智能的边际收益” 等概念，并预计强力 AI 系统最早可能在 2026 年出现。

Dario Amodei 在文中对强力 AI 系统未来 5-10 年的潜在积极影响进行了展望，并详细阐述了强力 AI 对五个具体领域——生物学和健康、神经学科和心理、经济发展和消除贫困、和平与治理、工作和人类意义的积极影响。

前言：

作者首先阐述了其对强力 AI 持乐观态度的原因，并解释了为何之前较少谈论 AI 的积极面。他认为，关注 AI 风险是为了更好地实现 AI 的积极未来。

基本假设和框架：

作者明确了 “强力 AI” 的定义，并提出了一个思考强力 AI 影响的框架：

强力 AI 的定义：作者将强力 AI 定义为一种类似于当前大型语言模型的 AI 系统，其智能水平超越诺贝尔奖获得者，拥有与人类相当的虚拟交互能力，并能够自主完成复杂任务。他预计这种 AI 系统最早可能在 2026 年出现。

分析框架：作者提出了 “智能的边际收益” 的概念，类似于经济学中的 “生产要素”。他认为，在 AI 时代，我们需要分析智能在解决不同任务时的边际收益，以及其他与智能互补的限制性因素。作者列举了五个可能限制智能发挥作用的因素：外部世界的速度、数据需求、内在复杂性、人类的限制和物理定律。

强力 AI 对五个领域的积极影响：

基于上述框架，作者对强力 AI 在未来 5-10 年内对五个领域的积极影响进行了预测，并详细阐述了每个领域的具体影响和实现路径。

1. 生物学和健康：

核心观点：AI 驱动的生物学和医学研究将使我们在 5-10 年内实现相当于 50-100 年的人类科学家才能取得的进展。

实现路径：AI 将通过加速重大发现的速度（例如 CRISPR、显微镜、基因测序等）和扮演 “虚拟生物学家” 的角色（设计实验、发明新方法等）， 以及提升临床试验的效率来实现这一目标。

具体影响：

• 可靠地预防和治疗几乎所有自然传染病；
• 消除大多数癌症；
• 有效预防和治愈遗传病；
• 预防阿尔茨海默病；
• 改善大多数其他疾病的治疗；
• 实现 “生物自由”（例如控制体重、外貌等）；
• 将人类寿命延长一倍。

2. 神经科学和心理：

核心观点：AI 驱动的脑科学研究将帮助我们治愈大多数精神疾病，并提升人类的认知和情感能力。

实现路径：AI 将通过以下四种途径加速脑科学研究：

• 传统的分子生物学、化学和遗传学；
• 精细的神经测量和干预；
• 先进的计算神经科学；
• 行为干预。

具体影响：

• 治愈大多数精神疾病（例如 PTSD、抑郁症、精神分裂症等）；
• 通过基因筛查预防精神疾病；
• 解决日常生活中常见的心理问题（例如 愤怒、注意力不集中、焦虑等）；
• 提升人类的基本体验（例如 创造力、同情心、幸福感等）。

3. 经济发展与消除贫困：

核心观点：AI 可以帮助发展中国家赶上发达国家的经济水平，并缩小全球范围内的贫富差距。

实现路径：

• 推广医疗卫生干预措施；
• 促进经济增长；
• 确保粮食安全；
• 减缓气候变化；
• 解决国家内部的不平等问题；
• 克服人们对 AI 的抵触情绪。

具体影响：

• 将 AI 驱动的医疗卫生进步推广到发展中国家；
• 帮助发展中国家实现前所未有的经济增长速度；
• 通过提高农业生产效率和供应链效率保障粮食安全；
• 通过开发清洁能源技术和减少碳排放减缓气候变化；
• 确保每个人都能公平地获得 AI 技术带来的益处。

4. 和平与治理：

核心观点：AI 可以帮助维护世界和平，促进民主发展，并改善民主制度。

• 实现路径：（略……）
• 具体影响：（略……）

5. 工作和意义：

核心观点：即使 AI 能够取代大部分人类工作，人类仍然可以找到生活的意义，并通过新的经济模式获得生存保障。

实现路径：

• 人类可以通过比较优势和互补性继续在 AI 时代发挥作用；
• 人类可以从人际关系、自我提升和创造性活动中获得意义；
• 社会需要探索新的经济模式，例如全民基本收入、AI 驱动的资源分配机制等。

具体影响：

• AI 时代的人类工作将更加注重创造性、策略性和人际交往能力；
• 人类将有更多的时间和资源去追求个人兴趣和自我实现；
• 新的经济模式将保障每个人的基本生活需求，并鼓励人们为社会做出贡献。

总结

作者对 AI 的未来充满希望，他认为 AI 有潜力创造一个更加健康、富裕、和平、公正和有意义的世界。但他同时也强调，实现 AI 的积极未来需要全人类的共同努力，而文化价值观是一个获胜的策略，因为它是由无数具有明确道德力量的小决策构成的，这些决策倾向于将所有人拉到同一阵营。

本文作者：记录 AI 技术与商业，来源：智能超参数，原文标题：《Anthropic 创始人撰写万字长文：人工智能如何让世界变得更美好？》