OpenAI 创始人领衔，超过 350 位 AI 大佬联名呼吁：AI 堪比 “疫情和核战争”，可能灭绝人类

AI 风头正盛，科技圈再次流出了一封重磅公开信。

当地时间 5 月 30 日，非营利组织 “人工智能安全中心”（Center for AI Safety）在其官网发布一封联名公开信，称这一堪比 “疫情和核战争” 的技术或对人类构成生存威胁。

整个声明只有一句话，22 个单词：

减轻 AI（给人类）带来的灭绝风险应成为全球性的优先事项，与大流行病及核战争等其他影响社会的大规模风险处于同等级别。

目前已有 350 位 AI 大佬签署了这封联名公开信，包括 OpenAI 首席执行官 Sam Altman、谷歌 DeepMind 首席执行官 Demis Hassabis 和 Anthropic 首席执行官 Dario Amode 三大 AI 公司掌门人。

值得一提的是，图灵奖获得者、被誉为人工智能 “教父” 的 Geoffrey Hinton 和 Yoshua Bengio 也赫然在列。名单里也不乏中国学者的身影，包括中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅，清华大学副教授詹仙园。

其他签署人还包括微软首席技术官 Kevin Scott，前联合国裁军事务高级代表 Angela Kane，Skype 联合创始人 Jaan Tallinn，Quora 首席执行官 Adam D'Angelo。

他们表示，虽然公众一直在承认人工智能的风险，但还有更多挑战需要讨论。他们还想 “为越来越多的专家和公众人物创造共同知识，他们也认真对待先进人工智能领域存在的一些最严重的风险”。

自去年 ChatGPT 发布以来，科技行业掀起了一场竞争激烈的 AI 竞赛，同时也引发公众对于这项未知技术的恐惧。

今年 3 月份，Bengio、马斯克、苹果联合创始人 Steve Wozniak、Stability AI 创始人 Emad Mostaque 等科技大佬发表联名公开信，呼吁暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。

信中提到：

我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发。

拜登政府近几个月表示，人工智能对公共安全、隐私和民主构成威胁，但政府对其监管的权力有限。微软创始人比尔·盖茨曾表示，他认为人工智能应该受到适当监管，但对这项技术表示兴奋，他没有签署周二的联名信。