AI 也有缺陷？人类 2016 年来首次战胜了最聪明的围棋机器人

AI 统治围棋棋盘的时代迎来了一丝变数。

据媒体报道，近日，美国围棋选手 Kellin Pelrine 击败了顶级 AI 围棋机器人。

Pelrine 与这台 AI 对弈了 15 场，其中 1 局是在计算机辅助下进行的测试局，其余 14 局没有计算机辅助。最终，Pelrine 取得 14 场全胜的辉煌战绩。

自 2016 年谷歌旗下的 AI 围棋机器人 AlphaGo 击败世界围棋冠军李世石以来，人类旗手一直在与 AI 的对决中处于下风。李世石在输给 AlphaGo 的三年后退役。他绝望地把 AlphaGo 称为 “一个无法被打败的东西”，认为属于人类棋手的时代已经结束。

但据媒体报道，被 Pelrine 打败的 AI 围棋机器人，棋力与 AlphaGo 不相上下。围棋段位远低于李世石的 Pelrine 究竟找到了什么样的致胜法宝？

靠 AI 打败 AI

实际上，Pelrine 之所以能打败 AI，靠的也是 AI。

Pelrine 背后是美国公司 FAR AI。这家公司开发了一个发掘 bug 的围棋 AI，然后让它和 AI 围棋机器人 Kata Go 下了一百多万盘棋，专门寻找可以让人类棋手利用的盲点。结果真的找到了 AI 的盲点：AI 棋手分不清 “声东击西”。

简单来说，FAR AI 的策略就是不断利用角落的动作分散 AI 的注意力，同时，慢慢将中央棋子串成一个大圈来包围 AI 棋手。

Pelrine 表示，对人类来说，FAR AI 的策略很容易就会被发现；然而，哪怕是到包围圈即将完成的时候，AI 棋手也没有注意到自己的弱点。

由于 AI 围棋机器人的底层架构均来自谷歌旗下的 AI 研究机构 DeepMind，所以 FAR AI 的团队猜测，这处 bug 可能是通用的。

此前，Pelrine 已经利用这个 bug 击败了顶级 AI 围棋机器人 Leela Zero。

AI 系统的缺陷

加州大学伯克利分校计算机科学教授 Stuart Russell 表示，这些最先进的 AI 围棋机器人被发现存在弱点，表明支撑当今最先进 AI 的深度学习系统存在根本缺陷。

这样的缺陷是当今大多数广泛使用的人工智能系统所共有的，包括 OpenAI 创建的 ChatGPT 聊天机器人。

Stuart Russell 指出，AI 只能 “理解” 它们过去遇到的特定情况，而无法像人类一样进行 “概括”：

“这再次表明，我们过于草率地认为 AI 具有超人的智力水平。”

研究人员对媒体表示，AI 围棋机器人之所以会输，可能因为 “声东击西” 这一策略很少被使用，意味着 AI 系统没有在足够多的类似棋局中训练过，无法做出防备。

FAR AI 的 CEO Adam Gleave 表示，如果像 AI 棋手那样遭遇大量对抗性攻击，人工智能系统的缺陷很容易就会暴露，但即便如此，市场对 AI 应用的热情不减：

“我们看到非常大的 AI 系统几乎没有经过验证就被大规模部署。”