AI也有缺陷?人类2016年来首次战胜了最聪明的围棋机器人_围棋_机器人_棋手

AI统治围棋棋盘的时代迎来了一丝变数。

据媒体报道,近日,美国围棋选手Kellin Pelrine击败了顶级AI围棋机器人。

Pelrine与这台AI对弈了15场,其中1局是在计算机辅助下进行的测试局,其余14局没有计算机辅助。最终,Pelrine取得14场全胜的辉煌战绩。

自2016年谷歌旗下的AI围棋机器人AlphaGo击败世界围棋冠军李世石以来,人类旗手一直在与AI的对决中处于下风。李世石在输给AlphaGo的三年后退役。他绝望地把AlphaGo称为“一个无法被打败的东西”,认为属于人类棋手的时代已经结束。

但据媒体报道,被Pelrine打败的AI围棋机器人,棋力与AlphaGo不相上下。围棋段位远低于李世石的Pelrine究竟找到了什么样的致胜法宝?

靠AI打败AI

实际上,Pelrine之所以能打败AI,靠的也是AI。

Pelrine背后是美国公司FAR AI。这家公司开发了一个发掘bug的围棋AI,然后让它和AI围棋机器人Kata Go下了一百多万盘棋,专门寻找可以让人类棋手利用的盲点。结果真的找到了AI的盲点:AI棋手分不清“声东击西”。

简单来说,FAR AI的策略就是不断利用角落的动作分散AI的注意力,同时,慢慢将中央棋子串成一个大圈来包围AI棋手。

Pelrine表示,对人类来说,FAR AI的策略很容易就会被发现;然而,哪怕是到包围圈即将完成的时候,AI棋手也没有注意到自己的弱点。

由于AI围棋机器人的底层架构均来自谷歌旗下的AI研究机构DeepMind,所以FAR AI的团队猜测,这处bug可能是通用的。

此前,Pelrine已经利用这个bug击败了顶级AI围棋机器人Leela Zero。

AI系统的缺陷

加州大学伯克利分校计算机科学教授Stuart Russell表示,这些最先进的AI围棋机器人被发现存在弱点,表明支撑当今最先进AI的深度学习系统存在根本缺陷。

这样的缺陷是当今大多数广泛使用的人工智能系统所共有的,包括OpenAI创建的ChatGPT聊天机器人。

Stuart Russell指出,AI只能“理解”它们过去遇到的特定情况,而无法像人类一样进行“概括”:

“这再次表明,我们过于草率地认为AI具有超人的智力水平。”

研究人员对媒体表示,AI围棋机器人之所以会输,可能因为“声东击西”这一策略很少被使用,意味着AI系统没有在足够多的类似棋局中训练过,无法做出防备。

FAR AI的CEO Adam Gleave表示,如果像AI棋手那样遭遇大量对抗性攻击,人工智能系统的缺陷很容易就会暴露,但即便如此,市场对AI应用的热情不减:

“我们看到非常大的AI系统几乎没有经过验证就被大规模部署。”

特别声明

本文仅代表作者观点,不代表本站立场,本站仅提供信息存储服务。

分享:

扫一扫在手机阅读、分享本文