人类发现围棋AI弱点获胜 暗示深度学习技术缺陷_围棋_竞技风暴
(转自“找借口安静”微信公众号)
原址:https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/
原题:人間が囲碁AIに勝利、弱点発見 深層学習の欠陥示唆
摘自:日本经济新闻
作者:新井纪子、青木慎一
编译和整理:找借口安静 第一次借助AI翻译

人类在围棋比赛中成功地打败了目前最强的人工智能(AI)系统。在2016年,计算机的胜利被视为人工智能崛起的一个历史性时刻,但现在情况发生了惊人的变化。
美国业余棋手凯林·佩林(Kelin Pelletier)具备仅次于当地业余顶尖棋手的水平,他利用另一台计算机发现了其特定的缺陷,击败了这个人工智能系统。此后佩林和计算机进行了15局比赛,获得了14次胜利,而这场直接对决没有任何计算机直接对佩林做出辅助。
这次胜利揭示了目前广泛使用的围棋AI程序存在的弱点。这种人工智能技术也被应用于OpenAI在美国旧金山开发的ChatGPT(聊天GPT)等项目中。
电脑调查人工智能的弱点
让人类在棋盘上再次登上冠军宝座的战术,是通过调查人工智能弱点的计算机程序提出的。这个战术被佩林毫不留情地付诸实施。
该程序由美国加州的一家调查公司“FAR AI”开发,其CEO亚当·格里夫表示,“攻击AI的弱点非常容易”,并且该程序已经与围棋系统“KataGo”进行了超过一百万次的对局,还发现了人类棋手可以利用的“盲点”。
该战术的提出者佩林表示,该软件揭示出的必胜法并不平凡,但也并非非常困难。中级水平的棋手可以使用这种方法来击败机器。通过使用这种方法,佩林还成功地击败了围棋AI“Leela Zero”。
尽管计算机提出的战术对击败围棋人工智能有所帮助,但这个决定性的胜利,发生已经毫无悬念地在最复杂的棋类游戏中,领先了人类七年之后才发生的。
由谷歌旗下的英国DeepMind公司开发的系统“AlphaGo”在2016年以4比1的成绩击败了当时世界顶尖的韩国棋手李世石。李世石在三年后退役,他表示这是由于AI的崛起所导致的,表示“有些事物是我无法战胜的”。AlphaGo尚未公开,但可以认为佩林所击败的围棋人工智能的实力与AlphaGo相当。
围棋是让两个玩家在19 x 19的棋盘交替放置黑白棋子,试图围住对方棋子并尽可能多地占领领土的游戏。这种组合非常巨大,计算机无法预测未来所有的着法。
佩林使用的战术是创建一个慢慢形成的大型“环”形,同时用它来围住对手的棋子,并利用棋盘上其他角落的动作来困惑AI。据悉,围棋AI甚至在围堵几乎完成的情况下仍未意识到其脆弱性。
佩林还说:“人类应该很容易看出来。”
暗示了最先进的人工智能存在缺陷
加州大学伯克利分校的计算机科学教授斯图尔特·拉塞尔表示,发现最先进的围棋软件中存在弱点,这暗示着支撑现代最先进AI的深度学习系统存在根本性的缺陷。
他补充说,这种系统只能理解过去经历过的特定情况,无法像人类一样轻松地进行泛化。
拉塞尔教授还表示:“再次证明了,认为机器具有超人类的智能的结论还操之过急。”
研究人员表示,围棋软件失误的确切原因只能推测。格里夫博士指出,可能是由于佩林所使用的战术很少被使用,即AI系统没有接受足够类似对局的训练,因此无法识别其脆弱性。
他补充说,当面对像围棋计算机这样的“敌对攻击”时,发现AI系统存在缺陷并不罕见。然而,“我们看到很多大型(AI)系统几乎没有经过充分验证就被广泛部署。”
推荐阅读
-
中国排名:窦泽成张新军林钰鑫上升 袁也淳领跑_美巡赛_竞技风暴
-
WTT萨格勒布站资格赛国乒喜忧参半 3位男单遭败绩_乒乓球_竞技风暴
-
张斯洋夺冠积分不纳入索尔海姆杯 能否参赛仍未知_lpga赛_竞技风暴
-
小麦直言不喜欢低杆赛事 可这种赛事他赢了许多_美巡赛_竞技风暴
-
世界前十大部分没有改变 史密斯攀升到第七位_美巡赛_竞技风暴
-
2023北京巡回赛资格赛报名截止 78人参赛名单公布_中国报道_竞技风暴
-
韩媒:只有经历刻骨铭心的痛 花朵才会绽放_围棋_竞技风暴
-
棋手战鹰回应直播"破防"事件:被戳到了内心深处_围棋_竞技风暴
-
BMW国际公开赛劳伦斯戏剧性夺冠 星野陆也T3_欧巡赛_竞技风暴
-
旅行者锦标赛布拉德利破纪录夺冠 小麦T7窦泽成T52_美巡赛_竞技风暴