2020年02月25日 | 被IBM“深蓝”击败国际象棋大师：我和机器和解了

23年前，俄罗斯国际象棋大师加里·卡斯帕罗夫（Garry Kasparov）输给了人工智能深蓝（Deep Blue）；23年后，卡斯帕罗夫在媒体采访中表示，人类需要学会与机器合作。他说，你需要“把人工智能算法向正确的方向引导”。

以下为采访全文：

加里·卡斯帕罗夫也许是历史上最伟大的国际象棋选手。1985年，赢得国际象棋世界冠军后， 他横扫对手、独霸棋坛将近二十多年。

而在国际象棋界之外，人们听闻卡斯帕罗夫，却是因为他输给了一台机器。1997年，在他的鼎盛时期，卡斯帕罗夫为IBM的一台名为“深蓝”（Deep Blue）的超级计算机所败。人类不敌机器的消息，顿时震惊全球，更仿佛在昭告机器凌驾人类之上的新时代即将到来。

随后的数年，人们对待机器的态度渐渐恢复理性。个人计算机的功能大幅增强，智能手机如今可以同时运行和深蓝一样强大的象棋引擎与其他应用。更重要的是，得益于人工智能的最新进展，机器现在可以自己学习和探索游戏。

深蓝的背后仍旧是人类为国际象棋对弈而设计的代码规则。相比之下，Alphabet子公司DeepMind在2017年推出的程序AlphaZero，通过反复练习，就可以自学成为大师级选手。甚至，AlphaZero还挖掘出一些新的策略，这些策略让国际象棋专家都自叹不如。

上周，卡斯帕罗夫再次回到当年为深蓝所败的地方——纽约一家酒店的宴会厅，参加人工智能促进协会组织的活动，与一种人工智能专家展开对话。期间，他接受了外媒采访，谈到了国际象棋、人工智能和保持领先于机器的策略。

问：重回当年输给深蓝的旧地，有什么感觉？

卡斯帕罗夫：我早已释怀。到最后，这场比赛成了祝福，因为我有幸参与到了某些重要的事业之中。只是，二十二年前的我，并不是这么认为的。时光在流走，该发生的事情正在发生。我们都会犯错，会失败。然而，重要的是，我们如何看到自己的错误，如何从糟糕的经历中吸取教训。

1997年的经历让人挫败，但它也让我开始了解到人机协作的未来。我们总觉得，人类在国际象棋、围棋和将棋领域，所向无敌。但所有这些棋局，在日渐强大的人工智能算法的推动下，渐渐倒向了另一边。但这并不意味着生活就不能再继续。我们必须想办法，把这一切变为优势，为我们所用。

我总是说，我是第一个受到机器威胁的知识工作者。但这也让我有机会向大众传递一个消息。因为，这样一来，没有人会怀疑，我会站在计算机这一边。

问：对于人工智能的影响，你想给人们传递什么样的消息？

卡斯帕罗夫：我认为人们认识到必然性元素这一点很重要。当我听到人们大声疾呼人工智能正在闯入并摧毁我们的生活，速度如此之快时，我说，不，不是的，速度其实已经很慢了。

每一项技术在创造就业之前总会破坏一些就业机会。如果你看一下统计数据的话，在美国，仅有4%的工作需要人类创造力。也就是说，剩下的96%的工作，我称之为“僵尸工作”，是死的，没有生命的。只是他们不知道而已。

几十年来，我们一直在训练人类，像计算机那样工作。现在，我们却在抱怨这些工作危在旦夕。这些工作当然危在旦夕。我们必须寻找机会创造那些可以突出我们人类优势的工作。我们大多数人能活到今天，肆无忌惮地抱怨技术，这还多亏了技术。这其实就是硬币的两面。我认为重要的是，与其抱怨，我们应该着眼于如何更快地前进。

当这些传统工作开始消失之时，就是我们需要新的行业之时，我们需要建立有帮助的基础。也许是普遍的基础收入，但我们还是需要为那些滞后的人们提供财务缓冲。眼下，这是一个防御性的反应措施，不管它是来自公众还是来自大型企业首席执行官——他们关注人工智能发展并宣称人工智能可以改善利润，只是一切都是未知。而我认为，我们仍在努力理解人工智能在我们社会中的角色。

问：但还是有很多人需要面对人工智能将取代他们一部分工作的事实。你对他们有什么建议？

卡斯帕罗夫：我们有不同的机器，而人类的工作是，理解这台机器，赋予它所需的资源，让机器发挥最佳功效。归根结底，这是组合的问题。比如，我们以放射学为例。如果你有一个强大的人工智能系统，我更希望让经验丰富的护士，而非顶尖教授，来使用这个系统。具有良好知识和训练的人会认识到自己不足，会与系统共同进步。而医学大咖则会大概率地挑战机器的知识，这样的话就破坏了人机间的交流。

人们时常问我，“如果要帮助另一台国际象棋引擎打败AlphaZero，你能做些什么？”我说，我会观察AlphaZero的策略，然后找出它的潜在弱点。我也相信，AlphaZero的进化不可能是完美的，毕竟这世上没有完美的存在。举个例子，它可能会认为象比马更重要。AlphaZero学习过6000万多场对弈，从统计上来看，在大多数对弈中，象的重要性不言而喻。因此，我认为，AlphaZero可能会在次序上，赋予象更高的优先级。所以，你应该怎么做呢？你应该让你的引擎专攻AlphaZero上存在的不可避免的弱点。

我还经常引用这个例子。假如你有一把非常强大的枪支，一把射成达到一英里的来复枪。瞄准时1毫米的偏差，在一英里外就是10米的偏差。因为枪支是如此强大，非常微小的变化实际上会导致明显的偏差。未来人机协作的意义也在于此。

对于AlphaZero和未来机器，我更愿意把人类角色描述为“牧羊人”。你要做的就是把人工智能算法向正确的方向引导。把人工智能向这个或那个方向轻推一把，它们就可以完成接下来的工作。你的工作就是把正确的机器放在正确的领域，去完成正确的任务。

问：你觉得我们在人类水平的人工智能方面，取得了哪些进展？

卡斯帕罗夫：智能究竟是什么，无人知晓。即便是最好的计算机专家，处于计算机科学最前沿的那些人，他们也时常对我们现在的工作感到疑惑。

今日我们对人工智能的了解仍仅限于工具层面。我们能够接受机器让我们变得更快更强大。但是说到更聪明，人类的恐惧便跃然纸上。但是，这两者之间有什么区别呢？我们一直在发明机器，帮助我们提高不同的品质。因此，我认为，人工智能也就是一个强大的工具，它可以让10年或者20年前的不可能变为可能。

未来人工智能会怎么发展我不知道。但我不相信强人工智能（AGI）。我不认为，机器可以将知识从一个开放式系统转移到另一个开放式系统。但机器可以主宰一个封闭的系统——比如游戏或其他人类设计的世界。

大卫·斯尔福（David Silver，AlphaZero的创建者）并未回到我提出的有关机器是否可以自己设定它们的目标的问题。他谈到了子目标，但这是两回事。在他对智能的定义中，目标和子目标的差异，就是人与机器的差距。我们可以为自己设定目标，然后努力去实现我们的目标。而机器智能努力去实现已经设定的目标。

到目前为止，鲜有证据可以表明，机器可以在条条框框以外运行——这一能力，恰是人类智能的一个显著标志。比方说，你在一个游戏中积累了一些知识。机器可以把这些习得的知识应用到其他相似但又不完全相同的游戏中吗？人类可以，但计算机不行。大多数情况下，计算机需要从头学起。

问：让我们再说说人工智能道德。你对技术被应用于监视或武器，有什么看法？

卡斯帕罗夫：纵观历史，我们心里清楚，这样的发展是必然。有些事情，人类无法阻止。如果你在欧洲或美洲彻底禁止这类应用，那么亚洲就会坐享优势。但我也确实认为，我们需要对Facebook、谷歌和其他产生大量数据的公司采取更多的公共控制。

人们总说，我们得建立符合道德规范的人工智能。一派胡言。人类才是邪恶的主谋。问题不是出在人工智能身上。问题出在人类使用新的技术去伤害他们的同胞这里。

人工智能就好比一面镜子，它照出了好，也照出了坏。我们必须正视这个问题，然后弄明白如何解决这个问题，而不是整天抱怨说：“哦天呐！我们创造的人工智能总有一天会超越我们自己。”不知怎的，我们已然陷入两个极端。人工智能不是魔杖，也不是终结者。它也不是乌托邦或反乌托邦的预兆。人工智能就是一个工具。没错，它是一个很特别的工具，因为它可以扩大我们的思维，但它终究仍只是一个工具。但不幸的是，不管是在自由世界之内还是之外，我们有太多的政治问题，如果不能正确使用人工智能，局面只会更糟。

问：回到国际象棋，你怎么看待AlphaZero的走棋风格？

卡斯帕罗夫：我研究了它的策略，然后在一篇文章里也提到了这些。在那篇文章里我把象棋描述为“理性的果蝇”。如今，计算机选手早已胜过人类选手千百倍。但事实上，我们可以进一步了解我们的游戏。比如，AlphaGo在训练中所实践的数百万场对弈，可以生成某些有用的信息。

如果我们开发出强大的国际象棋机器，那么国际象棋对弈就会变得乏味——会有大量平局出现、太多技巧或者一场对弈有走1800或1900多步最后陷入死局等等——抱有这样的想法其实是错误的。AlphaZero完全相反。与我而言，这更像是一种互补，因为你找到了一个更强大的对手！AlphaZero会牺牲一些棋子来换取更有效的进攻。这不是什么创新，而是AlphaZero学会了这种模式，知道计算其中的几率。但也正是这些让国际象棋充满魅力。

马格努斯·卡尔森（Magnus Carlsen，现任国家象棋世界冠军）曾说，他研究过AlphaZero的对弈，他还发现了其中的一些元素和联系。他说，有些走棋他设想过，但未曾真正实践过；现在我们可以知道这些假设的最终结果。

问：你输给深蓝后，有些人觉得国际象棋将会变得索然无味。那为什么人们仍然对卡尔森充满兴趣呢？

卡斯帕罗夫：你已经给出了答案。因为我们仍然对人感兴趣啊。汽车比人类跑得快，那有怎样呢？人类的竞争核心仍然没有变，因为我们渴望知道我们的团队、我们的选手，是否是世界第一。

虽然，计算机已经主宰了象棋，让人类惴惴不安。但另一方面，它也让更多人对国际象棋产生兴趣。不像30年前，当卡斯帕罗夫对弈卡尔波夫（Anatoly Karpov，俄罗斯国际象棋大师）的时候，没人敢对我们的走棋指手画脚，哪怕我们出现了失误。现在，你可以一边看棋，一边听着机器的解说。所以，从某种意义上来说，机器让国际象棋变得更加大众化了。现在他们可以跟上对弈，可以理解国际象棋的语言。因为有人工智能充当翻译的媒介。