2018年05月30日 | 未来智能机器人会威胁到人类生存吗？

不论是走进人类日常生活还是参与战争，都要求机器人具备较强的判断力、极大的可靠性和对人类的绝对服从。我们的硅脑助手们能做到这些吗？

机器人早已不是什么新鲜玩意，反而大有方兴未艾之势。从客厅到战场，我们都能发现它们的身影。然而，不论是走进人类日常生活还是参与战争，都要求机器人具备较强的判断力、极大的可靠性和对人类的绝对服从。我们的硅脑助手们能做到这些吗？且随我们前往未来实验室探查一番。

机器人，人类最好的朋友？

会跳舞、洗碗、照料病人的机器人……这已经不再是小说的情节了！不久的将来，这种智能机器人会走进我们的日常生活。可是，要是有一天它不和我们做朋友了呢？

2009年2月，巴黎阿尔德巴朗司（Alde-baran Robocs）的一间办公室。身材矮小的Nao抬眼打量着让-保罗，认出了后者上装翻领上的一枚徽章。于是，它用略带颤抖的声音与来宾攀谈起来：“你戴着和我一样的徽章啊！”让-保罗就好像听到孩子第一次开口说话，不禁又惊又喜。原来，Nao不是有血有肉的人类，而是一个机器人！它的外表完全没有“终结者”的影子，倒像是结实可爱的皮诺曹。眼下，它正在阿尔德巴朗公司里进行演示。身为当地政界人士的让-保罗，是专程来见识即将在全球上市的这款“法国制造”机器人的。Nao的问世，预示着伴侣机器人将如海啸般席卷而来。第一波浪潮就是正在涌现的娱乐型机器人。它们和Nao一样，会跳舞，可以根据要求演奏所有MP3的曲子，甚至还能做帮助主人复习英文课这类实用性很强的工作。第二波浪潮是将于2020年左右出现的家用机器人，这些“田螺姑娘”会料理家务、洗碗、收拾房间。而在2050至2060年间，能像真正的护士那样护理病人的机器人也将闪亮登场！

简而言之，未来将是机器人的天下。这不是阿尔德巴朗公司的一家之见。日本和韩国也持相同观点，它们在机器人研究上大步推进，投入的经费动辄高达数百万欧元。这两国科学家的目标，是10年内在市场上推出面向大众的家用机器人，其售价大约为7000或8000欧元，相当于法国雷诺低端系列汽车洛根（Logan）的价格，意在使每个家庭都能承受。总之，未来社会的图景中将充斥着大量机器人，这已不再是科幻小说，而是可以预见的现实。

简而言之，未来将是机器人的天下。这不是阿尔德巴朗公司的一家之见。日本和韩国也持相同观点，它们在机器人研究上大步推进，投入的经费动辄高达数百万欧元。这两国科学家的目标，是10年内在市场上推出面向大众的家用机器人，其售价大约为7000或8000欧元，相当于法国雷诺低端系列汽车洛根（Logan）的价格，意在使每个家庭都能承受。总之，未来社会的图景中将充斥着大量机器人，这已不再是科幻小说，而是可以预见的现实。

显而易见，事情由此变得复杂起来。因为，在所有科幻作家撰写的机器人故事里，为主人面包涂上黄油的机器人无一例外地都会有丧心病狂的时刻——把面包刀捅进主人的肚子里。

机器人没有小鱼聪明

类似悲剧会真的上演吗？对于这个推测，阿尔德巴朗公司联络负责人巴斯蒂安·帕朗（BasTIen Parent）并不以为然，他说：“机器人不可能为所欲为，它们只是工具而已，只能按照事先编好的程序行事。”也就是说，要动脑筋干出危险的勾当，机器人还不够聪明。毫无疑问，目前的情况确实如此，可是将来会怎样呢？因为明天的机器人不会只是简单的操，它们能够发挥主动性，会变得极为聪明伶俐。美国人工智能专家汉斯·摩拉维克（Hans Moravec）最近发表在《科学美国人》（ScienTIfic American）上的一篇文章里预测，到2050年，机器人的智慧将与人类相当！之所以得出这个结论，是基于一个简单的事实：机器人就是有腿的。因此，它们的智商直接取决于其计算能力。在过去的40年中，这项能力已经有了爆炸性增长！

在信息技术传奇式发展的20世纪70年代，计算机每秒钟处理100万条指令，还要费上九牛二虎之力。而如今，上乘的手提电脑每秒钟可以轻松应对100亿条指令！这个数字实在令人叹为观止。可是，与动物智力相比，机器人还不及一条小鱼聪明。汉斯·摩拉维克说道：“以目前的发展速度看来，在20多年后，将会出现每秒钟能够处理100万亿条指令的机器人，足以与人类的智力相媲美。这样一来，机器人不仅能够进行思考，而且速度飞快！眼下那些只会演奏密纹唱片、总是被同样的障碍绊住的傻乎乎的机器人终将被淘汰。未来的机器人将拥有强大的判断能力，能够对发生的意外情况进行分析并采取相应的对策。我们可以想象这样一个场景：机器人在厨房里走动，突然砰的一声，它碰倒一只花瓶，听到花瓶落在地面上摔碎时的响声后，机器人马上进行检查。发生了什么事呢？它的开始工作，追溯到此前几秒以便弄清真相。机器人会想：‘在这之前花瓶是摆在家具上的，我刚刚从家具旁经过，一定是碰到了家具或是花瓶。所以，我得离房间里的家具更远一点才行。’”

换句话说，这个机器人能够自行确定参数，不过不是自动生成中央计算机中的信息编码行，而是修改用于调节行为的程序中的可变量，例如机器人身体与墙壁之间应当隔开的距离。机器人还能够通过网络自身缺少的。可问题是，程序往往会发生执行错误。如果程序设计缺陷干扰了机器人的行为，会发生什么情况呢？你知道，计算机病毒会使屏幕上光标反向，上推鼠标时，光标下移，而下拉鼠标时，光标上移。如果机器人身上发生类似故障，它就会变得像公牛一样具有攻击性，也许会导致无法预料的结果。

坦率地说，目睹当今最先进的机器人，真让人有些不寒而栗。以日本前卫机器人HRP-3为例，如果亲眼看见它操作手电钻的样子（HRP-3是与一家大型公共工程公司合作研制完成的），人们不禁会双手合十，祈祷它只在木材或钢材上钻孔，千万别在其他地方打洞啊。

一个BUG就足以让机器人把你撕碎

对于研究人员而言，祈祷是不够的。他们正在想方设法寻找对策，使与我们共同生活的机器人不会危及到人类的安全。早在上世纪40年代，科幻小说作者艾萨克·阿西莫夫（Issac Asimov）已经对想象中人类面临的这个挑战深感不安。他在《机器人》一书里幻想在机器人体内植入一种良好行为代码。其中涉及的三个简单法则，被认为涵盖了机器人威胁人类的各种情况。只要稍有违反法则的情况，机器人便会立即中断工作……

今天，机器人专家都无一例外地熟知这些规则。然而，要把它们转化为代码却非常复杂。因为在计算机程序中，连续命题是二进制的，答案只有两种：是或否。机器人要么上楼，要么下楼；不是向右，便是向左。不能处于两者之间。著名的三大法则没有给出如此明确的答案。阿西莫夫规定，机器人应当“保护其生命”。什么是机器人的“生命”，机器怎么能意识到自己的“生命”呢？

正因如此，人们必须另辟蹊径，日本和韩国正朝这个方向努力。专家们正在编写确保机器人行为无害的运行规则，并声称不会立足于原来的三项法则。日本一个本的工作文件多达60页！当然，编写者已经考虑到给机器人配备所有可能的和想象得到的，比如力量传感器。有了它，机器人就不会在和人握手时，像对付核桃壳似的把人的手骨捏碎。

不过，文件编写者承认，即便采取了这些预防措施，意外还是会发生。为此，人们提出了一系列建议，将来有可能直接编入指导机器人行为的程序。全世界的机器人专家们将对这些软件不断进行修订和完善。一旦某个机器人出问题，受害者和相关方将把事故的来龙去脉记录到面向所有用户的庞库中。这样，法国研究人员可以从中找到中国机器人发生这类问题后的解决方法，反之亦然。机器人可以下载以信息文件的形式保存的解决方法，从而完成软件更新并提高安全性，就像今天的计算机所采取的方法一样。这样可以最大程度地限制“机器人的威胁”。当然，完全避免威胁是做不到的，因为我们永远无法阻止人类将用于犯罪。正如阿尔德巴朗机器人公司的巴斯蒂安·帕朗所言，机器人只是工具而已。疯子、心理病态的杀手或嫉妒的丈夫可以改变其预定的用途，把它变成杀人机器。即便人们费尽心机，机器人的危险将会始终存在。因为，无论机器人存在与否，人类本身都没有发生任何改变……