历史上的今天
今天是：2025年03月16日（星期日）
2018年03月16日 | 如何让杀手机器人有“正义感”
2018-03-16 来源：智造大视野
安静的大学自习室，有情侣在教室后排的角落选修爱情，有的学生在看书，更多的学生在刷手机。
一队蜂群一样的小东西从虚掩的教室门鱼贯而入，它们发出的嗡嗡声没有惊动任何人。这群小东西在空中盘旋、搜索，似乎在思考并确认。终于，一个沉闷的声音过后，响起一个女声惊恐的尖叫，男生倒在血泊里。
就在刚刚过去的前一秒，盘旋在教室上空的那个小东西将它携带的3克炸药毫无保留地倾注在男生的脑袋上。女生永失所爱，教室顿成屠场。
这个血腥场面出自一段可怕的视频。在联合国《特定常规武器公约》会议上，来自美国加州大学的斯图尔特·罗素尔教授公布了这一视频。超过七十个国家的与会代表被震惊了。虽然视频中“杀人蜂”进行的杀戮并非真实存在，但我们必须清楚的是，视频中的科技目前已经存在。
早在2017年2月，剑桥大学的生存威胁研究机构相关人员就列出了10种可能导致世界末日、人类灭绝的威胁。名列前茅的正是人工智能和杀手机器人。
“杀人蜂”视频是这个预言的证实和强调：杀手机器人时代来了。这加深了很多人的焦虑，数百名科学家曾联名呼吁限制杀手机器人的相关研究。
“杀手机器人禁令运动”组织的成员们并不是第一批对未来忧心忡忡的科学家。2015年，物理学家霍金等千余名人工智能领域的专家就曾联合谴责人工智能时代的军备竞赛，呼吁在智能武器还没有使用和造成万劫不复的灾难或毁灭人类之前，禁止使用智能武器。
业界普遍认为，截至目前，人类的武器已经进行了两次革命：火药和核武器。现在杀手机器人所代表的致命性自主武器系统正在拉开第三次革命的帷幕。
耶鲁大学的研究人员把军用机器人列为人工智能技术最有前途的应用领域之一。军用机器人的用途太诱人：既可降低己方士兵的风险，又能降低战争的代价。它省去了军人的薪水、住房、养老、医疗等开销，又在速度、准确性上高于人类，而且不用休息。它不会出现只有人类战斗员才会有的战场应激障碍，情绪稳定，无需临战动员，一个指令，就能抵达人类不可及之处，完成各种任务。
学界担心，如果杀手机器人被大规模列装，一个潜在的问题令人不安：它们如何识别平民和战斗人员？它们会不会滥杀无辜？
“如果机器人犯错误，责任应该归谁呢？”英国的一名机器人技术教授诺埃尔·沙尔吉说道，“显然这不是机器人的错。机器人可能会向它的电脑开火，开始发狂。我们无法决定谁应该对此负责，对战争法而言，确定责任人非常重要。”
在伦理学家眼里，杀手机器人同样存在致命的缺陷。这意味着将剥夺自然人生命的权利交给非自然人，等于将人的生命和人的尊严交给机器来判定，不但没有平等性，也是对人类生命权以及人格尊严的侮辱。
杀手机器人该如何做？
1942年，美国著名科幻小说家阿西莫夫曾创立机器人定律。其中首要定律便是：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。那么，问题又来了，当机器人的主人和其他人类冲突时，机器人又该如何抉择？
这恐怕正是我们担心的核心所在。事实上，自1920年戏剧《罗莎的万能机器人》上演以来，无论是电视剧《神秘博士》，还是电影《终结者》《异形终结》《西部世界》《我，机器人》以及《银翼杀手》等科幻电影和小说，一直贯穿这一主题：人类设计并主导的“杀手机器人”最终成为反叛者，拥有独立意识，从战争的辅助工具转变为与人类为敌的杀戮者。
关于机器人题材的电影和故事几乎没有好结局。这源自我们人类的深层恐惧——如何让杀手机器人有“正义感”？遗憾的是，目前无解。是的，你完全可以把这些东西永远搁置起来。不过，它们只需充一次电就能再次启动。对机器人的爱和恐惧还将继续。
来源：解放军报
下一篇:筑牢人工智能发展的根基
史海拾趣
|
请问大家用C开发AVR时使用的是哪个开发环境,哪个更好用. 刚刚从C51转到AVR我这里有三个开发环境,AVR Studio | ICCAVR | cvavr | 其中,AVR Studio是买仿真器自带的，现在准备用Mega64做个。产品不知哪个开发环境好用更适合开发呢？ 请大家指点 ...… 查看全部问答＞ |
|
FPGA可综合性对初学着的一些建议一、HDL不是硬件设计语言 过去笔者曾碰到过不少VHDL或Verilog HDL的初学者问一些相似的问题，诸如如何实现除法、开根号，如何写循环语句等等。在这个论坛上，也时常能看到一些网友提出这一类的问题。 对于这些问 ...… 查看全部问答＞ |
|
有哪位弄过ES56031混响吗？ 我按照datasheet的时序，采用UCOM模式，依次发送D4，D3，D2，D1，SHEEP = 10110，但是就是得不到正确的延时啊，总是得到最小的那个延时12MS，我怀疑是一个初始值，也就是说我没有设置成功。… 查看全部问答＞ |
|
“外包在线”网络技术有限公司CEO喻烜为大家讲述了她鲜为人知的创业经历，从初识“外包”到立志创业，从寻求投资到初有成就，借由这朵铿锵玫瑰坚韧不拔的毅力和非凡的智慧，国内首家外包服务网络平台终于问世，自此“外包”服务更加平民化，从 ...… 查看全部问答＞ |
|
地址总线A15—A0（低），存储器地址空间为3000H-67FFH，按字节编址。其中3000H-4FFH为ROM区，选用EPROM芯片（4K*2b/片）；5000H-67FFH为RAM区，选用DRAM芯片（2K*4位/片） 解释3000H是如何推出（A15A14为00），而 4FFFH又是如何推出（A15A14为01） ...… 查看全部问答＞ |
|
国内站点： 华恒公司的主页，里面有很多的相关资料，有待大家去发现 http://www.hhcn.com/chinese/embedlinux-res.html SkyEye嵌入式硬件仿真项目 www.skyeye.org http://gro.clinux.org/projects/skyeye/ 公社的SkyEye项目专栏 http://www.linuxfa ...… 查看全部问答＞ |