历史上的今天
今天是：2025年03月25日（星期二）
2019年03月25日 | 我们到底需要怎样的机器人？
2019-03-25 来源：王
940年，享誉全球的小说作家艾萨克。阿西莫夫（Isaac Asimov）构思和酝酿了“机器人三定律”，于1941年5月至10月完成和发表的一系列短篇小说中，把“机器人三定律”公之于众：第一定律。机器人不得伤害人类个体、或者目睹人类个体遭遇危险却袖手旁观;第二定律。机器人必须服从人类给予它的命令，除非这一命令与第一定律相矛盾;第三定律。不违反第一定律和第二定律的前提下，机器人要尽可能的确保自己的生存。基于“机器人三定律”，艾萨克。阿西莫夫希望人类（即“碳文明”）和机器人（即“硅文明”）可以携手并进、共生共存。
尽管“机器人三定律”堪称机器人学的金科玉律，可它的局限性也显而易见，比如第一定律中，艾萨克。阿西莫夫强调了“人类个体”、却忽视了“人类整体”，因此，对于“机器人三定律”的修订和补充也陆陆续续的提了出来。艾伦人工智能研究所的首席执行官埃齐奥尼认为，于“机器人三定律”的基础上，还要增补“人工智能系统必须明确的表示它不是人类”、“未经允许，人工智能系统不能保留和披露机密信息”等等规则。不过，中国科技大学的陈小平教授说，修订和补充“机器人三定律”的意义和效用并不大，迫在眉睫的问题不是“原则”、而是“细节”，人类急需完善人工智能和智能机器人相关的伦理细节。
第一定律中，“机器人不得伤害人类个体”，那么“伤害”究竟是指什么呢？机器人对待某一人类个体的什么方式才称得上“伤害”呢？人们如何量化和标准化“伤害”、且准确的认定和排除“伤害”呢？若机器人对某一人类个体并未造成生理层面的损害，但这一人类个体因主观的厌恶和恐惧而出现了精神层面的问题，这是不是一种“伤害”呢？以上的问题仅仅是九牛一毛而已，还有数之不尽的问题需要细化和深究，更需要人们探讨和制定比较具体的规则来“防患于未然”，不能停留在“机器人三定律”的框架中。
美国人工智能伦理领域的知名学者泰格马克呼吁人们超越艾萨克。阿西莫夫的“机器人三定律”，商讨和确立新的人工智能伦理原则，确保人类的利益不受人工智能的损害、且人工智能与人类的发展目标一致。因此，泰格马克发起了“有益运动”，倡导人们把“有益于人类”树立为核心，围绕着这一核心而开创一套人工智能伦理体系，已故的物理学家斯蒂芬。霍金和多位著名科学家支持“AI有益运动”。泰格马克一再强调，AI人工智能在“乘数效应”的推动下会变得越来越强大，留给人类试错的时间和空间越来越小了。
为了呼应泰格马克，美国机器智能研究院的开创者尤德科夫斯基提出“友善人工智能”的理念，他号召人工智能领域的研发人员和科研机构把“友善”树立为核心，从人工智能的设计和开发之初，就把“友善”植入智能系统中，这样的话，“友善”就成了人工智能伦理的基础和宗旨了。
陈小平教授认为，现阶段的人工智能和智能机器人并无重大的隐患和风险，短期之内，只有网络用户个人隐私安全和相关技术滥用等等问题急需管控和防范，但从长远的角度来说，崭新和完善的人工智能伦理体系必须尽快的确立和落实，绝不能出了严重的问题之后再“亡羊补牢”，毕竟一些犯错的代价是人类无法承受的。
史海拾趣
|
一．添加设置过孔 在DXP 中添加布线过孔（Via）可以直接利用热键TAB,在Layer 中设置不同的走线层即可自动添加过孔，务必在先确定一点并且在不同的层面上，自动添加的过孔会以浮动的形式根据需要确定位置！连接布线的焊盘的移动式和光标 ...… 查看全部问答＞ |
|
小弟毕业设计就快完了，搞的是PPC2003软件设计。在开发过程中，现在还留了点问题下来。 一、有没有能够实现将某个文件中所有的EXE文件，文件名及文件路径存入一个表中的操作或是函数； 二、我用的是VS2005自带的仿真上的数据库，没有另外安装 ...… 查看全部问答＞ |
|
我使用sim3000的gprs模块,昨天已经可以用ip地址访问我在花生壳上注册的地址了.然后我尝试用域名的形式访问网络.先 at+cipshut,关闭连接 然后 配置dns服务器 at+cdnscfg=\"202.96.128.56\" 然后设置为域名访问方式at+cdnsorip=1 最后使用域名访 ...… 查看全部问答＞ |
|
急求：北京 C++/C# 日文项目 (日语能读，英语能写) 月给8K （高分帮顶） 日文项目：C++/C#均可 2年以上开发经验 外语要求：能读懂式样书，读懂日文技术文章。 英文要求：日常email通信 月薪给予：6K~8K，亦可面谈 工作地点：微软 联系方式：dexin.yang@hisoft.com … 查看全部问答＞ |
|
菜鸟提问:如何用应用程序修改WINCE的DEFAULT LANGUAGE 如何用应用程序修改WINCE的DEFAULT LANGUAGE呢? 我写了程序如下: unsigned short SLANGID = MAKELANGID(LANG_CHINESE,SUBLANG_CHINESE_SIMPLIFIED); wprintf(L\"langid = %d,slangid = ...… 查看全部问答＞ |
|
冰天雪地×体跪问，驱动程序安装问题（如果问题解决，100分送） 冰天雪地×体跪问，驱动程序安装问题（如果问题解决，100分送） 我的驱动程序开发环境为WINNT4+VC6+NT4DDK+DriverStudio2.5，用DriverStudio2.5生成驱动程序框架，驱动程序开发完编译后，在我的开发机上安装运行，一切正常，但是当我把驱动程序拷 ...… 查看全部问答＞ |
|
最近在学linux驱动开发，在做中断程序的时候不知道为什么就是进不了中断服务函数，下面贴出源码，希望各位大侠们给点帮助，不胜感激~ //s3c2440_key.c（底层驱动程序） //#include #include #include #include #include //#include # ...… 查看全部问答＞ |