历史上的今天
今天是：2025年04月13日（星期日）
2018年04月13日 | 韩国研发自主武器引发业界深忧
2018-04-13 来源：ofweek
最近，韩国科学技术院大学与军工企业“韩华 Systems”合作研发自主武器，遭全球50多名人工智能学者联名抵制，南京大学周志华教授是唯一一名中国内地学者。
周志华认为，其危险之处在于让机器自己决定是否对人类进行毁灭性打击，“自主武器首先在伦理上就是错误的”。
近年来，人工智能技术突飞猛进，产业界为此狂热不已。但是从已经暴露出的多起舆论事件来看，人工智能技术正在被利益绑架，伦理规范、法律约束一片苍白，这已引发业界的深忧。
自主武器要举起简单规则的屠刀
兵者不祥之器，非君子之器，不得已而用之。我国著名思想家老子对武器的使用曾有恰如其分的阐述。
“武器作为一种必要的‘恶’而存在，它的伦理规范要高得多。”东南大学程国斌副教授认为，与人类控制的武器相比，自主武器依靠提前设定的程序，但再复杂的程序也是一种简单规则，一旦达到触发条件，即可自动执行，比如对方携带武器或有显著特征等，“而现场的环境是极其复杂多变的，换成是人类，当时的决策也不见得就正确，更何况是机器依据一个简单的规则”。
一般的智能武器早就有了，但是最终做决定的都是人类。而自主武器，是要把这个“决定权”交给机器，让机器去决定是否对人类进行杀戮。
“如果这样的武器开发出来，自主武器将导致战争的第三次革命，战争将比以往任何时候都更容易发生并且更残忍。”周志华等50多名学者在公开信中写道，它们有可能成为恐怖分子的武器。暴君和恐怖分子可以利用它们对付无辜的人群，他们不会理会任何的道德限制。如果打开了这个潘多拉魔盒，将很难关闭。
任何一个科研领域都存在不该去触碰的东西。例如克隆人是被主流生命科学界所禁止的。这就是科技伦理划定的禁区，也是主流价值观和人类道德的共识。
“人类在使用武器时，受自由意志和道德责任支配，而自动武器则是依据固定程序做出判断，既没有责任主体，也不会产生对杀戮的道德反思，这非常可怕。”程国斌说。
两种伦理规范缺一不可
设想一下：当一辆自动驾驶汽车在高速行驶，前方车道上突然跑出一个人，如果保持车道不打方向就有可能撞死对方保住自己，如果急打方向避开对方却有可能丢了自己的性命……这时，计算机如何决策才是合理的？
这是人工智能业界广为讨论的一个伦理问题，就如同妈妈和女友落水先救谁的问题一样，答案并不明朗。
“人工智能面对的伦理问题，其实都是传统伦理学讨论过的。只是问题形式变了，从而引起公众关注。”程国斌告诉记者，把这个案例中的驾驶者换成人类，就不会引起这么广泛的关注。
学界把人工智能伦理分为两方面，一是对机器而言，人类设计的程序，本身就包含道德规范在其中；另一方面是对人，将技术或产品应用的人群，也必须受道德约束。两者缺一不可。
周志华认为，强人工智能“不能做、不该做！”强人工智能即具有心智和意识、能根据自己的意图开展行动。霍金、马斯克等担忧的“人工智能威胁人类”，即指强人工智能。迄今为止，主流研究都不支持让机器拥有自主意识。
而对于技术使用者的伦理和法规要求，目前还显得支离破碎和虚弱无力。例如，近日支付宝因收集个人金融信息不符合最少、必须原则，且信息使用不当被罚5万元。有网友戏称，“这处罚也就是罚酒一杯”。
“在网络信息领域，技术走得太快，伦理却没有共识，比如数据搜集技术非常高效，但是几乎没有有效的控制和评价的手段，这就像一个小孩拿枪玩耍，谁也不知道危险会在何时以什么样的方式发生。”程国斌说。
伦理不是技术创新的绊脚石
过去，伦理对计算机科学来说似乎不太相关。“码农”写的软件，似乎不大可能造成身体的伤害、疼痛或死亡。
但是，近年来伦理问题陡增。国内的大数据杀熟舆论事件还未平息，国外就曝出Facebook的数据泄露为政治竞选服务的丑闻。技术带来的负面问题，极大地增加了公众的焦虑和不信任。
2018年新学期，哈佛、康奈尔、MIT、斯坦福等美国高校的课程表上多了一门新课程，名为人工智能伦理、数据科学伦理、技术伦理、机器人伦理等。
与此同时，谷歌、亚马逊、Facebook等越来越多的互联网和人工智能公司都开始拥抱科技伦理，甚至成立专门的伦理中心或伦理委员会，招聘人工智能政策和伦理研究员。
而我国，才刚刚开始针对理工科研究生系统化地推行科技伦理教育，更毋庸说是详细地划分不同科学领域的伦理课程。
“这是因为西方社会受宗教文化影响，始终对科技发展怀有警惕之心，对伦理问题更为敏感。”程国斌说，在我国还是对技术持简单乐观主义占主流。
2016年3月，“阿尔法狗”横扫围棋世界冠军，让人工智能名声大噪。“产业界、金融界、技术界一下子狂热起来，但是伦理和法律确实没跟上。”南京信息工程大学副教授徐军说，“技术是一把双刃剑，就看是谁在用它。”
技术发展不同于科学探索，它指向更加具体的目标。近代德国社会学家马克斯·韦伯曾提出工具理性与价值理性区分的学术概念，其核心是说技术或者工具追求的是如何高效地实现既定的目标，而价值理性的任务是考察这一目标对人类福祉和社会发展所具有的价值，两者必须统一。
“当出现伦理问题，单靠几十名学者呼吁是不够的，需要开发者、决策者以及社会各方形成共识。”徐军认为。
但是，在道德观愈加多元化的今天，形成社会共识越来越难。即使如此，专家们还是呼吁，人工智能的开发者、决策者应该更加自律；相关企业应设立伦理审查机制，以防止技术被滥用；相关高校应尽快开设人工智能伦理课程，让学生走出校门可以做到负责任地创新；同时，要设定更加严厉的法律法规红线，大幅提高违法成本。
下一篇:桁架机器人干起活来“飞檐走壁”
史海拾趣
|
1、电视监控系统（Closed Circait Televisiow,简称CCTV），一般由以下三部分组成：前端部分：主要由黑白（彩色）摄像机、镜头、云台、防护罩、支架等组成。传输部分：使用同轴电缆、电线、多芯线采取架空、地埋或沿墙敷设等方式传输视频、音频或控 ...… 查看全部问答＞ |
|
本来想取个惹眼点的题目吸引大家眼球，没想到引来这么多转头。看来还是老老实实请教问题吧。这几天公司新产品单片机方案选型，找了好多单片机，感觉每个品牌的都差不多，外设都是那些外设，内核有各自的内核（也不知道它们之间有什么区别），编译仿 ...… 查看全部问答＞ |
|
想GDI全屏画图,(0,0)并不是屏幕坐标顶点,如何才能使得(0,0)代表屏幕坐标顶点? WinCE下,我的MFC程序用GDI全屏画图,但是(0,0)并不是屏幕坐标顶点B,而是对应着title下面的区域的顶点A, B-------------------- title A-------------------- --------------------- Menu -------------------- ...… 查看全部问答＞ |
|
本帖最后由 jameswangsynnex 于 2015-3-3 19:57 编辑 喜欢煲“电话粥”的人未来有可能成为能源制造者。韩国科学家研究声波充电器，有望将声波转化成电能。这样一来，通话时间越长，手机电池电量越足。研究报告由《高级材 ...… 查看全部问答＞ |
|
rt，今天小弟在研究THS3001的芯片手册，发现THS3001也采用了PowerPad技术，但是芯片手册芯片手册上并没有明确指出背面散热垫需要怎样的电气连接，查阅了PowerPad使用手册，上面说散热垫的电气连接参考具体芯片的芯片手册，于是我就凌乱了，求用过TH ...… 查看全部问答＞ |
|
在本视频中，TI高级应用经理Robert Kollman将与您一同探讨如何设计一个简单的隔离偏置电源。 $(\'swf_Ngp\').innerHTML=AC_FL_RunContent(\'width\', \'550\', \'height\', \'400\', \'allowNetworking\', \'internal\', \'allowScriptAcc ...… 查看全部问答＞ |
|
最近在玩hdmi解码器，解码器连接液晶电视显示我采集好的视频源，在没有解码时，电视上出现的是颜色条，但是在颜色条的最右边会看到一条清楚的绿边，本人觉得这条绿边影响了视频的质量，而且从抓图来看，我的视频源是没有绿边的，这绿边可能只是相邻 ...… 查看全部问答＞ |