历史上的今天
今天是：2025年01月21日（星期二）
2019年01月21日 | 人工智能、机器人的安全性：一个愈发难以忽视的问题
2019-01-21 来源：腾讯
2019 年 1 月 19 日起，EmTech China 2019 全球新兴科技峰会于北京国贸大酒店正式举办，来自世界各地的约70位顶尖科学家和科技公司领袖，分享了他们对于科技趋势的独家见解。 曾被《时代》杂志评为 100 名最伟大的科学家之一的“万维网之父”，拥有超过 120 年历史的美国超级企业领导人，全球最“性感”数据科学社区创始人等等也莅临现场。
1 月 20 日上午的 “未来工作” 板块的圆桌讨论中，在现场主持人《麻省理工科技评论》人工智能领域（AI）资深主编 Will Knight 主持下，戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara 就目前人工智能环境、区块链等议题，发表了自己的看法。
以下为会议现场嘉宾发言讨论内容（略有删减）：
问：我们都知道，有个技术会改变各个产业，改变各种各样的工作，它就是区块链，你可不可以给我们说一下，什么是区块链？
Radia Perlman：我们都知道比特币背后的这项技术，很多人都在讨论区块链技术，但是，我们要在实际应用中将区块链演化成各种各样新的技术，区块链可以为我们带来非常强有力的加密算法，以及很好的储存技术，所以对区块链的定义会越来越模式化。
对于区块链业务，一直都有很多宣传，因为我们知道，通过比特币有很多人盈利了，通过区块链、比特币这样的技术赚到了很多钱，但是也有很多人被迫开始使用这样的技术，因为他们需要进行管理，而我们认为，这项技术就是未来。
（图片来源：DeepTech）
问：我们想知道，机器人会如何改变我们的人类生活，包括人工智能？现实生活是什么样子呢？人机协同有很大的潜力，所以你觉得机器人是否会取代人类呢？
Katia Sycara：机器人肯定会取代人类，尤其是一些手动的重复性工作领域，比如说在工厂、供应链方向等。
但是另一方面，当我们说到机器人和人互动的时候，这个是很难的。首先机器人很难理解人们的行为，这是因为人的行为具有一定的社交性，其中会有很多复杂的情况。这个时候，如果机器人的行为会以人为导向，很难进行建模，只能建立一个专门的数据库，来应对各种各样不同的环境和场景。
问：其实我们现在会有一些像 Google Home这样 的智能设备，他们也被应用到了我们的社交生活当中，你认为，未来，这些产品与机器人相比会有优势吗？
答：智能设备只有单向互动，而机器人的行为需要学习人类，拥有双向互动。现在会有一些像 Google Home 这样的智能设备，被应用到我们的社交生活当中，而这些社交过程，是需要双向互动的，机器人是符合这一条件的。机器人拥有自主性，会自动的理解内容，并且参与决策，自主学习，最终有希望会形成自己的想法。
问：可能从无人驾驶领域来看，如果有 5G 的话，可能发展的会更好，而且很多公司也在争相进入这个市场。你们认为，未来整个无人驾驶的世界会是什么样的？
Radia Perlman：如果驾驶无人汽车出了事故，可能人们会放大它，有很多负面评价。但实际上，我们可能需要去考虑无人驾驶带来的未来关系与发展。
比如说，在高速公路上，行驶的无人驾驶汽车想要去并道，或者是其他的交通情况，它会自主的去做决策，背后的算法识别可能考虑的没有那么健全，这个时候就需要我们设计物体的识别。
Katia Sycara：如果人坐在一个无人驾驶的汽车上，只看书，不路况，这个时候警报响了，那么人类如何在了解当时发生的情况下，毫秒之间做出下一步反应与决策？这个可能是非常困难的。在无人驾驶过程中，人类把这个驾驶权交给了汽车，在危机的情况下，如何处理这种权利的交接？这可能是需要人们考虑与无人驾驶之间的关系与影响。
Radia Perlman：其实我觉得人和人之间是相通的，但是可能有些人胆大，有些人胆小，甚至可能还有酒驾的问题，或者是人们开车的时候喜欢发短信，所以，可能的确有很多不同的情况。我觉得如果真的无人驾驶和有人驾驶结合在一起，共同发展的话，情况会变的更加复杂。
问：我在想，你们二位对于机器学习还有安全性的问题，是如何看待的？比如说机器学习它的确带来了很多的复杂性，算法的能力也在不断的发展，可能会为我们带来很大的变化，对于网络安全性来说，你们怎么看？
Radia Perlman：其实我有一点担心，比如说对于这种入侵式的识别，可能这个机器人它不会觉得说周围的环境会有危险的，除非有一些以外发生，或者是奇怪的事情发生。人其实了解机器运作的模式，这种情况下，对于整个交通环境来说是好的，但如果突发意外，有紧急的情况发生，这个时候我们应该怎么响应，这可能是我们需要考虑的课题。
Katia Sycara：深度学习其实和单纯的图像理解是不一样的，比如说有的是持续性的，有的是次序性的，会有一些不同点。如果我们去训练这种深度学习，或者是深度强化学习，是需要过程的，需要让他逐渐的去了解更困难的挑战。而且我们需要去解决非常复杂的问题。
所以说，机器人的行为是很难预测的，因为不知道最后会获得什么样的反应与回答。对于次序性的模型，我们在实际生活中训练的时候，可能需要考虑它最后的后果。目前，我们可以把整个学习进行集成、强化，不断地优化过程，需要相互支持与合作。
史海拾趣
|
2001年美国加州大学制成一种新型异性材料并观察到其反常折射现象，引起学术界关注；2003年美国麻省理工大学实验证明了这种异性材料的可制造性，引起学术界、工业界和军方的高度重视；2003年美国《科学》杂志将这种奇异材料的研制纳入年度十大科学进 ...… 查看全部问答＞ |
|
g_hInterrupt = CreateEvent(NULL, FALSE, FALSE, NULL); g_hRxEvent = CreateEvent(NULL, FALSE, FALSE, NULL); g_hTxEvent = CreateEvent(NULL, FALSE, FALSE, NULL); ...… 查看全部问答＞ |
|
急！求助：关于philips FM 芯片TEA5767自动搜台的问题 现在已有产品上挂一收音机模块，采用philips Tea5767hn，采用3－wire模式。 手动搜台已实现，但自动搜台不能实现。不知是相关控制没设置好，还是时序的问题。 相关代码： radio_write_ ...… 查看全部问答＞ |
|
我在FET仿真时用的是msp430f449,但实际中的硬件电路是用的 msp430f149,那我应该怎样修改软件中的时钟设置呢？请高手指点 代码如下： void uart_init(void) { char temp; FLL_CTL0 &= 0XBF; UCTL0 |= SWRST; UCTL0 |= CH ...… 查看全部问答＞ |
|
我想搭建产生2M的方波电路去驱动场管，我就知道LC、专用函数发生器、几个非门构成... 我想搭建产生2M的方波电路去驱动场管，我就知道LC、专用函数发生器、几个非门构成的震荡、不知道还有那些方案啊？可不可以用晶振啊？… 查看全部问答＞ |
|
独立的电脑板连接热敏打印机（不连网，也不带无线发射)需要通过无线设备 或软件近距离接收（3-10米当然越远越好)思路；可以通过电磁泄漏的信息还原接收 也可以通过解译打印机通讯协议，打印格式 做个软件接口接收！或是可以接收到打印频率信息 在另 ...… 查看全部问答＞ |
|
烧写DSP F2808 是出现 Flash API Error #65535: The Device in in limp mode ,operation failed， 请问谁遇到过，是什么原因造成的。… 查看全部问答＞ |