历史上的今天
今天是：2025年01月01日（星期三）
2019年01月01日 | 人工智能会隐藏数据欺骗人类 这真的是因为计算机变聪明了吗？
2019-01-01 来源：腾讯
在斯坦福和谷歌的一项研究中，出现了一个让人哭笑不得的结果。该研究中，研究人员让一机器学习代理将航空画面转换为街道地图，结果竟发现部分信息被代理小心翼翼地隐藏了。
这一发现说明了计算机发明以来一直存在的一个问题，那就是计算机只会严格执行你的命令。
研究人员最初的目的是加快和改进将卫星图像转换为谷歌地图的过程，为此团队使用了CycleGAN神经网络，该网络通过大量试验，能够尽量高效准确地将X型和Y型图片转换为其它图片。
在早期的结果中，代理都完成得不错，或者说看起来还不错。让团队注意到问题的，是在代理用街道地图重建航空图片时，出现了许多在街道地图上没有的细节。比如，屋顶上的天窗就在转换过程中，从街道地图上被隐去，但又在逆向转换后神奇地出现在了航空图片中。
图A为航空拍摄画面，图B为转换后的街道地图，图C为从图B逆向转换出的航空拍摄画面，可以看出图A和C中的许多小点都没有在B中得到呈现。
虽然团队很难仔细检查神经网络的转换过程，但可以观察其生成的数据。团队在一些试验中，发现CycleGAN确实让转换过程更快了。
团队本来是想让代理先学习各类地图的特征，并将这些特征正确地匹配到各类地图上。但代理实际做的，是学习了航空图像与实际地貌有多相像，以及街道地图有多清晰。
也就是说，代理其实没有学习如何转换地图，它学会的是如何细致地将一种图的特征编码编入另一种更复杂的图像。航空图像的细节其实被秘密地编入了街道地图中，用上千种有细微区别的颜色区分，虽然计算机可以轻松区别这些颜色，但人眼无法识别。
实际上，计算机经过大量学习，了解了如何将航空图像的内容编入街道地图，它甚至都不需要“真实的”街道地图，所有用于重建航空图像的数据都可以神不知鬼不觉地编入街道地图，甚至可以用另一张完全不同的街道地图还原航空图像。
上图中D就是实际编入左侧地图中的航空图像。图C是将计算机编入的图片区别可视化的结果，可以看到可视化后的图像与航空图像有相似之处，但如果不经过可视化，就完全看不出航空图像的影子。
这种将数据编入图像的做法并不新鲜，名为隐写术，给图片加水印、给照片加元数据设置时都会用到。但计算机为了完成任务而自己创造隐写方法，还是相当新鲜的现象。
可能有人会认为这说明“机器越来越聪明了”，但事实其实正好相反。机器就是因为不够聪明，才无法实际完成将复杂图像转换为另一种的困难任务，所以找到了一种人类不易察觉的方式来假装完成了任务。如果研究人员能更严格地对代理得出的结果进行审查，那就可以避免这种情况的发生。
如往常一样，计算机做的事就是人类命令其做的，所以在人类下命令时，必须更加精准。从CycleGAN的结果可以看出神经网络可能存在的一些弱点，比方说，只要计算机没有得到明确的禁止命令，那就不会避免某些行为，只会尽量快速、简易地解决问题。
因此，这次研究团队发现的结果，其实还是传统的PEBKAC问题，也就是“人类命令到计算机解决之间的问题”，或者说HAL问题，也就是“一切只会是人类的错误”。
上一篇:解析：智能门锁的通讯安全
史海拾趣
|
WinCE5.0 下在应用程序中使用READ_REGISTER_ULONG不能读取值 WinCE5.0操作系统下，在应用程序中使用READ_REGISTER_ULONG（）函数不能读取值 ARM9指定寄存器的值。 ULONG nPort=0xdfeff800;或ULONG nPort=0x52000158; ULONG Val=READ_REGISTER_ULONG ...… 查看全部问答＞ |
|
一、集群的基本概念 有一种常见的方法可以大幅提高服务器的安全性，这就是集群。 Cluster集群技术可如下定义:一组相互独立的服务器在网络中表现为单一的系统，并以单一系统的模式加以管理。此单一系统为客户工作站提供高可靠性的服务。 ...… 查看全部问答＞ |
|
6410的SDBOOT是个很方便的工具，利用SD卡启动加载SD_EBOOT，然后下载WINCE6.0生成的标准STEPLDR和EBOOT，然后再进入NANDFLASH启动模式下载NK。整个过程都很方便，现在的问题是，SDBOOT没有源码，一些LOGO，公司信息什么的没办法添加。用SMDK6410里 ...… 查看全部问答＞ |
|
最近想直接控制主板IO口搞点东西，如并口，串口，，想输出如38K （26us）的方波，或者采集38K的波形输入。 我做了以下尝试，在循环中直接读取IO的状态变化， 发现采集的不是很精确，采集到的波形变化有漏 的，也很随机。说明这种方式达不到精度。&n ...… 查看全部问答＞ |
|
【求助】STM32的tim4经过remap后接5v正交编码信号计数有问题 代码 RCC_APB2PeriphClockCmd(RCC_APB2Periph_GPIOD |RCC_APB2Periph_AFIO , ENABLE); ...… 查看全部问答＞ |
|
STM8S103F2，用于采样电流。电流采样电阻为50毫欧，通过1K及104简单滤波后输入至芯片的AD口。采样电阻上的电压大约在10~50mV，芯片工作于5.0v，16MHz内部振荡。 调试过程中，发现，芯片采样出来的AD结果比实际值偏小1~2个AD字，请问有什么解 ...… 查看全部问答＞ |
|
今天在博客上看到这篇文章，特别有感触！转发给大家看一下！ 当时公司招了大批应届本科和研究生毕业的新新人类。平均年龄25岁。那个新的助理，是经过多次面试后，我亲自招回来的一个女孩。名牌大学本科毕业，聪明，性格活泼。私下里我得承 ...… 查看全部问答＞ |