历史上的今天
今天是：2024年09月05日（星期四）
2019年09月05日 | 好玩的AI换脸APP，潜在危险和不安全性不可小觑
2019-09-05 来源：eefocus
ZAO可能产生的潜在危险和不安全性，也是人工智能为社会提供产品的同时人们必然面临的挑战。
名为ZAO的AI换脸软件红遍网络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。
实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。
既然是造假，当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。
所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。
现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。
今年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。
今年6月13日，美国众议院情报委员会对Deepfakes举行了听证会，会上该委员会主席、众议员亚当·希夫称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。
针对Deepfakes换脸技术产生的具有破坏性的危险性内容，欧盟也在2019年初出台了应对指南，以帮助公众分辨某条信息的来源，信息是如何产生的以及信息是否值得信赖。
可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止，只是在进行论证。但迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全网封禁，其GitHub开源代码也被清除。
尽管目前看来，ZAO软件还没有造成实际上的危害，但是，正如网友所指出，一个潜在危害非常实在：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”因此，公众的担心并非杞人忧天，有必要及早以明确的法律条款予以规范。
史海拾趣
|
该电路图的目的是分析对输入信号进行分类，然后输出，对输出脉冲进行计数的功能。 此电路图只对信号分类。 可是我还不能很理解。 请求给予帮住。 [ 本帖最后由 阳光如烟 于 2008-8-25 17:34 编辑 ]… 查看全部问答＞ |
|
有谁使用过了vxworks6.6及其开发workbench的，一起来分享啊。 我先自己说下自己的使用后的感受吧，vxworks6.6的系统启动代码和5.5区别还是很大，而对与新的平台的使用我用的也不是很爽，之中遇到了很多的问题。 哎~ 又要开始一个新的痛苦的学习过 ...… 查看全部问答＞ |
|
我打算通过扩展定时器的方法测出多路PWM信号的占空比，利用GATE门控位，当GATE低电平的时候读取外部定时器8253计数器的值。可是我怎么也读不出来值，当我使RD位有效时，读的计数器的值也总是不变是个固定值，大家看看我的程序有什么问题？？怎么改 ...… 查看全部问答＞ |
|
通过PFILE_OBJECT的DeviceObject如何修改盘符？？十万火急！ 如题： UNICODE_STRING usDosName; PFILE_OBJECT pFileObject = IrpSp->fileObject; 使用RtlVolumeDeviceToDosName(pFileObject->DeviceObject,&usDosName) 可以得到usDosName的盘符，如C： 问题是如何修改C：为 J：，实现文件的跨盘存储 ...… 查看全部问答＞ |
|
【TI首届低功耗设计大赛】+@fxyc87+CCS编译环境初识+第一课 点亮LED 【TI首届低功耗设计大赛】+@fxyc87+CCS编译环境初识+第一课 点亮LED在论坛搜索 【TI首届低功耗设计大赛】+@fxyc87+ 上一次发布了开发板的秀，https://bbs.eeworld.com.cn/thread-446740-1-1.html 以及IAR编译环境的使用说明及点亮LED，见贴[url]h ...… 查看全部问答＞ |
|
【TI首届低功耗设计大赛】如何利用IAR For MSP430自带的库建立属于自己的工程 本帖最后由 Mandy 于 2014-12-13 19:48 编辑 如何利用IAR For MSP430自带的库建立属于自己的工程 1、在D盘建立一个LEDTest的文件夹，找到“..\\430\\examples\\driverlib\\driverlib”路径下的“MSP430FR5xx_6xx”库文件夹。“MSP430FR5xx_6xx” ...… 查看全部问答＞ |