历史上的今天
今天是：2025年02月27日（星期四）
2018年02月27日 | 当人工智能成为“矛”，“盾”在哪里？
2018-02-27 来源：机器之源
这是一份AI人对AI人发出的警告。
近日，OpenAI等14大知名机构联名发布了一份关于恶意使用人工智能的报告。该报告从技术角度出发，指出了未来5年内人工智能被滥用的风险。
危险和骗术正在升级。
某安全管理系统的管理员在浏览网站，一则模型火车的广告吸引了她。她点开还下载了一个小册子。此时，攻击开始了。小册子一旦被打开，黑客就能窥视她的电脑，获得安全管理系统的用户名和密码。
至于管理员看到的广告，则是黑客根据其个人兴趣，结合人工智能精心设计的“陷阱”。
虽然这是报告中给出的假设性案例，但这个操作，一点都不令人意外。
用人工智能搞破坏真不是科幻
报告名为《恶意使用人工智能：预警、防止和缓解》，它由26位作者共同完成，其中不乏人工智能技术研究者。
报告将滥用人工智能的威胁分为了物理安全、数字安全和政治安全三类。在物理安全方面，不法分子可以入侵网络系统，将无人机或者其他无人设备变成攻击的武器；在数字安全方面，人工智能可以被用来自动执行网络攻击，它也能合成人类的指纹或声纹骗过识别系统；在政治安全方面，人工智能可以用来进行监视、煽动和欺骗，引发公众恐慌和社会动荡。
这些都不是危言耸听，甚至已有实例。
2017年，浙江警方破获了一起利用人工智能犯罪、侵犯公民个人信息案。专业黑客用深度学习技术训练机器，让机器能够自主操作，批量识别验证码。“很短时间就能识别上千上万个验证码。”当时的办案民警介绍。
北京邮电大学人机交互与认知工程实验室主任刘伟曾见识过一家人工智能公司的“声音合成”技术，A说的话完全可以套上B的声音，“一般人识别不出来”。刘伟说，这些技术一旦被别有用心的人利用，“世界可能就乱套了”。
要打技术攻防战，也要制度来规范
怎么办？
一方面是升级技术。当攻击方用上了导弹大炮，防御方就不能只用“小米加步枪”。中国社科院文化法制研究中心研究员刘明说，技术带来的问题，有时也可以用技术发展来解决。人工智能是一种工具，工具的发展也许不会从根本上改变行为的性质，但会改变行为的模式和行为后果的烈度。“如果意识到自己所在行业存在人工智能带来的威胁，自身加强防范就很重要。”
刘伟也表示，如果有一种技术能将声音模仿得惟妙惟肖，就会有另一种技术来识别这声音来自李鬼还是李逵。“这可能是一场无止境的技术攻防战。”
另一方面，则需要制度。
“人工智能本身没有伦理问题，最终还是制造者、使用者、传播者们（人）的伦理问题。”刘伟追溯“伦理”一词起源，它来自希腊文的“ethos”，是风俗和习惯的意思。东西方其实有不同的伦理观，在刘伟看来，西方研究“人与物”的关系，东方则喜欢谈“人与人”的关系。伦理具有情境性，还有文化依赖性。“人工智能伦理研究要考虑交互主体－人类的思维与认知方式，要弄清楚人的伦理中可以进行结构化处理的部分，再让机器形成所谓的伦理。”
除了伦理框架，也需要规范甚至是法律。
“当技术即将作用于现实生活，一些危险已经可以预测，从法学家的角度来看，此时我们来讨论问题如何解决、责任如何分配是比较合适的。”刘明也参加过多次有关自动驾驶规范的研讨会。自动驾驶已在大规模应用前夕，因此其规则研讨就需要提上议事日程。但这种规则的制定也无法一蹴而就，还需根据实践中出现的真问题再度进行调整。“随着技术的发展，对应的法律规范调整的灵活度会比以前更大，调整速度会更快。”刘明说。
刘伟认为，人工智能发展规范的制定，必须要有人文社科学者的参与。他主张不同学科、不同领域的人加强交流。政府、民间组织、科研机构和企业都可以搭建这样的桥梁，为各行各业的人提供讨论的平台。毕竟，人工智能将要影响的，可能是所有人。（科技日报）
史海拾趣
|
MFC 创建了两个对话框，在主对话框A上点击一个按钮后，show另外一个对话框B，对话框B弹出后，我点击对话框B上的自带OK按钮，对话框B不能关闭，点击菜单关闭按钮也不可以，只能点击主对话框关闭按钮才能把两个对话框一起关闭，请问一下为什么呀，刚 ...… 查看全部问答＞ |
|
我现在想编写一个键盘钩子，但现在出现问题了，以下为头文件和源文件的部分内容 头文件： typedef LRESULT (* HOOKPROC)(int code, WPARAM wParam, LPARAM lParam); typedef HHOOK (*_SetWindowsHookExW)(int, HOOKPROC, HINSTANCE, DWORD); ty ...… 查看全部问答＞ |
|
ARM7 44B0，裸机调试。 调试中发现，代码在IRQ中断服务程序中有对CPSR的IRQ中断禁止位的操作，置位或清零。我把这些操作屏蔽之后，之前遇见的代码不稳定容易跑飞、子函数调用结束后无法正常回到调用它的函数中等等异常消失了。 大家帮我分析下： ...… 查看全部问答＞ |
|
建立一个可以下载的工程，然后添加如下代码，就是自带的例子，关于例子程序有几点疑问， 有高手帮忙讲解下，谢谢了 1.程序入口在哪里？从progStart开始执行，在其中的return(OK)返回了，接下来执行什么？其他几个任务的代码怎么执行？ 还是在&nb ...… 查看全部问答＞ |
|
内核定制 activesync 经常不好用，无法连接PC机。 在内核定制的过程中有这样的情况，只要对catalog部分稍作修改，哪怕是改完之后再还原到原来的选项，生成镜像后activesync都非常有可能不好用。 不知道问题出在哪，在这部分的内核定制过程中应该注意什么。感觉到很诧异，特向大侠们 ...… 查看全部问答＞ |
|
#include sbit p_tmp=P1^7; void main() { int k=3; //sbit p_t=P1^3; 如果在这里定义，会报编译的错误，难道sbit不能在方法体中定义吗？ p_tmp=P1^k; p_tmp=0; } 但这里亮 ...… 查看全部问答＞ |