2019年05月08日 | AI人工智能来了！我们会更安全吗？还是更威胁？

5月7日，2019 C3安全峰会在成都召开，作为网络安全行业最具影响力的闭门高端峰会，国内外的网络安全专家，政府领导，各行各业的业界领袖都参与其中，分享全球最前沿的安全技术策略展望，深入讨论5G商化应用中的各类威胁风险和应对策略，助力打造智能、可靠、安全的网络新场景，预建未来。

人工智能威胁论在网络上长久不衰，AI是否安全可控，一直是人们关心的话题。在此次安全峰会上，欧洲科学院院士王东明带来的主题思考《AI人工智能：安全的机遇与挑战》，从人工智能和网络安全的关系出发，理性的分析人工智能带来的机遇与挑战。

人工智能使生活变得安全了吗？

与20年前相比，我们现在更安全了吗？我们信息更安全了吗？我们网络更安全了吗？我们存在银行里面的钱更安全了吗？好像没有。我们仍然被网络病毒、垃圾邮件、虚假广告、商业欺诈所困扰。

人工智能来了，我们会更安全吗？还是更威胁？深度机器学习与智能搜索是否会挑战我们现在的安全机制？欺诈会不会更加智能，攻击能否穿越万物互联的时空？虚拟语音合成、关联知识推理、超级群体智能可否让机器博古通今，招摇撞骗？

我们为什么需要人工智能？

在人类文明发展几千年历史过程中，我们拥有大量的数据，大量的信息，留到现在最重要的是什么？是知识。是我们把握这个社会资源的能力，所以是智能，没有智能我们社会就会变得苍白。

什么是人工智能？人工智能是数学科学、信息科学与其他应用科学的交叉学科，主要研究设计构造应用可以模仿人类智能的机器，包括硬件设备和软件系统。

人工智能的发展从上世纪50年代开始，已经有60多年的历史。机器翻译、机器博弈、机器定理证明都是人工智能里面最经典的研究课题，因为这些都是需要很高的智能。

1959年美籍华人王浩先生在704计算机用9分钟时间，证明了著名的《数学原理》中的百余条数理逻辑定理，成为人工智能里程碑。

1976年著名的四定理借助计算机获得证明，震撼世界。

1978年吴文俊先生提出几何定理机器证明的高效方法。

1990-2010年两十年平稳发展，人工智能现在重新兴旺就是阿尔法狗诞生在2010年。

2015年对与国家来说人工智能非常不平凡一年，2015年7月人工智能写入国务院《关于积极推进黄连+行动的指导意见》。

2016年3月人工智能写入十三五规划纲要。

2016年5月国家发改委等四部委发布互联网+人工智能三年行动方案。

2018年10月科技部创新2030重大项目设立人工智能专项。

新一代人工智能，基于大数据、云平台、网络并行计算、智能芯片等信息技术和基础设施的建设为人工智能的进一步发展提供了保障。深度学习的理论和方法，信息化的应用需求，国家和企业的高投入为人工智能发展注入了强劲的动力，所以人工智能现在处在历史性的发展机遇。

人工智能与网络安全是什么关系？

网络信息安全，信息网络的广泛使用使其安全性，包括两个方面，Safety/secunity。这也是与人们生活、工作密切相关而又难以解决的问题。对网络高度依赖使得人们对其稳定性、可靠性、垄断性，对信息存储的传输和安全性都有极高的要求。从某种意义上讲，我们的生活，我们的工作并未随着技术的进步和网络普及而得到很大的改善。

但在某种意义上趋于恶化的趋势。隐私信息泄露、银行卡盗刷、商业网络欺诈，远程病毒攻击不停在扰乱我们的生活。以前没有病毒，后来有病毒，以前没有欺诈，现在有欺诈，所以很多问题值得思考和解决。

通过保障网络安全，增强网络系统的物理性能和运行可靠性，需要提高抗攻击能力，要使用区块链等新技术记录多方参与的信息活动，使交易信息部得单方面修改，信息价值可以通过技术手段进行转移。网络安全教育尤为重要，然后是法制和网络技术，标准化、规范化有助于改善网络的安全性。

人工智能与安全的关系是相互作用，相互影响。信息网络安全是人工智能广泛应用的基本保障，没有数据，没有信息，没有安全，就没法来讨论人工智能。另一方面，人工智能方法可以用于网络安全隐患的检测和网络安全机制的建立、优化和分析。

人工智能VS网络安全

挑战？

人工智能给安全带来了很多的挑战，基于机器学习和深度搜索的人工智能方法会提升攻击网络和信息安全的能力，对全天候跟踪网络行为获取的大数据进行人工智能分析，有可能自动检测出运行网络出现物理异常和安全性低下的时段与内外部环境，从而可以制定更有效的攻击机制和策略。人工智能方法对网络安全的挑战将会增加网络安全的保障成本。

人工智能+是给安全的很大威胁。深度搜索向宽度搜索、广度搜索扩展，威胁基于通用知识的安全保障机制。机器学习从蛮力型、普适型向知识型延伸，这将威胁基于专业知识的安全机制。万物互联使全局安全受制于局部安全，巴黎城门失火，可以殃及天府池鱼。

5G云端：虚拟现实、穿越时空，数据传输、价值转移、网络攻击都有可能在0秒内完成。还有很多的物理手段，比如说卫星定位、雷达跟踪、声波探测、视频监控，我们一言一行尽在数据中。还有非计算智能，超越人类智能的生物感知、动物智能是否可以用来为虎添翼。有很多动物智能很强，比如狗的嗅觉比人强，狗的嗅觉可以智能化放到机器上，那么它们感知能力就会比我们强很多。

机遇？

人工智能对于安全的挑战，给安全发展带来机遇。我们要重新审视、分析蛮力型、普适型安全机制的安全性和可靠性，建立基于元智能的高智型安全机制 ，并构建复合型多重安全保障体系，保证安全攸关信息网络的绝对安全。

网络的安全威胁将会随着网络使用力的加大而加大。对于网络实施多方位、智能化协同攻击会变得越来越容易。深度群体智能密码分析会提出对密码的攻击能力。比如说我们的计算可以通过网络，可以在一亿部手机上实现简单的操作，这项能力，强度会比以前大很多。网络设施建设将会继续，网络安全性将会不断提高，但是我们需要教育，需要自律、法律加强与完善网络安全。

道高一尺 魔高一丈

人工智能VS网络安全中既有挑战又有机遇。一句话，我们要道德、法规、科技、智能。传道承德、建规立法、创新科技、智能保安。其中网络道德安全教育尤为重要。

我们花很多钱很多技术希望变得安全，但是最终没有达到想要的结果。我们能做到的是本质加密加锁，小人难盗，善行善举，君子不窃。君子都来攻击，那么安全很难保障。我们需要教育，需要改善人们对社会，对现代文化的认识，这是非常重要的。我们花这么多的精力做这么多事情，达到什么效果呢？效果就是促进科技的进步，将造福人类。

人工智能真的那么可怕吗？

举一个例子，核能和智能，这二者不可或缺。我们研究核能，造原子弹、氢弹、核武器是为了要保护自己。我们造出来之后我们并没有使用核武器，但是没有核武器有可能遭到别人攻击，有了核武器别人不来攻击我们，我们也不攻击别人。反而核武器成为科技进步的表现，从而造福人类。比如说发电、核潜艇。在法国80%电都是靠核能，所以核能发挥着重要的作用。

人工智能存在威胁，但怎么会比核能更可怕呢？人与汽车，谁跑得更快？谁更有智能？这是显然的问题，汽车只能在公路上跑得快，还需要人来驾驶。而我们人可以走独木桥，可以穿小胡同，可以独上高楼，可以另辟蹊径。

人工引发的智能可以非常强大，但是仍然无法超越人类自身的元智能，因为人创造的能力是无限的。我们制造的东西，我们研究的东西，我们一定要让它在我们的控制之下。人工智能是机器智能，是算法智能，人智能的科学基础是数学。