历史上的今天
今天是：2024年08月22日（星期四）
2018年08月22日 | 助力网络内容安全 人工智能走上舞台
2018-08-22 来源：ofweek
每天通过互联网上传的视频、图片、文字数据，用“海量”形容毫不为过——超过15亿条，而且还在呈数量级增长。
将其中涉及恐怖、暴力、色情等违法违规内容过滤出来，使其不污染、威胁网络空间，以前靠的是人工审核，现在人工智能（AI）开始走上舞台。
21日，由中国互联网协会和阿里巴巴等共同举办的“2018网络安全生态峰会”在北京开幕。AI在助力网络内容安全上扮演的重要角色成为此次峰会的热点议题之一。
AI是必然选择
可以说，面对海量互联网数据，用人工智能进行互联网数据的治理，是一个不得不做出的选择。
“相比AI技术，现有的人工审核方式无论是成本还是效率都处于显著劣势。”中国互联网协会在此次峰会上发布的《AI技术赋能网络内容安全保障研究报告》（以下简称《报告》）称。
根据《报告》，人工智能已经在网络文本内容检测、文本分类技术、视频和图片内容识别、语音内容检测等方面发挥重要作用。
例如，阿里巴巴开发的云盾内容安全系统可以基于深度学习技术，提供文字、图片、视频等多媒体的内容风险智能识别服务，有效减少涉及恐怖、暴力、色情等违法违规信息。
国家互联网应急中心高级工程师徐杰介绍，传统的网络安全治理方法涉及人工建模和提取特征，也就是描述某个事物，并构成特征向量。越是复杂的事物，特征向量的复杂程度就越呈指数增长。
“AI技术，特别是近期比较火的深度学习技术，为我们处理这些问题提供了新的可能。”徐杰说，因为深度学习技术不再需要人工去描述事物的特征，而是直接把相关事物的图片或视频交给机器去学习，由机器自己建立模型。
阿里巴巴集团资深算法专家薛晖认为，除了以上优势，AI技术也增加了网络内容治理的可靠性。因为，人工审核的经验因人而异，而且这种经验较难传承，但是AI技术无论是模型还是数据都更容易被继承。
还需要更加靠谱
尽管AI在保障网络内容安全方面已显出种种优势，但作为一种新兴的科技手段，难免还有诸多不足。
“AI本身还有一些问题，比如说AI很大程度上基于模型和算法，而模型和算法本身具有脆弱性。”移动安全联盟秘书长杨正军说，如果其模型和算法遭受攻击，就会失效。另外，AI是基于海量数据进行训练，假如数据遭到污染，或被攻击者获取，后果也不堪设想。
来自科大讯飞的技术专家李剑锋则认为，AI在网络内容治理方面存在的最大挑战，是现在AI的能力还有待提升。
李剑锋举例说，有用户发微博表达心情，内容是“黑夜总会过去，白天总会到来”。这句话反复发不出来，该用户百思不得其解。后来有朋友提醒他，是因为其中出现了“夜总会”。
“现在我们用AI技术，哪怕是一个非常简单的技术也很难做到100％正确。”李剑锋解释说，因为现在的机器学习属于统计学机器学习，包括深度学习、神经网络在内都是基于概率论，理论上不能保证100％正确。
史海拾趣
|
uclinux jedce_probe探测ID，变成flash的内容 Flash：两片SST39VF3201 ，一片挂CS0：地址0x80000000 一片挂CS1：地址0x81000000 使用jecdec探测 static struct map_info lpc24xx_map[2] = { { .name = \"LPC24XX\", .bankw ...… 查看全部问答＞ |
|
我目前是作java 企业计算方面的软件开发，现在有一份作51单片机的工作机会，不知该不该去做？我想往嵌入式方向转，我的定位是linux+arm, 看网上讲51和arm相差很大，不知我从51开始接近嵌入式开发有没有什么问题？有没有走弯路？ ...… 查看全部问答＞ |
|
在Windows XP下，我插入USB键盘后看到系统在设备管理器中变化了两个，一个是键盘下的KeyBoard Device，一个是人体输入设备下的USB人体输入设备，请问这两个相互之间是怎样联系的啊？？ 再者：我在写一个键盘的驱动程序，要求是读取USB键盘数据 ...… 查看全部问答＞ |
|
我在VC60下面做了个扩展的DLL。VC下一直用得挺好。 但现在要把那个程序移植到EVC下面，界面部分已经移植好了，现在就差这个DLL了， 我按照VC60下面的方法做，不行。 哪位大侠知道EVC下怎么做扩展DLL。… 查看全部问答＞ |
|
提供专为嵌入系统应用的USB WIFI模块 描述： 华邦处理器，USB 接口，802.11g，提供LINUX 2.4 2.6内核, WINCE 4.2和5.0的驱动。linux的驱动有量的话可提供源码。 联系方式： mail: snfmtc@163.com msn: mikehorse@homail.com … 查看全部问答＞ |
|
这个帖子也不知道发哪里合适。请问大家的工具和元件是怎么整理收纳的？现在我是有很多大小不一的箱子，电子元件用小袋子装好分类在不同的小箱子里。各种工具扔在2个略大箱子里。用起来找起来挺不方便的，想有没有一个大的收纳箱，里面有大小不一的 ...… 查看全部问答＞ |