历史上的今天
今天是：2025年03月12日（星期三）
2021年03月12日 | 用“算法”模拟光束可攻击自动驾驶车辆 专家呼吁重视AI安全
2021-03-12 来源：EEWORLD
3月11日消息，阿里安全专家发布了一项新研究，只要用简单的激光笔，就可以让AI模型不再有效。在这个研究中，他们设计了一种算法，可模拟光束对AI模型进行“攻击”，这种测试方法在现实世界中得到了验证，且“攻击”极易操作，对现有基于AI的视觉系统更具威胁，例如基于AI视觉的自动驾驶。
当不同频谱的光束打在同一个物体上，AI可能将该物体识别错误，比如将停车标识识别成顺利通行。
图说：一束激光可能让自动驾驶汽车对交通标识识别错误
“攻击AI远非需要人为去制造对抗样本，一支简单的激光笔就可以。我们想通过这个研究揭示AI模型一些之前没有被探索过的‘错误’，从而‘强壮’AI，让它未来能抵挡这种‘攻击’，也让相关从业者重视提高AI模型的安全性。”阿里安全图灵实验室负责人薛晖说道。
除了以“一束光”测试AI视觉的安全性，最近图灵实验室发布了多项涉及AI安全的研究成果，比如多项文字识别与检测、利用自监督建立视频表征学习方法与提升半监督行为检测的算法框架、AI样本对抗、伪造人脸检测、AI对人脸与人声匹配的双重模态识别、视频描述AI生成技术等囊括AI“视觉”“听觉”“大脑”“免疫性”等多方研究，这10项涉及AI安全的新一代安全架构研究成果均被国际顶会CVPR2021收录。
“在AI安全前沿技术上进行探索，一是为了让AI更安全，二是为了让AI助力安全，三是为解决具体社会问题寻找提效的新途径。”薛晖说。
另外，薛晖还表示，安全部署要前置，无论是AI本身的安全，还是AI可以助力解决的安全问题与社会问题，这就是从源头构筑安全的核心理念。希望在广阔的AI安全研究的新领域中，能有更多新生力量加入，迸发出有创造性和想象力的研究，最终应用到人们的生活中，真正服务大众，解决难题。
史海拾趣
|
这几天在弄UCOS ii的程序，是基于IAR软件的。其中有个地方不是很明白，在程序的开始，堆栈好各堆栈后进入的系统模式（sys),也就是说任务在系统模式下运行。但中断（irq)来了后进入IRQ模式执行中断的汇编代码（os_cpu_a.asm),可是在刚进入IRQ后就切 ...… 查看全部问答＞ |
|
音视频播放软件：支持MPEG-1/2、4，H.264 263,MP4、WMA、DIVX、XVID/MP3等流行格式 视频在6410 播放流畅 联系方式： hpccn@163.com MSN: hpccn@163.com… 查看全部问答＞ |
|
选择仿真器并测试，出错： 测试结果如下： [Start] Execute the command: %ccs_base%/common/uscif/dbgjtag -f %boarddatafile% -rv -o -F inform,logfile=yes -S pathlength -S integrity [Result] -----[Print the board config pathname ...… 查看全部问答＞ |
|
本帖最后由 paulhyde 于 2014-9-15 02:58 编辑 可能大家比较关心方案，我是用一个DA控制一个恒流源，DA是利用单片机控制产生一个正弦波从而控制电流源呈正弦变化。铜板一共四个角顺时针依次为1.2.3.4，把1和2连接，3和4连接，然后交流的电流源从2 ...… 查看全部问答＞ |
|
作者：Chris Cockrill 德州仪器如今，现代设计公司不仅正在努力寻找功耗更低的更小型器件，同时他们还希望为工业自动化、PC、服务器以及电信设备等应用降低成本。实现这些目标的绊脚石是：设计人员使用运行在单一电压下的处理器，其需要 ...… 查看全部问答＞ |
|
全新未拆封 MSP430 开发板 MSP-EXP430G2 LaunchPad 带触摸板 本帖最后由 nwcheroes 于 2014-7-21 23:48 编辑 全新未拆封 MSP430 开发板 MSP-EXP430G2 LaunchPad 带触摸板 50不包邮，淘宝交易 http://item.taobao.com/item.htm?id=40208386645 … 查看全部问答＞ |
|
最近看了几张电路图，发现芯片或者模块电路的COM端，有些COM端会一起接到GND, 还有一次见到RS232中的一个GND标注成 COM。我不是专业学电路的，不太清楚这个COM和GND有啥区别。一般来说，一个复杂系统各个模块应该都会共地，COM端都共地的话，为什么 ...… 查看全部问答＞ |