历史上的今天
返回首页

历史上的今天

今天是:2024年10月24日(星期四)

正在发生

2018年10月24日 | 技术文章:Global Shutter为AI 点睛

2018-10-24

Global Shutter为AI 点睛

 

前言:

 

AI(人工智能),是目前科技行业最火的话题。从Alpha Go战胜围棋世界冠军柯洁,到德勤与Kira Systems 联手,将AI引入会计、税务、审计等财务工作领域,可以看出,AI离我们的生活越来越近了。

 

AI到底能做什么,每个人都有自己的看法,大家对AI有着非常多的期待,期待AI能够解放人类双手,提高人类的工作效率。但不管怎么样,大家都希望AI可以让机器像人一样思考学习,像人一样听懂语音识别,像人一样控制运动,像人一样进行视觉识别,用机器实现目前所有必须借助人类智慧才能实现的任务。

 

在AI技术里,人工神经网络非常关键。在人工神经网络模型中,其结构分为输入层,隐藏层和输出层。(如下图)

 

image.png?imageView2/2/w/550

 

而做为AI的输入,目前主要是通过视觉输入和语音输入。为了让机器像人一样进行视觉识别,目前最重要的器件就是Camera sensor。Camera sensor就像机器的眼睛,为机器感知周围的世界。Camera sensor的拍照效果,跟很多参数有关,曝光时间是图像传感器其中一个重要的参数,而快门速度则会影响到Camera sensor的曝光时间。

 

那什么是快门呢?

 

快门主要用来控制摄像头传感器的有效曝光时间。一般而言快门的时间范围越大越好。若想抓到急速移动的物体,就需要快门速度越快越好。而若需要看到夜晚的车水马龙,就需要快门时间越长越好。

 

目前主要由两种曝光Shutter技术: Rolling Shutter 和 Global Shutter

 

Rolling Shutter:

 

Rolling Shutter的sensor 的曝光是按照逐行曝光的方式实现。在曝光开始的时候,Sensor逐行扫描逐行进行曝光,直至所有像素点都被曝光。当然,所有的动作在极短的时间内完成。不同行像元的曝光时间不同。

 

image.png?imageView2/2/w/550

 

(图片来源于网络)

 

Global Shutter:

 

与RollingShutter不同,是整幅画面同一时间曝光实现。摄像头传感器sensor的所有像素点同一时间感应光线,同时曝光。Sensor读出的是同一时间的同一画面。

 

image.png?imageView2/2/w/550

 

(图片来源于网络)

 

下面有两张图可以介绍这两种技术:

 

image.png?imageView2/2/w/550

 

image.png?imageView2/2/w/550

 

(图片来源于网络)

 

左边的图是Rolling shutter的曝光方式,逐行扫描。而右面的图则是Global Shutter的曝光方式,所有像素点一起曝光。

 

在拍照的时候,Rolling Shutter成像过程如下图:

 

左边,是一个常见的场景(上面风扇,下面小汽车),Rolling Shutter对它进行逐行扫描,成像结果如右图。面对一个运动中的物体,Rolling Shutter是一行一行曝光,采集画面,所以形变非常严重。而Global Shutter是所有像素同时曝光,所以不会产生此形变。

 

image.png?imageView2/2/w/550

 

(图片来源于网络)

 

之所以Global Shutter 能够做到全局曝光,跟Rolling Shutter相比,主要是Global Shutter在每一个像素上都增加了一个存储单元,才使得所有的像素能够同时曝光。

 

image.png?imageView2/2/w/550

 

同Rolling shutter相比,Global shutter的sensor可以很好的解决以下问题:

 

1. 高速物体变形 (左图是采用Global shutter技术的 SmartSens SC132GS拍摄的图片,右图是 Rolling shutter sensor拍摄的图片)。

 

可以明显看出用Rolling shutter sensor拍摄高速运动的风扇,物体会变形。

 

image.png?imageView2/2/w/550

 

(图片来源于SmartSens)

 

2. 明暗现象 (左图是采用Global shutter技术的 SC132GS拍摄的图片,右图是没有采用HDR技术拍摄的图片)

 

在光线有明暗变化的时候,左图Global shutter sensor 不会有明暗瑕疵,可以做到单帧HDR。

 

image.png?imageView2/2/w/550

 

(图片来源于SmartSens)

 

成像技术不停的演进,促进了AI的发展。通过AI,大数据和互联网技术,带动了智慧城市的建设。智能安防,智慧交通,智慧工厂,智慧商业,智能家居,都能看到Camera的身影。一般情况下,Rolling shutter技术就足够了,但若要捕捉高速运动物体,或在环境光条件不理想的情况下获取清晰图像的时候,使用Global Shutter技术,无疑会带来更好的效果。

 

1. 智慧安防

 

目前来看,AI最容易落地的就是安防领域。通过AI技术,将监控中的人准确无误的抓拍下来,可以最大化的实现监控目的。一般情况下,安防Camera主要抓拍的都是行人,都是慢速运动的物体,Rolling shutter sensor就可以胜任。但若通过Global shutter sensor,则可以在高速移动的拍摄场景中有效降低图像畸变,避免了抓拍时,人物或物体运动带来的斜坡晃动现象,以及人脸模糊的问题,从而提供更清晰的图像。因此在高速违章查处,卡口ETC等需要道路监控的地方,Global Shutter比Rolling Shutter更加胜任。

 

2. 智慧交通

 

为了让城市交通更加便利,疏导公共交通,智慧交通系统是解决交通发展瓶颈的有效手段之一。高速违章查处,卡口ETC,十字路口的道路监控,停车场的智能管理,道路流量监测,电子警察等都离不开成像技术。只有准确的成像信息,才能更加准确地判断当前的路况以及车辆的情况,才能更好地实现智慧交通。这个时候,Global shutter可以更好的助力智慧交通。

 

为了实现智慧交通,从汽车角度来看,新型汽车都在从ADAS辅助驾驶向自动驾驶的方向演进。无论是辅助驾驶还是自动驾驶,汽车的中控芯片对sensor接收下来的图像信息要求越来越高。中控芯片需要sensor在车辆高速运动中,不仅提供没有变形的清晰图片,还需要提供周边物体与车辆的距离。而Global shutter sensor一方面可以避免车辆高速运动时,Rolling shutter sensor 拍摄变形的问题,另外一方面,结合结构光技术(接收sensor是Global shutter的)或者双目摄像头(两个摄像头若都是Global shutter最好)技术,就可以提供更清晰的图像,以便于中控更加精准的计算出周边物体与车体的距离,判断当前的路况,判断交通灯的状况,才能使车辆行驶更加安全。

 

image.png?imageView2/2/w/550

 

(图片来源于网络)

 

3. 智慧工厂

 

由于Global shutter sensor可以清楚的还原高速运动中的物体的形态,有效避免Rolling shutter sensor 担心图像质量而降低自动流水线的速度问题。所以大型工厂在检测,质量管控,机械臂操作,物流,测量等自动化生产时,使用Global shutter可以提高生产效率。

 

4. 智慧商业

 

随着支付宝,微信支付的发展,国内二维码支付变得非常流行。而对于店家来讲,扫码设备的需求也在增长。对于扫码设备来讲,若用Global shutter sensor可以使扫码设备的可识别区域变长,使用户拥有更优的体验感。

 

image.png?imageView2/2/w/550

 

(图片来源于SmartSens)

 

5. 智能家居

 

家用设备若要智能化,也需要Camera的帮忙。比如,扫地机器人。扫地机器人若想将屋内的空间测量出来或者识别前方是否有障碍物,都离不开Camera这只眼睛。同样,Global shutter则可以帮助扫地机器人更加精准的获得距离信息,使得扫地机器人更加智能化。

 

虽然说Global Shutter 有很多优势,但是也无法完全替代Rolling Shutter。Global shutter sensor适用于拍摄高速运动物体,或AI应用中基于机器视觉算法的智能感知技术(vSLAM/手势跟踪识别/光流等算法),Rolling Shutter sensor则适用于拍摄运动速度相对较慢的物体或场景,可获得更高的成像信噪比。而且由于Global shutter 需要对每个像素都要增加一个存储单元,这样增加了sensor的生产难度以及成本。

 

考虑到BSI在低照条件下的成像亮度和清晰度都比FSI有更大的优势,可以有效增加Global shutter sensor在应用场景上的拓展,适应性更广,SmartSens首创将BSI技术和Global shutter技术相结合,发布了多款基于BSI(背照式)的Global Shutter sensor产品。

 

AI和IoT的发展,影响着人们的生活,甚至在改变人们的生活。而做为AI和IoT的眼睛,Camera sensor的技术发展也间接影响着AI和IoT的发展。SmartSens的理念是服务于应用技术的发展趋势,根据市场和应用技术的需求,将看清万物的“眼”做到极致。通过不断完善提升CMOS成像传感器的设计和制造能力,为AI和IoT点睛。

 


推荐阅读

史海拾趣

Foxconn_Optical_Interconnect_Technologies__Inc.公司的发展小趣事

Foxconn Optical Interconnect Technologies Inc. 的五个发展故事

故事一:创立与初步发展

Foxconn Optical Interconnect Technologies Inc.(简称FIT),作为鸿海精密工业股份有限公司(Foxconn,又称富士康)旗下的子公司,其发展历程可以追溯到富士康的崛起。富士康由郭台铭于1974年在台湾创立,起初主要生产塑料零件。随着电子行业的蓬勃发展,富士康迅速转型,开始涉足电子制造服务(EMS)。在这一背景下,FIT应运而生,专注于光机电整合连接器、天线、声学元件等产品的研发与生产,逐渐在电子行业中崭露头角。

故事二:技术突破与全球化布局

FIT凭借其在光电互连技术领域的不断创新,逐步确立了在全球市场的领先地位。公司通过持续加大研发投入,成功开发出一系列高性能、高可靠性的产品,广泛应用于电脑、通讯、消费电子等多个领域。同时,FIT积极实施全球化战略,在亚洲、北美、南美和欧洲等地设立生产基地和研发中心,形成了覆盖全球的生产和服务网络。这一布局不仅提升了公司的市场竞争力,也为其未来的发展奠定了坚实基础。

故事三:与富圣光电的合作

FIT与富圣光电科技(昆山)有限公司的合作是其发展历程中的一个重要里程碑。富圣光电作为富士康旗下专注于光电科技领域的企业,与FIT在技术研发、产品生产等方面展开了深度合作。通过资源共享和优势互补,双方共同推动了光电技术的发展和应用。目前,FIT持有富圣光电50%的股份,这一合作不仅增强了双方在光电市场的竞争力,也为双方带来了显著的经济效益。

故事四:收购夏普与技术整合

2016年,富士康(鸿海精密工业股份有限公司)成功收购日本夏普公司,这一举动对FIT的发展产生了深远影响。夏普在显示技术、半导体等领域拥有强大的技术实力和市场地位,而FIT则擅长光电互连技术的研发和生产。通过此次收购,FIT得以将夏普的先进技术与自身优势相结合,进一步提升了在光电领域的综合竞争力。同时,这也为FIT拓展国际市场、提升品牌影响力提供了有力支持。

故事五:新能源汽车领域的探索

近年来,随着新能源汽车市场的快速崛起,FIT也开始将目光投向这一新兴领域。公司利用自身在光电技术方面的优势,积极研发新能源汽车充电系统、光电传感器等关键零部件。通过不断的技术创新和市场拓展,FIT在新能源汽车领域取得了初步成果。这一领域的探索不仅为公司带来了新的增长点,也为其在光电技术领域的持续发展注入了新的动力。

Aimtec公司的发展小趣事

Aimtec公司自成立以来,一直致力于电子转换技术的研发与创新。在某个关键时期,公司研发团队成功开发出一种新型的DC-DC转换器,其转换效率较市场同类产品提高了近20%。这一技术突破迅速得到了业界的关注,不仅帮助Aimtec在市场上取得了竞争优势,也为客户的产品带来了更高的性能。随着该技术的普及应用,Aimtec的品牌知名度逐渐提升,公司在电子行业中崭露头角。

Fairchild Imaging公司的发展小趣事

Fairchild Imaging公司的历史可以追溯到1950年成立的Fairchild Camera & Instrument Company。这家公司自创立以来,就凭借其创新的技术和优质的产品,在许多重大的政府、国防项目中发挥了关键作用。随着公司业务的不断拓展,Fairchild Camera & Instrument Company逐渐将业务重心转向半导体和集成电路领域,并在此领域取得了显著成就。最终,Fairchild Imaging从Fairchild Camera & Instrument Company中独立出来,专注于高端成像技术的研发和应用。

CT [ Central Technologies ]公司的发展小趣事

CT公司成立于电子行业的黄金时期,起初只是一个小型研发团队,专注于研发新型半导体技术。创始人凭借对技术的敏锐洞察和不懈追求,带领团队攻克了一个又一个技术难题。然而,资金短缺、市场竞争激烈以及技术迭代的快速性给初创期的CT公司带来了巨大的挑战。公司多次面临生死存亡的边缘,但创始人始终坚持技术创新的初心,不断寻求合作伙伴和投资,逐渐在市场中站稳了脚跟。

Digital Core Design公司的发展小趣事

随着《古墓丽影》系列游戏的成功,Core Design的团队迅速扩张。当PS2主机即将推出时,索尼和Core Design都对这款新主机充满期待。为了抓住这一机遇,Core Design将“古墓丽影”的制作团队从最初的12人增加到60人,随后又增加到了100人。这一举措展示了Core Design对市场和技术的敏锐洞察力和决心。

Cybernetic Micro Systems公司的发展小趣事

随着智能手机市场的迅猛发展,CMS看到了新的机遇。公司投入大量研发资源,成功开发出一款专为智能手机设计的超低功耗芯片。这款芯片不仅性能卓越,而且能够有效延长手机的续航时间。CMS通过与多家知名手机厂商合作,将这款芯片广泛应用于各类智能手机中,从而迅速打开了市场。

问答坊 | AI 解惑

分析LM3S8962串口使用学习心得

LM3S8962串口模块特点;       1. 支持数据5~8位可配置;最高波特率3.125MHZ;       2. 起始位,停止位宽带可配置;       3. 校验方式可以配置,支持偶 ...…

查看全部问答>

一个专门给在杭软件硬件工作者开的群23267630

一个专门给在杭软件硬件工作者开的群23267630,欢迎在杭州从事软件,硬件开发的朋友加入…

查看全部问答>

外企公司招聘硬件工程师

要求: 1、有通讯公司或电信公司行业工作背景; 2、熟悉FPGA,高速电路和信号设计、路由器、基站; 3、3-5年工作经验。英语良好。 有需要请发Email至:carol.gao@iSearch-consultant.com.cn 或电话:13910215642  …

查看全部问答>

请教PowerPC + CT69030显卡的问题

我在我们的PowerPC主板上,使用CT69030显卡。设置为1024x768,RGB565,刷新60hz. 图像能够显示,但颜色对不上,Red,green,blue都对不上,这个会是什么问题呢,我用的是vxWorks操作系统。     会不会是因为大小端的原因 ...…

查看全部问答>

华为生产计划手册,看到有人需要

【资料名称】:华为生产计划手册 \'|:S:A\'j$y;`\"d&xmscbsc 移动通信论坛拥有30万通信专业人员,超过50万份GSM/3G等通信技术资料,是国内领先专注于通信技术和通信人生活的社区。;A#K3^9o8R3L%F.{4h#` 【资料作者】:华为移动通信,通信工程师 ...…

查看全部问答>

有关USB总线数据包的问题,在线等,谢谢

我从总线上捕获的USB信号为:令牌包(省略)EOP KJKJKJKK KKJKJKKK(PID) JKJKJKJK JKJKJK EOP ACK(省略)环境说明:这个包是一个IN包(从device 发往主机的),用的是中断端点我现在不知道为什么PID后面 ...…

查看全部问答>

电烙铁拆卸QFP芯片方法

用电烙铁拆: 步骤1、用直径0.15mm左右的漆包线从第一排引脚下穿过,一头固定,一头拉在手里。 2、用电烙铁从漆包线动端加热,同时用手将漆包线向下拉,注意手和烙铁的配合。 3、然后用上述方法拆其余三排引脚。OK! 对印制板无任何损伤!…

查看全部问答>

音频信号分析仪完整资料(包含各种论文、方案)

本帖最后由 paulhyde 于 2014-9-15 09:10 编辑  …

查看全部问答>

DS18B20初始化

sbit sbit_D18B20_DQ = P3^7; bit b_DS18B20_is_reset = 0; int int_temperature = 0; uchar uc_DS18B20_dat_buf[9] = {0};         b_DS18B20_is_reset = 0;         sbit_D18B20_DQ = 1;   & ...…

查看全部问答>

招聘PCB工程师

一、任职要求: 1、电子相关专业大专以上学历,熟悉电子硬件知识、原理,精通电子电路知识; 2、 具有2年以上PCB Layout的设计经验; 3、 熟悉PCB单板工艺、PCB检验标准,熟练使用Pads软件进行多层PCB设计; 4、 有良好数/模电路知识者优先 ...…

查看全部问答>