历史上的今天
返回首页

历史上的今天

今天是:2024年10月15日(星期二)

正在发生

2020年10月15日 | 苹果引爆TOF市场,dToF将成新风口!

2020-10-15 来源:芯智讯

北京时间10月14日凌晨,苹果正式发布了iPhone 12系列四款机型,跟之前爆料的一样,iPhone 12 Pro和iPhone 12 Pro Max都加入了此前iPad Pro曾率先采用的基于dToF技术的激光雷达扫描仪,这也意味着苹果在ToF技术应用上的进一步加码,而此举或将加速引爆整个ToF市场。



虽然,目前不少旗舰智能手机已经部署了ToF 3D摄像头,但是基本都是基于iToF技术,相比之下,dToF具备低功耗、抗干扰等优势,适用于对测距精度要求高的较远距离测距场景。伴随苹果iPhone 12系列的采用,以及AR/VR 技术的发展,dToF 有望成为智能手机摄像头的下一个风口。


一、dToF 开启深度信息的新未来


3D sensing 是智能手机创新的趋势之一,当前正加速向中低端手机渗透。目前实现 3D sensing 共有三种技术,分别为双目立体成像、结构光和 ToF,目前已经比较成熟的方案是结构光和 ToF。其中结构光方案最为成熟,已经大规模应用于工业 3D 视觉,ToF 则凭借自身优势成为在移动端较被看好的方案。



ToF 的多场景应用呈现出了比结构光更为广阔的发展前景。作用距离的劣势限制结构光的应用,ToF 技术则弥补了距离上的缺陷,可以被应用于包含 3D 人脸识别、3D 建模以及手势识别、体感游戏、AR/VR 在内的更多场景中,能够为智能手机带来更娱乐性和实用性的体验。此外,相比结构光技术,ToF 的模组复杂度低,堆叠简单,可以做到非常小巧且坚固耐用,在屏占比不断提高的外观趋势下,更得到手机厂商的青睐。


在今年苹果新iPad Pro率先采用了基于dToF技术的“雷达扫描仪”之后,也引发了业界关于dToF和iToF两种ToF技术的关注。



ToF(Time of Flight),通过测量发射光与反射光的飞行时间计算出光源与物体之间的距离,本质上是时间维度测量。根据测距的方式不同,目前存在两种 ToF 技术路线:iToF(间接飞行时间,indirect-ToF)和 dToF(直接飞行时间,direct-ToF)。dToF 直接测量飞行时间,原理是通过直接向测量物体发射光脉冲,并测量反射光脉冲和发射光脉冲之间的时间间隔,得到光的飞行时间,从而直接计算待测物体的深度。iToF 则是通过发射特定频率的调制光,检测反射调制光和发射的调制光之间的相位差,测量飞行时间。


iToF 间接测量飞行时间,具备低成本、较高分辨率优势,适用于短距离测距。iToF 原理为把发射的光调制成一定频率的周期型信号,测量该发射信号与到达被测量物反射回接收端时的相位差,间接计算出飞行时间。由于 iToF sensor 的 pixel 相对较小,可实现相对高图像分辨率。但iToF问题在于的测距精度的实现限制了最大测距距离,从原理上看,调制频率越高则测距精度越好,高调制频率意味着对应的测距距离不能太大,并且环境光会对电路产生干扰。因此目前 iToF 主要应用在手机面部识别、手势识别等测距距离较短的场景中。


iToF 传感器电路相对简单,难点主要在深度算法,安卓阵营自 2018 年引入 iToF 并推动其主流化。目前如三星、华为、OPPO、vivo 等品牌均有在中高端机型中配臵,除此之外,iToF 在物体识别,3D 重建以及行为分析等应用场景中能够重现场景中更多的细节信息,因此还被广泛应用于机器人、新零售等领域。



dToF 直接测量飞行时间,具备低功耗、抗干扰等优势,适用于对测距精度要求高的较远距离测距场景。dToF 原理为向被测物体发射光脉冲,通过对反射和发射光脉冲时间间隔的测量,直接计算待测物体的深度。测距原理使得 dTOF 测量精度不会因距离增大而降低,功耗更低同时对环境光的抗干扰能力更强。


dToF 深度算法相对简单,难点在于用以实现较高精度的 SPAD。dToF 要检测光脉冲信号(纳秒甚至皮秒级),因而对光的敏感度要求会很高,因此接收端通常选择 SPAD(单光子雪崩二极管)或者 APD(雪崩光电二极管)这类传感器来实现,集成度弱于普通的CMOS 图像传感器,像素尺寸一般大于 10μm,从而分辨率通常较差,成本更高。SPAD是 dTOF 技术的核心,技术难度大且制作工艺复杂,目前世界上极少厂家具备量产能力,集成难度很高难以小型化应用在手机等小型消费电子上,因而除传统热门应用领域车载LiDAR 之外,消费电子领域目前仅有苹果一家实现商用(iPad Pro 首次搭载)。



未来 TOF 会向更高集成度、更小的传感器尺寸、更高分辨率发展。目前传统的 CIS 单像素尺寸最小可达到 0.7μm,而目前 0.6μm 也已经在研发中。但 ToF传感器更要求单像素获取信号的能力,因而需要更大的单像素尺寸;dToF 传感器电路设计比较复杂,需占据较大的片上尺寸;iTOF 像素尺寸则需暂时让步于更高的集光效率。种种原因使得 ToF 图像传感器的小型化存在一定困难。



半导体工艺改进将有望实现 TOF 传感器小型化。ToF 传感器厂商通过半导体工艺方案的改进,如背照式(BSI)、堆栈式(Stacked)CMOS 等技术,将原本位于光电二极管上方的布线层移至下方,以及将光电转换器、电子倍增器(electron multipier)这些部分垂直堆叠,增大像素开口率,同时减小像素尺寸。目前根据松下最新的研究成果,dToF 传感器也可以用 CMOS 工艺实现,集成度已经在数量级上逼近 iToF 方案。



目前 ToF 技术低分辨率的固有缺陷仍然存在,未来有望随技术更迭而实现突破。目前ToF 测量精度量级仍然相较结构光方案落后,但近两年其传感器分辨率已经在提升。iToF方面,英飞凌面向消费市场的一般 REAL3™传感器(iToF)也达到了 3.8 万像素,2019年推出的 IRS2771C 则达到 15 万像素;dToF 方面,例如 iPad Pro 2020 的 LiDAR 分辨率达到了 3 万像素;另外 TDC 电路设计进步也逐步提升着 CMOS 电路中的 TDC 时间分辨率精度,有望带来 dToF 的分辨率的提升。


二、ToF 未来最有潜力的应用在 AR 领域


目前手机是 ToF 在消费电子中的主要应用领域,随着市场对 3D 视觉与识别技术的兴趣日益浓厚,头部终端厂商推动 TOF 技术在 3D 感知和成像方向上不断拓展,我们看到 TOF技术在智能手机端加速渗透,TOF 的使用进一步丰富着 3D sensing 的应用场景。伴随苹果iPhone 12系列的采用,以及AR/VR 技术的发展,ToF 有望成为智能手机摄像头的下一个风口。


ToF 助力消费级 AR 普及。ToF 技术的应用亦是 AR、VR 时代的催化剂。考虑到 ToF 的两个独特的优点——作用距离长、刷新率高,存在远距离 3D 测距需求的 AR/VR 是最能体现 TOF 优势的功能之一。3D 摄像头技术提供的手势识别功能将成为未来 AR/VR 领域的核心交互手段。目前各大厂商推出的 VR 设备大都需要控制器,游戏控制器的优势在于控制反馈及时、组合状态多。


根据 Markets and Markets,2019 年全球 AR 市场规模达到 107 亿美元,预计到 2024 年将达到 727 亿美元,复合增长率达 46.6%。过去几年中,以 Facebook、英特尔、高通和三星为代表的公司在 AR 领域进行了大量投资,推动了全球 AR 市场的快速增长。中国AR 市场规模预计在 2024 年将达到约 59 亿美元,从下游应用来看,工业应用占比最大,约占 42%,其次是汽车(18%),零售(15%)以及航空与国防(10%)等。



AR 室内设计。2020 款 iPad Pro 使用了 dToF LiDAR 技术,通过这一技术可以获得 3D 空间的深度信息,建立详细的室内环境空间数据,模拟出摆放了新家具后的情况。宜家的IKEA Place 应用,利用 AR 让家居产品的外观和在家中的摆放效果直接呈现在用户眼前。



医疗学习。Complete Anatomy 是一款教医学院学生通过虚拟技术了解心脏、实时肌肉运动、神经系统等人体结构的软件,在 2020 款 iPad Pro 上可以使用这一软件,它将帮助专业人士更准确的评估病人的身体运动情况,为未来医学发展带来更多可能性。



3D 摄像头技术提供的手势识别功能将成为未来 AR/VR 领域的核心交互手段。目前各大厂商推出的 VR 设备大都需要控制器,游戏控制器的优势在于控制反馈及时、组合状态多。以 HoloLens 为例,就拥有一组四个环境感知摄像头和一个深度摄像头,环境感知摄像头用于人脑追踪,深度摄像头用于辅助手势识别并进行环境的三维重构。


拍照虚化。ToF 具备更好的景深信息采集功能,加入智能手机后摄模组后,能够实现快速、远距离获取更高精度的深度图(depth map),从而完成较结构光范围更大的 3D 建模,而且由于自带红外光源,其在暗光环境下获得的景深信息同样准确。因此,有 TOF摄像头参与的成像在虚化效果上会更加真实,富有层次。华为 2019 年发布的旗舰机 P30 Pro 在后臵 3D 成像与感知模组中加入 ToF 镜头辅助,ToF 镜头获取的更多景深信息加强背景虚化功能,相比双目视觉更加精准,使得得到的图像虚化边缘更加清晰、更具表现力。


手势识别。目前不少手机具备的悬浮手势识别功能,不用直接接触手机屏幕,仅借由前臵 ToF 的对手势的 3D 感知,通过如在手机前挥挥手这样简单的操作来实现翻页、滚屏等普通操作。体感游戏相比前者更具交互性,通过 TOF 技术能够采集到被拍摄人的身体深度信息,捕捉和采集身体的动作,进行手势判定,控制预制的 3D 建模人偶的形象和动作,实现真人和 3D 虚拟形象跟随,用身体、动作和手势做游戏交互。


ToF 技术的应用是 AR、VR 时代的催化剂。考虑到 ToF 的两个独特的优点——作用距离长、刷新率高,存在远距离 3D 测距需求的 AR/VR 是最能体现 TOF 优势的功能之一。3D 摄像头技术提供的手势识别功能将成为未来 AR/VR 领域的核心交互手段。



dTOF 技术的应用有望推动 AR 内容的完善,加速消费级 AR 普及。苹果 2017 年便针对开发者们发布了用于 iOS 设备上 AR 应用开发的 ARKit 开发工具,2020 年发布的 iPad Pro为消费电子设备首次搭载 dToF 模组,可视为苹果针对 5G 时代 AR 领域的进一步布局。


此前iPad Pro 搭载的 LiDAR(激光雷达扫描仪),采用 Sony 3 万像素 10μm dTOF 图像传感器,SPAD 阵列的探测器,并集成了 Lumentum 的 VCSEL 芯片和 TI 的 VCSEL 驱动芯片,能达到 ps 级时间分辨率,可实现 5 米范围内的 3D 感知与成像,具备更快的 AR 建模速度、更高的测量精度和更少的抖动、错位。


▲iFixit拆解新款iPad Pro的后置相机模组


▲TechInsights拆解的新款iPad Pro的“激光雷达扫描仪”内部的Sensor


Sony 的 dTOF 方案首次采用 3D 堆叠工艺,像素内连接通过混合键合互连技术将探测器晶圆和逻辑电路晶圆键合实现,同时,深沟槽隔离(Deep trench isolation)也被应用,充满金属的沟槽完全隔离了像素。从而有效控制了 dTOF 传感器的尺寸,使其成功的应用在 iPad 这类小型消费电子设备中。




目前 iPad Pro 的 LiDAR 共呈现出三种典型场景的应用。AR 测量、AR 游戏和 AR 装修设计。


AR 测量:LiDAR 可以快速计算人的身高,并展现垂直和边缘引导线。通过开发者开发的app 可实现对物体尺寸、建筑物更精细的测量。


AR 游戏:LiDAR 通过对周围真实环境的扫描和快速获得深度信息能力,为 AR 游戏开辟了更广阔的设计空间。如官网展示的《炽热熔岩 (Hot Lava)》电子游戏,可以把客厅变成一个虚拟的熔岩环境,游戏中的玩家可以跳到家具上以此来避开模拟中的地板熔岩。iPad Pro 上市后带动开发者不断丰富 iOS 平台上 AR 游戏内容,也使一些原有的 AR 游戏因为玩法升级而更具有生命力。


AR 装修:iOS 上的 Shapr3D app,借助 LiDAR 对房间进行扫描创建 3D 模型,用户可以对该模型展开编辑或添加新对象,使用 AR 可以查看实际房间在编辑后的虚拟效果,帮助用户在装修动工前更真切体验设计效果。宜家 Place 应用同样可以通过扫描一个房间获得与之匹配的家具推荐,然后使用 AR 查看家具摆放效果。



dTOF 在 iPad Pro 上的应用,可以视为苹果打通 AR 生态硬件基础的第一步。未来苹果通过技术改进和突破,有望将 dTOF 引入手机端以及更多地 AR 设备,促进 AR 硬件设备的发展同时,也激发设计师基于 dTOF 的特性开发如建筑、教育、医疗等更多场景的 AR内容应用,推动 AR 应用生态持续完善。



华为河图(Cyberverse)定义地球级 XR 应用(包括 VR、AR、MR 等扩展现实技术), 将 AR 应用拓展到更广阔的数字世界。华为河图(Cyberverse)被定义用来提供地球级的虚拟现实融合服务的数字平台,华为 AR 地图是其推出的第一个商业产品,主要功能包括 AR 实景导航、全息信息展示、虚实融合拍照及其他虚拟活动等。全场景空间计算能力是河图的核心,这一能力所需的宏观地图可以使用卫星定位,而室内及一些微观场所的建模定位则依赖智能手机的 3D Sensing 来完成。目前华为 P40 系列机型已经能够支持华为 AR 地图。


下一波移动终端创新将围绕 AR 进行革命性创新。AR/VR 开发平台的搭建和完善,及增强现实内容市场的蓬勃发展,必然会推动 TOF 产业的发展。TOF 有望接力结构光,从生物感知到虚拟现实,从人脸识别到 3D 建模,带来产业端升级和用户体验优化,前臵人脸识别+后臵虚拟现实功能可能成为手机的下一个形态。伴随 AR/VR 的发展,ToF 有望成为 5G 时代智能手机摄像头的下一个风口。


三、下一波创新性革命,TOF 市场空间巨大


下一波移动终端创新将围绕 AR 进行革命性创新。随着增强现实内容市场的蓬勃发展,内容厂商不断推动 AR/VR 开发平台的发展,必然会推动 TOF 产业的发展。TOF 有望接力结构光,从生物感知到虚拟现实,从人脸识别到 3D 建模,带来产业端升级和用户体验优化,前臵人脸识别+后臵虚拟现实功能可能成为手机的下一个形态。伴随 AR/VR 的发展,ToF 有望成为智能手机摄像头的下一个风口。


我们看到 2019 年 3D 感测手机大多集中在高端机等旗舰机型,结构光以苹果为代表,自iPhoneX 后的机型都已经搭载结构光功能,而华为搭载 TOF 的机型数量最多。根据 Yole的预测数据也显示,全球 3D 成像和传感器的市场规模在 2016–2022 年的CAGR 为 38%,2017 年市场规模 18.3 亿美元,2022 年将超过 90 亿美元。其中,消费电子是增速最快的应用场,2016–2022 年的 CAGR 高达 160%,到 2022 年消费电子市场规模将超过 60亿美元。


从出货量上来看,我们预测智能手机 3D 感测需求将从 2017 年的 4000 万部增加至 2019年的 2 亿部以上,其中 2019 年的 ToF 机型还主要集中在几款高端旗舰机,从 2020 年开始 TOF 的出货量将进一步爆发,特别是在iPhone 12系列发布之后,TOF在整体 3D 感应中占比有望达到 40%。




我们预测 2019/2020 年 TOF 的出货量为 7760 万/1.6 亿部,同比大幅增长747%/108%。



四、BOM 比较:TOF 或更具成本优势


我们预计 ToF 和结构光的 BOM 成本大约为 12~15 美元和 20 美元,相比之下 TOF 更具有成本优势。以 iPhone X 为例,结构光技术的解决方案包括三个子模块(点投影仪,近红外摄像机和泛光照明器+接近传感器),而 ToF 解决方案则将三个集成到一个模块中,可以将包装成本降低。




我们预计在这个 TOF 模组中,芯片的成本仍占主要的部分,大约占到整体 BOM 的 28%~30%。




五、深度解析 3D Sensing 摄像头产业链


目前 TOF 或结构光的 3D 感知技术均为主动感知,因此 3D 摄像头产业链与传统摄像头产业链相比主要新增加红外光源、红外传感器和光学组件等部分。通过对已经上市的主流 3D 摄像头产品进行拆解分析,3D 摄像头产业链可以被分为:1、上游:红外传感器、红外光源、光学组件、光学镜头以及 CMOS 图像传感器;2、中游:传感器模组、摄像头模组、光源代工、光源检测以及图像算法;3、下游:终端厂商以及应用。



TOF 和结构光二者虽然原理不同,但其所需要的核心部件基本相同,TOF 中的核心部件包括发射端的 VCSEL 光源、Diffuser 等,接收端的镜头、窄带滤光片、近红外 CMOS 等。





推荐阅读

史海拾趣

极海半导体(Geehy)公司的发展小趣事

机顶盒,这一在现代家庭娱乐中占据重要地位的设备,全称为数字视频变换盒,它不仅是连接电视机与外部信号源的桥梁,更是数字电视技术与互联网融合创新的结晶。从广义上讲,机顶盒泛指所有与电视机连接的网络终端设备,它们能够接收来自有线电缆、卫星天线、宽带网络及地面广播的数字信号,并将其转换为适合电视播放的格式。

从功能划分上,机顶盒可分为数字机顶盒和网络机顶盒两大类。数字机顶盒主要负责数模转换,使模拟电视机也能收看数字电视节目;而网络机顶盒则进一步融入了互联网功能,提供更为丰富的互动娱乐体验,如在线视频、网络购物、社交媒体浏览等。近年来,随着技术的发展,网络机顶盒不断升级,支持高清、超高清视频播放,并集成人工智能技术,实现语音控制、智能推荐等功能,为用户带来更为便捷、智能的观影体验。

在技术层面,机顶盒的发展深受高清、超高清、云计算、边缘计算以及5G等新兴技术的推动。这些技术的应用不仅提升了机顶盒的性能,还为其内容的创新提供了强有力的支持。同时,随着市场竞争的加剧,机顶盒厂商不断优化产品设计,提升用户体验,以满足用户对高质量娱乐内容日益增长的需求。

综上所述,机顶盒作为家庭娱乐的重要组成部分,正通过技术的不断创新和市场的持续发展,为用户提供更加丰富、便捷、智能的观影体验。

EWC Controls公司的发展小趣事

随着公司规模的不断扩大和技术实力的增强,EWC Controls公司开始拓展全球市场。公司积极参加国际展会和交流活动,与全球各地的客户建立联系和合作。同时,EWC Controls公司还针对不同国家和地区的市场需求和法律法规要求,对产品进行适应性改进和优化。这些努力使得公司的产品逐渐走向国际市场,并赢得了良好的口碑和市场份额。

Crouzet公司的发展小趣事

随着业务的不断发展,Crouzet公司于1989年和1992年分别成功兼并了法国Syreles公司及墨西哥Gordos公司。这一系列的兼并活动不仅增强了公司的实力,还进一步扩大了公司的业务范围。此后,Crouzet开始在全球范围内布局,陆续在美国、德国、英国、荷兰、比利时、瑞士、瑞典等国设立分公司,形成了一个覆盖全球的销售网络。

ACEINNA公司的发展小趣事

ATC公司深知质量管理对于企业发展的重要性。因此,公司建立了严格的质量管理体系,从原材料的采购到产品的生产、检测、包装等环节都进行严格控制。此外,ATC公司还注重员工的培训和教育,提升员工的质量意识和技能水平。这些措施确保了ATC公司产品的稳定性和可靠性,赢得了客户的信任和好评。

FLIR公司的发展小趣事

随着业务规模的不断扩大,FLIR逐渐将目光投向全球市场。公司在全球范围内建立了多个生产基地和销售服务网络,包括在美国本土的波特兰、波士顿、圣巴巴拉和波兹曼等城市设立的工厂,以及在瑞典斯德哥尔摩和爱沙尼亚塔林等海外地区设立的分支机构。这些生产基地和销售服务网络为FLIR在全球市场的拓展提供了有力支持,使得公司能够更好地服务于全球客户,满足他们多样化的需求。

复旦微电子(FM)公司的发展小趣事

为了进一步扩大市场份额,FLIR在20世纪80年代末至90年代进行了一系列重要的战略并购。1990年,FLIR收购了美国休斯飞机公司在工业红外成像领域的业务,这一举动极大地增强了其在商业热成像市场的竞争力。随后,FLIR又分别收购了瑞典的Agema公司和波士顿的Inframetrics公司,这两家公司都是红外热像仪领域的佼佼者,拥有丰富的技术积累和市场资源。通过这些并购,FLIR不仅壮大了自身的研发团队和销售网络,还加速了其挺进商用热成像市场的步伐,进一步巩固了其市场领先地位。

问答坊 | AI 解惑

更新运动系统的方法

为了在激烈的竞争中取胜,生产商们必须想方设法制造出比上一代产品或市场上的竞争产品速度更快、体积更小、运行更精确、噪音更小、成本更低的机器。同时,随着机器老化、花费增加和技术进步,运动系统的更新换代也成为必需。无论什么原因,技术变革 ...…

查看全部问答>

130万像素CMOS数码相机的设计

本文介绍了一种130万像素CMOS数码相机的设计原理、基本组成及规格特点,并已有具体实践的结果和产品应用。 …

查看全部问答>

急!!~~大家帮我看看啊,错了很久了

我用的飞思卡尔的IMX21的板子,现在要移植2.6的内核上去,但是编译的时候在这里一直通不过,请大家帮忙看看,谢谢了 CHK include/linux/compile.h AS arch/arm/kernel/head.o arch/arm/kernel/head.S: Assembler messages: arch/arm/kernel/hea ...…

查看全部问答>

wince 6.0 gprs 拨号 AT 高分求教

用单片机做过GSM/GPRS的打电话、发短信、TCP/IP数据发送,习惯了AT指挥串口操作 忽然到了wince了,迷茫了,明明简简单单的操作串口的事,怎么到windows这儿就整出这么多事来,什么cellcore、什么tapi、什么RIL、什么拨号 牢骚发完,言归正传。首 ...…

查看全部问答>

请问VxWorks下网络上传的文件和直接拷贝的文件有什么不同吗?

我需要在目标机上放置大量的.DAT数据文件以供程序读取运行,将目标机硬盘接到主机上直接将这些文件拷贝到目标机硬盘上,然后恢复目标机即可正常运行,但是将这些文件直接通过网络ftp上传到目标机硬盘上后,却没能正常的读取这些文件。请问这可能是 ...…

查看全部问答>

悄悄地问一个关于GPIO的问题。

如下 代码:            // *** set GPB6 Key lock ****************         sCPUIOP->GPBCON &= ~(3…

查看全部问答>

我面试通知说,会问些VLSI工艺原理,这个科目会包含哪些内容?

我面试通知说,会问些VLSI工艺原理,这个科目会包含哪些内容?…

查看全部问答>

BKP寄存器改不了?

指令:  *(vu16 *) (BKP_BASE + 1) = 0x5a5b;…

查看全部问答>

急,读不到P1口的输出数据,请高手指点

单片机型号:STC89C52RC   问题描述:读P1口数据,数据为空   P1已经定义 uchar uReadValue;   P1_0=0; P1_1=0;     //此处OK,正常点亮了P1低位的两个Led uReadValue=P1;//将P1的值赋给变量uReadValu ...…

查看全部问答>

嵌入式软件可靠性设计

嵌入式软件可靠性设计 大家看一下是否对你们的工作有帮助。…

查看全部问答>