Jacinto™︎摄像头接入与ISP处理详解

押注自动驾驶感知领域,欧菲光年内将推固态激光雷达

电子发烧友网报道(文/梁浩斌)欧菲光自去年被苹果踢出供应链后,日子过的不太好,2021年营收同比直接腰斩,净亏损高达26.25亿元。而失去了智能手机大客户后,欧菲光在最近的2021业绩说明会上,表示将会以光学产业稳健发展为基础,加速发展智能汽车以及新领域,构建智能手机、智能汽车、新领域三大板块的业务结构体系。   那么在智能汽车上具体布局怎样?欧菲光在最近的业绩说明会上透露,自动驾驶感知方案会是公司的主要优势之一。公司预

ADAS的技术使驾乘体验更舒适、更安全、更智能。TI Jacinto

TDA4VM&DRA829处理器是TI最新一代的处理器,以先进的高集成度和多核异构的高性能处理能力,展现了其灵活的处理能力和极具竞争力的成本,为ADAS技术实现提供了极具竞争力的平台。 在ADAS的应用中,摄像头作为感知模块,越来越多地摄像头被部署在应用中,感知能力的大小对应用来说至关重要,因此,本文将介绍Jacinto7处理器摄像头接入和ISP的处理能力。

Jacinto7 图像接入

Jacinto7 TDA4VM/DRA829摄像头接入子系统包含了2x MIPI CSI-2接口 和video processing front end(VPFE),可以支持多个摄像头的接入。

图1 : TI Jacinto7摄像头接入子系统

对于MIPI-CSI2接口支持情况如下:

  • 2x MIPI D-PHY with 4 lanes (2.5Gbps/lane)
  • Supports 8 sensors with de-serializer Hubs
  • 2x Camera Adaptation Layer (CAL)

– Protocol stack for MIPI CSI2

– Supports all MIPI supported formats

  • RAW/DPCM/YUV
  • RAW 8, 10, 12, 14, 16 bits

– Companied or linear

  • Concurrent read of pixel stream from SDRAM

– Real-time priority on I/F port traffic

VPFE输入接口模块用于接收原始图像、视频数据、YUV等数字图像数据。VPFE支持的功能如下:

  • Support for conventional Bayer pattern and Foveon sensor formats.

– Generates HD/VD timing signals and field ID to an external timing generator or can synchronize to the external timing generator

– Support for progressive (non-interlaced) and interlaced sensors

– Support for up to 110-MHz sensor clock.

– Support for REC656/CCIR-656 standard (YCbCr 422 format, either 8- or 16-bit).

– Support for YCbCr 422 format, either 8- or 16-bit with discrete HSYNC and VSYNC signals.

– Support for up to 16-bit input.

因此,从图像接入来说,TDA4VM/DRA829 MIPI-CSI2的每个接口有10Gbps 的带宽,两个MIPI-CSI2有20Gbps的带宽,每个CSI2接口支持16个Virtual Channels,因此两个CSI2接口可以支持多达32路摄像头。EVM可以方便展示多达8路2M摄像头的接入。

Jacinto7 图像处理

Jacinto7集成了视觉预处理加速器Vision Pre-processing Accelerator(VPAC), 提供了常用的图像处理功能,比如颜色处理和增强、噪声过滤、宽动态(WDR)、镜头畸变矫正、图像金字塔、图像缩放等。基于TI 超过20年在数百万种产品中部署的多个Soc系统,TI发布了最新一代的成像系统,即德州仪器第七代ISP,并被集成在了Jacinto7 TDA4VM和DRA829处理器。

如图2 VPAC系统框图所示,由以下主要模块组成:

  • Video Imaging Subsystem (VISS)
  • Lens Distortion Correction (LDC)
  • Bilinear Noise Filter (BNF)
  • Multi-scaler (MSC)

图2 : TI Jacinto7 VPAC 系统框图

VISS(Video Imaging Subsystem)模块主要处理RAW数据并输出RGB或YUV图像。其包含RAW FE(Raw Front End)、NFS(Noise Filter)、GLBCE(Global and Local Brightness Contrast Enhancement)、FCP(Flex Color Processing)等模块。

LDC(Lens Distortion Correction)主要对图像进行畸变矫正。

MSC(Multi-Scalar)主要功能是对图像进行缩放。

BNF(Bilateral Noise Filtering)双边滤波去除噪声。

TDA4VM的VPAC的处理能力是720MP/s,因此理论上可以对24M RAW摄像头的数据进行处理。

Jacinto7 Use Cases

Jacinto7 的用户经常会问TDA4VM/DRA829能够接几个摄像头,有几个ISP,ISP能够处理几路摄像头的问题。 通常我们经常使用MIPI-CSI2接收图像,使用VPAC里面VISS对RAW图像进行处理。TDA4VM/DRA829处理器有两个CSI-2接口,一个ISP, ISP可以分时处理多路图像, 其吞吐量如下表所示:

IP

Max Throughput

CSI-2*2

10Gbits*2

VPAC

720 MP/s

当前的SDK中已经支持摄像头查看Release Notes(https://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-jacinto7/latest/exports/docs/imaging/imaging_release_notes.html#ImageSensor_Support)

PSDKRA Multi Camera Use Case 1

Jacinto7 SDK支持Multi Camera Use Case,其系统框图如图3所示,该Demo同时可以接入8个2MP@30FPS摄像头,摄像头先通过FPD LINK串化器UB953,然后通过同轴接入FPD LINK解串器UB960,最后通过TDA4VM MIPI-CSI2接口接入TDA4VM进行图像处理。

该Demo可以在EVM快速搭建,需要TDA4VM EVM、Fusion Board(摄像头接口板)和8个AR0233或IMAX390摄像头。

图3 : TDA4VM Multi Camera Use Case 1

该Use Case的利用率如下8*2MP@30FPS(RAW12):

IP

Max Throughput

Utilization

Utilization(Percentage)

CSI-2 (Port1)

10 Gbits

2.88 Gbits

28.80%

从新能源汽车火热看自动驾驶发展,主流的激光雷达如何设计更轻松?

3月底,国内新势力蔚来新车型ET7迎来正式交付,引起汽车圈广泛热议。作为蔚来旗下首款中大型轿车,其配备了高精度激光雷达在NAD自动驾驶技术下实现了“点到点自动驾驶体验”。事实上,从去年的小鹏P5到如今的蔚来ET7,以及即将面世的理想L9等数款新能源中高端车型,都不约而同的选择了激光雷达为其自动驾驶提供关键感知支撑。从概念到大规模落地,激光雷达在2022终于迎来上车前装量产元年。     当前,我国自动驾驶行业在政策、技术、市场需

CSI-2 (Port2)

10 Gbits

2.88 Gbits

28.80%

VPAC

720 MP/s

480MP/x

66.66%

PSDKRA Multi Camera Use Case 2

当前的ADAS应用中,有4个2MP@30FPS摄像头实现全景,1个8MP@30FPS实现前视,另外一个摄像头完成DMS或后视功能。一个前视摄像头其系统框图如图4所示:

  • 1*8MPpixel@30fps RAW12 Front Camera
  • 1*1MPpixel@60fps RAW12 Rear/DMS Camera
  • 4*2MPpixel@30fps RAW12 Surround View (SRV) Camera

图4 : TDA4VM Multi Camera Use Case 2

该Use Case的利用率如下:

IP

Max Throughput

Utilization

Utilization(Percentage)

CSI-2 (Port1)

10 Gbits

3.6 Gbits

36%

CSI-2 (Port2)

10 Gbits

2.88 Gbits

28.80%

VPAC

720 MP/s

540MP/x

75%

PSDKRA Multi Camera Use Case 3

在Jacinto7里面如果超过8个摄像头应该怎么接呢?假如依旧使用TDA4VM CSI2的两个接口,如果是9个或9个以上的摄像头,需要如何接呢?FPD LINK有Cascading的功能,如下方案采用FPD LINK Cascading的功能,其系统框图如图6所示:

图6 : TDA4VM Multi Camera Use Case 3-2

IP

Max Throughput

Utilization

Utilization(Percentage)

CSI-2 (Port1)

10 Gbits

2.16 Gbits

21.6%

CSI-2 (Port2)

10 Gbits

2.88 Gbits

28.80%

VPAC

720 MP/s

420MP/x

60%

总结

摄像头的接入和处理能力对用户方案至关重要,因此,本文对Jacinto7 TDA4VM/DRA829处理的摄像头接入和处理能力进行了概述,并使用实际的Use Case 介绍了摄像头的接入和处理方案,用户可以根据实际应用需求对文中的方案进行修改。对于其它的Jacinto7的处理器,比如TDA4VL、TDA4AL、TDA4VMECO、TDA4VH、TDA4AH等处理器,本文也同样适用,需要注意的是不同处理器的CSI和VPAC带宽的不同,性能有所差异,因此需要根据带宽进行换算。

审核编辑:符乾江

海豚E3.0的电池系统解析

海豚E3.0走的是平电池系统,也是后续E3.0和之前王朝系列比较大的差异,不光刀片电芯的布置比较完善,就里面的电子电气部件布置也是可以按照优化的方法来做。

相关文章

联系我们

联系我们

400-999-6099

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部