事件相机(Event-based camera)是一种受生物启发的先进视觉传感器,也被称为动态视觉
传感器(DVS,dynamic vision sensor)或DAVIS(Dynamic and Active-Pixel Vision Sensor)。与传统的固定帧率采集图像的标准相机相比,事件相机具有低延迟、高动态范围、低功耗和高时间分辨率等独特特点。
事件相机被称为一种仿生传感器,其研究领域被称为“仿生视觉”。制造事件相机的灵感源自于仿生学。在人眼中,存在一些视觉细胞对动态物体非常敏感。想象一下,当你面对一个静态房间时,你会逐渐观察它,这个过程会很缓慢(就像要找到房间里放着一本书的角落)。但是,如果突然有物体开始移动,我们的注意力会立即被吸引过去。传统相机呈现给我们的是前一种情况,即静止空间的图像。而事件相机的目标就是敏锐地捕捉到运动物体。
图1展示了事件相机和标准相机的数据采集过程。可以看出,当物体运动时,标准相机由于采样频率的限制会丢失部分数据,而事件相机则能够采集到更完整的数据。此外,当目标物体与相机相对运动时,标准相机容易产生运动模糊问题,受曝光时间等因素影响,而事件相机获得的数据则不会出现这个问题。
接下来,我将通过介绍事件相机的工作原理、常见应用场景和数据处理范式,对事件相机进行简要介绍。
事件相机的工作原理
事件相机可以简单地理解为一种仅感知运动物体的传感器。每个像素都有一个独立的光电传感模块,在该像素处的亮度变化超过设定阈值时,将生成并输出事件数据(也称为脉冲数据)。由于所有像素都独立工作,事件相机的数据输出是异步的,并呈现出稀疏性的空间特点。这是事件相机与标准相机最大的不同之处,也是其核心创新之所在。这种成像范式的优势在于能够大大减少冗余数据,从而提高后处理算法的计算效率。传感器的工作原理通常基于特定的数学模型,下面我们介绍一下事件相机的数学模型。
为了方便介绍,我们首先定义一些名词和变量。假设亮度为L;事件相机中的亮度定义为实际亮度的对数值,即log(L)。那么,在时刻t,像素处的亮度增益记为ΔL,其中Δ表示微小时间间隔。当亮度变化超过设定的阈值时,就会触发事件,该过程表示为ΔL > θ,其中θ表示设定的亮度变化阈值。通常情况下,阈值θ的取值范围为亮度的10%~50%。事件的极性用符号p来表示,如果亮度增强,则表示发生正事件;否则,表示发生负事件。最终触发的事件数据表示为(E, t, p),其中E表示事件的位置坐标。
图2展示了事件触发的效果。左图表示在一段时间内生成的离散数据点,蓝色点表示正事件,红色点表示负事件;右图将整个时间段内的全部事件按像素位置堆叠在一起,形成一张图像。从右图可以看出,事件主要发生在物体的边缘上。这是因为当物体运动时(或相机运动时),物体的边缘与背景之间会产生更大的亮度变化。
事件相机的优点
事件相机具有低时延和高动态范围等优点。以下是事件相机的主要优势,可能不全面,但可以逐渐在使用中发现:
高动态范围和低时延:相邻事件之间的时间间隔可以小于1微秒,能够实现低时延的数据采集。
抗运动模糊:传统相机在拍摄高速运动物体时会产生模糊,而事件相机几乎不会出现这个问题。如下图所示:
当拍摄慢速旋转的圆盘时:
传统相机
当拍摄快速旋转的圆盘时:
传统相机
可以看到,传统相机在快速旋转时产生了模糊效果,而事件相机能够完整记录物体的运动状态。
常见应用场景及处理范式
事件相机具有一些标准相机无法完成的任务,如高速运动估计和高动态范围建图等。此外,它还被用于传统视觉任务,如特征检测与跟踪、光流估计、3D重建和姿态估计等。
为了充分发挥事件相机的性能,研究人员开始思考如何从事件数据中提取更多有效信息的方法。目前,常见的事件数据表征方法包括独立事件、事件包、事件帧、体素栅格和3D点集等。这些方法可以应用于事件处理系统的各个部分,包括前处理、核心处理和后处理。
对事件数据的主要处理方法可分为两类:逐个事件处理和事件群处理。前者将每个事件视为独立的处理单元,常用于降噪、特征提取和图像重建的滤波器中。通过比较当前事件与过去事件,完成系统状态的更新。同时,许多基于数据驱动的方法也使用逐个事件处理方法,包括使用监督学习和无监督学习来训练分类器。
事件群处理方法将累积的事件数据进行处理。由于单个事件携带的信息有限,累积事件群的处理方法能够显著降低噪声干扰,提高算法的可靠性。常用的数据表征方法包括事件帧、体素栅格和3D点集。在基于模型的方法中,事件数据通常被累积为事件帧,然后使用基于图像的处理方法来解决问题。此外,还有一种基于数据驱动的方法,直接将整个事件包输入神经网络,目前已广泛应用于分类、光流估计、深度估计等任务,并取得了良好效果。
结语
事件相机确实具有优于传统相机的能力,但也存在一些不足,如数据处理困难和缺乏光强信息导致只有轮廓信息。事件数据在时间域上是连续的,但在值域上是离散的,这与常见的数字信号有所不同。因此,这样的数据无法使用传统RGB相机的方法进行处理。然而,事件相机仍能完成传统相机可完成的任务,如光流估计、特征提取、三维重建、模式识别和SLAM等。在未来,我们可以发挥两种相机各自的优势,我相信它们在我们手中将发挥最大价值。同时,希望能有更多人投身于这个新兴领域的研究。以上是对事件相机的简要介绍,包括工作原理、常见应用场景以及事件数据的表征方式和处理方法的说明。
关键词:罗姆传感器