宾大发布F3工具,加速事件摄像机在机器人领域应用

宾大团队发布F3工具,破解事件摄像机数据应用难题。该成果发表于《科学·机器人学》,通过预测未来事件提取场景结构,将处理速度提升至每秒120次更新,有望加速自动驾驶和无人机对该技术的采用。

2026 年 10 月 30 日

F3算法提升事件数据实时处理效率

宾夕法尼亚大学(University of Pennsylvania)的研究团队近日发布了一项名为“快速特征场”(Fast Feature Field, F3)的计算工具。该成果发表于《科学·机器人学》(Science Robotics),旨在解决事件摄像机数据难以被传统计算机视觉系统直接利用的问题,有望加速自动驾驶汽车、无人机等机器人平台对事件摄像机的广泛采用。

图:配备事件摄像头的无人机原型,其视觉机制模拟生物视网膜的光强变化监测。来源:Sylvia Zhang / Penn Engineering

事件摄像机的应用瓶颈

与传统以固定帧率(如每秒 30 帧)记录完整图像不同,事件摄像机模仿哺乳动物视网膜中的视杆细胞和视锥细胞,仅检测光强度的变化并输出异步的事件流。这种特性使其在高速运动物体识别和低光照条件下具有优势。

然而,宾夕法尼亚大学电气与系统工程副教授 Pratik Chaudhari 指出,事件摄像机产生的数据类似于“令人眼花缭乱的点流”,缺乏可识别的图像结构。长期以来,处理这些数据需要为每个特定任务开发专门的算法,这构成了该技术从实验室走向实际应用的核心障碍。

论文第一作者、计算机与信息科学系博士生 Richeek Das 解释称,生物视网膜拥有复杂的细胞层来提取运动和颜色信息并抑制冗余数据,而事件摄像机本身不具备这种处理能力。“如果无法有效过滤多余信息,原始数据过于庞大且杂乱,难以直接使用。”Das 说道。

F3:基于预测的通用表示方法

研究团队最初尝试通过数学变换(类似信号处理中的快速傅里叶变换)来总结视觉信息,但实验表明这种方法难以可靠地处理海量数据流。最终,团队转向训练神经网络,并发现“预测未来”是解决这一问题的关键。

Chaudhari 解释道:“为了根据过去的数据准确预测未来的事件,网络必须学会表征场景的结构以及其中发生的运动。”通过训练 F3 模型预测后续事件,研究人员使其能够自动识别数据中的基本模式,从而无需针对每种新应用单独设计软件架构。

图:F3 将连续的事件数据流转化为现有计算机视觉软件可处理的信息格式。来源:Richeek Das, Kostas Daniilidis, Pratik Chaudhari / Penn Engineering

稀疏性优化实现实时处理

尽管 F3 提供了通用的数据表示方式,但其初始版本的计算速度无法满足实时感知的需求。团队随后发现,事件摄像机生成的数据具有极高的稀疏性——即使每秒产生数千万个信号,约 95% 的空间位置在任何给定时刻并未发生事件。

基于这一洞察,研究人员优化了算法,仅在事件实际发生的位置进行计算,跳过了大量的空白空间。这一改进显著提升了处理效率。

性能参数与应用前景

测试结果显示,F3 在处理高清事件摄像机数据时可达每秒 120 次更新,在 VGA 分辨率下则高达每秒 440 次。相较于以往的方法,基于 F3 的算法在多个机器人感知任务中速度快了两到五倍,并在物体识别、距离估计和运动跟踪方面实现了最先进的性能。

宾夕法尼亚大学教授 Kostas Daniilidis 将 F3 比作事件摄像机领域的“JPEG 或 MPEG”压缩标准,认为它为不同设备间共享和处理事件数据提供了一种通用语言。此前,索尼人工智能公司推出的乒乓球机器人 Ace 虽然使用了复杂的事件视觉系统,但其软件专为乒乓球定制,凸显了通用接口缺失导致的重复开发问题。

图:在非结构化环境中,F3 帮助机器人比传统相机更清晰地分离前景与背景树木。来源:Penn Engineering

目前,研究团队正与博士生 Dexter Ong 和 Ioannis Asmanis 合作,利用 F3 构建能够在杂乱及低光照环境中导航的自主无人机。Chaudhari 表示,长远目标是直接将 F3 嵌入事件摄像机的硬件电路中,作为高效的驱动程序,使工程师使用事件摄像机像使用常规摄像机一样简单,无需每次都为新功能重新发明底层软件。

参考文献:
Richeek Das et al., Fast Feature Field (F3): A general predictive representation for event-based robot perception, Science Robotics (2026). DOI: 10.1126/scirobotics.aec8218

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读