Volantis推A-1芯片,光子中介层破内存墙

Sam Altman支持的Volantis推A-1芯片。其采用光子中介层打破内存墙,单封装集成10TB内存,峰值带宽达240TB/s,旨在支撑万亿参数模型高速推理。

由 Sam Altman 支持的 AI 芯片初创公司 Volantis 近日披露了其突破“内存墙”的技术路线。这家成立于 2022 年、总部位于旧金山的企业计划开发一款名为 A-1 的 AI 加速器,核心创新在于采用光子中介层(photonic interposer),旨在不牺牲容量的前提下大幅提升内存带宽。

单封装集成10TB内存

Volantis 声称,通过其技术方案,可在单个大型封装中集成高达 10 TB 的内存,峰值速度可达 240 TB/s。这一性能指标足以支撑以每用户 10,000 tok/s 的速度服务一个拥有 20 万亿参数的模型。

差异化策略:聚焦光学中介层

与许多致力于重构计算架构或研发全新内存技术的初创公司不同,Volantis 采取了更为务实的策略:将精力集中在光学中介层的开发上,其余组件则计划从 IP 提供商处获得授权。CEO Tapa Ghosh 向 The Register 解释道:“差异化主要来自于光学中介层。因此,我们为什么不尽可能多地授权所有技术,即使它们并非世界上性能最高的?因为我们在中介层和集成方面已经承担了巨大的风险。”

A-1 芯片的基本理念是利用光波导取代传统的电互连,从而显著增加每个封装内高带宽内存的数量。在传统 GPU 架构中,由于 HBM 等内存的运行速度及数据引脚尺寸限制,内存必须紧邻计算单元以优化功耗和信号完整性。这导致现代 GPU 的最大容量和带宽受限于计算裸片的物理周长(即边缘长度)。例如,AMD MI455X 的上限约为 432 GB。

光子互连技术打破了这一距离瓶颈。内存不再局限于几毫米范围内,而是可以部署在几厘米之外,从而消除了边缘长度带来的限制。尽管 Volantis 尚未透露具体使用的内存技术类型,但其目标是通过集成在中介层中的光波导实现连接,并将合作伙伴设计或提供的计算和内存组件封装在顶部。

技术路径:微型垂直腔面发射激光器

虽然硅光子中介层并非新概念——Lightmatter 和 Celestial AI 此前均曾尝试类似方案,且 Marvell 以 55 亿美元收购 Celestial 也被认为与“远距离 HBM”概念有关——但 Volantis 的定位有所不同。目前,该公司并不打算单纯进行技术授权,而是致力于开发一款功能完备、可直接出货的推理芯片。“至少在第一天,展示一个能够出货的解决方案要容易得多,”Ghosh 表示。

在底层技术上,Volantis 的设计不依赖外部激光器,而是使用集成在中介层中的微型垂直腔面发射激光器(micro-VCSELs)。CTO Roy Meade 指出,尽管 VCSEL 技术历史悠久且过去常因可靠性问题受到批评,但近年来已取得长足进步。通过牺牲部分速度,该技术可实现显著更高的可靠性。Meade 将其理念描述为“宽而高效”,并对比了传统思维模式:“人们仍然受限于这种所谓的‘点对点粗管’思维模式,自然而然地,如果是这样,你就会转向 SerDes。如果我们回过头来看看‘宽而高效’方法的好处,例如在 HBM 上采用同样的策略是非常合理的。”

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读