Tiny Corp发布tinybox Red Kimi AI工作站

Tiny Corp发布3万美元AI工作站tinybox Red Kimi。该设备搭载四张R9700 GPU及16TB SSD阵列,通过自定义驱动实现GPU直连存储,宣称可本地运行Kimi K3模型。

Tiny Corp 发布 tinybox Red Kimi AI 工作站:配备 16TB SSD 阵列与 128GB GPU 显存

小公司 Tiny Corp 近日推出了一款名为 tinybox Red Kimi 的新款人工智能工作站,专为本地运行大语言模型设计。该设备定价为 30,000 美元,核心配置包括四张 Radeon AI Pro R9700 GPU 以及由 16 块 NVMe SSD 组成的 RAID 存储阵列。

16块SSD组建RAID阵列

在计算硬件方面,tinybox Red Kimi 搭载了一颗 32 核 AMD Epyc Genoa 处理器(具体 SKU 未公开),并配备了 32 GB DDR5 系统内存。图形处理部分由四张 Radeon AI Pro R9700 GPU 组成,每张显卡拥有 32 GB GDDR6 显存,单卡带宽为 640 GB/s。四卡合计提供 128 GB 总显存和 2,560 GB/s 的总带宽。

该工作站最显著的特征在于其存储子系统。Tiny Corp 为其配置了 16 个独立的 1TB NVMe SSD,组建为高速 RAID 阵列,宣称存储带宽高达 238.4 GB/s。这一数值远超传统桌面级存储配置。为解决大型模型加载瓶颈,公司还开发了一种自定义驱动程序,允许 AMD GPU 直接控制 NVMe 驱动器,从而通过高带宽 SSD 向 GPU 提供模型数据。

据厂商称,该配置足以支持 Moonshot AI 的 Kimi K3 模型以每秒 40 tokens 的速度运行。不过,目前尚无独立的端到端基准测试验证这一性能指标。作为参考,Tiny Corp 本月早些时候曾报道过基于可配置 G4/G5 平台的 Tinybox 工作站,该平台支持从四张 Radeon RX 9070 XT 到 Nvidia RTX 专业卡的多种 GPU 选项,并提供最高 16TB 的传统四驱动 RAID 存储扩展。

除了售价 30,000 美元的 Red Kimi 版本外,Tiny Corp 还提供一款价格为 27,000 美元的“红色闪电”(Red Lightning)配置。后者搭载六张 Radeon AI Pro R9700 GPU,总显存达 192 GB,但不包含 Red Kimi 特有的高性能存储设置。所有 Tinybox 产品均采用按需定制模式,预计发货周期为 1 至 8 周,订单需通过银行转账支付。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读