Liquid AI发布LFM2.5-24B-A2B端侧推理模型
Liquid AI发布LFM2.5-24B-A2B端侧推理模型。该MoE架构每Token仅激活2B参数,在Apple M5 Max上达184 tokens/秒,部分基准表现优于更大总参数量模型。
共 3 篇相关文章
Liquid AI发布LFM2.5-24B-A2B端侧推理模型。该MoE架构每Token仅激活2B参数,在Apple M5 Max上达184 tokens/秒,部分基准表现优于更大总参数量模型。
Liquid AI发布d1边缘多模态决策模型。d1-3B在Jetson AGX Thor上单次问答仅需16毫秒,以48.57分登顶小参数基准测试,支持文本图像输入,专为边缘设备提供快速结构化决策能力。
Liquid AI发布VLM草稿模型DSpark。该方案仅增加280M参数,在设备端实现最高3.13倍解码加速,支持llama.cpp等主流框架,以低内存开销显著提升推理速度。