英伟达（Nvidia）正试图通过推出一系列新的开放权重模型来迎合欧洲市场对主权人工智能的需求，这些模型涵盖聊天机器人、医疗及机器人等领域。
尽管大型模型开发者拥有从头构建高性能模型的充足资源，但大多数企业并不具备这种能力，往往只能利用自有数据集对 Mistral 或 H 公司等提供的开放权重模型进行微调。
在柏林举办的 GTC 展会上，英伟达发布了其开放式权重模型库的最新更新，其中包括 Nemotron Retriever 嵌入式模型的升级版以及 Alpamayo 自动驾驶车型。
嵌入模型的应用价值
在企业应用中，嵌入模型是最具实用价值的工具之一。检索增强生成（RAG）技术广泛依赖于这些模型生成的嵌入向量。
RAG 的核心机制是将文档分割为小块并转化为嵌入向量，随后根据用户查询的相关性对向量进行排序，最终将其输入大语言模型（LLM）的上下文中。
基于 Nemotron 3.5 架构，英伟达推出了最新的嵌入和重排名模型，支持包括图像和文本在内的 34 种语言嵌入。该系列模型参数规模介于 10 亿至 80 亿之间，并提供适用于新款 Blackwell 加速器的 NVFP4 量化版本。这一配置足以在 DGX Spark 等设备上运行，同时为其他模型预留了计算空间。
在与同类竞争产品的对比中，英伟达宣称其 80 亿参数的嵌入和重排名模型目前在 ViDoRe V3.1 基准测试中位列密集模型第一。
然而，并非所有文档都能轻松转化为嵌入数据，尤其是 PDF 文件。由于许多 PDF 源自扫描材料且格式复杂，嵌入模型在处理时存在困难。为此，英伟达还推出了更新的 Nemotron Parse 模型，专门用于从 PDF 文档中提取信息。据称，该模型在单张 H100 GPU 上运行 10 亿参数版本时，每秒可处理约 10.5 页文档。
除嵌入模型外，英伟达还发布了 Alpamayo 2 Edge，这是其自动驾驶模型的精简版。当运行在公司 DRIVE AGX Thor 平台上时，该模型承诺能够实时处理流媒体视频和传感器数据。
此次发布紧随英伟达推出 Nemotron 3.5 超级视觉语言（VL）模型及 Nemotron 3.5 Bolt 之后。后者是一款拥有 74 亿参数的混合专家（MoE）模型，据英伟达介绍，该模型将于周五开放下载。
虽然开放模型为企业和政府提供了通往主权人工智能的路径，但大多数开放权重模型本质上仍是“黑盒”：公众虽可下载模型权重，却难以获知训练数据及过程。而在英伟达的多数模型中，情况有所不同：除了权重，公司通常还会发布训练数据及将数据转化为最终模型的“配方”。
这意味着客户不仅能在底层检查模型，还能基于英伟达的 Nemotron 架构构建完全定制的模型，而非仅仅通过微调来修改权重。值得注意的是，艾伦研究所（Allen Institute）也采取了类似策略，其 OLMo 模型同样遵循这一理念。
