2026 年 11 月，Hugging Face 推出了 AnyLanguageModel，旨在为 Apple 的 Foundation Models 框架提供一个可替换方案，允许开发者自主选择应用所使用的模型及提供商。这一举措源于开发者的反馈：许多对本地模型感兴趣的应用开发者在入门时面临困惑，同时也希望避免支持多个推理提供商带来的复杂性。
经过一年的迭代与数十个版本的更新，AnyLanguageModel 1.0 正式发布。本地推理与云端托管推理各具优势，均在新代智能应用的构建中扮演重要角色。通过共享 API，开发者可以更便捷地为不同任务选择最合适的模型。
兼容且可插拔的 API 设计
AnyLanguageModel 的核心逻辑保持不变：让开发者使用适配其应用程序的模型，同时遵循 Foundation Models API 规范。集成过程仅需修改导入语句：
- import FoundationModels
+ import AnyLanguageModel
随后，相同的会话代码即可兼容系统模型、通过 llama.cpp、MLX 和 Core ML 运行的开放权重模型，以及各类托管提供商。
过去一年间，该库增加了多项关键功能：
- 所有服务提供商均支持工具调用（Tool Calling）。
- 支持包括嵌套 @Generable 类型及其数组在内的生成式引导。
- 图像支持允许开发者使用 Foundation Models 27 语法将图像附加到提示中，涵盖 iOS、macOS 和 visionOS 27 上的系统模型。
在 OS 27 上，AnyLanguageModel 还能与任何符合 Foundation Models LanguageModel 协议的模型协同工作，包括核心 AI 模型。此外，团队还开发了 swift-huggingface 和 swift-xet 等配套工具。
扩展托管模型支持
今年，AnyLanguageModel 进一步扩展了对托管模型的支持范围，目前兼容以下服务：
- OpenAI 的 Chat Completions 和 Responses API
- 任何具有兼容端点的提供商的 Open Responses
- Anthropic Messages API（支持自适应思维与努力选项）
- Google Gemini API
- Ollama
- OS 27 上的私有云计算
- Hugging Face Inference Providers，以及通过自定义基础 URL 接入的其他 OpenAI 兼容端点（如 OpenRouter）
借助推理提供商，开发者可以使用那些因体积过大而无法在设备上直接运行的开放权重模型，且无需更改会话代码结构：
let model = OpenAILanguageModel(
baseURL: URL(string: "https://router.huggingface.co/v1/")!,
apiKey: ProcessInfo.processInfo.environment["HF_TOKEN"]!,
model: "openai/gpt-oss-120b",
apiVariant: .chatCompletions
)
托管供应商提供与本地模型相同的功能特性，包括引导生成、带流式的工具调用以及响应令牌使用统计。推理请求现已纳入抄本（Transcript）的一部分，若新供应商无法重放这些请求，系统将自动移除它们。
应用程序可从自有服务器获取短暂令牌。相关文档详细说明了何时允许用户自带密钥，以及何时通过代理转发请求，确保同一套代码可在服务器上运行。
本地开放模型性能提升
随着本地模型易用性的提高，模型本身的能力也在增强。以下是 Hugging Face Hub 上当前下载量较高的部分模型：
- Google Gemma 4 E2B：GGUF 格式，Q4_0 量化下约 3.4 GB，具备量化感知训练能力。
- Liquid AI LFM2.5 2.6B：GGUF 格式，Q4_K_M 量化下约 1.7 GB。
- 阿里巴巴 Qwen3.8 27B (MLX)：4-bit 量化下约 16 GB。
前两款模型适用于 iPhone，而 Qwen3.8 27B 则可在拥有 32GB 或更多内存的 Mac 上运行。选择 MLX 模型仅需一行代码：
let model = MLXLanguageModel(modelId: "mlx-community/Qwen3.8-27B-4bit")
对于配备四台最大型 Mac Studio 的用户，Z.ai 的 GLM-5.3 模型在 BF16 精度下需要约 1.5 TB 内存。对于其他用户，可通过推理提供商访问该模型。
升级至 1.0 版本
开发者可通过 Swift Package Manager 进行升级：
dependencies: [
.package(
url: "https://github.com/huggingface/AnyLanguageModel",
from: "1.0.0",
traits: ["MLX"]
)
]
正在升级现有应用的用户，建议参考 AnyLanguageModel、swift-huggingface 和 swift-xet 发布说明中的迁移指南，以协助更新代码。社区反馈与贡献塑造了多项主要功能，感谢所有为提升 AnyLanguageModel 实用性做出贡献的开发者。
未来展望
语言模型已被证明是将智能化融入产品的强大工具，也是开发者可利用的众多模型之一。Hugging Face 计划将同样的方法应用于更多功能领域：即通过熟悉的 Swift API 对接各种设备端模型。即将推出的功能包括决策模型（Decision Models）和监听模型（Listening Models）。
