AI推理框架AnyLanguageModel 1.0正式发布，支持本地与托管推理
10月20日，Hugging Face正式发布AnyLanguageModel 1.0，这是一个面向Apple平台的AI推理框架，可作为Apple Foundation Models框架的直接替代品。同期发布的还有swift-huggingface 1.0和swift-xet 1.0，用于加速Swift应用从Hugging Face Hub下载模型。
AnyLanguageModel 1.0支持本地和托管推理。本地模型可通过llama.cpp、MLX和Core ML运行，托管服务则覆盖OpenAI Chat Completions与Responses API、Anthropic Messages API、Google Gemini、Ollama、Private Cloud Compute以及Hugging Face Inference Providers等。开发者无需改动会话代码即可在系统模型、开放权重模型与托管服务之间切换；当切换提供商时，无法回放的推理内容会被自动省略。新增功能包括工具调用、引导生成（含嵌套@Generable类型）、图像输入支持，以及推理过程记录。
该框架最初于2025年11月发布，旨在回应App开发者对本地模型的好奇与接入多种推理提供商的复杂度问题。1.0版本也支持在Linux上运行，使同一套代码可用于服务端。API密钥改为从闭包获取，便于应用从自有服务器获取短期令牌。
- 2026-10-20 08:00 | Huggingface：AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms阅读原文
Last November, we introduced AnyLanguageModel on this blog: a drop-in replacement for Apple's Foundation Models framework that lets you choose the model and provider your app uses. We heard from app developers who were curious about local models but weren't always sure how to get started. They also ...