2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

AnyLanguageModel:苹果平台本地和云端 LLM 的统一 API

作者:Robert Krzaczyński

  • 2025-11-27
    北京
  • 本文字数:964 字

    阅读完需:约 3 分钟

大小:471.28K时长:02:40
AnyLanguageModel:苹果平台本地和云端LLM的统一API

苹果平台的开发人员在使用语言模型时经常面临一个碎片化的生态系统。Core ML 或 MLX 等本地模型提供了隐私和离线功能,而高级功能则由像 OpenAI、Anthropic 或 Google Gemini 这样的云服务提供。AnyLanguageModel是一个新发布的 Swift 包,它通过为本地和远程模型提供统一的 API 来简化集成。

 

AnyLanguageModel 可以与苹果的 Foundation Models 框架无缝协作,允许开发人员在保持会话和响应结构不变的情况下,用最少的代码更改完成切换。它支持 Core ML、MLX、llama.cpp/llama.swift、Ollama 托管模型,以及来自 OpenAI、Anthropic、Google Gemini 和 Hugging Face 的云服务。Swift 的包特性使开发人员可以只包含他们需要的后端,从而实现了依赖最小化。

 

AnyLanguageModel 还扩展了 Foundation Models 现有的能力,支持视觉-语言提示,允许开发人员在进行文本查询的同时发送图像。这包括与 Anthropic Claude 等模型的交互,使开发人员可以执行图像描述、文本提取和视觉分析等任务,而不必等待苹果自己的框架支持这些功能。

 

Mattt 是这个包的开发人员,他解释了为什么要面向 Foundation Models API:

 

大多数应用程序都搭配使用了某个提供商提供的本地和远程模型,而实现这些模型的良好协同是一件令人头疼的工作。苹果的 Foundation Models 提供了一种“公共选项”——这是内置于所有 macOS 和 iOS 设备中的一个备用方案。由于该功能仅通过 Foundation Models 提供,所以以它为基础实现支持其他供应商的 API 是合乎逻辑的。

 

该库目前的版本是 pre-1.0,正在进行的开发旨在实现工具调用、结构化输出生成和本地推理性能优化。配套的演示程序 chat-ui-swift 展示了流式响应、聊天持久化、苹果 Foundation Models 集成以及 Hugging Face OAuth 认证。该应用程序旨在作为开发人员探索、扩展以及将该 API 适配到自己项目的起点。

 

社区的早期反馈非常积极。Krzysztof Zabłocki评论道:

 

干得好,伙计。我已经在一个新项目中使用了它,迫切期待你为 Generable 添加 OpenAI 支持的分支能尽快落地。

 

AnyLanguageModel 和 chat-ui-swift 演示程序均已在GitHub上提供,开发人员可以进行实验、报告问题和贡献功能增强。该项目旨在减少 AI 应用开发过程中的障碍,同时在苹果平台上推动实现一致的多供应商大型语言模型工作流。

 

声明:本文为 InfoQ 翻译,未经许可禁止转载。

 

原文链接:https://www.infoq.com/news/2025/11/anylanguagemodel/

2025-11-27 11:281

评论

发布
暂无评论

父亲节会员礼遇免费送,联想来酷重点发力"健康赛道"

Geek_116789

作业 - 第4周

Happy-Coming

数据库周刊30丨数据安全法草案将亮相;2020数据库产业报告;云南电网上线达梦;达梦7误删Redo Log;Oracle存储过程性能瓶颈;易鲸捷实践案例……

墨天轮

MySQL 数据库 oracle mongodb 周刊

消息队列(六)如何处理消费者故障导致的百万消息积压?

奈何花开

Java MQ 消息队列

架构师训练营第四周作业

Bruce Xiong

一个大型互联网应用采用的技术方案和手段

李白

架构师训练营 - 系统架构

Pontus

极客大学架构师训练营

架构师训练营第四周总结:互联网架构概要

hifly

高可用 高性能 极客大学架构师训练营 互联网架构

为什么大公司一定要使用DevOps?

张启华

真棒! 20 张图揭开内存管理的迷雾,瞬间豁然开朗

小林coding

Linux 操作系统 计算机基础 内存管理

架构师训练营 No.4 周总结

连增申

可读代码编写炸鸡三 - 审美

多选参数

代码质量 代码 代码注释

架构师训练营 第4周作业

坂田吴奇隆

极客大学架构师训练营

第三周作业

李白

出海蓝军先锋联想来酷,今夏再征"丝路"

Geek_116789

印度下黑手!59款中国APP被禁用,微信微博QQ抖音等在列

程序员生活志

Mac开发环境 React Native0.60 环境 安卓环境Java变量 及~/.zshrc文件配置

蛋蛋

React

架构师训练营——第四周作业

jiangnanage

架构师训练营-第4周总结

坂田吴奇隆

极客大学架构师训练营

第三周总结

李白

可读代码编写炸鸡四(上篇) - 来写注释

多选参数

代码质量 代码 代码注释

猿灯塔:关于Java面试,你应该准备这些知识点

猿灯塔

面试

自己动手编译一个HEIF图片转jpeg工具(Mac平台)

GeorgeMR

HEIF HEIC jpeg 图片

信创舆情一线--数据安全法草案提请初审

统小信uos

大数据 安全

架构师训练营第 04周——总结

李伟

极客大学架构师训练营

JDBC拾遗

qihuajun

架构师训练营 - 作业 - 第四周

心在飞

极客大学架构师训练营

架构师训练营学习总结——系统架构【第四周】

王海

极客大学架构师训练营

Python中进行None判断时,为什么用is而不是==

wangkx

Python 编程 进阶 计算机基础

第四周学习总结

李白

分布式计算DAG1-画猫

Hervor。

AnyLanguageModel:苹果平台本地和云端LLM的统一API_后端_InfoQ精选文章