写点什么

AnyLanguageModel:苹果平台本地和云端 LLM 的统一 API

作者:Robert Krzaczyński

  • 2025-11-27
    北京
  • 本文字数:964 字

    阅读完需:约 3 分钟

大小:471.28K时长:02:40
AnyLanguageModel:苹果平台本地和云端LLM的统一API

苹果平台的开发人员在使用语言模型时经常面临一个碎片化的生态系统。Core ML 或 MLX 等本地模型提供了隐私和离线功能,而高级功能则由像 OpenAI、Anthropic 或 Google Gemini 这样的云服务提供。AnyLanguageModel是一个新发布的 Swift 包,它通过为本地和远程模型提供统一的 API 来简化集成。

 

AnyLanguageModel 可以与苹果的 Foundation Models 框架无缝协作,允许开发人员在保持会话和响应结构不变的情况下,用最少的代码更改完成切换。它支持 Core ML、MLX、llama.cpp/llama.swift、Ollama 托管模型,以及来自 OpenAI、Anthropic、Google Gemini 和 Hugging Face 的云服务。Swift 的包特性使开发人员可以只包含他们需要的后端,从而实现了依赖最小化。

 

AnyLanguageModel 还扩展了 Foundation Models 现有的能力,支持视觉-语言提示,允许开发人员在进行文本查询的同时发送图像。这包括与 Anthropic Claude 等模型的交互,使开发人员可以执行图像描述、文本提取和视觉分析等任务,而不必等待苹果自己的框架支持这些功能。

 

Mattt 是这个包的开发人员,他解释了为什么要面向 Foundation Models API:

 

大多数应用程序都搭配使用了某个提供商提供的本地和远程模型,而实现这些模型的良好协同是一件令人头疼的工作。苹果的 Foundation Models 提供了一种“公共选项”——这是内置于所有 macOS 和 iOS 设备中的一个备用方案。由于该功能仅通过 Foundation Models 提供,所以以它为基础实现支持其他供应商的 API 是合乎逻辑的。

 

该库目前的版本是 pre-1.0,正在进行的开发旨在实现工具调用、结构化输出生成和本地推理性能优化。配套的演示程序 chat-ui-swift 展示了流式响应、聊天持久化、苹果 Foundation Models 集成以及 Hugging Face OAuth 认证。该应用程序旨在作为开发人员探索、扩展以及将该 API 适配到自己项目的起点。

 

社区的早期反馈非常积极。Krzysztof Zabłocki评论道:

 

干得好,伙计。我已经在一个新项目中使用了它,迫切期待你为 Generable 添加 OpenAI 支持的分支能尽快落地。

 

AnyLanguageModel 和 chat-ui-swift 演示程序均已在GitHub上提供,开发人员可以进行实验、报告问题和贡献功能增强。该项目旨在减少 AI 应用开发过程中的障碍,同时在苹果平台上推动实现一致的多供应商大型语言模型工作流。

 

声明:本文为 InfoQ 翻译,未经许可禁止转载。

 

原文链接:https://www.infoq.com/news/2025/11/anylanguagemodel/

2025-11-27 11:283678

评论

发布
暂无评论

漏洞挖掘分析技术总结

网络安全学海

运维 网络安全 信息安全 渗透测试· 漏洞分析

Protobuf与Json的相互转化

DoneSpeak

json protobuf serialization

推荐系统的UI交互与视觉展示(二十七)

Databri_AI

人工智能 算法 推荐系统

架构训练营模块七作业

Geek_e0c25c

架构实战营

如何做好架构设计?

king

柯桥摄影培训到兴德教育!良心机构!

Geek_196d9f

初步认识 Stripe 支付

DoneSpeak

Payment

MySql 全文检索两个字符的内容无法得到结果

DoneSpeak

MySQL

Spring Event初步讲解

DoneSpeak

spring

从Ftrace开始内核探索之旅

mazhen

Linux debug Trace Linux Kenel

用回溯法计算消消乐游戏最大得分

DoneSpeak

algorithm

CabloyJS 基于 EggJS 实现的模块编译与发布

node.js 全栈

模块7作业

wade

#架构实战营

Spring Security认证流程

DoneSpeak

spring security springsecurity

只有思考清晰,才能表达有力!

云祁

读书 7月日更

SpringMVC | Controller 返回值及异常的统一处理

DoneSpeak

spring RESTful

架构设计方法论

king

1.3面向复杂度的架构设计

Lemon

架构设计 架构设计原则

如何画好架构图

king

n 阶幻方问题

DoneSpeak

algorithm

Protobuf与POJO的相互转化 - 通过Json

DoneSpeak

json protobuf serialization

我用一个例子疏通“路由器漏洞&复现”【建议收藏!!】

网络安全学海

运维 网络安全 信息安全 漏洞分析 代码复现

【得物技术】浅谈资损防控

得物技术

测试 质量 稳定性 稳定性测试 资产管理

柯桥插花花艺培训到兴德!良心机构!

Geek_196d9f

LeetCode | 13. 罗马数字转整数

DoneSpeak

LeetCode algorithm

SpringBoot解决CORS问题

DoneSpeak

springboot

柯桥会计培训到兴德教育!良心机构!

Geek_196d9f

Git-Flow规范和指令

DoneSpeak

git Teamwork

Java 工具箱 | 图片-Base64 互转

DoneSpeak

实现自己的Protobuf Any

DoneSpeak

protobuf

为easyexcel设置TimeZone

DoneSpeak

Excel Apache POI

AnyLanguageModel:苹果平台本地和云端LLM的统一API_后端_InfoQ精选文章