
在首次举办的 LlamaCon 大会上, Meta 公司宣布了几款新工具,以便开发者可以使用他们的Llama AI 模型进行构建:Llama API 有限预览版,允许开发者尝试不同的模型,以及新的 Llama 保护工具,用于保护 AI 应用程序的安全。
LlamaCon 是一个为期一天的虚拟活动,主要内容包括首席产品官 Chris Cox 的主题演讲,以及 Meta 首席执行官 Mark Zuckerberg 与其他两位首席执行官之间的一对一对话,分别是微软的 Satya Nadella 和 Databricks 的 Ali Ghodsi。除了发布 API 之外,Meta 还宣布与 Cerebras 和 Groq 合作,为 API 提供快速推理能力。他们还宣布了 LlamaStack 与 NVIDIA NeMo 微服务的集成。此外,Meta 还宣布了新的开源 AI 安全工具:Llama Guard 4、LlamaFirewall 和 Llama Prompt Guard 2。Meta 表示:
我们致力于成为企业和开发者的长期合作伙伴,并提供一个从封闭模型过渡到开放模型的流畅体验。Llama 价格实惠、易于使用,可以使更多的人享受到 AI 的好处,不管他们的技术专长或硬件资源怎样。我们相信, AI 有潜力改变行业并改善生活,这就是为什么我们很愿意继续支持 Llama 生态系统的发展,以造福所有人。我们迫不及待地想看看你们接下来会构建什么。
Llama 保护工具是一系列保护措施,开发者可以用来使他们的 AI 应用程序更安全。LlamaCon 发布的内容包括:Llama Guard 4,一个内容审核模型;Prompt Guard 2,一个防止越狱和提示注入的工具;以及 LlamaFirewall,一个用于将多个保护工具集成到 AI 应用程序中的编排组件。
Llama API 已经作为免费预览版发布。Meta 强调,通过它可以“一键创建 API 密钥和交互式游乐场”。可供开发者使用的模型包括最近发布的 Llama 4 Scout 和 Maverick MoE 。本次活动还发布了 Python 和 Typescript SDK,而且该 API 与 OpenAI 的 SDK 兼容,“可以简化现有应用程序的转换。”
API 包括用于微调和评估自定义模型的资源。Meta 声称,他们不会在自己的训练中使用任何上传的提示或模型输出。他们还表示,开发者可以下载并在任何地方运行他们的自定义模型。
在 Hacker News 上关于 LlamaCon 的讨论中,一些用户对 Llama 许可证的限制表示遗憾,他们认为这并是不完全开源。对于 API 发布公告,另一位用户评论道:
感觉 Meta 正在进入云计算业务,但是在 AI 领域。这么久以来,他们始终拒绝进入云业务,但随着 AWS/Azure/GCP 的成功,我认为他们已经意识到,他们不能仅靠社交网络来保持头部公司的地位,他们还需要拥有一个平台(硬件、云)。
在 Reddit 上关于这些公告的讨论中,对于快速推理的消息,用户反应积极:
我认为,未来肯定取决于速度。当你能够每秒输出数百甚至数千个令牌时,你就可以做一些疯狂的事。
有兴趣获得 Llama API 预览版访问权限的开发者可以加入等待名单。Llama Stack 的代码已在 GitHub 上提供。
原文链接:
https://www.infoq.com/news/2025/05/meta-llamacon-announcements/
评论