写点什么

Meta 在首届 LlamaCon 大会上发布 API 和保护工具

作者:Anthony Alford

  • 2025-05-25
    北京
  • 本文字数:1185 字

    阅读完需:约 4 分钟

大小:541.52K时长:03:04
Meta在首届LlamaCon大会上发布API和保护工具

在首次举办的 LlamaCon 大会上, Meta 公司宣布了几款新工具,以便开发者可以使用他们的Llama AI 模型进行构建:Llama API 有限预览版,允许开发者尝试不同的模型,以及新的 Llama 保护工具,用于保护 AI 应用程序的安全。

 

LlamaCon 是一个为期一天的虚拟活动,主要内容包括首席产品官 Chris Cox 的主题演讲,以及 Meta 首席执行官 Mark Zuckerberg 与其他两位首席执行官之间的一对一对话,分别是微软的 Satya Nadella 和 Databricks 的 Ali Ghodsi。除了发布 API 之外,Meta 还宣布与 CerebrasGroq 合作,为 API 提供快速推理能力。他们还宣布了 LlamaStack 与 NVIDIA NeMo 微服务的集成。此外,Meta 还宣布了新的开源 AI 安全工具:Llama Guard 4、LlamaFirewall 和 Llama Prompt Guard 2。Meta 表示:


我们致力于成为企业和开发者的长期合作伙伴,并提供一个从封闭模型过渡到开放模型的流畅体验。Llama 价格实惠、易于使用,可以使更多的人享受到 AI 的好处,不管他们的技术专长或硬件资源怎样。我们相信, AI 有潜力改变行业并改善生活,这就是为什么我们很愿意继续支持 Llama 生态系统的发展,以造福所有人。我们迫不及待地想看看你们接下来会构建什么。

 

Llama 保护工具是一系列保护措施,开发者可以用来使他们的 AI 应用程序更安全。LlamaCon 发布的内容包括:Llama Guard 4,一个内容审核模型;Prompt Guard 2,一个防止越狱和提示注入的工具;以及 LlamaFirewall,一个用于将多个保护工具集成到 AI 应用程序中的编排组件。

 

Llama API 已经作为免费预览版发布。Meta 强调,通过它可以“一键创建 API 密钥和交互式游乐场”。可供开发者使用的模型包括最近发布的 Llama 4 Scout 和 Maverick MoE 。本次活动还发布了 Python 和 Typescript SDK,而且该 API 与 OpenAI 的 SDK 兼容,“可以简化现有应用程序的转换。”

 

API 包括用于微调和评估自定义模型的资源。Meta 声称,他们不会在自己的训练中使用任何上传的提示或模型输出。他们还表示,开发者可以下载并在任何地方运行他们的自定义模型。

 

在 Hacker News 上关于 LlamaCon 的讨论中,一些用户对 Llama 许可证的限制表示遗憾,他们认为这并是不完全开源。对于 API 发布公告,另一位用户评论道:


感觉 Meta 正在进入云计算业务,但是在 AI 领域。这么久以来,他们始终拒绝进入云业务,但随着 AWS/Azure/GCP 的成功,我认为他们已经意识到,他们不能仅靠社交网络来保持头部公司的地位,他们还需要拥有一个平台(硬件、云)。

 

在 Reddit 上关于这些公告的讨论中,对于快速推理的消息,用户反应积极


我认为,未来肯定取决于速度。当你能够每秒输出数百甚至数千个令牌时,你就可以做一些疯狂的事。

 

有兴趣获得 Llama API 预览版访问权限的开发者可以加入等待名单Llama Stack 的代码已在 GitHub 上提供。

 

原文链接:

https://www.infoq.com/news/2025/05/meta-llamacon-announcements/

2025-05-25 14:001

评论

发布
暂无评论

博睿数据可观测性平台——信创环境下的运维利器

博睿数据

大型企业通常如何进行单元测试?

派大星

单元测试 JUnit 测试覆盖率

测试要失业了?

禅道项目管理

团队管理 软件测试 测试 项目管理软件

永久破解版Parallels Desktop 18密钥 PD18虚拟机详细安装教程

Rose

Parallels Desktop 18破解 PD18安装教程 Mac虚拟机软件下载 Parallels 18下载

WinZip Pro:缩小文件,以便更快,更轻松地传输到便携式数据存储设备

Rose

解压缩软件 WinZip Pro WinZip Pro注册码

五星门店小程序性能优化实践

京东科技开发者

新质生产力:1核心,2摆脱,3关键,3因素,3特征;3要素,3措施,记住1233333……,轻松了解新质生产力

天津汇柏科技有限公司

新质生产力

揭秘高级控件技巧:让您的App与众不同

测吧(北京)科技有限公司

测试

9n-triton部署bert模型实战经验

京东科技开发者

苹果播放器推荐:Audirvana for Mac中文版

Rose

Mac软件 音乐播放器 Audirvana下载 Audirvana破解版

OpenTofu路在何方:定量分析Terraform issue数据,洞察用户需求|OpenTofu Day 闪电演讲

SEAL安全

开源 Terraform OpenTofu

逐浪100人丨对话魔珐科技CEO柴金祥:AI时代,虚拟人的边界在哪?

自象限

AI构建新质生产力,合合信息Embedding模型助力专业知识应用

合合技术团队

Embedding #人工智能 大语言模型 OCR技术

GeminiDB Cassandra接口新特性FLASHBACK发布:任意时间点秒级闪回

华为云开发者联盟

数据库 华为云 华为云开发者联盟 华为云GeminiDB 企业号2024年4月PK榜

技术分享-日志链路追踪

京东科技开发者

GreatSQL优化技巧:将 MINUS 改写为标量子查询

GreatSQL

Meta在首届LlamaCon大会上发布API和保护工具_AI&大模型_InfoQ精选文章