【ArchSummit 】国内外100+顶尖专家齐聚 ,AI、云原生、数智化全面囊括! 了解详情
写点什么

加速开源 AI 大模型开发和部署,红帽公司推出 RHEL AI,开发者预览版已上线

  • 2024-05-10
    北京
  • 本文字数:1786 字

    阅读完需:约 6 分钟

大小:887.99K时长:05:03
加速开源AI大模型开发和部署,红帽公司推出RHEL AI,开发者预览版已上线

近日,红帽公司(Red Hat)在科罗拉多州丹佛市举办了 2024 年红帽峰会。会上,红帽公司宣布推出红帽企业 Linux AI(RHEL AI),这是一款基础模型平台,旨在简化生成式人工智能(GenAI)模型的开发、测试和部署流程。

 

RHEL AI 平台整合了 InstructLab 项目,该项目基于 IBM 研究院开发的大规模对话机器人对齐(LAB)技术,通过分类指导合成数据生成和创新的多阶段调整框架,实现了 AI 模型开发的开放性和易接触性。InstructLab 项目允许开发者通过指定分类下的技能和知识,大规模生成影响模型的合成数据,并利用这些数据训练模型,从而显著减少了对昂贵人工注释和专有模型的依赖。

 


此外,RHEL AI 还集成了 Granite 系列模型,这是 IBM 首个从零开始在最大的可信企业级数据湖上训练开发的生成式大模型集合。Granite 模型采用仅解码器架构,适用于多种自然语言处理任务,包括文本生成、问答系统等。通过将这些模型与 RHEL AI 平台相结合,企业可以更加便捷地利用这些先进的 AI 技术,推动业务创新。

 

该解决方案被封装成一个优化的、可启动的 RHEL 镜像,用于在混合云环境中部署单个服务器,并已集成到 OpenShift AI 中。OpenShift AI 是红帽的混合机器学习运营(MLOps)平台,能够在分布式集群环境中大规模运行模型和 InstructLab。

 

随着 ChatGPT 等生成式 AI 技术的兴起,企业对于 AI 应用的需求日益增加。然而,AI 技术的复杂性和高昂的成本成为了企业实施 AI 策略的障碍。为了降低 AI 创新的门槛,红帽公司通过 RHEL AI 平台,将开源项目的优势引入生成式 AI 领域,为企业提供了更加便捷、经济高效的解决方案。

 

红帽公司表示,RHEL AI 平台的推出将为企业带来诸多优势。首先,通过整合开源授权的 Granite 模型和 InstructLab 工具,RHEL AI 为企业提供了更加灵活、可扩展的 AI 解决方案,使企业能够根据自身需求定制 AI 模型。其次,RHEL AI 平台基于红帽企业 Linux 构建,提供了强大的企业级支持和生命周期保证,确保了 AI 系统的稳定性和可靠性。最后,通过结合红帽 OpenShift AI 平台,企业可以更加便捷地在大规模环境中训练和部署 AI 模型,实现 AI 应用的快速迭代和优化。

 

红帽企业 Linux AI 提供的功能和服务包括:

 

  • 红帽支持和保障的开源许可 Granite 语言和代码模型;

  • 提供支持并具有生命周期管理的 InstructLab 分发版本,这是一种可扩展且成本效益高的解决方案,能够增强大型语言模型(LLM)的功能,并使知识与技能的贡献得到更广泛的用户接纳;

  • 通过 RHEL 镜像方式提供的优化可启动模型运行实例,包括 Granite 模型和 InstructLab 工具包,及优化的 Pytorch 运行时库和针对 AMD Instinct™ MI300X、Intel 和 NVIDIA GPU 以及 NeMo 框架的加速器;

  • 红帽提供的完整企业支持和生命周期保证,从可信的企业产品分发开始,提供 24 小时全天候生产支持和扩展的生命周期支持;

 

那么,RHEL AI 与我们现有的超级云平台有何不同呢?

 

红帽总裁兼 CEO Matt Hicks 表示:“RHEL AI 的主要目标是利用硬件加速,在未来几年内覆盖 NVIDIA、AMD、Intel 等各类硬件,进行模型的训练和运行。用户可以选择来自 Granite 系列的大型语言模型,它是一种语言代码模型,其中包含了商业术语,如版权问题下的赔偿条款,使其使用更为安全可靠。而我们现有的混合平台主要关注的是应用程序的生命周期,通常从 Linux 开始,然后转向 OpenShift、中间件和运行时环境。相较而言,RHEL AI 更专注于为大型语言模型创建业务安全、管理生命周期和提供可预测性,并使您能够对其进行修改。由于大型向量模型的更新速度更快,因此它们的生命周期会更短。这是一个专为引入新类别硬件而设计的堆栈,类似于我们推出 RHEL 时所做的工作,这次目标是支持大型语言模型,而不仅仅是传统的 Python、Perl 和 PHP 应用程序。我们对这个套件非常兴奋,因为它使客户更容易地在生产环境中运行这些模型,并对它们的功能和安全性有了更多信心。”

 

“对企业来说,生成式 AI(GenAI)代表了一次革命性的飞跃,但这需要企业真正部署起来,并针对其具体业务需求使用 AI 模型。通过结合红帽 OpenShift AI 的广泛应用,RHEL AI 和 InstructLab 项目旨在降低混合云中生成式 AI 所面临的多种挑战,从数据科学技能的限制到巨大的资源需求,同时促进企业的部署并推动上游社区的创新。”红帽高级副总裁兼首席产品官 Ashesh Badani 如是说。

 

值得一提的是,红帽企业 Linux AI 目前已作为开发者预览版提供。

 

开发者预览版地址:https://www.redhat.com/en/technologies/linux-platforms/enterprise-linux/ai

 

公众号推荐:

跳进 AI 的奇妙世界,一起探索未来工作的新风貌!想要深入了解 AI 如何成为产业创新的新引擎?好奇哪些城市正成为 AI 人才的新磁场?《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造,为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者,还是对生成式 AI 充满好奇的新手,这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI前线」公众号,回复「开发者洞察」领取。

2024-05-10 16:546453
用户头像
李冬梅 加V:busulishang4668

发布了 830 篇内容, 共 400.4 次阅读, 收获喜欢 1013 次。

关注

评论

发布
暂无评论

linux之strings命令

入门小站

Linux

在线文本行固定长度填充工具

入门小站

工具

🏆【Alibaba中间件技术系列】「RocketMQ技术专题」让我们一起探索一下DefaultMQPullConsumer的实现原理及源码分析

洛神灬殇

阿里巴巴 RocketMQ 消息队列 11月日更 Apache RocketMQ

一个对标VSCode的IDE---Fleet

IT蜗壳-Tango

11月日更

2018年世界杯德国竟然输给韩国?终于找到原因了!

Jackpop

分析23个赛季NBA数据,我发现10条难以置信的信息!

Jackpop

EF Core如何处理多对多关系

喵叔

11月日更

华为,告别大陆军时代

脑极体

23 K8S之Secret资源配置

穿过生命散发芬芳

k8s 11月日更

2021RSAC -- 网络韧性

Tom(⊙o⊙)

《深入理解JVM虚拟机》读书笔记:第一章

Joseph295

Spring Bean生命周期你除了会背八股文面试,真的会用了吗?

热爱java的分享家

Java spring 程序人生 编程语言 经验分享

这次不怕撕坏了,区块链电子公告来了

CECBC

CWE 4.6 和 OWASP TOP10(2021)

Tom(⊙o⊙)

什么是元宇宙?为何要关注它?

CECBC

【高并发】由InterruptedException异常引发的思考

冰河

Java 并发编程 多线程 高并发 异步编程

模块四作业:设计千万级学生系统的试卷存储方案

Geek_99eefd

模块四 「架构实战营」

分布式系统的架构演进过程(一)

卢卡多多

分布式, 11月日更

App 端自动化的最佳方案,完全解放双手!

星安果

Python 自动化 爬虫

清华元宇宙深度报告!理论框架产业真相一文看懂

CECBC

被Chrome坑惨了!

Jackpop

[Pulsar] 消息生命历程(三)——客户端发送消息

Zike Yang

Apache Pulsar 11月日更

Flutter设置App的应用名字和应用logo图标的方法

坚果

flutter 11月日更

使用 ABAP 代码提交 SAP CRM Survey 调查问卷

Jerry Wang

CRM SAP abap 11月日更 问卷模型

Java 项目中使用 Resilience4j 框架实现客户端 API 调用的限速/节流机制

码语者

Java 限速 节流 Resilience4j RateLimit

Golang Gin 框架之分组路由(五)

liuzhen007

11月日更

Prometheus Exporter (八)kube-state-metrics

耳东@Erdong

Kubernetes Prometheus exporter 11月日更 kube-state-metrics

“2021ISIG中国产业智能大会低代码峰会”即将开幕,钉钉宜搭叶周全受邀出席

一只大光圈

阿里巴巴 互联网 钉钉 低代码 钉钉宜搭

【死磕Java并发】-----J.U.C之AQS:同步状态的获取与释放

chenssy

11月日更 死磕 Java 死磕 Java 并发

Windows 11再出杀手锏....

Jackpop

华为顶级安全专家分享出来这份‘典藏版’Linux开发实战笔记

热爱java的分享家

Java 架构 程序人生 编程语言 经验分享

加速开源AI大模型开发和部署,红帽公司推出RHEL AI,开发者预览版已上线_生成式 AI_李冬梅_InfoQ精选文章