AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

腾讯汤道生:行业大模型已经过了“尝鲜期”

  • 2023-09-10
    北京
  • 本文字数:1576 字

    阅读完需:约 5 分钟

腾讯汤道生:行业大模型已经过了“尝鲜期”

9 月 7 日,在 2023 腾讯全球数字生态大会上,腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生发表主题演讲,重点分享了 AI 大模型等技术产品对于产业发展的深远影响,以及腾讯云行业大模型的最新思考。

 

“大语言模型的发展第一次让我们看到了 AI 在产业中大规模落地的可能。六个月前,很多企业惊叹于通用大模型的生成能力,迫不及待地尝试与业务结合。但很快发现,通用大模型在实际应用中,面临专业度、准确度、数据安全、成本等很多挑战。”汤道生说

 

汤道生提到,行业大模型已经过了“尝鲜期”,目前正深入各类业务场景,推动企业全链条智能化。“六个月前,客户来谈大模型,能想到的应用场景基本只是文字客服。但今天,应用场景已经快速扩展到各个领域,比如在金融行业,大模型已经应用在开户、业务处理、风控等多个场景。”为此,腾讯尝试用大模型打造全栈产品能力,用于业务不同环节,助力企业全链条提质增效。

 

与此同时,汤道生提到表示,在大模型产业化的落地过程中,客户关注的不仅是模型的大小、功能,而是更为关注如何选用并定制适合自身业务发展的模型产品。基于这些实际需求,腾讯云不断升级大模型精选商店,包括自研的通用大模型“混元”、20 多种主流开源模型和更多行业大模型。企业可以根据自身需求选择合适的模型产品,并进行训练和精调,以满足个性化需求。

 

企业专属模型的生成,涉及到数字资产资源管理、数据标注、训练、评估、测试和部署等很多环节。同时,根据业务发展,企业模型需要不断地调优、迭代,数据处理的整个过程,也要不断地重复。汤道生认为,模型的热潮导致各项成本攀升,拥抱大模型不能只是一时冲动,还要理性考虑落地成本,训练、推理的效率。

 

针对此,腾讯云也提供了从数据处理、多机多卡训练到硬件优化的一站式解决方案,以帮助企业高效、低成本地创建和使用大模型。同时,腾讯云 TI 平台还进行了全新升级,有效提升了大模型的训练速度和推理效率。

 

“AI 大模型等产品的发展及落地将对千行百业产生‘质’的影响,我们也将持续开放产品能力、不断探索技术应用,助力产业实现更高质量的发展。”汤道生表示。

 

据悉,为解决企业 AI 能力应用难题,腾讯云推出了 AIGC 全栈解决方案,依托于腾讯云在大模型、机器学习等方面的 AI 能力,通过升级一站式 MaaS 服务,打造 AIGC 全链路内容安全解决方案,提供从标注、训练/微调、评估、测试到部署的全流程开发业务,确保 AIGC 服务更“可信、可靠、可用”。

 

在算力方面,腾讯云的新一代高性能计算集群 HCC,从“计算、存储、网络”三大技术层面出发,为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。通过搭载最新代次计算卡,利用星海自研服务器的 6U 超高密度设计和并行计算理念,确保高性能计算;依托高性能存储 CFS Turbo 和对象存储 COS,实现高吞吐存储;通过自研 3.2T RDMA 星脉网络,保障高性能无损网络;并构建了集群可观测体系,实现对 GPU 和网络进行实时监控和故障自动恢复,保证高稳定性。

 

此外,腾讯云还通过 GPU & CPU 混布、GPU 离在线混布、本地盘与分布式缓存混布的混合部署方式,系统性地提升了资源利用率。腾讯云新一代高性能计算集群 HCC,打造了 AIGC 落地各行各业的算力基础,让 AIGC 服务更可靠。

 

在合规性方面,腾讯云能够对数据集进行预处理,为企业提供自动化审核服务、定制识别服务等审核解决方案,再通过 AIGC 大模型进行训练和微调,构建起完善的内容审核平台,实现智能化拦截敏感内容,保障了端到端的合规,有效解决了 AIGC 落地的内容合规层面问题,让 AIGC 服务更可信。

 

在训练与推理效率方面,腾讯云通过数据集下载加速、训练及模型数据读取加速、Checkpoint 写加速、分布式训练加速、推理加速的全链路加速能力,系统性地解决了训练与推理效率问题,以效率提升带动成本下降,例如数据集下载层面,腾讯云的半托管 MSP 工具和对象存储 COS 提供了跨地域复制能力,能够轻松实现低成本将海外数据集传输至国内。

 

2023-09-10 10:583514

评论

发布
暂无评论
发现更多内容

“企业级敏捷教练课程” 6月7-8日 · CSP-SM认证周末班【报名即赠敏捷漂流记】

ShineScrum

敏捷 CSP-SM

什么是CNAME记录?设置CNAME记录需要注意哪些事项?

国科云

东土科技:AI机器人操作系统提供大小脑融合方案 推动机器人单体智能迈向群体智能

科技热闻

FlowGram 简介:开源前端流程搭建引擎

字节跳动开源

低代码平台 可视化开发 分层扩展 IOC依赖注入 AI工作流

2025大型企业财务数智化峰会·上海站成功举办!

用友智能财务

AI 财经 财务 会计

道路养护设计系统(源码+文档+讲解+演示)

深圳亥时科技

币圈不设防第三期回顾:中东资本入场,加密市场格局将如何重塑

TechubNews

智能制造:流程管理简析

积木链小链

数字化转型 流程管理 智能制造

字节跳动冯佳时:大语言模型在计算机视觉领域的应用、问题和我们的解法

火山引擎开发者社区

Cisco Nexus 9000v Switch, NX-OS Release 10.4(5)M - 虚拟化数据中心交换机

sysin

nexus

1688批发数据API接口深度解析|从商品详情采集到供应商对接全攻略(避坑+实战)

代码忍者

1688API接口

如何从工作中获得成就感

老张

职场成长 认知

安装CST的Linux版本教程

思茂信息

cst电磁仿真 CST软件 CST Studio Suite

AI驱动零信任:从人机信任到智能信任的跨越

权说安全

新书上线 |《零门槛AIGC应用实战——Serverless+AI 轻松玩转高频AIGC场景》免费下载

阿里巴巴云原生

阿里云 云原生

扣子实践 | 汽车线上营销助手:功能实现与效果分析

火山引擎开发者社区

从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践

SelectDB

数据库 hadoop 湖仓一体 湖仓融合 航空运输

性价比很高的国产ITSM软件工具推荐:轻帆云,让IT服务管理既高效又省钱!

云智慧AIOps社区

ITSM ITSM软件 工单管理 工单系统 智能工单

演讲实录|分布式 Python 计算服务 MaxFrame 介绍及场景应用方案

阿里云大数据AI技术

云计算 大数据 分布式 云原生 MaxCompute

《Operating System Concepts》阅读笔记:p354-p358

codists

操作系统

LED显示屏租赁:点亮活动的“灵活之光”

Dylan

发布会 LED LED display LED显示屏 虚拟演唱会

销售增长新解法:DeepSeek企业知识库驱动效率革命

人称T客

Cisco ASAv 9.23.1 - 思科自适应安全虚拟设备 (ASAv)

sysin

ASAv

Cisco Secure Firewall Management Center 7.7.0 - 思科防火墙管理中心

sysin

FMC

功能更新|虚拟项目——效能度量中的数据胶水

思码逸研发效能

研发效能 研发效能度量 研发效能管理 研发效能度量研发效能管理

河南科技学院领导一行莅临和鲸科技考察交流,AI 引领培育兴农英才

ModelWhale

人工智能 大数据 AI 农业 大语言模型

访问受限、账号封禁、匿名性不足?动态住宅代理解决这些难题

kookeey代理严选

Python 动态代理 爬虫技术 海外直播 全球广告投放

“领导企业转型必修课” 6月21-22日敏捷领导者(CAL1)认证周末班

ShineScrum

敏捷 CAL

夜莺监控 v8.0 新版通知规则 | 对接飞书告警

巴辉特

夜莺监控 夜莺告警 飞书告警 通知规则 夜莺通知

边缘云原生操作系统的设计与思考

火山引擎开发者社区

Cisco ACI Simulator 6.0(9c)M - ACI 模拟器

sysin

ACI

腾讯汤道生:行业大模型已经过了“尝鲜期”_AI&大模型_褚杏娟_InfoQ精选文章