9 月 5 日，2023 百度云智大会在北京正式召开。会上，百度智能云千帆大模型平台宣布实现 2.0 全面升级，首次公布月活企业数已近万家，覆盖金融、制造、能源、政务、交通等行业的 400 多个业务场景。
升级后的百度智能云千帆平台 2.0 拥有“四个最”：预置最多的大模型和数据集、有最丰富最全面的工具链、最佳算力效能、最完备的大模型安全方案。
相比过去，千帆平台纳管的国内外主流大模型达到 42 个，还预置了 41 个高质量有行业特色的数据集，预装了知识问答、客服对话、代码助手等 10 个精选应用范式，大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型，千帆平台不只是简单的接入，还提供中文增强、性能增强、上下文增强等能力。比如，原来要用英文对话效果才好的 Llama2 等国外大模型，现在用中文也一样好。
工具链变得更丰富和更全面，也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间，现在基于一站式的工具链，只需一天就可以跑通一个模型并看到效果。值得关注的是，千帆平台的工具链里内置了 103 套高质量的 prompt 模版，还有自动化 prompt 工程能力，用户做起来会更方便、更轻松。
算力服务升级后，万卡集群训练大模型时，有效训练时间达到 95%以上，极大的降低了时间成本，加速比可以达到 95%，充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统，企业客户的算法可以以最小的修改成本在这些硬件上运行。
千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域，重点保护模型资产安全。在内容安全上预置安全模块，可以有效控制输入和输出的安全风险。在数据安全方面，千帆平台提供从模型、数据到日志的全链路加密，为模型厂商和用户提供可信任的执行环境。
“料多、好用、高效、放心”，百度集团执行副总裁、百度智能云事业群总裁沈抖用四个关键词形容百度智能云千帆大模型平台 2.0。
公众号推荐：
跳进 AI 的奇妙世界，一起探索未来工作的新风貌！想要深入了解 AI 如何成为产业创新的新引擎？好奇哪些城市正成为 AI 人才的新磁场？《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造，为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者，还是对生成式 AI 充满好奇的新手，这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI前线」公众号，回复「开发者洞察」领取。
分布式云行业实践指南（2023）
业内首个分布式云行业实践方法论、工具箱。
评论