9 月 5 日，2023 百度云智大会在北京正式召开。会上，百度智能云千帆大模型平台宣布实现 2.0 全面升级，首次公布月活企业数已近万家，覆盖金融、制造、能源、政务、交通等行业的 400 多个业务场景。
升级后的百度智能云千帆平台 2.0 拥有“四个最”：预置最多的大模型和数据集、有最丰富最全面的工具链、最佳算力效能、最完备的大模型安全方案。
相比过去，千帆平台纳管的国内外主流大模型达到 42 个，还预置了 41 个高质量有行业特色的数据集，预装了知识问答、客服对话、代码助手等 10 个精选应用范式，大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型，千帆平台不只是简单的接入，还提供中文增强、性能增强、上下文增强等能力。比如，原来要用英文对话效果才好的 Llama2 等国外大模型，现在用中文也一样好。
工具链变得更丰富和更全面，也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间，现在基于一站式的工具链，只需一天就可以跑通一个模型并看到效果。值得关注的是，千帆平台的工具链里内置了 103 套高质量的 prompt 模版，还有自动化 prompt 工程能力，用户做起来会更方便、更轻松。
算力服务升级后，万卡集群训练大模型时，有效训练时间达到 95%以上，极大的降低了时间成本，加速比可以达到 95%，充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统，企业客户的算法可以以最小的修改成本在这些硬件上运行。
千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域，重点保护模型资产安全。在内容安全上预置安全模块，可以有效控制输入和输出的安全风险。在数据安全方面，千帆平台提供从模型、数据到日志的全链路加密，为模型厂商和用户提供可信任的执行环境。
“料多、好用、高效、放心”，百度集团执行副总裁、百度智能云事业群总裁沈抖用四个关键词形容百度智能云千帆大模型平台 2.0。
中国开发者画像洞察研究报告 2024
分析开发者的行为模式、工作价值、职业发展等内容，帮助整个行业生态更深入地理解开发者，为他们提供更精准...
评论