写点什么

从模型到算子,国产算力如何让视频生成更快更省?

作者:转发
  • 2026-11-06
    北京
  • 本文字数:1918 字

    阅读完需:约 6 分钟

AI摘要

视频生成正从单条质量竞争转向规模化生产效能竞争,国产算力面临高计算密度与软硬协同不足的双重挑战。商汤大装置通过模型-算子-系统协同优化,在不损画质前提下显著降低生成步数与推理成本。

模型精简去噪步数;算子级深度适配国产芯片;多模型统一调度提升并发吞吐。

适合AI基础设施工程师、视频AIGC平台架构师、国产AI芯片生态开发者阅读。

2026 年,视频生成加速迈向规模化生产与普及。AI 短剧、AI 漫剧批量涌入市场,抢夺用户娱乐时间。广告、电商、游戏等付费场景也在持续被验证。

 

与此同时,竞争焦点悄然发生了转移。过去两年,大家卷画质,卷分辨率,关注单段时长。但当 AI 进入规模化生产阶段之后,行业不得不面临新的问题:如果要批量生产上千条短视频,时间和算力成本能否承受?

 

对于国产算力而言,挑战还要更进一步。视频生成计算密集高、算力消耗高,同时国产芯片的软件栈与算子生态仍在持续完善,如何充分释放硬件性能、支撑大规模视频推理?

 

商汤大装置通过模型与系统协同优化,在不牺牲画质的前提下让视频生成又快又省,真正释放国产算力的视频生产能力!

 

1.模型与算子协同优化,让视频生成又快又省

 

围绕生成速度、并发吞吐与单条成本等视频生成领域的核心问题,商汤大装置从多模型适配、算法优化、算子级深度调优关键环节开展系统性优化,让国产算力从“能跑视频生成”走向“高性价比地规模化生产视频”。

 

1)模型优化,让生成步数更少

 

视频生成本质并不是一次成型,而是模型从噪声出发,经过一轮轮去噪和修正,逐步生成完整画面。所谓“生成步数”,指的就是完成一次视频生成需要经历多少轮这样的计算。步数越多,通常意味着计算量和等待时间越高。

 

这其中,生成步数的压缩,是提升视频生成性价比最直接的杠杆之一。

 

商汤大装置从模型层优化入手,通过步数蒸馏训练方案,在尽量保持生成质量的前提下,将单条计算量压缩至原来的约 1/7,DiT 时延下降 83.5%。

 

这意味着,原本需要 29 轮完成的生成过程,现在只需 4 轮即可完成,大幅缩短等待时间。秒级出片也让“抽卡式”创作逐渐成为触手可及的体验。

 

与此同时,4 步与 29 步方案共享同一套部署与调度体系,能够根据不同场景对质量、速度和成本的要求灵活切换,为规模化生产提供更高弹性。

 

2)推理优化,让每一步更快

 

在视频生成多步去噪过程中,存在不少重复计算:相邻步骤的特征往往高度相似,且不同视觉单元对最终结果的贡献也并不均衡。

 

针对这类冗余,我们主要做了两类优化:

 

一是通过 Attention 稀疏化,优先保留更有价值的计算、跳过低贡献部分,并结合补偿 LoRA,在 85%稀疏率下将 DiT 时延降低约 32.5%;

 

二是通过 DiT Cache 复用相邻去噪步骤中的相似计算结果,并根据不同时间步动态判断是直接复用还是重新计算,在减少重复计算的同时尽量避免误差累积。

 

3)算子优化,充分释放国产算力性能

 

算子是释放国产芯片性能的关键一环。

 

LightX2V 是商汤自研并开源的一个轻量级的视频生成推理框架,集成多种先进的视频生成推理技术,统一支持文本生成视频(T2V)、图像生成视频(I2V)等多种生成任务及模型。

 

这套视频生成推理框架自带 FP8 低精度量化、VAE tile 并行等系统级底座。商汤大装置基于 LightX2V,进一步针对国产芯片的存储和指令特征重写关键算子,减少访存与调度开销,并逐算子完成精度对齐,在提升推理效率的同时保证生成结果与高端 GPU 平台一致。

 

在多卡并行方面,商汤大装置针对视频生成链路中的不同计算环节,采用不同的任务拆分方式:有的按序列切分,有的拆分模型计算,有的则把视频按时间和空间分块处理,让多张国产芯片能够同时协同工作。经过系统级优化,国产芯片运行 DiT 模型时,多卡并行视频生成加速比达到 93%,充分释放国产算力性能。

 

4)视频创作,更简单,更高清

 

在生成之外,输入与输出同样决定成片体验。

 

在输入侧,商汤大装置通过大语言模型对用户的口语化描述进行理解和改写,将其转化为更结构化、更专业的提示词,降低创作门槛,同时提升生成结果的稳定性、可控性和画面质量。

在输出侧,则通过视频超分辨率技术,对生成结果进一步进行高清化处理,将视频提升至更高分辨率,突破原始生成分辨率的限制。

 

由此,从“一句话创意”到“高效生成”,再到“高清成片”,视频生成的完整生产链路都可以在国产算力上完成。

 

02 服务众多头部 AIGC 创业企业

 

基于这套以 LightX2V 为框架的国产化解决方案,商汤大装置服务了众多头部 AIGC 创业企业。

比如,商汤大装置与智象元一以视频生成业务为切入,跑通了从国产算力适配到规模应用的完整链路。

 

作为全球领先的多模态生成式人工智能创新企业,智象元一致力于打造下一代原生全模态世界模型。目前,其产品已覆盖全球 100 多个国家和地区,服务超过 5000 万名专业用户及 4 万余家企业客户。

 

围绕智象元一重点业务,商汤大装置从底层算力替代出发,深入模型推理、性能优化、生成效果等关键环节,通过全栈技术适配与 FDE 专家服务,帮助智象未来实现在国产算力环境下的平稳运行,为多模态大模型的国产化部署形成可复用样板。

 

未来,商汤大装置将结合开源框架 LightX2V 与社区共建,持续降低视频生成成本,让视频生产能力加速成为智能时代的生产力底座。