写点什么

基于三维卷积神经网络的全参考视频质量评估算法(三)

  • 2020-01-17
  • 本文字数:1060 字

    阅读完需:约 3 分钟

基于三维卷积神经网络的全参考视频质量评估算法(三)

结果

我们在 LIVE 和 CSIQ 两个视频质量数据集上对所提出算法的性能进行验证。LIVE 数据库包含 10 个参考视频和对应每个参考视频的 15 个失真视频。CSIQ 数据集包含 12 个源视频和相对应的 18 个失真视频。我们使用标准的 PLCC 和 SROCC 作为质量准则来比较不同算法的性能。


因为这两个数据库相对较小,我们参考另外一片深度学习文章[10]的做法,每次随机抽取 80%的参考视频和由它们所得到的失真视频作为测试集。我们重复了 20 次这样的数据集划分并且每次都从头开始训练模型。具体质量评估的散点图如图 5 所示。


图 5 质量估计结果散点图,每一个点代表一个待测视频。其中 Y 轴为估计视频质量,X 轴为主观打分结果,左图为 LIVE 上测试结果,右图为 CSIQ 上测试结果。


我们与常用的全参考质量评估算法进行了对比,比较的算法包括 PSNR,MOVIE[ 11],ST-MAD [12],VMAF 和 DeepVQA [10]。每次测试都会得到一个 PLCC 和 SROCC,下表中我们使用多次实验结果的中值来代表最终性能。


我们可以清楚的看到本文所设计的算法 C3DVQA 在两个数据库上均大幅领先 PSNR,MOVIE,ST-MAD,VMAF 等传统算法。值得一提的是 DeepVQA 也是一个基于深度学习的算法,也取得了不错的性能。我们把这些性能提提升归结为两方面的原因,1)使用 CNN 来学习质量相关特征要优于传统的特征提取算法;2)DeepVQA 和 C3DVQA 均学习视频的时空联合特征,显性的利用运动信息更能刻画视频质量。



表一 LIVE 和 CSIQ 两个数据库上不同全参考算法性能比较


总结

本文简要回顾了目前学术界和工业界视频质量评估方向的发展状况。处于复杂度考虑,工业界仍倾向于使用复杂度较低的基于图像质量评估的方案。但是这样做的缺陷就是不能不能把视频作为一个整体来学习时空特性,尽管结果差强人意,也算是性能与复杂度很好的折中。


我们提出了一种基于三维卷积神经网络的全参考算法。通过学习视频的时空联合特征,能更好的解决运动信息丢失问题。相对于传统特征提取算法,我们的算法能大幅度的提升准确度。


当然,这一切才刚刚开始,还有很多工作需要补充。我们想要详细的复杂度分析,特别是在没有 GPU 可用的场景。我们也想知道所训练的算法在其它数据库上的性能,而且不仅仅局限于 PGC 视频,也包括 UGC 视频。


好消息是我们有计划对业界开源模型训练代码,这样能方便所有人去使用自己的数据库训练测试特定视频业务场景。同时,我们也欢迎任何形式的协同开发,不管是贡献数据库,还是贡献预训练模型,甚至是抛出业务场景中所遇到的问题。


本文转载自 腾讯多媒体实验室公众号。


原文链接:https://mp.weixin.qq.com/s/Kk7J8dLMhHbhksxMumHuwA


2020-01-17 18:05514

评论

发布
暂无评论
发现更多内容

架构实践二

颜培攀

架构实战营

Java-技术专题-CountDownLatch的介绍和使用

洛神灬殇

Java AQS CountDownLatch JUC

架构实战营模块 2 作业

梦寻解语花

架构实战营

模块二作业-架构训练营

架构训练营

架构训练营模块2作业

唐江

Mac 新手使用技巧|从 Windows 换到 Mac,真没有想象中的那么难。

彭宏豪95

macos 效率 Mac windows 4月日更

微信朋友圈高性能复杂度分析设计

贯通

#架构实战营

算法训练营 - 学习笔记 - 第三周

心在飞

Golang interface and error handle

escray

学习 极客时间 Go 语言 4月日更

微信朋友圈 高性能分析

return

一种特殊的树—堆

Nick

数据结构

SQL 子查询怎么优化?写的很深的这种!

xcbeyond

sql SQL优化 4月日更

重读《重构2》- 函数组合成变换

顿晓

重构 4月日更

架构实战营-M02H

赤色闪电

架构实战营模块二作业

hunk

架构实战营

微信朋友圈架构设计

Vincent

#架构实战营

【架构实战营】模块2作业

dragonboa

「架构实战营」第二次作业

高亮

架构实战营

模块二-微信朋友圈的高性能复杂度

华仔架构训练营

架构实战营模块 2 学习总结

林子钧

总结 架构实战营 模块二

【LeetCode】删除有序数组中的重复项Java题解

Albert

算法 LeetCode 4月日更

rtsp系列专题(一)之rtsp服务器搭建

txp

音视频 音频技术

架构实战营 模块二

Keyto

朋友圈高性能复杂度

Simon

架构实战营

有阳光的地方就会有影子

小天同学

公平 个人感悟 社会百态 4月日更

模块二作业

梦寐凯旋

架构实战营 模块二 总结

Pitt

作业 - 分析一下微信朋友圈的高性能复杂度

a1vin-tian

架构实战营

Ansible 安装

耳东@Erdong

ansible 4月日更

架构师实战营 模块二作业 微信朋友圈高性能架构分析

小遵

架构0期作业2

sjj

基于三维卷积神经网络的全参考视频质量评估算法(三)_文化 & 方法_腾讯多媒体实验室_InfoQ精选文章