html5网站源码php,单位网站查询工资链接怎么做,wordpress负载均衡,网站访客qq号码获取H264视频压缩算法现在无疑是所有视频压缩技术中使用最广泛#xff0c;
最流行的。随着 x264/openh264以及ffmpeg等开源库的推出#xff0c;大多数使用者无需再对H264的细节做过多的研究#xff0c;这大降低了人们使用H264的成本。
但为了用好H264#xff0c;我们还是要对…H264视频压缩算法现在无疑是所有视频压缩技术中使用最广泛
最流行的。随着 x264/openh264以及ffmpeg等开源库的推出大多数使用者无需再对H264的细节做过多的研究这大降低了人们使用H264的成本。
但为了用好H264我们还是要对H264的基本原理弄清楚才行。今天我们就来看看H264的基本原理。
H264概述 H264压缩技术主要采用了以下几种方法对视频数据进行压缩。包括
帧内预测压缩解决的是空域数据冗余问题。帧间预测压缩运动估计与补偿解决的是时域数据冗徐问题。整数离散余弦变换DCT将空间上的相关性变为频域上无关的数据然后进行量化。CABAC压缩。
经过压缩后的帧分为I帧P帧和B帧:
I帧关键帧采用帧内压缩技术。P帧向前参考帧在压缩时只参考前面已经处理的帧。采用帧音压缩技术。B帧双向参考帧在压缩时它即参考前而的帧又参考它后面的帧。采用帧间压缩技术。
除了I/P/B帧外还有图像序列GOP。
GOP:两个I帧之间是一个图像序列在一个图像序列中只有一个I帧。如下图所示
下面我们就来详细描述一下H264压缩技术。
H264压缩技术
H264的基本原理其实非常简单下我们就简单的描述一下H264压缩数据的过程。通过摄像头采集到的视频帧按每秒 30 帧算被送到 H264 编码器的缓冲区中。编码器先要为每一幅图片划分宏块。
以下面这张图为例: 划分宏块
H264默认是使用 16X16 大小的区域作为一个宏块也可以划分成 8X8 大小。
划分好宏块后计算宏块的象素值。 以此类推计算一幅图像中每个宏块的像素值所有宏块都处理完后如下面的样子。 划分子块
H264对比较平坦的图像使用 16X16 大小的宏块。但为了更高的压缩率还可以在 16X16 的宏块上更划分出更小的子块。子块的大小可以是 8X16 16X8 8X8 4X8 8X4 4X4非常的灵活。 上幅图中红框内的 16X16 宏块中大部分是蓝色背景而三只鹰的部分图像被划在了该宏块内为了更好的处理三只鹰的部分图像H264就在 16X16 的宏块内又划分出了多个子块。 这样再经过帧内压缩可以得到更高效的数据。下图是分别使用mpeg-2和H264对上面宏块进行压缩后的结果。其中左半部分为MPEG-2子块划分后压缩的结果右半部分为H264的子块划压缩后的结果可以看出H264的划分方法更具优势。 宏块划分好后就可以对H264编码器缓存中的所有图片进行分组了。
帧分组
对于视频数据主要有两类数据冗余一类是时间上的数据冗余另一类是空间上的数据冗余。其中时间上的数据冗余是最大的。下面我们就先来说说视频数据时间上的冗余问题。
为什么说时间上的冗余是最大的呢假设摄像头每秒抓取30帧这30帧的数据大部分情况下都是相关联的。也有可能不止30帧的的数据可能几十帧上百帧的数据都是关联特别密切的。
对于这些关联特别密切的帧其实我们只需要保存一帧的数据其它帧都可以通过这一帧再按某种规则预测出来所以说视频数据在时间上的冗余是最多的。
为了达到相关帧通过预测的方法来压缩数据就需要将视频帧进行分组。那么如何判定某些帧关系密切可以划为一组呢我们来看一下例子下面是捕获的一组运动的台球的视频帧台球从右上角滚到了左下角。 H264编码器会按顺序每次取出两幅相邻的帧进行宏块比较计算两帧的相似度。如下图
通过宏块扫描与宏块搜索可以发现这两个帧的关联度是非常高的。进而发现这一组帧的关联度都是非常高的。因此上面这几帧就可以划分为一组。其算法是在相邻几幅图像画面中一般有差别的像素只有10%以内的点,亮度差值变化不超过2%而色度差值的变化只有1%以内我们认为这样的图可以分到一组。
在这样一组帧中经过编码后我们只保留第一帖的完整数据其它帧都通过参考上一帧计算出来。我们称第一帧为IDRI帧其它帧我们称为PB帧这样编码后的数据帧组我们称为GOP。
运动估计与补偿
在H264编码器中将帧分组后就要计算帧组内物体的运动矢量了。还以上面运动的台球视频帧为例我们来看一下它是如何计算运动矢量的。
H264编码器首先按顺序从缓冲区头部取出两帧视频数据然后进行宏块扫描。当发现其中一幅图片中有物体时就在另一幅图的邻近位置搜索窗口中进行搜索。如果此时在另一幅图中找到该物体那么就可以计算出物体的运动矢量了。下面这幅图就是搜索后的台球移动的位置。 抖音 ----》视频 1M 9M
通过上图中台球位置相差就可以计算出台图运行的方向和距离。H264依次把每一帧中球移动的距离和方向都记录下来就成了下面的样子。 运动矢量计算出来后将相同部分也就是绿色部分减去就得到了补偿数据。我们最终只需要将补偿数据进行压缩保存以后在解码时就可以恢复原图了。压缩补偿后的数据只需要记录很少的一点数据。如下所示 我们把运动矢量与补偿称为帧间压缩技术它解决的是视频帧在时间上的数据冗余。除了帧间压缩帧内也要进行数据压缩帧内数据压缩解决的是空间上的数据冗余。下面我们就来介绍一下帧内压缩技术。
帧内预测
人眼对图象都有一个识别度对低频的亮度很敏感对高频的亮度不太敏感。所以基于一些研究可以将一幅图像中人眼不敏感的数据去除掉。这样就提出了帧内预测技术。
H264的帧内压缩与JPEG很相似。一幅图像被划分好宏块后对每个宏块可以进行 9 种模式的预测。找出与原图最接近的一种预测模式。
下面这幅图是对整幅图中的每个宏块进行预测的过程。 帧内预测后的图像与原始图像的对比如下 然后将原始图像与帧内预测后的图像相减得残差值。 再将我们之前得到的预测模式信息一起保存起来这样我们就可以在解码时恢复原图了。效果如下 经过帧内与帧间的压缩后虽然数据有大幅减少但还有优化的空间。
对残差数据做DCT
可以将残差数据做整数离散余弦变换去掉数据的相关性进一步压缩数据。如下图所示左侧为原数据的宏块右侧为计算出的残差数据的宏块。 将残差数据宏块数字化后如下图所示 将残差数据宏块进行 DCT 转换。
去掉相关联的数据后我们可以看出数据被进一步压缩了。 做完 DCT 后还不够还要进行 CABAC 进行无损压缩。
DCT原理大白话
这是第一帧画面P1我们的参考帧
这是第二帧画面P2需要编码的帧 从视频中截取的两张间隔1-2秒的画面和实际情况类似下面我们进行几次运动搜索
这是一个演示程序鼠标选中P2上任意16x16的Block即可搜索出P1上的 BestMatch 宏块。虽然车辆在运动从远到近但是依然找到了最接近的宏块坐标。 这是一个演示程序鼠标选中P2上任意16x16的Block即可搜索出P1上的 BestMatch 宏块。虽然车辆在运动从远到近但是依然找到了最接近的宏块坐标。
搜索演示2空中电线交叉位置上图P1下图P2 同样顺利在P1中找到最接近P2里海报的宏块位置。
图片全搜索根据P1和运动矢量数据在P2中搜索到每一个宏块在P1中最相似的位置集合还原出来的P2’即完全用P1各个位置的宏块拼凑出来最像P2的图片P2’效果如下 仔细观察有些支离破碎对吧肯定啊拼凑出来的东西就是这样现在我们用P2和P2像素相减得到差分图 D2 (P2’ - P2) / 2 0x80 这就是之前支离破碎的 P2 加上误差 D2之后变成了清晰可见的样子基本还原了原图P2。 由于D2仅仅占5KB加上压缩过后的运动矢量不过7KB所以参考P1我们只需要额外 7KB的数据量就可以完整表示P2了而如果独立将P2用质量尚可的有损压缩方式独立压缩则至少要去到50-60KB这一下节省了差不多8倍的空间正就是所谓运动编码的基本原理。
实际在使用中参考帧并不一定是前面一帧也不一定是同一个GOP的I帧因为GOP间隔较长时后面的图片离I帧变化可能已经很大了因此常见做法是最近15帧中选择一帧误差最小的作为参考帧虽然彩色画面有YUV三个分量但是大量的预测工作和最有选择通常是根据Y分量的灰度帧进行判断的。
再者误差我们保存的是P2-P2’/2 0x80实际使用时我们会用更有效率的方式比如让[-64,64]之间的色差精度为1[-255,-64], [64, 255] 之间的色差精度为2-3这样会更加真实一些。
同时上文很多地方用的是直接lzma2进行简单存储实际使用时一般会引入熵编码对数据进行一定层次的整理然后再压缩性能会好不少。
CABAC
上面的帧内压缩是属于有损压缩技术。也就是说图像被压缩后无法完全复原。而CABAC属于无损压缩技术。
无损压缩技术大家最熟悉的可能就是哈夫曼编码了给高频的词一个短码给低频词一个长码从而达到数据压缩的目的。MPEG-2中使用的VLC就是这种算法我们以 A-Z 作为例子A属于高频数据Z属于低频数据。看看它是如何做的。 CABAC也是给高频数据短码给低频数据长码。同时还会根据上下文相关性进行压缩这种方式又比VLC高效很多。其效果如下 现在将 A-Z 换成视频帧它就成了下面的样子。 从上面这张图中明显可以看出采用 CACBA 的无损压缩方案要比 VLC 高效的多。
