H.264編碼之DCT變換公式推導

DCT變換是一種與FFT變換緊密相連的數學運算，當函數爲偶函數是，其傅立葉展開式只有餘弦項，因些稱爲餘弦變換，其離散化的過程稱爲DCT(離散餘弦)變換。下面我們就推導下H.264的4x4整數DCT公式。

首先給出DCT變換的定義，其變換公式可以寫成：Y = AXA^T    這裏A爲單位正交距陣，滿足：I = AA^T

距陣A的公式如下：

這裏N爲距陣的階數，在這裏爲N=4，因此，A可以寫成如下形勢：

對A做三角變換

設

則A距陣可以變爲：

又因爲A可以分解爲

這裏我們先算下d的值：

在H.264中，定義d=1/2,則可以根據正交距陣概念算出b=sqrt(2/5)，可得

對上述公式做一此變換

下面估計正變換輸出值的範圍

矩陣C行元素絕對值之和爲6，因爲乘了兩次值，最大爲36，log236=5.1699 = 6位

加上9位視頻輸入，共15位。因此，用16位的位深足以表示。

本博文內容源由多媒體核心技術羣內的講座，更多內容請加入羣：374737122