假設源和輸出都是8bit
對於YUV 4:2:0的顏色空間,luma分量的qp範圍為0-51,chroma分量的qp範圍為0-39
其中qp就是quantization parameter。Qstep就是量化步長,即:
Zij=round(Wij/Qstep)
其中Wij代表一個宏塊(macroblock)經過DCT變換後的係數。這個宏塊在
264標準里可以是16x16,16x8,8x16,8x8,8x4等大小,其來源可以是I幀或者P/B幀的殘差值。
QP和ln(Qstep)具有線性相關性,每當QP值增加6,Qstep便會增加一倍。