《信息论与编码》课程教学资源（PPT课件讲稿）第4章 信息率失真函数

∽第4章 息率失真函数

信息率失真函数 第4章

41平均失真和信息率失真函数 42离散信源和连续信源的RD)计算

2 4.1 平均失真和信息率失真函数 4.2 离散信源和连续信源的R(D)计算 内容

4.1平均失真和 信息率失真函数

3 4.1 平均失真和 信息率失真函数

4.1.1失真函数 假如某一信源X,输出样值x;, x;∈{x1,x…xn,经信源编码器后输出变成y;, y∈ ●●● n,如果 没有失真 X;≠y 产生失真 失真的大小,用一个量来表示,即失真函数 d(x1,y),以衡量用y;代替x所引起的失真程度

4 4.1.1 失真函数 • 假如某一信源X,输出样值xi , xi∈{x1,x2,…xn},经信源编码器后输出变成yj , yj∈{y1, y2,…ym},如果: xi ＝ yj 没有失真 xi ≠ yj 产生失真 • 失真的大小,用一个量来表示,即失真函数 d(xi,yj),以衡量用yj代替xi所引起的失真程度

4.1.1失真函数 失真函数定义为: d(x,,y,) ax0x.≠ °将所有的d(x1,y排列起来,用矩阵表示为 d(x,y1)…d(x,y 失真矩阵 d(xn,y1)…d(xn

5 4.1.1 失真函数 • 失真函数定义为： i j i j i j x y x y d x y  =    = 0 0 ( , )    • 将所有的d(xi,yj)排列起来,用矩阵表示为:           = ( , ) ( , ) ( , ) ( , ) d 1 1 1 1 n n m m d x y d x y d x y d x y     失真矩阵

4.1.1失真函数 例:设信源符号序列为X={0,1},经过编码器之 后的输出序列为Y={0,1,2},规定失真函数为 d(0,0)=d(1,1)=0 d(0,1)=d(1,0=1 d(0,2)=d(1,2)=0.5 失真矩阵 10.5

6 4.1.1 失真函数 • 例：设信源符号序列为X={0,1},经过编码器之 后的输出序列为Y={0,1,2},规定失真函数为 d(0,0)＝d(1,1)= 0 d(0,1)＝d(1,0)= 1 d(0,2)＝d(1,2)= 0.5       = 1 0 0.5 0 1 0.5 d 失真矩阵

4.1.1失真函数 失真函数形式可以根据需要任意选取,最常用的有: 均方失真:d(x,1)=(x1-y)2 适于 绝对失真:d(x,y)=1x-y 离散 信原 相对失真:d(x,y)=|x1-y1/1x 误码失真:d(x,y)=6(x;-y,) y ,其他

7 2 ( , ) ( ) i j i j d x y = x − y • 失真函数形式可以根据需要任意选取,最常用的有: ( , ) | | i j i j d x y = x − y ( , ) | | / | | i j i j i d x y = x − y x    = = − = 1, 其 他 0, ( , ) ( ) i j i j i j x y d x y  x y • 均方失真: • 绝对失真: • 相对失真: • 误码失真: 适于 连续 信源 适于 离散 信源 4.1.1 失真函数

4.1.1失真函数 ·汉明失真矩阵 01 10 0 对于二元对称信源(m=n),X={0,1},Y={0,1},汉 明失真矩阵 01 10

8 4.1.1 失真函数 • 汉明失真矩阵             = 1 1 0 1 0 1 0 1 1      d • 对于二元对称信源(m=n),X={0,1},Y={0,1},汉 明失真矩阵:       = 1 0 0 1 d

4.1.2平均失真 和y都是随机变量,所以失真函数d(x1y)也 随机变量,分析整个信源的失真只能用数学期望 表示; 将失真函数的数学期望称为平均失真: D=∑∑p(x)p(y1x)d(x,y) 物理意义:描述某个信源在通过某一失真编码 器后产生的总体失真的量度。 P(y/x;) 信源编码器

9 4.1.2 平均失真 • xi和yj都是随机变量,所以失真函数d(xi,yj)也是 随机变量,分析整个信源的失真只能用数学期望 表示； • 将失真函数的数学期望称为平均失真： =   j i j i i j i D p( x ) p( y | x )d ( x , y ) • 物理意义：描述某个信源在通过某一失真编码 器后产生的总体失真的量度。 信源编码器 xi yj P(yj /xi )

4.1.1失真函数 序列编码情况失真函数定义为 d1(X1,Y) 1Sd(Ⅹa,Yj °假设离散信源输出符号序列X=XX2 经过信源编码后输出序列Y={Y1Y2Y1…Y} 其中d(X1,yY1)是信源输出L长符号序列中的第i个 符号X的序列样值X1时,编码后输出L长符号序列 Y虫的第j个符号Y的序列样值Y1失真函数。 10

10 4.1.1 失真函数 • 序列编码情况失真函数定义为： • 假设离散信源输出符号序列X＝{X1 X2… Xl… XL }, 经过信源编码后输出序列Y={Y1Y2…Yl…YL }； • 其中d(Xil,Yil)是信源输出L长符号序列中的第i个 符号Xi的序列样值Xil时，编码后输出L长符号序列 Y中的第j个符号Yj的序列样值Yjl失真函数。 = = L l 1 L i j i l j l d(X ,Y ) L 1 d (X ,Y )