《信息论与编码》课程教学课件（PPT讲稿）第四章 信道及其容量

第四章信道及其容量 ●●●●● ●●●● ●●。●●

第四章 信道及其容量

●●●●● ●●●● 信道及其容量 ●●0 ●●● ●●●● ●41信道分类 ●4.2离散无记忆信道 43信道的组合 44时间离散的无记忆信道 45波形信道

信道及其容量 ⚫ 4.1信道分类 ⚫ 4.2离散无记忆信道 ⚫ 4.3信道的组合 ⚫ 4.4时间离散的无记忆信道 ⚫ 4.5波形信道

4.1信道分类 ●●●●● ●●●● ●●。●●

4.1信道分类

●●●●● ●●●● 4.1信道分类 ●●0 ●●● ●●●● ●离散信道:输入输出均为离散事件集 ●连续信道:输入输出空间均为连续事件集 ●半连续信道:输入和输出一个是离散的,一个 是连续的 ●时间离散的连续信道:信道输入和输出是连续 的时间序列 波形信道:输入和输出都是时间的实函数x(), y(t)

4.1信道分类 ⚫ 离散信道：输入输出均为离散事件集 ⚫ 连续信道：输入输出空间均为连续事件集 ⚫ 半连续信道：输入和输出一个是离散的，一个 是连续的 ⚫ 时间离散的连续信道：信道输入和输出是连续 的时间序列 ⚫ 波形信道：输入和输出都是时间的实函数x(t), y(t)

●●●●● ●●●● 41信道分类 ●●0 ●●● ●●●● ●两端信道 ●多端信道 ●恒参信道:参数不随时间变化 ●随参信道:参数随时间变化 ●无记忆信道和有记忆信道 ●对称信道和非对称信道

4.1 信道分类 ⚫ 两端信道 ⚫ 多端信道 ⚫ 恒参信道：参数不随时间变化 ⚫ 随参信道：参数随时间变化 ⚫ 无记忆信道和有记忆信道 ⚫ 对称信道和非对称信道

42离散无记忆信道 ●●●●● ●●●● ●●。●●

4.2 离散无记忆信道

●●●●● ●●●● 离散无记忆信道 ●●0 ●●● ●●●● PN(yIx)=p( lxn) 平稳信道 pOn=jxn=k)=pm=jxm=k)

离散无记忆信道 = = N n N n n p y x p y x 1 ( | ) ( | ) 平稳信道 p(y j | x k) p(y j | x k) n = n = = m = m =

●●●●● ●●●● 例:二元对称信道 ●●0 ●●● ●●●● ●p=0.1 p 0 0 p

例：二元对称信道 ⚫ p=0.1 1-p 1-p p p 1 1 0 0

●●●●● ●●●● 信道容量 ●●0 ●●● ●●●● K-1J- (X;y=∑∑gp(ik)bgx k=0j=0 ∑Qp(|i) =0 C=max /(X; r) 12kj

信道容量 max ( ; ) ( | ) ( | ) ( ; ) ( | )log { } 1 0 1 0 1 0 C I X Y Q p j i p j k I X Y Q p j k Qk K k J j K i i k = =   − = − = − =

●●●●● ●●●● 定理421 ●●0 ●●● ●●●● (X;y)≤∑1(Xn;Yn) (X;F~)≤NC

定理4.2.1 I X Y NC I X Y I X Y N N N n n n N N   = ( ; ) ( ; ) ( ; ) 1