《信息理论与编码》课程教学课件（讲稿）第3章 信道模型和信道容量 3.1 信道模型与信道分类 3.2 离散无记忆信道的数学模型 3.3 概率的计算问题 3.4 信道的疑义度、散布度和平均互信息

武汉理工大学HTTP:J/WWW.WHUT.EDU.CN第3章信道容量和信道模型

第3章 信道容量和信道模型

学习内容3.1信道模型与信道分类离散无记忆信道的数学模型3. 273.3 概率的计算问题3.4 信道的疑义度、散布度和平均互信息3.5信道容量3.6扩展信道及其信道容量3.7 信道的组合3.8信源与信道的匹配3.9连续信道及其信道容量3.10波形信道及其信道容量

学习内容 3.1 信道模型与信道分类 3.2 离散无记忆信道的数学模型 3.3 概率的计算问题 3.4 信道的疑义度、散布度和平均互信息 3.5 信道容量 3.6 扩展信道及其信道容量 3.7 信道的组合 3.8 信源与信道的匹配 3.9 连续信道及其信道容量 3.10 波形信道及其信道容量

3.1信道模型与信道分类主要内容·信道模型·信道分类方法与类别

3.1 信道模型与信道分类 主要内容 • 信道模型 • 信道分类方法与类别

1、信道模型输入/输出统计关系输入输出X(t)信道Y(t)（随机过程）（随机过程）噪声干扰Z(t)（随机过程）注：对信道的研究，总是假定信道的输入/输出统计关系已知

1、信道模型 输入 X(t) （随机过程） 信道 输出 Y(t) （随机过程） 噪声干扰 Z(t) （随机过程） 输入/输出统计关系 注：对信道的研究，总是假定信道的输入/输 出统计关系已知

2、信道分类（1）根据信道输入/输出信号在时间和幅值上的离散或连续来划分时间离散、幅值离散信道时间离散简称离散信道（discretechannel）信道时间离散、幅值连续信道信道简称连续信道（continuouschannel）时间连续、幅值离散信道时间连续时间连续、幅值连续信道信道简称波形信道（waveformchannel）

（1）根据信道输入/输出信号在时间和幅值上的离 散或连续来划分 信道 时间离散 信道 时间离散、幅值离散信道 简称离散信道（discrete channel） 时间离散、幅值连续信道 简称连续信道（continuous channel） 时间连续 信道 时间连续、幅值离散信道 时间连续、幅值连续信道 简称波形信道（waveform channel） 2、信道分类

2、信道分类（续）（2）根据信道的记忆特性划分无记忆信道：信道当前的输出只与当前的输入有关。有记忆信道：信道当前的输出不但与当前的输入有关，还与当前时刻以前的输入有关。(3）根据信道的输入/输出的关系划分无噪声信道：信道的输入/输出关系是确定关系。有噪声信道：信道的输入/输出关系是统计依存关系

（2）根据信道的记忆特性划分 无记忆信道：信道当前的输出只与当前的输入有 关。 有记忆信道：信道当前的输出不但与当前的输入 有关，还与当前时刻以前的输入有关。 （3）根据信道的输入/输出的关系划分 无噪声信道：信道的输入/输出关系是确定关系。 有噪声信道：信道的输入/输出关系是统计依存 关系。 2、信道分类（续）

2、信道分类（续）（4）根据信道物理组成划分可分为很多类，较常见的有：有线信道、无线信道、光纤信道等。(5）木根据信道的参数类型划分恒参（时不变）信道：信道的统计特性不随时间变化。变参（时变）信道：信道的统计特性随时间变化

（4）根据信道物理组成划分 可分为很多类，较常见的有：有线信道、无线 信道、光纤信道等。 （5）根据信道的参数类型划分 恒参（时不变）信道：信道的统计特性不随时间 变化。 变参（时变）信道：信道的统计特性随时间变化。 2、信道分类（续）

2、信道分类（续）（6）根据信道的用户类型划分两端（单用户）信道：只有一个输入端和一个输出端的单向信道。多端（多用户）信道：有多个输入端和多个输出端的单向或双向信道

（6）根据信道的用户类型划分 两端（单用户）信道：只有一个输入端和一个输 出端的单向信道。 多端（多用户）信道：有多个输入端和多个输出 端的单向或双向信道。 2、信道分类（续）

3.2离散无记忆信道的数学模型（1）DMC的数学模型(X, Pyx, Y)PAXyDMC(a,az,.",a.)(b,b,..,b,)噪声干扰转移概率集合：Pyix ={P(b, la,)li= 1,2,..,r, j = 1,2,..-,s)

（1）DMC的数学模型 X Y 噪声干扰 DMC 1 2 { , , , }r a a a 1 2 { , , , }s b b b PY X| 3.2 离散无记忆信道的数学模型 | { ( | ) | 1,2, , ; 1,2, , } P P b a i r j s Y X j i    转移概率集合： {X，PY|X，Y }

（2）转移（概率）矩阵b,b26P(b, /ar)P(b, a)P(b, /a,)aP(b, /a2)P(bz la2)..P(b,la2)a[Pyix ] =.P(b, la,)P(b, la,)..P(b, la,)J a,信道加一个输入，必然会产生一个输出，因此，转移矩阵中各行s个转移概率自身是完备的，即各行s个转移概率之和为1。ZP(b, la,)=1, i =1,2,.,rj=1

（2）转移（概率）矩阵 1 2 1 1 2 1 1 1 1 2 2 2 2 2 | 1 2 ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) [ ] ( | ) ( | ) ( | ) s s s Y X r r s r r b b b P b a P b a P b a a P b a P b a P b a a P P b a P b a P b a a              1 ( | ) 1 , 1,2, , s j i j P b a i r     信道加一个输入，必然会产生一个输出，因 此，转移矩阵中各行s个转移概率自身是完备的， 即各行s个转移概率之和为1