《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 习题课1/2

2.3一副充分洗乱的牌（含52张），试问：（1）任一特定排列所给出的不确定性是多少？（2）随机抽取13张牌，13张牌的点数互不相同时的不确定性是多少？解：（1）52张扑克牌可以按不同的顺序排列，所有可能的不同排列数就是全排列种数，为P2 = 52! ~ 8.066 × 1067

2.3 一副充分洗乱的牌（含 52 张），试问： （1）任一特定排列所给出的不确定性是多少？ （2）随机抽取 13 张牌，13 张牌的点数互不相同时 的不确定性是多少？ 解：（1）52 张扑克牌可以按不同的顺序排列，所 有可能的不同排列数就是全排列种数，为 52 67 52 P     52 8.066 10

因为扑克牌充分洗乱，任一特定排列出现的概率相等，设事件A为任一特定排列，则其发生概率为1~ 1.24 ×10-68P(A52!可得，该排列发生所给出的信息量为I(A)= -log2 P(A) = log2 52! ~ 225.58bit

因为扑克牌充分洗乱，任一特定排列出现的概率相 等，设事件 A 为任一特定排列，则其发生概率为   1 68 1.24 10 52 P A      可得，该排列发生所给出的信息量为 I A P A        log log 52 225.58 2 2   bit

(2）设事件B为从中抽取13张牌，所给出的点数互不相同。扑克牌52张中抽取13张，不考虑排列顺序，共有C52种可能的组合。13张牌点数互不相同意味着点数包括A，2，，K，而每一种点数有4 种不同的花色意味着每个点数可以取4中花色。所以13张牌中所有的点数都不相同的组合数为413

（2）设事件 B 为从中抽取 13 张牌，所给 出的点数互不相同。 扑克牌 52 张中抽取 13 张，不考虑排 列顺序，共有 13 C52 种可能的组合。13 张牌点 数互不相同意味着点数包括 A，2，.，K， 而每一种点数有 4 种不同的花色意味着每 个点数可以取 4 中花色。所以 13 张牌中所 有的点数都不相同的组合数为 13 4

因为每种组合都是等概率发生的，所以113413 ×13!39!~ 1.0568 ×10-4P(B)1352!52则发生事件B所得到的信息量为113～13.208I (B)= -log P(B)=-log;~13bit52

因为每种组合都是等概率发生的，所以   13 13 4 13 52 4 4 13 39 1.0568 10 52 P B C          则发生事件 B 所得到的信息量为     13 2 13 52 4 I B P B log log 13.208 C      bit

·2.4同时扔出两个正常的殷子，也就是各面呈现的概率都是，求：(1)“2和6同时出现”这事件的自信息量(2)“两个3同时出现”这事件的自信息量(3)两个点数的各种组合（无序对）的熵或平均自信息量，（4）两个点数之和（即2，3，.….，12构成的子集）的熵。（5）两个点数中至少有一个是1的自信息

• 2.4 同时扔出两个正常的骰子，也就是各面呈 现的概率都是 ，求： • （1）“2和6 同时出现”这事件的自信息量。 • （2）“两个3同时出现”这事件的自信息量。 • （3）两个点数的各种组合（无序对）的熵或 平均自信息量。 • （4）两个点数之和（即2，3，.，12构成的 子集）的熵。 • （5）两个点数中至少有一个是1的自信息

解：因为两殷子是独立的，又各面呈现的概率为，故同时扔两个正常的殷子，可能呈现的状态数有6×6=36种这36种中任一状态出现的概率相等为 1/36

解： 因为两骰子是独立的，又各面呈现 的概率为 ，故同时扔两个正常的骰 子，可能呈现的状态数有6×6=36种， 这36种中任一状态出现的概率相等 为 1/36

(1)“2和6同时出现”这事件的自信息量。设“2和6同时出现”这事件为A。在这36种状态中，2和2同时出现有两种情况，即2，6和6，2。所以21PCL3618得I (A) = -log P(A) = log2 18 ~ 4.17bit

（1）“2和6 同时出现”这事件的自信息 量。 设“2 和 6 同时出现”这事件为 A。 在这 36 种状态中，2 和 2 同时出现 有两种情况，即 2，6 和 6，2。 所以   2 1 36 18 P A   得     2 I A P A     log log 18 4.17 bit

（2）设“两个3同时出现”这个事件为B。在这36 种状态中，两个3同时出现只有一种状态，所以1P(B)=36得I (B)= -log P(B) = log2 36 ~ 5.17bit

（2）设“两个 3 同时出现”这个 事件为 B。在这 36 种状态中，两 个 3 同时出现只有一种状态，所以   1 36 P B  得     2 I B P B     log log 36 5.17 bit

（3）设两个点数的各种组合构成信源X。信源X的符号集就是36种状态，每种状态出现的概率均为1/36，其概率空间为X1,X2,,X36X111P(x)363636.所以H (X)=log2 36 ~ 5.17bit/symbol

（3）设两个点数的各种组合构成信源 X。 信源 X 的符号集就是 36 种状态，每种状态 出现的概率均为 1/36，其概率空间为   1 2 36 , , , 1 1 1 , , , 36 36 36 x x x X P x                  所以   2 H X   log 36 5.17 bit/symbol

（4）设两个殷子的点数分别用X和Y表示，构成的概率空间分别为,3,4,5,612X11P(66662D1, 2,3, 4,5, 6Y111P(y)666b

（4）设两个骰子的点数分别用 X 和 Y 表示，构成 的概率空间分别为   1, 2,3, 4,5,6 111111 , 666666 X P x                  1, 2,3, 4,5,6 111111 , 666666 Y P y               