?y1?x1??y2?x2 ?y?x3?3平均错误概率
11111111PE???????
2412824121224若根据最大似然概率译码准则，
?1?2?1P???6?1???31312161?6???y1?x11??3?，在矩阵每列中选一最大值，译为?y2?x2
?y?x1?3?3?2??平均错误概率
PE?1?11?1?11?1?11?1???????????? 2?63?4?36?4?36?25.2.2（陈杰，140页）
例5.3 设一离散无记忆信道的输入符号集为?x1,?,xK?，输出符号集为
?y1,?,yJ?，信道转移概率为p?yjxk?，k?1，?，K；j?1，?，J。
若译码器以概率?kj（k?1，?，K；j?1，?，J）对收到的yj判决为
xk，试证明对于给定的输入分布，任何随即判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
1,2,?,K?，且 证明：根据最大后验概率译码准则，有xq?fyj，q??1,2,?,K?，j??1,2,?,J? ?qj??kj ?k??所以有 pxqyj?p?xkyj???????p?xq,yj?p?yj?p?xk,yj?p?yj?
?p?xq?pyjxq?p?yj???p?xk?pyjxk?p?yj??
?pyjxq?p?xq??pyjxk?p?xk? 最大后验概率译码的错误概率为： PE1???Y,X?xq?p?yx?p?x??1??p?yx?p?x?
Jjiijqqj?1随即判决法译码的错误概率为： PE2?Y,X?xk?p?yx?p?x??1??p?yx?p?x?
jiijkkj?1J所以PE1?PE2，得证。 5.3平均差错率与信道编码
5.3.1（原5.2）设信源有M个消息符号，将每个符号编码成N长的二进制码字，码字从2N个N长二进制序列中独立、等概地选出，若采用极大似然译码规则，试分别求取在以下三种信道下的平均差错率。
p??1?p?p1?p? ??答案：王虹老师 5.3.2（傅详，p192）
0?0?1?1?p?p1?p? ?01?p???p? p?? [6-8]设一离散无记忆信道，其信道矩阵为
?1?2??0?P??0?
??0??1??2（1） 计算信道容量C。
121200001212000012120?0??0??0?? 1??2?1?2??1（2） 找出一个码长为2的重复码，其信息传输率为log5（即5个码字）。
2如果按最大似然译码准则设计译码器，求译码器输出端的平均错误概率PE（输入码字为等概率分布）。
?i?（3） 有无可能存在一个码长为2的码而使pe?0(i?1,2,3,4,5) 即使
PE?0，如存在的话请找出来。
解： （1）
因为输入码字等概率分布，这重复码n?2，M?5，因此满足信息传输率 R? 此信道是无记忆信道，满足
P?jWi??Pbj1ai1Pbj2ai2
?j?bj1bj2，Wi?ai1ai2，bj1，bj2?B，ai1，ai2?A j=1，2，?，25， i=1，2，?，5 解：（1）根据信道矩阵P，可知其是一对称信道，所以信道容量为
logM1?log5 n2?????????
?11?C?log5?H,,0,0,0??
?22? ?log5?log2 ?1.322 比特／符号
（3） 设信道的输入符号集A??0,1,2,3,4?，输出符号集B??0,1,2,3,4?，其
传递信道矩阵为P，任选码长为2的重复码： C：W1?00,W2?11,W3?22,W4?33,W5?44
因为输入码字等概率分布，这重复码n?2，M?5，因此满足信息传输率 R?此信道是无记忆信道，满足
P?jWi??Pbj1ai1Pbj2ai2
?j?bj1bj2， Wi?ai1ai2， bj1，bj2?B， ai1，ai2?A j=1，2，?，25， i=1，2，?，5 下面给出传递概率P?jWi?的矩阵为：
W1?00W2?11W3?22W4?33W4?44000102?14140?000??000?00?0??140003041011121314202122232430313233344041424344001414000000000000000000?00014140001414000000000000??00000000014140001414000000??00000000000000014140001414?0140000000000000001400014??logM1?log5 n2??????????根据最大似然译码准则，确定的译码规则是
00?22?11?????j?01?译成 00，?j?12?译成 11，?j?23?译成 22
??10?3221???