第五章信源编码（一）

—  无失真信源编码定理

—  无失真编码

—  香农码、费诺码和哈夫曼码

—  限失真信源编码定理

—  常用的信源编码方法

—  无失真

—  游程编码、算术编码

—  限失真

—  量化、预测和变换编码

—  三大极限定理

—  无失真信源编码定理为第一极限定理

—  信道编码定理（包括离散和连续信道）称为第二极限定理

—  本书第6章内容

—  限失真信源编码定理称为第三极限定理 

 

 

一．信源编码的基本途径

1.       冗余度的产生

信源符号分布的不均匀性

信源符号之间的相关性

2.       减少冗余度的方法

l  使序列中的各个符号尽可能地互相独立，即解除相关性（常用）

l  使编码中各个符号出现的概率尽可能地相等，即概率均匀化

二．信源编码分类

1.       无失真离散信源编码定理

只适用于离散信源

信息传输率 < 信道容量C,总能以任意接近信道容量的传输率来传送消息

信息传输率 > 信道容量C,就不可能实现无失真传输

2.       限失真编码定理

连续信源的绝对熵无限大，若要无失真传送连续信源,则信息传输率也必须无限大

只能在失真受限制的情况下进行限失真编码

三．失真传输的必要性

1.       数字系统需要传送、存储和处理大量数据

普通电话的数码率为64kb/s

可视电话的数码率为8.448Mb/s

黑白电视的数码率为60Mb/s

传输质量要求越高，数码率越高，增加传输、存储和处理的困难

2.       为提高传输和存储效率，必须对数据进行压缩，这样会损失一定的信息，带来失真

四．失真传输的可能性

1.       实际生活中信宿一般并不要求完全无失真地恢复原消息

2.       通常总是要求在保证一定质量的条件下，近似地再现原消息，即允许有一定的失真存在

语音，由于人耳接受带宽和分辨率有限，可将频谱范围从20Hz~8KHz的语音信号去掉低端和高端的频率，看成带宽只有300Hz~3.4KHz的信号，有一些失真，但人耳可以分辨原来的语音

图像，每帧图像中都含有大量的低频分量，高频分量很少，可以丢弃一部分高频分量

五．编码器

编码器示意图

六．编码的定义

将信源消息分成若干组，即符号序列xi，

         xi＝(xi1xi2…xil…xiL)，

         xilA={a1，a2，…，ai，…，an}

每个符号序列xi依照固定码表映射成一个码字yi，

         yi＝(yi1yi2…yil…yiL)，

         yilB={b1，b2，…，bi，…，bm}

分组码，有时也叫块码。

只有分组码才有对应的码表，而非分组码中则不存在码表。

 

 

 

 

具体定义即内容见下文。。。