信息论基础期中复习

发布时间 2023-04-18 16:06:50作者: asandstar
第 1 章是绪论。
 
第 2 章介绍信息论的一些基本概念, 包括自信息量互信息量离散信源熵熵的性质以及连续信源熵最大熵定理等,对信源的信息给出定量描述 ,并解释冗余度的由来及作用。 这一章是后续章节的基础。
 
第 3 章介绍信道的分类及其表示参数 ,讨论各种信道能够达到的最大传输速率 ,即信道的容量及其计算方法
 
第 4 章介绍失真函数信息率失真函数的定义及性质,给出在一定失真限度内信源必须输出的最小传输速率
 
第 5 章介绍信源编码 ,首先给出无失真信源编码定理限失真信源编码定理 ,其中无失真信源编码定理包括定长编码定理变长编码定理 ,并详细阐述最佳无失真编码中的香农码哈夫曼码编码方法及其性能比较