信息论基础教程 - 中国高校教材图书网
|
书名: |
信息论基础教程
|
ISBN: | 7-5635-0910-0/TN·331 |
条码: | |
作者: |
李亦农 李梅
相关图书
|
装订: | 平装 |
印次: | 1-1 |
开本: | 异形16开 |
定价: |
¥22.00
折扣价:¥14.74
折扣:0.67
节省了7.26元
|
字数: |
321千字
|
出版社: |
北京邮电大学出版社 |
页数: |
|
发行编号: | |
每包册数: |
|
出版日期: |
2005-01-01 |
|
内容简介: |
信息论是研究信息传输和信息处理过程中的一般规律的一门学科,也是现代信息通信领域的一门基础理论。本书以香农的3个编码定理为中心,重点讲述了相关的基本概念、基本原理和基本方法。本书是作者根据多年教学经验编著而成的。鉴于目前学生可选择的课程越来越多,每门课的学时数不会很大,因此本书只讲述经典香农信息论的内容,而没有涉及过多分支。
|
作者简介: |
|
章节目录: |
第1章绪论 1.1信息的概念1 1.2信息论的研究对象、目的和内容3 第2章信息的度量 2.1自信息和互信息7 2.1.1自信息7 2.1.2互信息9 2.2平均自信息10 2.2.1平均自信息的概念10 2.2.2熵函数的性质11 2.2.3联合熵与条件熵15 2.3平均互信息19 2.3.1平均互信息的概念19 2.3.2平均互信息的性质20 2.3.3数据处理定理24 习题225 第3章信源及信源熵 3.1信源的分类及其数学模型29 3.2离散单符号信源30 3.3离散多符号信源31 3.3.1离散平稳无记忆信源32 3.3.2离散平稳有记忆信源33 3.3.3马尔可夫信源36 3.3.4信源的相关性和剩余度40 3.4连续信源44 3.4.1连续信源的微分熵44 3.4.2连续信源的最大熵48 3.4.3连续信源的熵功率49 习题350 第4章信道及信道容量 4.1信道的分类55 4.2离散单符号信道及其信道容量56 4.2.1离散单符号信道的数学模型56 4.2.2信道容量的概念58 4.2.3几种特殊信道的信道容量59 4.2.4离散对称信道的信道容量61 4.2.5一般离散信道的信道容量65 4.2.6信道容量定理68 4.2.7信道容量的迭代算法72 4.3离散多符号信道及其信道容量75 4.4组合信道及其信道容量78 4.4.1独立并联信道78 4.4.2级联信道79 4.5连续信道及其信道容量80 4.5.1连续随机变量的互信息80 4.5.2高斯加性信道的信道容量81 4.5.3多维高斯加性信道的信道容量83 4.6波形信道及其信道容量84 习题485 第5章无失真信源编码 5.1信源编码的相关概念89 5.1.1编 码 器89 5.1.2码的分类91 5.2定长码及定长编码定理94 5.3变长码及变长编码定理99 5.3.1Kraft不等式和McMillan不等式99 5.3.2唯一可译码的判别准则102 5.3.3无失真变长编码定理103 5.3.4香农第一编码定理106 5.4变长码的编码方法109 5.4.1香农编码110 5.4.2香农费诺埃利斯编码111 5.4.3霍夫曼编码111 5.4.4r元霍夫曼编码115 5.4.5费诺编码115 5.5实用的无失真信源码方法117 5.5.1游程编码117 5.5.2算术编码119 5.5.3LZW码120 习题5123 第6章有噪信道编码 6.1信道编码的相关概念127 6.1.1错误概率和译码规则128 6.1.2错误概率与编码方法134 6.2有噪信道编码定理141 6.2.1有噪信道编码定理141 6.2.2有噪信道编码逆定理144 6.2.3错误概率的上界145 6.3纠错编码147 6.3.1纠错码分类147 6.3.2纠错码的基本概念149 6.4几种重要的纠错码150 6.4.1线性分组码150 6.4.2汉明码163 6.4.3循环码165 6.4.4卷积码170 习题6173 第7章限失真信源编码 7.1失真测度177 7.1.1失真函数177 7.1.2平均失真179 7.2信息率失真函数181 7.2.1D失真许可信道181 7.2.2信息率失真函数的定义181 7.2.3信息率失真函数R(D)的性质182 7.3信息率失真函数的计算188 7.3.1应用参量表示式计算R(D)188 7.3.2二元信源和离散等概信源的R(D)函数195 7.4限失真信源编码定理和逆定理198 7.4.1限失真信源编码定理198 7.4.2限失真信源编码逆定理202 7.5熵压缩编码具体方法204 7.5.1标量量化204 7.5.2矢量量化205 7.5.3变换编码206 7.5.4预测编码206 习题7207 附录A上机作业 A.1信道容量的迭代计算209 A.2唯一可译码判决准则210 A.3Huffman编码211 A.4LZW编码211 附录B数学预备知识 B.1离散概率论回顾212 B.2契比雪夫不等式213 B.3大数定理213 B.4渐进等同分割性和ε典型序列214 B.5马尔可夫链218 B.6n维欧式空间222 B.7Jensen不等式223 B.8KuhnTucker条件(闭图像定理)224
|
精彩片段: |
|
书 评: |
|
其 它: |
|
|
|