《信息论与编码》（订购）

杨守义 李双志 著

西安电子科技大学出版社

内容简介

　　本书以“读得懂”为基本出发点，以通信系统的“有效性”和“可靠性”为主线，重点介绍信息论的基本理论和编码的实现原理。全书分为7章，首先介绍了有关信息度量的基础知识，然后讨论了保证通信系统有效性和可靠性的香农极限定理有关问题，包括信源熵、信道容量、信息率失真函数等，最后介绍了实现“有效性”和“可靠性”的手段和方法，即信源编码和信道编码。本书涵盖了无失真信源编码、限失真信源编码和信道编码的理论知识及实现原理，并简要介绍了网络信息理论。

　　本书对重要的理论和方法进行了分析，具有较强的可读性；同时强调内容设计的逻辑性，突出重点，理论阐述由浅入深。通过本书，读者可掌握信息论的基本概念和理论以及编码技术的实现原理，从而更好地理解信息传递、存储、处理等方面的问题，并能够应用这些知识解决实际问题。

　　本书可作为高等院校通信工程、电子信息工程及相关专业的本科生教材，也可供相关专业科研人员参考。

创作背景

　　在多年“信息论与编码”课程的教学以及与学生的互动过程中，笔者深深体会到“教材是用来供学生更好地学习的”，所以教材首先要让人能够看懂。

　　教材是著者和学习者的互动媒介。一方面，学习者通过阅读教材学习其中的内容，理解著者意图；另一方面，学习者是著者的互动对象，著者要了解互动对象的特点、习惯、优势、不足等，才能有的放矢，写出让学习者愿意读、能读懂的教材，并引导学习者“钻入”教材中，不仅能平视甚至仰视所学内容，而且能够站到一个更高的平台去俯视，从而从整体上把握所学知识，把所学知识与专业整体知识体系融为一体。

　　为达到此目的，以下两点尤为重要：

　　其一，任意一个知识点，都是整体的一部分，而不是独立的部分。教材只有在这种思想下介绍每一个知识点，才能使学习者明白其在整体中的位置。这样，当把所有的知识点都学习完了以后，这些知识点是可以组装在一起的，而不是一堆“零件”，并且还要知道这个组装起来的整体在整个知识体系中的地位和作用。

　　其二，任何一个概念或结论都是有物理意义的，而不仅仅是一个定义、一个数学公式。只有理解其物理意义，才算真正明白它是什么、有什么用、怎么用。如果陷于复杂的数学推导，而不交代清楚其物理意义，只是从公式到公式，严谨则严谨矣，但不够“物理”。只有够“物理”，才能让人真正明白“物之理”。

　　本教材力图紧扣以上两点，从以下两方面来进行阐述：

　　其一，从整体性上来说，本教材从通信的根本问题出发进行讲述。通信的根本问题是要把信息从发送端有效、可靠地传送到接收端。因此，作为研究通信理论的信息论，就要研究信息传输的有效性和可靠性问题。

　　所谓有效性，就是要最大限度地去除信源中的冗余，从而用尽可能少的符号携带尽可能多的信息。如何衡量信源符号里所包含的信息量，从而了解信源的冗余？这就需要对信源进行分析和讨论，这就是第2章“信源与信源熵”所要解决的问题。

　　所谓可靠性，就是要让信息以尽可能低的差错概率经过信息传输的通道（信道）传送到接收端。一般来说，信道上信息传输得越快，发生错误的可能性越大，可靠性也就越低。因此，关于信息传输的可靠性问题，也可以换个说法：所谓可靠性，是指在保证一定传输质量（差错概率低于某特定值）的前提下，信道上所能达到的最大传输速率。该最大传输速率就取决于信道。因此，第3章“信道与信道容量”对信道进行了详细的分析。

　　不仅要了解有效性与可靠性的理论边界，还要了解实现有效性与可靠性的手段和方法，这就是我们称之为“编码”的内容。

　　实现有效性，要通过我们称之为“信源编码”的方法来完成，这就是第5章“信源编码”要讲述的内容。显然，信源编码要在了解信源特性的基础上进行，所以第5章和第2章密切相关。

　　实现可靠性，要通过我们称之为“信道编码”的方法来完成，这就是第6章“信道编码”要讲述的内容。显然，信道编码要在了解信道特性的基础上进行，所以第6章和第3章密切相关。

　　可以看出，第2章、第3章、第5章和第6章组成了本教材的主线，且各章之间也有各自的脉络。

　　有些应用场合，为了提高有效性而进行信源编码时，允许有一些失真，我们称之为“限失真信源编码”，实际上就是有失真压缩编码。在允许失真的情况下，要分析失真容许度和压缩编码可达到的最低信息码率有什么关系，这就是第4章“失真与信息率失真函数”要讨论的内容。

　　除此之外，本教材在第7章“网络信息论初步”中还对目前前沿的网络信息理论作了简要的介绍。

　　以上介绍的6章，再加上引出问题的第1章“绪论”，共7章内容，就组成了本教材的全部章节。

　　其二，从物理性上来说，每一个概念、每一个结论，都会有鲜明的物理意义。只有明白这些物理意义，学到的东西才是可以应用的，才可以与该知识体系中的其他内容融会贯通起来，形成一个整体。

　　一般来说，一个结论（定理、引理等）的得出，需要比较复杂的数学推导过程。过于追求数学严谨，势必陷入大量数学公式之中，而冲淡甚至忘记理解结论背后所具有的物理意义；如果不做数学推导而仅给出结论，则容易导致对结论的理解不够深刻，知其然而不知其所以然。

　　为兼顾严谨性和物理性，对于数学推导过程复杂烦琐的结论，本教材采取的办法是，先介绍得出该结论的整体思路和关键点（忽略细节），然后给出结论描述，并重点对结论所具有的物理意义进行分析。这样，读者就能够重点关注结论的物理意义，同时也对结论的得出脉络有相当的了解。至于推导过程的细节，则放在扩展阅读中，提供给有需要的读者进一步细读。

特色亮点

　　注重基本概念

　　注重基本概念，用较通俗的文字解释其抽象的意义，辅以一定的例题和图表说明，不再以复杂的公式来证明这些孰知的公理。

　　将概念应用于实际工作中

　　联系当前实际通信技术，使读者学习后概念清晰，可以有目标地将概念应用于实际工作中。

来源：西安电子科技大学出版社