参考教材首先了解如下两个问题1．信息的概念是什么？2．信息论研究什么样的问题？信息不是静止的，它会产生也会消亡，人们需要获取它，并完成它的传输、交换、处理、检测、识别、存储、显示等功能。研究这方面的科学就是信息科学，信息论是信息科学的主要理论基础之一。在人类的历史长河中，信息传输和传播手段经历了五次变革：第一次变革：语言的产生第二次变革：文字的产生第三次变革：印刷术的发明第四次变革：电报、电话的发明第五次变革：计算机技术与通信技术相结合，促进了网络的发展。信息论是在信息可以量度的基础上，研究有效地和可靠地传递信息的科学，它涉及信息量度、信息特性、信息传输速率、信道容量、干扰对信息传输的影响等方面的知识。通常把上述范围的信息论称为狭义信息论，又因为它的创始人是香农，故又称为香农信息论。广义信息论则包含通信的全部统计问题的研究，除了香农信息论之外，还包括信号设计、噪声理论、信号的检测与估值等。C.E.Shannon四十年代末期，以客观概率信息为研究对象，从通信的信息传输问题中总结和开拓出来的理论。主要研究的问题：信源的描述，信息的定量度量、分析与计算信道的描述，信道传输的定量度量、分析与计算。信源、信道与通信系统之间的统计匹配，以及通信系统的优化—Shannon的三个编码定理。信息论诞生六十年来，至今，仍然是指导通信技术发展的理论基础，是创新新通信体制的源泉。第1章绪论1.1信息传输系统信息传输系统模型(1)信源——产生消息和消息序列的源(2)编码器——信源编码器、信道编码器、保密编码器①信源编码——对信源输出的消息进行变换和处理目的——提高信息传输的有效性②信道编码——对消息进行的变换和处理目的——提高信息传输的可靠性③保密编码——目的是保证信息的安全性(3)信道——信号从甲地传输到乙地的通道狭义信道——信号的传输媒质(介)[例]明线、电缆、波导、光纤、无线电波空间等广义信道——除狭义信道外，还包括通信系统某些部分信道噪声——通信系统各处干扰、噪声的集中等效体现(4)译码器——编码器功能之反也分成信源译码器、信道译码器、保密译码器三种(5)信宿——消息传送的归宿[说明]①对实际通信系统，还应包括换能、调制、发射等各种变换处理②上述模型只针对一对一单向通信系统。还有一对多单向系统（广播），一对一双向系统（电话），多对多双向系统（会议电视）等1.1信息编码的发展克劳德·艾尔伍德·香农（ClaudeElwoodShannon）——信息论之父1916年4月30日出生于美国密歇根州的加洛德（Petoskey）。1936年毕业于密歇根大学并获得数学和电子工程学士学位。1940年获得麻省理工学院（MIT）数学博士学位和电子工程硕士学位。1941年他加入贝尔实验室数学部，工作到1972年。1956年他成为麻省理工学院（MIT）客座教授，并于1958年成为终生教授，1978年成为名誉教授。2001年2月26日去世，享年84岁。香农对在通信信息领域的贡献为了表彰Shannon的伟大功绩，2000年10月6日IEEEInformationSociety的25名成员在ClaudeShannon的儿童时代的老家Michigan的Gaylord举行了Shannon塑像的落成典礼，塑像底座正面刻文如下：ClaudeElwoodShannon，FatherofInformationTheory，Electricalengineer,Mathematician,andnativesonofGaylord.Hiscreationofinformationtheory,themathematicaltheoryofcommunication,inthe1940sand1950sinspiredtheevolutionaryadvancesindigitalcommunicationsandinformationstoragethathaveshapedthemodernworld.ThisstatuewasdonatedbytheInformationTheorySocietyoftheInstituteofElectricalandElectronicsEngineers,whosemembersfollowgratefullyinhisfootsteps.DedicatedOctober6,2000.EdgeneDaub,Sculptor著名信息论和编码学者RichardBlahut博士(2005年ShannonAward获得者)在Shannon塑像的落成典礼时的题词说：“在我看来，两、三百年之后，当人们回过头来看我们这个时代的时候，他们可能不会记得谁曾是美国的总统。他们也