本文目录
- 信息论奠基人之一香农
- 克劳德·艾尔伍德·香农的人物生平
- 如何理解香农定律中对信息的定义
- 香农定理是什么 香农定理是什么意思
- 香农三大定律
- 什么是香农模型
- 克劳德·艾尔伍德·香农的介绍
- 克劳德·艾尔伍德·香农的人物资料
信息论奠基人之一香农
“通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息”。这是数学家香农（Claude E.Shanon）在他的惊世之著《通信的数学理论》中的一句铭言。正是沿着这一思路他应用数理统计的方法来研究通信系统，从而创立了影响深远的信息论。——香农，1816年生于美国密执安州的加洛德。在大学中他就表现出了对数理问题的高度敏感。他的硕士论文就是关于布尔代数在逻辑开关理论中的应用。后来，他就职于贝尔电话研究所。在这个世界上最大的通信公司（美国电话电报公司）的研究基地里，他受着前辈的工作的启示，其中最具代表性的是《贝尔系统技术杂志》上所披露的奈奎斯特的《影响电报速率的一些因素》和哈特莱的《信息的传输》。正是他们最早研究了通信系统的信息传输能力，第一次提出了信息量的概念，并试图用教学公式予以描述。而香衣则创造性地继承了他们的事业，在信息论的领域中钻研了8年之久，终于在1948年也在《贝尔系统技术杂志》上发表了244页的长篇论著，这就是上面提到的那篇《通信的数学理论》。次年，他又在同一杂志上发表了另一篇名著《噪声下的通信》。在这两篇文章中，他解决了过去许多悬而未决的问题：经典地阐明了通信的基本问题，提出了通信系统的模型，给出了信息量的数学表达式，解决了信道容量、信源统计特性、信源编码、信道编码等有关精确地传送通信符号的基本技术问题。两篇文章成了现在信息论的寞基著作。而香农，也一鸣惊人，成了这门新兴学科的寞基人。那时，他才不过刚刚三十出头。—— 他的成就轰动了世界，激起了人们对信息论的巨大热情，它向各门学科冲击，研究规模象浪雪球一样越来越大。不仅在电子学的其他领域，如计算机、自动控制等方面大显身手，而且遍及物理学、化学、生物学、心理学、医学、经济学、人类学、语音学、统计学、管理学……等学科。它已远远地突破了香衣本人所研究和意料的范畴，即从香农的所谓“狭义盾息论”发展到了“广义信息论”。 —— 进入80年代以来，当人们在议论未来的时候，人们的注意力又异口同声的集中到信息领域。按照国际一种流行的说法，未来将是一个高度信息化的社会。信息工业将发展成头号工业，社会上大多数的人将是在从事后息的生产、加工和流通。这时，人们才能更正确地估价香农工作的全部含义。信息论这个曾经只在专家们中间流传的学说，将来到更广大的人群之中。香农这个名字也飞出了专家的书斋和实验室，为更多的人所熟悉和了解。
克劳德·艾尔伍德·香农的人物生平
香农于1916年4月30日出生于美国密歇根州的Petoskey，并且是爱迪生的远亲戚。1936年毕业于密歇根大学并获得数学和电子工程学士学位。1940年获得麻省理工学院（MIT）数学博士学位和电子工程硕士学位。1941年他加入贝尔实验室数学部，工作到1972年。1956年他成为麻省理工学院（MIT）客座教授，并于1958年成为终生教授，1978年成为名誉教授。香农博士于2001年2月26日去世，享年84岁。香农于1940年在普林斯顿高级研究所（The Institute for Advanced Study at Princeton）期间开始思考信息论与有效通信系统的问题。经过8年的努力，香农在1948年6月和10月在《贝尔系统技术杂志》（Bell System Technical Journal）上连载发表了具有深远影响的论文《通讯的数学原理》。1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。在这两篇论文中，香农阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。两篇论文成为了信息论的奠基性著作。1936年香农在密西根大学获得数学与电气工程学士学位，然后进入MIT念研究生。1938年香农在MIT获得电气工程硕士学位，硕士论文题目是《A Symbolic Analysis of Relay and Switching Circuits》（继电器与开关电路的符号分析）。当时他已经注意到电话交换电路与布尔代数之间的类似性，即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来，并用1和0表示。于是他用布尔代数分析并优化开关电路，这就奠定了数字电路的理论基础。哈佛大学的Howard Gardner教授说，“这可能是本世纪最重要、最著名的一篇硕士论文。”1940年香农在MIT获得数学博士学位，而他的博士论文却是关于人类遗传学的，题目是《An Algebra for Theoretical Genetics》（理论遗传学的代数学)。这说明香农的科学兴趣十分广泛，后来他在不同的学科方面发表过许多有影响的文章。在读学位的同时，他还用部分时间跟温尼法·布什（Vannevar Bush）教授进行微分分析器的研究。这种分析器是早期的机械模拟计算机，用于获得常微分方程的数值解。1941年香农发表了《Mathematical theory of the differential analyzer》（微分分析器的数学理论），他写道：“大多数结果通过证明的定理形式给出。最重要的是处理了一些条件，有些条件可以生成一个或多个变量的函数，有些条件可使常微分方程得到解。还给出了一些注意事项，给出求函数的近似值（不能产生精确值）、求调整率的近似值以及自动控制速率的方法。”1941年香农以数学研究员的身份进入新泽西州的AT&T贝尔电话公司，并在贝尔实验室工作到1972年，从24岁到55岁，整整31年。1956年他当了MIT的访问教授，1958年成为正式教授，1978年退休。人们描述香农的生活，白天他总是关起门来工作，晚上则骑着他的独轮车来到贝尔实验室。他的同事D. Slepian写到：“我们大家都带着午饭来上班，饭后在黑板上玩玩数学游戏，但克劳德很少过来。他总是关起门来工作。但是，如果你要找他，他会非常耐心地帮助你。他能立刻抓住问题的本质。他真是一位天才，在我认识的人中，我只对他一人使用这个词。”香农与John Riordan一起工作，1942年发表了一篇关于串并联网络的双终端数的论文。这篇论文扩展了麦克马洪（Percy A. MacMahon，1854-1929）1892年在Electrician上发表的论文理论。1948年，划时代的“通信的一个数学理论”分成两部分，在7月和10月的Bell System Technical Journal发表。文章系统论述了信息的定义，怎样数量化信息，怎样更好地对信息进行编码。在这些研究中，概率理论是香农使用的重要工具。香农同时提出了信息熵的概念，用于衡量消息的不确定性。在漫长的岁月，他思考过许多问题。除在普林斯顿高等研究院工作过一年外，主要都在MIT和Bell Lab度过。需要说明的是，在二次世界大战时，香农博士也是一位著名的密码破译者（这使人联想到比他大4岁的图灵博士）。他在Bell Lab的破译团队主要是追踪德国飞机和火箭，尤其是在德国火箭对英国进行闪电战时起了很大作用。1949年香农发表了另外一篇重要论文《Communication Theory of Secrecy Systems》（保密系统的通信理论），正是基于这种工作实践，它的意义是使保密通信由艺术变成科学。1948年香农在Bell System Technical Journal上发表了《A Mathematical Theory of Communication 》。论文由香农和威沃共同署名。前辈威沃（Warren Weaver，1894-1978）当时是洛克菲勒基金会自然科学部的主任，他为文章写了序言。后来，香农仍然从事技术工作，而威沃则研究信息论的哲学问题。顺便提一句，该论文刚发表时，使用的是不定冠词A，收入论文集时改为定冠词The。
如何理解香农定律中对信息的定义
香农还对信息进行了系统的研究，并成为信息论的创始人。香农的大部分时间都是在贝尔实验室和MIT度过的。
香农信息论的重要特征是熵(entropy)的概念，他证明熵(entropy)与信息内容的不确定程度有等价关系。而所谓熵原来是一个物理名词,表示用温度除热量所得的商,标志热量转化为功的程度；在科学技术上泛指某些物质系统状态的一种量度，信息也有度量问题，这就是被称为信息熵。
扩展资料：
香农定理规定了有随机热噪声信道的最大传输速率与信道带宽、信号噪声功率比之间的关系。从自然科学的角度看，香农定理用数学公式计量了信息（比特）的流量，具备典型的工程学意义。由于香农的科学家身份和研究的对象区域，香农定理与相关理论关心的不是信息表达的含意，而是信息的有效传输和接收。
香农在论文中区别了信息传播的三个层次：
A层：传播符号如何能够被准确地发射（技术问题）；
B层：被发射的符号如何能够准确地传递意图中的意义（语义学问题）；
C层：被接受的意义如何有效地以意图中的方式影响行为（效果或行为问题）。有趣的是：香农反复声明他所创立的信息理论只与A层打交道，并告诫学界不要过分广泛地把这种理论用于所有类型的信息传播理论的研究上。因为人与人之间的关系或人与社会之间的关系，远比人与机器之间的关系或机器与机器之间的关系更为复杂。香农不愿为之交道的B层和C层似乎更靠近以社会人文为基础的传播学理论。
参考资料来源：
百度百科-香农定律
香农定理是什么 香农定理是什么意思
1、香农定理是香农在信号处理和信息理论等相关领域的研究中。通过计算信号在经过一段距离如何衰减以及一个给定信号能加载多少数据之后。得到了一个公式。 2、香农定理给出了信道信息传送速率的上限（比特每秒）和信道信噪比及带宽的关系。香农定理可以解释现代各种无线制式由于带宽不同，所支持的单载波最大吞吐量的不同。
香农三大定律
香农三大定理是信息论的基础理论。香农三大定理是存在性定理，虽然并没有提供具体的编码实现方法，但为通信信息的研究指明了方向。香农第一定理是可变长无失真信源编码定理，香农第二定理是有噪信道编码定理，香农第三定理是保失真度准则下的有失真信源编码定理。
什么是香农模型
香农（Shannon）提出并严格证明了“在被高斯白噪声干扰的信道中，计算最大信息传送速率C公式”：C=W log2(1+S/N)。式中：W是信道带宽（赫兹），S是信道内所传信号的平均功率（瓦），N是信道内部的高斯噪声功率（瓦）。
该式即为著名的香农公式，显然，信道容量与信道带宽成正比，同时还取决于系统信噪比以及编码技术种类。香农定理指出，如果信息源的信息速率R小于或者等于信道容量C。
那么，在理论上存在一种方法可使信息源的输出能够以任意小的差错概率通过信道传输。该定理还指出：如果R》C，则没有任何办法传递这样的信息，或者说传递这样的二进制信息的差错率为1/2。
扩展资料
事实上，香农最初的动机是把电话中的噪音除掉，他给出通信速率的上限，这个结论首先用在电话上，后来用到光纤，截止2013又用在无线通信上。
能够清晰地打越洋电话或卫星电话，都与通信信道质量的改善密切相关。克劳德·香农在公众中并不特别知名，但他是使世界能进行即时通信的少数科学家和思想家之一。
他是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学学会会员。他获得过许多荣誉和奖励。例如1949年Morris奖、1955年Ballantine奖、1962年Kelly奖、1966年的国家科学奖章、IEEE的荣誉奖章、1978年Jaquard奖、1983年Fritz奖、1985年基础科学京都奖。
参考资料来源：百度百科-香农公式
克劳德·艾尔伍德·香农的介绍
克劳德·艾尔伍德·香农（Claude Elwood Shannon ，1916年4月30日—2001年2月24日）是美国数学家、信息论的创始人。1940年在麻省理工学院获得硕士和博士学位，1941年进入贝尔实验室工作。香农提出了信息熵的概念，为信息论和数字通信奠定了基础。主要论文有：1938年1的硕士论文《继电器与开关电路的符号分析》，1948年的《通讯的数学原理》和1949年的《噪声下的通信》。
克劳德·艾尔伍德·香农的人物资料
克劳德·艾尔伍德·香农(Claude Elwood Shannon，1916-2001）1916年4月30日诞生于美国密西根州的Petoskey。在Gaylord小镇长大，当时镇里只有三千居民。父亲是该镇的法官，他们父子的姓名完全相同，都是Claude Elwood Shannon。母亲是镇里的中学校长，姓名是Mabel Wolf Shannon。他生长在一个有良好教育的环境，不过父母给他的科学影响好像还不如祖父的影响大。香农的祖父是一位农场主兼发明家，发明过洗衣机和许多农业机械，这对香农的影响比较直接。此外，香农的家庭与大发明家爱迪生(Thomas Alva Edison，1847-1931）还有远亲关系。香农的大部分时间是在贝尔实验室和MIT(麻省理工学院）度过的。在“功成名就”后，香农与玛丽（Mary Elizabeth Moore)1949年3月27日结婚，他们是在贝尔实验室相识的，玛丽当时是数据分析员。他们共有四个孩子：三个儿子Robert、James、Andrew Moore和一个女儿Margarita Catherine。后来身边还有两个可爱的孙女。2001年2月24日，香农在马萨诸塞州Medford辞世，享年84岁。贝尔实验室和MIT发表的讣告都尊崇香农为信息论及数字通信时代的奠基人。
