信息学之父——克劳德·艾尔伍德·香农,20世纪最伟大的科学家之一1916年,Shannon在密歇根州出生,他的父母是当地的商人和教师。
从密歇根大学获得电子工程和数学双学士学位后,Shannon进入麻省理工学院开始了研究生的学习。在其硕士论文中,他将布尔代数这一数学方法应用到电子领域中的开关电路的分析和综合问题中。正是这一变革性的工作,将电路设计从一门艺术变成了一门科学,被认为是数字电路的开端。在此之后,Shannon将目光投向了一个更大的领域:通信。通信是人类最基本的需求之一。从烽火预警到飞鸽传书,再到电话、电视、网络的出现,人类一直在探索能够让信息传递得更远、更快、更可靠的通信方式。但是,无论哪种方式,通信系统总是与信号来源以及物理介质相关联。Shannon却想打破这一限制,探寻通信的大一统理论。他在1939年给导师Vannevar Bush的信中概述了自己的一些初步设想,并最终在1948年发表了著名的论文,“关于通信的数学理论(A Mathematical Theory of Communication)“。Shannon提出的理论的核心是一个简单却十分通用的通信模型:发送器将信息编码为信号,该信号会受噪声影响,然后由接收器解码。模型虽然简单但却包含了两个十分关键的要素:将信号源和噪声源从要设计的通信系统中剥离,并对这两个源分别进行概率建模。