补充: 关于Shannon# EE - 电子工程
c*m
1 楼
报
计
个
不
指
法
没
一
都
在香农以前关于source coding的方法已经有了，但是对channel的理解是在香农的
capacity理论出来后才被人们认识的，偶更倾向于认为它是一个一般意义上的统计
理论。象AEP实际上是WLLN的特例，信息度量也都可以从概率统计中推倒出来，整个
IT的发展看起来更象是一堆数学。比香农更深刻的数学理论很多，但是能如此精确
地概括通信原理本质的东东(而且由他一个人完成)很难找出分号。香农的理论不是
构造性的，因此实际通信系统的建造还需要很多天才的想法，没有一种systematic
procedure to follow。
感
一
虽
论
你说的前提是什么？source coding, channel coding, rate distortion, network
information换到其他地方岂不真成了应用统计理论？象赌博，投资甚至testing
hypothesis也都可以用IT，但没必要把这些都归功于香农吧。IT触即到了统计学习
的本质，也可以说是一种inductive learning principle，但好像很难说就是最终