注:基于《理论神经科学》(Peter Dayan & Larry F. Abbott)第四章
- 熵与互信息
- 熵:比特(bit),自信息,熵
- 互信息:条件熵,噪音熵,互信息,KL散度
- 连续型变量的熵和互信息:连续熵,微分熵,连续噪音熵,连续互信息
- 信息和熵最大化
- 对单个神经元的熵的最大化:直方图平均化(histogram equalization)
- 神经元群体:因子编码(factorial code),冗余(redundancy),因数分解(factorization),概率平均化(probability equalization),去相关(decorrelation)和方差平均化(variance equalization)
- 在视网膜神经节细胞感受野中的应用:白化滤波器(Whitening Filter),光调节转化函数(optical modulation transfer function)
- 过滤输入的噪音:噪音滤波器
- LGN的时间处理
- 皮层编码
- 峰电位序列的熵和信息
- 熵和信息率
- 泊松熵率