本書系統(tǒng)論述香農(nóng)信息論的基本理論,介紹編碼的基本方法。全書共分12章,內(nèi)容包括:信息的定義、信息論的基本思路;單符號離散信源與信道、信息熵、互信息、信道容量、數(shù)據(jù)處理定理、加權(quán)熵、效用信息熵;多符號離散信源與信道、極限熵、獨(dú)立并列信道的信道容量;網(wǎng)絡(luò)信息論等。本書是作者在《信息論與編碼》(第三版)的基礎(chǔ)上,對原來的章、節(jié)結(jié)構(gòu)和內(nèi)容安排做的進(jìn)一步的調(diào)整、充實(shí)和完善,更具有科學(xué)性和權(quán)威性。
姜丹,教授,中國科學(xué)院研究生院博士生導(dǎo)生,原中國科學(xué)院干部管理學(xué)院院長,原中國科學(xué)技術(shù)大學(xué)秘書長。
第4版前言
第3版前言
再版前言
前言
引言
第1章 單符號離散信源
1.1 信源的信息熵
1.1.1 信源的數(shù)學(xué)模型
1.1.2 信源符號的自信量
1.1.3 信源的信息熵
1.2 信息熵的代數(shù)性質(zhì)
1.2.1 對稱性
1.2.2 非負(fù)性和確定性
1.2.3 連續(xù)性和擴(kuò)展性
1.2.4 可加性
1.2.5 遞推性
1.3 信息熵的解析性質(zhì)
1.3.1 極值性
1.3.2 上凸性
1.3.3 信息熵的最大值(I)
1.3.4 信息熵的最大值(Ⅱ)
1.4 熵函數(shù)的唯一性
1.5 效用信息熵
1.5.1 加權(quán)熵的定義
1.5.2 權(quán)熵的數(shù)學(xué)特性
1.5.3 權(quán)熵的唯一性
1.5.4 效用信息熵的定義
1.5.5 效用信息熵的數(shù)學(xué)特性
習(xí)題
第2章 單符號離散信道
2.1 平均互信息
2.1.1 信道的數(shù)學(xué)模型
2.1.2 信道兩端符號的概率變化
2.1.3 兩個符號之間的互信息
2.1.4 兩個隨機(jī)變量之間的平均互信息
2.1.5 信息距離
2.1.6 交互系數(shù)
2.2 平均互信息的數(shù)學(xué)特性
2.2.1 交互性
2.2.2 非負(fù)性
2.2.3 極值性
2.2.4 下凸性
2.2.5 上凸性
2.3 信道容量和匹配信源
2.3.1 信道容量的定義
2.3.2 信道容量的一般算法
2.3.3 匹配信源的等量平衡特性
2.4 幾種特殊信道的信道容量
2.4.1 無噪信道的信道容量
2.4.2 對稱信道的信道容量
2.4.3 強(qiáng)對稱信道的信道容量
2.4.4 準(zhǔn)對稱信道的信道容量
2.4.5 可逆矩陣信道的信道容量
2.5 信道容量的迭代計(jì)算
2.5.1 信道容量的迭代算法
2.5.2 迭代算法的收斂性
2.6 平均條件互信息
2.6.1 串接信道的數(shù)學(xué)描述
2.6.2 條件互信息
2.6.3 平均條件互信息
2.6.4 中心信息差
2.6.5 隨機(jī)變量序列的平均條件互信息
2.7 平均聯(lián)合互信息
2.7.1 聯(lián)合互信息的表達(dá)式
2.7.2 聯(lián)合互信息的對稱性
2.7.3 平均聯(lián)合互信息
2.7.4 信源的信息測量
2.8 數(shù)據(jù)處理
2.8.1 兩個信道串接的平均互信息不增性
2.8.2 N個信道串接平均互信息的不增性
2.8.3 信道兩端平均互信息的不增性
習(xí)題
第3章 多符號離散信源與信道
3.1 離散平穩(wěn)信源的數(shù)學(xué)模型
3.1.1 多符號離散信源的一般概念
3.1.2 離散平穩(wěn)信源的定義
3.1.3 離散平穩(wěn)信源的數(shù)學(xué)模型
3.2 擴(kuò)展信源的信息熵
3.2.1 無記憶擴(kuò)展信源的信息熵
3.2.2 有記憶擴(kuò)展信源的信息熵
3.2.3 擴(kuò)展信源信息熵的比較
3.3 平均符號熵和極限熵
3.3.1 平均符號熵
3.3.2 極限熵
3.4 馬爾可夫(Markov)信源的極限熵
3.4.1 M信源的定義
3.4.2 m-M信源消息轉(zhuǎn)移特性
3.4.3 各態(tài)歷經(jīng)m-M信源消息極限概率分布
3.4.4 各態(tài)歷經(jīng)m-M信源的數(shù)學(xué)模型
3.4.5 各態(tài)歷經(jīng)m-M信源的極限熵
3.4.6 有記憶信源的剩余度
3.5 擴(kuò)展信道的平均互信息
3.5.1 擴(kuò)展信道的由來
3.5.2 擴(kuò)展信道的數(shù)學(xué)模型
3.5.3 擴(kuò)展信道平均互信息的數(shù)學(xué)特性
3.6 無記憶擴(kuò)展信道的獨(dú)立并列特性
3.6.1 無記憶性
3.6.2 無預(yù)感性
3.6.3 獨(dú)立并列與信道無記憶
3.7 獨(dú)立并列信道的信道容量
3.7.1 并列信道的數(shù)學(xué)模型
3.7.2 并列信道的概率變化關(guān)系
3.7.3 獨(dú)立并列信道平均互信息的極值性
3.7.4 信道容量的計(jì)算
習(xí)題
第4章 單維連續(xù)信源與信道
4.1 連續(xù)信源的相對熵
4.1.1 相對熵的由來及其內(nèi)涵
4.1.2 幾種連續(xù)信源的相對熵
4.1.3 相對熵的數(shù)學(xué)特性
4.1.4 相對熵的最大值
4.1.5 熵功率與信息變差
4.1.6 相對熵的變換
4.2 連續(xù)信道的平均互信息
4.2.1 連續(xù)信道的數(shù)學(xué)描述
4.2.2 “信息熵差”與“相對熵差
4.2.3 平均互信息的三種表達(dá)式
4.2.4 平均互信息的不增性
4.2.5 平均互信息的不變性
4.2.6 連續(xù)信道的測量信息
4.3 連續(xù)信道的信道容量
4.3.1 信道容量的定義
4.3.2 加性信道的信道容量
4.3.3 高斯加性信道的信道容量
習(xí)題
第5章 多維連續(xù)信源與信道
5.1 隨機(jī)過程的離散化
5.1.1 傅里葉(Fourier)分析的基本概念
5.1.2 隨機(jī)過程在時間域上的離散化
5.1.3 隨機(jī)過程在頻率域上的離散化
5.1.4 時域和頻域隨機(jī)變量序列的轉(zhuǎn)換
5.2 多維連續(xù)信源的相對熵
5.2.1 均勻分布N維連續(xù)信源的要對熵
5.2.2 高斯分布N維連續(xù)信源的相對熵
5.3 多維連續(xù)信源的最大相對熵
5.3.1 取值區(qū)域受限的N維連續(xù)信源的最大相對熵
5.3.2 協(xié)方差矩陣受限的N維連續(xù)信源的最大相對熵
5.4 多維相對熵的變換
5.5 無記憶擴(kuò)展連續(xù)信道的平均互信息
5.5.1 N次擴(kuò)展連續(xù)信道的統(tǒng)計(jì)特性
5.5.2 無記憶N次擴(kuò)展連續(xù)信道的傳遞特性
5.5.3 無記憶N次擴(kuò)展信道平均互信息的極值性
5.6 高斯白噪聲的統(tǒng)計(jì)特性
5.7 高斯白噪聲加性信道的傳遞特性
5.8 高斯白噪聲加性信道的信道容量
5.9 獨(dú)立并列高斯加性信道容量的最大化
習(xí)題
第6章 無失真信源編碼定理
6.1 單義可譯結(jié)構(gòu)定理
6.1.1 單義可譯碼
6.1.2 非延長碼及其構(gòu)成
6.1.3 單義可譯定理
6.2 平均碼長界限定理
6.2.1 平均碼長與碼率
6.2.2 平均碼長界限定理
6.2.3 最佳碼
6.3 符號傳輸速率極限定理
6.3.1 平均碼長極限定理
6.3.2 符號傳輸速率極限定理
習(xí)題
第7章 抗干擾信道編碼定理
7.1 譯碼規(guī)則和誤碼率
7.1.1 譯碼規(guī)則
7.1.2 誤碼率
7.2 最小誤碼率譯碼準(zhǔn)則
7.2.1 最大后驗(yàn)概率譯碼準(zhǔn)則
7.2.2 最大似然譯碼準(zhǔn)則
7.3 漢明(Hamming)距離
7.3.1 漢明距離的數(shù)學(xué)特性
7.3.2 漢明距離與檢糾能力
7.3.3 漢明距離與最小誤碼率
7.4 抗干擾信道編碼定理
7.4.1 費(fèi)諾(Fano)不等式
7.4.2 可靠性與有效性之間的制約關(guān)系
7.4.3 誤碼率極限定理
習(xí)題
第8章 限失真信源編碼定理
8.1 R(D)函數(shù)的定義
8.1.1 平均互信息量的下凸性
8.1.2 平均失真度
8.1.3 信息率一失真函數(shù)R(D)的定義
8.1.4 R(D)函數(shù)的定義域
8.2 R(D)函數(shù)的數(shù)學(xué)特性
8.2.1 R(D)的下凸性
8.2.2 R(D)的單調(diào)遞減性
8.2.3 R(D)的連續(xù)性
8.3 離散信源的R(D)
8.3.1 二元離散信源的R(D)
8.3.2 r元等概率散信源的R(D)
8.3.3 離散信源R(D)函數(shù)的參量表述
8.3.4 二元離散信源R(D)函數(shù)的參量計(jì)算
8.4 連續(xù)信源的R(D)
8.4.1 高斯連續(xù)信源的R(D)
8.4.2 連續(xù)信源R(D)的參量表述
8.4.3 高斯連續(xù)信源R(D)的參量計(jì)算
8.5 R(D)的迭代計(jì)算
8.6 R(D)與信息價值
8.7 廣義信息率一失真函數(shù)
8.7.1 定義平均互信息
8.7.2 廣義信息率一失真函數(shù)
8.8 K次擴(kuò)展信源的信息率一失真函數(shù)Rk(D)
8.8.1 擴(kuò)展信源的平均失真度DK
8.8.2 RK(D)的定義及其數(shù)學(xué)特性
8.9 限失真信源編碼定理
8.9.1 數(shù)據(jù)壓縮的一般概念
8.9.2 限失真信源編碼極限定理
習(xí)題
第9章 信源一信道編碼定理
9.1 信息傳輸速率的上界
9.2 信源一信道編碼極限定理
習(xí)題
附錄 供熵函數(shù)計(jì)算用的幾種函數(shù)表
參考文獻(xiàn)