本書系統(tǒng)地論述信息論與糾錯(cuò)編碼的基本理論。全書共9章,內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個(gè)香農(nóng)信息論的基本定理,若干種常見實(shí)用的無(wú)失真信源壓縮編碼的方法,以及信道糾錯(cuò)編碼的基本內(nèi)容和分析方法。本書深入淺出、概念清晰、系統(tǒng)性和可讀性強(qiáng),可作為高等院校相關(guān)專業(yè)的本科生教材或教學(xué)參考書,也可供科研院所從事信息科學(xué)理論、技術(shù)、方法研究的科研和工程技術(shù)人員參考。
傅祖蕓 女 1956年入北京大學(xué)物理系,1960年抽調(diào)北大無(wú)線電系任教,1963年畢業(yè)于北京大學(xué)無(wú)線電電子學(xué)系無(wú)線電物理專業(yè)。曾任教于中國(guó)科學(xué)技術(shù)大學(xué),中國(guó)科學(xué)院研究生院,現(xiàn)任中國(guó)科學(xué)院大學(xué)教授。中國(guó)通信學(xué)會(huì)中國(guó)通信理論委員會(huì)第二、三、四屆委員。享受國(guó)務(wù)院政府特殊津貼。并2008年榮獲中國(guó)科學(xué)院研究生院杰出貢獻(xiàn)教師表彰。曾為本科生和研究生講授脈沖與數(shù)字電路、信息論、編碼理論、信息論與編碼、信源編碼與數(shù)據(jù)壓縮等多門課程。主要從事信源壓縮編碼及圖像與信息處理應(yīng)用于生物醫(yī)學(xué)領(lǐng)域的研究。發(fā)表論文近20篇。主要著作:《信息論基礎(chǔ)》 、《信息論——基礎(chǔ)理論與應(yīng)用》 、《信息論與編碼》 、《信息論與編碼學(xué)習(xí)輔導(dǎo)及習(xí)題詳解》 、《信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解》 。翻譯十余本計(jì)算機(jī)應(yīng)用軟件的書籍。
第1章緒論
11信息的概念
12信息論研究的對(duì)象、目的和內(nèi)容
*13信息論發(fā)展簡(jiǎn)史與信息科學(xué)
第2章離散信源及其信息測(cè)度
21信源的數(shù)學(xué)模型及分類
22離散信源的信息熵
221自信息
222信息熵
23信息熵的基本性質(zhì)
24離散無(wú)記憶的擴(kuò)展信源
25離散平穩(wěn)信源
251離散平穩(wěn)信源的數(shù)學(xué)定義
252離散二維平穩(wěn)信源及其信息熵
253離散平穩(wěn)信源的極限熵
26馬爾可夫信源
261馬爾可夫信源的定義和馬爾可夫
信源的信息熵
262m階馬爾可夫信源的定義及其
信息熵
27信源冗余度與自然語(yǔ)言的熵
小結(jié)
習(xí)題
第3章離散信道及其信道容量
31信道的數(shù)學(xué)模型及分類
311信道的分類
312離散信道的數(shù)學(xué)模型
313單符號(hào)離散信道的數(shù)學(xué)模型
32平均互信息及平均條件互信息
321信道疑義度
322平均互信息
323平均條件互信息
33平均互信息的特性
34信道容量及其一般計(jì)算方法
341離散無(wú)噪信道的信道容量
342對(duì)稱離散信道的信道容量
343準(zhǔn)對(duì)稱信道的信道容量
344一般離散信道的信道容量
35離散無(wú)記憶擴(kuò)展信道及其信道容量
36獨(dú)立并聯(lián)信道及其信道容量
37串聯(lián)信道的互信息和數(shù)據(jù)處理定理
38信源與信道的匹配
小結(jié)
習(xí)題
第4章波形信源和波形信道
41連續(xù)信源和波形信源的信息測(cè)度
411連續(xù)信源的差熵
412連續(xù)平穩(wěn)信源和波形信源的差熵
413兩種特殊連續(xù)信源的差熵
42連續(xù)信源熵的性質(zhì)及最大差熵定理
421差熵的性質(zhì)
422具有最大差熵的連續(xù)信源
43熵功率
44連續(xù)信道和波形信道的信息傳輸率
441連續(xù)信道和波形信道的分類
442連續(xù)信道和波形信道的信息
傳輸率
443連續(xù)信道平均互信息的特性
45高斯加性波形信道的信道容量
451單符號(hào)高斯加性信道
452限帶高斯白噪聲加性波形信道
453香農(nóng)公式的重要實(shí)際指導(dǎo)意義
小結(jié)
習(xí)題
第5章無(wú)失真信源編碼定理
51編碼器
52等長(zhǎng)碼
*53漸近等分割性和ε典型序列
54等長(zhǎng)信源編碼定理
55變長(zhǎng)碼
551唯一可譯變長(zhǎng)碼與即時(shí)碼
552即時(shí)碼的樹圖構(gòu)造法
553克拉夫特(Kraft)不等式
554唯一可譯變長(zhǎng)碼的判斷法
56變長(zhǎng)信源編碼定理
小結(jié)
習(xí)題
第6章有噪信道編碼定理
61錯(cuò)誤概率和譯碼規(guī)則
62錯(cuò)誤概率與編碼方法
63有噪信道編碼定理
64聯(lián)合信源信道編碼定理
小結(jié)
習(xí)題
第7章保真度準(zhǔn)則下的信源編碼
71失真度和平均失真度
711失真度
712平均失真度
713保真度準(zhǔn)則
72信息率失真函數(shù)及其性質(zhì)
721信息率失真函數(shù)
722信息率失真函數(shù)的性質(zhì)
*73信息率失真函數(shù)的參量表述及其
計(jì)算
74二元對(duì)稱信源和離散對(duì)稱信源的R(D)
函數(shù)
741二元對(duì)稱信源的R(D)函數(shù)
742離散對(duì)稱信源的R(D)函數(shù)
75連續(xù)信源的信息率失真函數(shù)
751連續(xù)信源的信息率失真函數(shù)
752高斯信源的信息率失真函數(shù)
76保真度準(zhǔn)則下的信源編碼定理
77聯(lián)合有失真信源信道編碼定理
78限失真信源編碼定理的實(shí)用意義
小結(jié)
習(xí)題
第8章無(wú)失真的信源編碼
81霍夫曼(Huffman)碼
811二元霍夫曼碼
812r元霍夫曼碼
813霍夫曼碼的最佳性
82費(fèi)諾(Fano)碼
83香農(nóng)—費(fèi)諾—埃利斯碼
84游程編碼和MH編碼
841游程編碼
842MH編碼
85算術(shù)編碼
86字典碼
861LZ-77編碼算法
862LZ-78編碼算法
863LZW編碼算法
864LZ復(fù)雜度和LZ碼性能分析
小結(jié)
習(xí)題
第9章信道的糾錯(cuò)編碼
91差錯(cuò)控制的基本形式
92糾錯(cuò)編碼分類及基本概念
921糾錯(cuò)編碼分類
922糾錯(cuò)編碼的基本概念及其糾錯(cuò)
能力
93線性分組碼
931一致校驗(yàn)矩陣和生成矩陣
932伴隨式及標(biāo)準(zhǔn)陣列譯碼
933漢明碼
94循環(huán)碼
941循環(huán)碼結(jié)構(gòu)及其多項(xiàng)式描述
942循環(huán)碼的生成多項(xiàng)式和生成
矩陣
943循環(huán)碼的校驗(yàn)多項(xiàng)式和伴隨式
944循環(huán)碼的編、譯碼器
95卷積碼
951卷積碼的解析表示
952卷積碼的圖解表示
953卷積碼的維特比譯碼
小結(jié)
習(xí)題
附錄A凸函數(shù)和詹森不等式
附錄B馬爾可夫鏈
B1馬爾可夫鏈的定義
B2轉(zhuǎn)移概率和轉(zhuǎn)移矩陣
B3各態(tài)歷經(jīng)定理
附錄C熵函數(shù)的函數(shù)表
參考書目及文獻(xiàn)