本書以香農(nóng)信息論為基礎(chǔ),系統(tǒng)地介紹了通信系統(tǒng)中兩大編碼理論。重點闡述了香農(nóng)信息論的基本理論、信源壓縮編碼及信道編碼的原理與具體方法,力圖將信息理論及編碼理論與實際應(yīng)用緊密結(jié)合。
全書共分8章,其中包括:信息的概念與測度,離散信源、離散信道,信源壓縮編碼基礎(chǔ),信道編碼基本理論,線性分組碼,常用糾錯碼及其應(yīng)用及糾錯編碼新技術(shù)。
本書文字通俗,概念清晰,重點突出,在內(nèi)容上既有必要的數(shù)學(xué)分析,又強(qiáng)調(diào)物理概念的理解及直觀圖示。本書可作為通信工程及信息類專業(yè)的高年級本科生教材,也可作為其他專業(yè)學(xué)生及通信科技工作者的參考書。
工信部十二五規(guī)劃教材 面向工程應(yīng)用,工程創(chuàng)新型教材
唐朝京,國防科技大學(xué)獲信息與通信工程學(xué)院 教授,博士。主要從事通信工程及信息安全方面的教學(xué)與研究工作。中國通信學(xué)會理事、會士,湖南省通信學(xué)會副理事長,學(xué)校通信工程及信息安全領(lǐng)域的學(xué)術(shù)帶頭人。承擔(dān)了本科生《信息論與編碼基礎(chǔ)》、《通信原理》,研究生《信息論基礎(chǔ)》、《糾錯編碼》、《保密通信》及《電子信息技術(shù)導(dǎo)論》等課程的主講任務(wù)。
第1章 緒論
1.1 信息概念
1.1.1 信息的概念及其內(nèi)涵
1.1.2 香農(nóng)信息定義
1.2 信息論研究的基本問題和主要內(nèi)容
1.2.1 信息論研究的基本問題
1.2.2 信息論研究的主要內(nèi)容
1.3 信息理論的發(fā)展及其在通信系統(tǒng)中的作用
1.3.1 信息理論的形成及與其他學(xué)科的交叉發(fā)展
1.3.2 編碼技術(shù)的發(fā)展及其在通信系統(tǒng)中的作用
相關(guān)小知識——香農(nóng)生平
第2章 離散信源
2.1 離散信源的信息熵
2.1.1 信源模型
2.1.2 自信息
第1章 緒論
1.1 信息概念
1.1.1 信息的概念及其內(nèi)涵
1.1.2 香農(nóng)信息定義
1.2 信息論研究的基本問題和主要內(nèi)容
1.2.1 信息論研究的基本問題
1.2.2 信息論研究的主要內(nèi)容
1.3 信息理論的發(fā)展及其在通信系統(tǒng)中的作用
1.3.1 信息理論的形成及與其他學(xué)科的交叉發(fā)展
1.3.2 編碼技術(shù)的發(fā)展及其在通信系統(tǒng)中的作用
相關(guān)小知識——香農(nóng)生平
第2章 離散信源
2.1 離散信源的信息熵
2.1.1 信源模型
2.1.2 自信息
2.1.3 信息熵
2.1.4 聯(lián)合熵與條件熵
2.2 熵的基本性質(zhì)
2.3 信源的剩余度
本章小結(jié)
習(xí)題二
綜合拓展題
相關(guān)小知識——熵的由來
第3章 離散信道
3.1 信道疑義度與平均互信息
3.1.1 信道模型
3.1.2 信道疑義度
3.1.3 平均互信息及其性質(zhì)
3.2 信道容量
3.2.1 信道容量的定義
3.2.2 簡單離散信道的信道容量
3.2.3 對稱離散信道的信道容量
3.2.4 擴(kuò)展信道與并聯(lián)信道的信道容量
3.2.5 香農(nóng)公式
3.2.6 保密容量與物理層安全
3.3 有噪信道編碼定理
3.3.1 有噪信道編碼定理
3.3.2 編碼定理的指導(dǎo)意義
本章小結(jié)
習(xí)題三
綜合拓展題
第4章 信源壓縮編碼基礎(chǔ)
4.1 無失真可變長信源編碼定理
4.1.1 信源編碼器
4.1.2 無失真可變長信源編碼定理
4.2 保真度準(zhǔn)則下的信源編碼定理
4.2.1 失真度與信息率失真函數(shù)
4.2.2 保真度準(zhǔn)則下的信源編碼定理
4.3 預(yù)測編碼
4.3.1 預(yù)測編碼的基本原理及預(yù)測模型
4.3.2 信源的線性預(yù)測編碼
4.3.3 語音的線性預(yù)測編碼
4.4 變換編碼
4.4.1 變換編碼的基本原理
4.4.2 典型的變換編碼方法
4.4.3 DCT壓縮的特征
4.5 統(tǒng)計編碼
4.5.1 統(tǒng)計編碼的概念
4.5.2 統(tǒng)計編碼常用方法
4.5.3 MH編碼
4.6 壓縮編碼應(yīng)用綜述
4.6.1 聲音壓縮標(biāo)準(zhǔn)
4.6.2 靜止圖像壓縮標(biāo)準(zhǔn)
4.6.3 視頻壓縮標(biāo)準(zhǔn)
本章小結(jié)
習(xí)題四
綜合拓展題
相關(guān)小知識——霍夫曼生平
第5章 信道編碼基本原理
5.1 概述
5.1.1 數(shù)字通信系統(tǒng)模型
5.1.2 差錯控制系統(tǒng)分類
5.1.3 糾錯編碼分類
5.2 信道編碼的基本概念
5.2.1 信道編碼的一般方法
5.2.2 信道編碼的基本參數(shù)
5.2.3 最大似然譯碼
5.3 常用檢錯碼
5.3.1 奇偶校驗碼
5.3.2 水平一致校驗碼
5.3.3 水平垂直一致校驗碼
5.3.4 群計數(shù)碼
5.3.5 等比碼
本章小結(jié)
習(xí)題五
綜合拓展題
第6章 線性分組碼
6.1 線性分組碼的基本原理
6.1.1 基本概念
6.1.2 生成矩陣和一致校驗矩陣
6.1.3 線性分組碼的譯碼及糾錯能力
6.1.4 漢明碼簡介
6.2 循環(huán)碼的基本原理
6.2.1 基本概念
6.2.2 循環(huán)碼的編碼
6.2.3 循環(huán)碼的一般譯碼方法
6.2.4 循環(huán)漢明碼及其派生碼
本章小結(jié)
習(xí)題六
綜合拓展題
相關(guān)小知識——漢明生平
第7章 常用糾錯碼及其應(yīng)用
7.1 CRC碼的應(yīng)用及性能
7.1.1 基本概念
7.1.2 CRC碼在數(shù)據(jù)鏈路協(xié)議中的應(yīng)用
7.1.3 CRC碼在DECT標(biāo)準(zhǔn)中的應(yīng)用
7.1.4 CRC碼在ATM中的應(yīng)用
7.2 BCH碼及RS碼的應(yīng)用及性能
7.2.1 基本概念
7.2.2 CCSDS TC協(xié)議中的BCH編碼
7.2.3 DVBH標(biāo)準(zhǔn)中的前向糾錯方案
7.2.4 RS碼在存儲系統(tǒng)中的應(yīng)用
7.3 卷積碼的應(yīng)用及性能
7.3.1 卷積碼的概念與描述方法
7.3.2 卷積碼在移動通信中的應(yīng)用
7.3.3 級聯(lián)卷積編碼系統(tǒng)在NASA系統(tǒng)中的應(yīng)用
7.3.4 寬帶無線接入中的糾錯編碼
7.4 交織技術(shù)
7.4.1 基本概念
7.4.2 移動通信中的交織
7.4.3 CCSDS標(biāo)準(zhǔn)中的交織糾錯方案
7.5 編碼調(diào)制技術(shù)
7.5.1 TCM技術(shù)
7.5.2 BCM技術(shù)
7.5.3 BICMID技術(shù)
本章小結(jié)
習(xí)題七
綜合拓展題
相關(guān)小知識——維特比簡介
第8章 糾錯編碼新技術(shù)
8.1 迭代譯碼及消息傳遞機(jī)制
8.1.1 迭代譯碼器的建模
8.1.2 迭代譯碼器消息傳遞機(jī)制
8.1.3 迭代譯碼器EXIT收斂性分析
8.2 Turbo 碼
8.2.1 MAP譯碼算法
8.2.2 SOVA算法
8.2.3 Turbo碼的性能與應(yīng)用
8.2.4 雙二進(jìn)制Turbo碼
8.3 TPC碼
8.3.1 TPC碼的構(gòu)造
8.3.2 TPC迭代譯碼算法
8.3.3 TPC碼的性能分析
8.4 LDPC碼
8.4.1 LDPC碼的概念及圖模型
8.4.2 基于消息傳遞機(jī)制的LDPC碼迭代譯碼算法
8.4.3 IEEE 802.16e中的LDPC碼
8.4.4 DVBS2中的LDPC碼
8.5 噴泉碼
8.5.1 LT編碼
8.5.2 Raptor碼
8.5.3 標(biāo)準(zhǔn)中的Raptor碼
8.6 網(wǎng)絡(luò)編碼
……
參考文獻(xiàn)
英文編寫名詞對照表
第2版前言
我們正處于一個通信與信息技術(shù)飛速發(fā)展的時代,對于通信工作者來說,這是個極好的機(jī)遇。經(jīng)過一百多年的不斷創(chuàng)新和進(jìn)步,通信技術(shù)已取得了極其輝煌的成就,建立在寬帶通信網(wǎng)絡(luò)基礎(chǔ)上的綜合有線-無線多媒體通信系統(tǒng)及各種信息應(yīng)用系統(tǒng)將構(gòu)成未來信息社會的基本內(nèi)涵,將為國民經(jīng)濟(jì)及社會生活全面信息化提供最重要的保證。
通信技術(shù)的發(fā)展得益于通信理論的正確指導(dǎo)和通信關(guān)鍵技術(shù)的不斷突破。信息論在提高現(xiàn)代通信系統(tǒng)的可靠性、有效性和保密性等方面提供了理論基礎(chǔ),是推動現(xiàn)代通信技術(shù)發(fā)展的動力與源泉。自從美國科學(xué)家C.E.Shannon于1948年創(chuàng)立信息論以來,經(jīng)過眾多通信科技工作者的努力,在信息的度量、信息傳輸特性、糾錯編碼與壓縮編碼性能極限等理論問題及各種糾錯編碼和信源壓縮編碼方法、信息安全傳輸?shù)妊芯糠矫嫒〉昧酥卮笸黄,有力地促進(jìn)了通信科技的不斷發(fā)展。信息論指出了通信工程的一般性規(guī)律和理論極限,它對實際通信系統(tǒng)的設(shè)計產(chǎn)生了深刻的影響,通信工程人員在信息論方面的基礎(chǔ)將對其事業(yè)的發(fā)展發(fā)揮重要作用。
本書是作者多年教學(xué)與科研經(jīng)驗的總結(jié),先后由國防科技大學(xué)出版社、電子工業(yè)出版社出版和多次重印,歷時十多年。為適應(yīng)信息技術(shù)發(fā)展的新形勢,應(yīng)廣大師生的要求,作者結(jié)合這些年本書在教學(xué)中的使用情況,重新改編了本書。在教材內(nèi)容上充實了信息論與編碼技術(shù)發(fā)展的新成果和應(yīng)用,如物理層安全、編碼調(diào)制技術(shù)、噴泉編碼及網(wǎng)絡(luò)編碼等。書中包括香農(nóng)信息論的基本內(nèi)容及主要結(jié)論;壓縮編碼的基本原理;糾錯原理、方法及其在現(xiàn)代通信系統(tǒng)中的應(yīng)用等章節(jié)。內(nèi)容涵蓋了通信中有關(guān)信息處理的基本原理和方法。在編寫過程中我們強(qiáng)調(diào)基本原理的理解,取材注意循序漸進(jìn)、難度適中,并注重理論對實際應(yīng)用的指導(dǎo)作用,在寫法上力求條理清楚,邏輯性強(qiáng),每章的習(xí)題包括基礎(chǔ)部分和綜合擴(kuò)展部分。因此,本書適宜于作為通信工程及信息類專業(yè)的高年級本科生教材,也可作為其他專業(yè)學(xué)生及通信科技人員的參考書。
全書共分8章,前4章由唐朝京編寫,后4章由雷菁編寫。本書在編寫過程中得到了黃英、李二保以及信息論課程組老師的幫助,還有多名研究生參與了文字校對工作。在出版過程中得到了電子工業(yè)出版社的大力支持,在此一并表示衷心的感謝!
限于作者視野及學(xué)術(shù)水平,書中謬誤疏漏之處實所難免,懇請讀者批評指正。
編者
2014年11月于長沙
前言
我們正處于一個通信與信息技術(shù)飛速發(fā)展的時代,對于通信工作者來說,這是個極好的機(jī)遇。經(jīng)過一百多年的不斷創(chuàng)新和進(jìn)步,通信技術(shù)已取得了極其輝煌的成就,建立在寬帶通信網(wǎng)絡(luò)基礎(chǔ)上的綜合有線、無線多媒體通信系統(tǒng)及各種信息應(yīng)用系統(tǒng)將構(gòu)成未來信息社會的基本內(nèi)涵,將為國民經(jīng)濟(jì)及社會生活全面信息化提供最重要的保證。
通信技術(shù)的發(fā)展得益于通信理論的正確指導(dǎo)和通信關(guān)鍵工程技術(shù)的不斷突破。從理論的角度來看,通信的兩大基本問題是信息傳輸?shù)目煽啃院陀行。自從美國科學(xué)家C.E.Shannon于1948年創(chuàng)立信息論以來,經(jīng)過眾多通信科技工作者的努力,信息論和編碼理論的研究取得了豐碩的成果。在信息的度量、信息傳輸特性、糾錯編碼與壓縮編碼性能極限等理論問題及各種糾錯編碼和信源壓縮編碼方法、信息傳輸容量的研究方面,都取得了重大突破,有力地促進(jìn)了通信科技的不斷發(fā)展。Shannon信息論為人們指出了實現(xiàn)有效而可靠通信的基本方向和理論極限,它對實際通信系統(tǒng)的設(shè)計產(chǎn)生了深刻的影響,通信工程人員在信息論方面的基礎(chǔ)將對其事業(yè)的發(fā)展發(fā)揮著重要作用。
距離作者在國防科技大學(xué)出版社出版《信息論與編碼基礎(chǔ)》一書已有6年,這期間本書被多次重印。為適應(yīng)信息技術(shù)發(fā)展的新形勢,應(yīng)廣大師生的要求,作者結(jié)合這些年本書在教學(xué)中的使用情況和科研體會,重新編寫了本書。在教材內(nèi)容上充實了信息理論特別是編碼技術(shù)發(fā)展的新成果和應(yīng)用。書中包括香農(nóng)信息論的基本內(nèi)容及主要結(jié)論;壓縮編碼的基本原理;糾錯原理、方法及其在現(xiàn)代通信系統(tǒng)中的應(yīng)用等章節(jié)。內(nèi)容涵蓋了通信中有關(guān)信息處理的基本原理和方法。在編寫過程中我們強(qiáng)調(diào)基本原理的理解,取材注意循序漸進(jìn)、難度適中,并注重理論對實際應(yīng)用的指導(dǎo)作用,在寫法上力求條理清楚,邏輯性強(qiáng),每章的習(xí)題包括基礎(chǔ)部分和綜合擴(kuò)展部分。因此,本書適宜于作為通信工程及信息類專業(yè)的高年級本科生教材,也可作為其他專業(yè)學(xué)生及通信科技人員的參考書。
全書共分7章,前4章由唐朝京編寫,后3章由雷菁編寫,她還參與了第4章的增補(bǔ)工作。本書在編寫過程中得到了湖南大學(xué)易波副教授、國防科技大學(xué)黃英、陳明霜以及信息論課程組老師的幫助,還有多名研究生參與了文字校對工作。在出版過程中得到了電子工業(yè)出版社的大力支持,在此一并表示衷心的感謝!
限于作者視野及學(xué)術(shù)水平,書中謬誤疏漏之處實所難免,懇請讀者批評指正。
編者
2009年10月于長沙