信息論與編碼(高等學(xué)校電子信息類專業(yè)系列教材)
定 價:39 元
- 作者:馮桂、周林
- 出版時間:2016/7/7
- ISBN:9787302424277
- 出 版 社:清華大學(xué)出版社
- 中圖法分類:TN911.2
- 頁碼:249
- 紙張:膠版紙
- 版次:1
- 開本:16K
本書系統(tǒng)地介紹了兩部分內(nèi)容:香農(nóng)信息論的三個基本概念(信源熵、信道容量和信息率失真),以及對應(yīng)這三個概念的香農(nóng)三大編碼定理;信源編碼和信道編碼的基本原理與經(jīng)典方法,同時對接近香農(nóng)極限的Turbo碼和LDPC碼也作了介紹。為了便于教學(xué)和加深讀者對概念的理解及自檢,本書每章后面都附有思考題與習(xí)題。本書盡量用通俗、生動的語言描述信息理論與信源、信道編碼的基本概念,并通過例題和圖表來說明基本概念及原理,因而比較適合工科相關(guān)專業(yè)的教學(xué)和讀者自學(xué)(已掌握工科高等數(shù)學(xué)和工程數(shù)學(xué)的讀者都能讀懂本書)。本書可作為高等院校通信工程、電子信息工程、信息工程及相關(guān)專業(yè)的本科生、研究生的教材或教學(xué)參考書,也可供從事相關(guān)專業(yè)的科研和工程技術(shù)人員參考。
(1)本書融匯了作者多年“信息論與編碼”課程的授課經(jīng)驗,吸取了國內(nèi)外諸多同類教材的優(yōu)點,十分便于課堂教學(xué)。
(2)書中以通俗、生動的語言詮釋基本概念與基本原理,精心安排知識內(nèi)容,注重實用,同時符合前后課程銜接的需要。
(3)注重工科特點,側(cè)重理論聯(lián)系實踐,使學(xué)生明確學(xué)習(xí)目的;引入新的技術(shù)應(yīng)用實例,提高學(xué)習(xí)的興趣。
1948年,香農(nóng)(C.E.Shannon)發(fā)表的開創(chuàng)性的文章《通信的數(shù)學(xué)理論》為信息論和編碼技術(shù)奠定了堅實的理論基礎(chǔ)。信息論是信息科學(xué)中最成熟、最完整、最系統(tǒng)的一部分,它以活躍、新穎的思路和高效解決問題的方法顯示出獨特的魅力,在此基礎(chǔ)上發(fā)展起來的數(shù)據(jù)通信和計算機技術(shù),反過來又為信息編碼技術(shù)的發(fā)展和應(yīng)用創(chuàng)造了有利的環(huán)境。隨著社會信息化的不斷深入,信息論和編碼技術(shù)已經(jīng)滲透許多應(yīng)用領(lǐng)域,展示出勃勃生機和巨大的發(fā)展前景。
信息論不僅在方法論的層面上解決通信的有效性和可靠性問題,而且在認識論的層面上幫助人們認識事物的本質(zhì)。學(xué)完信息論之后,再重新審視周圍的事物時,會產(chǎn)生許多新的看法和認識。用信息論的方法可以宏觀地認識某些政治問題,也可以定量地解決某些經(jīng)濟問題,還可以分析、解釋學(xué)習(xí)中存在的問題?傊,信息論是高層次信息技術(shù)人才所需掌握的、必不可少的基礎(chǔ)知識,因而目前各高等院校的電子信息類專業(yè)的本科生、研究生都把信息論和編碼技術(shù)作為一門重要的專業(yè)基礎(chǔ)理論課。
由于信息論牽涉眾多學(xué)科,需要廣泛的數(shù)學(xué)基礎(chǔ),許多讀者雖然認識到信息論和編碼技術(shù)的重要性,但在繁雜的公式面前往往望而卻步。針對這種情況,作者根據(jù)多年的教學(xué)經(jīng)驗,在編寫過程中強調(diào)基本原理的理解,選材時充分考慮其實用性,把信息論涉及的數(shù)學(xué)知識限制在工科高等數(shù)學(xué)和工程數(shù)學(xué)的范疇內(nèi),盡量以通俗形象的語言描述定義、性質(zhì)和結(jié)論的物理概念,敘述中重概念描述、少理論推導(dǎo),在每章結(jié)尾還附有相應(yīng)的思考題與習(xí)題以加深認識。因此,本書適于作為通信、信息工程類專業(yè)本科生、研究生的教材,也可作為其他專業(yè)學(xué)生及有關(guān)科技人員的參考書。
本書主要內(nèi)容包括經(jīng)典信息論的基本內(nèi)容和主要結(jié)論、信息壓縮編碼的基本原理、提高通信可靠性的糾錯編碼理論和方法。全書共分8章,遵照由淺入深、循序漸進的教學(xué)規(guī)律,系統(tǒng)地組織教學(xué)內(nèi)容。第1章緒論,介紹信息論與編碼的基本概念、數(shù)字通信系統(tǒng)模型,以及信息論、信道編碼和信源編碼理論的主要發(fā)展歷程和意義; 第2章信源及其熵,介紹信源的數(shù)學(xué)模型和分類、離散信源的信息熵及其性質(zhì)、連續(xù)信源的信息熵、信源的冗余度等; 第3章信道及其容量,介紹信道的數(shù)學(xué)模型與分類、信道疑義度與平均互信息、離散信道的信道容量、連續(xù)信道的信道容量、信源與信道的匹配以及信道編碼定理等; 第4章信道編碼,介紹信道編碼的基本概念和經(jīng)典信道編碼理論,主要包括線性分組碼、循環(huán)碼和卷積碼的概念及編碼、譯碼算法等; 第5章信源編碼,介紹信源編碼器及相關(guān)概念、無失真信源編碼定理、變長編碼和實用信源編碼方法等; 第6章信息速率失真函數(shù),介紹失真測度、信息率失真函數(shù)、等概率與對稱失真信源的信息率失真計算和保真度準則下的信源編碼定理等; 第7章現(xiàn)代信道編碼技術(shù),介紹近年來信道編碼領(lǐng)域最重要的兩種新技術(shù)——Turbo碼和LDPC碼,分別介紹二者的概念、基本原理和編、譯碼算法等; 第8章MATLAB在信息論與編碼分析中的應(yīng)用,介紹MATLAB的使用基礎(chǔ)、應(yīng)用MATLAB分析離散信源和離散信道、信源和信道編碼技術(shù)的MATLAB分析和仿真。本書第1、2、3、5章由馮桂編寫,第4、6、7章由周林編寫,第8章由馮桂、周林共同編寫,全書由馮桂統(tǒng)稿。
本書獲華僑大學(xué)教材建設(shè)基金資助。在編寫過程獲得了華僑大學(xué)通信工程系老師和研究生的支持與協(xié)助,在此表示感謝。
限于編者的水平,又加上時間比較倉促,書中難免有欠妥之處,殷切希望讀者指正,將不勝感激。本書責(zé)編的Email: shengdl@tup.tsinghua.edu.cn。
編者2016年4月
馮桂 教授、博士、碩士生導(dǎo)師,華僑大學(xué)信息科學(xué)與工程學(xué)院副院長。負責(zé)福建省高等學(xué)校精品課程“信息論與編碼技術(shù)”、福建省 “通信工程”本科高校專業(yè)綜合改革試點項目、福建省教育廳“電子信息工程專業(yè)課程體系整體優(yōu)化的研究”項目、華僑大學(xué)“信號與信息處理核心課程”教學(xué)團隊、華僑大學(xué) “圖像編碼與傳輸技術(shù)” 多媒體課件建設(shè)項目、華僑大學(xué) “信號與系統(tǒng)”精品視頻課程建設(shè)。主講 “信息論與編碼”、“信號與系統(tǒng)”、“矩陣理論”、“圖像分析”、“數(shù)字圖像處理”等多門本科生、研究生課程。主要研究方向為信號與信息處理,通信系統(tǒng)信息安全,多媒體通信,基于特征的自適應(yīng)文本、圖像、視頻數(shù)字水印技術(shù)理論與應(yīng)用,基于虹膜與指紋等生物特征的安全系統(tǒng)理論研究與實現(xiàn),等等。主持、參與國家自然科學(xué)基金、省自然科學(xué)基金和橫向科研合作開發(fā)等科研項目10余項,在IEEE、SPIE等國際、國內(nèi)學(xué)術(shù)刊物及國內(nèi)外學(xué)術(shù)會議發(fā)表學(xué)術(shù)論文 50 余篇,其中SCI、EI與ISTP收錄近30篇。
第1章緒論
1.1基本概念
1.1.1信息的一般概念
1.1.2香農(nóng)信息定義
1.1.3信息論與編碼技術(shù)發(fā)展簡史
1.2數(shù)字通信系統(tǒng)模型
1.3信息論與編碼理論研究的主要內(nèi)容和意義
1.3.1信息論研究的主要內(nèi)容
1.3.2香農(nóng)信息論對信道編碼的指導(dǎo)意義
1.3.3香農(nóng)信息論對信源編碼的指導(dǎo)意義
思考題與習(xí)題
第2章信源及其熵
2.1信源的數(shù)學(xué)模型和分類
2.1.1信源的數(shù)學(xué)模型
2.1.2信源的分類
2.2離散信源的信息熵及其性質(zhì)
2.2.1自信息
2.2.2信源的信息熵
2.2.3熵的基本性質(zhì)
2.3離散無記憶信源的擴展信源
2.4離散平穩(wěn)信源
2.4.1平穩(wěn)信源的概念
2.4.2二維平穩(wěn)信源
2.4.3一般離散平穩(wěn)信源
2.5連續(xù)信源的信息熵
2.5.1單符號連續(xù)信源的熵
2.5.2波形信源的熵
2.5.3最大熵定理
2.6信源的冗余度
2.6.1信源效率
2.6.2信源冗余度
思考題與習(xí)題
第3章信道及其容量
3.1信道的數(shù)學(xué)模型與分類
3.1.1信道的分類
3.1.2信道的數(shù)學(xué)模型
3.1.3單符號離散信道
3.2信道疑義度與平均互信息
3.2.1信道疑義度
3.2.2平均互信息
3.2.3平均互信息的性質(zhì)
3.3離散無記憶的擴展信道
3.4離散信道的信道容量
3.4.1信道容量的定義
3.4.2簡單離散信道的信道容量
3.4.3對稱離散信道的信道容量
3.4.4離散無記憶N次擴展信道的信道容量
3.5連續(xù)信道的信道容量
3.5.1連續(xù)單符號加性高斯噪聲信道的信道容量
3.5.2多維無記憶加性連續(xù)信道的信道容量
3.5.3限頻限時限功率的加性高斯白噪聲信道的信道容量
3.6信源與信道的匹配
3.7信道編碼定理(香農(nóng)第二定理)
思考題與習(xí)題
第4章信道編碼
4.1信道編碼的概念
4.1.1信道編碼的分類
4.1.2與糾錯編碼有關(guān)的基本概念
4.1.3檢錯與糾錯原理
4.1.4檢錯與糾錯方式和能力
4.2線性分組碼
4.2.1線性分組碼的基本概念
4.2.2生成矩陣和一致校驗矩陣
4.2.3線性分組碼的譯碼
4.2.4線性分組碼的糾錯能力
4.2.5漢明碼
4.3循環(huán)碼
4.3.1循環(huán)碼的多項式描述
4.3.2循環(huán)碼的生成矩陣
4.3.3系統(tǒng)循環(huán)碼
4.3.4多項式運算電路
4.3.5循環(huán)碼的編碼電路
4.3.6循環(huán)碼的譯碼電路
4.4常用的循環(huán)碼
4.4.1循環(huán)冗余校驗碼
4.4.2BCH碼*
4.4.3RS碼*
4.5卷積碼
4.5.1卷積碼的編碼
4.5.2卷積碼的譯碼
思考題與習(xí)題
第5章信源編碼
5.1信源編碼器和無失真信源編碼定理
5.1.1碼的分類
5.1.2碼樹
5.1.3Kraft不等式
5.1.4無失真信源編碼定理(香農(nóng)第一定理)
5.2變長編碼
5.2.1香農(nóng)碼
5.2.2費諾碼
5.2.3霍夫曼碼
5.3實用信源編碼方法
5.3.1游程編碼
5.3.2算術(shù)編碼
5.3.3預(yù)測編碼
5.3.4變換編碼
思考題與習(xí)題
第6章信息率失真函數(shù)
6.1失真測度
6.1.1系統(tǒng)模型
6.1.2失真度和平均失真度
6.2信息率失真函數(shù)及其性質(zhì)
6.2.1信息率失真函數(shù)的定義
6.2.2信息率失真函數(shù)的性質(zhì)
6.3等概率、對稱失真信源的信息速率失真函數(shù)
6.4保真度準則下的信源編碼定理
6.5限失真信源編碼(香農(nóng)第三定理)
思考題與習(xí)題
第7章現(xiàn)代信道編碼技術(shù)
7.1Turbo碼
7.1.1Turbo碼的提出
7.1.2Turbo碼編碼器
7.1.3Turbo碼譯碼器
7.2LDPC碼
7.2.1LDPC碼的提出
7.2.2LDPC碼基本概念
7.2.3規(guī)則LDPC碼
7.2.4非規(guī)則LDPC碼
7.2.5準循環(huán)LDPC碼
7.2.6重復(fù)累積LDPC碼
7.2.7LDPC碼譯碼算法
思考題與習(xí)題
第8章MATLAB在信息論與編碼分析中的應(yīng)用
8.1MATLAB基礎(chǔ)
8.1.1MATLAB語言特點
8.1.2MATLAB運行環(huán)境簡介
8.1.3MATLAB基礎(chǔ)
8.2MATLAB在信息理論分析中的應(yīng)用
8.2.1離散信源的MATLAB分析
8.2.2離散信道的MATLAB分析
8.2.3應(yīng)用MATLAB進行信息理論分析的實例
8.3MATLAB在編碼技術(shù)分析中的應(yīng)用
8.3.1信源編碼技術(shù)的MATLAB分析
8.3.2信道編碼技術(shù)的MATLAB仿真
8.3.3應(yīng)用MATLAB進行編碼技術(shù)分析的實例
思考題與習(xí)題
參考文獻