《信息論與編碼技術(第2版)》為2007年《信息論與編碼技術》一書的第二版。《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》系統(tǒng)地介紹了兩部分內(nèi)容:一,香農(nóng)信息論的三個基本概念(信源熵、信道容量和信息率失真函數(shù)),以及與這三個概念相對應的三個編碼定理;二,信源編碼和信道編碼的基本原理與方法。為了便于教學和加深對概念的理解,以及讀者自檢,每章后面都附有思考題與習題。
《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》不追求高深的數(shù)學推導,盡量用通俗、生動的語言對信息論與編碼的基本概念進行描述,用例題和圖表形象地說明基本概念和原理,特別適合于教學和自學。已掌握工科高等數(shù)學和工程數(shù)學的讀者都能讀懂《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》。
《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》可作為高等院校通信工程、信息工程、電子工程以及相關專業(yè)的本科生、研究生的教材或教學參考書,也可供從事相關專業(yè)的科研和工程技術人員參考。
信息論與編碼基本概念 信源及其熵 信道及其容量 信息率失真函數(shù) 信源編碼 信道編碼 MATLAB應用 《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》系統(tǒng)地介紹了信息論與編碼的基本概念及編碼技術,主要內(nèi)容包括:信息論與編碼基本概念、信源及其熵、信道及其容量、信息率失真函數(shù)、信源編碼、信道編碼、MATLAB在信息論與編碼分析中的應用。按照由淺入深、循序漸進的教學規(guī)律,系統(tǒng)地組織教學內(nèi)容,更加方便教學和自學。 讀者對象: 《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》可作為高等院校通信工程、信息工程、電子工程以及相關專業(yè)的本科生、研究生的教材或教學參考書,也可供從事相關專業(yè)的科研和工程技術人員參考。 《高等學校計算機應用規(guī)劃教材:信息論與編碼技術(第2版)》特色: 融合作者多年的教學和實踐經(jīng)驗,利于課堂講授。 強調(diào)基本原理的理解,精心選材并充分考慮其實用性。 以通俗形象的語言描述定義、性質和結論,易于學生理解。 重概念描述、少理論推導,并用例題和圖表加以形象的說明。
1948年,香農(nóng)(C.E.Shannon)開創(chuàng)性的文章《通信的數(shù)學理論》為信息論和編碼技術奠定了堅實的理論基礎。信息理論是信息科學中最成熟、最完整、最系統(tǒng)的一部分,它以活躍、新穎的思路和高效解決問題的方法而顯示出獨特的魅力,在此基礎上發(fā)展起來的數(shù)據(jù)通信和計算機技術,又反過來為信息編碼技術的發(fā)展和應用創(chuàng)造了有利的環(huán)境。隨著社會信息化的不斷深入,信息論和編碼技術已經(jīng)滲透到許多應用領域,展示出勃勃生機和巨大的發(fā)展前景。
信息論不僅在方法論的層面上解決通信的有效性和可靠性問題,而且在認識論的層面上幫助人們認識事物的本質。學完信息理論之后,再重新審視一下周圍的事物,會產(chǎn)生許多新的看法和認識。用信息論可以宏觀地認識某些政治問題,也可以定量地解決某些經(jīng)濟問題,還可以分析、解釋學習中存在的問題?傊畔⒄撌歉邔哟涡畔⒓夹g人才必不可少的基礎知識,因而目前各高等院校的電子信息類專業(yè)的本科生、研究生都把信息論和編碼技術作為一門重要的專業(yè)基礎理論課。
由于信息論牽涉到眾多學科,需要廣泛的數(shù)學基礎,許多讀者雖然認識到信息論和編碼技術的重要性,但在繁雜的公式面前往往望而卻步。針對這種情況,作者根據(jù)多年的教學經(jīng)驗,在編寫過程中強調(diào)基本原理的理解,選材時充分考慮其實用性,把信息論涉及的數(shù)學知識限制在工科高等數(shù)學和工程數(shù)學的范疇內(nèi),盡量以通俗形象的語言描述定義、性質和結論的物理概念,敘述中重概念描述、少理論推導,在每章結尾還附有相應的思考題與習題以加深認識。因此,本書適于作為通信、信息工程類專業(yè)本科生、研究生的教材,也可作為其他專業(yè)學生及有關科技人員的參考書。
本書為2007年《信息論與編碼技術》一書的第二版。本書主要內(nèi)容包括經(jīng)典信息論的基本內(nèi)容和主要結論、信息壓縮編碼的基本原理、提高通信可靠性的糾錯編碼理論和方法。全書共分7章,遵照由淺入深、循序漸進的教學規(guī)律,系統(tǒng)地組織教學內(nèi)容。第1章緒論,介紹信息論與編碼的基本概念、數(shù)字通信系統(tǒng)模型,以及信息論與編碼理論研究的主要內(nèi)容和意義;第2章信源及其熵,介紹信源的數(shù)學模型和分類、離散信源的信息熵及其性質、連續(xù)信源的信息熵、信源的冗余度和離散無失真信源編碼定理;第3章信道及其容量,介紹信道的數(shù)學模型與分類、信道疑義度與平均互信息、離散信道的信道容量、連續(xù)信道的信道容量、信源與信道的匹配,以及信道編碼定理;第4章信息率失真函數(shù),介紹失真測度、信息率失真函數(shù)及其性質、離散無記憶信源的信息率失真函數(shù)、連續(xù)無記憶信源的信息率失真函數(shù)和保真度準則下的信源編碼定理;第5章信源編碼,介紹編碼器及相關概念、變長編碼、限失真信源編碼和實用信源編碼方法;第6章信道編碼,介紹信道編碼的概念、線性分組碼、循環(huán)碼和卷積碼;第7章MATLAB在信息論與編碼分析中的應用,介紹MATLAB的使用基礎、應用MATLAB分析離散信源和離散信道、信源和信道編碼技術的MATLAB分析和仿真。其中第1~3章由馮桂編寫,第4章由陳東華編寫,第5~7章由林其偉編寫,全書由馮桂統(tǒng)稿。
本書教學課件可通過http://www.tupwk.com.cn/downpage下載。
本書獲得了華僑大學教材建設基金的資助,在此表示感謝。
限于作者的水平加上時間比較倉促,書中難免有欠妥和錯誤之處,殷切希望讀者指正,作者不勝感激。服務郵箱:wkservice@vip.163.com。
編著者
2011年3月
第1章 緒論
1.1 基本概念
1.1.1 信息的一般概念
1.1.2 香農(nóng)信息定義
1.1.3 信息論與編碼技術發(fā)展簡史
1.2 數(shù)字通信系統(tǒng)模型
1.3 信息論與編碼理論研究的主要內(nèi)容和意義
1.3.1 信息論研究的主要內(nèi)容
1.3.2 香農(nóng)信息論對信道編碼的指導意義
1.3.3 香農(nóng)信息論對信源編碼的指導意義
思考題與習題
第2章 信源及其熵
2.1 信源的數(shù)學模型和分類
2.1.1 信源的數(shù)學模型
2.1.2 信源的分類
2.2 離散信源的信息熵及其性質
2.2.1 自信息
2.2.2 信息熵
2.2.3 熵的基本性質
2.3 離散無記憶信源的擴展信源
2.4 離散平穩(wěn)信源
2.4.1 平穩(wěn)信源的概念
2.4.2 二維平穩(wěn)信源
2.4.3 一般離散平穩(wěn)信源
2.5 連續(xù)信源的信息熵
2.5.1 單符號連續(xù)信源的熵
2.5.2 波形信源的熵
2.5.3 最大熵定理
2.6 信源的冗余度
2.6.1 信源效率
2.6.2 信源冗余度
2.7 離散無失真信源編碼定理
2.7.1 信源編碼的基本概念
2.7.2 香農(nóng)第一定理
思考題與習題
第3章 信道及其容量
3.1 信道的數(shù)學模型與分類
3.1.1 信道的分類
3.1.2 信道的數(shù)學模型
3.1.3 單符號離散信道
3.2 信道疑義度與平均互信息
3.2.1 信道疑義度
3.2.2 平均互信息
3.2.3 平均互信息的性質
3.3 離散無記憶的擴展信道
3.4 離散信道的信道容量
3.4.1 信道容量的定義
3.4.2 簡單離散信道的信道容量
3.4.3 對稱離散信道的信道容量
3.4.4 離散無記憶n次擴展信道的信道容量
3.5 連續(xù)信道的信道容量
3.5.1 連續(xù)單符號加性高斯噪聲信道的信道容量
3.5.2 多維無記憶加性連續(xù)信道的信道容量
3.5.3 限頻限時限功率的加性高斯白噪聲信道的信道容量
3.6 信源與信道的匹配
3.7 信道編碼定理
思考題與習題
第4章 信息率失真函數(shù)
4.1 失真測度
4.1.1 系統(tǒng)模型
4.1.2 失真度和平均失真度
4.2 信息率失真函數(shù)及其性質及其性質
4.2.1 信息率失真函數(shù)的定義
4.2.2 信息率失真函數(shù)的性質
4.3 離散無記憶信源的信息率失直函數(shù)
4.3.1 等概率、對稱失真信源的r(d)計算
4.3.2 離散無記憶信源的信息率失真函數(shù)的參量表術
……
第5章 信源編碼
第6章 信道編碼
第7章 matlab在信息論與編碼分析中的應用
參考文獻