信息論和編碼理論是研究信息傳輸和信息處理的基礎(chǔ)理論。信息論對(duì)實(shí)際通信系統(tǒng)和通信網(wǎng)絡(luò)的設(shè)計(jì)已經(jīng)產(chǎn)生了深刻的影響,通信領(lǐng)域工程師在信息論方面的理論基礎(chǔ)對(duì)其事業(yè)的發(fā)展有重要的作用。《信息論與編碼理論(第2版)》總結(jié)了西安電子科技大學(xué)自1960年創(chuàng)辦信息論專業(yè)以來(lái),特別是近十年來(lái)為通信工程、電子信息工程、信息工程、信息安全等專業(yè)的本科生和信息與通信工程、密碼學(xué)等方向的研究生開設(shè)信息論和編碼理論課程的經(jīng)驗(yàn)。書中圍繞通信系統(tǒng)和通信網(wǎng)絡(luò)的構(gòu)建需求闡述信息論的理論思想,較詳細(xì)地討論了信息論中信息量的定義,各類編碼定理及其證明的基本思想,對(duì)于信息論中發(fā)展的若干重要課題(如率失真理論、多用戶信息論、逼近Shannon極限的信道編碼)都做了專題討論.同時(shí)給出了這一領(lǐng)域近期發(fā)展的近況和重要的參考文獻(xiàn)。這對(duì)于需要獲得信息論基本知識(shí)的有關(guān)專業(yè)學(xué)生和在這些領(lǐng)域從事研究、開發(fā)工作的工程技術(shù)人員都將是有益的。 《信息論與編碼理論(第2版)》可作為通信工程、電子信息工程、信息工程、信息安全等專業(yè)高年級(jí)本科生和研究生的教材。在給高年級(jí)本科生講授時(shí),可以只講一些基本內(nèi)容。書中標(biāo)有*號(hào)的章節(jié)主要供研究生閱讀,各章后面都附有一些難易程度不等的習(xí)題,可根據(jù)需要選用。書末附有較詳盡的參考文獻(xiàn),可供閱讀時(shí)參考。
由教育部高等學(xué)校電子電氣基礎(chǔ)課程教學(xué)指導(dǎo)分委員會(huì)推薦,西安電子科技大學(xué)與高等教育出版社聯(lián)合策劃的這套電子信息類專業(yè)基礎(chǔ)課程系列教材即將陸續(xù)出版發(fā)行,我很高興,這是我國(guó)高校電子信息類教材建設(shè)工作的一個(gè)新舉措!
本系列教材的編寫基于西安電子科技大學(xué)的電子信息辦學(xué)特色和長(zhǎng)期的教學(xué)經(jīng)驗(yàn)積累。學(xué)校從1931年誕生于江西瑞金的中央軍委無(wú)線電學(xué)校,到1949年張家口的軍委工校和20世紀(jì)60年代的“西軍電”,80年代的西北電訊工程學(xué)院,到現(xiàn)在的西安電子科技大學(xué),一直致力于為國(guó)家和軍隊(duì)培養(yǎng)電子信息方面的高級(jí)專業(yè)人才,是國(guó)內(nèi)最早建立信息論、信息系統(tǒng)工程、雷達(dá)、微波天線、電子機(jī)械、電子對(duì)抗等專業(yè)的高校之一,形成了鮮明的電子與信息學(xué)科特色與優(yōu)勢(shì)。本系列教材由學(xué)校眾多知名教授擔(dān)任主編,他們長(zhǎng)期從事電子信息專業(yè)基礎(chǔ)課教學(xué)和研究,努力繼承和發(fā)揚(yáng)學(xué)校在電子信息類專業(yè)基礎(chǔ)課教學(xué)方面的經(jīng)驗(yàn)和特色,并結(jié)合最新的科技進(jìn)展組織和編寫7系列教材。
大家知道,培養(yǎng)高素質(zhì)的電子信息專門人才的前提,是要加強(qiáng)基礎(chǔ)課程建設(shè),尤其是數(shù)理基礎(chǔ)和專業(yè)技術(shù)基礎(chǔ),要打造一個(gè)高水平的專業(yè)基礎(chǔ)課程平臺(tái);本系列教材正是瞄準(zhǔn)這一目標(biāo),從電路分析、信號(hào)與系統(tǒng)、模電(低頻,高頻)、數(shù)電、電磁場(chǎng)等專業(yè)基礎(chǔ)課,到通信原理、雷達(dá)原理、軟件技術(shù)基礎(chǔ)、微波技術(shù)與天線等技術(shù)基礎(chǔ)課,構(gòu)成了一個(gè)知識(shí)面寬闊的電子信息類專業(yè)基礎(chǔ)課教材體系。
王育民,1936年2月生于北京,1 959年7月畢業(yè)于解放軍西安軍事電信工程學(xué)院,1979-1981年赴美圍夏威夷大學(xué)電機(jī)工程系做訪問(wèn)學(xué)者,研究信息論和編碼理論,F(xiàn)為西安電子科技大學(xué)教授、博士生導(dǎo)師,中山大學(xué)兼職教授、兼職博士生導(dǎo)師,長(zhǎng)期從事通信、信息論、編碼、密碼和信息安全的教學(xué)和科研工作,曾任西安電子科技大學(xué)校學(xué)報(bào)編委會(huì)主任、信息論教研室主任等職,F(xiàn)為中國(guó)電子學(xué)會(huì)和中國(guó)通信學(xué)會(huì)會(huì)士、中國(guó)密碼學(xué)會(huì)(籌)理事、中國(guó)電子學(xué)會(huì)信息論學(xué)會(huì)委員、中國(guó)自然基金研究會(huì)會(huì)員、JEEE高級(jí)會(huì)員。曾任全同高等學(xué)校通信和信息工程專業(yè)教學(xué)指導(dǎo)委員會(huì)主任( 1996-2000),陜西電子學(xué)會(huì)第6屬副理事長(zhǎng),學(xué)術(shù)委員會(huì)主任。
合寫著作有《偽隨機(jī)序列及其應(yīng)用》、《信息與編碼理論》、《保密學(xué)——基礎(chǔ)與應(yīng)用》、《通信網(wǎng)的安全——理論與技術(shù)》、《電子商務(wù)技術(shù)與應(yīng)用》等。其中王育民教授擔(dān)任主編的《通信網(wǎng)的安全——理論與技術(shù)》獲得2002年全國(guó)普通高等學(xué)校優(yōu)秀教材一等獎(jiǎng);《保密學(xué)——基礎(chǔ)和應(yīng)川》1996年獲得第三屆全國(guó)工科電子類專業(yè)優(yōu)秀教材一等獎(jiǎng),在國(guó)內(nèi)外學(xué)術(shù)刊物和會(huì)議上發(fā)表論文200余篇。
第1章 引論
1.1 通信系統(tǒng)模型
1.2 Shannon信息論的中心問(wèn)題
1.3 Shannon信息論的局限性
1.4 信息的義性
第2章 信息量和熵
2.1 離散變量的非平均信息量
2.1.1 非平均互信息量
2.1.2 條件互信息與聯(lián)合事件的互信息量
2.1.3 離散變量的非平均自信息量
2.2 離散集的平均自信息量——熵
2.2.1 熵和條件熵
2.2.2 熵的性質(zhì)
2.2.3 相對(duì)墑和條件相對(duì)熵
2.3 熵的唯一性定理
2.4 離散集的平均互信息量
2.5 信息不等式
2.5.1 凸函數(shù)及其性質(zhì)
2.5.2 K-T條件
2.5.3 信息不等式
2.6 相對(duì)熵、熵和互信息量的凸性
2.6.1 相對(duì)熵和熵的凸性
2.6.2 互信息量的凸性
2.7 連續(xù)隨機(jī)變量的互信息量和微分熵
2.7.1 連續(xù)隨機(jī)變量的互信息量
2.7.2 連續(xù)隨機(jī)變量的熵
2.7.3 微分熵的極大化
2.8 隨機(jī)過(guò)程的信息量和熵
小結(jié)
習(xí)題
第3章 信源編碼——離散信源無(wú)失真編碼
3.1 信源及其分類
3.2 離散無(wú)記憶信源的等長(zhǎng)編碼
3.3 離散無(wú)記憶信源的不等長(zhǎng)編碼
3.4 最佳不等長(zhǎng)編碼
3.4.1 Huffman編碼
3.4.2 算術(shù)編碼
3.4.3 LZ編碼
3.5 平穩(wěn)源編碼
3.6 馬爾可犬源
小結(jié)
習(xí)題
第4章 信道及其容量
4.1 信道分類
4.2 離散無(wú)記憶信道
4.2.1 有關(guān)DMC的容量定理
4.2.2 對(duì)稱DMC容量的計(jì)算
4.2.3 一般DMC容量的計(jì)算
4.3 離散無(wú)記憶信道容量的迭代算法
4.3.1 交替優(yōu)化
4.3.2 信道容量算法
4.4 離散有記憶信道
4.5 信道的組合
4.6 時(shí)間離散的無(wú)記憶連續(xù)信道
4.6.1 可加噪聲信道
4.6.2 平均功率受限可加噪聲信道
4.6 3平行可加高斯噪聲信道
4.7 波形信道
小結(jié)
習(xí)題
第S章 信道編碼定理
5.1 信道編碼和譯碼
5.1.1 信道編碼
5.1.2 譯碼準(zhǔn)則
5.1.3 離散序列的譯碼
5.1.4 連續(xù)序列的譯碼
5.2 聯(lián)合典型序列
5.3 信道編碼定理
5.4 錯(cuò)誤概率上限
5.4 1并集限
5.4.2 Bhattacharyya(巴塔恰亞)限
5.4.3 Callager(加拉格)限
5.4.4 隨機(jī)碼集合平均錯(cuò)誤概率上限
5.4.5 DMC的譯碼錯(cuò)誤概率上限
5.4.6 時(shí)間離散連續(xù)信道錯(cuò)誤概率上限
5.5 等能量正交編碼信號(hào)
小結(jié)
習(xí)題
第6章 線性分組碼
6.1 Galois域
6.1 1域運(yùn)算
6.1.2 GF(pm)的構(gòu)造
6.1.3 有限域的特征和元素的級(jí)
6.1 4最小多項(xiàng)式
6.2 線性分組碼
6.3 線性分組碼的生成矩陣和校驗(yàn)矩陣
6.3.1 生成矩陣
6.3.2 枝驗(yàn)矩陣
6.3.3 碼的擴(kuò)展和縮短
6.4 一些特殊的線性分組碼
6.4.1 Hamming(漢明)碼
6.4.2 Hadamard碼
6.4.3 Golay碼
6.5 伴隨式和最小漢明距離譯碼
6.5.1 分組碼的標(biāo)準(zhǔn)陣譯碼
6.5.2 最小距離與糾錯(cuò)能力
6.6 循環(huán)碼
6.6.1 循環(huán)碼的數(shù)學(xué)描述
6.6 2循環(huán)碼的譯碼
6.7 BCH碼
6.7.1 BCH碼的定義和性質(zhì)
6.7.2 BCH碼的譯碼
6.8 Reed-Solomon碼
6.9 分組碼的性能限
6.10 線性分組碼的性能限
小結(jié)
習(xí)題
第7章 卷積碼
7.1 卷積碼的基本概念
7.2 Viterbi譯碼
7.3 序列譯碼
7.4 卷積碼集合平均錯(cuò)誤概率限
7.5 級(jí)聯(lián)碼
小結(jié)
習(xí)題
第8章 接近Shannon極限的編碼
8.1 Turbo碼的構(gòu)造
8.1.1 遞歸系統(tǒng)卷積碼(RSC)
8.1.2 Turbo碼的距離譜
8.1.3 Turbo碼交織器的設(shè)計(jì)
8.2 Turbo碼的譯碼
8.2.1 APP譯碼器
8.2.2 MAP譯碼算法
8.2.3 SOVA譯碼算法
8.2.4 Turbo碼的迭代譯碼特性
8.3 Turbo碼的性能限
……
第9章 信源編碼——無(wú)記憶信源的有失真編碼
第10章 多用戶信息論
參考文獻(xiàn)