本書全面闡述了模式識別的基礎(chǔ)理論、*新方法以及各種應(yīng)用。討論了貝葉斯分類、貝葉斯網(wǎng)絡(luò)、線性和非線性分類器設(shè)計(jì)、特征生成、特征選取技術(shù)、學(xué)習(xí)理論的基本概念以及聚類概念與算法。與前一版相比,增加了大數(shù)據(jù)集和高維數(shù)據(jù)相關(guān)的*新算法,提供了*新的分類器和魯棒回歸的核方法。新增一些熱點(diǎn)問題,如非線性降維、非負(fù)矩陣因數(shù)分解、關(guān)聯(lián)性反饋、魯棒回歸、半監(jiān)督學(xué)習(xí)、譜聚類和聚類組合技術(shù)。每章均提供有習(xí)題與練習(xí),用MATLAB求解問題,給出一些例題的多種求解方法;且支持網(wǎng)站上提供有習(xí)題解答,以便于讀者增加實(shí)際經(jīng)驗(yàn)。
本書在完美地合當(dāng)前的理論與實(shí)踐的基礎(chǔ)上,討論了貝葉斯分類、貝葉斯網(wǎng)絡(luò)、線性和非線性分類器設(shè)計(jì)、上下文相關(guān)分類、特征生成、特征選取技術(shù)、學(xué)習(xí)理論的基本概念以及聚類概念與算法。
Sergios Theodoridis:希臘雅典大學(xué)物理學(xué)學(xué)士、英國伯明翰大學(xué)信號處理與通信碩士和博士。希臘雅典大學(xué)信息與通信系教授,其4篇論文獲IEEE神經(jīng)網(wǎng)絡(luò)會刊卓越論文獎,IET和IEEE高級會士。
Konstantinos Koutroumbas:希臘佩特雷大學(xué)計(jì)算機(jī)學(xué)士、英國倫敦大學(xué)計(jì)算機(jī)碩士、希臘雅典大學(xué)計(jì)算機(jī)博士。希臘雅典國家天文臺空間應(yīng)用與遙感研究院研究員,國際知名專家。
李晶皎:東北大學(xué)信息學(xué)院教授,博士生導(dǎo)師。一直從事教學(xué)和科研工作,主要研究方向?yàn)槟J阶R別、語音信號處理、計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)、嵌入式系統(tǒng)等。
第1章 導(dǎo)論 1
1.1 模式識別的重要性 1
1.2 特征、特征向量和分類器 3
1.3 有監(jiān)督、無監(jiān)督和半監(jiān)督學(xué)習(xí) 4
1.4 MATLAB程序 6
1.5 本書的內(nèi)容安排 6
第2章 基于貝葉斯決策理論的分類器 8
2.1 引言 8
2.2 貝葉斯決策理論 8
2.3 判別函數(shù)和決策面 12
2.4 正態(tài)分布的貝葉斯分類 13
2.5 未知概率密度函數(shù)的估計(jì) 23
2.6 最近鄰規(guī)則 42
2.7 貝葉斯網(wǎng)絡(luò) 44
習(xí)題 49
MATLAB編程和練習(xí) 55
參考文獻(xiàn) 60
第3章 線性分類器 63
3.1 引言 63
3.2 線性判別函數(shù)和決策超平面 63
3.3 感知器算法 64
3.4 最小二乘法 70
3.5 均方估計(jì)的回顧 75
3.6 邏輯識別 80
3.7 支持向量機(jī) 81
習(xí)題 97
MATLAB編程和練習(xí) 99
參考文獻(xiàn) 100
第4章 非線性分類器 104
4.1 引言 104
4.2 異或問題 104
4.3 兩層感知器 105
4.4 三層感知器 108
4.5 基于訓(xùn)練集準(zhǔn)確分類的算法 109
4.6 反向傳播算法 110
4.7 反向傳播算法的改進(jìn) 115
4.8 代價(jià)函數(shù)選擇 117
4.9 神經(jīng)網(wǎng)絡(luò)大小的選擇 119
4.10 仿真實(shí)例 123
4.11 具有權(quán)值共享的網(wǎng)絡(luò) 124
4.12 線性分類器的推廣 125
4.13 線性二分法中l(wèi)維空間的容量 126
4.14 多項(xiàng)式分類器 127
4.15 徑向基函數(shù)網(wǎng)絡(luò) 129
4.16 通用逼近 131
4.17 概率神經(jīng)元網(wǎng)絡(luò) 132
4.18 支持向量機(jī):非線性情況 134
4.19 超越SVM的范例 137
4.20 決策樹 146
4.21 合并分類器 150
4.22 合并分類器的增強(qiáng)法 155
4.23 類的不平衡問題 160
4.24 討論 161
習(xí)題 161
MATLAB編程和練習(xí) 164
參考文獻(xiàn) 168
第5章 特征選擇 178
5.1 引言 178
5.2 預(yù)處理 178
5.3 峰值現(xiàn)象 180
5.4 基于統(tǒng)計(jì)假設(shè)檢驗(yàn)的特征選擇 182
5.5 接收機(jī)操作特性(ROC)曲線 187
5.6 類可分性測量 188
5.7 特征子集的選擇 193
5.8 最優(yōu)特征生成 196
5.9 神經(jīng)網(wǎng)絡(luò)和特征生成/選擇 203
5.10 推廣理論的提示 204
5.11 貝葉斯信息準(zhǔn)則 210
習(xí)題 211
MATLAB編程和練習(xí) 213
參考文獻(xiàn) 216
第6章 特征生成I:線性變換 221
6.1 引言 221
6.2 基本向量和圖像 221
6.3 Karhunen-Loève變換 223
6.4 奇異值分解 229
6.5 獨(dú)立成分分析 234
6.6 非負(fù)矩陣因子分解 239
6.7 非線性維數(shù)降低 240
6.8 離散傅里葉變換(DFT) 248
6.9 離散正弦和余弦變換 251
6.10 Hadamard變換 252
6.11 Haar變換 253
6.12 回顧Haar展開式 254
6.13 離散時(shí)間小波變換(DTWT) 257
6.14 多分辨解釋 264
6.15 小波包 265
6.16 二維推廣簡介 266
6.17 應(yīng)用 268
習(xí)題 271
MATLAB編程和練習(xí) 273
參考文獻(xiàn) 275
第7章 特征生成II 282
7.1 引言 282
7.2 區(qū)域特征 282
7.3 字符形狀和大小的特征 298
7.4 分形概述 304
7.5 語音和聲音分類的典型特征 309
習(xí)題 320
MATLAB編程和練習(xí) 322
參考文獻(xiàn) 325
第8章 模板匹配 331
8.1 引言 331
8.2 基于最優(yōu)路徑搜索技術(shù)的測度 331
8.3 基于相關(guān)的測度 342
8.4 可變形的模板模型 346
8.5 基于內(nèi)容的信息檢索:相關(guān)反饋 349
習(xí)題 352
MATLAB編程和練習(xí) 353
參考文獻(xiàn) 355
第9章 上下文相關(guān)分類 358
9.1 引言 358
9.2 貝葉斯分類器 358
9.3 馬爾可夫鏈模型 358
9.4 Viterbi算法 359
9.5 信道均衡 362
9.6 隱馬爾可夫模型 365
9.7 狀態(tài)駐留的HMM 373
9.8 用神經(jīng)網(wǎng)絡(luò)訓(xùn)練馬爾可夫模型 378
9.9 馬爾可夫隨機(jī)場的討論 379
習(xí)題 381
MATLAB編程和練習(xí) 382
參考文獻(xiàn) 384
第10章 監(jiān)督學(xué)習(xí):尾聲 389
10.1 引言 389
10.2 誤差計(jì)算方法 389
10.3 探討有限數(shù)據(jù)集的大小 390
10.4 醫(yī)學(xué)圖像實(shí)例研究 393
10.5 半監(jiān)督學(xué)習(xí) 395
習(xí)題 404
參考文獻(xiàn) 404
第11章 聚類:基本概念 408
11.1 引言 408
11.2 近鄰測度 412
習(xí)題 427
參考文獻(xiàn) 428
第12章 聚類算法I:順序算法 430
12.1 引言 430
12.2 聚類算法的種類 431
12.3 順序聚類算法 433
12.4 BSAS的改進(jìn) 436
12.5 兩個閾值的順序方法 437
12.6 改進(jìn)階段 439
12.7 神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn) 440
習(xí)題 443
MATLAB編程和練習(xí) 444
參考文獻(xiàn) 445
第13章 聚類算法II:層次算法 448
13.1 引言 448
13.2 合并算法 448
13.3 cophenetic矩陣 465
13.4 分裂算法 466
13.5 用于大數(shù)據(jù)集的層次算法 467
13.6 最佳聚類數(shù)的選擇 472
習(xí)題 474
MATLAB編程和練習(xí) 475
參考文獻(xiàn) 477
第14章 聚類算法III:基于函數(shù)最優(yōu)方法 480
14.1 引言 480
14.2 混合分解方法 481
14.3 模糊聚類算法 487
14.4 可能性聚類 502
14.5 硬聚類算法 506
14.6 向量量化 513
附錄 514
習(xí)題 515
MATLAB編程和練習(xí) 516
參考文獻(xiàn) 519
第15章 聚類算法IV 523
15.1 引言 523
15.2 基于圖論的聚類算法 523
15.3 競爭學(xué)習(xí)算法 533
15.4 二值形態(tài)聚類算法 540
15.5 邊界檢測算法 546
15.6 谷點(diǎn)搜索聚類算法 548
15.7 通過代價(jià)最優(yōu)聚類(回顧) 550
15.8 核聚類方法 555
15.9 對大數(shù)據(jù)集的基于密度算法 558
15.10 高維數(shù)據(jù)集的聚類算法 562
15.11 其他聚類算法 572
15.12 聚類組合 573
習(xí)題 578
MATLAB編程和練習(xí) 580
參考文獻(xiàn) 582
第16章 聚類有效性 591
16.1 引言 591
16.2 假設(shè)檢驗(yàn)回顧 591
16.3 聚類有效性中的假設(shè)檢驗(yàn) 593
16.4 相關(guān)準(zhǔn)則 600
16.5 單獨(dú)聚類有效性 612
16.6 聚類趨勢 613
習(xí)題 620
參考文獻(xiàn) 622
附錄A 概率論和統(tǒng)計(jì)學(xué)的相關(guān)知識 626
附錄B 線性代數(shù)基礎(chǔ) 635
附錄C 代價(jià)函數(shù)的優(yōu)化 637
附錄D 線性系統(tǒng)理論的基本定義 649
索引 652