目錄
前言
第1章 引言 1
1.1 機(jī)器學(xué)習(xí)理論 1
1.1.1 維數(shù)約簡 2
1.1.2 稀疏與低秩 2
1.1.3 半監(jiān)督學(xué)習(xí) 4
1.2 壓縮感知理論 5
1.2.1 壓縮感知的研究意義 5
1.2.2 壓縮感知的理論框架 6
1.2.3 壓縮感知的重構(gòu)算法介紹 8
1.3 高光譜遙感技術(shù) 9
1.3.1 遙感技術(shù) 9
1.3.2 高光譜遙感技術(shù)發(fā)展現(xiàn)狀 10
1.3.3 高光譜遙感技術(shù)的應(yīng)用 13
參考文獻(xiàn) 15
第2章 機(jī)器學(xué)習(xí)理論基礎(chǔ) 19
2.1 維數(shù)約簡的研究進(jìn)展 19
2.1.1 子空間分割 19
2.1.2 稀疏表示 21
2.1.3 矩陣恢復(fù)與填充21
2.1.4 非線性降維 22
2.2 半監(jiān)督學(xué)習(xí)與核學(xué)習(xí)的研究進(jìn)展 23
2.2.1 半監(jiān)督學(xué)習(xí) 23
2.2.2 非參數(shù)核學(xué)習(xí) 24
參考文獻(xiàn) 25
第3章 快速密度加權(quán)低秩近似譜聚類 29
3.1 引言 29
3.2 背景與相關(guān)工作 30
3.2.1 譜聚類算法 30
3.2.2 近鄰傳播算法 30
3.2.3 Nystrom方法 31
3.3 全局距離測度與采樣算法 33
3.3.1 全局距離 33
3.3.2 快速采樣算法 34
3.4 快速兩階段譜聚類框架 35
3.4.1 采樣階段 36
3.4.2 正交化的密度加權(quán)近似譜聚類階段 36
3.5 算法分析 39
3.5.1 采樣算法比較 39
3.5.2 有效性分析 40
3.5.3 快速近鄰搜索 41
3.5.4 復(fù)雜度分析 42
3.6 實驗結(jié)果 42
3.6.1 雙螺旋線數(shù)據(jù) 42
3.6.2 實際數(shù)據(jù) 44
3.6.3 評價指標(biāo) 44
3.6.4 比較算法 45
3.6.5 聚類結(jié)果 46
3.6.6 參數(shù)穩(wěn)定性分析 48
3.6.7 譜嵌入 50
參考文獻(xiàn) 50
附錄 52
第4章 雙圖正則非負(fù)矩陣分解 54
4.1 引言 54
4.2 相關(guān)工作 55
4.2.1 非負(fù)矩陣分解 55
4.2.2 圖正則非負(fù)矩陣分解 56
4.2.3 雙正則聯(lián)合聚類 57
4.3 雙圖正則非負(fù)矩陣分解方法 57
4.3.1 數(shù)據(jù)圖與特征圖 57
4.3.2 DNMF模型 58
4.3.3 迭代更新規(guī)則 59
4.3.4 收斂性分析 60
4.4 雙圖正則非負(fù)矩陣三分解 60
4.4.1 DNMTF模型 61
4.4.2 迭代規(guī)則 61
4.4.3 收斂性分析 62
4.4.4 復(fù)雜度分析 63
4.5 實驗 63
4.5.1 比較算法 63
4.5.2 UCI 數(shù)據(jù) 64
4.5.3 圖像數(shù)據(jù) 66
4.5.4 穩(wěn)定性分析 69
4.5.5 雷達(dá)高分辨距離像數(shù)據(jù) 70
參考文獻(xiàn) 72
附錄A (定理4.1的證明) 74
附錄B (定理4.2的證明) 75
第5章 學(xué)習(xí)魯棒低秩矩陣分解 77
5.1 引言 77
5.2 相關(guān)工作及研究進(jìn)展 78
5.3 魯棒低秩矩陣分解框架 80
5.3.1 單子空間模型 80
5.3.2 多子空間模型 80
5.4 基于交替方向法的迭代算法 81
5.4.1 引入輔助變量 81
5.4.2 迭代求解算法 82
5.4.3 求解單子空間模型 85
5.4.4 拓展應(yīng)用于矩陣填充 85
5.4.5 復(fù)雜度分析 87
5.5 實驗 87
5.5.1 人工數(shù)據(jù)聚類 87
5.5.2 人臉聚類 90
5.5.3 背景建模 93
5.5.4 圖像修復(fù) 94
參考文獻(xiàn) 95
第6章 學(xué)習(xí)譜表示應(yīng)用于半監(jiān)督聚類 98
6.1 引言 98
6.2 圖的創(chuàng)建與譜表示 99
6.2.1 對稱偏好圖 99
6.2.2 圖拉普拉斯譜嵌入 100
6.3 問題模型與求解 101
6.3.1 目標(biāo)函數(shù) 101
6.3.2 問題求解 102
6.4 算法 103
6.4.1 半監(jiān)督聚類 103
6.4.2 直推式分類 104
6.4.3 復(fù)雜度分析 106
6.5 實驗 106
6.5.1 比較算法與參數(shù)設(shè)置 106
6.5.2 人工數(shù)據(jù)集 107
6.5.3 向量型數(shù)據(jù) 108
6.5.4 圖結(jié)構(gòu)數(shù)據(jù) 113
6.5.5 半監(jiān)督聚類應(yīng)用 115
6.5.6 直推式分類應(yīng)用 116
參考文獻(xiàn) 117
第7章 應(yīng)用低秩矩陣填充學(xué)習(xí)數(shù)據(jù)表示 120
7.1 引言 120
7.2 學(xué)習(xí)譜表示框架 122
7.2.1 核矩陣填充 122
7.2.2 提升矩陣學(xué)習(xí)模型 123
7.3 特征值迭代閾值算法 123
7.3.1 改進(jìn)的不動點算法 124
7.3.2 加速策略 125
7.3.3 半監(jiān)督聚類 127
7.3.4 推廣到分類問題 127
7.3.5 復(fù)雜度分析 128
7.4 收斂性分析 128
7.5 實驗 129
7.5.1 學(xué)習(xí)譜表示 129
7.5.2 比較算法與參數(shù)設(shè)置 130
7.5.3 向量型數(shù)據(jù) 131
7.5.4 圖結(jié)構(gòu)數(shù)據(jù) 134
7.5.5 分類應(yīng)用 136
參考文獻(xiàn) 137
附錄A (定理7.2的證明) 140
附錄B (定理7.3的證明) 140
附錄C (定理7.4的證明) 140
附錄D (定理7.6的證明) 141
第8章 結(jié)合約束與低秩核學(xué)習(xí)的半監(jiān)督學(xué)習(xí) 143
8.1 引言 143
8.2 符號與相關(guān)工作 145
8.3 復(fù)合信息半監(jiān)督學(xué)習(xí)框架 147
8.3.1 基本框架 147
8.3.2 核范數(shù)正則模型 147
8.4 半監(jiān)督學(xué)習(xí)算法 148
8.4.1 改進(jìn)的不動點迭代算法 149
8.4.2 連續(xù)性策略和BB 步長技術(shù) 151
8.4.3 標(biāo)簽傳播 152
8.5 算法分析 154
8.5.1 收斂性分析 154
8.5.2 合法核154
8.5.3 復(fù)雜度分析 155
8.5.4 歸納分類 155
8.6 實驗 155
8.6.1 比較算法與參數(shù)設(shè)置 156
8.6.2 交叉螺旋線數(shù)據(jù) 156
8.6.3 實際數(shù)據(jù) 157
8.6.4 直推式分類 158
8.6.5 歸納分類 162
參考文獻(xiàn) 163
第9章 基于子空間類標(biāo)傳播和正則判別分析的單標(biāo)記圖像人臉識別 166
9.1 引言 166
9.2 正則判別分析和稀疏保持判別分析 167
9.3 子空間類標(biāo)傳播 168
9.4 基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡 169
9.5 相關(guān)方法比較 171
9.6 實驗 172
參考文獻(xiàn) 177
第10章 基于雙線性回歸的單標(biāo)記圖像人臉識別 178
10.1 引言 178
10.2 LDA和RDA簡述 180
10.2.1 LDA 180
10.2.2 RDA 180
10.3 雙線性回歸 181
10.3.1 基于子空間假設(shè)的類標(biāo)傳播 181
10.3.2 學(xué)習(xí)稀疏表示結(jié)構(gòu) 182
10.3.3 稀疏保持正則項 183
10.3.4 基于雙線性回歸的半監(jiān)督維數(shù)約簡 184
10.3.5 核DLR 185
10.3.6 計算復(fù)雜性分析 186
10.4 相關(guān)方法比較 187
10.5 實驗 188
10.5.1 數(shù)據(jù)庫介紹 188
10.5.2 實驗設(shè)置 189
10.5.3 實驗結(jié)果與討論 190
10.5.4 DLR方法的進(jìn)一步探索 194
參考文獻(xiàn) 196
第11章 基于旋轉(zhuǎn)擴(kuò)展和稀疏表示的魯棒遙感圖像目標(biāo)識別 200
11.1 引言 200
11.2 基于稀疏表示的識別 201
11.2.1 稀疏表示 201
11.2.2 稀疏表示用于識別 202
11.3 基于旋轉(zhuǎn)擴(kuò)展和稀疏表示的遙感目標(biāo)識別 203
11.4 實驗結(jié)果與分析 205
11.4.1 基于RETSRC的遙感圖像目標(biāo)識別 206
11.4.2 旋轉(zhuǎn)擴(kuò)展倍數(shù)對識別性能的影響 207
參考文獻(xiàn) 208
第12章 壓縮感知理論基礎(chǔ) 210
12.1 壓縮感知概述 210
12.1.1 基于字典的稀疏表示 210
12.1.2 壓縮觀測 213
12.1.3 結(jié)構(gòu)化稀疏重構(gòu)模型 215
12.2 稀疏重構(gòu)方法 218
12.2.1 凸松弛方法 218
12.2.2 貪婪方法 220
12.2.3 其他重構(gòu)方法 221
12.2.4 基于自然計算優(yōu)化方法的稀疏重構(gòu) 222
參考文獻(xiàn) 223
第13章 基于分塊策略和過完備字典的非凸壓縮感知框架 232
13.1 引言 232
13.2 基于過完備字典的分塊壓縮感知框架 233
13.2.1 分塊壓縮感知 233
13.2.2 過完備字典 233
13.2.3 結(jié)構(gòu)化壓縮感知模型 234
13.3 基于Ridgelet過完備字典的圖像稀疏表示 234
13.4 結(jié)構(gòu)化重構(gòu)模型 237
13.4.1 基于圖像自相似性的結(jié)構(gòu)稀疏先驗 237
13.4.2 基于圖像塊方向結(jié)構(gòu)估計的重構(gòu)模型 238
13.5 非凸重構(gòu)策略 238
參考文獻(xiàn) 239
第14章 基于協(xié)同優(yōu)化的稀疏重構(gòu) 240
14.1 引言 240
14.2 基于過完備字典的協(xié)同壓縮感知 241
14.2.1 基于過完備字典的結(jié)構(gòu)稀疏先驗 241
14.2.2 基于協(xié)同優(yōu)化的稀疏重構(gòu)策略 241
14.2.3 相關(guān)工作 242
14.3 基于過完備字典的協(xié)同重構(gòu)模型 244
14.3.1 基于字典的分塊稀疏重構(gòu) 244
14.3.2 基于結(jié)構(gòu)稀疏模型的協(xié)同重構(gòu) 244
14.3.3 基于自回歸模型的協(xié)同重構(gòu) 245
14.4 CR-CS協(xié)同重構(gòu)算法 247
參考文獻(xiàn) 254
第15章 基于過完備字典的方向結(jié)構(gòu)估計模型及重構(gòu)方法 256
15.1 引言 256
15.2 基于方向結(jié)構(gòu)估計的重構(gòu)模型 257
15.2.1 基于過完備字典的方向結(jié)構(gòu)估計 257
15.2.2 稀疏字典的優(yōu)化學(xué)習(xí) 257
15.2.3 基于方向結(jié)構(gòu)估計的進(jìn)化重構(gòu)策略 258
15.3 相關(guān)工作 260
15.4 方向指導(dǎo)的稀疏字典優(yōu)化及結(jié)構(gòu)稀疏重構(gòu)模型 260
15.4.1 方向指導(dǎo)的稀疏字典優(yōu)化學(xué)習(xí) 260
15.4.2 基于稀疏子字典的結(jié)構(gòu)稀疏重構(gòu)模型 262
15.5 基于方向結(jié)構(gòu)估計的非凸重構(gòu)方法 263
15.5.1 基于字典的結(jié)構(gòu)類型判定及方向結(jié)構(gòu)估計 264
15.5.2 基于遺傳優(yōu)化的光滑圖像塊重構(gòu) 266
15.5.3 基于遺傳和克隆選擇優(yōu)化的非光滑圖像塊重構(gòu) 267
15.6 仿真實驗及結(jié)果分析 271
參考文獻(xiàn) 275
第16章 基于光譜信息散度與稀疏表示的高光譜圖像分類 276
16.1 高光譜圖像分類的研究現(xiàn)狀與挑戰(zhàn) 276
16.1.1 高光譜圖像分類研究現(xiàn)狀 276
16.1.2 高光譜圖像分類存在的挑戰(zhàn) 277
16.2 研究動機(jī) 278
16.3 光譜信息散度 279
16.4 基于SID的稀疏表示分類方法 280
16.5 基于SID的聯(lián)合稀疏表示分類方法 281
16.6 實驗結(jié)果和分析 282
16.6.1 三種測度的比較 283
16.6.2 稀疏表示分類方法的性能比較 284
16.6.3 參數(shù)影響分析 285
16.6.4 收斂性證明 287
參考文獻(xiàn) 287
第17章 基于多特征核稀疏表示學(xué)習(xí)的高光譜圖像分類 289
17.1 引言 289
17.2 基于多特征加權(quán)聯(lián)合的稀疏表示分類方法 291
17.3 基于多特征加權(quán)聯(lián)合的核稀疏表示非線性分類方法 293
17.4 實驗結(jié)果與分析 296
17.4.1 實驗基本設(shè)置 296
17.4.2 AVIRIS數(shù)據(jù)的實驗結(jié)果 297
17.4.3 ROSIS數(shù)據(jù)的實驗結(jié)果 304
參考文獻(xiàn) 307