本書全面講述人工智能算法的理論基礎和案例編程實現。第1章簡要介紹機器學習的發(fā)展及其應用。第2章和第3章主要介紹機器學習經典分類算法、聚類算法、集成算法和隨機森林算法,以及這些算法的具體內容、算法原理和案例編程實現。第4章介紹了深度學習的概念、原理、研究現狀,以及典型的神經網絡及其相關網絡的案例編程實現。第5章介紹了強化學習的發(fā)展及其相關算法,包括Q-學習算法、蒙特卡洛算法和動態(tài)規(guī)劃算法,以及這些算法的原理和案例編程實現。第6章介紹了遷移學習的發(fā)展及其相關算法,主要包括TrAdaBoost算法和層次貝葉斯算法,以及這些算法的原理和案例編程實現。第7章主要介紹了聯邦學習的研究現狀和相關算法,涉及聯邦平均算法和縱向聯邦學習算法,以及算法的原理和案例編程實現。第8章介紹了因果學習的研究現狀和典型模型算法,包括結果因果模型和多變量結構識別算法,還有這些模型和算法的原理以及案例編程實現。第9章和第10章分別介紹了文本挖掘和圖像處理的研究現狀,以及應用于文本和圖像的一些算法,涉及算法的原理介紹和案例編程實現。第11章介紹了人工智能大模型的發(fā)展及研究現狀,包括Transformer和GPT,以及相關的改進模型,并對其中典型的模型應用案例進行了分析。本書可作為計算機科學與技術、智能科學與技術、人工智能等專業(yè)高年級本科生和研究生教材,也可供從事或有志于人工智能行業(yè)的研究人員和從業(yè)者參考。
徐立芳,女,副教授,哈爾濱工程大學機電工程學院副教授,2007年畢業(yè)于哈爾濱工程大學,獲得工學博士學位,哈爾濱工業(yè)大學精密儀器科學與技術博士后流動站出站。
第1章 緒論 1
1.1 人類的學習與機器的學習 2
1.1.1 人類的學習 2
1.1.2 機器的學習 3
1.2 機器學習與機器智能 6
1.2.1 機器學習的概念 6
1.2.2 機器學習如何實現機器智能 7
1.3 機器學習的發(fā)展歷程 7
1.4 機器學習的類型 9
1.5 機器學習的主要方法 10
1.6 機器學習的主要算法 13
1.6.1 傳統機器學習算法 14
1.6.2 新型機器學習算法 15
1.7 機器學習的典型應用與發(fā)展趨勢 17
1.7.1 機器學習的典型應用 17
1.7.2 機器學習的發(fā)展趨勢 18
1.8 如何閱讀本書 19
總結 20
習題 20
第2章 機器學習經典分類算法 23
2.1 回歸算法 24
2.1.1 基本形式 24
2.1.2 線性回歸 24
2.1.3 邏輯回歸 26
2.1.4 線性回歸案例分析 27
2.1.5 邏輯回歸案例分析 33
2.2 決策樹算法 37
2.2.1 樹形決策過程 37
2.2.2 訓練算法 38
2.2.3 案例分析 43
2.3 支持向量機 47
2.3.1 線性分類器 47
2.3.2 支持向量機原理 48
2.3.3 案例分析 51
2.4 kNN算法 53
2.4.1 基本概念 54
2.4.2 預測算法 54
2.4.3 距離定義 55
2.4.4 案例分析 57
2.5 貝葉斯算法 59
2.5.1 貝葉斯決策 59
2.5.2 樸素貝葉斯分類器 60
2.5.3 正態(tài)貝葉斯分類器 62
2.5.4 案例分析 64
總結 67
習題 67
第3章 機器學習經典聚類及集成與隨機森林算法 69
3.1 k-means算法 70
3.1.1 相似性的度量 70
3.1.2 k-means算法原理 71
3.1.3 k-means算法的改進 73
3.1.4 Mean Shift算法 74
3.1.5 案例分析 76
3.2 AdaBoost算法 79
3.2.1 AdaBoost算法介紹 79
3.2.2 AdaBoost算法分類 83
3.2.3 案例分析 84
3.3 馬爾可夫算法 88
3.3.1 馬爾可夫算法介紹 88
3.3.2 隱馬爾可夫算法介紹 91
3.3.3 案例分析 93
3.4 隨機森林算法 96
3.4.1 集成學習 97
3.4.2 隨機森林概述 98
3.4.3 訓練算法 98
3.4.4 變量的重要性 99
3.4.5 案例分析 100
總結 102
習題 103
第4章 深度學習 105
4.1 深度學習及其研究現狀 106
4.1.1 深度學習概念 106
4.1.2 深度學習研究現狀 106
4.2 人工神經網絡 107
4.2.1 全連接神經網絡 107
4.2.2 反向傳播算法 111
4.2.3 案例分析 115
4.3 生成對抗網絡 119
4.3.1 生成對抗網絡結構 119
4.3.2 模型的訓練 120
4.3.3 GAN的改進模型 124
4.3.4 案例分析 131
4.4 循環(huán)神經網絡 135
4.4.1 循環(huán)神經網絡概述 135
4.4.2 循環(huán)神經網絡結構 136
4.4.3 循環(huán)神經網絡訓練 138
4.4.4 挑戰(zhàn)與改進措施 139
4.4.5 案例分析 141
總結 144
習題 144
第5章 強化學習 146
5.1 強化學習及其研究現狀 147
5.1.1 馬爾可夫模型 147
5.1.2 策略 148
5.1.3 強化學習研究現狀 150
5.2 Q-學習算法 150
5.2.1 Q-學習算法的基本原理 151
5.2.2 Q-學習算法的結構 151
5.2.3 采用神經網絡實現Q-學習算法 153
5.2.4 Q-學習算法的改進 154
5.2.5 Q-學習算法的應用案例 156
5.3 蒙特卡洛算法 160
5.3.1 簡單介紹 160
5.3.2 經驗軌跡 161
5.3.3 蒙特卡洛算法的數學原理 164
5.3.4 蒙特卡洛算法的特點 165
5.3.5 蒙特卡洛預測 165
5.3.6 蒙特卡洛預測算法的實現 166
5.4 動態(tài)規(guī)劃算法 169
5.4.1 策略評估 170
5.4.2 策略改進 171
5.4.3 策略迭代 172
5.4.4 值迭代 173
5.4.5 案例分析 174
總結 176
習題 177
第6章 遷移學習 179
6.1 遷移學習及其研究現狀 179
6.1.1 遷移學習概念 179
6.1.2 遷移學習研究現狀 180
6.2 TrAdaBoost算法 181
6.2.1 背景 181
6.2.2 算法介紹 181
6.2.3 算法改進 184
6.2.4 案例分析 186
6.3 層次貝葉斯算法 190
6.3.1 背景 190
6.3.2 算法介紹 191
6.3.3 案例分析 194
總結 196
習題 197
第7章 聯邦學習 199
7.1 聯邦學習及其研究現狀 199
7.1.1 聯邦學習概念 199
7.1.2 聯邦學習研究現狀 201
7.2 聯邦平均算法 202
7.2.1 聯邦優(yōu)化 203
7.2.2 算法原理 205
7.2.3 安全的聯邦平均算法 207
7.2.4 聯邦平均算法的改進 207
7.2.5 案例分析 209
7.3 縱向聯邦學習算法 215
7.3.1 安全聯邦線性回歸 215
7.3.2 安全聯邦提升樹 217
7.3.3 案例分析 221
總結 224
習題 224
第8章 因果學習 227
8.1 因果學習及其研究現狀 228
8.1.1 因果學習概念 228
8.1.2 因果學習研究現狀 229
8.2 結構因果模型 229
8.2.1 兩種類型的因果陳述 229
8.2.2 SCM的標準表示 232
8.2.3 SCM的改進型 233
8.2.4 案例分析 236
8.3 多變量結構識別算法 239
8.3.1 基于獨立的方法 240
8.3.2 基于分數的方法 242
8.3.3 多變量加性噪聲模型 244
8.3.4 案例分析 246
總結 248
習題 249
第9章 文本挖掘 251
9.1 文本挖掘概念與現狀 251
9.1.1 文本挖掘概念 251
9.1.2 文本挖掘現狀 252
9.2 Word2vec-詞嵌入 252
9.2.1 背景介紹 253
9.2.2 Word2vec-詞嵌入——基于神經網絡學習單詞表示 256
9.2.3 案例分析 265
9.3 遞歸神經網絡 270
9.3.1 遞歸神經網絡介紹 270
9.3.2 遞歸神經網絡分類 274
9.3.3 案例分析 276
總結 282
習題 283
第10章 圖像處理 285
10.1 圖像處理概念與現狀 285
10.1.1 圖像處理概念 285
10.1.2 圖像處理現狀 286
10.2 條件圖像到圖像翻譯 286
10.2.1 條件圖像到圖像翻譯的概念 286
10.2.2 cd-GAN 287
10.2.3 DosGAN 289
10.2.4 案例分析 291
10.3 解糾纏圖像到圖像翻譯 295
10.3.1 解糾纏圖像到圖像翻譯的概念 295
10.3.2 InterfaceGAN 295
10.3.3 SeFa 298
10.3.4 案例分析 300
總結 304
習題 304
第11章 人工智能大模型 307
11.1 人工智能大模型概念與現狀 307
11.1.1 人工智能大模型概念 307
11.1.2 人工智能大模型現狀 308
11.2 Transformer 308
11.2.1 背景 308
11.2.2 模型結構 309
12.2.3 為什么使用自注意力 312
11.2.4 案例分析 313
11.3 GPT 317
11.3.1 GPT-1 317
11.3.2 GPT-2 320
11.3.3 GPT-3 323
11.3.4 案例分析 326
總結 331
習題 331