第1章 深度學(xué)習(xí)與計(jì)算機(jī)視覺 1
1.1 深度學(xué)習(xí)的歷史與發(fā)展 1
1.1.1 深度學(xué)習(xí)的起源 2
1.1.2 深度學(xué)習(xí)的發(fā)展脈絡(luò) 3
1.1.3 為什么是PyTorch 2.0 3
1.2 計(jì)算機(jī)視覺之路 4
1.2.1 計(jì)算機(jī)視覺的基本概念 4
1.2.2 計(jì)算機(jī)視覺深度學(xué)習(xí)的主要任務(wù) 5
1.2.3 計(jì)算機(jī)視覺中的深度學(xué)習(xí)方法 6
1.2.4 深度學(xué)習(xí)在計(jì)算機(jī)視覺中的應(yīng)用 7
1.3 本章小結(jié) 8
第2章 PyTorch 2.0深度學(xué)習(xí)環(huán)境搭建 9
2.1 環(huán)境搭建1：安裝Python 9
2.1.1 Miniconda的下載與安裝 9
2.1.2 PyCharm的下載與安裝 12
2.1.3 Python代碼小練習(xí)：計(jì)算softmax函數(shù) 16
2.2 環(huán)境搭建2：安裝PyTorch 2.0 17
2.2.1 NVIDIA 10/20/30/40系列顯卡選擇的GPU版本 17
2.2.2 PyTorch 2.0 GPU NVIDIA運(yùn)行庫的安裝 17
2.2.3 Hello PyTorch 19
2.3 Unet圖像降噪第一個(gè)深度學(xué)習(xí)項(xiàng)目實(shí)戰(zhàn) 20
2.3.1 MNIST數(shù)據(jù)集的準(zhǔn)備 20
2.3.2 MNIST數(shù)據(jù)集特征介紹 22
2.3.3 Hello PyTorch 2.0模型的準(zhǔn)備和介紹 23
2.3.4 對(duì)目標(biāo)的逼近模型的損失函數(shù)與優(yōu)化函數(shù) 25
2.3.5 Lets do it！基于深度學(xué)習(xí)的模型訓(xùn)練 26
2.4 本章小結(jié) 28
第3章 從0開始PyTorch 2.0 30
3.1 實(shí)戰(zhàn)MNIST手寫體識(shí)別 30
3.1.1 數(shù)據(jù)圖像的獲取與標(biāo)簽的說明 30
3.1.2 實(shí)戰(zhàn)基于PyTorch 2.0的手寫體識(shí)別模型 32
3.2 PyTorch 2.0常用函數(shù)解析與使用指南 36
3.2.1 數(shù)據(jù)加載和預(yù)處理 36
3.2.2 張量的處理 37
3.2.3 模型的參數(shù)與初始化操作 40
3.3 本章小結(jié) 42
第4章 一學(xué)就會(huì)的深度學(xué)習(xí)基礎(chǔ)算法 43
4.1 反向傳播神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程 43
4.2 反向傳播神經(jīng)網(wǎng)絡(luò)的兩個(gè)基礎(chǔ)算法詳解 46
4.2.1 最小二乘法 46
4.2.2 隨機(jī)梯度下降算法 49
4.2.3 最小二乘法的梯度下降算法及其Python實(shí)現(xiàn) 52
4.3 反饋神經(jīng)網(wǎng)絡(luò)反向傳播算法介紹 58
4.3.1 深度學(xué)習(xí)基礎(chǔ) 58
4.3.2 鏈?zhǔn)角髮?dǎo)法則 59
4.3.3 反饋神經(jīng)網(wǎng)絡(luò)原理與公式推導(dǎo) 60
4.3.4 反饋神經(jīng)網(wǎng)絡(luò)原理的激活函數(shù) 65
4.3.5 反饋神經(jīng)網(wǎng)絡(luò)原理的Python實(shí)現(xiàn) 66
4.4 本章小結(jié) 70
第5章 基于PyTorch卷積層的MNIST分類實(shí)戰(zhàn) 71
5.1 卷積運(yùn)算的基本概念 71
5.1.1 基本卷積運(yùn)算示例 72
5.1.2 PyTorch中卷積函數(shù)實(shí)現(xiàn)詳解 73
5.1.3 池化運(yùn)算 76
5.1.4 softmax激活函數(shù) 77
5.1.5 卷積神經(jīng)網(wǎng)絡(luò)原理 78
5.2 基于卷積的MNIST手寫體分類 80
5.2.1 數(shù)據(jù)的準(zhǔn)備 81
5.2.2 模型的設(shè)計(jì) 81
5.2.3 基于卷積的MNIST分類模型 82
5.3 PyTorch的深度可分離膨脹卷積詳解 83
5.3.1 深度可分離卷積的定義 84
5.3.2 深度的定義以及不同計(jì)算層待訓(xùn)練參數(shù)的比較 86
5.3.3 膨脹卷積詳解 86
5.3.4 PyTorch中基于深度可分離膨脹卷積的MNIST手寫體識(shí)別 87
5.4 本章小結(jié) 89
第6章 PyTorch數(shù)據(jù)處理與模型可視化 90
6.1 用于自定義數(shù)據(jù)集的torch.utils.data工具箱的用法 91
6.1.1 使用torch.utils.data. Dataset封裝自定義數(shù)據(jù)集 91
6.1.2 改變數(shù)據(jù)類型的Dataset類中的transform詳解 93
6.1.3 批量輸出數(shù)據(jù)的DataLoader類詳解 97
6.2 基于tensorboardX的訓(xùn)練可視化展示 99
6.2.1 PyTorch 2.0模型可視化組件tensorboardX的安裝 99
6.2.2 tensorboardX可視化組件的使用 100
6.2.3 tensorboardX對(duì)模型訓(xùn)練過程的展示 102
6.3 本章小結(jié) 105
第7章 殘差神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn) 106
7.1 ResNet的原理與程序設(shè)計(jì)基礎(chǔ) 107
7.1.1 ResNet誕生的背景 107
7.1.2 不要重復(fù)造輪子PyTorch 2.0中的模塊 110
7.1.3 ResNet殘差模塊的實(shí)現(xiàn) 111
7.1.4 ResNet的實(shí)現(xiàn) 113
7.2 ResNet實(shí)戰(zhàn)：CIFAR-10數(shù)據(jù)集分類 116
7.2.1 CIFAR-10數(shù)據(jù)集簡介 116
7.2.2 基于ResNet的CIFAR-10數(shù)據(jù)集分類 119
7.3 本章小結(jié) 121
第8章 基于OpenCV與PyTorch的人臉識(shí)別實(shí)戰(zhàn) 122
8.1 找到人臉人臉識(shí)別數(shù)據(jù)集的建立 123
8.1.1 LFW數(shù)據(jù)集簡介 123
8.1.2 Dlib庫簡介 124
8.1.3 OpenCV簡介 125
8.1.4 使用Dlib檢測人臉位置 125
8.1.5 使用Dlib和OpenCV制作人臉檢測數(shù)據(jù)集 129
8.1.6 基于人臉定位制作適配深度學(xué)習(xí)的人臉識(shí)別數(shù)據(jù)集地址路徑 131
8.2 人臉是誰基于深度學(xué)習(xí)的人臉識(shí)別模型基本架構(gòu) 135
8.2.1 人臉識(shí)別的基本模型SiameseModel 135
8.2.2 基于PyTorch 2.0的SiameseModel的實(shí)現(xiàn) 136
8.2.3 人臉識(shí)別的Contrastive Loss詳解與實(shí)現(xiàn) 137
8.2.4 基于PyTorch 2.0的人臉識(shí)別模型 138
8.3 本章小結(jié) 141

第9章 詞映射與循環(huán)神經(jīng)網(wǎng)絡(luò) 142
9.1 櫻桃－紅色 紫色=？有趣的詞映射 142
9.1.1 什么是詞映射 143
9.1.2 PyTorch中embedding的處理函數(shù)詳解 144
9.2 循環(huán)神經(jīng)網(wǎng)絡(luò)與情感分類實(shí)戰(zhàn) 145
9.2.1 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的中文情感分類實(shí)戰(zhàn)的準(zhǔn)備工作 145
9.2.2 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的中文情感分類實(shí)戰(zhàn) 147
9.3 循環(huán)神經(jīng)網(wǎng)絡(luò)理論講解 150
9.3.1 什么是GRU 150
9.3.2 單向不行，那就雙向 152
9.4 本章小結(jié) 153
第10章 注意力機(jī)制與注意力模型詳解 154
10.1 注意力機(jī)制與模型詳解 154
10.1.1 注意力機(jī)制詳解 155
10.1.2 自注意力機(jī)制 156
10.1.3 ticks和LayerNormalization 162
10.1.4 多頭注意力 163
10.2 注意力機(jī)制的應(yīng)用實(shí)踐編碼器 166
10.2.1 編碼器總體架構(gòu) 166
10.2.2 回到輸入層初始詞向量層和位置編碼器層 167
10.2.3 前饋層的實(shí)現(xiàn) 170
10.2.4 編碼器的實(shí)現(xiàn) 171
10.3 實(shí)戰(zhàn)編碼器自然語言轉(zhuǎn)換模型 174
10.3.1 漢字拼音數(shù)據(jù)集處理 174
10.3.2 漢字拼音轉(zhuǎn)換模型的確定 176
10.3.3 模型訓(xùn)練部分的編寫 179
10.3.4 補(bǔ)充說明 181
10.4 本章小結(jié) 182
第11章 開局一幅圖基于注意力機(jī)制的圖像識(shí)別實(shí)戰(zhàn) 183
11.1 基于注意力的圖像識(shí)別模型Vision Transformer 183
11.1.1 Vision Transformer 整體結(jié)構(gòu) 183
11.1.2 Patch Embedding 185
11.1.3 Transformer Encoder層 187
11.1.4 完整的Vision Transformer架構(gòu)設(shè)計(jì) 190
11.2 基于Vision Transformer的mini_ImageNet實(shí)戰(zhàn) 191
11.2.1 mini_ImageNet數(shù)據(jù)集的簡介與下載 191
11.2.2 mini_ImageNet數(shù)據(jù)集的處理基于PyTorch 2.0專用數(shù)據(jù)處理類 193
11.2.3 Vision Transformer模型設(shè)計(jì) 195
11.2.4 Vision Transformer模型的訓(xùn)練 196
11.2.5 基于現(xiàn)有Vision Transformer包的模型初始化 198
11.3 提升Vision Transformer模型準(zhǔn)確率的一些技巧 198
11.3.1 模型的可解釋性注意力熱圖的可視化實(shí)現(xiàn) 198
11.3.2 PyTorch 2.0中圖像增強(qiáng)方法詳解 201
11.4 本章小結(jié) 206
第12章 內(nèi)容全靠編基于Diffusion Model的從隨機(jī)到可控的圖像生成實(shí)戰(zhàn) 207
12.1 Diffusion Model實(shí)戰(zhàn)MNIST手寫體生成 207
12.1.1 Diffusion Model的傳播流程 208
12.1.2 直接運(yùn)行的DDPM的模型訓(xùn)練實(shí)戰(zhàn) 209
12.1.3 DDPM的基本模塊說明 212
12.1.4 DDPM加噪與去噪詳解 215
12.1.5 DDPM的損失函數(shù) 220
12.2 可控的Diffusion Model生成實(shí)戰(zhàn)指定數(shù)字生成MNIST手寫體 221
12.2.1 Diffusion Model可控生成的基礎(chǔ)特征融合 221
12.2.2 Diffusion Model可控生成的代碼實(shí)戰(zhàn) 221
12.3 加速的Diffusion Model生成實(shí)戰(zhàn)DDIM 223
12.3.1 直接運(yùn)行的少步驟的DDIM手寫體生成實(shí)戰(zhàn) 224
12.3.2 DDIM的預(yù)測傳播流程 226
12.4 本章小結(jié) 228
第13章 認(rèn)清物與位基于注意力的單目攝像頭目標(biāo)檢測實(shí)戰(zhàn) 230
13.1 目標(biāo)檢測基本概念詳解 231
13.1.1 基于注意力機(jī)制的目標(biāo)檢測模型DETR 231
13.1.2 目標(biāo)檢測基本概念（注意力機(jī)制出現(xiàn)之前） 232
13.1.3 目標(biāo)檢測基本概念（注意力機(jī)制出現(xiàn)之后） 233
13.2 基于注意力機(jī)制的目標(biāo)檢測模型DETR詳解 237
13.2.1 基于預(yù)訓(xùn)練DETR模型實(shí)現(xiàn)的實(shí)用化目標(biāo)檢測網(wǎng)頁 237
13.2.2 基于注意力的目標(biāo)檢測模型DETR 239
13.3 DETR模型的損失函數(shù) 243
13.3.1 一看就會(huì)的二分圖匹配算法 243
13.3.2 基于二分圖匹配算法的目標(biāo)檢測的最佳組合 245
13.3.3 DETR中的損失函數(shù) 250
13.3.4 解決batch中tensor維度不一致的打包問題 253
13.4 基于DETR的目標(biāo)檢測自定義數(shù)據(jù)集實(shí)戰(zhàn) 254
13.4.1 VOC數(shù)據(jù)集簡介與數(shù)據(jù)讀取 254
13.4.2 基于PyTorch中的Dataset的數(shù)據(jù)輸入類 257
13.4.3 基于DETR的自定義目標(biāo)檢測實(shí)戰(zhàn) 259
13.5 本章小結(jié) 261
第14章 凝思辨真顏基于注意力與Unet的全畫幅適配圖像全景分割實(shí)戰(zhàn) 262
14.1 圖像分割的基本形式與數(shù)據(jù)集處理 262
14.1.1 圖像分割的應(yīng)用 263
14.1.2 基于預(yù)訓(xùn)練模型的圖像分割預(yù)測示例 264
14.2 基于注意力與Unet的圖像分割模型SwinUnet 267
14.2.1 基于全畫幅注意力的 Swin Transformer詳解 268
14.2.2 經(jīng)典圖像分割模型Unet詳解 270
14.3 基于SwinUnet的圖像分割實(shí)戰(zhàn) 271
14.3.1 圖像分割的label圖像處理 271
14.3.2 圖像分割的VOC數(shù)據(jù)集處理 274
14.3.3 圖像分割損失函數(shù)DiceLoss詳解 276
14.3.4 基于SwinUnet的圖像分割實(shí)戰(zhàn) 278
14.4 本章小結(jié) 279
第15章 誰還用GAN基于預(yù)訓(xùn)練模型的可控零樣本圖像遷移合成實(shí)戰(zhàn) 281
15.1 基于預(yù)訓(xùn)練模型的可控零樣本圖像風(fēng)格遷移實(shí)戰(zhàn) 281
15.1.1 實(shí)戰(zhàn)基于預(yù)訓(xùn)練模型的可控零樣本圖像風(fēng)格遷移 282
15.1.2 詳解可控零樣本圖像風(fēng)格遷移模型 283
15.2 基于預(yù)訓(xùn)練模型的零樣本圖像風(fēng)格遷移實(shí)戰(zhàn) 284
15.2.1 Vision Transformer架構(gòu)的DINO模型 285
15.2.2 風(fēng)格遷移模型Splicing詳解 287
15.2.3 逐行講解風(fēng)格遷移模型Splicing的損失函數(shù) 291
15.3 本章小結(jié) 296