前　　言
第2版說(shuō)明
自本書(shū)第1版第1次于2019年10月印刷至今，已累計(jì)印刷了9次。在這3年的時(shí)間里，深度學(xué)習(xí)的發(fā)展可謂日新月異，其應(yīng)用范圍得到進(jìn)一步拓展，同時(shí)出現(xiàn)了很多新的框架、新的方向。
在眾多創(chuàng)新中，注意力機(jī)制是一個(gè)典型代表。注意力機(jī)制，尤其是以Transformer為基礎(chǔ)的一些模型，在自然語(yǔ)言處理（NLP）領(lǐng)域取得了目前最好的效果（如SOTA），近幾年研究人員把這種模型（如ViT模型、Swin-T模型等）應(yīng)用到計(jì)算機(jī)視覺(jué)領(lǐng)域，也取得了巨大成功。
為此，本書(shū)第2版增強(qiáng)了注意力機(jī)制的相關(guān)內(nèi)容，把注意力機(jī)制單獨(dú)列為一章（即第8章），同時(shí)增加了注意力機(jī)制的應(yīng)用實(shí)例，詳細(xì)內(nèi)容請(qǐng)參考第14章。
人工智能廣泛應(yīng)用于圖像、視頻、語(yǔ)音等諸多領(lǐng)域，比如人工智能在目標(biāo)檢測(cè)、語(yǔ)義分割等任務(wù)中的應(yīng)用日益受到大家的關(guān)注，所以在第2版中我們?cè)黾恿诉@方面的內(nèi)容，具體可參考第9章和第15章。
除了這些新增內(nèi)容外，第2版對(duì)很多原有內(nèi)容進(jìn)行了補(bǔ)充和完善，如PyTorch基礎(chǔ)、優(yōu)化算法、視覺(jué)處理基礎(chǔ)、自然語(yǔ)言處理基礎(chǔ)等內(nèi)容。
讀者對(duì)象
對(duì)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)感興趣的高校學(xué)生及工程師。
對(duì)Python、PyTorch、TensorFlow等感興趣并希望進(jìn)一步提升水平的高校學(xué)生及工程師。
如何閱讀本書(shū)
本書(shū)分為三部分，共19章。
第一部分（第1～4章）為PyTorch基礎(chǔ)，這是本書(shū)的基礎(chǔ)部分，能為后續(xù)學(xué)習(xí)打好堅(jiān)實(shí)基礎(chǔ)。第1章介紹Python和PyTorch的基石NumPy；第2章介紹PyTorch基礎(chǔ)知識(shí)；第3章和第4章分別介紹PyTorch神經(jīng)網(wǎng)絡(luò)工具箱和數(shù)據(jù)處理工具箱等內(nèi)容。
第二部分（第5～10章）為深度學(xué)習(xí)基礎(chǔ)，這也是本書(shū)的核心部分。第5章為機(jī)器學(xué)習(xí)基礎(chǔ)，也是深度學(xué)習(xí)基礎(chǔ)，其中包含很多機(jī)器學(xué)習(xí)經(jīng)典理論、算法和方法等內(nèi)容；第6章為視覺(jué)處理基礎(chǔ)，介紹卷積神經(jīng)網(wǎng)絡(luò)的相關(guān)概念、原理及架構(gòu)等內(nèi)容，并用PyTorch實(shí)現(xiàn)多個(gè)視覺(jué)處理實(shí)例；第7章介紹自然語(yǔ)言處理基礎(chǔ)，重點(diǎn)介紹循環(huán)神經(jīng)網(wǎng)絡(luò)的原理和架構(gòu)，同時(shí)介紹了詞嵌入等內(nèi)容，然后用PyTorch實(shí)現(xiàn)多個(gè)自然語(yǔ)言處理、時(shí)間序列方面的實(shí)例；第8章介紹注意力機(jī)制；第9章介紹目標(biāo)檢測(cè)與語(yǔ)義分割；第10章介紹生成式深度學(xué)習(xí)的相關(guān)內(nèi)容，具體包括編碼器-解碼器模型、帶注意力的編碼器-解碼器模型、生成式對(duì)抗網(wǎng)絡(luò)及多種衍生生成器，同時(shí)使用PyTorch實(shí)現(xiàn)多個(gè)生成式對(duì)抗網(wǎng)絡(luò)實(shí)例。
第三部分（第11～19章）為深度學(xué)習(xí)實(shí)戰(zhàn)，即前面兩部分知識(shí)的具體應(yīng)用。這部分在介紹相關(guān)原理、架構(gòu)的基礎(chǔ)上，使用PyTorch實(shí)現(xiàn)多個(gè)深度學(xué)習(xí)的典型應(yīng)用實(shí)例，最后介紹了強(qiáng)化學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)等內(nèi)容。第11章用PyTorch實(shí)現(xiàn)人臉檢測(cè)與識(shí)別；第12章用PyTorch實(shí)現(xiàn)遷移學(xué)習(xí)；第13章用PyTorch實(shí)現(xiàn)中英文互譯；第14章使用ViT進(jìn)行圖像分類(lèi)；第15章為語(yǔ)義分割實(shí)例；第16章介紹多個(gè)生成模型實(shí)例；第17章介紹對(duì)抗攻擊原理及用PyTorch實(shí)現(xiàn)對(duì)抗攻擊實(shí)例；第18章和第19章介紹了強(qiáng)化學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)基礎(chǔ)知識(shí)及多個(gè)強(qiáng)化學(xué)習(xí)實(shí)例。
勘誤和支持
在本書(shū)編寫(xiě)過(guò)程中得到了張魁、劉未昕等人的大力支持，他們負(fù)責(zé)整個(gè)環(huán)境的搭建和維護(hù)工作。由于筆者水平有限，書(shū)中難免存在錯(cuò)誤或不準(zhǔn)確的地方，懇請(qǐng)讀者批評(píng)指正。你可以通過(guò)訪問(wèn)httpgithub.comWumg 3000feiguyunai下載代碼和數(shù)據(jù)，也可以通過(guò)QQ交流群（493272175）進(jìn)行反饋，非常感謝你的支持和幫助。
致謝
在本書(shū)編寫(xiě)過(guò)程中，得到了很多同事、朋友、老師和同學(xué)的大力支持！感謝博世的王冬、王紅星；感謝上海交大慧谷的程國(guó)旗老師，上海大學(xué)的白延琴老師、李常品老師，上海師范大學(xué)的田紅炯老師、李昭祥老師，以及贛南師范大學(xué)的許景飛老師等。
感謝機(jī)械工業(yè)出版社的編輯給予本書(shū)的大力支持和幫助。
最后，感謝我的愛(ài)人趙成娟，她在繁忙的教學(xué)之余幫助審稿，提出許多改進(jìn)意見(jiàn)或建議。

吳茂貴


PREFACE
第1版前言
為什么寫(xiě)這本書(shū)
在人工智能時(shí)代，如何盡快掌握人工智能的核心深度學(xué)習(xí)呢？相信這是每個(gè)欲進(jìn)入此領(lǐng)域的人面臨的主要問(wèn)題。目前，深度學(xué)習(xí)框架很多，如TensorFlow、PyTorch、Keras、FastAI、CNTK等，這些框架各有優(yōu)點(diǎn)或不足，如何選擇呢？是否有一些標(biāo)準(zhǔn)？有，我覺(jué)得適合自己的就是最好的。
如果你是一位初學(xué)者，建議你選擇PyTorch，待有了一定的基礎(chǔ)之后，可以學(xué)習(xí)其他框架，如TensorFlow、CNTK等。建議初學(xué)者選擇PyTorch的主要依據(jù)如下。
1）PyTorch是動(dòng)態(tài)計(jì)算圖，更貼近Python的用法，并且PyTorch與Python共用了許多NumPy命令，降低了學(xué)習(xí)門(mén)檻，比TensorFlow更容易上手。
2）PyTorch需要定義網(wǎng)絡(luò)層、參數(shù)更新等關(guān)鍵步驟，這非常有助于理解深度學(xué)習(xí)的核心；而Keras雖然也非常簡(jiǎn)單，容易上手，但封裝粒度很粗，隱藏了很多關(guān)鍵步驟。
3）PyTorch的動(dòng)態(tài)圖機(jī)制在調(diào)試方面非常方便，如果計(jì)算圖運(yùn)行出錯(cuò)，馬上可以跟蹤問(wèn)題。PyTorch與Python一樣，通過(guò)斷點(diǎn)檢查就可以高效解決問(wèn)題。
4）PyTorch的流行度僅次于 TensorFlow。而最近一年，在GitHub關(guān)注度和貢獻(xiàn)者的增長(zhǎng)方面，PyTorch與TensorFlow 基本持平。PyTorch 的搜索熱度持續(xù)上漲，再加上FastAI的支持，PyTorch 將受到越來(lái)越多的機(jī)器學(xué)習(xí)從業(yè)者的青睞。
深度學(xué)習(xí)是人工智能的核心，隨著大量相關(guān)項(xiàng)目的落地，人們對(duì)深度學(xué)習(xí)的興趣也持續(xù)上升。不過(guò)掌握深度學(xué)習(xí)知識(shí)并不是一件輕松的事情，尤其是對(duì)機(jī)器學(xué)習(xí)或深度學(xué)習(xí)的初學(xué)者來(lái)說(shuō)挑戰(zhàn)更大。為了能讓廣大人工智能初學(xué)者或愛(ài)好者在較短時(shí)間內(nèi)掌握深度學(xué)習(xí)基礎(chǔ)及利用PyTorch解決深度學(xué)習(xí)問(wèn)題，我們花了近一年時(shí)間打磨這本書(shū)，在內(nèi)容選擇、安排和組織等方面采用了如下方法。
1.內(nèi)容選擇：廣泛涉獵 精講 注重實(shí)戰(zhàn)
深度學(xué)習(xí)涉及面比較廣，且有一定門(mén)檻，沒(méi)有一定廣度很難達(dá)到一定深度，所以本書(shū)基本包括了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的主要內(nèi)容，各章一般先簡(jiǎn)單介紹相應(yīng)的組件（工具）或原理，這些內(nèi)容有助于讀者理解深度學(xué)習(xí)的本質(zhì)。當(dāng)然，如果只有概念、框架、原理、數(shù)學(xué)公式的介紹，可能顯得有點(diǎn)抽象或乏味，所以，每章都配有大量實(shí)踐案例，以便加深讀者對(duì)原理和公式的理解，同時(shí)有利于把相關(guān)內(nèi)容融會(huì)貫通起來(lái)。
2.內(nèi)容安排：簡(jiǎn)單實(shí)例開(kāi)始 循序漸進(jìn)講解
深度學(xué)習(xí)是一塊難啃的硬骨頭，對(duì)有一定開(kāi)發(fā)經(jīng)驗(yàn)和數(shù)學(xué)基礎(chǔ)的讀者如此，對(duì)初學(xué)者更是如此。其中卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、生成式對(duì)抗網(wǎng)絡(luò)是深度學(xué)習(xí)的基石，同時(shí)也是深度學(xué)習(xí)的三大硬骨頭。為了讓讀者更好地理解并掌握這些網(wǎng)絡(luò)，我們采用循序漸進(jìn)的方式，先從簡(jiǎn)單特例開(kāi)始，然后逐步進(jìn)入更一般性的內(nèi)容介紹，最后通過(guò)一些PyTorch代碼實(shí)例將其實(shí)現(xiàn)，整本書(shū)的結(jié)構(gòu)及各章節(jié)內(nèi)容安排都遵循這個(gè)原則。此外，一些優(yōu)化方法也采用這種內(nèi)容安排方式，如對(duì)數(shù)據(jù)集CIFAR10進(jìn)行分類(lèi)優(yōu)化時(shí)，先用一般卷積神經(jīng)網(wǎng)絡(luò)，然后使用集成方法、現(xiàn)代經(jīng)典網(wǎng)絡(luò)，最后采用數(shù)據(jù)增強(qiáng)和遷移方法，不斷提升模型精度，由最初的68%逐步提升到74%和90%，最后達(dá)到95%左右。
3.表達(dá)形式：讓圖說(shuō)話，一張好圖勝過(guò)千言萬(wàn)語(yǔ)
機(jī)器學(xué)習(xí)、深度學(xué)習(xí)中有很多抽象的概念、復(fù)雜的算法、深?yuàn)W的理論等，如NumPy的廣播機(jī)制、梯度下降對(duì)學(xué)習(xí)率敏感、神經(jīng)網(wǎng)絡(luò)中的共享參數(shù)、動(dòng)量?jī)?yōu)化法、梯度消失或爆炸等，這些概念如果只用文字來(lái)描述，可能很難達(dá)到茅塞頓開(kāi)的效果。但如果用一些圖形來(lái)展現(xiàn)，再加上適當(dāng)?shù)奈淖终f(shuō)明，往往能取得非常好的效果，正所謂一張好圖勝過(guò)千言萬(wàn)語(yǔ)。
除了以上談到的3個(gè)方面，為了幫助大家更好地理解并且更快地掌握機(jī)器學(xué)習(xí)、深度學(xué)習(xí)這些人工智能的核心內(nèi)容，本書(shū)還介紹了其他方法，用心的讀者將能體會(huì)到。我們希望通過(guò)這些方法帶給你不一樣的理解和體驗(yàn)，使你感到抽象的數(shù)學(xué)不抽象、復(fù)雜的算法不復(fù)雜、難學(xué)的深度學(xué)習(xí)不難學(xué)。
至于人工智能（AI）的重要性，我想就不用多說(shuō)了。如果說(shuō)2016年前屬于擺事實(shí)論證的階段，2017年和2018年屬于事實(shí)勝于雄辯的階段，那么2019年及以后就進(jìn)入百舸爭(zhēng)流、奮楫者先的階段。目前各行各業(yè)都忙于AI ，大家都希望通過(guò)AI來(lái)改造傳統(tǒng)流程、傳統(tǒng)結(jié)構(gòu)、傳統(tǒng)業(yè)務(wù)、傳統(tǒng)架構(gòu)，其效果猶如用電改造原有的各行各業(yè)一樣。
本書(shū)特色
本書(shū)特色概括來(lái)說(shuō)就是：把理論原理與代碼實(shí)現(xiàn)相結(jié)合；找準(zhǔn)切入點(diǎn)，從簡(jiǎn)單到一般，把復(fù)雜問(wèn)題簡(jiǎn)單化；圖文并茂使抽象問(wèn)題直觀化；實(shí)例說(shuō)明使抽象問(wèn)題具體化。希望本書(shū)能帶給你新的視角、新的理解，甚至更好的未來(lái)。
讀者對(duì)象
對(duì)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)感興趣的高校學(xué)生及工程師。
對(duì)Python、PyTorch、TensorFlow等感興趣并希望進(jìn)一步提升水平的高校學(xué)生及工程師。
如何閱讀本書(shū)
本書(shū)分為三部分，共16章。
第一部分（第1～4章）為PyTorch基礎(chǔ)，這是本書(shū)的基礎(chǔ)，能為后續(xù)章節(jié)的學(xué)習(xí)打下堅(jiān)實(shí)基礎(chǔ)。第1章介紹Python和PyTorch的基石NumPy；第2章介紹PyTorch基礎(chǔ)知識(shí)；第3章和第4章分別介紹PyTorch神經(jīng)網(wǎng)絡(luò)工具箱和數(shù)據(jù)處理工具箱等內(nèi)容。
第二部分（第5～8章）為深度學(xué)習(xí)基本原理，也是本書(shū)的核心部分，包括機(jī)器學(xué)習(xí)流程、常用算法和技巧等內(nèi)容。第5章為機(jī)器學(xué)習(xí)基礎(chǔ)，也是深度學(xué)習(xí)基礎(chǔ)，其中包含很多機(jī)器學(xué)習(xí)經(jīng)典理論、算法和方法等內(nèi)容；第6章為視覺(jué)處理基礎(chǔ)，介紹卷積神經(jīng)網(wǎng)絡(luò)的相關(guān)概念、原理及架構(gòu)等內(nèi)容，并用PyTorch實(shí)現(xiàn)多個(gè)視覺(jué)處理實(shí)例；第7章介紹自然語(yǔ)言處理基礎(chǔ)，重點(diǎn)介紹循環(huán)神經(jīng)網(wǎng)絡(luò)的原理和架構(gòu)，同時(shí)介紹了詞嵌入等內(nèi)容，然后用PyTorch實(shí)現(xiàn)多個(gè)自然語(yǔ)言處理、時(shí)間序列方面的實(shí)例；第8章介紹生成式深度學(xué)習(xí)的相關(guān)內(nèi)容，具體包括編碼器解碼器模型、帶注意力的編碼器解碼器模型、生成式對(duì)抗網(wǎng)絡(luò)及多種衍生網(wǎng)絡(luò)，同時(shí)用PyTorch實(shí)現(xiàn)多個(gè)生成式對(duì)抗網(wǎng)絡(luò)實(shí)例。
第三部分（第9～16章）為實(shí)戰(zhàn)部分，即前面兩部分知識(shí)的具體應(yīng)用，這部分在介紹相關(guān)原理、架構(gòu)的基礎(chǔ)上，用PyTorch具體實(shí)現(xiàn)多個(gè)深度學(xué)習(xí)的典型實(shí)例，最后介紹了強(qiáng)化學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)等內(nèi)容。第9章用PyTorch實(shí)現(xiàn)人臉檢測(cè)與識(shí)別；第10章用PyTorch實(shí)現(xiàn)遷移學(xué)習(xí)；第11章用PyTorch實(shí)現(xiàn)中英文互譯；第12章實(shí)現(xiàn)多個(gè)生成式網(wǎng)絡(luò)實(shí)例；第13章主要介紹如何進(jìn)行模型遷移；第14章介紹對(duì)抗攻擊原理及用PyTorch實(shí)現(xiàn)對(duì)抗攻擊實(shí)例；第15章和第16章介紹了強(qiáng)化學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)基礎(chǔ)及多個(gè)強(qiáng)化學(xué)習(xí)實(shí)例