AI芯片:前沿技術(shù)與創(chuàng)新未來
定 價:159.8 元
- 作者:張臣雄
- 出版時間:2021/3/1
- ISBN:9787115553195
- 出 版 社:人民郵電出版社
- 中圖法分類:TN4
- 頁碼:388
- 紙張:
- 版次:01
- 開本:16開
本書從AI的發(fā)展歷史講起,介紹了目前最熱門的深度學(xué)習(xí)加速芯片和基于神經(jīng)形態(tài)計算的類腦芯片的相關(guān)算法、架構(gòu)、電路等,并介紹了近年來產(chǎn)業(yè)界和學(xué)術(shù)界一些著名的 AI芯片,包括生成對抗網(wǎng)絡(luò)芯片和深度強化學(xué)習(xí)芯片等。本書著重介紹了用創(chuàng)新的思維來設(shè)計 AI 芯片的各種計算范式,以及下 一代AI芯片的幾種范例,包括量子啟發(fā)的 AI芯片、進(jìn)一步提升智能程度的AI芯片、有機自進(jìn)化AI芯片、光子AI芯片及自供電AI芯片等。本書也介紹了半導(dǎo)體芯片技術(shù)在“后摩爾定律時代”的發(fā)展 趨勢,以及基礎(chǔ)理論(如量子場論、信息論等)引領(lǐng) AI 芯片創(chuàng)新并將不斷發(fā)揮巨大作用。最后,本書介紹了AI發(fā)展的三個層次、AI 芯片與生物大腦的差距以及未來的發(fā)展方向。
本書可供在AI芯片領(lǐng)域?qū)W習(xí)和工作的研究生、本科生、工程技術(shù)人員,以及所有對AI芯片感興趣的人員參考。
市面上少有的AI芯片全書;
AI芯片主流大廠首席科學(xué)家多年研究經(jīng)驗和前瞻的傾心總結(jié);
覆蓋AI芯片相關(guān)的技術(shù)路線、理論基礎(chǔ)和產(chǎn)業(yè)實踐等諸多方面;
從深度學(xué)習(xí)AI芯片等現(xiàn)有產(chǎn)品,到自學(xué)習(xí)/進(jìn)化等下一代技術(shù),再到量子場論、超材料甚至生物技術(shù)AI芯片等前瞻題材,本書將帶您走進(jìn)AI芯片的未來。
張臣雄畢業(yè)于上海交通大學(xué)電子工程系,在德國獲得工學(xué)碩士和工學(xué)博士學(xué)位。曾在西門子、Interphase任職多年,曾任上海通信技術(shù)中心及一家世界500強大型高科技企業(yè)分別擔(dān)任CEO/CTO、首席科學(xué)家等職,長期從事及主管半導(dǎo)體芯片的研究和開發(fā),推動芯片的產(chǎn)業(yè)化應(yīng)用。
張臣雄博士是兩家創(chuàng)業(yè)公司的創(chuàng)始人之一。他擁有200余項專利及專利申請,出版了多本專著并發(fā)表了100多篇論文。
第 一篇 導(dǎo)論
第 1章 AI芯片是人工智能未來發(fā)展的核心
——什么是AI芯片 // 2
1.1 AI芯片的歷史 // 3
1.2 AI芯片要完成的基本運算 // 5
1.2.1 大腦的工作機制 // 5
1.2.2 模擬大腦運作的神經(jīng)網(wǎng)絡(luò)的計算 // 7
1.2.3 深度學(xué)習(xí)如何進(jìn)行預(yù)測 // 8
1.2.4 提高性能和降低功耗 // 9
1.3 AI芯片的種類 // 11
1.3.1 深度學(xué)習(xí)加速器 // 15
1.3.2 類腦芯片 // 16
1.3.3 仿生芯片及其他智能芯片 // 17
1.3.4 基于憶阻器的芯片 // 19
1.4 AI芯片的研發(fā)概況 // 22
1.5 小結(jié) // 23
第 2章 執(zhí)行“訓(xùn)練”和“推理”的AI芯片 // 25
2.1 深度學(xué)習(xí)算法成為目前的主流 // 25
2.1.1 深度學(xué)習(xí)的優(yōu)勢與不足 // 28
2.1.2 監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí) // 29
2.1.3 AI芯片用于云端與邊緣側(cè) // 31
2.1.4 把AI 計算從云端遷移到邊緣側(cè) // 36
2.1.4.1 為什么要在邊緣側(cè)部署AI // 37
2.1.4.2 提高邊緣側(cè)AI 計算能力的幾個思路 // 38
2.2 AI 芯片的創(chuàng)新計算范式 // 40
2.3 AI 芯片的創(chuàng)新實現(xiàn)方法 // 42
2.4 小結(jié) // 45
第二篇 最熱門的AI 芯片
第3章 深度學(xué)習(xí)AI 芯片 // 48
3.1 深度神經(jīng)網(wǎng)絡(luò)的基本組成及硬件實現(xiàn) // 48
3.1.1 AI 芯片的設(shè)計流程 // 50
3.1.2 計算引擎和存儲系統(tǒng) // 51
3.1.2.1 計算引擎 // 51
3.1.2.2 存儲系統(tǒng) // 55
3.2 算法的設(shè)計和優(yōu)化 // 57
3.2.1 降低數(shù)值精度的量化技術(shù) // 57
3.2.2 壓縮網(wǎng)絡(luò)規(guī)模、“修剪”網(wǎng)絡(luò) // 62
3.2.3 二值或三值神經(jīng)網(wǎng)絡(luò) // 63
3.2.4 可變精度和遷移精度 // 64
3.2.5 簡化卷積層 // 66
3.2.6 增加和利用網(wǎng)絡(luò)稀疏性 // 66
3.3 架構(gòu)的設(shè)計和優(yōu)化 // 67
3.3.1 把數(shù)據(jù)流用圖表示的架構(gòu)設(shè)計 // 68
3.3.2 架構(gòu)設(shè)計及優(yōu)化的其他考慮 // 71
3.4 電路的設(shè)計和優(yōu)化 // 72
3.4.1 用模數(shù)混合電路設(shè)計的MAC // 73
3.4.2 FPGA 及其Overlay 技術(shù)(“軟件定義硬件”) // 74
3.5 其他設(shè)計方法 // 76
3.5.1 卷積分解方法 // 76
3.5.2 提前終止方法 // 77
3.5.3 知識蒸餾方法 // 77
3.5.4 經(jīng)驗測量方法 // 78
3.5.5 哈希算法取代矩陣乘法 // 78
3.5.6 神經(jīng)架構(gòu)搜索 // 78
3.6 AI 芯片性能的衡量和評價 // 79
3.7 小結(jié) // 82
第4章 AI 芯片產(chǎn)業(yè)和創(chuàng)業(yè)
——近年研發(fā)的AI 芯片及其特點 // 85
4.1 對AI 芯片巨大市場的期待 // 86
4.2 “1+3”大公司格局 // 87
4.2.1 英偉達(dá) // 87
4.2.2 谷歌 // 91
4.2.3 英特爾 // 94
4.2.4 微軟 // 96
4.2.5 其他一些著名公司的AI 芯片 // 97
4.2.6 三位世界級AI 科學(xué)家 // 101
4.3 學(xué)術(shù)界和初創(chuàng)公司 // 102
4.3.1 大學(xué)和研究機構(gòu)的AI 芯片 // 103
4.3.2 四家初創(chuàng)“獨角獸”公司的芯片 // 111
4.4 小結(jié) // 119
第5章 神經(jīng)形態(tài)計算和類腦芯片 // 121
5.1 脈沖神經(jīng)網(wǎng)絡(luò)的基本原理 // 122
5.2 類腦芯片的實現(xiàn) // 125
5.2.1 憶阻器實現(xiàn) // 127
5.2.2 用自旋電子器件實現(xiàn) // 129
5.3 基于DNN 和SNN 的AI 芯片比較及未來可能的融合 // 131
5.4 類腦芯片的例子及最新發(fā)展 // 133
5.5 小結(jié) // 138
第三篇 用于AI 芯片的創(chuàng)新計算范式
第6章 模擬計算 // 142
6.1 模擬計算芯片 // 143
6.2 新型非易失性存儲器推動了模擬計算 // 147
6.2.1 用阻變存儲器實現(xiàn)模擬計算 // 147
6.2.2 用相變存儲器實現(xiàn)模擬計算 // 149
6.2.3 權(quán)重更新的挑戰(zhàn) // 150
6.2.4 NVM 器件的材料研究和創(chuàng)新 // 151
6.3 模擬計算的應(yīng)用范圍及其他實現(xiàn)方法 // 153
6.4 模擬計算的未來趨勢 // 154
6.5 小結(jié) // 156
第7章 存內(nèi)計算 // 158
7.1 馮·諾依曼架構(gòu)與存內(nèi)計算架構(gòu) // 158
7.2 基于存內(nèi)計算的AI 芯片 // 161
7.2.1 改進(jìn)現(xiàn)有存儲芯片來完成存內(nèi)計算 // 161
7.2.2 用3D 堆疊存儲技術(shù)來完成存內(nèi)計算 // 164
7.2.3 用新型非易失性存儲器來完成存內(nèi)計算 // 165
7.3 小結(jié) // 171
第8章 近似計算、隨機計算和可逆計算 // 174
8.1 近似計算 // 174
8.1.1 減少循環(huán)迭代次數(shù)的近似計算 // 176
8.1.2 近似加法器和近似乘法器 // 177
8.1.3 降低電源電壓的近似計算 // 178
8.1.4 基于RRAM 的近似計算 // 180
8.1.5 應(yīng)對電路故障的近似計算 // 182
8.2 隨機計算 // 182
8.3 可逆計算 // 187
8.4 小結(jié) // 191
第9章 自然計算和仿生計算 // 192
9.1 組合優(yōu)化問題 // 193
9.2 組合優(yōu)化問題的最優(yōu)化算法 // 195
9.2.1 模擬退火 // 195
9.2.2 自組織映射 // 197
9.2.3 群體算法 // 199
9.3 超參數(shù)及神經(jīng)架構(gòu)搜索 // 201
9.3.1 粒子群優(yōu)化的應(yīng)用 // 202
9.3.2 強化學(xué)習(xí)方法的應(yīng)用 // 202
9.3.3 進(jìn)化算法的應(yīng)用 // 203
9.3.4 其他自然仿生算法的應(yīng)用 // 204
9.4 基于自然仿生算法的AI 芯片 // 205
9.4.1 粒子群優(yōu)化的芯片實現(xiàn) // 206
9.4.2 用憶阻器實現(xiàn)模擬退火算法 // 207
9.5 小結(jié) // 208
第四篇 下一代AI 芯片
第 10 章 受量子原理啟發(fā)的AI 芯片 // 210
10.1 量子退火機 // 210
10.2 伊辛模型的基本原理 // 212
10.3 用于解決組合優(yōu)化問題的AI 芯片 // 214
10.3.1 基于FPGA 的可編程數(shù)字退火芯片 // 214
10.3.2 使用OPO 激光網(wǎng)絡(luò)來進(jìn)行最優(yōu)化計算 // 216
10.3.3 CMOS 退火芯片 // 218
10.3.4 商用量子啟發(fā)AI 芯片 // 220
10.4 量子啟發(fā)AI 芯片的應(yīng)用 // 221
10.5 小結(jié) // 223
第 11 章 進(jìn)一步提高智能程度的AI 算法及芯片 // 224
11.1 自學(xué)習(xí)和創(chuàng)意計算 // 225
11.2 元學(xué)習(xí) // 226
11.2.1 模型不可知元學(xué)習(xí) // 226
11.2.2 元學(xué)習(xí)共享分層 // 227
11.2.3 終身學(xué)習(xí) // 228
11.2.4 用類腦芯片實現(xiàn)元學(xué)習(xí) // 229
11.3 元推理 // 230
11.4 解開神經(jīng)網(wǎng)絡(luò)內(nèi)部表征的纏結(jié) // 231
11.5 生成對抗網(wǎng)絡(luò) // 235
11.5.1 生成對抗網(wǎng)絡(luò)的FPGA 實現(xiàn) // 239
11.5.2 生成對抗網(wǎng)絡(luò)的CMOS 實現(xiàn) // 239
11.5.3 生成對抗網(wǎng)絡(luò)的RRAM 實現(xiàn) // 240
11.6 小結(jié) // 242
第 12 章 有機計算和自進(jìn)化AI 芯片 // 243
12.1 帶自主性的AI 芯片 // 244
12.2 自主計算和有機計算 // 247
12.3 自進(jìn)化硬件架構(gòu)與自進(jìn)化AI 芯片 // 248
12.3.1 自進(jìn)化硬件架構(gòu) // 248
12.3.2 自進(jìn)化AI 芯片 // 250
12.4 深度強化學(xué)習(xí)AI 芯片 // 252
12.5 進(jìn)化算法和深度學(xué)習(xí)算法的結(jié)合 // 253
12.6 有機計算和遷移學(xué)習(xí)的結(jié)合 // 254
12.7 小結(jié) // 255
第 13 章 光子AI 芯片和儲備池計算 // 256
13.1 光子AI 芯片 // 257
13.1.1 硅光芯片 // 258
13.1.2 光學(xué)神經(jīng)網(wǎng)絡(luò)架構(gòu) // 259
13.1.3 光子AI 芯片 // 261
13.2 基于儲備池計算的AI 芯片 // 263
13.3 光子芯片的新進(jìn)展 // 267
13.4 小結(jié) // 268
第五篇 推動AI 芯片發(fā)展的新技術(shù)
第 14 章 超低功耗與自供電AI 芯片 // 271
14.1 超低功耗AI 芯片 // 271
14.2 自供電AI 芯片 // 274
14.2.1 使用太陽能的AI 芯片 // 276
14.2.2 無線射頻信號能量采集 // 277
14.2.3 摩擦生電器件 // 280
14.2.4 微塵大小的AI 芯片 // 282
14.2.5 可采集能源的特點 // 283
14.2.6 其他可能被發(fā)掘的能源 // 284
14.3 小結(jié) // 285
第 15 章 后摩爾定律時代的芯片 // 287
15.1 摩爾定律仍然繼續(xù),還是即將終結(jié) // 287
15.1.1 摩爾定律進(jìn)一步 // 290
15.1.2 比摩爾定律更多 // 293
15.1.3 超越CMOS // 300
15.2 芯片設(shè)計自動化的前景 // 310
15.3 后摩爾定律時代的重要變革是量子計算芯片 // 312
15.4 小結(jié) // 313
第六篇 促進(jìn)AI 芯片發(fā)展的基礎(chǔ)理論研究、應(yīng)用和創(chuàng)新
第 16 章 基礎(chǔ)理論研究引領(lǐng)AI 芯片創(chuàng)新 // 316
16.1 量子場論 // 317
16.1.1 規(guī)范場論與球形曲面卷積 // 317
16.1.2 重整化群與深度學(xué)習(xí) // 321
16.2 超材料與電磁波深度神經(jīng)網(wǎng)絡(luò) // 322
16.3 老子之道 // 327
16.4 量子機器學(xué)習(xí)與量子神經(jīng)網(wǎng)絡(luò) // 331
16.5 統(tǒng)計物理與信息論 // 333
16.6 小結(jié) // 336
第 17 章 AI 芯片的應(yīng)用和發(fā)展前景 // 338
17.1 AI 的未來發(fā)展 // 338
17.2 AI 芯片的功能和技術(shù)熱點 // 341
17.3 AI 的三個層次和AI 芯片的應(yīng)用 // 343
17.4 更接近生物大腦的AI 芯片 // 346
17.4.1 帶“左腦”和“右腦”的AI 芯片 // 349
17.4.2 用細(xì)菌實現(xiàn)的擴散憶阻器 // 350
17.4.3 用自旋電子器件實現(xiàn)的微波神經(jīng)網(wǎng)絡(luò) // 351
17.4.4 用電化學(xué)原理實現(xiàn)模擬計算 // 352
17.5 AI 芯片設(shè)計是一門跨界技術(shù) // 353
17.6 小結(jié) // 355
附錄 中英文對照表 // 360
參考文獻(xiàn) // 371