目錄
前言 1
第1 部分 人工智能騙術簡介 9
第1 章 簡介 11
深度學習簡介 11
深度學習簡史 13
人工智能“視錯覺”：驚人的真相 15
什么是“對抗性輸入”？ 17
對抗性擾動 19
不自然的對抗性輸入 20
對抗性補丁 22
物理世界的對抗性樣例 24
更廣闊的領域：“對抗機器學習” 26
對抗性輸入的啟示 27
第2 章 攻擊動機 29
繞過Web 過濾器 30
線上聲譽和品牌管理 32
偽裝自己，逃避監(jiān)控 32
保護個人在線上的隱私 34
迷惑自動駕駛車輛 34
語音控制型設備 36
第3 章 深度神經(jīng)網(wǎng)絡基礎 39
機器學習 39
深度學習基本概念 41
深度神經(jīng)網(wǎng)絡模型作為數(shù)學函數(shù) 45
深度神經(jīng)網(wǎng)絡的輸入和輸出 47
深度神經(jīng)網(wǎng)絡的內(nèi)部和前饋處理 49
深度神經(jīng)網(wǎng)絡如何學習 53
創(chuàng)建一個簡單的圖像分類器 57
第4 章 用深度神經(jīng)網(wǎng)絡處理圖像、音頻和視頻 65
圖像 66
圖像的數(shù)字表示 67
圖像處理深度神經(jīng)網(wǎng)絡 68
卷積神經(jīng)網(wǎng)絡簡介 70
音頻 75
音頻的數(shù)字化表示 76
音頻處理深度神經(jīng)網(wǎng)絡 77
循環(huán)神經(jīng)網(wǎng)絡簡介 79
語音處理 82
視頻 83
視頻的數(shù)字化表示 83
視頻處理深度神經(jīng)網(wǎng)絡 83
對抗性思考 84
利用ResNet50 網(wǎng)絡為圖像分類 86
第2 部分 生成對抗性輸入
第5 章 對抗性輸入的原理 93
輸入空間 95
從訓練數(shù)據(jù)泛化 98
用OoD 數(shù)據(jù)做實驗 100
深度神經(jīng)網(wǎng)絡在想什么？ 101
擾動攻擊：最小化改動，最大化影響 106
對抗性補丁：最大化分散注意力 107
度量可檢測性 108
度量擾動的一種數(shù)學方法 109
考慮人的感知 112
小結 114
第6 章 對抗性擾動的生成方法 117
白盒方法 120
搜索輸入空間 120
利用模型的線性性質(zhì) 123
對抗顯著性 132
增加對抗置信度 138
白盒方法的變體 140
有限黑盒方法 140
基于分數(shù)的黑盒方法 147
小結 149
第3 部分 理解真實世界的威脅
第7 章 真實世界的攻擊模式 153
攻擊模式 153
直接攻擊 155
復制品攻擊 156
遷移攻擊 157
通用遷移攻擊 161
可復用補丁和可復用擾動 162
整合起來：混合方法和折中處理 166
第8 章 物理世界攻擊 167
對抗性物體 169
對抗性物體的制作和攝像機性能 169
視角和環(huán)境 171
對抗性聲音 176
音頻復現(xiàn)和麥克風性能 177
音頻位置和環(huán)境 178
在物理世界創(chuàng)建對抗性樣例的可行性 180
第4 部分 防御
第9 章 評估模型對對抗性輸入的健壯性 185
對抗性的目的、能力、約束和知識 187
目的 187
能力、知識和對系統(tǒng)的掌控權 191
模型評估 193
實證型健壯性度量標準 194
理論型健壯性度量標準 199
小結 201
第10 章 防御對抗性輸入 202
改進模型 203
梯度遮罩 204
對抗性訓練 206
應對OoD，置信度納入訓練 216
隨機失活不確定的度量值 220
數(shù)據(jù)預處理 227
大型處理鏈中的預處理 228
智能移除對抗性內(nèi)容 231
隱藏目標 232
構建對抗性輸入的強大防御機制 234
開源項目 234
全局視角 236
第11 章 未來趨勢：面向更健壯的人工智能系統(tǒng) 238
用輪廓識別增加健壯性 239
多感官輸入 240
物體的構成和層級 241
寫在最后 242
附錄A 數(shù)學術語參考 243
作者介紹 245
封面介紹 245