數(shù)據(jù)驅(qū)動(dòng)的科學(xué)和工程:機(jī)器學(xué)習(xí)、動(dòng)力系統(tǒng)與控制詳解
定 價(jià):149 元
叢書名:國(guó)外工業(yè)控制與智能制造叢書
- 作者:[美]史蒂文·L.布倫頓(Steven L. Brunton),[美]J.內(nèi)森·庫(kù)茨(J. Nathan Kutz)
- 出版時(shí)間:2021/8/1
- ISBN:9787111688617
- 出 版 社:機(jī)械工業(yè)出版社
- 中圖法分類:TP274
- 頁(yè)碼:
- 紙張:膠版紙
- 版次:
- 開本:16開
數(shù)據(jù)驅(qū)動(dòng)的研究正在革新復(fù)雜系統(tǒng)的建模、預(yù)測(cè)和控制。本書面向高年級(jí)本科生和研究生,提供了一個(gè)綜合的視角,展示了如何將新興的方法,如數(shù)據(jù)科學(xué)、數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)技術(shù),應(yīng)用到工程和物理科學(xué)中。
本書講述的是數(shù)據(jù)驅(qū)動(dòng)方法、應(yīng)用優(yōu)化以及工程數(shù)學(xué)和數(shù)學(xué)物理等經(jīng)典領(lǐng)域之間日益發(fā)展的交叉內(nèi)容。多年來(lái),我們一直在整理這方面的材料,用于教授工程和物理科學(xué)系的高年級(jí)本科生和低年級(jí)研究生。通常,這類學(xué)生都具有線性代數(shù)、微分方程和科學(xué)計(jì)算的數(shù)學(xué)基礎(chǔ),工科學(xué)生則大多接觸過(guò)控制理論和偏微分方程。然而,工程和科學(xué)領(lǐng)域的大多數(shù)本科課程很少涉及數(shù)據(jù)方法或優(yōu)化方法。同樣,計(jì)算機(jī)科學(xué)和統(tǒng)計(jì)學(xué)方向的課程很少涉及動(dòng)力系統(tǒng)和控制方面的內(nèi)容。本書的目的就是為這類學(xué)生提供廣泛的應(yīng)用數(shù)據(jù)科學(xué)入門知識(shí)。本書所討論的方法主要考慮了上述學(xué)科的關(guān)聯(lián)性、簡(jiǎn)潔性和通用性,并嘗試提供一系列包括基本知識(shí)介紹和前沿技術(shù)在內(nèi)的專題。
數(shù)據(jù)驅(qū)動(dòng)發(fā)現(xiàn)正在徹底改變我們對(duì)復(fù)雜系統(tǒng)建模、預(yù)測(cè)和控制的方式。當(dāng)今時(shí)代為緊迫的科學(xué)和工程問(wèn)題并不適合用基于性原理的經(jīng)驗(yàn)?zāi)P突蛲茖?dǎo)來(lái)解決。研究人員正逐漸轉(zhuǎn)向?qū)?shù)據(jù)驅(qū)動(dòng)方法用于研究各種復(fù)雜系統(tǒng),如湍流、大腦、氣候、流行病學(xué)、金融、機(jī)器人和自主體。這些系統(tǒng)通常是非線性的、動(dòng)態(tài)的、時(shí)空多尺度的、高維的,并由可被刻畫和建模的主導(dǎo)基本模式來(lái)實(shí)現(xiàn)傳感、預(yù)測(cè)、估計(jì)和控制的終目標(biāo)。借助現(xiàn)代數(shù)學(xué)方法以及前所未有的大量數(shù)據(jù)和計(jì)算資源,我們現(xiàn)在能夠處理以前無(wú)法解決的難題。這些新技術(shù)包括:適用于稀疏和噪聲下的隨機(jī)像素測(cè)量的魯棒圖像重構(gòu)、基于機(jī)器學(xué)習(xí)的湍流控制、傳感器和執(zhí)行器布置、純粹從數(shù)據(jù)中發(fā)現(xiàn)可解釋的非線性動(dòng)力系統(tǒng)、用于加速具有復(fù)雜多尺度物理特性的系統(tǒng)的研究和優(yōu)化的降階模型等。
推動(dòng)現(xiàn)代數(shù)據(jù)科學(xué)發(fā)展的是海量且不斷增長(zhǎng)的數(shù)據(jù)的可獲取性,這得益于低成本傳感器的顯著創(chuàng)新、計(jì)算能力數(shù)量級(jí)的提高,以及幾乎無(wú)限的數(shù)據(jù)存儲(chǔ)和傳輸能力。如此大量的數(shù)據(jù)為各個(gè)學(xué)科的工程師和科學(xué)家提供了進(jìn)行數(shù)據(jù)驅(qū)動(dòng)發(fā)現(xiàn)的新機(jī)會(huì),這被稱為科學(xué)發(fā)現(xiàn)的第四范式[245]。第四范式是前三種范式(觀察實(shí)驗(yàn)、解析推導(dǎo)和數(shù)值仿真)發(fā)展的自然結(jié)果。這些技術(shù)為數(shù)據(jù)驅(qū)動(dòng)發(fā)現(xiàn)工作提供了一個(gè)變革性框架。這個(gè)科學(xué)發(fā)現(xiàn)的過(guò)程并不新鮮,而且確實(shí)模仿了科學(xué)革命的領(lǐng)軍人物約翰尼斯·開普勒(Johannes Kepler,15711630)和艾薩克·牛頓爵士(Sir Isaac Newton,16421727)的工作;诮(jīng)驗(yàn)數(shù)據(jù)驅(qū)動(dòng)和解析方法,他們每個(gè)人都在發(fā)展天體力學(xué)的理論基礎(chǔ)方面發(fā)揮了關(guān)鍵作用。數(shù)據(jù)科學(xué)并沒有取代數(shù)學(xué)物理和工程學(xué),反而在21世紀(jì)進(jìn)一步發(fā)展了它們,這與其說(shuō)是一場(chǎng)革命,不如說(shuō)是一場(chǎng)復(fù)興。
數(shù)據(jù)科學(xué)本身并不新鮮,它于50多年前由約翰·圖基(John Tukey)提出,他曾設(shè)想開展一項(xiàng)從數(shù)據(jù)或數(shù)據(jù)分析中學(xué)習(xí)的科研工作[152]。從那時(shí)起,數(shù)據(jù)科學(xué)在很大程度上被兩種截然不同的數(shù)據(jù)文化觀念所主導(dǎo)[78]:以計(jì)算機(jī)科學(xué)家為主形成的機(jī)器學(xué)習(xí)領(lǐng)域,通常以預(yù)測(cè)質(zhì)量和可擴(kuò)展的快速算法為研究中心;統(tǒng)計(jì)學(xué)習(xí)領(lǐng)域,通常以統(tǒng)計(jì)系為中心,側(cè)重于可解釋模型的推理。兩種研究方式都取得了顯著成功,并為數(shù)據(jù)科學(xué)方法提供了數(shù)學(xué)和計(jì)算基礎(chǔ)。對(duì)于工程師和科學(xué)家來(lái)說(shuō),他們的目標(biāo)是利用這些技術(shù)從觀測(cè)數(shù)據(jù)中推斷和計(jì)算模型(一般是非線性的),這些模型能夠正確地識(shí)別潛在的動(dòng)力學(xué),并定性和定量地將其推廣到相位、參數(shù)或應(yīng)用空間的未測(cè)量部分。本書的目標(biāo)是利用統(tǒng)計(jì)和機(jī)器學(xué)習(xí)來(lái)解決工程問(wèn)題。
本書主題
本書中有許多重要的主題。首先,盡管測(cè)量和計(jì)算的精度得到了迅速提高,但許多復(fù)雜系統(tǒng)在數(shù)據(jù)中呈現(xiàn)主導(dǎo)低維模式。這種底層結(jié)構(gòu)能夠?qū)崿F(xiàn)高效的感知以及獲得用于建模和控制的緊湊表達(dá)形式。模式提取與第二個(gè)主題,即尋找簡(jiǎn)化系統(tǒng)的坐標(biāo)變換有關(guān)。實(shí)際上,數(shù)學(xué)物理長(zhǎng)期以來(lái)是以坐標(biāo)變換(例如,譜分解、傅里葉變換、廣義函數(shù)等)為中心的,盡管這些技術(shù)在很大程度上僅限于簡(jiǎn)單的理想化幾何和線性動(dòng)力學(xué)。衍生數(shù)據(jù)驅(qū)動(dòng)轉(zhuǎn)換的能力帶來(lái)了新機(jī)遇,即可以將這些技術(shù)推廣到具有更復(fù)雜幾何和邊界條件的研究問(wèn)題上。我們采用了動(dòng)力系統(tǒng)和控制的觀點(diǎn)來(lái)貫穿全書,將數(shù)據(jù)驅(qū)動(dòng)技術(shù)應(yīng)用于對(duì)隨時(shí)間演化的系統(tǒng)進(jìn)行建模和控制。也許涉及多的主題是數(shù)據(jù)驅(qū)動(dòng)應(yīng)用優(yōu)化,因?yàn)閹缀趺總(gè)討論的主題都與優(yōu)化有關(guān)(例如,尋找低維模式、傳感器布置、機(jī)器學(xué)習(xí)優(yōu)化、控制等)。更為根本的是,書中大多數(shù)數(shù)據(jù)被處理成數(shù)組來(lái)進(jìn)行分析,這樣,從20世紀(jì)60年代早期開始發(fā)展起來(lái)的數(shù)值線性代數(shù)工具,能夠?yàn)楸緯杏玫降木仃嚪纸夂颓蠼獠呗蕴峁┰S多數(shù)學(xué)基礎(chǔ)。
致謝
感謝許多優(yōu)秀的學(xué)生、合作者和同事提供寶貴的反饋、建議和支持。我們要特別感謝 Proctor,他在本書的創(chuàng)作過(guò)程中發(fā)揮了重要作用,同時(shí)幫助確定了這本書的框架和組織結(jié)構(gòu)。我們還受益于與Bing Brunton、Igor Mezi?、Bernd Noack、Sam Taira的廣泛交流和深入探討。如果沒有這些與我們一同工作的優(yōu)秀同事和合作者,這項(xiàng)工作也不可能完成,這些研究成果都將在本書中有所體現(xiàn)。
在本書的編寫和相關(guān)課程教學(xué)中,我們收到了來(lái)自如下優(yōu)秀學(xué)生(包括博士后)的很多反饋和中肯意見:Travis Askham、Michael Au-Yeung、Zhe Bai、Ido Bright、Kathleen Champion、Emily Clark、Charles Delahunt、Daniel Dylewski、Ben
譯者序
前言
常見的優(yōu)化方法、方程、符號(hào)和縮略語(yǔ)
部分 降維和變換
第1章 奇異值分解1
1.1 概述1
1.2 矩陣近似4
1.3 數(shù)學(xué)性質(zhì)和操作方法7
1.4 偽逆、小二乘和回歸11
1.5 主成分分析16
1.6 特征臉示例20
1.7 截?cái)嗪蛯?duì)齊24
1.8 隨機(jī)奇異值分解29
1.9 張量分解和N路數(shù)據(jù)數(shù)組33
第2章 傅里葉變換與小波變換37
2.1 傅里葉級(jí)數(shù)和傅里葉變換37
2.2 離散傅里葉變換和快速傅里葉變換45
2.3 偏微分方程的變換51
2.4 Gabor變換和頻譜圖56
2.5 小波和多分辨率分析61
2.6 二維變換和圖像處理63
第3章 稀疏性和壓縮感知68
3.1 稀疏性和壓縮68
3.2 壓縮感知71
3.3 壓縮感知示例74
3.4 壓縮幾何77
3.5 稀疏回歸80
3.6 稀疏表示83
3.7 魯棒主成分分析87
3.8 稀疏傳感器布置89
第二部分 機(jī)器學(xué)習(xí)和數(shù)據(jù)分析
第4章 回歸和模型選擇95
4.1 經(jīng)典曲線擬合96
4.2 非線性回歸與梯度下降101
4.3 回歸與方程組Ax = b:超定和欠定系統(tǒng)106
4.4 優(yōu)化是回歸的基石111
4.5 帕累托邊界和簡(jiǎn)約原則115
4.6 模型選擇:交叉驗(yàn)證119
4.7 模型選擇:信息準(zhǔn)則123
第5章 聚類和分類127
5.1 特征選擇和數(shù)據(jù)挖掘127
5.2 監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)132
5.3 無(wú)監(jiān)督學(xué)習(xí):k均值聚類135
5.4 無(wú)監(jiān)督層次聚類:樹狀圖139
5.5 混合模型和期望化算法142
5.6 監(jiān)督學(xué)習(xí)和線性判別145
5.7 支持向量機(jī)149
5.8 分類樹和隨機(jī)森林153
5.9 2008年數(shù)據(jù)挖掘十大算法158
第6章 神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)161
6.1 神經(jīng)網(wǎng)絡(luò):?jiǎn)螌泳W(wǎng)絡(luò)162
6.2 多層網(wǎng)絡(luò)和激活函數(shù)165
6.3 反向傳播算法170
6.4 隨機(jī)梯度下降算法172
6.5 深度卷積神經(jīng)網(wǎng)絡(luò)175
6.6 神經(jīng)網(wǎng)絡(luò)動(dòng)力系統(tǒng)178
6.7 神經(jīng)網(wǎng)絡(luò)多樣性182
第三部分 動(dòng)力學(xué)與控制
第7章 數(shù)據(jù)驅(qū)動(dòng)動(dòng)力系統(tǒng)189
7.1 概述、動(dòng)機(jī)和挑戰(zhàn)190
7.2 動(dòng)態(tài)模態(tài)分解194
7.3 非線性動(dòng)力學(xué)的稀疏辨識(shí)203
7.4 Koopman算子理論212
7.5 數(shù)據(jù)驅(qū)動(dòng)的Koopman分析220
第8章 線性控制理論229
8.1 閉環(huán)反饋控制230
8.2 線性時(shí)不變系統(tǒng)233
8.3 能控性與能觀性238
8.4 全狀態(tài)控制:線性二次型調(diào)節(jié)器243
8.5 全狀態(tài)估計(jì):Kalman濾波器246
8.6 基于傳感器的控制:線性二次型高斯249
8.7 案例研究:小車上的倒立擺250
8.8 魯棒控制和頻域技術(shù)257
第9章 平衡模型控制267
9.1 模型約簡(jiǎn)與系統(tǒng)辨識(shí)267
9.2 平衡模型約簡(jiǎn)268
9.3 系統(tǒng)辨識(shí)279
第10章 數(shù)據(jù)驅(qū)動(dòng)控制288
10.1 非線性系統(tǒng)辨識(shí)的控制289
10.2 機(jī)器學(xué)習(xí)控制294
10.3 自適應(yīng)極值搜索控制302
第四部分 降階模型
第11章 POD技術(shù)311
11.1 偏微分方程的POD311
11.2 基元:POD展開316
11.3 POD和孤立子動(dòng)力學(xué)320
11.4 POD的連續(xù)公式324
11.5 對(duì)稱性的POD:旋轉(zhuǎn)和平移328
第12章 參數(shù)降階模型的插值335
12.1 缺失POD335
12.2 缺失POD的誤差和收斂性340
12.3 缺失測(cè)量:小化條件數(shù)343
12.4 缺失測(cè)量:化方差348
12.5 POD和離散經(jīng)驗(yàn)插值方法351
12.6 DEIM算法實(shí)現(xiàn)354
12.7 機(jī)器學(xué)習(xí)的ROM357
術(shù)語(yǔ)362
參考文獻(xiàn)367
索引395