目錄
《大數(shù)據(jù)與數(shù)據(jù)科學專著系列》序
前言
第1章 模型與數(shù)據(jù)雙驅動方法概述 1
1.1 引言 1
1.2 科學建模與計算問題 2
1.2.1 計算成像學 2
1.2.2 預測預報問題 4
1.2.3 科學計算問題 5
1.2.4 圖像處理與分析 6
1.3 模型驅動的科學建模與計算方法 7
1.3.1 方程建模方法 8
1.3.2 優(yōu)化建模方法 9
1.3.3 統(tǒng)計分布建模方法 9
1.3.4 信號處理與分析方法 10
1.4 數(shù)據(jù)驅動的機器學習建模與計算方法 11
1.4.1 傳統(tǒng)機器學習方法 12
1.4.2 深度學習方法 14
1.5 模型與數(shù)據(jù)雙驅動的科學建模與計算方法 20
1.5.1 模型與數(shù)據(jù)雙驅動的基本思路 20
1.5.2 模型與數(shù)據(jù)雙驅動的建模優(yōu)勢 22
1.5.3 典型領域中的模型與數(shù)據(jù)雙驅動建模方法 23
1.5.4 本書的組織結構 24
第2章 優(yōu)化模型驅動的深度學習方法 27
2.1 引言 27
2.2 典型優(yōu)化模型與算法簡介 28
2.2.1 典型優(yōu)化模型 28
2.2.2 典型優(yōu)化算法 28
2.2.3 優(yōu)化方法與深度學習方法的結合 32
2.3 優(yōu)化模型驅動的深度學習模型設計 33
2.3.1 雙層優(yōu)化問題 33
2.3.2 基于學習的稀疏編碼模型求解 36
2.3.3 反問題建模與求解的模型驅動深度網絡 38
2.4 基于深度學習的優(yōu)化算法學習方法 47
2.4.1 基于深度學習的優(yōu)化方法 48
2.4.2 優(yōu)化模型驅動的優(yōu)化策略學習 51
2.5 總結與展望 57
第3章 統(tǒng)計模型驅動的深度學習方法 59
3.1 引言 59
3.1.1 統(tǒng)計學與統(tǒng)計機器學習的一些基本概念 59
3.1.2 統(tǒng)計與深度機器學習 60
3.2 基于變分自編碼的統(tǒng)計分布建模 62
3.2.1 變分推斷基本原理 62
3.2.2 變分自編碼模型與訓練方法 63
3.2.3 變分自編碼的應用 65
3.3 基于流模型的分布估計深度學習模型 66
3.3.1 基于可逆深度網絡的分布估計 66
3.3.2 基于連續(xù)流模型的分布估計 71
3.3.3 正規(guī)流模型的典型應用 75
3.4 基于Wasserstein距離的生成對抗統(tǒng)計分布建模 79
3.4.1 Wasserstein距離簡介 79
3.4.2 Wasserstein距離導出生成對抗網絡 80
3.4.3 Wasserstein生成對抗網絡應用 81
3.5 基于概率密度對數(shù)梯度估計的生成模型 83
3.5.1 打分模型基本原理 83
3.5.2 基于隨機微分方程的概率密度估計模型 86
3.5.3 去噪擴散概率模型 87
3.5.4 隱擴散去噪模型 92
3.5.5 基于擴散模型的圖像重建和圖像恢復 94
3.6 總結與展望 96
第4章 幾何模型驅動的深度學習方法 100
4.1 引言 101
4.2 流形上的深度學習 103
4.2.1 流形的基本定義 103
4.2.2 流形上的一般深度學習框架 105
4.3 群等變深度神經網絡 113
4.3.1 群等變深度神經網絡基礎 113
4.3.2 典型對稱群定義 116
4.3.3 群等變深度網絡的典型應用 117
4.4 點云或圖上等變神經網絡 118
4.4.1 基于向量神經元的等變神經網絡 118
4.4.2 基于標架平均的等變神經網絡 121
4.4.3 基于不可約表示的等變Transformer網絡 126
4.4.4 等變圖/點云深度網絡應用 129
4.5 總結與展望 130
4.5.1 總結 130
4.5.2 展望 130
第5章 微分方程建模與求解的深度學習方法 133
5.1 引言 133
5.2 基于深度學習的微分方程建模 134
5.2.1 基于符號回歸的微分方程搜索 135
5.2.2 非線性動力系統(tǒng)的稀疏發(fā)現(xiàn) 137
5.2.3 微分方程的神經網絡逼近學習 140
5.3 基于深度學習的微分方程求解 144
5.3.1 物理信息神經網絡求解偏微分方程 144
5.3.2 神經算子求解偏微分方程 146
5.4 基于學習的反問題建模與求解 153
5.4.1 伴隨方程方法 154
5.4.2 神經網絡代理函數(shù)方法 156
5.4.3 其他的反問題求解方法 158
5.5 總結與展望 162
5.5.1 總結 162
5.5.2 展望：工業(yè)軟件設計中的高效、高精度算法 162
5.5.3 展望：天氣預測、疾病演化等大規(guī)模系統(tǒng)建模與計算 163
5.5.4 展望：更加通用的PDE建模與計算的人工智能基座模型 164
第6章 結語與展望 165
6.1 結語 165
6.2 展望 166
6.2.1 從模型-數(shù)據(jù)雙驅動到模型-數(shù)據(jù)-生成三驅動 166
6.2.2 深度學習中的更有效物理機制融入建模 167
6.2.3 面向科學建模與計算的人工智能底座大模型 168
6.2.4 AI for X中的大量建模與應用問題 169
參考文獻 171
《大數(shù)據(jù)與數(shù)據(jù)科學專著系列》已出版書目 185