前言
第 1 章 引言　　　　　　 1
1.1 軟件優(yōu)化概述　　　　　1
1.1.1 軟件優(yōu)化的主要方法 1
1.1.2 軟件性能工程　　　3
1.1.3 關(guān)于軟件優(yōu)化的一些觀點(diǎn)　　　　　　4
1.2 評價軟件性能的指標(biāo)和方法　 6
1.2.1 延遲和吞吐率　　　6
1.2.2 加速比和效率　　　7
1.2.3 Amdahl 定理　　　 8
1.2.4 M/M/k 模型　　　9
1.3 常用軟件工具和時間測量方法　　　　　　 10
1.3.1 常用軟件工具　　　10
1.3.2 時間測量　　　　13
1.4 一個程序性能分析的實(shí)例　　15
1.5 擴(kuò)展閱讀　　　　　　16
1.6 習(xí)題　　　　　　　17
1.7 實(shí)驗(yàn)題　　　　　　 18
參考文獻(xiàn)　　　　　　　20
第 2 章 CPU 上的基本優(yōu)化方法　21
2.1 計算機(jī)體系結(jié)構(gòu)基礎(chǔ)　　　21
2.1.1 指令集體系結(jié)構(gòu)　　 21
2.1.2 指令鐵律　　　　24
2.1.3 流水線及其相關(guān)性　26
2.1.4 超標(biāo)量和亂序執(zhí)行　27
2.1.5 典型微處理器的微結(jié)構(gòu)　　　　　 29
2.2 針對算術(shù)邏輯指令的優(yōu)化　　31
2.2.1 現(xiàn)代微處理器的算術(shù)邏輯指令延遲與吞吐率　　31
2.2.2 選擇合適的數(shù)據(jù)類型　32
2.2.3 使用簡單指令代替復(fù)雜指令　　　　　33
2.2.4 使用特殊指令　　　34
2.2.5 查表法　　　　 35
2.3 針對條件分支指令的優(yōu)化　　36
2.3.1 分支預(yù)測　　　　36
2.3.2 消除分支　　　　38
2.3.3 組合多個分支以提高分支預(yù)測的準(zhǔn)確度　　　38
2.3.4 使用條件執(zhí)行指令　39
2.3.5 合理使用 switch 語句40
2.4 針對 Cache 的優(yōu)化　　　 41
2.4.1 現(xiàn)代微處理器的Cache　41
2.4.2 數(shù)據(jù)對齊　　　　43
2.4.3 SoA 的結(jié)構(gòu)組織方式　44
2.4.4 數(shù)據(jù)分塊以提升 Cache命中率　　　　 45
2.4.5 Cache 預(yù)取　　 46
2.5 針對循環(huán)結(jié)構(gòu)的優(yōu)化　　　47
2.5.1 消除循環(huán)　　　　47
2.5.2 循環(huán)展開　　　　47
2.6 綜合實(shí)例　　　　　　49
2.6.1 Linux 內(nèi)核中的 ECC 計算　　　　　 49
2.6.2 Hash 表的構(gòu)建　　 53
2.7 擴(kuò)展閱讀　　　　　　55
2.8 習(xí)題　　　　　　　56
2.9 實(shí)驗(yàn)題　　　　　　 57
參考文獻(xiàn)　　　　　　　59
第 3 章 基于 SIMD 指令系統(tǒng)的優(yōu)化方法　　　　　 61
3.1 SIMD 指令系統(tǒng)簡介　　61
3.1.1 SIMD 指令系統(tǒng)概況 61
3.1.2 軟件系統(tǒng)使用 SIMD 指令的方法　　　　63
3.2 SIMD 內(nèi)嵌原語　　　　64
3.2.1 內(nèi)嵌原語的數(shù)據(jù)類型　64
3.2.2 向量設(shè)置操作　　　65
3.2.3 計算操作　　　　66
3.2.4 比較操作　　　　68
3.2.5 訪存操作　　　　69
3.2.6 數(shù)據(jù)排列操作　　　71
3.3 基于內(nèi)嵌原語的 SIMD 程序設(shè)計　　　　　　 72
3.3.1 數(shù)據(jù)對齊和數(shù)據(jù)寬度　73
3.3.2 SoA 結(jié)構(gòu)　　　　74
3.3.3 數(shù)據(jù)比較　　　　76
3.3.4 特殊指令　　　　77
3.3.5 寄存器數(shù)量　　　 79
3.4 SIMD 程序?qū)嵗�　　　�?1
3.4.1 使用 SSE 指令去除空格　　　　　 81
3.4.2 基于 SIMD 指令的雙調(diào)排序和歸并排序　　82
3.4.3 fftw 的可移植設(shè)計　84
3.5 擴(kuò)展閱讀　　　　　　88
3.6 習(xí)題　　　　　　　88
3.7 實(shí)驗(yàn)題　　　　　　 88
參考文獻(xiàn)　　　　　　　90
第 4 章 基于多線程的優(yōu)化方法　94
4.1 多核處理器體系結(jié)構(gòu)　　　94
4.1.1 多線程處理器　　　94
4.1.2 多核處理器系統(tǒng)　　 96
4.1.3 Cache 一致性協(xié)議　　98
4.2 操作系統(tǒng)級線程調(diào)用　　 100
4.2.1 線程　　　　　100
4.2.2 線程基本 API　　 102
4.2.3 Linux 的線程同步和互斥　　　　 105
4.2.4 Windows 的線程同步和互斥　　　　　110
4.3 OpenMP　　　　　 113
4.3.1 for 編譯制導(dǎo)語句　114
4.3.2 共享變量和私有變量　115
4.3.3 歸約子句　　　116
4.3.4 nowait 子句　　　117
4.3.5 single 制導(dǎo)指令　　118
4.3.6 critical 子句　　119
4.3.7 barrier 子句　　 119
4.3.8 其他子句　　　120
4.4 多線程程序的一些問題　　120
4.4.1 臨界區(qū)　　　　 120
4.4.2 Cache 偽共享　　 123
4.4.3 多線程的并行化設(shè)計方法　　　　 124
4.5 多線程并行化實(shí)例　　 125
4.5.1 Horner算法的并行化　125
4.5.2 構(gòu)建 Hash 表　　 126
4.5.3 歸并排序　　　127
4.6 擴(kuò)展閱讀　　　　　129
4.7 習(xí)題　　　　　　 130
4.8 實(shí)驗(yàn)題　　　　　　131
參考文獻(xiàn)　　　　　　　133
第 5 章 GPU 的優(yōu)化方法　　 135
5.1 GPU 體系結(jié)構(gòu)　　　　135
5.1.1 面向吞吐率優(yōu)化的異構(gòu)
計算　　　　　135
5.1.2 GPU 總體結(jié)構(gòu)　　 136
5.1.3 SIMT 機(jī)制　　 136
5.1.4 存儲器結(jié)構(gòu)　　　139
5.2 GPU 基本編程方法　　　139
5.2.1 線程的組織結(jié)構(gòu)　　139
5.2.2 GPU 函數(shù)說明　　 140
5.2.3 存儲器管理以及與主機(jī)的數(shù)據(jù)交換　　　141
5.2.4 GPU 上線程之間的同步　　　　 143
5.2.5 OpenCL 的程序?qū)ο蠛蛢?nèi)核對象　　　　144
5.2.6 程序?qū)嵗�　　�?45
5.3 GPU 程序優(yōu)化方法　　　148
5.3.1 指令吞吐率　　　148
5.3.2 資源利用率　　　149
5.3.3 共享存儲器　　　150
5.3.4 全局存儲器　　　152
5.3.5 掩蓋主機(jī)和 GPU 之間的數(shù)據(jù)傳輸延遲　　152
5.3.6 動態(tài)并行機(jī)制　　 154
5.4 GPU 程序?qū)嵗�　　　�?55
5.4.1 矩陣乘法　　　155
5.4.2 LU 分解　　　　157
5.5 擴(kuò)展閱讀　　　　　159
5.6 習(xí)題　　　　　　 159
5.7 實(shí)驗(yàn)題　　　　　　160
參考文獻(xiàn)　　　　　　　160
第 6 章 面向?qū)ο蟪绦蛟O(shè)計語言的優(yōu)化方法　　　　 162
6.1 C++ 的性能優(yōu)化　　　 162
6.1.1 C++ 實(shí)現(xiàn)簡介　　162
6.1.2 STL　　　　　167
6.2 Java 的性能優(yōu)化　　　 168
6.2.1 Java 虛擬機(jī)簡介　　168
6.2.2 Java 字節(jié)碼的執(zhí)行機(jī)制　　　　 170
6.2.3 Java 本地接口　　 172
6.2.4 Java 的多線程機(jī)制　 174
6.3 垃圾回收　　　　　176
6.3.1 垃圾回收基本技術(shù) 176
6.3.2 HotSpot JVM 中的垃圾回收　　　　　181
6.4 擴(kuò)展閱讀　　　　　183
6.5 習(xí)題　　　　　　 184
6.6 實(shí)驗(yàn)題　　　　　　184
參考文獻(xiàn)　　　　　　　186
第 7 章 系統(tǒng)級軟件優(yōu)化　　　188
7.1 硬盤系統(tǒng)與文件系統(tǒng)的性能優(yōu)
化　　　　　　 189
7.1.1 硬盤系統(tǒng)　　　189
7.1.2 文件系統(tǒng)　　　191
7.1.3 性能優(yōu)化方法　　 193
7.1.4 實(shí)例：外排序　　 194
7.2 網(wǎng)絡(luò)連接的性能優(yōu)化　　 196
7.2.1 網(wǎng)絡(luò)連接硬件　　 196
7.2.2 網(wǎng)絡(luò)編程簡介　　 197
7.2.3 性能優(yōu)化方法　　 200
7.2.4 實(shí)例：Web 服務(wù)器的結(jié)構(gòu)　　　　　204
7.3 軟件總體結(jié)構(gòu)的設(shè)計考慮　 207
7.3.1 用戶友好性設(shè)計　　207
7.3.2 可移植性設(shè)計　　 208
7.3.3 錯誤處理設(shè)計　　 209
7.3.4 系統(tǒng)可維護(hù)性設(shè)計 210
7.4 擴(kuò)展閱讀　　　　　211
7.5 習(xí)題　　　　　　 212
7.6 實(shí)驗(yàn)題　　　　　　212
參考文獻(xiàn)　　　　　　　213