第 1部分　背景知識(shí) 第 1章　計(jì)算機(jī)網(wǎng)絡(luò)概述 3 1.1　計(jì)算機(jī)網(wǎng)絡(luò)的定義和構(gòu)成 3 1.2　計(jì)算機(jī)網(wǎng)絡(luò)的體系結(jié)構(gòu) 4 1.3　常見(jiàn)術(shù)語(yǔ) 6 第 2章　計(jì)算機(jī)硬件 10 2.1　中央處理器 10 2.1.1　處理器體系結(jié)構(gòu) 11 2.1.2　Cache 12 2.1.3　NUMA 17 2.2　存儲(chǔ)器 19 2.3　總線(xiàn) 19 2.4　網(wǎng)卡 22 第3章　Linux操作系統(tǒng) 25 3.1　Linux操作系統(tǒng)的誕生和發(fā)展 25 3.2　用戶(hù)態(tài)和內(nèi)核態(tài) 27 3.3　虛擬地址、物理地址和頁(yè)表 28 3.4　用戶(hù)空間和內(nèi)核空間 30 3.5　Linux內(nèi)核的組成 31 3.5.1　Linux內(nèi)核源代碼的目錄結(jié)構(gòu) 31 3.5.2　Linux內(nèi)核的主要組成部分 32 3.6　Linux設(shè)備驅(qū)動(dòng)程序 35 第4章　軟件和硬件之間傳遞信息的方式 37 4.1　寄存器 37 4.2　數(shù)據(jù)緩存 38 4.3　隊(duì)列和描述符 39 4.4　中斷 43 4.5　DMA 46 第5章　內(nèi)核協(xié)議棧方案及其存在的問(wèn)題 47 5.1　內(nèi)核協(xié)議棧方案的工作過(guò)程 47 5.2　內(nèi)核協(xié)議棧方案的數(shù)據(jù)流 49 5.3　內(nèi)核協(xié)議棧方案的缺點(diǎn) 50 第6章　Corundum——一個(gè)開(kāi)源的基于FPGA的100G網(wǎng)卡方案 51 6.1　Corundum方案簡(jiǎn)介 51 6.2　Corundum的隊(duì)列 54 6.3　Corundum的Linux網(wǎng)絡(luò)設(shè)備驅(qū)動(dòng)程序解析 56 6.3.1　驅(qū)動(dòng)程序源碼概覽 57 6.3.2　驅(qū)動(dòng)程序的編譯和使用 57 6.3.3　驅(qū)動(dòng)程序的加載和注冊(cè) 58 6.3.4　驅(qū)動(dòng)程序和設(shè)備的匹配 59 6.3.5　初始化階段 60 6.3.6　打開(kāi)網(wǎng)絡(luò)接口 72 6.3.7　數(shù)據(jù)發(fā)送 75 6.3.8　中斷處理 81 6.3.9　發(fā)送完成處理 85 6.3.10　數(shù)據(jù)接收 89 第 2部分 DPDK 第7章　認(rèn)識(shí)DPDK 97 7.1　為什么需要DPDK 97 7.2　DPDK體系結(jié)構(gòu) 98 7.2.1　核心組件 98 7.2.2　輪詢(xún)模式驅(qū)動(dòng) 100 7.3　一個(gè)典型的DPDK應(yīng)用程序 102 第8章　DPDK的內(nèi)存管理 104 8.1　影響數(shù)據(jù)包處理速度的內(nèi)存問(wèn)題 104 8.2　大頁(yè) 105 8.2.1　在Linux系統(tǒng)中預(yù)留和配置大頁(yè) 105 8.2.2　DPDK的大頁(yè)管理 106 8.3　mempool 111 8.4　通道和rank 113 8.5　DPDK使用的內(nèi)存管理技巧總結(jié) 114 第9章　UIO——DPDK的基石 115 9.1　UIO驅(qū)動(dòng)程序的構(gòu)成 115 9.2　應(yīng)用程序和UIO的交互方式 118 9.3　UIO驅(qū)動(dòng)程序的API 119 9.4　DPDK如何使用UIO 120 第 10章　DPDK的基本使用方法 123 10.1　編譯DPDK 123 10.2　使用dpdk-testpmd進(jìn)行數(shù)據(jù)包轉(zhuǎn)發(fā)測(cè)試 123 10.2.1　運(yùn)行環(huán)境和連接方式 124 10.2.2　使用Linux以太網(wǎng)驅(qū)動(dòng)程序運(yùn)行dpdk-testpmd 125 10.2.3　使用輪詢(xún)模式驅(qū)動(dòng)程序運(yùn)行dpdk-testpmd 129 10.3　使用pktgen測(cè)試Mellanox ConnectX-4 LX 10G網(wǎng)卡 132 10.3.1　硬件環(huán)境 132 10.3.2　軟件版本 132 10.3.3　安裝Mellanox網(wǎng)卡驅(qū)動(dòng)程序 132 10.3.4　編譯和安裝DPDK 133 10.3.5　“回環(huán)+轉(zhuǎn)發(fā)”測(cè)試 133 10.3.6　編譯pktgen 138 10.3.7　“外部發(fā)包+本地轉(zhuǎn)發(fā)”測(cè)試 138 10.3.8 測(cè)試過(guò)程中可能遇到的問(wèn)題及解決方法 141 第 11章　測(cè)試和分析高性能網(wǎng)卡 142 11.1　關(guān)于DDR訪(fǎng)問(wèn)速率的思考和測(cè)試 142 11.1.1　硬件配置和軟件版本 143 11.1.2　DDR理論速率 144 11.1.3　內(nèi)存性能測(cè)試工具mbw 145 11.1.4　單核測(cè)試 146 11.1.5　多核測(cè)試 148 11.2　基于100G網(wǎng)卡的單核和多核測(cè)試 150 11.2.1　硬件配置 150 11.2.2　軟件版本和配置 150 11.2.3　單核測(cè)試 150 11.2.4　雙核測(cè)試 152 11.2.5　測(cè)試結(jié)果總結(jié) 153 11.3　使用Intel VTune Profiler定量分析DPDK 154 11.3.1　硬件環(huán)境和軟件版本 154 11.3.2　Intel VTune Profiler的下載和安裝 155 11.3.3　測(cè)試模型 155 11.3.4　重新編譯安裝DPDK 155 11.3.5　使用Intel VTune Profiler啟動(dòng)和監(jiān)控dpdk-testpmd 156 11.3.6　開(kāi)始產(chǎn)生和發(fā)送數(shù)據(jù)包 159 11.3.7　統(tǒng)計(jì)和分析 159 第１2章　為Corundum編寫(xiě)DPDK驅(qū)動(dòng)程序 163 12.1　Corundum DPDK驅(qū)動(dòng)程序的組成 164 12.2　注冊(cè)和打開(kāi)調(diào)試日志 164 12.2.1　DPDK的日志級(jí)別 164 12.2.2　Corundum DPDK驅(qū)動(dòng)程序的日志 165 12.3　Corundum DPDK驅(qū)動(dòng)程序的注冊(cè) 167 12.4　Corundum DPDK驅(qū)動(dòng)程序的初始化 168 12.5　啟動(dòng)隊(duì)列 173 12.6　數(shù)據(jù)發(fā)送 176 12.7　編寫(xiě)驅(qū)動(dòng)程序時(shí)的注意事項(xiàng) 179 第3部分　RDMA 第 13章　RDMA技術(shù)簡(jiǎn)介 185 13.1　RDMA的控制通路和數(shù)據(jù)通路 185 13.2　RDMA的優(yōu)勢(shì) 188 13.3　RDMA協(xié)議 189 13.3.1　InfiniBand 190 13.3.2　RoCE 190 13.3.3　iWARP 192 13.4　RDMA網(wǎng)絡(luò)構(gòu)成 192 13.5　LID和GID 194 13.5.1　LID 194 13.5.2　GID 195 第 14章　RDMA軟件架構(gòu) 198 14.1　rdma-core 198 14.2　內(nèi)核RDMA子系統(tǒng) 199 14.3　RDMA軟件架構(gòu)總覽 201 第 15章　RDMA基本元素 202 15.1　WQ和WQE 202 15.2　QP和QPN 203 15.3　CQ和CQN 205 15.4　WR和WC 206 15.5　RDMA基本元素總結(jié) 207 第 16章　RDMA基本操作類(lèi)型及其配套機(jī)制 208 16.1　Send和Receive 208 16.2　RDMA Write 209 16.3　RDMA Read 210 16.4　其他RDMA操作類(lèi)型 212 16.5　RDMA操作類(lèi)型總結(jié) 213 16.6　Memory Region 214 16.6.1　MR的基本概念 215 16.6.2　MR的作用之一 215 16.6.3　MR的作用之二 216 16.6.4　MR的作用之三 217 16.7　PD 218 16.8　Doorbell機(jī)制 219 16.9　RDMA各種元素的實(shí)體形式 220 第 17章　RDMA傳輸服務(wù) 222 17.1　傳輸服務(wù)維度一——可靠/不可靠 222 17.2　傳輸服務(wù)維度二——連接/數(shù)據(jù)報(bào) 223 17.3　傳輸服務(wù)類(lèi)型 225 第 18章　一個(gè)簡(jiǎn)單的RDMA應(yīng)用程序 229 18.1　程序的執(zhí)行和輸出 229 18.2　代碼執(zhí)行流程 230 第 19章　RDMA主要元素的實(shí)現(xiàn) 234 19.1　分配PD 234 19.2　注冊(cè)MR 240 19.2.1　代碼執(zhí)行流程分析 240 19.2.2　注冊(cè)MR的具體工作 242 19.2.3　硬件查表獲取MR物理地址的過(guò)程 246 19.2.4　MR相關(guān)的軟硬件行為匯總 248 19.3　創(chuàng)建CQ 249 19.3.1　代碼執(zhí)行流程分析 249 19.3.2　CQ buffer的組織形式 253 19.3.3　CQ Context的組織形式 255 19.3.4　硬件獲取CQE地址的過(guò)程 257 19.3.5　CQ相關(guān)的軟硬件行為匯總 258 19.4　創(chuàng)建QP 258 19.4.1　代碼執(zhí)行流程分析 258 19.4.2　QP buffer的組織形式 263 19.4.3　QP Context的組織形式 264 19.5　修改QP 265 19.5.1　應(yīng)用程序修改QP 265 19.5.2　代碼執(zhí)行流程分析 267 19.5.3　硬件獲取WQE地址的過(guò)程 270 第 20章　進(jìn)行一次數(shù)據(jù)傳輸 272 20.1　發(fā)起數(shù)據(jù)傳輸——RDMA Write 272 20.1.1　應(yīng)用程序發(fā)起數(shù)據(jù)傳輸 272 20.1.2　代碼執(zhí)行流程分析 273 20.2　確認(rèn)數(shù)據(jù)傳輸完畢——輪詢(xún)CQ 276 20.3　軟件和硬件行為匯總 277 第 21章　RoCEv2網(wǎng)卡的MAC、IP和GID 279 21.1　RoCEv2網(wǎng)卡的GID 279 21.2　向RoCEv2網(wǎng)卡配置自己的MAC、IP和GID 281 21.2.1　獲取RoCEv2網(wǎng)卡自己的MAC 281 21.2.2　獲取RoCEv2網(wǎng)卡自己的IP地址 281 21.2.3　配置RoCEv2網(wǎng)卡自己的0號(hào)GID 281 21.2.4　配置RoCEv2網(wǎng)卡自己的非0號(hào)GID 282 21.3　向RoCEv2網(wǎng)卡配置對(duì)端設(shè)備的MAC、IP和GID 282 21.3.1　應(yīng)用程序獲取本地和對(duì)端設(shè)備的0號(hào)GID 283 21.3.2　應(yīng)用程序獲取對(duì)端設(shè)備的非0號(hào)（3號(hào)）GID 284 21.3.3　向RoCEv2網(wǎng)卡配置對(duì)端設(shè)備的MAC地址 284 21.3.4　向RoCEv2網(wǎng)卡配置對(duì)端設(shè)備的IP地址 285 第 22章　RDMA性能測(cè)試工具—perftest 286 22.1　源碼獲取和安裝 286 22.2　測(cè)試方法和注意事項(xiàng) 286 22.3　測(cè)試選項(xiàng) 287 22.4　簡(jiǎn)單的測(cè)試過(guò)程和結(jié)果呈現(xiàn) 289 第4部分　XDP 第 23章　XDP簡(jiǎn)介 293 23.1　什么是BPF和eBPF 293 23.2　XDP系統(tǒng)架構(gòu) 294 23.2.1　XDP程序的執(zhí)行流程 295 23.2.2　BPF map 297 第 24章　XDP教程代碼分析 298 24.1　xdp-tutorial代碼獲取和編譯 298 24.2　基礎(chǔ)課程 299 24.2.1　XDP程序的加載和卸載 299 24.2.2　按名稱(chēng)加載SEC 301 24.2.3　使用BPF map 302 24.2.4　多程序交流和共享 304 24.3　數(shù)據(jù)包處理課程 308 24.3.1　解析數(shù)據(jù)包 308 24.3.2　改寫(xiě)數(shù)據(jù)包 311 24.3.3　重定向 313 第 25章　簡(jiǎn)單的XDP性能測(cè)試 319 25.1　測(cè)試方法 319 25.2　測(cè)試流程和命令 320 25.3　測(cè)試結(jié)果 321 25.4　測(cè)試結(jié)果分析 321 第 26章　讓網(wǎng)卡驅(qū)動(dòng)程序支持XDP功能 322 26.1　XDP代碼在網(wǎng)卡驅(qū)動(dòng)中的位置 322 26.2　數(shù)據(jù)包的準(zhǔn)備 323 26.3　返回值的處理 323 附錄A　在Linux系統(tǒng)中查找各種核的對(duì)應(yīng)關(guān)系 325 附錄B　關(guān)于內(nèi)存性能測(cè)試工具mbw的問(wèn)題分析 331 附錄C　簡(jiǎn)單分析memcpy的代碼優(yōu)化方法 335 附錄D　用線(xiàn)性回歸方法計(jì)算CPU頻率 338