第 1章 預(yù)測(cè)分析過程 1 1.1 技術(shù)要求 1 1.2 什么是預(yù)測(cè)分析 2 1.3 回顧預(yù)測(cè)分析的重要概念 3 1.4 預(yù)測(cè)分析過程 5 1.4.1 理解問題和定義問題 6 1.4.2 收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 6 1.4.3 使用EDA挖掘數(shù)據(jù)信息 7 1.4.4 構(gòu)建模型 8 1.4.5 評(píng)價(jià)模型 8 1.4.6 溝通以及/或者部署 8 1.4.7 CRISP-DM和其他方法 9 1.5 Python數(shù)據(jù)科學(xué)棧概述 10 1.5.1 Anaconda 10 1.5.2 Jupyter Notebook 11 1.5.3 NumPy 13 1.5.4 SciPy 18 1.5.5 pandas 19 1.5.6 Matplotlib 19 1.5.7 Seaborn 23 1.5.8 scikit-learn 24 1.5.9 TensorFlow和Keras 24 1.5.10 Dash 24 1.6 小結(jié) 25 擴(kuò)展閱讀 25 第 2章 理解問題和準(zhǔn)備數(shù)據(jù) 26 2.1 技術(shù)要求 26 2.2 理解業(yè)務(wù)問題并提出解決方案 27 2.2.1 背景決定一切 27 2.2.2 定義預(yù)測(cè)內(nèi)容 28 2.2.3 明確項(xiàng)目需要的數(shù)據(jù) 28 2.2.4 考慮數(shù)據(jù)訪問 28 2.2.5 提出解決方案 29 2.3 實(shí)踐項(xiàng)目—鉆石的價(jià)格 30 2.3.1 鉆石的價(jià)格—理解問題和定義問題 30 2.3.2 更多背景知識(shí) 32 2.3.3 鉆石的價(jià)格—提出解決方案 32 2.3.4 鉆石的價(jià)格—收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 33 2.4 實(shí)踐項(xiàng)目—信用卡違約 38 2.4.1 信用卡違約—理解問題和定義問題 38 2.4.2 信用卡違約—提出解決方案 39 2.4.3 信用卡違約—收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 41 2.5 小結(jié) 51 擴(kuò)展閱讀 52 第3章 理解數(shù)據(jù)集—探索性數(shù)據(jù)分析 53 3.1 技術(shù)要求 54 3.2 什么是EDA 54 3.3 一元EDA 56 3.3.1 數(shù)值特征的一元EDA 57 3.3.2 分類特征的一元EDA 61 3.4 二元EDA 63 3.4.1 兩個(gè)數(shù)值特征 64 3.4.2 兩個(gè)分類特征 73 3.4.3 一個(gè)數(shù)值特征和一個(gè)分類特征 77 3.5 圖形化的多元EDA 81 3.6 小結(jié) 86 擴(kuò)展閱讀 86 第4章 基于機(jī)器學(xué)習(xí)的數(shù)值預(yù)測(cè) 87 4.1 技術(shù)要求 88 4.2 機(jī)器學(xué)習(xí)簡(jiǎn)介 88 4.2.1 監(jiān)督學(xué)習(xí)中的任務(wù) 89 4.2.2 創(chuàng)建第 一個(gè)機(jī)器學(xué)習(xí)模型 90 4.2.3 機(jī)器學(xué)習(xí)的目標(biāo)—泛化 92 4.2.4 過擬合 94 4.2.5 評(píng)價(jià)函數(shù)和最優(yōu)化 95 4.3 建模之前的實(shí)際考慮 95 4.3.1 scikit-learn簡(jiǎn)介 96 4.3.2 進(jìn)一步的特征變換 96 4.4 多元線性回歸 103 4.5 LASSO回歸 106 4.6 kNN 107 4.7 訓(xùn)練與測(cè)試誤差 109 4.8 小結(jié) 113 擴(kuò)展閱讀 113 第5章 基于機(jī)器學(xué)習(xí)的分類預(yù)測(cè) 115 5.1 技術(shù)要求 116 5.2 分類任務(wù) 116 5.3 信用卡違約數(shù)據(jù)集 117 5.4 邏輯回歸 120 5.4.1 一個(gè)簡(jiǎn)單的邏輯回歸模型 120 5.4.2 完整的邏輯回歸模型 122 5.5 分類樹 124 5.5.1 分類樹的工作原理 126 5.5.2 分類樹的優(yōu)點(diǎn)和缺點(diǎn) 130 5.5.3 訓(xùn)練更大的分類樹 130 5.6 隨機(jī)森林 131 5.7 訓(xùn)練誤差對(duì)測(cè)試誤差 133 5.8 多元分類 135 5.9 樸素貝葉斯分類器 136 5.9.1 條件概率 136 5.9.2 貝葉斯定理 138 5.9.3 回到分類問題 140 5.9.4 高斯樸素貝葉斯 141 5.10 小結(jié) 143 擴(kuò)展閱讀 143 第6章 面向預(yù)測(cè)分析的神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 144 6.1 技術(shù)要求 144 6.2 引入神經(jīng)網(wǎng)絡(luò)模型 145 6.2.1 深度學(xué)習(xí) 145 6.2.2 MLP的結(jié)構(gòu)—神經(jīng)網(wǎng)絡(luò)模型的組成部分 146 6.2.3 MLP的學(xué)習(xí)原理 148 6.3 TensorFlow和Keras簡(jiǎn)介 149 6.3.1 TensorFlow 149 6.3.2 Keras—以人為本的深度學(xué)習(xí) 150 6.4 基于神經(jīng)網(wǎng)絡(luò)的回歸 151 6.4.1 構(gòu)建預(yù)測(cè)鉆石價(jià)格的MLP 152 6.4.2 訓(xùn)練MLP 154 6.4.3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè) 156 6.5 基于神經(jīng)網(wǎng)絡(luò)的分類 157 6.5.1 構(gòu)建預(yù)測(cè)信用卡違約的MLP 158 6.5.2 評(píng)價(jià)預(yù)測(cè) 160 6.6 訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的“黑暗藝術(shù)” 161 6.6.1 決策太多，時(shí)間太少 162 6.6.2 神經(jīng)網(wǎng)絡(luò)的正則化 163 6.6.3 訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的實(shí)用技巧 172 6.7 小結(jié) 173 擴(kuò)展閱讀 173 第7章 模型評(píng)價(jià) 174 7.1 技術(shù)要求 175 7.2 回歸模型的評(píng)價(jià) 175 7.2.1 評(píng)價(jià)回歸模型的指標(biāo) 176 7.2.2 評(píng)價(jià)回歸模型的可視化方法 180 7.3 評(píng)價(jià)分類模型 183 7.3.1 混淆矩陣及相關(guān)指標(biāo) 184 7.3.2 評(píng)價(jià)分類模型的可視化方法 187 7.4 k折交叉驗(yàn)證 195 7.5 小結(jié) 197 擴(kuò)展閱讀 197 第8章 調(diào)整模型和提高性能 198 8.1 技術(shù)要求 198 8.2 超參數(shù)調(diào)整 199 8.2.1 優(yōu)化單個(gè)超參數(shù) 200 8.2.2 優(yōu)化多個(gè)超參數(shù) 205 8.3 提高性能 210 8.3.1 改進(jìn)鉆石價(jià)格預(yù)測(cè) 210 8.3.2 是技術(shù)問題，更是業(yè)務(wù)問題 214 8.4 小結(jié) 215 第9章 基于Dash的模型實(shí)現(xiàn) 216 9.1 技術(shù)要求 216 9.2 模型溝通和/或部署階段 217 9.2.1 使用技術(shù)報(bào)告 217 9.2.2 說明現(xiàn)有應(yīng)用程序的功能 218 9.2.3 分析應(yīng)用程序 219 9.3 Dash簡(jiǎn)介 220 9.3.1 什么是Dash 220 9.3.2 Plotly 220 9.3.3 安裝 221 9.3.4 應(yīng)用程序布局 221 9.3.5 構(gòu)建基本的靜態(tài)App 222 9.3.6 構(gòu)建基本的交互式App 224 9.4 將預(yù)測(cè)模型實(shí)現(xiàn)為網(wǎng)絡(luò)應(yīng)用程序 228 9.4.1 生成預(yù)測(cè)模型對(duì)象 229 9.4.2 構(gòu)建網(wǎng)絡(luò)應(yīng)用程序 231 9.5 小結(jié) 237 擴(kuò)展閱讀 238