本書采用理論與實踐相結合的方式，引導讀者以Python為工具，以機器學習為方法，進行數據的建模與分析。本書共13章，對機器學習的原理部分進行了深入透徹的講解，對機器學習算法部分均進行了Python實現。除前兩章外，各章都給出了可實現的實踐案例，并全彩呈現數據可視化圖形。
本書兼具知識的深度和廣度，在理論上突出可讀性，在實踐上強調可操作性，實踐案例具備較強代表性。隨書提供全部案例的數據集、源代碼、教學PPT、關鍵知識點，教學輔導視頻，具備較高實用性。
本書既可以作為數據分析從業(yè)人員的參考書，也可作為高等院校數據分析、機器學習等專業(yè)課程的教材。
掃描關注機械工業(yè)出版社計算機分社官方微信訂閱號—身邊的信息學，回復67490即可獲取本書配套資源下載鏈接。
適讀人群 ：本書既可以作為數據分析從業(yè)人員的參考書，也可作為高等院校數據分析、機器學習等專業(yè)課程的教材。 配套資源：電子課件、案例程序源代碼、案例數據集
本書特色：
系統(tǒng)介紹Python用于機器學習的數據分析、機器學習、數據可視化相關庫。
結合大量實例透徹講解各類機器學習算法在數據建模、數據分析中的應用。
全彩呈現數據建�？梢暬瘓D像，提供配套數據集、源代碼、PPT等學習資源。
前言
機器學習是數據科學中數據建模和分析的重要方法，既是當前大數據分析的基礎和主流工具，也是通往深度學習和人工智能的必經之路；Python是數據科學實踐中最常用的計算機編程語言，既是當前最流行的機器學習實現工具，也會因其在理論和應用方面的不斷發(fā)展完善而擁有長期的競爭優(yōu)勢。在學好機器學習的理論方法的同時，掌握Python語言這個實用工具，是成為數據科學人才所必不可少的。
筆者將多年來在機器學習、數據挖掘、統(tǒng)計學、計算機語言和統(tǒng)計應用軟件等課程中的教學經驗與科研實踐進行歸納總結，精心編寫了這本實用的圖書，希望將經驗和心得分享給廣大從事數據科學以及Python機器學習的同仁和高校師生們。
本書的特點如下：
1．對原理部分做清晰的講解
機器學習是一門交叉性很強的學科，涉及統(tǒng)計學、數據科學、計算機學科等多個領域的知識。學習者要掌握好每個模型或算法的精髓和實踐，需要由淺入深地關注直觀含義、方法原理、公式推導、算法實現和適用場景等多個遞進層面。本書也正是基于這樣的層面來組織內容。
2．對實踐部分做全面的實現
機器學習也是一門實操性很強的學科。學習者需要邊學邊做才能獲得更加深刻的認知。正是如此，本書在第3章～第13章中設置了Python建模實現和Python實踐案例。一方面，通過Python代碼和各種可再現的圖形，幫助學習者理解抽象理論背后的直觀含義和方法精髓。另一方面，通過Python代碼，幫助學習者掌握和拓展機器學習的算法實現和應用實踐。全書所有模型和算法都有相應的Python代碼，并提供全部代碼下載。除第1章外，各章結尾還配有本章總結、本章相關函數和本章習題。
3．適合作為機器學習或相關課程的教學及自學用書
本書在理論上突出可讀性并兼具知識的深度和廣度，實踐上強調可操作性并兼具應用的廣泛性。本書采用一種有效而獨特的方式講解機器學習：一方面，以數據建模和分析中的問題為導向，依知識點的難度，由淺入深地討論了眾多主流機器學習算法的原理；另一方面，通過Python編程和可視化圖形，直觀展示抽象理論背后的精髓和樸素道理；通過應用案例強化算法的應用實踐。
在章節(jié)安排上，本書分13章。在第1章以機器學習概述開篇，第2章介紹Python機器學習基礎，第3章集中對數據預測與預測建模的各個方面進行了整體論述，幫助讀者掌握機器學習的整體知識框架。后續(xù)第4章～第9章按照由易到難的內在邏輯，順序展開機器學習預測建模方法的介紹，包括貝葉斯分類器、近鄰分析、決策樹、集成學習、人工神經網絡和支持向量機等眾多經典機器學習算法。第10、11章聚焦數據建模中不可或缺的重要環(huán)節(jié)——特征工程，分別論述了特征選擇和特征提取。第12、13章深入介紹了機器學習中的聚類算法。
在內容設計上，除前兩章外的各章均由基本原理、Python建模實現、Python實踐案例、本章總結、本章相關函數以及本章習題幾部分組成�；驹聿糠衷敿氄撌隽藱C器學習的算法，旨在使讀者能夠知其然更知其所以然；Python建模實現部分通過編程直觀展示了抽象理論背后的樸素道理，從而幫助讀者進一步加深對理論精髓的理解；Python實踐案例部分展現了機器學習在環(huán)境污染、法律裁決、大眾娛樂、醫(yī)藥健康、汽車節(jié)能、人工智能和商業(yè)分析等眾多領域的應用，旨在提升讀者的算法實踐水平；本章總結、本章相關函數和本章習題部分簡要回顧本章理論，歸納所涉及的Python函數，并通過習題強化知識要點。
本書以高等院校每周3至4課時共計約17周的課時數安排內容。Python建模實現部分，既可與Python實踐案例共同作為上機實驗課單獨進行，也可與基本原理相結合一并講解學習。內容設計和體量安排，不僅和數據科學與大數據技術的專業(yè)課程設置相吻合，也可滿足人工智能、統(tǒng)計學以及計算機應用等相關專業(yè)課程的要求。本書也可作為Python 機器學習研究應用人員的參考用書。
本書編寫過程中，陳歡歌老師參與了部分章節(jié)的編寫以及文獻資料與數據的整理，機械工業(yè)出版社的王斌老師從選題策劃到章節(jié)安排都對本書提出了寶貴的建議。在此一并表示感謝。
在以大數據與人工智能技術為代表的新一輪科技浪潮的推動下，Python與機器學習也在迅猛發(fā)展并快速迭代，形成了方法豐富、分支多樣、應用廣泛的整體態(tài)勢。要想全面而深入地掌握其全貌，就需要不斷學習與完善、不斷跟進與提高。歡迎各位讀者不吝賜教，對本書不妥之處提出寶貴意見。
薛 薇
中國人民大學應用統(tǒng)計科學研究中心
中國人民大學統(tǒng)計學院
薛薇，博士，中國人民大學應用統(tǒng)計研究中心專職研究員，中國人民大學統(tǒng)計學院副教授。主要開設課程：機器學習，計量經濟學，統(tǒng)計軟件，統(tǒng)計學。研究方向：機器學習與深度學習算法研究�；陬櫩拖M行為大數據的客戶終身價值統(tǒng)計建模，以及營銷與品牌大數據的機器學習算法應用。
目錄
前言
第1章 機器學習概述1
1.1 機器學習的發(fā)展：人工智能中的
機器學習1
1.1.1 符號主義人工智能1
1.1.2 基于機器學習的人工智能2
1.2 機器學習的核心：數據和數據建模4
1.2.1 機器學習的學習對象：數據集4
1.2.2 機器學習的任務：數據建模6
1.3 機器學習的典型應用11
1.3.1 機器學習的典型行業(yè)應用11
1.3.2 機器學習在客戶細分中的應用12
1.3.3 機器學習在客戶流失分析中的
應用13
1.3.4 機器學習在營銷響應分析中的
應用14
1.3.5 機器學習在交叉銷售中的應用15
1.3.6 機器學習在欺詐甄別中的應用16
【本章總結】16
【本章習題】17
第2章 Python機器學習基礎18
2.1 Python：機器學習的首選工具18
2.2 Python的集成開發(fā)環(huán)境：
Anaconda19
2.2.1 Anaconda的簡介19
2.2.2 Anaconda Prompt的使用20
2.2.3 Spyder的使用22
2.2.4 Jupyter Notebook的使用23
2.3 Python第三方包的引用24
2.4 NumPy使用示例24
2.4.1 NumPy數組的創(chuàng)建和訪問25
2.4.2 NumPy的計算功能26
2.5 Pandas使用示例29
2.5.1 Pandas的序列和索引29
2.5.2 Pandas的數據框30
2.5.3 Pandas的數據加工處理31
2.6 NumPy和Pandas的綜合應用：空氣質量監(jiān)測數據的預處理和基本分析32
2.6.1 空氣質量監(jiān)測數據的預處理32
2.6.2 空氣質量監(jiān)測數據的基本分析34
2.7 Matplotlib的綜合應用：空氣質量監(jiān)測數據的圖形化展示36
2.7.1 AQI的時序變化特點37
2.7.2 AQI的分布特征及相關性分析38
2.7.3 優(yōu)化空氣質量狀況的統(tǒng)計圖形40
【本章總結】41
【本章相關函數】41
【本章習題】47
第3章 數據預測與預測建模49
3.1 數據預測的基本概念49
3.2 預測建模50
3.2.1 什么是預測模型50
3.2.2 預測模型的幾何理解53
3.2.3 預測模型參數估計的基本策略56
3.3 預測模型的評價59
3.3.1 模型誤差的評價指標60
3.3.2 模型的圖形化評價工具62
3.3.3 泛化誤差的估計方法64
3.3.4 數據集的劃分策略67
3.4 預測模型的選擇問題69
3.4.1 模型選擇的基本原則69
3.4.2 模型過擬合69
3.4.3 預測模型的偏差和方差71
3.5 Python建模實現73
3.5.1 ROC和P-R曲線圖的實現74
3.5.2 模型復雜度與誤差的模擬研究75
3.5.3 數據集劃分和測試誤差估計的實現79
3.5.4 模型過擬合以及偏差與方差的
模擬研究82
3.6 Python實踐案例86
3.6.1 實踐案例1：PM2.5濃度的
回歸預測86
3.6.2 實踐案例2：空氣污染的分類預測87
【本章總結】91
【本章相關函數】91
【本章習題】91
第4章 數據預測建模：貝葉斯分類器93
4.1 貝葉斯概率和貝葉斯法則93
4.1.1 貝葉斯概率93
4.1.2 貝葉斯法則94
4.2 貝葉斯和樸素貝葉斯分類器94
4.2.1 貝葉斯和樸素貝葉斯分類器的
一般內容94
4.2.2 貝葉斯分類器的先驗分布96
4.3 貝葉斯分類器的分類邊界99
4.4 Python建模實現100
4.4.1 不同參數下的貝塔分布101
4.4.2 貝葉斯分類器和Logistic回歸
分類邊界的對比101
4.5 Python實踐案例103
4.5.1 實踐案例1：空氣污染的分類
預測103
4.5.2 實踐案例2：法律裁判文書中的
案情要素分類105
【本章總結】110
【本章相關函數】111
【本章習題】111
第5章 數據預測建模：近鄰分析112
5.1 近鄰分析：K-近鄰法112
5.1.1 距離：K-近鄰法的近鄰度量113
5.1.2 參數K：1-近鄰法還是K-近鄰法114
5.1.3 與樸素貝葉斯分類器和Logistic
回歸模型的對比117
5.2 基于觀測相似性的加權K-近鄰法117
5.2.1 加權K-近鄰法的權重117
5.2.2 加權K-近鄰法的預測119
5.2.3 加權K-近鄰法的分類邊界119
5.3 K-近鄰法的適用性120
5.4 Python建模實現122
5.4.1 不同參數K下的分類邊界122
5.4.2 不同核函數的特點123
5.4.3 不同加權方式和K下的分類邊界124
5.5 Python實踐案例125
5.5.1 實踐案例1：空氣質量等級的
預測125
5.5.2 實踐案例2：國產電視劇的大眾
評分預測127
【本章總結】129
【本章相關函數】129
【本章習題】130
第6章 數據預測建模：決策樹131
6.1 決策樹概述131
6.1.1 什么是決策樹131
6.1.2 分類樹的分類邊界133
6.1.3 回歸樹的回歸平面134
6.1.4 決策樹的生長和剪枝135
6.2 CART的生長139
6.2.1 CART中分類樹的異質性度量139
6.2.2 CART中回歸樹的異質性度量140
6.3 CART的后剪枝141
6.3.1 代價復雜度和最小代價復雜度141
6.3.2 CART的后剪枝過程142
6.4 Python建模實現143
6.4.1 回歸樹的非線性回歸特點144
6.4.2 樹深度對分類邊界的影響145
6.4.3 基尼系數和熵的計算146
6.5 Python實踐案例147
6.5.1 實踐案例1：空氣污染的預測
建模147
6.5.2 實踐案例2：醫(yī)療大數據應用—
藥物適用性研究151
【本章總結】154
【本章相關函數】155
【本章習題】155
第7章 數據預測建模：集成學習156
7.1 集成學習概述157
7.1.1 高方差問題的解決途徑157
7.1.2 從弱模型到強模型的構建157
7.2 基于重抽樣自舉法的集成學習158
7.2.1 重抽樣自舉法158
7.2.2 袋裝法158
7.2.3 隨機森林161
7.3 從弱模型到強模型的構建163
7.3.1 提升法164
7.3.2 AdaBoost.M1算法165
7.3.3 SAMME算法和SAMME.R
算法170
7.3.4 回歸預測中的提升法172
7.4 梯度提升樹174
7.4.1 梯度提升算法174
7.4.2 梯度提升回歸樹178
7.4.3 梯度提升分類樹179
7.5 XGBoost算法181
7.5.1 XGBoost的目標函數181
7.5.2 目標函數的近似表達182
7.5.3 決策樹的求解183
7.6 Python建模實現185
7.6.1 單棵決策樹、弱模型和提升法的
預測對比186
7.6.2 提升法中高權重樣本觀測的特點187
7.6.3 AdaBoost回歸預測中損失函數的
選擇問題189
7.6.4 梯度提升算法和AdaBoost的
預測對比189
7.7 Python實踐案例191
7.7.1 實踐案例1：PM2.5濃度的
回歸預測191
7.7.2 實踐案例2：空氣質量等級的
分類預測195
【本章總結】197
【本章相關函數】197
【本章習題】198
第8章 數據預測建模：人工神經網絡200
8.1 人工神經網絡的基本概念201
8.1.1 人工神經網絡的基本構成201
8.1.2 人工神經網絡節(jié)點的功能202
8.2 感知機網絡203
8.2.1 感知機網絡中的節(jié)點203
8.2.2 感知機節(jié)點中的加法器204
8.2.3 感知機節(jié)點中的激活函數205
8.2.4 感知機的權重訓練208
8.3 多層感知機及B-P反向傳播算法213
8.3.1 多層網絡的結構213
8.3.2 多層網絡的隱藏節(jié)點214
8.3.3 B-P反向傳播算法216
8.3.4 多層網絡的其他問題218
8.4 Python建模實現220
8.4.1 不同激活函數的特點220
8.4.2 隱藏節(jié)點的作用222
8.5 Python實踐案例223
8.5.1 實踐案例1：手寫體郵政編碼的
識別223
8.5.2 實踐案例2：PM2.5濃度的回歸
預測225
【本章總結】227
【本章相關函數】227
【本章習題】227
第9章 數據預測建模：支持向量機229
9.1 支持向量分類概述229
9.1.1 支持向量分類的基本思路229
9.1.2 支持向量分類的幾種情況232
9.2 完全線性可分下的支持向量分類233
9.2.1 如何求解超平面233
9.2.2 參數求解的拉格朗日乘子法235
9.2.3 支持向量分類的預測238
9.3 廣義線性可分下的支持向量分類238
9.3.1 廣義線性可分下的超平面239
9.3.2 廣義線性可分下的錯誤懲罰和
目標函數240
9.3.3 廣義線性可分下的超平面參數
求解241
9.4 線性不可分下的支持向量分類242
9.4.1 線性不可分問題的一般解決方式242
9.4.2 支持向量分類克服維災難的途徑244
9.5 支持向量回歸247
9.5.1 支持向量回歸的基本思路247
9.5.2 支持向量回歸的目標函數和
約束條件249
9.6 Python建模實現252
9.6.1 支持向量機分類的意義252
9.6.2 完全線性可分下的最大邊界超
平面254
9.6.3 不同懲罰參數C下的最大邊界
超平面255
9.6.4 非線性可分下的空間變化255
9.6.5 不同懲罰參數C和核函數下的
分類曲面257
9.6.6 不同懲罰參數C和? 對支持
向量回歸的影響257
9.7 Python實踐案例258
9.7.1 實踐案例1：物聯(lián)網健康大數據
應用——老年人危險體位預警259
9.7.2 實踐案例2：汽車油耗的回歸
預測263
【本章總結】266
【本章相關函數】266
【本章習題】266
第10章 特征選擇：過濾、包裹和
嵌入策略267
10.1 特征選擇概述267
10.2 過濾式策略下的特征選擇268
10.2.1 低方差過濾法269
10.2.2 高相關過濾法中的方差分析270
10.2.3 高相關過濾法中的卡方檢驗274
10.2.4 其他高相關過濾法276
10.3 包裹式策略下的特征選擇278
10.3.1 包裹式策略的基本思路278
10.3.2 遞歸式特征剔除法279
10.3.3 基于交叉驗證的遞歸式特征
剔除法280
10.4 嵌入式策略下的特征選擇281
10.4.1 嶺回歸和Lasso回歸281
10.4.2 彈性網回歸285
10.5 Python建模實現288
10.5.1 高相關過濾法中的F分布和卡方
分布289
10.5.2 不同L2范數率下彈性網回歸的
約束條件特征290
10.6 Python實踐案例290
10.6.1 實踐案例1：手寫體郵政編碼數據的
特征選擇——基于過濾式策略291
10.6.2 實踐案例2：手寫體郵政編碼數據的
特征選擇——基于包裹式策略293
10.6.3 實踐案例3：手寫體郵政編碼數據的
特征選擇——基于嵌入式策略294
【本章總結】298
【本章相關函數】298
【本章習題】299
第11章 特征提�。嚎臻g變換策略300
11.1 特征提取概述300
11.2 主成分分析301
11.2.1 主成分分析的基本出發(fā)點302
11.2.2 主成分分析的基本原理303
11.2.3 確定主成分305
11.3 矩陣的奇異值分解307
11.3.1 奇異值分解的基本思路307
11.3.2 基于奇異值分解的特征提取308
11.4 核主成分分析309
11.4.1 核主成分分析的出發(fā)點309
11.4.2 核主成分分析的基本原理311
11.4.3 核主成分分析中的核函數312
11.5 因子分析315
11.5.1 因子分析的基本出發(fā)點315
11.5.2 因子分析的基本原理316
11.5.3 因子載荷矩陣的求解318
11.5.4 因子得分的計算319
11.5.5 因子分析的其他問題320
11.6 Python建模實現323
11.6.1 主成分分析的空間變換323
11.6.2 核主成分分析的空間變換324
11.6.3 因子分析的計算過程
書單推薦
