本書參考了國際一流大學相關的研究生課程的教學內(nèi)容,增加了許多近年來隨機過程理論與應用方面的研究新成果.圍繞現(xiàn)代隨機過程的理論、方法及其工程應用背景和發(fā)展前景作了深入細致的討論,著重論述了基本理論及其應用潛力,強化計算與編程方面的理論分析,力求在內(nèi)容的廣度和深度上與國際水平接軌.
本書內(nèi)容包括: 隨機過程的基本概念和分類、平穩(wěn)過程與二階矩過程、離散鞅論、Poisson過程與更新過程、Brown運動、Markov鏈與連接參數(shù)Markov過程等.同時在內(nèi)容的處理上通過討論和注解的方式使之層次分明,以適應不同類型讀者的需求.
本書是現(xiàn)代應用隨機過程理論的入門教材,可作為高年級本科生及研究生的必修課教材,也可作為本科生、研究生、教師、科研與工程技術人員的參考書.
本書是作者在清華大學為電子工程、計算機科學與技術、自動化和生物醫(yī)學與工程等系的研究生授課的講稿基礎上加以整理、擴充和完善的結(jié)果.
本書的特點在于:
(1) 對讀者所需的數(shù)學基礎要求的起點較低:讀者只需具備微積分、概率論和線性代數(shù)的基本知識.
(2) 著重揭示一些基本概念的來源及背景,加強了對基本理論應用潛力的探討.
(3) 在每一章中,力求能夠反映基本理論的概貌和在工程中可能的使用模式,加深讀者對相關知識的理解.
(4) 結(jié)合應用,加強了計算與編程方面的理論分析,給出相關的矩陣算法和統(tǒng)一的編程模式.
(5) 本書的內(nèi)容要點致力于反映本學科在現(xiàn)代科學技術應用中所必須具備的基礎知識和基本技巧,有助于開展相關學科領域的科學研究.
(6) 內(nèi)容的選材和設置以國際一流大學(如MIT, Berkeley, Cornell, Gatech, Caltech等) 同類專業(yè)或相近專業(yè)的研究生課程為參考,力求在內(nèi)容上呈現(xiàn)同等的廣度和深度.
(7) 展示了現(xiàn)代隨機過程基礎理論研究和應用最為活躍的一些領域的基本思想和方法.
本書是現(xiàn)代應用隨機過程理論的入門教材,可作為高年級本科生及研究生的必修課教材,也可作為本科生、研究生、教師、科研與工程技術人員的參考書.
本書的撰寫原則是,強調(diào)理論的背景與思路,從應用的角度,力求內(nèi)容的廣度和深度與國際先進水平接軌.對于命題與定理的處理,強調(diào)了證明的思路,不追究數(shù)學上的嚴格性.對于一些重要的概念與定理的理解,采用了討論和注解模式,進一步揭示了其理論內(nèi)涵和潛在的應用方式,例如對Markov鏈轉(zhuǎn)移概率基本關系式,我們從5個方面加以討論,解釋它的應用;對于Metropolis 算法,我們從3個方面進行了理論分析.深刻體會和理解如何靈活運用隨機過程理論是本書撰寫中反復強調(diào)的重點.作者希望通過這些討論和注解使讀者能更深刻地體會隨機過程理論的實質(zhì).此外,這些注解和討論也使本書在內(nèi)容的層次化處理上更具靈活性,對于那些只強調(diào)理論應用的讀者,可以跳過一些繁瑣的理論證明,通過閱讀有關定理、注解及討論就可體會其本質(zhì).而對于那些追求理論分析技巧的讀者,可以通過仔細閱讀本書提供的引理和理論證明,提高其數(shù)學分析的能力.
本書的內(nèi)容組織如下:第1章在介紹隨機過程基本概念的基礎上,強調(diào)了隨機過程的二重性:隨機性和函數(shù)特性,并簡述了隨機過程所研究問題的范疇與分類.第2章討論了平穩(wěn)過程和二階矩過程,通過引入線性系統(tǒng),解釋了功率譜與時域平均的關系;重點討論了過程特征參數(shù)的遍歷性理論;在譜分解理論和隨機預測的證明與討論中,采用了線性代數(shù)的方法而非測度論的方法.第3章討論了離散鞅論與應用.通過許多示例解釋了鞅的概念,并給出了構(gòu)造鞅的一些基本方法.通過對停時的討論,解釋了停時定理在平均時間估計和首達概率計算方面的應用.此外,本章的重點在于強調(diào)鞅論的應用,如上穿不等式、極大值不等式、Doob估值定理、Azuma不等式和推廣的Azuma不等式等及其在拖尾概率估計中的應用.第4章在闡述Poisson過程和更新過程的基本理論的基礎上,重點介紹了Poisson過程的分流和非時齊Poisson過程的應用、復合Poisson恒等式以及Wald恒等式.第5章,在討論Brown運動之前,對正態(tài)分布的有關理論從8個方面如:Cauchy分布、區(qū)域分布與互相關系數(shù)的關系、條件分布、聯(lián)合分布的條件邊緣分布、反正弦率、零交叉、拖尾概率的Mill比值估計等進行了總結(jié)分析,在此基礎上討論了Brown運動的8個特性以及過零點的反正弦定理,并對Brown運動的變形、帶漂移的Brown運動以及Brown橋的性質(zhì)與應用進行了討論,部分證明和事例分析采用了鞅論的方法.值得一提的是對首中時的Laplace 變換給出了一個相對簡潔的證明.第6章,在闡述Markov鏈基本理論的基礎上,給出了計算平穩(wěn)分布的矩陣算法,吸收概率的矩陣計算理論以及近年提出的用于系統(tǒng)仿真的Metropolis 算法與其理論分析.第7章以時間齊次連續(xù)Markov鏈的定義為基礎,討論了Kolmogorov前后向方程與應用,給出了平穩(wěn)分布的矩陣計算方法.通過對生滅過程的討論,解釋了平衡方程、詳細平衡方程在網(wǎng)絡性能分析中的應用方法.本章的另一個重點是系統(tǒng)地討論了嵌入Markov鏈、半Markov過程、Q過程的內(nèi)在聯(lián)系以及系統(tǒng)仿真的一致性理論.關于平穩(wěn)分布與時間可逆性理論,通過排隊論中Burke定理解釋了它的應用方法,展示了它在網(wǎng)絡分析方面的應用前景.
本書的內(nèi)容選取和設置得到了清華大學研究生精品課建設基金的支持.在本書的編寫與修改過程中,作者的博士生導師馮重熙教授給予了大量的鼓勵、關心和支持,在此表示衷心的感謝.同時感謝清華大學電子工程系陸大纟金教授、張顥博士、清華大學數(shù)學科學系葛余博教授,中國礦業(yè)大學北京校區(qū)數(shù)學系高運良主任,與他們有益的討論,使本書的內(nèi)容更加充實、豐富.感謝曹志剛教授、陸建華教授、林孝康教授及電子工程系教務科羅淑云教授等同事的大力支持和幫助.同時也感謝參加聽課的研究生們及我所在的微波與數(shù)字通信技術國家重點實驗室的同事們;他們對更新工科學生“隨機過程”課程內(nèi)容的建議和要求,促使作者加快了編寫和整理本書的進度.本書的出版得到清華大學出版社的大力支持,特別是劉穎編輯對稿件認真細致的審閱和校對.最后,感謝我的妻子和孩子對我的支持、鼓勵和幫助.
第1章概論
1.1隨機過程的基本特點
1.2隨機過程的研究范圍
1.3隨機過程的分類方法(1)
1.4隨機過程的示例
1.5隨機過程的數(shù)字特征及基本概念
1.6隨機過程的分類方法(2)
1.7習題
第2章平穩(wěn)過程與二階矩過程
2.1相關函數(shù)
2.2功率譜
2.3功率譜與時域平均
2.4線性系統(tǒng)
2.4.1平均值和自相關
2.4.2功率譜
2.5隨機連續(xù)性
2.5.1引言
2.5.2平均值的連續(xù)性
2.6隨機微分 (均方意義)
2.6.1關于微分運算的性質(zhì)
2.6.2平穩(wěn)過程的微分特性
2.7Taylor級數(shù)
2.8隨機微分方程
2.9隨機積分
2.10遍歷性討論
2.10.1平均值的遍歷性
2.10.2自相關的遍歷性
2.10.3分布函數(shù)的遍歷性
2.11抽樣定理與隨機預測
2.11.1隨機過程抽樣定理
2.11.2信號的隨機預測
2.12習題
第3章離散鞅論
3.1條件概率
3.1.1條件概率的物理解釋
3.1.2條件概率的性質(zhì)
3.2鞅的定義與基本性質(zhì)
3.3鞅的舉例與基本構(gòu)造方法
3.3.1鞅的示例
3.3.2關于鞅的構(gòu)造方法
3.4上鞅、下鞅的定義及基本性質(zhì)
3.4.1基本定義
3.4.2上、下鞅的基本性質(zhì)
3.5Jensen不等式與下鞅的構(gòu)造
3.6分解定理
3.7停時與停時定理
3.7.1停時的基本概念
3.7.2幾個基本的停時定理
3.7.3停時定理的證明
3.7.4停時定理的應用
3.8關于停時的Wald恒等式
3.9上穿不等式及應用
3.10極大值不等式與Doob定理
3.10.1Markov不等式
3.10.2Chernoff界
3.10.3極大值不等式
3.10.4最大值估計定理
3.11鞅論的應用(1)
3.11.1三人賭博問題
3.11.2關于對稱隨機移動
3.12Azuma不等式
3.13Azuma不等式的推廣
3.14鞅論的應用(2)
3.14.1Azuma不等式在古典概率估計中的應用
3.14.2無線Ad Hoc網(wǎng)絡中網(wǎng)絡編碼的容量計算
3.15連續(xù)鞅論介紹
3.16習題
第4章Poisson過程與更新過程
4.1Poisson過程的定義
4.2Poisson過程的基本性質(zhì)
4.3Poisson過程與指數(shù)分布的關系
4.4到達時間的條件分布
4.5Poisson過程的分流
4.6非時齊Poisson過程
4.7復合Poisson過程
4.7.1復合Poisson過程的定義
4.7.2復合Poisson恒等式
4.8條件Poisson過程
4.9雙重隨機Poisson過程
4.10更新過程
4.11更新函數(shù)的性質(zhì)與應用
4.12更新過程的剩余壽命與年齡
4.13Wald等式
4.14習題
第5章Brown運動
5.1Brown運動的概念
5.2正態(tài)分布的有關理論
5.2.1Cauchy分布與正態(tài)隨機變量
5.2.2區(qū)域分布與互相關系數(shù)的關系
5.2.3Bayes定理與條件分布密度表示理論
5.2.4聯(lián)合正態(tài)分布的邊緣分布密度與條件分布密度
5.2.5幾個基本關系式
5.2.6反正弦率
5.2.7零交叉問題
5.2.8正態(tài)分布的拖尾概率估計——Mill 比值
5.3隨機移動和Brown運動
5.4Brown運動的有限維聯(lián)合概率密度
5.5Brown運動的性質(zhì)
5.5.1Brown運動的Markov性
5.5.2正態(tài)過程
5.5.3反射性
5.5.4時間可逆性
5.6最大值與首中時的分布特性
5.7過零點的反正弦定理
5.8Brown運動的推廣
5.8.1帶吸收點的Brown運動
5.8.2原點反射的Brown運動
5.8.3幾何Brown運動
5.8.4Brown運動的積分
5.8.5Brown運動的形式導數(shù)
5.9Brown橋與經(jīng)驗分布
5.9.1Brown橋的基本概念與性質(zhì)
5.9.2經(jīng)驗分布與Brown橋的關系
5.9.3經(jīng)驗分布的誤差估計
5.10帶漂移的Brown運動
5.10.1移出區(qū)間的概率計算
5.10.2首中時問題
5.11Brown運動的軌道性質(zhì)
5.12N維Brown運動
5.12.1N維Brown運動的定義與性質(zhì)
5.12.2二維Brown運動的從屬過程
5.12.3輻射型Brown運動
5.13習題
第6章Markov鏈
6.1引言
6.2基本概念
6.3轉(zhuǎn)移概率矩陣
6.4Markov鏈狀態(tài)的分類
6.4.1關于Markov鏈狀態(tài)的一些基本定義
6.4.2一些基本關系式
6.4.3狀態(tài)之間的等價關系
6.5狀態(tài)空間的分解
6.6極限特性與平穩(wěn)分布
6.6.1極限特性
6.6.2平穩(wěn)分布
6.6.3平衡方程及其應用
6.7轉(zhuǎn)移矩陣的平均極限
6.8有限狀態(tài)不可約Markov鏈平穩(wěn)分布的矩陣計算
6.9吸收概率的計算
6.9.1非常返狀態(tài)子矩陣的特性
6.9.2從非常返態(tài)到吸收態(tài)轉(zhuǎn)移概率的計算
6.9.3從非常返態(tài)到吸收態(tài)轉(zhuǎn)移時間的計算
6.10Metropolis抽樣算法
6.10.1Metropolis抽樣算法的描述
6.10.2Metropolis抽樣算法的理論分析
6.11習題
第7章連續(xù)參數(shù)Markov鏈
7.1定義與基本概念
7.2轉(zhuǎn)移率矩陣: Q矩陣與其概率意義
7.3Q矩陣的計算
7.4Kolmogorov前向后向微分方程
7.5平穩(wěn)分布與極限分布及其矩陣計算
7.5.1極限分布存在性
7.5.2平穩(wěn)分布及其矩陣計算
7.6平穩(wěn)分布的計算與應用
7.7一致性規(guī)則與強Markov鏈
7.7.1引言與工程問題示例
7.7.2強Markov過程
7.7.3指數(shù)分布與嵌入Markov鏈的應用
7.7.4連續(xù)Markov鏈的一致性規(guī)則
7.8Q過程的一致性處理
7.9有限狀態(tài)不可約連續(xù)Markov鏈的計算機仿真
7.10平穩(wěn)分布與時間可逆性
7.11時間可逆過程在排隊論中的應用
7.12習題
參考文獻