內容簡介
《計算統計》包含求解非線性方程組的牛頓方法、傳統的隨機模擬方法等, 又全面地介紹了近些年來發展起來的某些新方法, 如模擬退火算法、基因算法、EM算法、MCMC方法、Bootstrap方法等。最後還提供了各種難度的習題。隨著計算機的快速發展, 數理統計中許多涉及大計算量的有效方法也得到了廣泛套用與迅猛發展, 可以說, 計算統計已是統計中一個很重要的研究方向。
《計算統計》可作為數學、統計學、科學計算等專業的本科生教材, 也可供統計學方向的研究生、工程技術人員和套用工作者參考使用。
作者簡介
Geof H Givens,華盛頓大學博士,現任科羅拉多州立大學統計系副教授。曾獲美國國家科學基金會職業獎,美國統計協會傑出套用獎等。
目錄
第1章 回顧 1
1.1 某些數學記號 1
1.2 Taylor定理和數學極限理論 1
1.3 某些統計記號和機率分布 3
1.4 似然推斷 6
1.5 Bayes推斷 8
1.6 統計極限理論 10
1.7 馬氏鏈 11
1.8 計算 13
第2章 最佳化與求解非線性方程組 15
2.1 單變數問題 16
2.1.1 Newton法 19
2.1.2 Fisher得分法 22
2.1.3 正割法 23
2.1.4 不動點疊代法 24
2.2 多元問題 26
2.2.1 Newton法和Fisher得分法 26
2.2.2 類Newton法 30
2.2.3 Gauss-Newton法 34
2.2.4 非線性Gauss-Seidel疊代和其他方法 35
問題 37
第3章 組合最佳化 40
3.1 難題和NP完備性 40
3.1.1 幾個例子 42
3.1.2 需要啟發式算法 45
3.2 局部搜尋 45
3.3 禁忌算法 49
3.3.1 基本定義 49
3.3.2 禁忌表 50
3.3.3 吸氣準則 51
3.3.4 多樣化 52
3.3.5 強化 53
3.3.6 一種綜合的禁忌算法 53
3.4 模擬退火 54
3.4.1 幾個實際問題 56
3.4.2 強化 59
3.5 遺傳算法 60
3.5.1 定義和典則算法 60
3.5.2 變化 64
3.5.3 初始化和參數值 68
3.5.4 收斂 69
問題 69
第4章 EM最佳化方法 72
4.1 缺失數據、邊際化和符號 72
4.2 EM算法 73
4.2.1 收斂性 77
4.2.2 在指數族中的套用 79
4.2.3 方差估計 80
4.3 EM變型 85
4.3.1 改進E步 85
4.3.2 改進M步 86
4.3.3 加速方法 90
問題 93
第5章 數值積分 99
5.1 Newton-C^otes求積 100
5.1.1 Riemann法則 100
5.1.2 梯形法則 103
5.1.3 Simpson法則 105
5.1.4 一般的k階法則 107
5.2 Romberg積分 107
5.3 Gauss求積 111
5.3.1 正交多項式 111
5.3.2 Gauss求積法則 112
5.4 常見問題 114
5.4.1 積分範圍 114
5.4.2 帶奇點或其他極端表現的被積函式 114
5.4.3 多重積分 115
5.4.4 自適應求積 115
5.4.5 積分軟體 115
問題 116
第6章 模擬與Monte Carlo積分 118
6.1 Monte Carlo方法的介紹 118
6.2 模擬 119
6.2.1 從標準參數族中產生 120
6.2.2 逆累積分布函式 120
6.2.3 拒絕抽樣 121
6.2.4 採樣重要性重抽樣算法 128
6.3 方差縮減技術 133
6.3.1 重要性抽樣 134
6.3.2 對偶抽樣 140
6.3.3 控制變數 142
6.3.4 Rao-Blackwellization 146
問題 148
第7章 MCMC方法 151
7.1 Metropolis-Hastings算法 151
7.1.1 獨立鏈 153
7.1.2 隨機遊動鏈 156
7.1.3 擊跑算法 158
7.1.4 Langevin算法 159
7.1.5 Multiple-try Metropolis-算法 160
7.2 Gibbs 抽樣 161
7.2.1 基本Gibbs抽樣 161
7.2.2 立即更新 163
7.2.3 更新排序 164
7.2.4 區組化 164
7.2.5 混合Gibbs抽樣 165
7.2.6 另一種一元提案方法 165
7.3 實施 166
7.3.1 確保良好的混合和收斂 166
7.3.2 實際操作的建議 171
7.3.3 使用結果 171
7.3.4 例:軟毛海豹幼崽的捕獲-再捕獲數據 173
問題 176
第8章 MCMC中的深入論題 180
8.1 輔助變數方法 180
8.2 可逆跳躍MCMC 183
8.3 完美抽樣 190
8.4 例:馬爾可夫隨機域上的MCMC算法 194
8.4.1 馬爾可夫隨機域的Gibbs抽樣 195
8.4.2 馬爾可夫隨機域的輔助變數方法 199
8.4.3 馬爾可夫隨機域的完美抽樣 201
8.5 馬氏鏈極大似然 203
問題 204
第9章 Bootstrap方法 208
9.1 Bootstrap的基本原則 208
9.2 基本方法 209
9.2.1 非參數Bootstrap 209
9.2.2 參數化Bootstrap 210
9.2.3 基於Bootstrap的回歸方法 211
9.2.4 Bootstrap偏差修正 212
9.3 Bootstrap推斷 213
9.3.1 分位點方法 213
9.3.2 樞軸化 215
9.3.3 假設檢驗 221
9.4 縮減Monte Carlo誤差 221
9.4.1 平衡Bootstrap 221
9.4.2 反向Bootstrap方法 222
9.5 Bootstrap方法的其他用途 222
9.6 Bootstrap近似的階 223
9.7 置換檢驗 224
問題 226
第10章 非參密度估計 228
10.1 績效度量 229
10.2 核密度估計 230
10.2.1 窗寬的選擇 231
10.2.2 核的選擇 240
10.3 非核方法 242
10.4 多元方法 245
10.4.1 問題的本質 245
10.4.2 多元核估計 247
10.4.3 自適應核及最近鄰 249
10.4.4 探索性投影尋蹤 253
問題 258
第11章 二元光滑方法 261
11.1 預測-回響數據 262
11.2 線性光滑函式 263
11.2.1 常跨度移動平均 263
11.2.2 移動直線和移動多項式 269
11.2.3 核光滑函式 270
11.2.4 局部回歸光滑 271
11.2.5 樣條光滑 272
11.3 線性光滑函式的比較 274
11.4 非線性光滑函式 274
11.4.1 Loess 275
11.4.2 超光滑 276
11.5 置信帶 279
11.6 一般二元數據 282
問題 282
第12章 多元光滑方法 285
12.1 預測-回響數據 285
12.1.1 可加模型 286
12.1.2 廣義可加模型 288
12.1.3 與可加模型有關的其他方法 291
12.1.4 樹型方法 296
12.2 一般多元數據 303
問題 306
數據致謝 309
參考文獻 310
索引 343
……