圖書簡介
本書主要討論統計模式識別理論和方法,包括人工神經網路、模糊模式識別、模擬退火和遺傳算法,以及統計學習理論和支持向量機等內容。多數章後附有習題,適於教學和自學。
目錄
第二版前言(Ⅴ)
第一版前言(Ⅶ)第1章緒論(1)
11模式識別和模式的概念(1)
12模式識別系統(2)
13關於模式識別的一些基本問題(3)
14關於本書的內容安排(8)第2章貝葉斯決策理論(9)
21引言(9)
22幾種常用的決策規則(9)
221基於最小錯誤率的貝葉斯決策(9)
222基於最小風險的貝葉斯決策(13)
223在限定一類錯誤率條件下使另一類錯誤率為最小的兩類別決策(16)
224最小最大決策(18)
225序貫分類方法(20)
226分類器設計(20)
23常態分配時的統計決策(24)
231常態分配機率密度函式的定義及性質(24)
232多元正態機率型下的最小錯誤率貝葉斯判別函式和決策面(30)
24關於分類器的錯誤率問題(34)
241在一些特殊情況下錯誤率的理論計算(35)
242錯誤率的上界(38)
25討論(42)
習題(43)第3章機率密度函式的估計(46)
31引言(46)
32參數估計的基本概念(47)
321最大似然估計(48)
322貝葉斯估計和貝葉斯學習(50)
33常態分配的監督參數估計(54)
331最大似然估計示例(54)
332貝葉斯估計和貝葉斯學習示例(55)
34非監督參數估計(59)
341非監督最大似然估計中的幾個問題(59)
342常態分配情況下的非監督參數估計(62)
35總體分布的非參數估計(65)
351基本方法(65)
352Parzen窗法(67)
353kN近鄰估計(71)
36關於分類器錯誤率的估計問題(72)
361關於已設計好分類器時錯誤率的估計問題(73)
362關於未設計好分類器時錯誤率的估計問題(75)
37討論(80)
習題(81)第4章線性判別函式(83)
41引言(83)
411線性判別函式的基本概念(84)
412廣義線性判別函式(85)
413設計線性分類器的主要步驟(87)
42Fisher線性判別(87)
43感知準則函式(91)
431幾個基本概念(91)
432感知準則函式及其梯度下降算法(93)
44最小錯分樣本數準則(95)
441解線性不等式組的共軛梯度法(95)
442解線性不等式組的搜尋法(98)
45最小平方誤差準則函式(101)
451平方誤差準則函式及其偽逆解(101)
452MSE準則函式的梯度下降算法(104)
453隨機MSE準則函式及其隨機逼近算法(104)
46隨機最小錯誤率線性判別準則函式(106)
461隨機最小錯誤率線性判別準則函式(106)
462關於Jer(α)準則的隨機逼近算法(109)
463設計考慮和套用實例(111)
47多類問題(112)
471多類問題的基本概念(112)
472決策樹簡介(113)
48討論(117)
習題(117)第5章非線性判別函式(120)
51分段線性判別函式的基本概念(120)
511基於距離的分段線性判別函式(120)
512分段線性判別函式(121)
513分段線性分類器設計的一般考慮(122)
52用凹函式的並表示分段線性判別函式(124)
521分段線性判別函式的表示(124)
522算法步驟(126)
53用交遇區的樣本設計分段線性分類器(129)
531算法基本思想(129)
532緊互對原型對與交遇區(129)
533局部訓練法(130)
534決策規則(131)
54二次判別函式(133)
習題(134)第6章近鄰法(136)
61最近鄰法(136)
611最近鄰決策規則(136)
612最近鄰法的錯誤率分析(136)
62k近鄰法(140)
63關於減少近鄰法計算量和存儲量的考慮(142)
631近鄰法的快速算法(142)
632剪輯近鄰法(145)
633壓縮近鄰法(153)
64可做拒絕決策的近鄰法(154)
641具有拒絕決策的k近鄰法(154)
642具有拒絕決策的剪輯近鄰法(154)
65最佳距離度量近鄰法(156)
習題(159)第7章經驗風險最小化和有序風險最小化方法(161)
71平均風險最小化和經驗風險最小化(161)
72有限事件類情況(162)
73線性分界權向量數的估計(163)
74事件出現頻率一致收斂於其機率的條件(164)
75生長函式的性質(165)
76經驗最優判決規則偏差的估計(166)
77經驗最優判決規則偏差估計的改進(167)
78有序風險最小化方法(168)
781判決規則選擇準則(169)
782幾種判決規則類的排序方法(170)
79討論(173)
習題(174)第8章特徵的選擇與提取(176)
81基本概念(176)
811問題的提出(176)
812一些基本概念(176)
82類別可分離性判據(178)
821用於可分性判據的類內類間距離(178)
822基於機率分布的可分性判據(180)
823基於熵函式的可分性判據(183)
824類別可分離性判據的直接套用舉例(184)
83特徵提取(185)
831按歐氏距離度量的特徵提取方法(185)
832按機率距離判據的特徵提取方法(189)
833用散度準則函式的特徵提取器(192)
834多類情況(193)
835基於判別熵最小化的特徵提取(195)
836兩維顯示(197)
84特徵選擇(198)
841最優搜尋算法(199)
842次優搜尋法(202)
843可分性判據的遞推計算(204)
85特徵選擇的幾種新方法(205)
851模擬退火算法(205)
852Tabu搜尋算法(207)
853遺傳算法(208)
習題(210)第9章基於KL展開式的特徵提取(212)
91傅立葉級數展開式(212)
92KL展開式(213)
93KL展開式的性質(215)
931展開係數(215)
932表示熵(215)
933總體熵(217)
94KL坐標系的產生矩陣(218)
95從類平均向量中提取判別信息(218)
96包含在類平均向量中判別信息的最優壓縮(220)
97包含在類中心化特徵向量中判別信息的提取(221)
98用於非監督模式識別問題中的特徵提取(223)
99KL變換在人臉自動識別研究中的一個套用(223)
991圖像的歸一化(224)
992KL變換(224)
993特徵向量的選取(226)
910討論(227)
習題(228)第10章非監督學習方法(230)
101引言(230)
102單峰子集(類)的分離方法(230)
1021投影方法(230)
1022基於對稱集性質的單峰子集分離法(232)
1023單峰子集分離的疊代算法(233)
103類別分離的間接方法(234)
1031動態聚類方法(235)
1032近鄰函式準則算法(241)
104分級聚類方法(244)
105非監督學習方法中的一些問題(247)
習題(248)第11章人工神經網路(250)
111引言(250)
112人工神經元(251)
1121生物神經元(251)
1122人工神經元(251)
1123神經元的學習算法(253)
113前饋神經網路及其主要算法(253)
1131前饋神經網路(253)
1132感知器(253)
1133三層前饋網路(254)
1134反向傳播算法(BP法)(254)
1135徑向基函式網路(257)
114競爭學習和側抑制(258)
115自組織特徵映射(259)
116Hopfield網路(261)
1161離散Hopfield網路(261)
1162聯想存儲器(263)
1163最佳化計算(263)
1164連續時間Hopfield網路(264)
117神經網路模式識別的典型做法(265)
1171多層前饋網路用於模式識別(265)
1172自組織網路用於模式識別(266)
118前饋神經網路與統計模式識別的關係(267)
1181隱層的特徵提取作用(267)
1182神經網路與貝葉斯分類器(270)
119討論(271)第12章模糊模式識別方法(273)
121引言(273)
122模糊集的基本知識(273)
123模糊特徵和模糊分類(275)
1231模糊化特徵(276)
1232結果的模糊化(276)
124特徵的模糊評價(277)
1241模糊程度的度量(277)
1242特徵的模糊評價(278)
125模糊聚類方法(280)
1251模糊C均值算法(280)
1252改進的模糊C均值算法(281)
126模糊k近鄰分類器(282)
127討論(283)第13章統計學習理論和支持向量機(284)
131引言(284)
132機器學習的基本問題和方法(285)
1321機器學習問題的表示(285)
1322經驗風險最小化(286)
1323複雜性與推廣能力(287)
133統計學習理論的核心內容(288)
1331學習過程一致性的條件(288)
1332函式集的學習性能與VC維(290)
1333推廣性的界(293)
1334結構風險最小化(295)
134支持向量機(296)
1341最優分類面(296)
1342廣義最優分類面(298)
1343規範化超平面集的子集結構(299)
1344支持向量機(299)
135討論(303)第14章模式識別在語音信號數字處理中的套用舉例(305)
141說話人識別概述(305)
142語音信號及其幾個特性(306)
143短時基音周期的估計(310)
144一個說話人識別系統舉例(312)
145討論(314)第15章印刷體漢字識別中的特徵提取(315)
151印刷體漢字識別的基本知識(315)
152印刷體漢字的統計特性及分析(317)
153文字的歸一化(321)
154印刷體漢字識別中的一些特徵(323)
155分類問題(327)
156判別準則(328)
157討論(329)主要參考書目(330)附錄A幾種最最佳化算法(331)
A1梯度(下降)法(331)
A2牛頓法(332)
A3共軛梯度法(333)
A4Lagrange乘子法(335)
A5隨機逼近法(336)