多項式核函式

(1.12) (1.14) (1.15)

第一章 核函式
§1 多項式空間和多項式核函式
1. 有序齊次多項式空間考慮2維空間，其所有的2階單項式為
(1.3)
注意，在表達式(1.3)中，我們把和看成兩個不同的單項式，所以稱式（1.3）中的單項式為有序單項式。這4個有序單項式張成的是一個4維特徵空間，稱為2階有序齊次多項式空間，記為。相應地可建立從原空間到多項式空間的非線性映射
(1.4)
同理，從到階有序齊次多項式空間映射可表示為
(1.5)
這樣的有序單項式的個數為，即多項式空間的維數。如果在中進行內積運算，當和都不太小時，多項式空間的維數會相當大。如當，時，維數可達到上億維。顯然，在多項式空間中直接進行內積運算將會引起“維數災難”問題，那么，如何處理這個問題呢？
我們先來考查的情況，計算多項式空間中兩個向量的內積
(1.6)
若定義函式
(1.7)
則有
(1.8)
即4維多項式空間上的向量內積可以轉化為原始2維空間上的向量內積的平方。對於一般的從到階有序多項式空間的映射（1.5）也有類似的結論。
定理1.1 考慮由式（1.5）定義的從到多項式空間的映射，則在空間上的內可表為 (1.9)
其中
(1.10)
證明：直接計算可得
(1.11)
上述定理表明，我們並不需要在高維的多項式空間中直接做內積運算， 而利用式（1.10)給出的輸入空間上的二元函式來計算高維多項式空間中的內積。
2. 有序多項式空間
在式（1.5）定義的映射中，多項式空間的分量由所有的階有序單項式組成。如果把該多項式空間的分量擴充為所有不超過階的有序單項式，便得到從到有序多項式空間的映射
(1.12)
對於這個映射，我們有如下的定理：
定理1.2 考慮有式（1.12）定義的從到多項式空間的映射，則空間上的內積可表為空間上的內積的函式，即若定義兩個變數和的函式
(1.13)
則有
(1.14)
上述有序多項式空間的一個簡單的例子是
(1.15)
3. 無序多項式空間
如果我們把式（1.4）中的看作相同的單項式，那么我們就可以把從到4維多項式空間的映射（1.4）簡化為從到3維多項式空間的映射
(1.16)
將映射（1.16）調整為
(1.17)
則相應的多項式空間稱為2階無序多項式空間，並且有
(1.18)
對式（1.5）所示的變換按下述方式操作：把中次序不同但因子相同的各分量合併為一個分量，並在該分量前增加一個係數，這個係數取為相應次序不同但因子相同的分量在中出現次數的平方根。這樣得到的從到階無序多項式空間的變換仍滿足關係式
(1.19)
其中
(1.20)
根據定義1.1，我們稱（1.13）和（1.20）分別為階多項式核函式和階齊次多項式核函式。
比較式（1.4）定義的變換和式（1.17）定義的可以發現，它們所映射到的多項式空間是不同的。前者是一個4維多項式空間，後者為一個3維多項式空間。但是內積是相同的，它們都可以表示為內積的函。這說明：多項式空間不是由核函式唯一確定的。
§2 Mercer 核
1.半正定矩陣的特徵展開