1.2.2 模式空間、特征空間和類別空間

從技術(shù)角度來說，模式識別實質(zhì)上完成的是從模式空間經(jīng)過特征空間到類別空間的映射過程。

從物理角度上講，在可以覺察到的世界里，我們把適當選擇的某些物體和事件稱為樣本。對它們分別進行觀察所得到的觀測數(shù)據(jù)的集合就構(gòu)成了模式，所有的觀察樣本數(shù)據(jù)則構(gòu)成模式空間。顯然模式空間的維數(shù)與所選擇的樣本、觀測方法有關(guān)，也與特定的應用有關(guān)，一般是一個很大的有限值。在模式空間中，每個樣本都是一個點，點的位置由該模式在各維上的數(shù)據(jù)來確定。由物理上可以覺察到的世界到模式空間的過程稱為模式采集。

模式空間的維數(shù)雖多，但有些并不能揭示樣本的實質(zhì)。對模式空間里的各坐標元素進行綜合分析，獲取最能揭示樣本屬性的觀測量以此作為樣本的主要特征，這些主要特征就構(gòu)成了特征空間。如此，顯然特征的維數(shù)大大壓縮了。由模式空間到特征空間所需要的綜合分析，往往包含適當?shù)淖儞Q和選擇，稱為特征提取和選擇。

利用某些知識和經(jīng)驗可以確定分類原則，這種原則稱為判別規(guī)則。根據(jù)適當?shù)呐袆e規(guī)則，將特征空間里的樣本區(qū)分成不同的類型，從而將特征空間轉(zhuǎn)換成了類別空間。類別空間中不同類別的分界面稱為決策面。類別空間的維數(shù)與類別的數(shù)目相等，一般來說小于特征空間的維數(shù)。由特征空間到類別空間所需要的操作是分類判別。