線性判別函數
1.1
用於分類的判別函數的參數形式已知，直接從樣本來估計判別函數的參數。
優勢：不需要有關概率密度函數的確切的參數形式。因此，屬於無參數估計。
利用樣本直接設計分類器
1、方法分類：
線性判別函數、支持向量機、fisher線性判別函數
廣義線性判別函數、非線性判別函數、核學習機
2、基本思想：
-步一：給定一個判別函數，且已知該函數的參數形式
-步二：採用樣本來訓練判別函數的參數
-步三：對於新樣本，採用判別函數對其進行決策，並按照一些準則來完成分類
學習判別函數的基本技術路線
-假定有n個d維空間中的樣本，每個樣本的類別標籤已知，且一共有c個不同的類別
-假定判別函數的形式已知，尋找一個判別函數
-對於給定的新樣本x，判定它屬於哪個類別
基於判別函數的分類器
-採用已知類別標籤的訓練樣本進行學習，獲得若干個代數界面，這些界面將樣本所在的空間分成若干個相互不重疊的區域。每個區域包含屬於同一類的樣本。
-表示界面的函數稱爲判別函數
-判別函數是分類器最常用的表述形式
基於判別函數的判別準則
貝葉斯決策中提到的比如：
線性可分（針對訓練樣本）
1.2線性判別函數與決策面
g（x）=0定義了一個決策面，它是類w1和w2的分界面，該決策面是一個超平面，位於該平面的任意向量與w垂直，若x1和x2在該平面內，則
1.3 廣義線性判別函數
將線性判別函數推廣到非線性判別函數。
-一種有效途徑是將原來的數據點x通過一種適當的非線性映射將其映射到新的數據點y，這樣在新的數據空間裏可以運用線性判別函數方法。
在高維中，原本線性不可分的問題可變爲線性可分。
1.4感知準則函數
兩類可分情形
規範化增廣樣本：先增廣，再規範化。故在d+1維上再乘以-1
r表示座標原點到到決策面的距離
w指的是法向量，對於a來說，y就是它的法向量
感知準則函數的任務：
參考資料：
中國科學院大學碩士課《模式識別》ppt