參考文獻
1.Logistic迴歸原理及公式推導
2.Softmax算法：邏輯迴歸的擴展
3.牛頓法與擬牛頓法，DFP法，BFGS法，L-BFGS法
4.SGDClassifier和LR,SVM的區別
一、原理
這個直接參考上面的博客1和博客2，寫的很詳細，參考價值很高；
二、Logistic迴歸和Softmax的關係
一句話總結：Softmax是Logictic迴歸的擴展（從二分類推廣到多分類）
那麼兩者怎麼選擇呢？
這一選擇取決於你的類別之間是否互斥，如果是互斥的，則可以採用softmax，而如果並不是互斥的，那麼可以採用多個獨立logistic分類器的方式；
三、關於參數的求取方法
牛頓法和擬牛頓法（參見參考文獻3）