模型可解釋性（SHAP)

https://christophm.github.io/interpretable-ml-book/

https://www.jianshu.com/p/324a7c982034

特徵重要性計算

 

 

夏普利值-博弈論

SHAP 含義：觀察到某一個樣本的預測中各個特徵對預測結果產生的影響。

基本思想：計算一個特徵加入到模型時的邊際貢獻，然後考慮到該特徵在所有的特徵序列的情況下不同的邊際貢獻，取均值，即某該特徵的SHAPbaseline value。

例如：A單獨工作產生的價值爲v{A},加入B後共同產生價值v{A,B},那麼B的累加貢獻是v{A,B}-v{A}.

對於所有能夠形成的全局N的序列，求其中關於元素xi的累加貢獻，然後取均值即可得到xi的shapley

value.

 

交互shap值

SHAP包⽂文章:https://github.com/slundberg/shap

SHAP算法解析:https://towardsdatascience.com/one-feature-attribution-method-to-supposedly-rule-them-all-shapley-values-f3e04534983d

https://christophm.github.io/interpretable-ml-book/shapley.html

SHAP包應⽤用中⽂文解析:https://yyqing.me/post/2018/2018-09-25-kaggle-model-insights

https://christophm.github.io/interpretable-ml-book/shapley.html