原创 李宏毅機器學習課程筆記-13.2模型壓縮之知識蒸餾

目錄Student and TeacherEnsembleTemperature 知識蒸餾就是Knowledge Distillation。 Knowledge Distillation:https://arxiv.org/abs/1503

原创 李宏毅機器學習課程筆記-13.1模型壓縮之網絡剪枝

目錄MotivationHow to Prune a NetworkLottery Ticket HypothesisRethinking the Value of Network PruningSome Issue in Weight P

原创 李宏毅機器學習課程筆記-12.4對抗攻擊代碼實戰

本文爲作者學習李宏毅機器學習課程時參照樣例完成homework6的記錄。 全部課程PPT、數據和代碼下載鏈接: 鏈接:https://pan.baidu.com/s/1n_N7aoaNxxwqO03EmV5Bjg 提取碼:tpmc 代碼倉庫

原创 李宏毅機器學習課程筆記-12.3對抗防禦入門

目錄What is DefensePassive DefenseProactive Defense What is Defense 有人說模型容易被攻破是因爲過擬合,但其實並不是,因爲weight regularization、dropou

原创 李宏毅機器學習課程筆記-12.2對抗攻擊進階

目錄Universal Adversarial AttackOne Pixel AttackAdversarial ReprogrammingAttack in the Physical WorldAttack Text & AudioHi

原创 李宏毅機器學習課程筆記-12.1對抗攻擊入門

目錄MotivationWhat is AttackLoss Function For AttackHow To TrainNon-targeted AttackTargeted AttackConstraint For AttackL2-

原创 李宏毅機器學習課程筆記-11.5基於PyTorch的Explainabe AI實戰

目錄任務描述數據集描述其它 本文爲作者學習李宏毅機器學習課程時參照樣例完成homework5的記錄。 全部課程PPT、數據和代碼下載鏈接: 鏈接:https://pan.baidu.com/s/1n_N7aoaNxxwqO03EmV5Bjg

原创 李宏毅機器學習課程筆記-11.3Explainable AI(Global Explanation)

假定在圖片分類任務中,Global Explanation要求機器說明它認爲一個類別(比如“cat”)是什麼樣子,而非針對一張圖片進行解釋。 Activation maximization 在李宏毅機器學習課程筆記-7.2CNN學到了什麼一

原创 李宏毅機器學習課程筆記-11.2Explainable AI(Local Explanation)

目錄基於梯度判斷Component重要性梯度飽和Attack Interpretation 假定在圖片分類任務中有一張圖片,Local Explanation則要求機器說明爲什麼它認爲這張圖片是某個類別(比如“cat”)。 Explaina

原创 李宏毅機器學習課程筆記-11.1Explainable AI引言

目錄Explainable AI是什麼Explainable AI有什麼用Explainable AI是否有必要Interpretable VS Powerful Explainable AI是什麼 我們希望,機器不僅要知道“是什麼”還要知

原创 李宏毅機器學習課程筆記-10.3基於Low-density Separation假設的半監督學習

目錄Self-trainingEntropy-based RegularizationSemi-supervised SVM 按照“非黑即白”的思路,假設類別之間的boundary周圍的data是很少的,即假設不同類別數據之間應該有1個很明

原创 李宏毅機器學習課程筆記-10.4基於Smoothness假設的半監督學習

目錄Smoothness假設Smoothness假設的定義手寫數字識別舉例文章分類舉例cluster and then labelGraph-based Approachhigh density path如何建立一張圖如何定量地評估一個圖符

原创 李宏毅機器學習課程筆記-10.2生成模型中的半監督學習

目錄有監督生成模型半監督生成模型直觀理解理論推導 生成模型中的半監督學習:Semi-supervised Learning for Generative Model 有監督生成模型 有監督生成模型:Supervised Generative

原创 李宏毅機器學習課程筆記-10.1半監督學習簡介

目錄有監督學習(Supervised Learning)半監督學習(Semi-supervised Learning)爲什麼需要半監督學習爲什麼半監督學習有用 有監督學習(Supervised Learning) 訓練集數據爲\(\{ (x

原创 李宏毅機器學習課程筆記-9.6基於RNN和PyTorch的文本情感分類

本文爲作者學習李宏毅機器學習課程時參照樣例完成homework4的記錄。 全部課程PPT、數據和代碼下載鏈接: 鏈接:https://pan.baidu.com/s/1n_N7aoaNxxwqO03EmV5Bjg 提取碼:tpmc 代碼倉庫