原创 人工智能新聞/資料/文章收錄【2018年及之前】
目錄深度學習（科普）專家觀點前沿技術AI硬件技術課程資料知乎會議資料合集Benchmark & Dataset研究LabTools, Docker, Framework企業新聞 本文僅用於個人網絡資料收錄：） 深度學習（科普）
2020-06-16 05:13:25
1
原创 算法轉載收藏【2018年及之前】
目錄研究課題OptimizationReinforcement LearningPredictive Learning， Curious Learning， Self LearningUnsupervised LearningGA
2020-06-16 05:13:25
2
原创 今天開始學Convex Optimization：引言、第1章基本概念介紹
文章目錄引言第1章 Introduction凸優化問題最小二乘問題線性規劃問題一個優化問題例子：最佳燈源問題Chebyshev逼近問題，轉化成線性規劃參考資料 2020年我自己希望多看一些基礎的理論知識，包括優化理論、微分方程等，
2020-06-16 05:13:25
54
原创 入門神經網絡優化算法（一）：Gradient Descent，Momentum，Nesterov accelerated gradient
梯度下降 基於梯度的優化算法，Gradient based optimization，也往往被稱爲一階優化算法。所以很容易猜到，還有二階優化算法等的高階優化算法，但是在實際應用中，基於梯度的一階優化算法是目前的絕對主流方法（當前是
2020-06-16 05:13:25
5
原创 深度學習/機器學習入門基礎數學知識整理（四）：擬牛頓法、BFGS、L-BFGS、DFP、共軛梯度法
歡迎查看我的博客文章合集：我的Blog文章索引：：機器學習方法系列，深度學習方法系列，三十分鐘理解系列等 文章目錄擬牛頓法BFGS算法(Broyden–Fletcher–Goldfarb–Shanno)[3]DFP算法L-BFGS
2020-06-16 05:13:25
2
原创 計算機視覺算法整理（一）：Faster RCNN，bounding box regression，IOU，GIOU
專門收錄一下一些有趣的，計算機視覺中我想記錄一下的算法，重點關注的是loss function，順便說下相關算法。因爲是收錄，只爲日後查看之需，有一些會借用一些資料，我會給出引用。 1、Faster RCNN 兩階段目標檢測的代表
2020-06-16 05:13:25
10
原创 論文導讀、會議精選：SysML2018，SysML2019
先簡單介紹一下SysML會議，2018年新成立的一個聚焦在機器學習系統、軟件、硬件等綜合領域研究的一個學術會議。由一堆學術界和工業界大佬抱團組建。從18年發佈的一篇Machine Learning System（機器學習系統）白皮
2020-06-16 05:13:25
原创 深度學習方法（十九）：一文理解Contrastive Loss，Triplet Loss，Focal Loss
文章目錄1. Contrastive Loss (對比loss)2. Triplet Loss（三元loss）3. Focal Loss[5]3.1 引申討論：其他形式的Focal Loss參考資料 本文記錄一下三種常用的loss
2020-06-16 05:13:24
221
原创 深度學習方法（十七）：word2vec算法原理（1）：跳字模型（skip-gram） 和連續詞袋模型（CBOW）
word embedding算法中最爲經典的算法就是今天要介紹word2vec，最早來源於Google的Mikolov的： 1、Distributed Representations of Sentences and Docume
2020-06-16 05:13:24
6
原创 三十分鐘在Windows10安裝Anaconda+Pytorch+Cuda，老式Nvidia GTX遊戲顯卡實測可用
文章目錄1. 安裝Anaconda 3.52. 用conda安裝Pytorch及相關依賴軟件3. 簡單測試安裝環境（pytorch/cuda/cudnn）5. 給conda環境用pip安裝gym包5. 參考資料 2020年疫情肆虐
2020-06-16 05:13:24
原创 深度學習方法（二十）：Hinton組最新無監督學習方法SimCLR介紹，以及Momentum Contrastive(MoCo)
本篇文章記錄一下最近發表的兩個比較類似的無監督representation learning工作： SimCLR——Hinton組的工作，第一作者Ting Chen MoCo v2——He Kaiming組的工作，第一作者Xin
2020-06-16 05:13:24
49
原创 三十分鐘理解：矩陣Cholesky分解，及其在求解線性方程組、矩陣逆的應用
寫一篇關於Cholesky分解的文章，作爲學習筆記，儘量一文看懂矩陣Cholesky分解，以及用Cholesky分解來求解對稱正定線性方程組，以及求對稱正定矩陣的逆的應用。 文章目錄直接Cholesky分解分塊Cholesky分解
2020-06-16 05:13:24
2
原创 今天開始學Convex Optimization：第3章 Convex Sets and Convex functions
文章目錄第3章 Convex Sets and Convex functions凸優化問題的定義凸集的定義：convex hull（凸包） 定義：一些凸集的examples：錐（Cone）和凸錐（Convex Cone）的定義凸集
2020-06-16 05:13:24
27
原创 今天開始學Convex Optimization：第3章(part2) Optimization basics
文章目錄重寫約束條件部分優化：消除等式約束：引入Slack變量：例子： SVM的hinge loss form凸函數的一階最優條件（First-order optimality conditions)例子：二次優化參考資料 本章來
2020-06-16 05:13:24
原创 入門神經網絡優化算法（六）：二階優化算法K-FAC
文章目錄A block-wise Kronecker-factored Fisher approximationApproximating F~\tilde{F}F~ as block-diagonal參考資料 優化算法系列文章索
2020-03-30 00:44:54
10