Levers are simple too, but they can move the world1.
文章目錄
1 Categories
1.1 Classification
-
【NIN】《Network In Network》（arXiv-2013）
-
【Inception-v3】《Rethinking the Inception Architecture for Computer Vision》（CVPR-2016）
-
【WRNs】《Wide Residual Networks》（arXiv-2016）
-
【DenseNet】《Densely Connected Convolutional Networks》（CVPR-2017）
-
【Xception】《Xception: Deep Learning with Depthwise Separable Convolutions》（CVPR-2017）
-
【ResNext】《Aggregated Residual Transformations for Deep Neural Networks》（CVPR-2017）
-
【NasNet】《Learning Transferable Architectures for Scalable Image Recognition》（CVPR-2018）
-
【SENet】《Squeeze-and-Excitation Networks》（CVPR-2018）
-
【CBAM】《CBAM: Convolutional Block Attention Module》（ECCV-2018）
-
【Bilinear Pooling】《A Novel DR Classfication Scheme based on Compact Bilinear Pooling CNN and GBDT》（JIH-MSP-2018）
-
【SKNet】《Selective Kernel Networks》（CVPR-2019）
1.2 Compression
-
【Distilling】《Distilling the Knowledge in a Neural Network》（arXiv-2015, In NIPS Deep Learning Workshop, 2014）
-
【Comprssion】《Deep Compression：Compressing Deep Neural Networks with Pruning，Trained Quantization and Huffman Coding》（ICLR-2016 Best Paper）
-
【Distilling】《Learning Efficient Object Detection Models with Knowledge Distillation》（NIPS-2017）
-
【Mimic】《Mimicking Very Efficient Network for Object Detection》（CVPR-2017）
-
【Very Tiny】《Quantization Mimic: Towards Very Tiny CNN for Object Detection》（ECCV-2018）
-
【MobileNet】《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》（CVPR-2017）
-
【SqueezeNet】《SqueezeNet：AlexNet-Level accuracy with 50× fewer parameters and <0.5MB model size》（ICLR-2017）
-
【ShuffleNet】《ShuffleNet：An Extremely Efficient Convolutional Neural Network for Mobile Devices》（CVPR-2018）
-
【MobileNet V2】《MobileNetV2：Inverted Residuals and Linear Bottlenecks》（CVPR-2018）
-
【ShuffleNet V2】《ShuffleNet V2：Practical Guidelines for Efficient CNN Architecture Design》（ECCV-2018）
1.3 Object Detection
-
【OverFeat】《OverFeat：Integrated Recognition, Localization and Detection using Convolutional Networks》（ICLR-2014）
-
【RCNN】《Rich feature hierarchies for accurate object detection and semantic segmentation 》（CVPR-2014）
-
【SPP-net】《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》（ECCV-2014）
-
【Fast RCNN】《Fast-RCNN》（ICCV-2015）
-
【Faster RCNN】《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》（NIPS-2015）
-
【OHEM】《Training Region-based Object Detectors with Online Hard Example Mining》（CVPR-2016）
-
【SSD】《SSD：Single Shot MultiBox Detector》（ECCV-2016）
-
【YOLOv1】《You Only Look Once: Unified, Real-Time Object Detection》 （CVPR-2016）
-
【R-FCN】《R-FCN: Object Detection via Region-based Fully Convolutional Networks》（NIPS-2016）
-
【PVANet】《PVANET：Deep but Lightweight Neural Networks for Real-time Object Detection》（arXiv-2016）
-
【Light-Head RCNN】《Light-Head R-CNN: In Defense of Two-Stage Object Detector》（arXiv-2017）
-
【FPN】《Feature Pyramid Networks for Object Detection》（CVPR-2017）
-
【Mask RCNN】《Mask R-CNN》（ICCV-2017）
-
【Focal Loss】《Focal Loss for Dense Object Detection》（ICCV-2017）
-
【DetNet】《DetNet：A Backbone network for Object Detection》（arXiv-2018）
-
【USE】《Object detection based on deep learning for urine sediment examination》（Biocybernetics & Biomedical Engineering, 2018）
-
【R-FCN-3000】《R-FCN-3000 at 30fps: Decoupling Detection and Classification》（CVPR-2018）
-
【Cascade R-CNN】《Cascade R-CNN: Delving into High Quality Object Detection》（CVPR-2018）
-
【CornerNet】《CornerNet: Detecting Objects as Paired Keypoints》（ECCV-2018）
-
【Feature Pyramid】《Deep Feature Pyramid Reconfiguration for Object Detection》（ECCV-2018）
-
【CenterNet】《Objects as Points》（arXiv-2019）
-
【MoCo】《Momentum Contrast for Unsupervised Visual Representation Learning》（arXiv-2019）
-
【TridentNet】《Scale-Aware Trident Networks for Object Detection》（ICCV-2019）
-
【Up-Sampling】《CARAFE：Content-Aware ReAssembly of FEatures》（ICCV-2019）
-
【ThunderNet】《ThunderNet: Towards Real-time Generic Object Detection on Mobile Devices》（ICCV-2019）
-
【Matrix Nets】《Matrix Nets：A New Deep Architecture for Object Detection》（ICCV-2019 workshops）
-
【Libra R-CNN】《Libra R-CNN: Towards Balanced Learning for Object Detection》（CVPR-2019）
1.4 Segmentation
-
【U-Net】《U-Net：Convolutional Networks for Biomedical Image Segmentation》（MICCAI-2015）
-
【FCN】《Fully Convolutional Networks for Semantic Segmentation》（CVPR-215 best paper）
-
【Dilated Conv】《Multi-Scale Context Aggregation by Dilated Convolutions》（ICLR-2016）
-
【CenterMask】《CenterMask：Single Shot Instance segmentation with Point Representation》（CVPR-2020）
1.5 Face Detection
-
【DDFD】《Multi-view Face Detection Using Deep Convolutional Neural Networks》（ICMR-2015）
-
【IoU Loss】《UnitBox: An Advanced Object Detection Network》（ACM MM-2016）
-
【Face Detection】《Face Detection using Deep Learning: An Improved Faster RCNN Approach》（Neurocomputing-2018）
1.6 Point Detection
-
【Stacked Hourglass】《Stacked Hourglass Networks for Human Pose Estimation》（ECCV-2016）
-
【Knee Landmark】《KNEEL：Knee Anatomical Landmark Localization Using Hourglass Networks》（ICCVW-2019）
1.7 High Resolution
-
【YOLT】《You Only Look Twice: Rapid Multi-Scale Object Detection In Satellite Imagery》（CVPR-2018被拒）
-
【WSI】《Faster R-CNN-Based Glomerular Detection in Multistained Human Whole Slide Images》（MDPI-2018）
1.8 One Shot
-
【One Shot】《Siamese Neural Networks for One-shot Image Recognition》（ICML-2015）
-
【One Shot】《Matching Networks for One Shot Learning》（NIPS-2016）
1.9 Noisy Label
-
【Noise-Label】《Learning from Noisy Labels with Deep Neural Networks》（arXiv-2014）
-
【Noise-Label】《Training a Neural Network Based on Unreliable Human Annotation of Medical Images》（ISBI-2018）
2 期刊會議
常見的評審制度有單盲評審（single-blind）、雙盲評審（double-blind）和開放式評審（open review） 等。
- 單盲評審即評審人員對文章進行匿名評審，評審人員知道文章作者的信息。
- 雙盲評審即評審人和文章作者互相都不知道對方的信息，完全匿名。
- 開放式評審即所有提交的論文都會公開姓名等信息，並且接受所有同行的評價及提問（open peer review），任何學者都可匿名或實名評價論文。而在公開評審結束後，論文作者也能夠對論文進行調整和修改。
以下幾小段內容來自 2018年學術頂會：深度學習的江山如此多嬌
我們可以看到這些學術頂會的論文提交數量不斷增長，有些增幅甚至超 40%。那麼一年過去了，合格的論文評審人員的增幅是否趕得上論文的增幅呢？
答案顯而易見。今年 5 月，本科畢業生成爲 NeurIPS 2018 論文同行評審的事情引發爭議；7 月份，NeurIPS 2018 論文評審結果出來後，很多人吐槽評審意見不專業。幾天後，GAN 之父Ian Goodfellow 發推質疑同行評審機制的作用，他認爲同行評審導致 AI 頂會論文質量下降，而主要原因正在於評審人員水平不一。此前發表過「機器學習之怪現狀」的 Zachary Lipton 同意 Goodfellow 的看法，認爲同行評審機制的退化是機器學習怪現狀的原因之一。
除了 Ian Goodfellow、Zachy Lipton 以外，Geoff Hinton 前不久接受採訪時稱，現在的評審制度和既定路徑不利於創新性想法的提出和傳播，junior 論文評審者可能壓根無法理解創新性論文。關於此，國內學者也有類似看法，著名自然語言處理專家劉羣教授說過：「審稿的時候……通常比較 junior 的審稿人會更嚴厲一些，發現一些小問題就會傾向於給低分，而 senior 的審稿人反倒寬鬆一些，如果覺得論文確有可取之處，通常不會太計較一些小問題。」此前，南京大學周志華教授稱：「senior 知道論文價值就是那點新火花，有毛病沒關係。前沿研究要有長處，系統開發要無短處。」
2.1 期刊
-
PAMI
《IEEE Transactions on Pattern Analysis and Machine Intelligence》是人工智能、模式識別、圖像處理、計算機視覺領域的頂尖國際期刊之一，2016-2017年度影響因子爲8.329，屬於JCR TOP期刊，是計算機科學與人工智能領域的5個一區刊物之一。該雜誌覆蓋所有計算機視覺、圖像理解、模式分析與識別等傳統領域，以及部分機器智能領域，尤其強調模式分析的機器學習的前沿成果。 -
TMI
《IEEE Transactions on Medical Imaging》 (月刊，醫學圖像處理頂刊) -
MIA
《Medical Image Analysis 》(月刊，醫學圖像處理頂刊)
2.2 會議
-
AAAI （人工智能頂會，A類/年）
圍繞人工智能的研究與發展，吸引了全球的人工智能精英。 -
CVPR（計算機視覺頂會，A類/年）
《IEEE Conference on Computer Vision and Pattern Recognition》。這個會上除了視覺的文章，還會有不少模式識別的文章，當然兩方面的結合自然也是重點。 -
ECCV（計算機視覺頂會，B類/兩年）
《Europeon Conference on Computer Vision》，是一個歐洲的會議。雖然名字不是International，但是會議的級別不比前面兩個差多少。歐洲人一般比較看中理論，但是從最近一次會議來看，似乎大家也開始注重應用了，oral裏面的demo非常之多，演示效果很好，讓人賞心悅目、歎爲觀止。不過歐洲的會有一個不好，就是他們的人通常英語口音很重，有些人甚至不太會說英文，所以開會和交流的時候，稍微有些費勁。 -
ICCV（計算機視覺頂會，A類/兩年）
《International Comference on Computer Vision》，正如很多和他一樣的名字的會議一行，這樣最樸實的名字的會議，通常也是這方面最nb的會議。ICCV兩年一次，與ECCV正好錯開。 -
ICLR（深度學習頂會/年）
《International Conference on Learning Representations》國際學習表徵會議，2013 年，深度學習巨頭 Yoshua Bengio、Yann LeCun 主持舉辦了第一屆 ICLR 大會。經過幾年的發展，在深度學習火熱的今天，ICLR 已經成爲人工智能領域不可錯過的盛會之一。 -
ICML（機器學習頂會，A類/年）
《International Conference on Machine Learning》國際機器學習大會。ICML如今已發展爲由國際機器學習學會（IMLS）主辦的年度機器學習國際頂級會議。 -
IJCAI（人工智能國際聯合大會，A類/年）
《International Joint Conference on Artificial Intelligence》國際人工智能聯合會議，是人工智能領域的頂級綜合會議，原爲單數年召開，自2015年起改爲每年召開。 -
IPMI（醫學圖像處理頂會/兩年）
《Information Processing in Medical Imaging 》 -
MICCAI（醫學圖像處理頂會/年）
《International Conference on Medical Image Computing and Computer Assisted Intervention 》 -
NIPS（人工智能頂會，A類/年）
《Conference and Workshop on Neural Information Processing Systems》 神經信息處理系統大會
是一個關於機器學習和計算神經科學的國際會議。該會議固定在每年的12月舉行,由NIPS基金會主辦。
3 Speech / Course
- 【Paper material】
- 【Book Review】（私密）
- 【摘抄】英文（私密）
- 【摘抄】中文（私密）
- 【Andrew Ng】《Class of 2017 Sloan Fellows presents》
- 【周志華】新智元 AI World 2018 世界人工智能峯會
- 【National Treasure】
- 【Career Exploration and Selection】
- 【Romance of the Three Kingdoms】
4 Material
- AI自動摳圖
- 十分鐘快速理解DPI和PPI，不再傻傻分不清！
- 25個深度學習相關公開數據集
- PASCAL VOC2007 Database Statistics
- PASCAL VOC2012 Database Statistics
- 曠視南京研究院魏秀參：細粒度圖像分析綜述（「R Talk 」是曠視推出的一個深度學習專欄，將通過不定期的推送展示曠視科技的學術分享及階段性技術成果。「R」是 Research 的縮寫，也是曠視研究院的內部代號；而所有的「Talk」都是來自曠視的 Researcher。「R Talk 」旨在通過一場場精彩紛呈的深度學習分享，拋磚引玉，推陳出新，推動中國乃至全球領域深度學習技術的大發展。）
- 俞剛：我在曠視研究院做檢測
- Receptive Field Calculator
4.1 【Keras】Classification in CIFAR-10 系列連載
- 【Keras-LeNet】CIFAR-10
- 【Keras-AlexNet】CIFAR-10
- 【Keras-NIN】CIFAR-10
- 【Keras-VGG】CIFAR-10
- 【Keras-ResNet】CIFAR-10
- 【Keras-DenseNet】CIFAR-10
- 【Keras-Inception v1】CIFAR-10
- 【Keras-Inception v2】CIFAR-10
- 【Keras-Inception v3】CIFAR-10
- 【Keras-Inception v4】CIFAR-10
- 【Keras-Inception-resnet v1】CIFAR-10
- 【Keras-Inception-resnet v2】CIFAR-10
- 【Keras-MobileNet v1】CIFAR-10
- 【Keras-Xception】CIFAR-10
- 【Keras-SqueezeNet】CIFAR-10（上）
- 【Keras-SqueezeNet】CIFAR-10（下）