原创 深入淺出騰訊BERT推理模型--TurboTransformers

Overview TurboTransformers是騰訊最近開源的BERT推理模型,它的特點就是一個字,快。本人用BERT(huggingface/transformers)在V100上做了測試,測試結果和官宣的基本一致:Tu

原创 深入淺出PyTorch(算子篇)

Tensor 自從張量(Tensor)計算這個概念出現後,神經網絡的算法就可以看作是一系列的張量計算。所謂的張量,它原本是個數學概念,表示各種向量或者數值之間的關係。PyTorch的張量(torch.Tensor)表示的是N維矩

原创 深入淺出Transformer

Transformer Transformer是NLP的顛覆者,它創造性地用非序列模型來處理序列化的數據,而且還獲得了大成功。更重要的是,NLP真的可以“深度”學習了,各種基於transformer的模型層出不窮,如BERT、G

原创 【論文解讀】Concurrent Spatial and Channel `Squeeze & Excitation' in Fully Convolutional Networks

Paper 這篇論文提出了一種稱爲scSE(Concurrent Spatial and Channel `Squeeze & Excitation’) block的神經網絡,它可以應用在CNN的任意層,用於增強CNN編碼空

原创 【Predict Future Sales】玩轉銷量預測 part2

本文是【Predict Future Sales】用深度學習玩轉銷量預測的續集,主要介紹另一個強大的機器學習算法–隨機森林(Random Forest,下文簡稱RF)在銷量預測實例中的應用。github: https://githu

原创 搞定目標檢測(SSD篇)(下)

搞定目標檢測(SSD篇)(上)主要分析了目標檢測的基本原理和技術侷限,本文將繼續上集的未盡事宜,詳解如何使用SSD搞定目標檢測。先打個預防針,本文的內容會比較燒腦,最好結合代碼和論文來理解,而且本文的閱讀前提是默認你已經掌握了上集的

原创 搞定目標檢測(SSD篇)(上)

目標檢測(Object Detection)的任務是找出圖像中所有感興趣的目標(物體),確定它們的位置和大小。由於各類物體有不同的形狀、大小和數量,加上物體間還會相互遮擋, 因此目標檢測一直都是機器視覺領域中最具挑戰性的難題之一。

原创 用Unet實現圖像分割(by pytorch)

Segmentation Figure1來自CamVid database,專爲目標識別(Object Dection)和圖像分割(Image Segmentation)提供訓練數據的網站。從圖中可以看出,segmentation將

原创 【Kaggle Quick, Draw!】塗鴉識別,AI與你同在

Quick, Draw!是Google推出的一款很好玩的AI塗鴉遊戲,玩家需要在20秒內畫出指定內容,例如鴨子、冰箱、蘋果等,它的神經網絡會實時識別你的塗鴉。 最近Google在kaggle上發佈了優化QuickDraw預測識別能力

原创 【Predict Future Sales】用深度學習玩轉銷量預測

Kaggle上發佈過各種類型的數據科學比賽中,以forecast類型的比賽佔比最大、單場參賽人數最多,是kaggle的金牌大戶,其內容包括像預測某公司/產品未來幾月的收入/銷量、預測商品的目標人羣、根據大數據評估預測用戶的還貸風險等

原创 CNN: 1x1卷積層的精妙之處

現在各種神經網絡都會用到1x1 conv,它到底起到什麼作用呢?要回答這個問題,先從最經典的Inception模型說起,Figure 1是Inception-ResNet-v2的block架構圖。 作用一:改變矩陣維度 block

原创 Style Transfer--AI在繪畫領域上的應用

Part 1: Style Transfer是AI將不同風格和內容結合在一起從而創造出新藝術作品的技術。如Figure 1所示,將相機拍攝下的街景照片分別與梵高的《星空》、蒙克的《尖叫》以及透納的《牛頭人的沉船》結合在一起,創造出對

原创 你真的明白神經網絡是什麼?

前兩天有網友找我,讓我解釋下神經網絡到底是什麼東東。這位朋友他學習了吳恩達大神的深度學習課程,對神經網絡、神經元、激活函數、損失函數等都有所瞭解,他以爲自己已經搞懂了什麼是AI,但細想之下發現自己竟然連神經網絡的概念都講不清楚。 對