原创 [CVPR2020最佳論文詳細解讀] Unsupervised Learning of Probably Symmetric Deformable 3D Object

本文是基於CVPR2020最佳論文，來自牛津VGG組的吳尚哲學Unsup3D。除了中文的詳細解析外，我在作者的代碼基礎上，將可微分渲染模塊由原來的Neural Renderer替代爲Soft Rasterizer，取得的效果勉強

2020-07-01 19:24:53 34

原创 PyTorch學習筆記(18) ——基於pytorch 1.1.0編寫cuda擴展

0. 前言 對於一些特殊的算子, 我們需要進行定製其前向和反向的過程, 從而使得其能夠獲得更快的速度, 加速模型的訓練. 這樣, 我們自然會想到使用PyTorch的cuda擴展來實現, 這裏, 我將以一個簡單且易於理解的例子出發,

2020-06-21 07:05:04 2

原创 [PyG] 1.如何使用GCN完成一個最基本的訓練過程(含GCN實現)

0. 前言 爲啥要學習Pytorch-Geometric呢？(下文統一簡稱爲PyG) 簡單來說，是目前做的項目有用到，還有1個特點，就是相比NYU的DeepGraphLibrary, DGL的問題是API比較棘手，而且目前沒有遷移

2020-06-21 06:13:51 463

原创 PyTorch學習筆記(17) ——pytorch的torch.repeat和tf.tile的對比

0. 前言 在對比stylegan2的D_stylegan2的時候, 我需要校對我的Minibatch_stddev_layer和作者的tf版本的區別，其中，有一個算子f.tile, 網上已經介紹的很清楚了，將其翻譯爲pytorc

2020-06-21 06:13:51 34

原创 Voxceleb2 視頻數據集下載(國內鏈接)

最近需要用到voxceleb2的視頻數據集做點東西, 但是發現從官網下載實在太過於費勁, 好不容易下載下來, 將將近300GB的文件切片上傳至百度雲. 希望能對需要這個數據集做事情的童鞋有點幫助. ^.^ 1. 寫在前面 我們

2020-06-21 06:13:51 90

原创 Tensorflow② c++接口加載模型推理單張圖片

tensorflow的官網上提供很詳細的python教程，也確實很好用。但是，應用軟件產品大多用c/c++寫的。所以，大部分的應用都是用python來訓練模型，得到訓練好的模型後. 用c++調用tensorflow模型進行推理。

2020-06-07 18:33:28 2

原创 Tensorflow① 模型轉換 ckpt轉pb h5轉pb

此篇博客重在總結Tensorflow，Keras模型訓練的模型文件轉換爲pb結構的方式，節省尋找轉換工具的時間。 1. Tensorflow ckpt模型轉換pb模型 我們在Tensorflow中訓練出來的模型一般是ckpt格

2020-06-07 18:33:28

原创 PyTorch學習筆記(21) ——損失函數

0. 前言 本博客內容翻譯自紐約大學數據科學中心在2020發佈的《Deep Learning》課程的Activation Functions and Loss Functions 部分. 廢話不多說，下面直接開始吧 ^ . ^ 1

2020-05-04 02:20:44 13

原创 PyTorch學習筆記(20) ——激活函數

0. 前言 本博客內容翻譯自紐約大學數據科學中心在2020發佈的《Deep Learning》課程的Activation Functions and Loss Functions部分. 廢話不多說，下面直接開始吧 ^ . ^ 1.

2020-05-03 07:42:45 13

原创 PyTorch學習筆記(19) ——NIPS2019 PyTorch: An Imperative Style, High-Performance Deep Learning Library

0. 前言 波蘭小哥Adam Paszke從15年的Torch開始，到現在發表了關於PyTorch的Neurips2019論文(令我驚訝的是隻中了Poster？而不是Spotlight？)。中間經歷了漫長的過程。這裏，把原文進行翻

2020-03-02 07:18:03 4

原创 2017 LARS:LARGE BATCH TRAINING OF CONVOLUTIONAL NETWORKS (訓練大Batch的卷積神經網絡)

0. 寫在前面 前一段時間調研AI芯片在儘量保證準確率的情況下，如何快速訓練大規模數據集並分析其可行性。UC Berkeley的大佬尤洋[1]的這篇<LARS：LARGE BATCH TRAINING OF CONVOLUTION

2020-02-22 01:58:57

原创 如何構建一個大腦---爲工程師們介紹神經生理學.

日期: 2019.11.25 星期一 晚 作者: Julius Kunze (這個小夥是UCL博士, 我是看他寫了基於Jax的神經網絡框架而關注他的, 他的這個項目是屬於剛剛起步階段, 只有他自己1個人提交代碼.) 譯者: Sa

2020-02-22 01:58:57

原创 PyTorch學習筆記(15) ——PyTorch中的contiguous

本文轉載自栩風在知乎上的文章《PyTorch中的contiguous》。我覺得很好，特此轉載。 0. 前言 本文講解了pytorch中contiguous的含義、定義、實現，以及contiguous存在的原因，非contigu

2020-02-22 01:58:57 3

原创 機器翻譯評價指標BLEU介紹

原文鏈接：https://machinelearningmastery.com/calculate-bleu-score-for-text-python/ 最近需要設計一個機器翻譯相關

2019-08-28 22:29:41 760

原创 ON-LSTM：用有序神經元表達層次結構

原文鏈接：https://spaces.ac.cn/archives/6621 本文轉載自 蘇劍林[1]在科學空間上關於ON-LSTM非常好的解析, 中間加入一些細節的說明, 以期讀者

2019-08-23 05:44:38 7