原创 60分鐘教你上手PyTorch + 遷移學習

                  什麼是PyTorch? Autograd: 自動求導 PyTorch神經網絡簡介 訓練一個分類器 通過例子學PyTorch 使用Numpy實現三層神經網絡 使用Tensor來實現三層神經網絡 實現aut

原创 後BERT時代

目錄 一、遷移學習與模型預訓練:何去何從         遷移學習分類         何去何從 現狀分析 未來可期 二、各類代表性工作 有監督模型預訓練:CoVe 自監督學習同時訓練:CVT 無監督模型預訓練 ELMo ULMFiT &

原创 時序算法研究系列之Prophet安裝(準備篇)

前言 新開一個關於時序數據預測算法的系列博客。計劃整理目前的時序數列的預測方法、原理、應用、心得等。 其中Prophet因爲在安裝時候踩了很多雷,所以專門開一個準備篇寫安裝過程,下一篇講述具體應用。 目錄 前言 Prophet 簡介 方

原创 60分鐘帶你瞭解ALBERT

ALBERT原文:《ALITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS》 中文預訓練ALBERT模型來了:小模型登頂GLUE,Base版模型小10倍速度

原创 60分鐘教你實現Chatbot(基於pytorch)

本教程會介紹使用seq2seq模型實現一個chatbot,訓練數據來自Cornell電影對話語料庫。對話系統是目前的研究熱點,它在客服、可穿戴設備和智能家居等場景有廣泛應用。 傳統的對話系統要麼基於檢索的方法——提前準備一個問答庫,根據用

原创 60分鐘教你上手PaddleHub

  PaddleHub 介紹   PaddleHub 是基於 PaddlePaddle 開發的預訓練模型管理工具,可以藉助預訓練模型更便捷地開展遷移學習工作,旨在讓 PaddlePaddle 生態下的開發者更便捷體驗到大規模預訓練模型的

原创 一文讀懂BERT(原理篇)

一文讀懂BERT(原理篇) 2018年的10月11日,Google發佈的論文《Pre-training of Deep Bidirectional Transformers for Language Understanding》,

原创 一本讀懂BERT(實踐篇)

目錄 一、什麼是BERT? 二、BERT安裝 三、預訓練模型 四、運行Fine-Tuning 五、數據讀取源碼閱讀 (一) DataProcessor (二) MrpcProcessor 六、分詞源碼閱讀 (一)FullTokenizer

原创 一文教你實戰CuPy:提速Numpy數百倍!

Numpy 的速度已經較 Python 有了很大的提升。尤其出現大量 for-loops 循環時,可以將數據處理移入 Numpy 並實現其向量化最高速度處理。 但Numpy 加速只是在 CPU 上實現的。由於消費級 CPU 通常只

原创 pycharm activation code 激活碼(親測可用)

  Pycharm 激活碼: YZVR7WDLV8-eyJsaWNlbnNlSWQiOiJZWlZSN1dETFY4IiwibGljZW5zZWVOYW1lIjoiamV0YnJhaW5zIGpzIiwiYXNzaWduZWVOYW1lI

原创 idea activation code 激活碼(親測可用)

9MWZD5CC4E-eyJsaWNlbnNlSWQiOiI5TVdaRDVDQzRFIiwibGljZW5zZWVOYW1lIjoiMjAxNzY1MDYxQGNxdS5lZHUuY24gLiIsImFzc2lnbmVlTmFtZSI6

原创 Facebook 時間序列預測算法 Prophet 研究(準備篇)

前言 新開一個關於時序數據預測算法的系列博客。計劃整理目前的時序數列的預測方法、原理、應用、心得等。 其中Prophet因爲在安裝時候踩了很多雷,所以專門開一個準備篇寫安裝過程,下一篇講述具體應用。 目錄 前言 Prophet 簡介 方

原创 XLNet概述

這兩天,XLNet貌似也引起了NLP圈的極大關注,從實驗數據看,在某些場景下,確實XLNet相對Bert有很大幅度的提升。就像我們之前說的,感覺Bert打開兩階段模式的魔法盒開關後,在這條路上,會有越來越多的同行者,而XLNet就是其中比

原创 BERT時代與後時代的NLP

目錄 一、遷移學習與模型預訓練:何去何從 遷移學習分類 何去何從 現狀分析 未來可期 二、各類代表性工作 有監督模型預訓練:CoVe 自監督學習同時訓練:CVT 無監督模型預訓練 ELMo ULMFiT & SiATL GPT/GPT-2

原创 一文教你成爲TFboys (TensorFlow入門篇)

TensorFlow越來越成爲深度學習領域最火的框架之一,本文會簡要的介紹TensorFlow的基本概念,並通過一個簡單的線性迴歸介紹這些概念的實際使用。讓我們一起學習如果修煉成爲一個TFboys吧~~~ 目錄 一、Tensorflow