原创 NLP任務一些經驗總結
記錄下NLP任務一些經驗總結。 輸入 1、字向量編碼 2、詞向量編碼(如果可以根據語料自己訓練) 3、位置編碼，相對位置編碼或者w2v思路的位置編碼 4、對於字向量與詞向量如果要採用相加的形式組合在一起，可以把詞向量重複n詞，n表示的是當
2020-06-14 08:01:37
原创 知識蒸餾在推薦系統的應用
隨着深度學習的快速發展，優秀的模型層出不窮，比如圖像領域的ResNet、自然語言處理領域的Bert，這些革命性的新技術使得應用效果快速提升。但是，好的模型性能並非無代價的，你會發現，深度學習模型正在變得越來越複雜，網絡深度越來越深，模型參
2020-06-14 08:01:26
原创 Embedding入門必讀的十篇論文
第一部分 Word2vec基礎 1. [Word2Vec] Efficient Estimation of Word Representations in Vector Space (Google 2013) Google的Tomas M
2020-06-14 08:01:26
原创 ACL2020信息抽取相關論文彙總
一、 Entity 相關 （NER & Entity Typing & Entity Linking）主要涉及詞彙增強、低資源、跨領域、跨語言、多模態、表示學習。 A Unified MRC Framework for Named En
2020-06-14 08:01:26
原创 常用Matplotlib圖的Python代碼
分享給大家25個Matplotlib圖的彙總，在數據分析和可視化中非常有用，文章較長，可以馬起來慢慢練手。 # !pip install brewer2mpl import numpy as np import pandas as pd
2020-06-14 08:01:26
原创 NLP論文多個領域經典、頂會、必讀整理分享及相關解讀博客分享
持續更新收集*** 1、Bert系列 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding - NAACL 2019) ERNIE
2020-06-14 08:01:26
原创 keras/tensorflow 使用flask部署服務的常見錯誤的解決辦法
本文主要列舉了在用keras/tensorflow訓練好模型後，使用flask部署服務時的兩個常見錯誤及一次性解決辦法。 類型1、ValueError: Tensor Tensor(“dense_1/Softmax:0”, shape=(
2020-05-12 11:46:29
原创 2020 NLP算法面試必備！NLP預訓練模型的全面總結
轉自:https://zhuanlan.zhihu.com/p/115014536 預訓練模型(Pre-trained Models,PTMs)的出現將NLP帶入了一個全新時代。2020年3月18日，邱錫鵬老師發表了關於NLP預訓練模型的
2020-04-28 17:09:18
原创 如何選擇迴歸損失：MAE還是MSE？
在做迴歸建模相關任務時，最常用評價指標是MAE、MSE、RMSE中的一個或多個，但如何根據自己的具體任務場景(數據分佈)選擇更合適的模型評估指標指標呢？這裏我們就要需要弄明白MAE與MSE之間到底有什麼不同。 1、什麼是MAE MAE(m
2020-04-28 17:09:08
原创 最漂亮的TensorFlow 2 教程及深度學習入門指南
爲大家推薦一份清華大神製作的非常棒的tensorflow2教程簡單粗暴TensorFlow 2.0 或者https://tf.wiki/ 目錄大綱 通俗易懂的講解 代碼風格一覽
2020-03-24 21:36:19
原创 《動手學深度學習》TensorFlow2.0版本
對於剛入門深度學習的童鞋，這裏分享下大神們開源的將《動手學深度學習》 原書中MXNet代碼實現改爲TensorFlow2.0實現，歡迎入坑，這是一個非常棒的入門手冊，github代碼。 目錄 簡介 閱讀指南 1. 深度學習簡介 2. 預備
2020-03-24 21:36:19
原创 機器學習模型持續部署(基於Flask, Docker, Jenkins 和 Kubernets )
本文主要介紹部署機器學習模型的一種自動化方式，如題所示，通過 Flask，Docker, Jenkins 和 Kubernets 實現。基本原理就是通過 Flask 提供 RESTful API 接收客戶端的 predict 請求，然後將
2020-03-09 17:19:32
81
原创 UniLM：基於bert的Seq2Seq
論文地址：Unified Language Model Pre-training for Natural Language Understanding and Generation 概述： UniLM是微軟研究院在Bert的基礎上，最
2020-02-23 22:46:23
原创 深度學習中Mask的基本原理
原文鏈接：https://spaces.ac.cn/archives/6810 Mask的主要目的：排除在padding後對後續處理帶來的影響！ mask是伴隨這padding出現的，因爲神經網
2019-10-26 06:22:39
27
原创 BERT的[CLS]有什麼用
[CLS]就是classification的意思，可以理解爲用於下游的分類任務。 主要用於以下兩種任務： 單文本分類任務：對於文本分類任務，BERT模型在文本前插入一個[CLS]符號，並將該符號對應的輸出向量作爲整篇文本的語義表示，用於文
2019-10-26 06:22:39
1