原创 復旦大學邱錫鵬教授:NLP預訓練模型綜述 Pre-trained Models for Natural Language Processing: A Survey

復旦大學邱錫鵬教授:NLP預訓練模型綜述 文章目錄01 引言02 背景2.1 語言表示學習2.2 神經上下文編碼器2.3 爲什麼要預訓練?2.4 NLP的預訓練任務的簡單歷史2.4.1 第一代預訓練:預訓練詞嵌入2.4.2 第二代

原创 解決報錯 ERROR: Command errored out with exit status 1: python setup.py egg_info

當執行 pip install bcolz -i https://pypi.tuna.tsinghua.edu.cn/simple 報錯!ERROR: Command errored out with exit status 1: py

原创 mac登錄mysql以及忘記密碼

忘記密碼時: 第一步: 關閉mysql服務: 蘋果->系統偏好設置 最下邊點mysql 在彈出頁面中 關閉mysql服務(點擊stop mysql server) 第二步: 進入終端輸入:cd /usr/local/mysq

原创 github上.md文件自動加上目錄

https://blog.csdn.net/qq_20009015/article/details/84728963 有效 三個指令 curl https://raw.githubusercontent.com/ekalinin/

原创 mac 下配置vscode書寫latex及模板

預先裝好: 先安裝好 MacTex 和 VSCode 打開 VSCode,安裝 latex workshop 插件 安裝mactex 安裝mactex太大了,所以我選擇 BasicTex。但是後來用basictex發現它使用起

原创 從gpu上建立自己的虛擬環境開始,到使用 tensortboard查看運行情況

建立虛擬環境 下面指令是用python自帶的指令建立的虛擬環境: python3 -m venv [起個虛擬環境名字] source 虛擬環境名字/bin/activate 進入我的虛擬環境: source grqenv3/bi

原创 網頁查重算法Shingling和Simhash和bloom filter研究

網頁查重算法Shingling和Simhash和bloom filter研究 在網頁查重算法中 shingling 和 simhash 被認爲是當前最好的兩個算法。 shingling算法 shingling算法用於計算兩個文檔的

原创 網易雲課堂-C語言入門 - 複習

課程來源於網易雲課堂,浙江大學,翁愷老師的C語言課程。 C語言需要注意的點:   4-2 (1)(3)素數 4-3(2)輾轉相除法求最大公約數 4-3(3)整數分解 5  函數 但是我試驗了一下,如果要求返回值是in

原创 網易雲課堂 - JAVA語言 學習筆記(第一週)

課程來自網易雲課堂,浙江大學,翁愷老師講解內容。 持續更新。 第一週:用程序來做計算 1.1第一個程序。 前兩個視頻是在windows、mac上安裝軟件配置。第三個視頻講解輸出hello world。 1.2用變量做計算 關於輸入輸出

原创 Transformer結構

文章目錄Transformer結構0. RNN的缺點1. 整體結構域2. Encoder部分2.1. multi-head-Attention層2.1.1 插入講解self-attention2.1.2. 回到多頭2.2. 全連接

原创 論文閱讀筆記 A Brief Introduction to Statistical Shape Analysis

A Brief Introduction to Statistical Shape Analysis 點擊下載論文全文 Contents 1 Introduction 2 2 Shapes and Landmarks 2 3 Shape

原创 Overview of Fingerprinting Methods for Local Text Reuse Detection

Overview of Fingerprinting Methods for Local Text Reuse Detection 摘要 在簡要介紹了主要的文本重用檢測方法之後,我們從信息檢索的角度介紹了指紋算法的一般原理。 調查

原创 ERROR: No matching distribution found for botocore 1.17.0,=1.16.19 boto3-pytorch_transformer

(> < 天哪 爲什麼要欺負我這種小菜雞) 報錯信息: ERROR: No matching distribution found for botocore<1.17.0,>=1.16.19 (from boto3->pytorch_tr

原创 BERT(Bidirectional Encoder Representation from Transformers)及其發展史

文章參考了比較多博客,直接想了解bert的,可以直接看 2.Bert細則 文章目錄1. word2vec,ELMo,BERT亮點與區別1.1 發展史word2vec——>ELMoELMo——>BERT1.2. Elmo優點不足1.

原创 angular一個錯誤,關於一個module對應多個controller

 第一個bug,多控制器下,關於是否統一寫一個 app=angular.module 的問題. 看下面代碼中:被註釋掉的是正常的,沒註釋的就出錯,他倆寫法有一點點不一樣,所以我在程序中的寫法是類似於沒註釋的這種,因此就得只有一個app。