原创 LSTM用於元學習-"Learning to learn by gradient descent by gradient descent"-筆記詳解

Andrychowicz, Marcin, et al. “Learning to learn by gradient descent by gradient descent.” Advances in neural inform

原创 MAML模型無關的元學習方法

Notes of MAML Finn, C., Abbeel, P., & Levine, S. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep

原创 Learning to Learn without Gradient Descent by Gradient Descent論文解析(黑箱優化問題)

本篇論文屬於元學習和黑箱函數優化的交叉領域,其中將元學習的思想應用於黑箱函數優化。這篇論文發表於2017年。 對於黑箱函數優化方法我瞭解的不太多,因此本文的不可避免的會有一些理解不到位的地方。 想要了解貝葉斯優化和高斯過程的,可以

原创 Latex ulem包設置下劃線刪除線強調文本等效果

引言 今天在用IEEE的模板寫latex的時候,發現了一個問題:由\begin{algorithm}方法生成的僞代碼中原本默認應該是斜體的強調部分,發現最後顯示時被自動加了下劃線。 我調了十幾分鍾也沒有找到去除這些下滑線的辦法。後

原创 高斯過程是什麼?

本文譯自: Duane Rich 的文章Which is your favorite Machine Learning algorithm? 幾乎所有的有監督機器學習算法都專注於找到一個函數f()f()f(),這個函數是從特徵

原创 Pytorch批量數據讀取方法詳解: DataLoader

在訓練模型的過程中,我們需要不斷的讀取小批量的數據樣本。Pytorch提供了data包來讀取數據。接下來我將人工生成一些數據,然後使用data包來處理數據。 import torch import numpy as np '''

原创 Meta-Transfer Learning for Few-Shot Learning 元遷移學習論文解讀

我之前寫過一篇元遷移學習的論文筆記,一種遷移學習和元學習的集成模型。 但是本文的元遷移學習方法完全不同於上一篇論文。 Abstract 由於深度神經網絡容易對小樣本過擬合,所以元學習傾向於使用淺層神經網絡,但淺層神經網絡限制了模型

原创 一種遷移學習和元學習的集成模型

導言 本文提出了一種將遷移學習和元學習結合在一起的訓練方法。本文是論文A Meta-Learning Approach for Custom Model Training的筆記 介紹 傳統上我們需要很多的訓練數據才能訓練出一個好的

原创 貝葉斯優化如何工作?

本文來自,Duane Rich。Answer: Duane Rich, Researcher Scientist at Lyft 問題 目標是爲一些”昂貴的“函數找到近似最小值。這些函數接受一個實數向量xxx,然後計算很長時間

原创 Python的兩種debug方法

print大法固然好,但是在print大法不work的時候還有其他更炫酷的方法。那就是在代碼裏內置assert。在代碼中內置assert語句可以減少你的debug範圍。另一種方法就是在debug時使用pysnooper這個包。py

原创 對元學習的一些想法

我從去年年底開始被老闆拉入元學習的坑以來(後來發現他是拍腦袋決定的),陸陸續續地也讀過十來篇元學習領域的論文了,算是對這個領域有了一定的瞭解。 我原本是打算在剩下的時間裏在元學習領域深耕,以希望能有一些還過得去的成果。奈何元學習在

原创 Java定義可變參數

當我們向類中傳入不確定數量的參數時,這個時候就可以用類型...來定義可變參數。 Class Hello { private String[] names; public void setNames(String... name

原创 NLP中數據集的切割方法研究

NLP中數據集的切割方法研究 ACL 2019傑出論文獎: We need to talk about atandard splits 獲獎理由 本文質疑了評估NLP模型性能時公認且廣泛運用的方法。 本文使用詞性標註任務說明了問

原创 關係抽取入門級概覽

因爲課題組的需要,過去幾個月一直在學習強化學習和魯棒性算法。再加上忙於課題組中的一些工作,所以過去兩個月基本沒有什麼時間來寫博客。最近讀了不少強化學習和魯棒性算法方面的論文,也有一些小的收穫,等有時間再通過博客分享出來。今天分享的是我近期

原创 使用python3連接sql server

再寫爬蟲時有時候需要將數據存儲到數據庫中,以下是python與sql server 數據庫進行連接以及操作的方法。 首先需要根據自己的python版本去下載pymssql庫,然後打開自己的SQL Server 連接上服務器就可以了