原创 Pytorch中torch常用函數

torch.scatter(dim, index, src) scatter_: 直接修改原來的 Tensor PyTorch 中,一般函數加下劃線代表直接在原來的 Tensor 上修改 參數 dim:沿着哪個維度進行索引

原创 xavier解讀

基本思想 通過網絡層時,輸入和輸出的方差相同,包括前向傳播和後向傳播。 如果初始化值很小,那麼隨着層數的傳遞,方差就會趨於0,此時輸入值 也變得越來越小,在sigmoid上就是在0附近,接近於線性,失去了非線性。 如果初始值很

原创 GCN\GAT研究概述

文章目錄數據集官方數據集coraTHE DIRECTORY CONTAINS TWO FILESmini-batch思想GCN層與層之間的傳播方式GAT 數據集 官方數據集cora The Cora dataset consi

原创 Python標準庫:內置函數

filter(function, iterable) 本函數用來從一個迭代對象iterable遍歷所有元素,當每個元素作爲參數給函數function對象運行之後,判斷爲True的元素保留下來,而爲False的元素則跳過,即是達到過濾

原创 pytorch

https://blog.csdn.net/u012609509/article/details/81203436 torch.nn 專門爲神經網絡設計的模塊化接口. nn構建於autograd之上,可以用來定義和運行神經網絡。

原创 常識

一般把網絡中具有**可學習參數的層放在構造函數__init__()**中,不具有可學習參數的層(如ReLU)可放在構造函數中。

原创 FewRel解析

數據集解析 glove.5B.50d.json word to vector轉換表 訓練集test.json與驗證集val.json 驗證集分爲兩部分(***比例???***),以實現測試:sample a pair of inpu

原创 python基礎 —— 序列化與反序列化

JSON import json json.dumps() d = dict(name='Bob', age=20, score=88) json.dumps(d) # 返回一個str:'{"age": 20, "score":

原创 python基礎 —— 出錯處理

raise:報錯功能 raise NotImplementedError 在面向對象編程中,可以先預留一個方法接口不實現,在其子類中實現。如果要求其子類一定要實現,不實現的時候會導致問題,那麼採用raise的方式就很好。=》問題分類是

原创 Pipeline 管道模型:流水線

Pipeline 最初被用在Unix操作系統中; 主要解決:高內聚,低耦合的軟件設計目標; 以“鏈式”串接不同程序或組件,讓它們組成一條直線的工作流:給定一個完整輸入,經過各個組件的先後協同處理,得到唯一的最終輸出。

原创 python基礎 —— scipy模塊

scipy.misc scipy.misc.imread(name, flatten=False, mode=None): 讀取圖片 import scipy.misc b = scipy.misc.imread('/home/fil

原创 Python基礎 —— ZipFile模塊

zipfile模塊:zip格式編碼的壓縮和解壓縮 ZipFile和ZipInfo, 在絕大多數的情況下,我們只需要使用這兩個class就可以了。 ZipFile是主要的類,用來創建和讀取zip文件。 而ZipInfo是存儲的zip文件

原创 pthon基礎 —— OS模塊

os.walk() os.walk() 方法用於通過在目錄樹中游走輸出在目錄中的文件名,向上或者向下。 os.walk() 方法是一個簡單易用的文件、目錄遍歷器,可以幫助我們高效的處理文件、目錄方面的事情。 os.walk(top[,

原创 python基礎 —— argparse模塊

argparse模塊: 處理命令行參數 \ sys.argv[] 命令行參數 位置參數: ls root/ 選項參數(已經提前定義好的參數,不能隨意指定):ls -l steps 導入模塊 import argparse 創建一個解

原创 Transfomer

代碼:https://www.github.com/kyubyong/transformer 文件集合 hyperparams.py prepro.py data_load.py modules.py train.py eval.py