原创 雅克比(Jacobian)矩陣及其在神經網絡梯度計算中的應用

資料 《Jacobian矩陣和梯度矩陣》 《Computing Neural Network Gradients》(PDF) 《Derivatives, Backpropagation, and Vectorization》(PDF)

原创 自動駕駛通信中間件

對不同自動駕駛系統所用的通信中間件比較感興趣。但直接相關的資料比較少。最近看了兩篇比較早的論文,大致先總結下里面的內容,之後再逐漸往上補充內容。 爲什麼需要通信中間件 現代基本的軟件設計原則是模塊化。模塊化可以提高可維護性、代碼重用性並隔

原创 各種歸一化層(BatchNorm、LayerNorm、InstanceNorm、GroupNorm)及其Pytorch實現

BN,LN,IN,GN從學術化上解釋差異:BatchNorm:batch方向做歸一化,算NHW的均值,對小batchsize效果不好;BN主要缺點是對batchsize的大小比較敏感,由於每次計算均值和方差是在一個batch上,所以如果

原创 交通流仿真建模 | 由數據驅動的建模方法

本節主要介紹基於數據驅動的交通流建模方法,主要包括真實數據收集和建模方法兩個方面。 真實數據收集 交通傳感器有幾種形式[lbh10,Led08]。舉幾個例子,一個固定的傳感器是感應環探測器,它通常被放置在高速公路和主要道路上,記錄每輛經過

原创 Linux中批量命名文件名的6種方法

Method 1 – Using mmv The mmv utility is used to move, copy, append and rename files in bulk using standard wildcards in

原创 通俗理解隱馬爾可夫模型(HMM)

必要的數學知識 1.聯合概率與邊緣概率 聯合概率是指多維隨機變量中同時滿足多個變量時候的概率,也就是共同發生的概率。A,B的聯合概率通常寫成 P(A∩B)或 P(AB)或  P(AB)。對於離散的變量,聯合概率可以用表格形式表示或者求和表

原创 編程語言知識

前言 計算機只能識別機器語言(0和1),如11000000 。但是,我們的程序猿們不能直接去寫01這樣的代碼,所以,要想將程序猿所開發的代碼在計算機上運行,就必須找工具來翻譯成機器語言,這個工具就是我們常常所說的編譯器或者解釋器。

原创 CV領域深度學習用開源數據集大全

                                      項目1:Yet Another Computer Vision Index To Datasets (YACVID) 網址:http://riemenschnei

原创 pytorch正確測試代碼在cuda運行時間---torch.cuda.synchronize()

正確測試代碼在cuda運行時間,需要加上torch.cuda.synchronize(),使用該操作來等待GPU全部執行結束,CPU纔可以讀取時間信息。   兩種測試時間的方式   第一種: start = time.time() re

原创 python CSV、JSON文件讀寫及pickle序列化使用筆記

  一、CSV使用 1 CSV文件讀取 逗號分隔值(Comma-Separated Values,CSV,有時也稱爲字符分隔值,因爲分隔字符也可以不是逗號),其文件以純文本形式存儲表格數據(數字和文本)。純文本意味着該文件是一個字符序列,

原创 pytorch中的StableBCELoss-----深度學習中的數值穩定性問題一例

 一、傳統的BCELoss(二元交叉熵 ) 1 交叉熵 先來看下信息論中交叉熵的形式     交叉熵是用來描述兩個分佈的距離的,神經網絡訓練的目的就是使 g(x) 逼近 p(x)。 2 二元交叉熵(BCE)與多元交叉熵區別 交叉熵損失函

原创 pytorch使用GPU or CPU

零、常用命令   1、查看gpu是否可用 torch.cuda.is_available() 2、查看gpu數量 torch.cuda.device_count() 3、查看當前gpu號 torch.cuda.current_d

原创 Pytorch源碼理解: RNNbase LSTM

 0.Pytorch中LSTM 的使用方法 LSTM使用方法: lstm=nn.LSTM(input_size, hidden_size,num_layers) output,(hn,cn)=lstm(x,(h0,c0)) 各參數的s

原创 Python詳解可迭代對象(Iterable)、序列(Sequence)、迭代器(Iterator)、生成器(generator)

一篇文章徹底瞭解 可迭代對象(Iterable)、序列(Sequence)、迭代器(Iterator)、生成器(generator)。 閱讀本文不知道需要幾分鐘,但你真的能徹底弄懂這幾個概念 可迭代對象(Iterable) 網上看了很

原创 PyQt 中實例講解對__init__(self,parent==None)中的 parent理解

parent作用 在PyQt中,所有class都是從QObject派生而來,QWidget對象就可以有一個parent。這種parent-child關係主要用於兩個方面: 沒有parent的QWidget類被認爲是最上層的窗體(通常是Ma