原创 理解Jacobian矩陣與分佈變換

理解Jacobian矩陣 本文主要是以下教程的一個整理: Khan-academy: The Jacobian matrix 可能有錯,歡迎指正。 Locally Linear 我們考慮一下簡單的函數: f([xy])=[x+si

原创 無痛理解梯度下降

理解梯度下降 梯度下降的公式相信大家都耳熟能詳: θ=θ−λ∂f(x;θ)∂θ \theta=\theta-\lambda \frac{\partial f(x;\theta)}{\partial \theta} θ=θ−λ∂θ∂

原创 使用SVD來求解優化問題最優值以及求解PCA

使用SVD來求解優化問題最優值 假設我們想要求解如下問題: R∗=argmax⁡R∑i=1nqiTRpi=∑i=1ntr(QTRP)ii=tr(QTRP) R\mathbf{^{*}} =\underset{R}{\operato

原创 理解意向性分析(intention-to-treat, ITT)

我們在做臨牀干預試驗的時候,出於道德的考慮一般不會“強制”讓病人接受某個隨機分配的治療方案,而是採用“建議”的方法,允許病人拒絕,那麼如果我們分析的時候,就按隨機分配來分析,而不管是不是真的接受了治療方案,就是本文的intenti

原创 Propensity score簡介

預測causal effect的標準做法是做隨機試驗,但是這種隨機試驗通常很難完成,比如要預測吸菸與肺癌的因果效應,那麼就必須隨機讓一部分人強制抽菸(treatment=抽菸),讓另一部分人強制不抽菸(treatment=不抽菸)

原创 概率隱語義分析(Probabilistic Latent Semantic Analysis, PLSA)

Probabilistic Latent Semantic Analysis PLSA來自於一篇1999年UAI的一篇文章,他研究的是一下概率圖: 其中d表示document,z是隱變量,表示潛在的語義,w是表示詞word。從獨

原创 芝加哥頂級英語寫作指南:Style Toward clarity and grace

文章目錄StyleClarity(清晰)NominalizationUseful Nominalization小心 Noun+Noun+NounCohesion(銜接)TopicsMetadiscourse小結StressThem

原创 mendeley實現遷移數據到新電腦

首先要實現遷移功能請使用舊版mendeley!從19版開始mendeley就對數據庫進行加密沒法對數據庫進行操作,從而無法實現離線遷移。因此,本人一直使用的是17版的mendeley,下載地址: https://desktop-d

原创 使用Docker管理你的生產環境

文章目錄介紹Docker-CE安裝Nvidia-docker 安裝阿里雲加速使用阿里雲docker倉庫同步鏡像常用命令配置用戶分組,免除sudo煩惱查看版本運行鏡像使用-v掛載本機文件使用-p 映射端口顯示所有Docker ima

原创 獨立成分分析FastICA算法原理

獨立成分分析FastICA算法原理 首先對於d維的隨機變量x∈Rd×1\displaystyle \mathbf{x} \in R^{d\times 1}x∈Rd×1,我們假設他的產生過程是由相互獨立的源s∈Rd×1\displa

原创 主成分分析(PCA),概率主成分分析(PPCA)和因子分析(FA)的區別?

介紹 在PCA中,有一份樣本爲n,維度爲d的數據X∈Rn×d\displaystyle X\in \mathbb{R}^{n\times d}X∈Rn×d,我們希望降維,於是: X≈ZWT X\approx ZW^{T} X≈ZW

原创 置換矩陣也能求導優化

置換矩陣也能求導優化 本文是對論文 Learning Latent Permutations with Gumbel-Sinkhorn Networks的閱讀筆記。 很多時候我們都希望學習一個置換矩陣(permutation

原创 標準化流(Normalizing Flow)

Normalizing Flow flow的核心思想就是這個分佈變換的公式,如果y=f(x)\displaystyle y=f( x)y=f(x),且f\displaystyle ff是可逆的,則 px(x)=py(f(x))∗∣

原创 速查:卷積核參數計算公式

文章目錄卷積公式沒有padding,且s=1有padding,且s=1Half (same) paddingFull padding沒有padding,s>1有padding,s>1Pooling 公式反捲積公式沒有padding

原创 卡爾曼濾波(Kalman Filter)

爲什麼需要卡爾曼濾波? 看上圖,這其實是一個典型的測量模型,我們設y是觀測到的值,x是隱變量。舉個例子,x表示火箭燃料溫度,可惜的是,燃料內部的溫度太高,我們沒有辦法直接測量,只能測量他火箭外圍的溫度y,因此每一步的測量都伴隨着