台部落Titus

分類準確的線搜法：迭代次數確定。如二分法，插值法，黃金分割法，etc. 非準確的線搜法：在一階優化中用得較多，用於確定學習率（步長）。二分法如下圖，反覆交替確定上下界，終止條件是最終經過kkk次迭代後的上下界之間的距離

2020-06-22 11:56:03

理解ADMM, ALM和Split Bergman引言Alternating Direction Method of MultipliersAugmented Lagrangian Multipliers小結Splitt Breg

2020-06-22 11:56:03

梯度法分類上升與下降方向大家應該都聽過最陡梯度下降法。首先，“陡”與方向有關，既然是最陡，就存在不那麼“陡”的方向。在介紹最陡梯度下降法之前，先了解一下下降方向。這個時候高中學的地理知識可發揮用場了，“等高線”可以刻畫一座山

2020-06-22 11:56:03

回顧在講解牛頓法之前我們先回顧一下最速梯度下降法，泰勒展開與Hessian矩陣之間的關係。泰勒展開對於一元函數f(x)f(x)f(x)，在xxx處的泰勒展開爲： f(x+σ)=f(x)+f′(x)σ+12f′′(x)σ2+.

2020-06-22 11:56:03

接受字符串是在接收單個字符的基礎上，加上一個判別字符串接收完成標誌。（就如發送有一個發送完成標誌）

2020-06-02 02:58:36

本系列文章由Titus_1996 原創，轉載請註明出處。文章鏈接：https://blog.csdn.net/Titus_1996/article/details/82788989 本系列文章使用的教材爲《矩陣論》（第二版），楊明，

2020-06-02 02:58:36

ADMM結合了對偶更新和拉格朗日乘子的優缺點。對偶問題以凸等式約束優化問題爲例：目標函數：min⁡f(x)\min{f(x)}minf(x) subjectsubjectsubject tototo Ax=bAx=bAx=b

2020-04-25 02:57:46

最近在學習網絡架構搜索(NAS)，想把搜索出來的網絡結構顯示出來，但是報錯： (evince:199136): GVFS-WARNING **: can't init metadata tree /home/e509/.local/sh

2020-02-22 01:42:22

過擬合解決辦法：加數據特徵選擇/特徵提取（比如PCA）正則化正則化框架：常用的有兩種範數: L1正則是不存在解析解的，我們能求L2範數的目標函數：所以w爲：對目標函數求導，令其導數爲0：得w估計：

2019-09-26 21:08:37

在線性迴歸1：最小二乘法及其幾何意義這篇文章中我們給出了最小二乘估計的損失函數並推出了其閉合解，最後從幾何角度推出了與解析法同樣的結果。現在我們從概率的視角理解最小二乘法。先列出前面的結論：對於樣本來說，由於具有噪聲，不可能

2019-09-26 21:08:37

一最小二乘法法假設我們有以下樣本點：假設我們要擬合的直線爲：因此要擬合的直線可簡化爲：我們期望每個樣本點與所要擬合的直線距離最小。因此，應該對所有樣本點與擬合直線上的點的誤差之和最小，得最小二乘估計如下：連加符號

2019-09-26 21:08:36

#include <opencv2\highgui\highgui.hpp> #include <opencv2\imgproc\imgproc.hpp> #include <iostream> #include <string> u

2018-12-29 01:08:24

上一篇文章中介紹了GrabCut的交互性分割，在這篇文章中，實現了對圖像的自動分割。首先，在GrabCut的交互分割中，我們通過用戶自己畫框，來框出包含目標的區域。所以，只要我們能夠確定這個區域，再使用GrabCut算法就可以分割了

2018-12-27 00:39:06

引言 Grab Cut是在Graph Cut上進行改進的，相比後者，前者的新穎之處在於：迭代預測估計（iterative estimation）不完全標記（incomplete labelling）用戶可以通過較少的交互性標記，就可

2018-12-23 13:31:51

本系列文章由Titus_1996 原創，轉載請註明出處。文章鏈接：https://blog.csdn.net/Titus_1996/article/details/84377831 本系列文章使用的教材爲《矩陣論》（第二版），楊明，

2018-11-25 22:42:41