原创 Pytorch DistributedDataParallel(DDP)教程二:快速入門實踐篇

一、簡要回顧DDP 在上一篇文章中,簡單介紹了Pytorch分佈式訓練的一些基礎原理和基本概念。簡要回顧如下: 1,DDP採用Ring-All-Reduce架構,其核心思想爲:所有的GPU設備安排在一個邏輯環中,每個GPU應該有一個左鄰和一

原创 Pytorch DistributedDataParallel(DDP)教程一:快速入門理論篇

一、 寫在前面 隨着深度學習技術的不斷髮展,模型的訓練成本也越來越高。訓練一個高效的通用模型,需要大量的訓練數據和算力。在很多非大模型相關的常規任務上,往往也需要使用多卡來進行並行訓練。在多卡訓練中,最爲常用的就是分佈式數據並行(Distr

原创 Python2同時輸出中文和變量時中文亂碼

Python2同時輸出中文和變量時中文亂碼 一、問題描述 最近在學習tensorflow時,突然發現一個問題,python2在輸出中文和變量時會出現一點問題,如下圖: 可以看到,輸出並不是想要的結果,期望輸出應該是:你好88 二、解決辦法

原创 Spring進階案例之註解和IoC案例

Spring進階案例之註解和IoC案例 一、常見的註解分類及其作用 從此前的基於xml的IoC開發案例和依賴注入案例中,我們可以將xml配置歸納爲: <bean id="" class="" scope="" init-method = "

原创 人臉識別學習筆記三:強化篇

一、MTCNN原理 1.MTCNN的推理流程 MTCNN包括三個階段:在第一階段,通過一個淺層的CNN網絡來快速生成檢測窗口作爲第二階段的輸入。第二額極端,通過一個更復雜的CNN網絡來剔除大量非面部窗口,以達到細化候選窗口的目的。第三階段,

原创 Spring升級案例之IOC介紹和依賴注入

Spring升級案例之IOC介紹和依賴注入 一、IOC的概念和作用 1.什麼是IOC 控制反轉(Inversion of Control, IoC)是一種設計思想,在Java中就是將設計好的對象交給容器控制,而不是傳統的在對象內部直接控制。

原创 人臉識別學習筆記二:進階篇

一、人臉檢測實戰 1.使用OpenCV進行人臉檢測 OpenCV進行人臉檢測使用的是名爲 Viola-Jones 的目標檢測框架的算法。 第一步:下載OpenCV庫 pip install opencv-python -i https://

原创 人臉識別學習筆記一:入門篇

一、人臉識別概述 1.人臉識別的困難之處 不同個人之間的區別不大:大部分人臉的結構都很相似,甚至人臉器官的結構外形都很相似。 人臉的外形很不穩定:人的面部表情多變,不同的觀察角度、光照條件等都會影響人臉的視覺圖像。 2.人臉識別的典型流

原创 機器學習之迴歸篇(一)

機器學習之迴歸篇(一) 一、綜述 ​ 迴歸就是從一組數據出發,確定某些變量之間的定量關係式,也就是建立數學模型並估計未知參數。迴歸的目的是預測數值型的目標值,它的目標是接受連續數據,尋找最適合數據的方程,並能對特定的值進行預測。其中所尋求的

原创 mybatis升級案例之CRUD操作

mybatis升級案例之CRUD操作 一、準備工作 1.新建maven工程,和入門案例一樣 主要步驟如下,可參考mybatis入門實例 a.配置pom.xml文件 b.新建實例類User、DAO接口類IUserDao c.新建主配置文件Sq

原创 java反射機制

Java反射機制 一、反射機制綜述 在java中,反射是一個功能強大且複雜的機制,許多框架的底層技術和原理都與反射技術有關。因此使用反射技術的主要人員是工具構造者,而不是應用程序員。利用反射機制,我們可以用來: 1.在運行時查看對象 2.在

原创 mybatis入門實例

一、mybatis環境搭建 1.創建maven工程配置環境 打開IDEA ,File->New->Project,右邊選擇Maven,左邊不要勾選任何東西,點擊next,輸入項目名稱即可。 在pom.xml文件中添加如下內容:packag

原创 mybatis入門案例分析

mybatis入門案例分析 一、設計模式分析 public class MybatisTest { public static void main(String[] args) throws Exception{ /

原创 線性迴歸之最小二乘法

線性迴歸之最小二乘法 1.最小二乘法的原理 最小二乘法的主要思想是通過確定未知參數\(\theta\)(通常是一個參數矩陣),來使得真實值和預測值的誤差(也稱殘差)平方和最小,其計算公式爲\(E=\sum_{i=0}^ne_i^2=\sum

原创 線性迴歸之梯度下降算法

線性迴歸之梯度下降法 1.梯度的概念 梯度是一個向量,對於一個多元函數\(f\)而言,\(f\)在點\(P(x,y)\)的梯度是\(f\)在點\(P\)處增大最快的方向,即以f在P上的偏導數爲分量的向量。以二元函數\(f(x,y)\)爲例,