原创 概率論及數理統計（1）：基礎知識
原文鏈接：https://www.cnblogs.com/1024th/p/10623541.html 一、有關排列組合的一些基本公式及推導 分類計數原理：做一件事，有nn類辦法，在第11類辦法中有m1m1種不同的方法，在第22類辦法
2020-07-02 01:22:47
原创 深度學習知識點（3）：優化改進版的梯度下降法
目錄 1、Adagrad法 2、RMSprop法 3、Momentum法 4、Adam法 參考資料： 發展歷史簡括： 標準梯度下降法的缺陷： 如果學習率選的不恰當會出現以上情況。 因此有一些自動調學習率的方法。一般來說，隨着迭代次數的
2020-07-02 01:22:47
原创 深度學習知識點（1）：有關導數、偏導數、方向導數、梯度的基本概念問題
目錄 1、導數 2、偏導數 3、方向導數 4、梯度 1、導數 導數反映的是函數y=f(x)在某一點處沿x軸正方向的變化率。 比如，在x=1處的導數是2。 導數是通過極限來定義的，某一點的導數=tanψ，只是前提是△x趨近於0，此時tan
2020-07-02 01:22:47
原创 深度學習知識點（2）：標準梯度下降法
目錄 1、一元函數的梯度下降法 2、多元函數的梯度下降法 梯度下降是一種迭代式的最優化手段，在機器學習中一般用於求目標函數的極小值點，這個極小值點就是最優的模型內部參數。相比求解析解的手段，GD的通用性更強，所以受到廣泛的使用。 1、
2020-07-02 01:22:47
原创 TensorFlow隨筆記錄 (3）： 對設置Learning Rate Scheduling的理解
目錄 tensorflow中常用學習率更新策略 指數衰減 tf.train.exponential_decay() 分段常數衰減 tf.train.piecewise_constant() 多項式衰減 tf.train.polynom
2020-07-02 01:22:47
原创 TensorFlow隨筆記錄 (4）： 激活函數和初始化方式
ReLU 示例代碼：tf.nn.relu import matplotlib.pyplot as plt import numpy as np def relu(z): return np.maximum(0, z) z
2020-02-21 23:20:16
原创 TensorFlow隨筆記錄 (5）：對於優化器的理解
0. tf.train.Optimizer tensorflow 裏提供了豐富的優化器，這些優化器都繼承與於Optimizer 這個類。class Optimizer 有一些方法，這裏簡單介紹下： 0.1. minimize minim
2020-02-21 23:20:16
原创 TensorFlow隨筆記錄 (7）：對於BN 層及 Dropout 層使用的理解
參考鏈接：tensorflow中的batch_norm以及tf.control_dependencies和tf.GraphKeys.UPDATE_OPS的探究 1. Batch Normalization 解釋：對卷積層來說，批量歸一化發
2020-02-21 23:20:15
原创 TensorFlow隨筆記錄 (1）： 幾個基本概念
目錄 基本使用 綜述 MNIST Numpy Tensor 常量 constant 變量 Variable 佔位符 placeholder 維度增加 expand_dims reshape 類型轉換 共享變量 變量初始化方式 基
2020-02-21 23:20:15
原创 TensorFlow隨筆記錄 (2）： 簡單理解tf.nn.conv2d和tf.nn.max_pool方法的使用
方法定義：tf.nn.conv2d tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=True, data_format="NHWC", dilations=[1
2020-02-21 23:20:15
原创 卷積神經網絡入門學習
原文鏈接：http://blog.csdn.net/hjimce/article/details/47323463 原文地址：http://blog.csdn.net/hjimce/articl
2019-10-25 21:55:14
原创 anaconda裏的numpy版本與theano匹配問題
最近在看《神經網絡與深度學習》，即《Neural Network and Deep Learning》，在看到第六章時，需要用到Theano這個機器學習的庫，於是就跑了network3這個程序，即書的P161的程序，但是一直提示錯誤mod
2019-07-30 22:01:16
原创 美團 區間統計
小明拿到了一個數列，a1,a2,...an,小明知道存在多少個區間[l,r]同時滿足下列兩個條件： 1.r-l+1=k； 2.在al ... 到ar中，存在一個數至少出現了t次 輸出滿足條件的區間個數。 輸入：第一行三個整數n,k,t
2018-11-04 08:33:26
原创 嵌入式新技術
1，基於嵌入式LInux的人臉識別系統 相關網址：https://download.csdn.net/download/qq_21158435/9878440
2018-10-27 08:06:35