原创 Python實現大規模機器學習和隨機梯度下降法

    上一片講解了Python實現批梯度下降法(batch gradient desent),不同於感知機算法每次計算一個樣本就更新一次結果,BGD算法 在計算完所有樣本一輪以後才更新一次權重,這樣當樣本量巨大的時候極大的影響了效率,因

原创 torch學習系列一

一.pythorch的張量類似numpy的nadarry,而且可以支持GPU優化。 a.其構造方法有一下一些: x = torch.empty(5, 3) x = torch.rand(5, 3) x = torch.zeros(5

原创 一個標準的resnet網絡,包含18-150層

import torch.nn as nn import torch.utils.model_zoo as model_zoo __all__ = ['ResNet', 'resnet18', 'resnet34', 'resnet

原创 讀取/加載全部文件的路徑的方法---glob

imagedata = [] imagefilenames=[] for basedir in ['./miniImagenet_46/']: print(basedir) alp

原创 BN層的添加實戰

對於一個小白,從瞭解Batch Normalization(後面簡稱BN)到正確使用BN,可謂路漫漫兮。在此做一個記錄。 網上搜索關於BN最多的就是原理推導,相關論文出處。 例如: http://blog.csdn.net/Fate_fj

原创 在tensorflow框架下添加正則化約束l1、l2的方法

一、基礎正則化函數 tf.contrib.layers.l1_regularizer(scale, scope=None) 返回一個用來執行L1正則化的函數,函數的簽名是func(weights).  參數: scale: 正則項的係數

原创 使用tf.add_to_collection和tf.get_collection獲取中間量

tf.add_to_collection–向當前計算圖中添加張量集合 tf.get_collection–返回當前計算圖中手動添加的張量集合 #!/usr/bin/python # coding:utf-8 import tensorfl

原创 Tensorflow中GraphKeys集合的解釋

GraphKeys tf.GraphKeys包含所有graph collection中的標準集合名,有點像Python裏的build-in fuction。 首先要了解graph collection是什麼。 graph collecti

原创 Python實現梯度下降法及算例分析以及可視化

代碼和算例可以到博主github中下載:https://github.com/Airuio/Implementing-the-method-of-gradient-descent-by-using-Python-上一篇講解了最原始的感知機

原创 Python實現感知機算法

感知機算法是機器學習最基本的理論算法之一,其原理如下圖所示:該算例和應用以及數據集可從博主的github內下載:https://github.com/Airuio/python-其python代碼如下:improt numpy as np

原创 Python裝飾器的理解

裝飾器是Python中廣泛運用的一種技術,主要可以起到代碼複用減小代碼量,增強代碼的擴展性的作用。要理解裝飾器先要理解兩個概念,閉包和參數尋找優先級。閉包可以參看上一篇博客的介紹,參數尋找優先級概念如下:當我們使用到某個參數a時,會自動按

原创 Python中特殊方法的分類與總結

 以下爲轉載:Python 用下劃線作爲變量前綴和後綴指定特殊變量_xxx 不能用’from module import *’導入__xxx__ 系統定義名字__xxx 類中的私有變量名核心風格:避免用下劃線作爲變量名的開始。 因爲下劃線

原创 Linux中的shell基礎

      Linux只是通常指的是字符界面+內核,其字符界面或遠程shell軟件界面既是Linux的shell,內核只識別1和0,shell的作用就是將我們輸入的命令轉換爲內核看得懂的機器碼,爲了操作方便shell一般自帶一些強大的功能

原创 Python中閉包的理解

閉包在Python中是一把雙刃劍,在解決某些問題上面有提高效率的作用,但是若是理解不充分則容易出問題。閉包的本質是函數在調用子函數的過程中的參數傳遞,即def 函數A(x,y):     x=1     y=2     def 函數B(z

原创 數據庫安全機制

數據庫作爲重要的數據文件庫,其安全性是非常重要的。(此處的安全性是指操作上的安全性,DCL模塊,而不是廣義上的網絡安全,服務器安全等安全性)通常是通過DCL(數據庫控制語言)來實現對數據庫的權限的管理。AccessRule ::=(S,O