原创 利用自編碼器對線性模型參數加密

from sklearn.datasets import load_boston   dataset = load_boston() x_data = dataset.data  y_data = dataset.target   fro

原创 簡易版蒙特卡洛採樣計算二項式分佈的參數

import numpy as np import matplotlib.pyplot as plt    X = np.array([1, 1, 1, 1, 1, 0, 0, 1, 1, 0]) #q = np.array([0.1,

原创 整數拆分(python)

# 我們都知道有一門數學領域叫組合數學,其中整數的拆分問題是非常有名的, # 例如 我們有1g、 2g、 3g、 4g、 5g的砝碼各一個,問能稱出多少的重量,各有多少稱法   # 這裏我們利用歐拉提出的母函數的概念(當然拉馬努金的公式也

原创 針對神經網絡的快速符號攻擊

''' 但是,設計和訓練模型的一個經常被忽略的方面是安全性和魯棒性,     尤其是在面對想要欺騙模型的對手的情況下           這篇文章的思路就是給圖像加噪音,但是大家會發現一件事,加噪音我們希望給神經網絡認爲重要的像素點給予更

原创 基於pytorch線性判決器(不使用nn.moudle)

import torchimport matplotlib.pyplot as pltfrom sklearn.model_selection import train_test_splitfrom sklearn import data

原创 輸出各層神經網絡權重與偏置

from torch import nn import torch.nn.functional as f class SimpleNet(nn.Module):     def __init__(self, in_dim, n_hidde

原创 基於pytorch比較sigmoid和relu函數梯度下降速度

import torch import torch.nn as nn from torch.autograd import Variable import torch.optim import matplotlib.pyplot as

原创 感知機根據不同分佈數據樣本得到不同的損失值(基於pytorch),簡單理解算法收斂性問題

# 測試函數最常用來解決的一個問題 :算法最後結果是不是收斂的 ''' 比如我們想用一條線去 分割一個數據集 將他分成兩個類別-----》這裏我們用感知機算法來測試一下 ''' ''' 感知機一般只能解決線性分類問題也就是說圖像是這個樣

原创 (Python版本)Relief算法有效的對特徵進行選擇

'''python2.7''' import numpy as np from random import randrange from sklearn.preprocessing import normalize def dist

原创 貝葉斯網絡對手寫識別體的預測

import pyvarinf from torch.autograd import Variable import torch.nn as nn import torch.nn.functional as F import torch

原创 積分度量學習

# 積分度量 當我們計算兩個簇之間的距離的時候常常用的 歐氏距離,但是 用積分來度量兩個簇 之間佔據空間的大小也是一種很有趣的思路   import numpy as np   a1 = np.array([1, 1]) b1 = np

原创 神經網絡的線性單元不能擬合指數表達

''' 目前神經網絡一直都是採用relu(非線性單元)作爲激活函數,目的是產生類似異或表達,比如線性函數的可加性就被很好的破壞掉了 f(ax+by)=af(x)+bf(y) 在加入relu之後不成立了。 但是對於e^x 這種軌跡,re

原创 壓縮度量(矩陣映射)

# 壓縮度量是一個數學概念,例如我們採用歐氏距離作爲度量方法, 對於任意的 ||xi-xj||>||f(xi)-f(xj)|| (xi 和 xj 爲樣本空間中的樣本)   #場景 如果我們的樣本點之間距離很大,數據很稀疏的情況下,這種距離

原创 探求結點之間得隱藏關係以及科研知識擴展(圖論)

對於有向圖來說結點除了存在顯示得直接連接的關係比如:                                                                              1號結點與2號結點就是直接連接

原创 牛頓迭代法的簡單實現(python)

''' 牛頓法很多人寫了一大通感覺非常的高大上,其實想法很簡單,我們目標就是找函數的零點 比如你選了一個起始點x = a , y = f(a) 這個點相比於零點假如說是有距離的。 那麼你會發現在這個x = a 點處求一個切線方程,這個