原创 牛頓法與梯度下降法數學公式推導過程

牛頓法與梯度下降法數學公式推導過程 迭代更新數學公式推導過程 1、牛頓法 首先對於有n個變量的函數的一階導數爲:           其次對於其二階導數爲:           之後關於目標函數的包含二階導數的泰勒展開式爲:       

原创 神經網絡梯度消失和梯度爆炸原因推導及其解決方案

當我們需要解決一個非常複雜的問題,例如在高分辨率圖像中檢測數百種類型的對象,我們可能需要訓練一個非常深的DNN,可能需要幾十層或者上百層,每層包含數百個神經元,通過成千上萬個連接進行連接,我們會遇到以下問題: 首先,梯度消失或梯度

原创 一個基於深度學習的 CTR 模型包

簡潔易用可擴展,一個基於深度學習的 CTR 模型包  原標題:簡潔易用可擴展,一個基於深度學習的 CTR 模型包 01 前言 在計算廣告和推薦系統中,CTR 預估一直是一個核心問題。無論在工業界還是學術界都是一個熱點研究問題,近年來也有若

原创 利用keras進行情感分析(二)

HAN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:37 # @Author : hejipei # @File : keras_sentiment_HAN.py """ ""

原创 stacking的詳細代碼教程

1.Stacking是什麼? Stacking簡單理解就是講幾個簡單的模型,一般採用將它們進行K折交叉驗證輸出預測結果,然後將每個模型輸出的預測結果合併爲新的特徵,並使用新的模型加以訓練。 Stacking模型本質上是一種分層的結構,這裏

原创 MAC/window之最簡單安裝單機版pyspark

無需安裝Hadoop--無需安裝Scala--無需安裝spark--無需配置環境 很多初學者,都是複製粘貼別人的教程,對pyspark 沒有深入的理解,照葫蘆畫瓢,勞民傷財,多走彎路。 這片博客講述了最快捷的方式進行安裝pyspark(l

原创 卡方分佈與卡方檢驗總結

卡方分佈(chi-square distribution, χ2χ2-distribution)是概率統計裏常用的一種概率分佈,也是統計推斷裏應用最廣泛的概率分佈之一,在假設檢驗與置信區間的計算中經常能見到卡方分佈的身影。 我們先

原创 利用keras進行情感分析(四)

 TextBiRNN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:39 # @Author : hejipei # @File : keras_sentiment_TextBi

原创 Linux環境下 python安裝hive和impala以及如何使用

環境說明 系統爲:centos系統 在安裝hive之前 請更新pip並更換鏡像,這樣的目的是爲了使下載速度變成光速下載。 pip install pip -U pip config set global.index-url http

原创 利用keras進行情感分析(一)

textRNN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:56 # @Author : hejipei # @File : keras_sentiment_TextRNN.p

原创 windows環境下--anaconda環境變量的配置

anaconda安裝完成後需要在 環境變量中配置路徑 注意要帶分號 D:\Users\ChuangLan\Anaconda3; D:\Users\ChuangLan\Anaconda3\Scripts; D:\Users\Chuang

原创 Bert文本分類(基於keras-bert實現訓練,保存,加載,預測單個文本)

Bert 預訓練模型準備 中文預訓練模型下載      當Bert遇上Keras:這可能是Bert最簡單的打開姿勢      keras-bert 下載解壓結果 Bert 模型文本分類 1、數據準備 在GitHub中有酒店評論的數據:h

原创 利用keras進行情感分析(三)

 RCNNVariant # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:13 # @Author : hejipei # @File : keras_sentiment_RCNN

原创 keras進行情感分析彙總

 經過一段時間的梳理,今天有時間就把做項目使用的demo寫成博客,對研究自然語言的你們提供一些思路。 代碼都能運行,若有問題,請留言, # -*- coding: utf-8 -*- # @Time : 2019/7/3 9:05

原创 Boosting方法中的特徵重要度--乾貨

來源三個文檔: DecisionTree, XGBoost, LightGBM。 Decision Tree 地址:DecisionTreeClassifier feature_importances_ : array of shape