原创 牛頓法與梯度下降法數學公式推導過程
牛頓法與梯度下降法數學公式推導過程 迭代更新數學公式推導過程 1、牛頓法 首先對於有n個變量的函數的一階導數爲: 其次對於其二階導數爲: 之後關於目標函數的包含二階導數的泰勒展開式爲:
原创 神經網絡梯度消失和梯度爆炸原因推導及其解決方案
當我們需要解決一個非常複雜的問題,例如在高分辨率圖像中檢測數百種類型的對象,我們可能需要訓練一個非常深的DNN,可能需要幾十層或者上百層,每層包含數百個神經元,通過成千上萬個連接進行連接,我們會遇到以下問題: 首先,梯度消失或梯度
原创 一個基於深度學習的 CTR 模型包
簡潔易用可擴展,一個基於深度學習的 CTR 模型包 原標題:簡潔易用可擴展,一個基於深度學習的 CTR 模型包 01 前言 在計算廣告和推薦系統中,CTR 預估一直是一個核心問題。無論在工業界還是學術界都是一個熱點研究問題,近年來也有若
原创 利用keras進行情感分析(二)
HAN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:37 # @Author : hejipei # @File : keras_sentiment_HAN.py """ ""
原创 stacking的詳細代碼教程
1.Stacking是什麼? Stacking簡單理解就是講幾個簡單的模型,一般採用將它們進行K折交叉驗證輸出預測結果,然後將每個模型輸出的預測結果合併爲新的特徵,並使用新的模型加以訓練。 Stacking模型本質上是一種分層的結構,這裏
原创 MAC/window之最簡單安裝單機版pyspark
無需安裝Hadoop--無需安裝Scala--無需安裝spark--無需配置環境 很多初學者,都是複製粘貼別人的教程,對pyspark 沒有深入的理解,照葫蘆畫瓢,勞民傷財,多走彎路。 這片博客講述了最快捷的方式進行安裝pyspark(l
原创 卡方分佈與卡方檢驗總結
卡方分佈(chi-square distribution, χ2χ2-distribution)是概率統計裏常用的一種概率分佈,也是統計推斷裏應用最廣泛的概率分佈之一,在假設檢驗與置信區間的計算中經常能見到卡方分佈的身影。 我們先
原创 利用keras進行情感分析(四)
TextBiRNN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:39 # @Author : hejipei # @File : keras_sentiment_TextBi
原创 Linux環境下 python安裝hive和impala以及如何使用
環境說明 系統爲:centos系統 在安裝hive之前 請更新pip並更換鏡像,這樣的目的是爲了使下載速度變成光速下載。 pip install pip -U pip config set global.index-url http
原创 利用keras進行情感分析(一)
textRNN # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:56 # @Author : hejipei # @File : keras_sentiment_TextRNN.p
原创 windows環境下--anaconda環境變量的配置
anaconda安裝完成後需要在 環境變量中配置路徑 注意要帶分號 D:\Users\ChuangLan\Anaconda3; D:\Users\ChuangLan\Anaconda3\Scripts; D:\Users\Chuang
原创 Bert文本分類(基於keras-bert實現訓練,保存,加載,預測單個文本)
Bert 預訓練模型準備 中文預訓練模型下載 當Bert遇上Keras:這可能是Bert最簡單的打開姿勢 keras-bert 下載解壓結果 Bert 模型文本分類 1、數據準備 在GitHub中有酒店評論的數據:h
原创 利用keras進行情感分析(三)
RCNNVariant # -*- coding: utf-8 -*- # @Time : 2019/7/4 9:13 # @Author : hejipei # @File : keras_sentiment_RCNN
原创 keras進行情感分析彙總
經過一段時間的梳理,今天有時間就把做項目使用的demo寫成博客,對研究自然語言的你們提供一些思路。 代碼都能運行,若有問題,請留言, # -*- coding: utf-8 -*- # @Time : 2019/7/3 9:05
原创 Boosting方法中的特徵重要度--乾貨
來源三個文檔: DecisionTree, XGBoost, LightGBM。 Decision Tree 地址:DecisionTreeClassifier feature_importances_ : array of shape