原创 stacking in tensorflow2.0：Roberta集成
文章目錄1.前言2.方法2.1 stacking2.2 具體代碼 1.前言 使用stacking方法，提升tweet sentiment的抽取效果。其stacking代碼如下： https://github.com/llq2013
2020-07-03 13:51:32
原创 奇異值分解（SVD）推導（從條件推理+反向證明+與特徵分解的關係）
文章目錄1. 前言2.矩陣分析2.2 奇異值分解（SVD）2.2.1 SVD定理2.2.2 從結論反推的證明過程2.2.3 從條件正推的證明過程2.3 特徵分解和奇異值分解的關係 1. 前言 最近幾天一直在學習矩陣的知識，惡補了特
2020-06-16 02:40:00
原创 BLEU算法（例子和公式解釋）
文章目錄1.前言2.N-gram2.1 1-gram2.2 3-gram2.3 N-gram總結3. BLEU算法3.1 召回率3.2 BLEU公式3.3 懲罰因子3.4 BLEU最終公式4.實例4.1 句子間的BLEU4.2 多
2020-06-16 02:40:00
10
原创 機器學習——過擬合問題（線性迴歸+邏輯斯特迴歸的正則化推導）
文章目錄1.前言2.過擬合問題及其解決方法2.1 擬合問題中偏差和方差2.2 正則化（regulization）2.3 線性迴歸的正則化2.4 邏輯斯特迴歸的正則化 1.前言 前面已經推導過線性迴歸和邏輯斯特迴歸的梯度下降算法。
2020-06-16 02:40:00
原创 啓動Tomcat出現自動關閉問題的解決辦法
遇到的問題和難點： 1.啓動tomcat時出現閃退，是因爲jdk的環境配置沒有設置好 最後配置path裏面： 2.啓動tomcat時出現Tomcat Cannot assign requested address: JVM_
2020-06-16 02:40:00
2
原创 利用Tensorflow使用BERT模型+輸出句向量和字符向量
文章目錄1.前言2.BERT模型2.1 下載預訓練好的模型2.2 導入BERT模型2.3 數據下載和預處理2.4 模型訓練2.5 直接輸出BERT模型的句向量或者是字符向量 1.前言 最近想着如何利用tensorflow調用BER
2020-06-16 02:40:00
4
原创 矩陣的特徵分解（推導+手算+python計算+對稱矩陣的特徵分解性質）
文章目錄1. 前言2.矩陣的進階知識2.1 特徵分解（譜分解）=>只可以用在方陣上2.1.1 特徵分解的原理2.1.2 特徵分解的合理性2.1.3 特徵分解的計算2.1.4 對稱矩陣的特徵分解（這個性質後面SVD推導用到） 1.
2020-06-16 02:40:00
原创 14.把eclipse中的web項目打包成war包，然後再Tomcat服務器中運行。
（1）首先在eclipse中export文件生成war文件，如圖所示： （2）把生成的war包放在tomcat的webapps文件夾中，而我的地址爲：C:\JavaWeb\apache-tomcat-7.0.70\webapps
2020-06-16 02:40:00
5
原创 筆記本電腦遇到wifi搜索不到的問題
遇到wifi搜索不到的問題，可能出現的情況是: 1.電腦的wifi驅動問題 2.電腦wifi服務沒有打開。 3.windows無法自動將IP協議堆棧綁定到網絡適配器 解決第一個問題的步驟： 1.下載一個驅動人生，然後更新wifi驅動，
2020-06-16 02:40:00
原创 Extjs與servlet交互
運用ajax中，在前端和後臺之間進行參數的傳遞。 在html中主要的代碼: <script type="text/javascript" > Ext.onReady(function(){ function getMenuAjax(s
2020-06-16 02:40:00
1
原创 kaggle比賽tweet_sentiment_extraction，帶你上0.71分數
文章目錄1.前言2.代碼分析2.1 加載必要的庫2.2 加載比賽中的數據2.3 構造dataset生成器2.4 Roberta模型2.5 Warmup和學習率指數下降2.6 focal loss2.7 joblib並行化訓練 1.
2020-05-13 00:33:13
原创 使用transformers和tensorflow2.0跑bert模型
文章目錄1.前言2. 使用tensorflow2.0 版本跑 bert模型和roberta模型2.1 加載transformers中的分詞包2.2 自定義bert模型層2.3 預加載模型2.4 並行化處理（使用多線程） 1.前言
2020-05-01 06:08:22
5
原创 使用BERT的兩層encoder實現tweet sentiment extraction
文章目錄使用BERT的兩層encoder實現tweet sentiment extraction1.前言1.1 Required1.2 分析給定的數據2. 模型構造2.1 數據清洗2.2 模型結構 使用BERT的兩層encoder
2020-04-25 06:24:42
原创 BERT in tweet_sentiment_extraction
文章目錄Tweet-sentiment-extraction1.前言1.1 Required1.2 分析給定的數據1.3 構造模型輸入和輸出2.代碼實現2.1 預加載模型的下載2.2 BERT模型文件2.3 構造輸入tf.data
2020-04-21 05:02:29
原创 【論文解讀】BERT和ALBERT
文章目錄1.前言2. BERT2.1 引入2.2 以前的工作2.2.1 feature-based 方法2.2.2 fine-tuning 方法2.2.3 遷移學習方法2.3 BERT架構2.3.1 MLM2.3.2 NSP2.4
2020-03-12 21:49:14
8