原创 Transformer代碼詳解與項目實戰之Masking
在此模型中Masking有兩種，分別是Padding Masking和Look-ahead Masking。 Padding Masking：遮擋一批序列中所有的填充標記（pad tokens）。這確保了模型不會將填充作爲輸入。此
2020-04-21 16:12:59
原创 Transformer代碼詳解與項目實戰之Layer Normalization
在Transformer模型中，使用到了Layer Normalization思想，來源於論文#論文來源# 爲了方便介紹其原理，此處對Batch Normalization 和 Layer Normalization進行對比。
2020-04-21 16:12:59
16
原创 Numpy中的Broadcasting機制
1、設計背景 不同矩陣做算數運算的時候，由於維度不同，需要進行維度擴展，但是維度擴展會造成計算效率降低，Numpy爲了解決此問題，採用了虛擬維度擴展機制，既保證計算合理，又提升效率。 例如： a = np.array([1.,2.
2020-04-21 16:12:59
原创 TensorFlow2 模型建立與訓練
首先，強力推薦大神關於Tensoflow2的介紹文檔！文檔鏈接 模型的構建： tf.keras.Model 和 tf.keras.layers 模型的損失函數： tf.keras.losses 模型的優化器： tf.keras.o
2020-03-31 09:40:29
原创 Anaconda下配置pyltp
經過查詢資料，目前爲止pyltp不能兼容python3.7，所以我在Anaconda下先新建安裝了python3.6的環境，然後在這個環境安裝pyltp. 配置一個python3.6環境 (base) C:\Users\1>c
2019-09-07 19:06:01
原创 CentOS下無法訪問50070和8088端口
Hadoop部署到CentOS下以後，通過50070端口訪問HDFS，8088端口訪問yarn。但是，如果出現無法訪問的問題，那麼需要添加可訪問端口到防火牆。 此處不建議直接關閉防火牆。 1、查看已經開放端口 firewall-cmd
2019-05-01 00:49:58
1
原创 Spark源碼編譯
環境介紹 操作系統：CenterOS 7 Spark：spark-2.3.3 Maven：apache-maven-3.3.9 目標Haoop：hadoop-2.6.0-cdh5.15.1 編譯步驟 安裝配置maven,下載Spar
2019-04-27 02:35:07
4
原创 Linux環境安裝Python
背景介紹 Linux經常已經安裝了Python，但是並不一定是自己想使用的版本。去python官網下載Linux版本，發現並沒有安裝文件，故自己編譯一個！ Linux：CenterOS 7 Python: 3.6.8 安裝步驟 源
2019-04-26 02:37:50
原创 profile與bashrc
介紹的文件 /etc/profile /etc/bashrc ~/.bash_profile ~/.bashrc 場景介紹 系統默認安裝了jdk7，但是A用戶需要jdk8，在系統保留jdk7的情況下，A用戶執行程序使用jdk8。 A
2019-04-23 21:32:24
原创 Hadoop分佈式部署
環境介紹 Linux版本：CenterOS 7.2 Hadoop版本：hadoop-2.6.0-cdh5.15.1 Java版本：jdk-8u201-linux-x64 三臺機器IP：10.1.2.151、10.1.2.152、10.
2019-04-23 21:32:24
原创 IntelliJ IDEA激活方式
首先，有條件的話，正版纔是首選！ 下載安裝文件 官網下載即可! 修改hosts 打開C:\Windows\System32\drivers\etc\hosts文件,末尾加入兩行內容： 0.0.0.0 account.jetbr
2019-04-23 21:32:24