原创 18-19基於預訓練的語言模型對比

18-19年基於預訓練的語言模型對比 ref:後BERT時代:15個預訓練模型對比分析與關鍵點探究 1. 模型對於長距離依賴的處理能力 Transformer-XL > Transformer > RNNs > CNNs 2. 前

原创 Summary 知識圖譜融合與知識圖譜對齊

Summary of Knowledge graph combination and KG alignment Ref:多知識圖譜的融合算法探索 1. 知識融合的常見問題 數據質量問題:命名模糊,數據輸入錯誤,數據都市,數據格式不

原创 可建模語義分層的KG embedding for relation/link completion

可建模語義分層的KG embedding for relation/link completion 1. Learning Hierarchy-Aware Knowledge Graph Embeddings for Link P

原创 BERT的應用和反思

BERT如何應用在不同NLP任務中以及對於BERT的反思 reference:Bert時代的創新(應用篇):Bert在NLP各領域的應用進展 1.question answering問答系統中所需的答案在文本中,所以在NLP基礎模

原创 論文筆記:NLP之BERT,ERNIE(pre-training 模式在NLP任務中的使用)

論文筆記:BERT的原理與應用,ERNIE的原理和進化歷程 ref: 詳解ERNIE-Baidu進化史及應用場景 Bert時代的創新:Bert應用模式比較及其它 從Word Embedding到Bert模型—自然語言處理中的預訓練

原创 論文筆記:NLP之Attention is all you need

論文筆記:NLP之Attention is all you need. Transformer 的結構與特點 ref: 1.Step-by-step to Transformer:深入解析工作原理(以Pytorch機器翻譯爲例)

原创 深度學習筆記之Andrew Ng(3)

WEEK3: 本週進入了新的話題,神經網絡,不過還暫時離不開我們之前學習的邏輯迴歸,我的理解是,標準神經網絡使用了一個更大範圍的神經網絡,爲什麼這麼說呢,我們來一步步的開始學習。 神經網絡概述: 那麼神經網絡,是由一個個神經元構成的,長成

原创 機器學習心得之Andrew Ng(2)

WEEK 2: 本週主講的是關於使用線性迴歸做多個特徵值模型的建立,那麼首先,多個特徵值的線性迴歸的模型,長什麼樣呢。 多特徵(Multiple Feature): 多特徵線性迴歸: 表達式:hθ(x)=θ0+θ1x1+θ2x2+θ3x

原创 機器學習心得之Andrew Ng(3)

WEEK3 分類(Classification): 這裏面指的分類是二值分類,然後我們使用到的分類器爲非線性分類器,第一個講到的就是之前提到的邏輯迴歸。 邏輯迴歸(Logistic Regression): 首先是sigmoid

原创 Java 學習筆記(1)—類的加載

Java 學習筆記(1)—類的加載 本人大四畢業狗一枚,由於最近在努力的備戰筆試面試。有一些對於java方面的學習與感悟。希望能寫在下面與大家交流分享,也是對我自己學習的一種督促。如有任何問題,歡迎大家指正。本人QQ:406946157。

原创 基於Unity3D的並行渲染模型的開發教程(四):Vuforia的開發

以下爲拓展系統拓展部分,爲了能使本展示系統能夠更加的有表現力,更加完善,我又在原系統中增加了AR模型展示部分,具體說呢,還需要再多加一個安卓手機端的APP,用以觀看AR模型, 移動端AR技術的開發同樣基於Unity3D,並使用Clust

原创 基於Unity3D的並行渲染模型的開發教程(五):Leap Motion

爲了拓展交互方式,本系統不僅僅使用了鍵盤與鼠標作爲輸入設備,同時,我還使用了Leap Motion作爲手勢輸入設備進行人機交互。基於Leap Motion的手勢交互開發,是本項目的重要交互方式之一。隨着虛擬現實技術的發展,手勢識別與手勢操

原创 基於Unity3D的並行渲染模型的開發教程(一):概述

隨着計算機圖形技術的發展以及CPU運算能力的提升,用戶對於圖像展示方面的要求越來越高,那麼大屏幕展示系統應運而生。目前市場上已有多種大屏幕並行渲染的解決方案,例如使用硬件方式:屏幕拼接器,來解決屏幕之間的圖像同步問題。還有已經較爲成熟的S

原创 深度學習筆記之Andrew Ng(2)

由於吳恩達離職百度,自立門戶,他最近在網上特別火,連帶着他的各種課程也跟着火了起來,本系列是有關於吳恩達在Coursera上面發佈的,關於深度學習與神經網絡的課程筆記。給有中文學習需求的同學分享一下,同時也幫助我自己梳理一下知識網絡,如有

原创 基於Unity3D的並行渲染模型的開發教程(二):CLUSTER PACKAGE

本節主要介紹的是基於Unity的並行渲染的核心Unity組件:Claster Package。那麼在講使用之前,先講講這個組件的應用原理。 在官方的文檔中,我們可以看到,原文主要講解了:使用Cluster Package(以後簡稱CP),