原创 解耦自注意模型解決傳統自注意模型退化問題

https://www.msra.cn/zh-cn/news/features/disentangled-self-attention-models

原创 《機器學習工業復現的 12 個要素》

原文鏈接:https://blog.maiot.io/12-factors-of-ml-in-production/ 譯文轉自:機器之心 公衆號 過去二十年來,我們對軟件開發的理解有了大幅提升。其中一大部分原因是 DevOps 概念的出現及

原创 學習率調度

原文鏈接:https://d2l.ai/chapter_optimization/lr-scheduler.html 在神經網絡中,通常我們主要關注優化算法如何更新權重,而缺少關注更新的幅度,即學習率。適當的調整學習率和優化算法一樣重要。可

原创 20200926 DataFunTalk:知識圖譜專場(2)百度,事件圖譜

50億實體、5500億事實 事件有更強的知識表達能力 事件抽取比賽,發佈了數據集

原创 20200926 DataFunTalk:知識圖譜專場(2)明略科技,語音圖譜系統與實踐

human-in-the-loop,知識圖譜鏈路長 entities、attributes、concepts、relationships Monitor ASR 自動加標點 知識圖譜構建 set + pos dep-par

原创 20200926 DataFunTalk:知識圖譜專場(2)阿里雲小蜜,知識圖譜技術與落地

多跳,multi-hop boostraping 更新 結合KB的語料增強 Query->查詢圖 【intent論文】 【動態自適應模型】

原创 20200926 DataFunTalk:知識圖譜專場(2)小米,知識圖譜應用

小米鐵人三項:硬件、新零售、互聯網 小愛:知識圖譜代表作品 知識圖譜請求量 8000萬/天? 【joint-model】 【NL2SQL】 【實體鏈接,BERT+CRF、BERT+Softmax】遠程

原创 20200926 DataFunTalk:知識圖譜專場(1)知識圖譜在京東電商實踐

層級化概念網絡 如何確定商品所屬概念 BLC:Basic Level Concept; c=concept e=entity 如何表徵商品關係、複合領域約束 場景體系、時效熱點、產品次、概念、品牌、店鋪、搭配、商品、實體。。。

原创 20200926 DataFunTalk:知識圖譜專場(1)美團知識圖譜問答實踐

16億實體、48億關係、1000億SPO。 賦能搜索(搜索5層架構,策略及小模型層) 基於圖譜路徑召回 知識構建、知識計算、知識應用 問答場景 按答案來源劃分:KBQA/(IR)FAQ/(Doc)MRC 方案對比 技術對比

原创 20200926 DataFunTalk:知識圖譜專場(1)搜狗知識圖譜應用

搜狗知識圖譜背景 價值清晰、被證明 收益明確 實現包括多個環節 多義項消歧 AI營養師【搜索+圖譜+對話】!!!!! 同傳

原创 20200926 DataFunTalk:知識圖譜專場(1)達觀數據,知識圖譜平臺、構建、應用

達觀數據 知識圖譜平臺 知識圖譜構建與應用 知識圖譜Schema 結構化數據->知識圖譜 非結構化數據->知識圖譜 NER NER方法 基於規則的NER 基於淺層模型的NER 基於BiLSTM-CRF的NER(14

原创 dm in sds

原创 SMP2020 社交機器人研討會,毛曉曦,社交機器人在遊戲場景中的應用

Contextual Query Understanding,根據上文補全當前Query 爲了熱更,只需新增一個intent cls。 對話策略配置