原创 多進程之Pool與多線程pool 及tqdm和for 並對比pandas處理結果

又叕又碰到這個多進程問題了,其實線程也行,下面再次進行demo測試 召回中遇到的,存儲召回的items For Video Recommendation in Deep learning QQ Group 277356808   For

原创 Youtube2016推薦召回算法細節及最終實現(離線服務)——完整版

訓練的數據採用的是觀看的隱式反饋,當用戶完成一個視頻的觀看則是正例,言外之意,其他爲負例(包括沒有觀看的都是負例,那麼對於新用戶而言則都是負例了,這樣是否合適??【目前來說對於沒有觀看記錄的用戶不做推薦,這個沒辦法,只能用其他方法來推,同

原创 python讀取redis數據及hive入門9——3個表關聯

採用的youtube2016的召回方法。遺憾的是沒發覺召回階段怎麼求AUC??都快成我的一個心結了。   先看redis中存儲的數據吧,上個博文已經實現python/java查看redis數據的方法   For Video Recomme

原创 關於global定義的作用時效問題以及java json/list數據及redis數據解析問題

  For Video Recommendation in Deep learning QQ Group 277356808   For Visual in deep learning QQ Group 629530787   I'm h

原创 faiss快速查詢召回數據都一樣咋辦?

問題來源:想要快速得到結果,使用的近似的方法,即ANN,單個或者多個GPU均是採用的近似方法,這裏面就有參數設置的問題 一不小心就出現了我的情況,如下 uid: 1 , true next click is: [577] right?

原创 redis再次入門之重新出發

redis能傳任意格式的文件嗎?看大佬咋說:一句話難道老司機,   別噴,先看問題,問了下同事,說,hash,hashmap啥的,不知道能不能實現?後續再說,先學下基本的技能   感謝提供幫助和有益參考的大佬!   For Video R

原创 歡迎報考國科大,和我做校友!——2020高考等你在北京

2020年高考即將拉開序幕,期待已久的小學妹不知道什麼時候來,哈哈 國科大招生手冊及歷年分數,見二維碼,下圖自微博@中國科學院大學      歡迎報考!!     歡迎報考,等你在北京!

原创 XLearn學習筆記——再看FM與FFM

閒暇時間找點事做纔會感到內心的寧靜,搬磚纔是靈魂的寄託。讀paper讀不下去就直接上github學習點庫吧 一搜FM,FFM,最多星的還是這個,如下,安裝成功,中文doc --------------------------------

原创 關於global作用域及內部函數定義並與多進程/多線程的關係

    For Video Recommendation in Deep learning QQ Group 277356808   For Visual in deep learning QQ Group 629530787   I'm

原创 hive學習筆記之八——關於concat的取值範圍問題

  For Video Recommendation in Deep learning QQ Group 277356808 For Visual in deep learning QQ Group 629530787 I'm here

原创 java與python flask的通信能實現嗎?抑或gRPC?thrift?或其他第三方?

問題來源,在簡單的召回模型做好後怎麼通信是一個問題,我要是負責推薦的所有流程的話,就不需要啥服務了,數據都在我自己手裏,無非是左手傳給右手。 all night awake !!! all the time !!! what a fuck

原创 分類任務的metrics——模型評測標準

在分類任務中,想要知道模型的好壞,是不是能夠實際應用,那麼必須有評價的標準,本文將詳細說來。 如果不提到混淆矩陣,那麼下面的概念就不好理解。我自己先默寫了下,結果發現錯了(錯的全顛倒),錯誤示例如下: 上圖錯誤的原因是不知道True/P

原创 Could not create cudnn handle: CUDNN_STATUS_NOT_INITIALIZED

要瘋了。這幾把玩意要搞死我。issue在此:https://github.com/tensorflow/tensorflow/issues/34214 不要以爲很簡單的事,那是因爲有人替你負重前行,自己搞一下子成功純屬運氣。 老子死磕了這

原创 視頻關鍵幀抽取終結篇——關鍵幀是什麼?

在之前的博文中都拋出了問題,而沒有解決,這裏做最後的解決!!! 視頻關鍵幀分爲I幀,P幀,B幀,這裏介紹下區別,也是我搜索得到的,僅供參考。 I幀纔是關鍵幀,P,B算不上關鍵幀。 I幀是幀內壓縮編碼得到的,通常是每個GOP組的第一幀/基礎

原创 sklearn PCA降維分析&t-SNE表示

採用sklearn 自帶的8*8的0~9數據進行實驗測試。 經過試驗測試,發現前面15個奇異值已經足夠可以代表整個64維度的特徵。 [567.0065665 542.25185421 504.63059421 426.11767607