原创 python~按位取反符

所以會有： 但是： 小例子： 與上面的結論是對應的。 參考： https://www.runoob.com/python/python-operators.html

2019-05-14 19:29:02 1

原创 神經網絡高階技巧7--早停(early stopping)與保存最佳模型

早停法這個詞，其實我們並不陌生。因爲在傳統的機器學習中，我們就用到過。例如在一個xgboost,或者lightgbm模型中，爲了防止過擬合，我們就會用： clf = lgb.train(params=param,train_set=t

2019-05-14 19:29:02

原创 關於keras.backend.clear_session()

顧名思義，clear_session就是清除一個session。而session就是tensorflow中我們常見的會話。 來自：https://stackoverflow.com/questions/50895110/what-

2019-05-14 19:29:01 114

原创 神經網絡高階技巧5--關於GolbalAveragePooling與GlobalMaxPooling

最大池化（Maxpooling1D）,平均池化（AveragePooling1D）是我們常見且常用的，它們的另一個版本就是加一個global了。 很簡單： 截圖來自：https://blog.csdn.net/JNingWei/ar

2019-05-11 14:19:12 7

原创 c++冒泡排序

要注意的是，上面的 意味着每次都要從頭遍歷。 C++實現：均實現了從小到大的排序。 外層循環表示次數。內層表示每次移動的數據的流向。分爲先找最小的放在最左邊，和先找最大的放在最右邊兩種思路，本質一樣。 #include <ios

2019-05-11 14:19:12

原创 神經網絡高階技巧4--關於SpatialDropout1D

參見： https://blog.csdn.net/weixin_43896398/article/details/84762943 但是這裏有一個疑問。文中提到了noise_shape，但是在官方文檔，以及keras.layers.

2019-05-10 11:42:51 18

原创 如何使用glove,fasttext等詞庫進行word embedding?（原理篇）

0 序 本文保證乾貨滿滿~ 看完本文後，你只需要一個glove或者其他已經訓練好的詞庫，也就是一個類似txt的文件，那麼你就可以把一個英文單詞用一個多維（如300維向量）表示出來！並且會帶入到keras中訓練一條龍服務~說專業點，這就

2019-05-08 05:03:33 84

原创 神經網絡高階技巧1--Learning Rate Scheduler

爲什麼突發奇想要寫這麼個系列呢？源於一次面試，其實很多“高階”技巧我們都知道，但是用的多了我們習以爲常，所以在面試介紹項目時不會提及這些。而你不提及的話，就會顯得你很low。所以做一些筆記，讓自己知道這些“高階”技巧。 標題顧名思義，

2019-05-07 01:44:07

原创 神經網絡高階技巧2--採用CuDNNLSTM，別再用LSTM了！

以後別再說自己用LSTM()了！ CuDNNLSTM與LSTM都是keras.layers裏的實現lstm的單元。那麼二者有什麼區別呢？CuDNNLSTM肯定是隻能用在GPU下，但是LSTM也是可以用在GPU下的啊。 所以問題是：在你

2019-05-07 01:44:07 61

原创 lightgbm可視化後的threshold和leaf_value是什麼意思？

如上圖，是來自一個lgb的一顆樹。上面的threshold和leaf_value是什麼意思呢？ threshold即閾值，即根據某個feature分裂的閾值。 leaf_value即未經sigmoid規格化的預測值，所以會有負值。但

2019-05-05 22:11:05 21

原创 lightbgm的gbdt模式爲什麼會有bagging function?

每間隔bagging_freq次迭代做一次重新採樣，採樣的比例則爲bagging_fraction。

2019-05-01 00:49:44 3

原创 ligtgbm的min_sum_hessian_in_leaf參數與xgboost的min_child_weight

首先說明。二者是一回事。（應該吧）。 參見lgbm的官方文檔： 之後參見：https://stackoverflow.com/questions/45248001/what-is-the-meaning-of-min-sum-hes

2019-05-01 00:49:44 19

原创 關於binary_crossentropy與categorical_crossentropy

貼出鏈接： https://blog.csdn.net/Julialove102123/article/details/80236180 https://www.zhihu.com/question/36307214 keras中的二

2019-04-27 01:03:49 4

原创 python畫出AUC曲線

以load_breast_cancer數據集爲例，模型細節不重要，重點是畫AUC的代碼。直接上代碼： from sklearn.datasets import load_breast_cancer from sklearn impor

2019-04-17 10:27:10 1

原创 高斯過程迴歸（資料整理階段）

1.階段1 ： https://zhuanlan.zhihu.com/p/44960851 2.階段2： https://zhuanlan.zhihu.com/p/29682965

2019-04-16 11:25:13