今天測試tensorflow的GPU版本,但是發現一個問題同一個程序(卷積神經網絡)爲什麼在anaconda裏的jupyter裏就可以飛速跑完,在使用anaconda環境的pycharm裏面就會說顯存不足呢?
報錯是: failed to create cublas handle: CUBLAS_STATUS_ALLOC_FAILED(這就是顯存不足的意思)
兩個解決方案:
(1)
jupyter在沒關閉的時候,會佔用電腦大量顯存,不應該和pycharm同時開啓,應該及時按Ctrl+cl兩次關閉。
(2)
在顯存不足(如開了jupyter)的時候定義佔比,強行跑程序。
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.333) with tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) as sess: