App下載

CUDA 內存不足如何解決?

猿友 2021-07-19 16:30:22 瀏覽數(shù) (6727)
反饋

很多小伙伴在跑pytorch的項目的時候可能會出現(xiàn)CUDA內存不足的情況,或者在使用GPU的時候明明顯存充足卻一直顯示顯存不足的情況,這個時候我們要怎么解決呢?接下來就來看看小編是怎么解決的吧。

小編復現(xiàn)大佬project發(fā)現(xiàn)GPU跑不動,出現(xiàn)如下報錯:

RuntimeError: CUDA out of memory.

看下來最簡單粗暴方法就是減少batch_size,慢是慢了不止一點點但至少跑得動了!

補充:Pytorch GPU顯存充足卻顯示out of memory解決辦法

今天在測試一個pytorch代碼的時候顯示顯存不足,但是這個網(wǎng)絡框架明明很簡單,用CPU跑起來都沒有問題,GPU卻一直提示out of memory.

在網(wǎng)上找了很多方法都行不通,最后我想也許是pytorch版本的問題,原來我的pytorch版本是0.4.1,于是我就把這個版本卸載,然后安裝了pytorch1.1.0,程序就可以神奇的運行了,不會再有OOM的提示了。雖然具體原因還不知道為何,這里還是先mark一下,

具體過程如下:

卸載舊版本pytorch:

conda uninstall pytorch

安裝pytorch1.1.0,按照官網(wǎng)上的辦法,我的CUDA版本是9.0:

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

以上就是CUDA內存不足的解決方法,希望能給大家一個參考,也希望大家多多支持W3Cschool


0 人點贊