App下載

CUDA 內(nèi)存不足如何解決?

猿友 2021-07-19 16:30:22 瀏覽數(shù) (6725)
反饋

很多小伙伴在跑pytorch的項(xiàng)目的時(shí)候可能會出現(xiàn)CUDA內(nèi)存不足的情況,或者在使用GPU的時(shí)候明明顯存充足卻一直顯示顯存不足的情況,這個(gè)時(shí)候我們要怎么解決呢?接下來就來看看小編是怎么解決的吧。

小編復(fù)現(xiàn)大佬project發(fā)現(xiàn)GPU跑不動,出現(xiàn)如下報(bào)錯(cuò):

RuntimeError: CUDA out of memory.

看下來最簡單粗暴方法就是減少batch_size,慢是慢了不止一點(diǎn)點(diǎn)但至少跑得動了!

補(bǔ)充:Pytorch GPU顯存充足卻顯示out of memory解決辦法

今天在測試一個(gè)pytorch代碼的時(shí)候顯示顯存不足,但是這個(gè)網(wǎng)絡(luò)框架明明很簡單,用CPU跑起來都沒有問題,GPU卻一直提示out of memory.

在網(wǎng)上找了很多方法都行不通,最后我想也許是pytorch版本的問題,原來我的pytorch版本是0.4.1,于是我就把這個(gè)版本卸載,然后安裝了pytorch1.1.0,程序就可以神奇的運(yùn)行了,不會再有OOM的提示了。雖然具體原因還不知道為何,這里還是先mark一下,

具體過程如下:

卸載舊版本pytorch:

conda uninstall pytorch

安裝pytorch1.1.0,按照官網(wǎng)上的辦法,我的CUDA版本是9.0:

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

以上就是CUDA內(nèi)存不足的解決方法,希望能給大家一個(gè)參考,也希望大家多多支持W3Cschool


0 人點(diǎn)贊