CUDA 內(nèi)存不足如何解決？

很多小伙伴在跑pytorch的項目的時候可能會出現(xiàn)CUDA內(nèi)存不足的情況，或者在使用GPU的時候明明顯存充足卻一直顯示顯存不足的情況，這個時候我們要怎么解決呢？接下來就來看看小編是怎么解決的吧。

小編復現(xiàn)大佬project發(fā)現(xiàn)GPU跑不動，出現(xiàn)如下報錯：

RuntimeError: CUDA out of memory.

看下來最簡單粗暴方法就是減少batch_size，慢是慢了不止一點點但至少跑得動了！

補充：Pytorch GPU顯存充足卻顯示out of memory解決辦法

今天在測試一個pytorch代碼的時候顯示顯存不足，但是這個網(wǎng)絡框架明明很簡單，用CPU跑起來都沒有問題，GPU卻一直提示out of memory.

在網(wǎng)上找了很多方法都行不通，最后我想也許是pytorch版本的問題，原來我的pytorch版本是0.4.1，于是我就把這個版本卸載，然后安裝了pytorch1.1.0，程序就可以神奇的運行了，不會再有OOM的提示了。雖然具體原因還不知道為何，這里還是先mark一下，

具體過程如下：

卸載舊版本pytorch：

conda uninstall pytorch

安裝pytorch1.1.0，按照官網(wǎng)上的辦法，我的CUDA版本是9.0：

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成！

以上就是CUDA內(nèi)存不足的解決方法，希望能給大家一個參考，也希望大家多多支持W3Cschool。