CUDA out of memory. Как справиться с остановкой из-за нехватки памяти GPU
Ошибка, возникающая в Stable Diffusion при нехватке памяти.
В моем случае появилось следующее сообщение:
CUDA out of memory. Tried to allocate 3.35 GiB (GPU 0; 8.00 GiB total capacity; 5.63 GiB already allocated; 843.24 MiB free; 5.65 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
Отредактируйте webui-user.bat, и если вы не используете xformers, добавьте их.
Поскольку это может произойти даже при использовании VAE, добавьте --no-half-vae.
set COMMANDLINE_ARGS=–xformers --no-half-vae
Готово.