五一 Llama 3 超级课堂 | 第三节 Llama 3 图片理解能力微调（XTuner+LLaVA）

作者: 机智流分类: 计算机技术发布时间: 2024-05-01 17:33:36 浏览:2481 次

谢xiejavascript:
我在执行训练的那一步，报超出显存容量。【rank0】: torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.59 GiB. GPU 。可是我用的开发机是24G显存的[辣眼睛]

【回复】回复 @谢xiejavascript : 所以是不是如果没邀请那么多人，第三节课就做不了了…………
【回复】看到了，教程上说这一步预计训练过程所需显存约为44447 MiB
it熊猫:
llama3-llava-iter_2181.pth 这个哪里能下载到

学习人工智能部署大语言模型 (LLM) Llama 3

如果觉得我的文章对您有用，请随意打赏。您的支持将鼓励我继续创作！