🕷️ Crawler Inspector

# 解决RuntimeError: CUDA error: invalid device ordinal  [ZHAAAANNNN-](https://blog.csdn.net/weixin_43418716 "ZHAAAANNNN-")  已于 2023-12-13 13:16:41 修改  阅读量3k [  收藏 16]()   点赞数 10 [CC 4.0 BY-SA版权]() 分类专栏： [深度学习](https://blog.csdn.net/weixin_43418716/category_9877428.html) 文章标签： [pytorch](https://so.csdn.net/so/search/s.do?q=pytorch&t=all&o=vip&s=&l=&f=&viparticle=&from_tracking_code=tag_word&from_code=app_blog_art) [linux](https://so.csdn.net/so/search/s.do?q=linux&t=all&o=vip&s=&l=&f=&viparticle=&from_tracking_code=tag_word&from_code=app_blog_art) 于 2023-12-13 13:16:09 首次发布 版权声明：本文为博主原创文章，遵循 [CC 4.0 BY-SA](http://creativecommons.org/licenses/by-sa/4.0/) 版权协议，转载请附上原文出处链接和本声明。 本文链接：<https://blog.csdn.net/weixin_43418716/article/details/134969481> [ 深度学习 专栏收录该内容](https://blog.csdn.net/weixin_43418716/category_9877428.html "深度学习") 3 篇文章 [订阅专栏]()  文章介绍了如何在Linux环境下检查CUDA版本，以及如何通过\`CUDA\_VISIBLE\_DEVICES\`环境变量来管理多个GPU设备，以便在PyTorch中正确设置和使用。作者提供了具体命令示例，以确保在Python项目中充分利用多GPU资源。 摘要生成于 [C知道](https://ai.csdn.net/?utm_source=cknow_pc_ai_abstract) ，由 DeepSeek-R1 满血版支持， [前往体验 \>](https://ai.csdn.net/?utm_source=cknow_pc_ai_abstract) ## 步骤 ### 首先查看自己设备的cuda版本 ``` #如下linux指令都可以，主要还是以nvidia-smi为主 nvidia-smi nvcc -V ```  用的python版本是3.8 torch版本用的1.12.1+cu113 torch网址：<https://pytorch.org/get-started/previous-versions/>  安装完后发现出现如下问题：  ``` import torch print(torch.__version__) # 查看pytorch安装的版本号 print(torch.cuda.is_available()) # 查看cuda是否可用。True为可用，即是gpu版本pytorch print(torch.cuda.get_device_name()) # 返回GPU型号 print(torch.cuda.device_count()) # 返回可以用的cuda（GPU）数量，0代表一个 print(torch.version.cuda) ``` 运行发现GPU数量为1，原本应该是8. ### 解决方案 在linux指令里面输入： ``` #GPU的数量 export CUDA_VISIBLE_DEVICES=[GPU的个数] #eg. 8卡就用下语句 export CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7 #4卡 export CUDA_VISIBLE_DEVICES=0,1,2,3 ``` 重新运行后可以看到GPU的数量为8.  ``` export CUDA_VISIBLE_DEVICES=device_ids 例如，要将环境变量设置为使用设备 0 和 1，可以执行以下命令： export CUDA_VISIBLE_DEVICES=0,1 如果要使用所有可见的设备，可以将 `device_ids` 设置为空： export CUDA_VISIBLE_DEVICES= 这将清除 `CUDA_VISIBLE_DEVICES` 环境变量，使所有可见的设备都可用。 ```  确定要放弃本次机会？ 福利倒计时 *:* *:*  立减 ¥ 普通VIP年卡可用 [立即使用](https://mall.csdn.net/vip) [ ZHAAAANNNN-](https://blog.csdn.net/weixin_43418716) [关注]() [关注]() - [   10]() 点赞 - [ ]() 踩 - [   16]() 收藏 觉得还不错? 一键收藏  -  知道了 [ 0](https://blog.csdn.net/weixin_43418716/article/details/134969481#commentBox) 评论 - [ 分享]() [复制链接]() [分享到 QQ]() [分享到新浪微博]() 扫一扫 - []() [ 举报]() [ 举报]() [专栏目录]() [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal**解决*方案](https://catcoder.blog.csdn.net/article/details/135463163) [weixin\_43178406的博客](https://blog.csdn.net/weixin_43178406) 01-09  3万+ [本文主要介绍了*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal**解决*方案，希望能对使用Python的同学们有所帮助。 文章目录 1. 问题描述 2. *解决*方案 2.1 LLM*解决*方案 2.2 cv2库*解决*方案](https://catcoder.blog.csdn.net/article/details/135463163) [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*](https://blog.csdn.net/jacke121/article/details/144975127) [jacke121的专栏](https://blog.csdn.net/jacke121) 01-07  512 [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*](https://blog.csdn.net/jacke121/article/details/144975127) 参与评论 您还未登录，请先 登录 后发表或查看评论 [OpenVLA项目中的*CUDA*内核镜像无效问题分析与*解决*方案 最新发布](https://blog.csdn.net/gitblog_07202/article/details/148943991) [gitblog\_07202的博客](https://blog.csdn.net/gitblog_07202) 06-27  440 [OpenVLA项目中的*CUDA*内核镜像无效问题分析与*解决*方案 问题现象 在使用OpenVLA项目进行模型微调时，用户遇到了一个典型的*CUDA*运行时错误："*RuntimeError**:* *CUDA* *error**:* *device* kernel image is *invalid*"。这个错误通常发生在尝试将计算任务分配到GPU时，系统无法正确加载或执行*CUDA*内核代码。 环境配置分析 从报告...](https://blog.csdn.net/gitblog_07202/article/details/148943991) [运行Python程序时，出现*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*错误](https://devpress.csdn.net/v1/article/detail/143800197) [qq\_50798263的博客](https://blog.csdn.net/qq_50798263) 11-15  1200 [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* 错误通常表示你在尝试使用一个无效的 *CUDA* 设备编号。注：检查代码后，发现设备编号写错了。修改后，程序能正常运行。](https://devpress.csdn.net/v1/article/detail/143800197) [问题*解决* \| *RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal**CUDA* kernel *error*s](https://devpress.csdn.net/v1/article/detail/136449672) [weixin\_44649780的博客](https://blog.csdn.net/weixin_44649780) 03-04  5651 [*RuntimeError*（运行时错误）： *CUDA* 错误：设备序号无效*CUDA* 内核错误可能会在其他 API 调用中异步报告，因此下面的堆栈跟踪可能不正确。为便于调试，可考虑通过 *CUDA*\_LAUNCH\_BLOCKING=1。使用 \`TORCH\_USE\_*CUDA*\_DSA\` 进行编译，以启用设备端断言。](https://devpress.csdn.net/v1/article/detail/136449672) [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* *CUDA* kernel *error*s might be asynchronously reported](https://weibaohang.blog.csdn.net/article/details/139192164) [CSDN 精品推荐](https://blog.csdn.net/m0_47256162) 05-25  805 [但是我的服务器只有一张显卡，所以会出现找不到显卡问题。只需要将设备设置为自己的显卡编号即可，或者没有显卡设置为。深度学习项目，在利用显卡进行训练出现如下问题。出现这个问题的原因是，我的代码。](https://weibaohang.blog.csdn.net/article/details/139192164) [*pytorch* 使用指定的GPU *RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* 热门推荐](https://junchu.blog.csdn.net/article/details/107720675) [Hello Word\!](https://blog.csdn.net/qxqxqzzz) 07-31  3万+ [*pytorch*使用指定GPU报错： Traceback (most recent call last)*:* File "test\_bed/process\_deepglint.py", line 102, in \<module\> pred\_dataset(outputFile) File "test\_bed/process\_deepglint.py", line 36, in pred\_dataset pred\_loader\_deepg, model, criterion,](https://junchu.blog.csdn.net/article/details/107720675) [*CUDA* *error**:* *invalid* *device* *ordinal*](https://devpress.csdn.net/v1/article/detail/124150851) [Dartao的博客](https://blog.csdn.net/Dartao) 04-13  2万+ [*cuda* *pytorch*单机多卡训练](https://devpress.csdn.net/v1/article/detail/124150851) [已*解决**RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* *CUDA* kernel *error*s might be asynchronously repo](https://blog.csdn.net/2401_84204207/article/details/137771754) [2401\_84204207的博客](https://blog.csdn.net/2401_84204207) 04-15  2849 [如果想要系统学习Python、Python问题咨询，或者考虑做一些工作以外的副业，都可以扫描二维码添加微信，围观朋友圈一起交流学习。我们还为大家准备了Python资料和副业项目合集，感兴趣的小伙伴快来找我领取一起交流学习哦！学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！](https://blog.csdn.net/2401_84204207/article/details/137771754) [*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* *CUDA* kernel *error*s might be](https://blog.csdn.net/weixin_43798819/article/details/134080678) [weixin\_43798819的博客](https://blog.csdn.net/weixin_43798819) 10-27  1324 [原因： 当前环境的显卡 与程序。设定的显卡不匹配引起。](https://blog.csdn.net/weixin_43798819/article/details/134080678) [DEBUG-- *RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*](https://blog.csdn.net/qq_45736022/article/details/122663779) [qq\_45736022的博客](https://blog.csdn.net/qq_45736022) 01-24  3406 [在使用以下代碼訓練時會報錯*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*， *CUDA*\_VISIBLE\_*DEVICE*S=0,1,2,3,4,5,6,7 \\ python -m torch.distributed.launch \\ --nproc\_per\_node 8 原因是机器的GPU数量和指定的GPU数量不一致，如果机器上只有4个GPU，就需要将代码修改为： *CUDA*\_VISIBLE\_*DEVICE*S=0,1,2,3 \\ python -m torch.](https://blog.csdn.net/qq_45736022/article/details/122663779) [python运行错误：*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*](https://devpress.csdn.net/v1/article/detail/88040982) [欢迎来到打不死的小强的专栏](https://blog.csdn.net/zzq060143) 02-28  3万+ [用*pytorch*跑实验需要用到*cuda*加速，于是乎开始了下面的操作(这也是看了*pytorch*的官方tutorial) *cuda*\_*device* = torch.*device*('*cuda**:*1') 兴致勃勃的开始实验，但是出现了rt所述的错误，然后就进行各种google，但是网上的方法不适用（别人的方法），按照他们的说法是因为只有1张GPU卡所以出现了错误，但我的GPU超过一张，还是出错，刚开始以为是...](https://devpress.csdn.net/v1/article/detail/88040982) [【BUG】已*解决**RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* *CUDA* kernel *error*s might be asynchronously](https://yanqianyun.blog.csdn.net/article/details/138339053) [m0\_73367097的博客](https://blog.csdn.net/m0_73367097) 04-30  3680 [已*解决**RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal* *CUDA* kernel *error*s might be asynchronously](https://yanqianyun.blog.csdn.net/article/details/138339053) [*PyTorch* *Error**:* “*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*的”](https://blog.csdn.net/chiang97912/article/details/133984518) [BetterManPeter的博客](https://blog.csdn.net/chiang97912) 10-23  497 [设置使用的GPU设备，此时会有个误区就是当在环境变量中指定了“*CUDA*\_VISIBLE\_*DEVICE*S”，那么Python代码中会根据指定的GPU数量从0开始重新编号，因此代码中应该设置为。环境变量中设置了“*CUDA*\_VISIBLE\_*DEVICE*S”，那么记得不管限定的GPU编号是多少，在代码中的编号总是从0开始的。首先在允许代码的时候通过环境变量“*CUDA*\_VISIBLE\_*DEVICE*S=7”限定了使用的GPU，然后再在代码中通过。](https://blog.csdn.net/chiang97912/article/details/133984518) [Python运行错误：*RuntimeError**:* *CUDA* *error**:* *invalid* *device* *ordinal*](https://devpress.csdn.net/v1/article/detail/105167947) [yxh的博客](https://blog.csdn.net/sinat_37422398) 03-28  3万+ [用*pytorch*跑实验需要用到*cuda*加速，开始默认用的是第0块gpu，后来第0块cpu被别人占用，所以只能切换到第1块gpu。 于是进行了如下修改 *device* = torch.*device*('*cuda**:*1' if torch.*cuda*.is\_available() else 'cpu' ) 但是出现了错误： *RuntimeError**:* *CUDA* *error**:* *invalid* *device* o...](https://devpress.csdn.net/v1/article/detail/105167947) [](https://blog.csdn.net/weixin_43418716) [ZHAAAANNNN-](https://blog.csdn.net/weixin_43418716 "ZHAAAANNNN-") 博客等级  码龄7年 [18 原创](https://blog.csdn.net/weixin_43418716) 135 点赞 711 收藏 70 粉丝 [关注]() [私信](https://im.csdn.net/chat/weixin_43418716) [](https://blog.csdn.net/blogdevteam/article/details/149360986?utm_source=blogrun_pc_bkzs) [](https://mp.csdn.net/edit?utm_source=blog) ### 热门文章 - [matlab图像处理——平滑滤波  64422](https://blog.csdn.net/weixin_43418716/article/details/83626814) - [MATLAB——阈值分割（一）  45812](https://blog.csdn.net/weixin_43418716/article/details/83629009) - [scatter() 散点图样式  9779](https://blog.csdn.net/weixin_43418716/article/details/105205792) - [matlab图像处理——分水岭法  8737](https://blog.csdn.net/weixin_43418716/article/details/83690248) - [如何将图片中的一个任意四边形区域的图像转化为矩形【附源码】  5024](https://blog.csdn.net/weixin_43418716/article/details/83348734) ### 分类专栏 - [ 深度学习](https://blog.csdn.net/weixin_43418716/category_9877428.html) 3篇 - [ Django](https://blog.csdn.net/weixin_43418716/category_11322666.html) 1篇 - [ python](https://blog.csdn.net/weixin_43418716/category_8232853.html) 5篇 - [ 数据挖掘与数据分析](https://blog.csdn.net/weixin_43418716/category_8232872.html) 2篇 - [ matlab 图像处理](https://blog.csdn.net/weixin_43418716/category_8232876.html) 7篇 上一篇： [PR1: DARTS（DIFFERENTIABLE ARCHITECTURE SEARCH）](https://blog.csdn.net/weixin_43418716/article/details/126191700) 下一篇： [教程｜使用Conda安装AlphaFold3-个人记录以及遇到的问题](https://blog.csdn.net/weixin_43418716/article/details/144347955) ### 最新评论 - [如何将图片中的一个任意四边形区域的图像转化为矩形【附源码】](https://blog.csdn.net/weixin_43418716/article/details/83348734#comments_36717246) [a18330162218:](https://blog.csdn.net/a18330162218) 请问变换后矩形尺寸会变吗 - [python自定义函数添加到路径](https://blog.csdn.net/weixin_43418716/article/details/116498442#comments_36544159) [yufengshaoxiahwt:](https://blog.csdn.net/yufengshaoxiahwt) 一般来说，既然有自定义的函数代码，把它所在的模块添加到sys.path时，都是insert到sys.path的第一位 - [python自定义函数添加到路径](https://blog.csdn.net/weixin_43418716/article/details/116498442#comments_36544138) [yufengshaoxiahwt:](https://blog.csdn.net/yufengshaoxiahwt) 严格来说，sys.path是记录搜索模块的目录 - [matlab图像处理——平滑滤波](https://blog.csdn.net/weixin_43418716/article/details/83626814#comments_31755230) [turnLin-:](https://blog.csdn.net/linixia) 平滑处理时定义滤波器时最后是不是应该h(3,3)=0;啊 - [如何将图片中的一个任意四边形区域的图像转化为矩形【附源码】](https://blog.csdn.net/weixin_43418716/article/details/83348734#comments_25565291) [Smile\_xiaofei:](https://blog.csdn.net/Smile_xiaofei) 请问图三在那儿呀 ### 大家在看 - [\[极客大挑战 2019\]HardSQL1  1064](https://blog.csdn.net/2401_86572133/article/details/150401590) - [java - 【架构视角】一篇文章带你彻底吃透Spring - 框架系列全 ...  596](https://blog.csdn.net/h356363/article/details/150383638) - [Kafka（四）架构解析与应用  704](https://blog.csdn.net/weixin_38526314/article/details/150224148) - [基于大数据的国内旅游景点游客数据分析系统 \| 他是如何用Hadoop+Spark构建旅游大数据分析系统征服答辩老师的？  434](https://blog.csdn.net/2501_92994129/article/details/150466207) - [Modbus协议零信任架构安全加固指南  435](https://blog.csdn.net/weixin_38526314/article/details/149935990) ### 最新文章 - [Gromacs学习记录过程](https://blog.csdn.net/weixin_43418716/article/details/145144268) - [Alphafold3-结果分析](https://blog.csdn.net/weixin_43418716/article/details/144350663) - [教程｜使用Conda安装AlphaFold3-个人记录以及遇到的问题](https://blog.csdn.net/weixin_43418716/article/details/144347955) [2025年1篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2025&month=01) [2024年2篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2024&month=12) [2023年1篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2023&month=12) [2022年1篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2022&month=08) [2021年3篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2021&month=08) [2020年4篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2020&month=04) [2019年1篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2019&month=11) [2018年7篇](https://blog.csdn.net/weixin_43418716?type=blog&year=2018&month=11) ### 目录 展开全部  收起  ### 相关专栏 [Python基础课程 专栏 4157 人学习 系统讲解Python基础知识和各种实用的Python库，并且分享多年实践大模型使用经验和Debug的最佳实践。每一篇均来源于亲身实践经验，并且通过截图展示了详细的操作步骤。本专栏持续更新中，希望能对学习Python的同学们有所帮助。](https://blog.csdn.net/weixin_43178406/category_10993679.html "Python基础课程") [python基础 专栏 64 人学习 感谢粉丝的认可，特意把python基础知识免费分享出来，供大家学习使用](https://blog.csdn.net/jacke121/category_11120764.html "python基础") [图神经网络 专栏 47 人学习 近年来，由于图神经网络的强大表现力，用机器学习方法分析图的研究越来越受到重视。图神经网络（GNN）是一类基于深度学习的处理图域信息的方法。由于其较好的性能和可解释性，GNN最近已成为一种广泛应用的图分析方法。](https://blog.csdn.net/m0_47256162/category_12077335.html "图神经网络") ### 目录 展开全部  收起  上一篇： [PR1: DARTS（DIFFERENTIABLE ARCHITECTURE SEARCH）](https://blog.csdn.net/weixin_43418716/article/details/126191700) 下一篇： [教程｜使用Conda安装AlphaFold3-个人记录以及遇到的问题](https://blog.csdn.net/weixin_43418716/article/details/144347955) ### 分类专栏 - [ 深度学习](https://blog.csdn.net/weixin_43418716/category_9877428.html) 3篇 - [ Django](https://blog.csdn.net/weixin_43418716/category_11322666.html) 1篇 - [ python](https://blog.csdn.net/weixin_43418716/category_8232853.html) 5篇 - [ 数据挖掘与数据分析](https://blog.csdn.net/weixin_43418716/category_8232872.html) 2篇 - [ matlab 图像处理](https://blog.csdn.net/weixin_43418716/category_8232876.html) 7篇 [展开全部 ]() [收起 ]() ### 目录 评论  被折叠的 条评论 [为什么被折叠?](https://blogdev.blog.csdn.net/article/details/122245662) [到【灌水乐园】发言](https://bbs.csdn.net/forums/FreeZone) [查看更多评论]() 添加红包  下一步  知道了 ![]() 成就一亿技术人\! 领取后你会自动成为博主和红包主的粉丝 [规则]() [](https://blog.csdn.net/weixin_43418716/article/details/134969481) hope\_wisdom 发出的红包 实付元 [使用余额支付]()  点击重新获取 扫码支付 钱包余额 0  抵扣说明： 1\.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。 [余额充值](https://i.csdn.net/#/wallet/balance/recharge) ![]()