一、准备工作 查看GPU状态和信息,找到空闲的GPU: nvidia-smi 二、指定单GPU 从图中 Processes 表格我们可以发现0、1、2号GPU均是可以利用的。于是我们可以在python文件中加入以下代码,表示使用0号GP
查看GPU状态和信息,找到空闲的GPU:
nvidia-smi
从图中 Processes 表格我们可以发现0、1、2号GPU均是可以利用的。于是我们可以在python文件中加入以下代码,表示使用0号GPU:
import osos.environ["CUDA_VISIBLE_DEVICES"] = "0" # 使用0号GPU
或者可以在命令行窗口处输入,表示使用1号GPU运行代码:
CUDA_VISIBLE_DEVICES=1 Python your_model.py # 使用1号GPU运行代码
再或者使用 torch.cuda.set_device()函数
指定gpu使用编号:
import torchtorch.cuda.set_device(2) # 使用2号GPU
若此时所有GPU都是空闲的,那么最简单的做法是:
import torchmodel = torch.nn.DataParallel(model) # 使用默认所有存在的GPU
而假如像上文所述只有0、1、2号显卡空闲,那么可以使用以下代码指定多个GPU:
(注意:无论是指定单个GPU还是多个GPU,设定 os 的语句需要放在 import torch 语句之前,否则指定GPU的操作可能无法生效)
import osos.environ["CUDA_VISIBLE_DEVICES"] = ','.join(map(str, [0,1,2])) # 一般在程序开头设置import torchmodel = torch.nn.DataParallel(model) # 等价于os.environ["CUDA_VISIBLE_DEVICES"] = '0,1,2'
可以看到两者相比,后者其实就是限定了GPU范围。
或者直接使用更简便的方法:
import torchtorch.nn.DataParallel(model, device_ids=[0, 1, 2]) # 使用0、1、2号GPU
为GPU设置随机种子
import torchtorch.cuda.manual_seed(seed)torch.cuda.manual_seed_all(seed)
来源地址:https://blog.csdn.net/weixin_45684362/article/details/129214025
--结束END--
本文标题: 在服务器上指定GPU跑代码
本文链接: https://www.lsjlt.com/news/387245.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
下载Word文档到电脑,方便收藏和打印~
2024-05-23
2024-05-22
2024-05-21
2024-05-21
2024-05-21
2024-05-21
2024-05-13
2024-05-13
2024-05-11
2024-05-11
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
一口价域名售卖能注册吗?域名是网站的标识,简短且易于记忆,为在线用户提供了访问我们网站的简单路径。一口价是在域名交易中一种常见的模式,而这种通常是针对已经被注册的域名转售给其他人的一种方式。
一口价域名买卖的过程通常包括以下几个步骤:
1.寻找:买家需要在域名售卖平台上找到心仪的一口价域名。平台通常会为每个可售的域名提供详细的描述,包括价格、年龄、流
443px" 443px) https://www.west.cn/docs/wp-content/uploads/2024/04/SEO图片294.jpg https://www.west.cn/docs/wp-content/uploads/2024/04/SEO图片294-768x413.jpg 域名售卖 域名一口价售卖 游戏音频 赋值/切片 框架优势 评估指南 项目规模
0