项目场景：

 分布式训练中遇到这个问题，

---

 

问题描述

大概是没有启动并行运算？？？（

---

解决方案：

（1）首先看一下服务器GPU相关信息 进入pytorch终端（Terminal） 输入代码查看

python
torch.cuda.is_available()#查看cuda是否可用；
torch.cuda.device_count()#查看gpu数量；
torch.cuda.get_device_name(0)#查看gpu名字，设备索引默认从0开始；
torch.cuda.current_device()#返回当前设备索引；

Ctrl+Z退出
（2)cd进入要运行文件的上层文件夹

 CUDA_VISIBLE_DEVICES=0,1,2,3,4,5 python -m torch.distributed.launch --nproc_per_node=6 #启动并行运算

加上要运行的文件以及相关配置

 CUDA_VISIBLE_DEVICES=0,1,2,3,4,5 python -m torch.distributed.launch --nproc_per_node=6  src_nq/create_examples.py --vocab_file ./bert-base-uncased-vocab.txt \--input_pattern "./natural_questions/v1.0/train/nq-train-*.jsonl.gz" \--output_dir ./natural_questions/nq_0.03/\--do_lower_case \--num_threads 24 --include_unknowns 0.03 --max_seq_length 512 --doc_stride 128

问题解决