昇腾Ascend上使用分布式训练

一、环境搭建

1、使用hccn_tool配置昇腾训练卡的芯片网络,包括ip地址和掩码

命令原型

hccn_tool [-i %d] -ip -s [address %s] [netmask %s]

使用样例(配置两张卡):

hccn_tool -i 0 -ip -s address 192.168.2.10 netmask 255.255.255.0

hccn_tool -i 2 -ip -s address 192.168.2.11 netmask 255.255.255.0

hccn_tool使用指南参考:https://support.huawei.com/enterprise/zh/doc/EDOC1100368810/1b4fb6ff

配置成功后会在/etc/hccn.conf中有如下信息:

2、使用hccl_tools的工具生成Rank table文件,为json格式

hccl_tools工具所在路径:models: Models of MindSpore - Gitee.com

python hccl_tools.py --device_num "[0,1)"

运行如上命令会生成如下的Rank table文件,该ranktable文件,用于描述参与集合通信的集群信息,包括两张卡的Server,Device信息。

3、下载mindspore仓库上的开源model脚本运行验证。

更多HCCL资料请参考:集合通信简介-集合通信接口参考-CANN商用版8.0.RC1开发文档-昇腾社区

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/32258.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

IOS Swift 从入门到精通:协议和扩展

文章目录 协议协议继承扩展协议扩展面向协议的编程总结: 今天你将学习一些真正的 Swifty 功能:协议和面向协议的编程(POP)。 POP 摒弃了庞大而复杂的继承层次结构,代之以更小、更简单、可以组合在一起的协议。这确实应…

Magento1与Magento2的区别

本人接触magento有些年头了。。。 2012年开始用magento 1.7。2016年开始用magento2.0。 截止到目前。M1最新版本是1.9.3.3。 M2最新版本是2.2.2。 想当年第一次接触magento的时候,是跟同事一起,网上下载的Alan Storm的深入理解magento系统,…

【UML用户指南】-20-对基本行为建模-交互图

目录 1、概述 2、顺序图 2.1、两个不同于通信图的特征: 2.1.1、顺序图有对象生命线 2.1.2、顺序图有控制焦点 2.2、结构化控制 2.2.1、可选执行opt 2.2.2、条件执行alt 2.2.3、并行执行par 2.2.4、循环迭代执行loop 2.3、嵌套活动图 3、通信图 3.1、两…

【Python】实用脚本--大疆精灵4rtk照片信息提取

你是否想过,为啥就是拍个照片,为啥会占用几十上百兆? 其实除了照片的像素,照片里还附带了很多其他信息。 这个脚本是之前读取大疆精灵4rtk拍摄的照片信息用的,发出来,按需取用。 #!/usr/bin/env python # …

jnp.matmul和jnp.dot的区别?

jnp.matmul 和 jnp.dot 都是用于矩阵乘法的函数,但它们在处理多维数组(即张量)时有不同的行为。以下是它们的区别和具体用法: jnp.dot 主要用于向量点积和矩阵乘法。对于一维数组,计算向量的点积。对于二维数组&…

Flutter第十二弹 Flutter多平台运行

目标: 1.在多平台调试启动Flutter程序运行 一、安卓模拟器 1.1 检查当前Flutter适配的版本 flutter doctor提供了Flutter诊断。 $ flutter doctor --verbose /Users/zhouronghua/IDES/flutter/bin/flutter doctor --verbose [✓] Flutter (Channel master, 2.1…

【代码随想录算法训练Day45】LeetCode 198.打家劫舍、LeetCode 213.打家劫舍II、LeetCode 337.打家劫舍III

Day45 动态规划第七天 LeetCode 198.打家劫舍 dp数组含义:考虑偷前i家后的最大钱币为dp[i] 递推公式:dp[i]max(dp[i-2]nums[i],dp[i-1]) 初始化:dp[0]nums[0],dp[1]max(dp[0],dp[1]),dp[i]任意值 遍历顺序:从小到大 class Solu…

【硬件开发】电阻

电阻精度 电阻封装和功率的关系 裕度 50%的裕度,0603封装的功率为0.1W的情况下,实际只能使用0.05W的功率。 精度 温漂 零欧电阻 用法 1.跳线 如果不用某条线路,直接不焊零欧电阻就行 2.预留 后期调试看看需不需要更换为其他阻值例如33R的…

Docker 下载与安装以及配置

安装yum工具 yum install -y yum-ulits配置yum源 阿里云源 yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo安装Docker 17.03后为两个版本: 社区版(Community Edition,缩写为 CE&#x…

Amazon 文本数据提取服务-Textract对比Amazon 自然语言处理服务-Comprehend

前言 在人工智能技术不断进步的当下,自然语言处理(NLP)和机器学习正变得越来越重要。Amazon Web Services(AWS)为我们提供了Amazon Textract 和 Amazon Comprehend这两大服务,帮助我们更好地处理和分析文本…

leetcode-15-[654]最大二叉树[617]合并二叉树[700]二叉搜索树中的搜索[98]验证二叉搜索树

一、[654]最大二叉树 注意:可以与后序中序建树一起写,思想类似 class Solution {public TreeNode constructMaximumBinaryTree(int[] nums) {return traversal(nums,0, nums.length);}TreeNode traversal(int[] nums,int begin,int end){//左闭右开if(…

2024/06/21--代码随想录算法10-12/17| 子序列问题

300.最长递增子序列 力扣链接 动规五部曲 dp的定义 dp[i]表示子序列答案以nums[i]结尾的最长递增子序列的长度 为什么一定表示 “以nums[i]结尾的最长递增子序” ,因为我们在 做 递增比较的时候,如果比较 nums[j] 和 nums[i] 的大小,那么两…

【机器学习 复习】第9章 降维算法——PCA降维

一、概念 1.PCA (1)主成分分析(Principal ComponentAnalysis,PCA)一种经典的线性降维分析算法。 (2)原理,这里以二维转一维为例,原来的平面变成了一条直线 这是三维变二…

Leetcode85

题目描述 给定一个仅包含 0 和 1 、大小为 rows x cols 的二维二进制矩阵,找出只包含 1 的最大矩形,并返回其面积。 解题思路 动态规划的思想,记录每一个位置向上能到达的最大高度,和向左能到达的最大宽度。 在一个点进行遍历时…

Langchain 如何工作

How does LangChain work? LangChain是如何工作的? Let’s consider our initial example where we upload the US Constitution PDF and pose questions to it. In this scenario, LangChain compiles the data from the PDF and organizes it. 让我们考虑我们最初的例子…

@Value+@ConfigurationProperties+@PropertySource

Value: 这个注解用于注入字面量或来自属性文件的值。它可以用于字段、构造函数参数、方法参数等。例如,Value("${property.name}") 会注入名为 property.name 的属性值。 ConfigurationProperties: 这个注解用于将配置属性映射到一…

红队攻防渗透技术实战流程:中间件安全:IISNGINXAPACHETOMCAT

红队攻防渗透实战 1. 中间件安全1.1 中间件-IIS-短文件&解析&蓝屏等1.2 中间件-Nginx-文件解析&命令执行等1.2.1 后缀解析 文件名解析1.2.2 cve_2021_23017 无EXP有POC1.2.3 cve_2017_7529 意义不大1.3 中间件-Apache-RCE&目录遍历&文件解析等1.3.1 cve_20…

荷兰与法国战平,双方能携手出现?

就在昨天晚上,荷兰队经历了90分钟的鏖战,最终0-0与法国队握手言和。此役,哈维-西蒙斯为荷兰队打进一球,但进球被判无效。从目前的积分形势来看,双方基本上确定携手晋级16强赛。本场比赛,荷兰队后卫内森-阿克…

GPT 模型简史:从 GPT-1 到 GPT-4

文章目录 GPT-1GPT-2GPT-3从 GPT-3 到 InstructGPTGPT-3.5、Codex 和 ChatGPTGPT-4 GPT-1 2018 年年中,就在 Transformer 架构诞生⼀年后,OpenAI 发表了⼀篇题 为“Improving Language Understanding by Generative Pre-Training”的论文,作者…

告别卡顿,迎接流畅!你的mac电脑清洁利器CleanMyMac一键轻松解决所有问题!

亲爱的CSDN家人们,今天要安利的是一个让无数Mac用户从“抓狂”到“惊喜连连”的小神器—CleanMyMac!💫 如果你还在为电脑的缓慢启动、存储空间告急和莫名其妙的卡顿烦恼,那请跟我一起看看它如何成为你的数字世界里的救星&#xff…