深圳市坪山区住房和建设局网站,dedecms对比wordpress,广州市场调研公司,启信宝企业查询官网环境介绍
NPU#xff1a;Ascend910B2
环境准备
创建Notebook
华为云选择#xff1a;【控制台】-【ModelArts】 ModelArts主页选择【开发生产】-【开发空间】-【Notebook】 页面右上角选择【创建Notebook】 选择资源 主要参数 规格#xff1a;Ascend: 1*ascend-snt…环境介绍
NPUAscend910B2
环境准备
创建Notebook
华为云选择【控制台】-【ModelArts】 ModelArts主页选择【开发生产】-【开发空间】-【Notebook】 页面右上角选择【创建Notebook】 选择资源 主要参数 规格Ascend: 1*ascend-snt9b2|ARM: 24核 192GB 镜像pytorch_2.1.0-cann_8.0.rc1-py_3.9-euler_2.10.7-aarch64-snt9b 存储空间100 GB
全都填写完成后点提交即可 注意一下华为云的费用是否有足够的代金券或者余额扣分不然欠费是一个很麻烦的事情 创建完成等待状态显示为【运行中】点右面的【打开】就可以开始体验了
使用npu-smi info命令查看NPU信息
开始体验以曾经写的SinhCustom为例
克隆代码仓
git clone https://gitee.com/ascend/samples创建工作目录work_dir
mkdir work_dir
cd work_dir复制文件到work_dir
cp -r ../samples/operator/AddCustomSample/ ./
cd AddCustomSample目录下面有两个文件夹 FrameworkLaunch使用框架调用Add自定义算子。 按照工程创建-算子实现-编译部署算子调用的流程完成算子开发。整个过程都依赖于算子工程基于工程代码框架完成算子核函数的开发和Tiling实现通过工程编译脚本完成算子的编译部署继而实现单算子调用或第三方框架中的算子调用。 KernelLaunch使用核函数直调Add自定义算子。 核函数的基础调用Kernel Launch方式开发者完成算子核函数的开发和Tiling实现后即可通过AscendCL运行时接口完成算子的调用。
体验FrameworkLaunch调用自定义算子
进入文件夹
cd FrameworkLaunch/AddCustom执行编译算子
bash build.sh部署算子
cd build_out
./custom_opp_euleros_aarch64.runaclnn调用算子
cd ../../AclNNInvocation
bash run.sh成功运行的截图
体验KernelLaunch调用自定义算子
进入文件夹
cd KernelLaunch/AddKernelInvocationNeo执行CPU调试
bash run.sh -r cpu -v Ascend910B2执行NPU调试
bash run.sh -r npu -v Ascend910B2如果遇到报错的话安装一下CANN最新版的试试
安装方法 设置环境变量
export no_proxy127.0.0.1,localhost,172.16.*,iam.cn-southwest-2.huaweicloud.com,pip.modelarts.private.com
export NO_PROXY127.0.0.1,localhost,172.16.*,iam.cn-southwest-2.huaweicloud.com,pip.modelarts.private.com下载
wget https://ascend-repo.obs.cn-east-2.myhuaweicloud.com/Milan-ASL/Milan-ASL V100R001C19SPC703/Ascend-cann-toolkit_8.0.RC3.alpha003_linux-aarch64.run安装
bash Ascend-cann-toolkit_8.0.RC3.alpha003_linux-aarch64.run --full设置环境变量
source /home/ma-user/Ascend/ascend-toolkit/set_env.sh然后就可以运行了
