集合通信 集合通信基础 了解通信相关术语：image.png 了解常见网络拓扑结构：典型拓扑结构优缺点[https://www.163.com/dy/article/EHKL...
发简信
IP属地：广东
-
了解集合通信与模型并行策略 -
离线推理全流程&模型调优
整体概述 ModelZoo-PyTorch指导文档：https://gitee.com/ascend/ModelZoo-PyTorch/blob/master/ACL_PyT...
-
离线推理性能问题分析概述 PTA性能调优参考指导：链接[https://www.hiascend.com/document/detail/zh/Pytorch/700/ptmoddevg/tra...
-
离线推理精度问题分析背景 本文档适用的场景是传统模型迁移到昇腾设备上（见下图），出现了精度问题，介绍精度问题的定位方法和解决方案。本文档只介绍“Pytorch module -> onnx ->...
-
搞定昇腾软件版本配套问题场景 开发者拿到一个裸机环境，如800I A2/800T A2, 或Atlas 800 3000推理服务器（里面插了Iduo卡），需要用户根据OS版本去安装配套的固件驱动、M...
-
基于llama-factory的昇腾实战环境安装（在安装好cann的容器执行） 全流程实践 原始模型推理 基于LORA的sft指令微调 创建yaml文件，如qwen.yaml 执行微调 动态合并LoRA的推理 be...
-
-
MindIE Torch快速上手MindIE Torch整体介绍 整体架构 推理迁移工作流 关键特性 特性1：配合torch_npu实现子图+单算子混合执行 特性2：支持C++和Python编程 c++伪代...
-
DeepSeek-R1-Distill-Qwen-1.5B基于MindIE推理实践1 实验目标 1.1 实验目标 掌握纯模型的精度和性能测试 掌握服务化的部署 掌握服务化的精度和性能测试 2 前置准备 2.1 准备推理环境 2.1.1 下载镜像 1）进入登...
-
MindIE对接vLLM框架开发指南vLLM适配昇腾方案 参考官方文档：link[https://www.hiascend.com/document/detail/zh/mindie/100/mindieser...
-
MindIE+MindFormers推理方案指导组件介绍 CANN CANN是什么[https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/800a...
-
PyTorch模型训推迁移到昇腾实战1.目标 通过一个简单的CNN模型完成从GPU到NPU的训练和推理的迁移 掌握torch_npu、MindIE Torch的基本使用 2.前置准备 2.1 CANN环境安装 ...