发简信
IP属地：广东
-
了解集合通信与模型并行策略集合通信 集合通信基础 了解通信相关术语：image.png 了解常见网络拓扑结构：典型拓扑结构优缺点[https://www.163.com/...
-
离线推理全流程&模型调优
整体概述 ModelZoo-PyTorch指导文档：https://gitee.com/ascend/ModelZoo-PyTorch/blob...
-
离线推理性能问题分析概述 PTA性能调优参考指导：链接[https://www.hiascend.com/document/detail/zh/Pytorch/70...
-
离线推理精度问题分析背景 本文档适用的场景是传统模型迁移到昇腾设备上（见下图），出现了精度问题，介绍精度问题的定位方法和解决方案。本文档只介绍“Pytorch mo...
-
搞定昇腾软件版本配套问题场景 开发者拿到一个裸机环境，如800I A2/800T A2, 或Atlas 800 3000推理服务器（里面插了Iduo卡），需要用户根据O...
-
基于llama-factory的昇腾实战环境安装（在安装好cann的容器执行） 全流程实践 原始模型推理 基于LORA的sft指令微调 创建yaml文件，如qwen.yaml 执行微调...
-
服务化参数调优实战服务化性能调优 前置准备 完成MindIE环境的安装，参考链接[https://www.hiascend.com/document/detail...
-
MindIE Torch快速上手MindIE Torch整体介绍 整体架构 推理迁移工作流 关键特性 特性1：配合torch_npu实现子图+单算子混合执行 特性2：支持C++...
-
DeepSeek-R1-Distill-Qwen-1.5B基于MindIE推理实践1 实验目标 1.1 实验目标 掌握纯模型的精度和性能测试 掌握服务化的部署 掌握服务化的精度和性能测试 2 前置准备 2.1 准备推理环境 2...