IP属地：上海
-
2025记忆工作电脑 lenovo 昭阳 K14 上班的路上，在接近西山的北清路上，月亮挂在山尖。 为我的小黄蜂自行车开发了一个模型，预测下一次的保养时间，...
-
2025-07-02
一、 硬件就位，模型如何高效“跑起来”？ 上一篇我们详细讨论了 LLM 私有化部署的硬件选型，搞定了算力基础。但光有硬件还不够，我们需要一个“引...
-
准确率和召回率
在大模型的评估中，召回率和准确率是两个不同维度的关键指标，具体区别如下： 准确率 指模型预测为“正确”的结果中，真正正确的比例。 比如模型预测1...
-
【实测】昇腾910B环境下模型训练性能调优效果NPU训练性能调优技术实践：从训练代码优化达到到训练性能（效率）提升 在NPU（神经网络处理器）环境下，模型训练的性能优化是提升训练效率、缩短训...
-
为什么要把运行在GPU上的pytorch模型迁移到昇腾的NPU
将运行在GPU上的PyTorch模型迁移到昇腾NPU（神经网络处理器）的决策，通常基于性能优化、成本控制、国产化需求、生态适配等多重因素。以下从...
-
Spring AI Alibaba一、 什么是 Spring AI Alibaba Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模...
-
将PyTorch模型迁移至昇腾设备上训练(三、PyTorch迁移性能调优）零、性能指标 昇腾模型性能调试中的基本性能指标，包括吞吐率、线性度和算力利用率等。 在计算性能指标中，优先级排序为：吞吐率 > 单步迭代时间 >...
-
将PyTorch模型迁移至昇腾设备上训练(二、模型精度对齐）一、精度问题概述 随着ChatGPT的推出，大模型迅速成为AI界热点。大模型训练需要强大的算力支撑，涉及数据、模型、框架、算子、硬件等诸多环节。...
-
将PyTorch模型迁移至昇腾设备上训练、模型精度对齐以及性能调优(一）训练代码迁移 前提条件 要迁移的训练任务代码在GPU上多次训练稳定可收敛。训练业务代码和数据，应该确保在GPU环境中能够运行，并且训练任务有稳定...