发简信
IP属地：广东
-
【推理框架】DeepSeek-V4-Flash 的 1P1D 和 2P2D 部署方案分析
【环境信息】模型: DeepSeek-V4-Flash-0731-W8A8硬件: 4 台 Atlas 800I, 每台 8 卡昇腾 910C, ...
-
【Transformer】GPT-3大模型TP和PP并行计算详解
GPT-3 的 TP 和 PP 并行计算详解 GPT-3：96 个注意力头，96 层 Transformer Layer（Self-Attent...
-
【Transformer】神经网络的训练原理详解
最简单神经网络的完整训练计算过程 网络结构 初始参数 参数值说明1输入11输入20.2x1→h1 权重0.3x2→h1 权重0.4x1→h2 权...
-
【Transformer】Transformer核心原理和架构一、Transformer 核心原理：Attention Is All You Need 深度解析 AI 论文天花板《Attention is ...
-
【Mooncake】全局KV缓存池与PD分离模式的部署指南文档覆盖单机共享 KV 缓存（MooncakeStoreConnector）+ 多机 PD 分离推理（MooncakeConnector）两套主...
-
【微调】基于Swift的微调和推理部署实践一、环境准备 基础环境信息配置：pyproject.toml 安装基础环境： 安装swift和modelscope工具： 二、微调参数和结果分析...
-
【入门】训练和推理的区别AI 整套逻辑浓缩为简单三步：猜→改→考 神经网络是零基础的学生：猜损失函数是负责阅卷评分的老师：改GPU是高强度并行运算、批量处理任务的超级助...
-
【性能优化】Linux性能优化实战有感 - CPU篇一、常见性能工具 1、top 工具 参考：top命令使用详解[https://cloud.tencent.com/developer/artic...
-
【Spark 精选】Native 计算引擎（C++）作业线程卡住问题1.从spark history UI定界 在作业主页确定有问题的子作业Job，然后进入该子作业详情查看stage，确定有问题的stage。超长...