gpu拓扑相关知识简单记录

背景

gpu拓扑会极大程度的影响gpu的利用率,所以这里简单记录一下相关知识

介绍

rc(root complex)

它是 CPU 与 PCIe 设备之间的根控制器和桥梁

UPI

多路(多CPU)服务器中,不同 CPU(RC)之间进行高速通信的总线

PCIe Switch

用于扩展 PCIe 通道的芯片.链接gpu

路径比较

最优

路径:GPU → PCIe Switch → NIC

次优路径

路径:GPU → Switch A → RC → Switch B → NIC

最差路径

路径:GPU → PCIe Switch → RC0 → UPI → RC1  → PCIe Switch→ NIC

查看拓扑

查看拓扑

nvidia-smi topo -m

含义

PIX / PXB:同 Switch
PHB:同 RC
SYS:跨 NUMA
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容