RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

在GPU上运行pytorch程序时遇到如下报错：

RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling cublasCreate(handle)

通过nvidia-smi检查显存占用情况，虽然其他程序占用了部分显存，但是剩余显存应该足够运行此程序。通过排查，也不是batch size过大引起的错误。最终判断产生该错误的原因是无法同时运行多个pytorch程序。

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容