【DeepSeek部署实战】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频教程来啦!

【视频发布】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频系列视频教程来啦!

一、课程内容

承接上一次板端部署DeepSeek R1大模型的文档教程,应粉丝们的要求,本次推出视频教程,手把手教学实现端侧部署,无需依赖云端服务器即可本地化处理数据,功耗更低、成本更优异、数据更安全、自主可控,探索端侧AI应用无限可能!

(1)资料下载链接

视频教程】(点击观看)

资料下载

在线文档教程

(2)视频课程目录

第1讲  聊一聊DeepSeek R1大模型

第2讲  部署前期准备

第3讲  Ubuntu下搭建模型转换环境

第4讲  下载DeepSeek R1原生大模型

第5讲  转换1.5B版本大模型

第6讲  部署1.5B版本大模型

第7讲  测试命令介绍

第8讲  转换7B版本大模型

第9讲  部署7B版本大模型

二、配套硬件

本次实验使用的是正点原子RK3588开发板,RK3588是瑞芯微推出的旗舰级芯片,属于多核异构,其具有高性能八核处理器(四核ARM Cortex-A76 + 四核ARM Cortex-A55),内置高性能GPU,自带6 TOPS算力的NPU,支持8K硬件视频编解码。RK3588凭借其强大的处理能力和低功耗特性,成为嵌入式AI应用平台的理想选择!

  正点原子RK3588开发板对DeepSeek R1蒸馏版本大模型支持情况如下,其中,DDR为4GB版本的开发板只能部署1.5B版本大模型,DDR为8GB和16GB版本的开发板支持部署1.5B和7B版本大模型,DDR为16GB版本的开发板运行性能效果最佳,大家可根据需要进行选择。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容