关于deepseek本地部署及效率评估-1

声明‖  本文原创非首发,首发于头条。按微头条首发创作者要求,头条发布72小时后转载发布于简书。微条 2502|| 多篇微条集合


今天按照网上的教程,在家里电脑上将deepseek完成了本地部署。

当然在一般家庭当中,我们能够进行本地部署的一定是他的最低版本,r1 1.5b,存储量安装需要的空间大概1个GB。

一般来说需要的内存,一般不低于32G, 这个对一般家庭来说大体上还可以接受,比较新的电脑基本上都能够达到这个配置水平。

但是运行大模型,对显卡内存的要求明显要高,我看了一下说明,如果在本地部署14b参数的版本,对显卡内存的要求就应该不低于32G。

这个要求实在是太高了,我看了一下自己的内存,显卡配置才仅仅有128M。差了足足250倍。这就意味着如果在当地部署较大参数版本的话,普通的家用电脑是根本跑不起来的。

按照网上安装的说明和各个步骤介绍,我是通过ollama平台进行安装和部署的,下载这个平台软件大概需要700多M,下载的速度还是相当快的,家里的宽带用了大约一分钟就完成了下载。

然后第二步是安装这个ollama软件, 默认安装是安装在C盘,这个是没有办法选择的,据说必须安装在C盘下面,人家不支持安装到其他驱动器,否则后续无法正常运行。

本地部署工作的第三步,运行这个软件,通过命令行运行ollama run deepseek-r1:1.5b。运行这个命令,平台就自动从服务器下载deepseek的最低参数版本,大约1个gb大小,但好在速度依然很快,只用了大约两分钟的时间就完成了下载。

这个下载速度让我非常惊奇,因为毕竟是从国外的服务器下载。而且最近并发的数量很高,能够达到这个速度可以看成是奇迹了。

理论上来讲,工作进行到这里,这个deepseek模型已经下载部署完成了。但很可惜的是,目前还只有命令行这个操作界面,对于一般人来讲都不太容易接受这个丑陋的界面。

因此还需要为这个大模型下载一个常规的对话窗口界面,我按照介绍的教程,又下载了一个chatbox界面软件,大概需要150兆空间。

下载的时候同样很快,安装好之后我们就拥有了一个图形常规界面,方便大家使用大模型和进行日常操作。

现在你就可以和deepseek这个人工智能大模型进行正常对话聊天儿了,多好。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
禁止转载,如需转载请通过简信或评论联系作者。

相关阅读更多精彩内容

友情链接更多精彩内容