声明‖ 本文原创非首发,首发于头条。按微头条首发创作者要求,头条发布72小时后转载发布于简书。微条 2502|| 多篇微条集合

今天按照网上的教程,在家里电脑上将deepseek完成了本地部署。
当然在一般家庭当中,我们能够进行本地部署的一定是他的最低版本,r1 1.5b,存储量安装需要的空间大概1个GB。
一般来说需要的内存,一般不低于32G, 这个对一般家庭来说大体上还可以接受,比较新的电脑基本上都能够达到这个配置水平。
但是运行大模型,对显卡内存的要求明显要高,我看了一下说明,如果在本地部署14b参数的版本,对显卡内存的要求就应该不低于32G。
这个要求实在是太高了,我看了一下自己的内存,显卡配置才仅仅有128M。差了足足250倍。这就意味着如果在当地部署较大参数版本的话,普通的家用电脑是根本跑不起来的。
按照网上安装的说明和各个步骤介绍,我是通过ollama平台进行安装和部署的,下载这个平台软件大概需要700多M,下载的速度还是相当快的,家里的宽带用了大约一分钟就完成了下载。
然后第二步是安装这个ollama软件, 默认安装是安装在C盘,这个是没有办法选择的,据说必须安装在C盘下面,人家不支持安装到其他驱动器,否则后续无法正常运行。
本地部署工作的第三步,运行这个软件,通过命令行运行ollama run deepseek-r1:1.5b。运行这个命令,平台就自动从服务器下载deepseek的最低参数版本,大约1个gb大小,但好在速度依然很快,只用了大约两分钟的时间就完成了下载。
这个下载速度让我非常惊奇,因为毕竟是从国外的服务器下载。而且最近并发的数量很高,能够达到这个速度可以看成是奇迹了。
理论上来讲,工作进行到这里,这个deepseek模型已经下载部署完成了。但很可惜的是,目前还只有命令行这个操作界面,对于一般人来讲都不太容易接受这个丑陋的界面。
因此还需要为这个大模型下载一个常规的对话窗口界面,我按照介绍的教程,又下载了一个chatbox界面软件,大概需要150兆空间。
下载的时候同样很快,安装好之后我们就拥有了一个图形常规界面,方便大家使用大模型和进行日常操作。
现在你就可以和deepseek这个人工智能大模型进行正常对话聊天儿了,多好。