手把手教你在本地部署DeepSeek

安装Ollama

下载安装

进入Ollama官网,点击Download下载安装程序。

image.png

  • 如果下载较慢,可以在Download上右键,点击复制链接地址(以Google Chrome为例),打开迅雷进行下载。
image.png

打开Ollama安装程序,点击Install进行安装,此安装无法选择安装位置,默认安装在C盘下。

image.png
  • 可以通过命令行运行Ollama安装程序,并传入安装路径参数。

进入CMD,运行OllamaSetup,以安装在E盘为例:

OllamaSetup.exe /DIR=E:\MyAI\Ollama
image.png

验证安装成功

进入cmd,运行ollama --version,输出版本号则安装成功。

image.png

运行deepseek

选择DeepSeek版本

在Ollama官网可以选择deepseek版本,选择版本后,右边会同步给出运行命令,复制到cmd窗口运行即可。

image.png

版本说明

  • 1.5b的b是单词billion的首字母,意为“十亿”,1.5b即15亿参数,同理7b为70亿参数。

  • 普通电脑可尝试1.5b、7b。

运行deepseek

复制运行命令到cmd,运行前会自动下载。

image.png
  • 如果下载降速了,可Ctrl+C退出后,重新运行,可恢复下载速度。

  • 下载的模型默认在:C:\User\当前用户.ollama\models下

image.png

下载完成后,便可以进行询问啦。输入/bye可退出。

image.png
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容