deepseek-r1本地化部署(Linux)

1、前言

需要用到ollama、open-webui、docker等

2、安装ollama

前往官网查看Linux版本的安装命令

curl -fsSL https://ollama.com/install.sh | sh

!!!在执行过程中可能会由于github访问问题导致失败
可以使用加速方案解决,替换脚本里面的部分链接

具体参考
解决Linux下安装Ollama失败的问题

安装完成后
访问ollmam官方搜索deepseek r1

image.png

选择对应的版本,复制执行命令

ollama run deepseek-r1:8b

这边会下载模型,耐心等待吧

3、安装open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

执行成功后打开

http://localhost:3000/auth

首次要创建账号,然后就可以提问了


image.png

注1:docker安装方式参见Linux CentOS 7 安装docker,windows和mac直接官网下载安装包

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容