1、前言
需要用到ollama、open-webui、docker等
2、安装ollama
前往官网查看Linux版本的安装命令
curl -fsSL https://ollama.com/install.sh | sh
!!!在执行过程中可能会由于github访问问题导致失败
可以使用加速方案解决,替换脚本里面的部分链接
安装完成后
访问ollmam官方搜索deepseek r1
image.png
选择对应的版本,复制执行命令
ollama run deepseek-r1:8b
这边会下载模型,耐心等待吧
3、安装open-webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
执行成功后打开
http://localhost:3000/auth
首次要创建账号,然后就可以提问了
image.png
注1:docker安装方式参见Linux CentOS 7 安装docker,windows和mac直接官网下载安装包