Deepseek私有化部署+webui+dify工作流打造个人企业级ai应用以及遇到的坑解决

一、部署deepseek

部署deepseek最简单的方式是通过ollama

1. 首先我们下载安装ollama

Ollama
直接点击download安装,一路next安装即可

2. 设置环境变量

2.1.安装路径无法选择只能安装在c盘,这个暂时没有好的方法解决
2.2.下载的模型默认路径也是在c盘,可以通过设置环境变量OLLAMA_MODELS解决
2.3.默认情况下ollama只能本机访问,如果需要局域网其他用户访问或者提供外网访问需要修改环境变量OLLAMA_HOST
环境变量设置如下:
右键我的电脑--->属性--->高级系统设置--->高级--->环境变量


image.png

然后点击环境变量--->找到系统变量--->新建


image.png

变量名填写OLLAMA_MODELS,变量值填入你要存放大模型文件的路径,然后保存。
再次新建一个
变量名填写OLLAMA_HOST,变量值填写0.0.0.0 保存
image.png

3.重启ollama

先关闭ollama,找到系统右下角的ollama图标,右键退出
然后ctrl+R, 输入cmd 打开系统命令行
输入 ollama serve或者ollama start 重启

4. 下载deepseek大模型

ctrl+R,输入cmd打开命令行
输入ollama run deepseek-r1:1.5b 开始下载
坑 :下载过程中可能会遇到越往后下载越慢的情况,此时可以ctrl + c 停止然后再次输入命令ollama run deepseek-r1:1.5b重复下载,然后会发现速度又上来了,多次重复过程可以快速下载完。


image.png

出现send a message说明已经部署成功并且可以跟deepseek对话了
不过这种方式是在命令行跟deepseek交互,不方便

二、部署ollama open web ui

1. 安装docker

下载 docker Docker: Accelerated Container Application Development
安装

2.部署ollama web ui

打开命令行
按照官方的指引输入docker run
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
坑: 遇到ghcr.io/open-webui/open-webui:main下载超级慢的问题可以替换成
ghcr.nju.edu.cn/open-webui/open-webui:main
即使用
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
进行部署
等待部署完成
访问127.0.0.1:3000
即可进入open web ui界面, 此时只要可以访问这台机器的网络就可以通过3000端口进行访问了
首次访问需要填一个超管的账号和密码 这个随便填就行了 符合邮箱的格式就好

3. 知识库

image.png

image.png

image.png

知识库是非常有用的功能,可以让大模型根据你自己特定领域的知识进行检索回答

4.其他

还有其他很多功能如函数,工具,提示词等
open web ui 已经可以作为一个独立的应用使用了,但是还缺少一些高级的功能,接下来的dify将再给大模型添加一双翅膀直接起飞

三、dify:工作流

1. 通过git clone 或者直接下载dify项目

git clone https://github.com/langgenius/dify.git

2.进入 Dify 源代码的 Docker 目录

cd dify/docker

3.复制环境配置文件

将目录下的.env.example文件复制一份并改名为.env

4.部署

打开命令行 输入docker compose up -d

5.访问

浏览器输入localshot即可访问
首次访问需要填一个超管的邮箱和密码

6.配置

image.png

右上角设置--模型供应商
选择ollama


image.png

填写模型名称,模型名称必须填刚刚下载的模型的名称如 deepseek-r1:1.5b
url填写127.0.0.1:11434
保存

7.使用

然后我们回到工作室面板


image.png

创建空白应用


image.png

可以任意创建
这里我们先选第一个测试一下,名字随便填
image.png

然后右上角选择模型后
进行对话测试下

8.工作流

可以根据官网的指导Workflow | Dify

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,137评论 6 511
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,824评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,465评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,131评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,140评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,895评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,535评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,435评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,952评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,081评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,210评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,896评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,552评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,089评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,198评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,531评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,209评论 2 357

推荐阅读更多精彩内容