一、下载Ollama软件安装包
1.访问Ollama官网下载:https://ollama.com/download
image.png
2.安装Ollama
我下载的是Windows版本安装包,双击安装包安装,直接点击install,然后下一步直到安装完成。
image.png
3.安装完成后验证是否安装成功,win+r进入cmd界面
image.png
4.下载deepseek:r1模型
4.1访问https://ollama.com/library/deepseek-r1地址选择合适自己本地硬件配置的版本
image.png
4.2复制命令ollama run deepseek-r1:1.5b在cmd命令行执行该命令,等待下载完成如下图。
image.png
4.3在cmd命令窗口继续执行ollama pull nomic-embed-text命令下载本地语言集嵌入模型
image.png
二.安装AnythingLLM界面软件
1.下载AnythingLLM软件,下载地址 https://anythingllm.com/
image.png
2.安装,双击安装包安装即可
image.png
3.安装完成后启动软件,界面如下:
image.png
4.配置AnythingLLM
4.1创建工作区
image.png
4.2语言设置
image.png
4.3LLM首选项设置,LLM 提供商选择Ollama,模型选择下载的deepseek-r1:7b,然后保存
image.png
4.4嵌入模型首选项设置,嵌入引擎提供商Ollama,模型选择nomic-embed-text。
image.png
4.5对话设置如下图
聊天设置
image.png
代理配置
image.png
4.6然后就可以使用deepseek了,输入提示词等待deepseek回答。
image.png
三、私有数据本地训练
1.点击如下图上传文件按钮
image.png
image.png
上传需要训练的私有数据,然后添加到右边并保存就完成了。