DeepSeek官方被攻击,本地部署和API减少官方压力,支持国产AI
1、重要!先保存文件防失效(windows/mac都有,限时领取)
部署用到的程序大部分是国外的,下载速度极慢,已给大家统一放到了网盘里,可快速下载:
首先:https://pan.quark.cn/s/a816c54e14e0
(先打开网盘转存到自己网盘空间,防止链接失效,方便下次查找)
然后:注册自己的API接口:硅基流动+华为API:https://cloud.siliconflow.cn/i/8DcWSkzf
(先注册,现在送2000万Tokens(14元))
2、下载哪个
(全程无代码)
a、下载模型到本地部署:下载→1、Ollama本地部署
b、用本地程序窗口对话DeepSeek:下载→2、Chatbox本地应用/3、Cherry Studio本地应用(推荐)
基础的与大模型对话,保存对话记录,接入多个API轮替使用,上传文档让它帮你审阅或者根据你上传的文件出报告等,就用Cherry-Studio-0.9.17-setup
c、一句话让DeepSeek写代码:下载→4、VScode对话写代码
使用大模型编程,不需要有编程基础,只要使用自然语言指挥大模型就可以写代码,包括但不限于写网页,制作APP,写游戏代码,写小程序等等。
3、查看自己的显卡型号和显存大小(匹配合适的模型)
1、打开任务管理器:
方式1:访问开始菜单:打开电脑,点击“开始”,然后依次选择“所有程序”->“附件”->“任务管理器”。
方式2:在任务栏中输入:将鼠标放在底部任务栏区域,右键出现“任务管理器”,点击打开。
方式3:win系统搜索:直接在《开始》里搜索:任务管理器
方式4:同时按住:Ctrl + Alt + Del三键选择打开任务管理器
2、左侧导航栏选择“性能”——“GPU”
确认显存大小:专用GPU内存
4、网盘下载Ollama安装(Ollama设置流程)
模型默认下载C盘,如空间不够可修改:
右键此电脑--属性--高级系统设置--环境变量--新增系统变量--输入
变量名:OLLAMA_MODELS
变量值:D:\XX\XXX文件
点击确认,完成
5、根据显卡对应匹配的模型(根据显卡对应哪个模型)
模型名称:DeepSeek-R1-Distill-Qwen-1.5B显卡6G显存以下运行
下载运行命令:ollama run deepseek-r1:1.5b (复制粘贴)
模型名称:DeepSeek-R1-Distill-Qwen-7B显卡8G显存以上(最多)
下载运行命令: ollama run deepseek-r1:7b (复制粘贴)
模型名称: DeepSeek-R1-Distill-Llama-8B显卡8G显存以上
下载运行命令: ollama run deepseek-r1:8b (复制粘贴)
模型名称: DeepSeek-R1-Distill-Qwen-14B显卡12G-16G显存
下载运行命令: ollama run deepseek-r1:14b (复制粘贴)
模型名称: DeepSeek-R1-Distill-Qwen-32B显卡24G显存以上
下载运行命令: ollama run deepseek-r1:32b (复制粘贴)
模型名称: DeepSeek-R1-Distill-Llama-70B双14G显存显卡
下载运行命令: ollama run deepseek-r1:70b (复制粘贴)
(删除模型时把命令run换成rm即可)
打开“命令提示符” (按Win+R 输入cmd 后回车)
复制粘贴适合你的模型下载运行命令:
例如:复制:ollama run deepseek-r1:7b ,到“命令提示符”粘贴: ollama run deepseek-r1:7b
等待模型下载完成(出现success即完成)
6、此时,即可与DeepSeek对话
下次输入命令:ollama run deepseek - r1(开启对话)
7、命令符对话不方便,创建Chatbox桌面对话框(Chatbox设置流程)
1、进入https://pan.quark.cn/s/a816c54e14e0
2、下载Chatbox
3、注册API接口:硅基流动+华为API:https://cloud.siliconflow.cn/i/8DcWSkzf(注册,官方送2000万Tokens(14元平台配额))
4、申请账户登录后,再左侧菜单栏找到API 密钥。
5、进入AIP密钥,右上角点击:新建API密钥
6、复制密钥
7、打开Chatbox,点击左下角Setting,再点击DISPLAY,出来的第一个下拉框中选择:简体中文
8、选择模型,模型提供方:
A:选择OLLAMA api ,可运行Ollama下载的本地模型
B:选择OPENAI API,可运行API模型(对电脑配置没有要求)
API key : 填写复制的 API秘钥
API Host :填写网址: https://api.siliconflow.cn/v1
点击:模型&Token--- 选择Custom model(自定义模型)
Model name(自定义模型名) 输入:deepseek-ai/DeepSeek-R1 ---保存
点击左下角:new chat 。 进行聊天即可
8、创建Cherry Studio对话框(知识库创建/Cherry Studio设置流程)
1、进入https://pan.quark.cn/s/a816c54e14e0
2、下载Cherry Studio
打开设置界面:
选择硅基服务,并填写API
添加模型
添加嵌入模型
聊天测试是否安装成功
添加知识库
确认知识库安装成功,并尝试搜索
聊天中设置打开知识库
设置完成。
9、本地知识库管理软件(支持数据投喂,支持word\ppt\excel\图片等,视频\语音不支持)
AnythingLLMDesktop 安装到你电脑本地
10、一句话让DeepSeek R1 写网页游戏(VScode)
1、云盘中下载VSCodeUserSetup
2、打开后下载插件:
A、Chines:搜索--安装,可以改中文语言
B、Cline:搜索--安装,写代码用
3、进入Cline
1、点击左侧Cline标志进入
2、点击齿轮标志(设置)
3、设置参数
A、API Provider: 选择OpenAI Compatible
B、Base URL: 复制粘贴httops://api.siliconflow.cn
C、API KEY: 复制粘贴硅基流动里的API KEY
D、Model ID:复制粘贴deepseek-ai/DeepSeek-R1
E\
4、即可对话写代码,比如:写一个网页五子棋游戏
(持续更新中...)