喂饭教程:10分钟部署一个DeepSeek,支持网页调用!

这篇文章前几天写过,


不过有朋友问是否可以安装个webui,通过网页来使用。

我就写一下,前面部分一样,如果有遗漏可以看看上一篇文章。


1.注册腾讯云(如果没有就注册,有就跳过)

传送门:https://curl.qcloud.com/tA0CERrX

2.开通免费GPU

传送门:https://ide.cloud.tencent.com/dashboard/gpu-workspace

3.进入之后,新建-AI模板-ollama,官方现在有deepseek的模板,但是没有UI界面,还需要自己安装,所以安装ollama挺好。

4.等待大约2-3分钟,点击图标进入

apt install sudo
ollama list
ollama rm llama3
ollama run deepseek-r1:8b

5.复制粘贴以上命令

等待大约5分钟下载模型

6.这个时间可以去cloudflare去注册个账号,顺便做一下域名绑定(你要有个域名先,没有就先搞个)

https://dash.cloudflare.com/

你需要先将域名设置好,这块我就不多说了,如果不知道如何设置DNS可以给我留言。

不用做解析,就先添加到cf即可。


7.左侧菜单-Zero Trust-网络-Tunnes



先复制命令,一会粘贴到终端

这里的下一步需要滑块往下滑(有人找不到)

需要注意的是:

6339是ollama调用的端口(API)

6889是chatbot的端口(webui)

可以根据自己的需要来设置,比如上一篇文章我就用的6889来做API调用。

返回看看模型是否已经下载完成,看我上图中出现success就是OK了

然后,下面已经出现了对话,这时候需要退出对话。

/bye

8.然后把你刚才复制的cf代码粘贴到终端


出现这个提示就是OK了

是不是很简单。

现在你已经可以访问你刚才设置的域名了。

如果不能访问去CF看看,你的域名是不是绿色的。

PS:

关机后cf服务停止无法通过域名访问

解决方案:在终端执行以下代码

cloudflared service uninstall
cloudflared service install 隧道ID(这段是你CF那串代码中的)


好了,点赞吧,兄弟们!

如果还有问题可以留言。


这里求一波关注,个人开发的软件,总下载量早就过了10W+,主要集中于办公、运营、推广、获客、外贸等领域,很实用的小工具,这样的免费工具,以后还会继续分享。


总结一下:
1.这个免费额度是10000分钟/月,一天大约5小时。
2.需手动关机,每天2点自动关机
3.官方技术说会在小程序中加入管理功能(什么加不确定)
4.CF会有延迟,只能说够用
5.模型我装过14B,可以跑起来,但是会卡。我现在用的是8B。
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容