这篇文章前几天写过,
不过有朋友问是否可以安装个webui,通过网页来使用。
我就写一下,前面部分一样,如果有遗漏可以看看上一篇文章。
1.注册腾讯云(如果没有就注册,有就跳过)
传送门:https://curl.qcloud.com/tA0CERrX
2.开通免费GPU
传送门:https://ide.cloud.tencent.com/dashboard/gpu-workspace

3.进入之后,新建-AI模板-ollama,官方现在有deepseek的模板,但是没有UI界面,还需要自己安装,所以安装ollama挺好。



4.等待大约2-3分钟,点击图标进入


5.复制粘贴以上命令
等待大约5分钟下载模型


6.这个时间可以去cloudflare去注册个账号,顺便做一下域名绑定(你要有个域名先,没有就先搞个)

你需要先将域名设置好,这块我就不多说了,如果不知道如何设置DNS可以给我留言。
不用做解析,就先添加到cf即可。
7.左侧菜单-Zero Trust-网络-Tunnes






先复制命令,一会粘贴到终端

这里的下一步需要滑块往下滑(有人找不到)

需要注意的是:
6339是ollama调用的端口(API)
6889是chatbot的端口(webui)
可以根据自己的需要来设置,比如上一篇文章我就用的6889来做API调用。

返回看看模型是否已经下载完成,看我上图中出现success就是OK了
然后,下面已经出现了对话,这时候需要退出对话。
/bye8.然后把你刚才复制的cf代码粘贴到终端

出现这个提示就是OK了
是不是很简单。
现在你已经可以访问你刚才设置的域名了。
如果不能访问去CF看看,你的域名是不是绿色的。
PS:
关机后cf服务停止无法通过域名访问
解决方案:在终端执行以下代码
cloudflared service uninstall
cloudflared service install 隧道ID(这段是你CF那串代码中的)


好了,点赞吧,兄弟们!
如果还有问题可以留言。

这里求一波关注,个人开发的软件,总下载量早就过了10W+,主要集中于办公、运营、推广、获客、外贸等领域,很实用的小工具,这样的免费工具,以后还会继续分享。