将内网的Ollama服务接口暴露出来

Ollama服务默认支持localhost,自动拒绝外网访问,若想支持外网访问接口,需要
修改ollama服务的配置文件。

打开 /etc/systemd/system/ollama.service.d/override.conf
加入environment

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

然后重启守护进程和服务,这时候,配置参数才能被重新加载。

systemctl daemon-reload
systemctl restart ollama

就可以了。

至于URL,Ollama的逻辑是这样的:

优先级:

最高优先级:显式传递 host 参数

如果指定了 host,则使用该值作为 base_url。

中等优先级:环境变量 OLLAMA_HOST

如果未传递 host,则检查并使用环境变量 OLLAMA_HOST 的值。

最低优先级:默认值 http://127.0.0.1:11434

如果 host 和 OLLAMA_HOST 均未设置,则使用默认值,假定服务在本地运行。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容