Dify配置ollama报错问题解决

配置之前先检查一下ollama

进入dify api容器(docker-api-1)测试能不能访问ollama

docker默认是docker-api-1容器, 可ps查看一下

执行如下:

docker exec -it docker-api-1 curl host.docker.internal:11434/api/tags

结果如下:

{"models":[{"name":"qwen3.6:latest","model":"qwen3.6:latest","modified_at":"2026-06-01T12:19:59.67099638+08:00","size":23938333577,
"digest":"07d35212591fc27746f0a317c975a6d68754fb38e9053d82e25f06057af28522",
"details":{"parent_model":"","format":"gguf","family":"qwen35moe",
"families":["qwen35moe"],"parameter_size":"36.0B",
"quantization_level":"Q4_K_M"}}]}%  

说明可以访问!

但是配置的时候报错,如下:

WX20260601-150208@2x.png
WX20260602-203153@2x.png

尝试了各种方法,还是不行,怀疑是这个ollama自身解析 qwen3.6 返回格式兼容 bug,所以换一个思路,更换接入方式,不用【Ollama 厂商】,改用OpenAI 兼容模式对接 Ollama:

# 验证 Ollama v1 接口是否可用
curl http://127.0.0.1:11434/v1/models

如果能返回模型列表 = OpenAI 兼容接口正常,坚定用 OpenAI 接入!

{"object":"list","data":[{"id":"qwen3.6:latest","object":"model","created":1780287599,"owned_by":"library"}]}
WX20260602-203725@2x.png

配置基本和ollama一致,唯一需要注意的是,基础URL后加:/v1

http://host.docker.internal:11434/v1(必须加 /v1,Ollama 自带 OpenAI 兼容接口)

最后终于大功告成!如下:

    • WX20260602-204259@2x.png
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容