跟踪agent的prompt

准备: ollama socat

OLLAMA_HOST=127.0.0.1:11435 ollama serve
socat -v TCP-LISTEN:11434,fork,reuseaddr TCP:127.0.0.1:11435
然后正常访问127.0.0.1:11434端口调用AI即可跟踪到流式输出1

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 之前我们搭建了一个极简的WSGI服务器, 可以处理基本的HTTP请求,但是由于我们建立的服务一次只能处理一个客户端...
    芒果菠萝蛋炒饭阅读 803评论 0 4
  • 标签: socat squid 介绍 内网服务器是指只有内网ip而没有公网ip的服务器。 一般情况下内网服务器无法...
    傑仔阅读 9,105评论 0 1
  • 转自:https://mp.weixin.qq.com/s?__biz=MzI5MDQ2NjExOQ==&mid=...
    sum3mer阅读 812评论 0 0
  • 前言 socat是强大易用的工具,可以实现任意socket的转换。 使用 socat [options] opti...
    linanwx阅读 14,018评论 0 3
  • 如果您的工具箱需要高级一款高级系统管理工具,那 socat[http://www.dest-unreach.org...
    舌尖上的大胖阅读 3,877评论 0 1

友情链接更多精彩内容