本地命令行使用还是不太直观,可以选择Chatbox进行网页端访问,提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
本地使用Ollama部署完成后,可以使用Chatbox进行调用。
根据官方文档给出的步骤进行配置
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
2.1 环境变量配置
默认情况下,Ollama 服务仅在本地运行,不对外提供服务。
要使 Ollama 服务能够对外提供服务,你需要设置以下两个环境变量:
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
在 Windows 上,Ollama 会继承你的用户和系统环境变量。
1、通过任务栏退出 Ollama。
2、打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。
3、点击编辑你账户的环境变量。
4、为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *。
5、点击确定/应用以保存设置。
6、从 Windows 开始菜单启动 Ollama 应用程序。
2.2 chatbox设置
1、打开官网:https://chatboxai.app/zh,选择启动网页版。
2、选择本地模型,如果找不到,点击左侧的设置按钮。
3、选择Ollama API。
4、选择模型,本地运行Ollama后会自动出现模型的选项,直接选择即可。
5、点击DISPLAY,选择简体中文,点击保存按钮。
6、在聊天窗口输入问题进行测试。
2.3 搭配GPTs使用
1、点击左侧我的搭档
2、选择一个你喜欢的应用,本示例选择夸夸机2.0
3、随便输入一个场景,看看大模型的回答。比如自嘲、尴尬、夸张的场景,看看他怎么花样夸你。