open-webui安装步骤笔记

概述

目前大模型爆火,蹭着这个热度,根据网上教程个人也部署一份个人知识库;整个应用包含大模型应用,WEB端应用;
其中大模型应用一般都是部署一个推理框架(如ollama),WEB端应用开源的也比较多(如Langchain-chatchat,open-webui);
本文记录open-webui的安装步骤,及运行脚本编写;(过程比较顺利,未出现失败情况);

安装步骤

#!/bin/bash
## 切换环境
source activate open-webui
conda deactivate
conda activate open-webui
## python version check
py_version=`python -V`
echo "${py_version}"
## open-webui目录
OPENWEBUI_BASE=/data/open-webui
## 初始化open-webui环境,这里只调整了log等级和数据目录
export GLOBAL_LOG_LEVEL=DEBUG
export DATA_DIR=${OPENWEBUI_BASE}/data
## 后台启动 open webui,并指定端口
nohup open-webui serve --port 8008 > ${OPENWEBUI_BASE}/logs/start.log 2>&1 &
    1. 完成基本配置
      首次登录会提示创建管理员账号,正常输入即可;
      首次登录成功后耗时会比较高,这是由于open-webui默认访问了国外的一些网站导致超时,所以首次登录成功后需要调整下配置,路径:设置 -> 管理员设置 -> 外部链接


      管理员设置

      外部链接

      如果需要开放API调用,则在先启用API密钥,路径为:设置 -> 管理员设置 -> 通用


      API密钥

      然后在用户管理栏里创建自己的密钥即可,路径为:设置 -> 账号
      创建API密钥
  • 5 关于知识库的设置
    在使用知识库之前(而且无法连接外网),需要设置文档的语义向量模型,路径为:
    设置 -> 管理员设置 -> 文档
    选择对应的模型引擎,在模型那一栏输入对应的模型名词即可


    语义向量模型

    设置完成后就可以维护自己的知识库了(工作空间 -> 知识库)。


    知识库
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容