1、下载Ollama
Linux系统的安装命令如下:
curl -fsSL https://ollama.com/install.sh | sh
2、进入llama3运行环境:
ollama run llama3
3、启动服务:
ollama serve
首次启动可能会出现以下两个提示:
Couldn’t find ‘/home/用户名/.ollama/id_ed25519’. Generating new private key.
该提示表示文件系统中不存在ssh私钥文件,此时命令将自动帮我们生成该文件,并在命令行中打印相应的公钥。
Error: listen tcp 127.0.0.1:11434: bind: address already in use
看到该提示,大概率服务已在运行中,可以通过
netstat -tulpn | grep 11434
命令进行确认。
若命令输出的最后一列包含“ollama”字样,则表示服务已启动,无需做额外处理。
否则,可尝试执行下列命令重启ollama:
4、重启ollama
systemctl daemon-reload
systemctl restart ollama
5、重启ollama服务
ubuntu/debian
sudo apt update
sudo apt install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve
centos
sudo yum update
sudo yum install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve
6、确认服务端口状态:
netstat -tulpn | grep 11434
7、配置服务
为使外网环境能够访问到服务,需要对HOST进行配置。
打开配置文件:
vim /etc/systemd/system/ollama.service
根据情况修改变量Environment:
服务器环境下:
Environment="OLLAMA_HOST=0.0.0.0:11434"
虚拟机环境下:
Environment="OLLAMA_HOST=服务器内网IP地址:11434"