问题背景
ollama默认监听在 127.0.0.1:8001
,并且默认存在跨域限制,这两个限制对于我们远程调用和嵌入存在很大的障碍
解决方法
修改ollama的服务脚本 /etc/systemd/system/ollama.service
新增环境变量,使得ollama监听到本地所有地址,以及放开跨域限制
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
[Install]
WantedBy=default.target
评论