第二十六篇-Ollama-监听本地IP与端口

修改ollama配置使其可以监听0.0.0.0和修改端口,可以外网访问

修改文件

vim /etc/systemd/system/ollama.service

增加

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

重现加载

sudo systemctl daemon-reload
sudo systemctl restart ollama

sudo systemctl status ollama

查看日志

journalctl -u ollama.service

open-api

这样可以通过外网访问

curl http://192.168.31.11:11434/api/chat -d '{
  "model": "qwen:0.5b-chat-v1.5-q4_K_M",
  "messages": [
    { "role": "user", "content": "介绍一下北京景点?" }
  ],
  "stream": false
}'

相关推荐

  1. 第二-Ollama-监听本地IP端口

    2024-04-27 18:06:04       39 阅读
  2. 第二-Ollama-在线安装

    2024-04-27 18:06:04       35 阅读
  3. 第二章HTMLCSS书写规范

    2024-04-27 18:06:04       24 阅读
  4. Linux 第二

    2024-04-27 18:06:04       33 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-04-27 18:06:04       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-04-27 18:06:04       106 阅读
  3. 在Django里面运行非项目文件

    2024-04-27 18:06:04       89 阅读
  4. Python语言-面向对象

    2024-04-27 18:06:04       97 阅读

热门阅读

  1. C++: string类的模拟实现

    2024-04-27 18:06:04       33 阅读
  2. Android 蓝牙无法发送或接收某些类型文件

    2024-04-27 18:06:04       72 阅读
  3. 埃氏筛选-判断素数

    2024-04-27 18:06:04       32 阅读