宝塔面板部署
提示
- 操作系统:Ubuntu 22.04 LTS
- 服务器最低配置8核16G内存
步骤一
步骤二:添加容器编排
复制如下编排内容(二选一)
如果使用docker-compose.yaml-需要自行安装ollama,并修改ollama服务器地址,参考如下配置:
# 修改ollama服务器地址
SPRING_AI_OLLAMA_BASE_URL: http://host.docker.internal:11434
# 启用ollama聊天功能,并设置模型和温度参数
SPRING_AI_OLLAMA_CHAT_ENABLED: true
SPRING_AI_OLLAMA_CHAT_OPTIONS_MODEL: qwen3:0.6b
SPRING_AI_OLLAMA_CHAT_OPTIONS_TEMPERATURE: 0.7
# 启用ollama embedding功能,并设置模型
SPRING_AI_OLLAMA_EMBEDDING_ENABLED: true
SPRING_AI_OLLAMA_EMBEDDING_OPTIONS_MODEL: bge-m3:latest
步骤三:等待中
步骤四:添加完成,关闭窗口
步骤五:安装成功
步骤六:安装ollama模型
因项目默认使用ollama qwen2.5:1.5b模型,所以需要拉取模型,否则无法使用AI问答功能
# 对话模型
ollama pull qwen3:0.6b
# 嵌入模型
ollama pull bge-m3:latest
如果你使用的是docker-compose-ollama.yaml-默认集成ollama,参考下图安装模型
步骤七:开放端口
请开放内网入方向端口
- 9003
- 9885
步骤八:预览
# 请将127.0.0.1替换为你的服务器ip
http://127.0.0.1:9003/
步骤九:配置域 名访问
对于生产环境,建议配置域名访问和HTTPS:
- 安装配置Nginx:参考Nginx配置指南
- 配置SSL证书:建议使用Let's Encrypt免费证书
常见问题
- 参考 常见问题