1、安装ollama
ollma下载
https://ollama.com/download/windows
linux 安装
curl -fsSL https://ollama.com/install.sh | sh
运行
ollama run gemma:2b
ollama run gemma:7b
使用端口11434
2、下载 open-webui 代码
https://github.com/open-webui/open-webui.git
生成目录open-webui
docker 运行open-webui 代码
docker run -d –network=host -v open-webui:/app/backend/data -e OLLAMA_API_BASE_URL=http://127.0.0.1:11434/api –name open-webui –restart always ghcr.io/open-webui/open-webui:main
更多大模型下载部署
https://ollama.com/library
3、访问:http://ip:8080