开源大模型本地私有化部署

1、安装ollama

ollma下载
https://ollama.com/download/windows

linux 安装
curl -fsSL https://ollama.com/install.sh | sh
运行
ollama run gemma:2b
ollama run gemma:7b
使用端口11434

2、下载 open-webui 代码
https://github.com/open-webui/open-webui.git
生成目录open-webui

docker 运行open-webui 代码
docker run -d –network=host -v open-webui:/app/backend/data -e OLLAMA_API_BASE_URL=http://127.0.0.1:11434/api –name open-webui –restart always ghcr.io/open-webui/open-webui:main

更多大模型下载部署
https://ollama.com/library

3、访问：http://ip:8080