网站制作学校要的,软件开发app下载安卓,网站设计建设维护与更新,徐州网络推广以下是 部署Open WebUI并调用Ollama的deepseek-70b模型 的详细步骤#xff0c;重点讲解部署和配置过程#xff1a; 一、部署 Open WebUI
1. 安装Docker#xff08;如已安装可跳过#xff09;
# 自动安装Docker
curl -fsSL https://get.docker.com | sh
# 启动Docker服务
…以下是 部署Open WebUI并调用Ollama的deepseek-70b模型 的详细步骤重点讲解部署和配置过程 一、部署 Open WebUI
1. 安装Docker如已安装可跳过
# 自动安装Docker
curl -fsSL https://get.docker.com | sh
# 启动Docker服务
sudo systemctl start docker
sudo systemctl enable docker2. 拉取Open WebUI镜像
docker pull ghcr.io/open-webui/open-webui:main3. 启动Open WebUI容器
docker run -d \--name open-webui \-p 3000:8080 \ # 映射容器8080端口到宿主机3000端口-v open-webui:/app/backend/data \ # 持久化存储用户数据--add-hosthost.docker.internal:host-gateway \ # 允许容器访问宿主机网络-e OLLAMA_BASE_URLhttp://host.docker.internal:11434 \ # 关键配置指向Ollama服务ghcr.io/open-webui/open-webui:main4. 验证部署
docker ps | grep open-webui # 查看容器是否运行
curl http://localhost:3000 # 测试服务可达性二、配置调用Ollama模型
1. 确保Ollama已运行
ollama serve # 后台运行Ollama服务
# 检查服务状态
curl http://localhost:11434/api/tags2. 加载deepseek-70b模型
ollama pull deepseek-70b # 如果尚未下载模型
ollama run deepseek-70b # 后台运行模型3. Open WebUI界面配置
访问 http://localhost:3000首次使用 创建账号建议关闭公共注册登录后进入聊天界面 选择模型 点击左下角模型选择框输入 deepseek-70b 搜索模型选择后即可开始对话 三、关键配置详解
1. Docker参数解析
参数作用-p 3000:8080Web界面访问端口-v open-webui:/app/backend/data保存用户会话和设置--add-host容器内通过host.docker.internal访问宿主机-e OLLAMA_BASE_URL指定Ollama API地址
2. 跨容器通信原理
host.docker.internal 是Docker的特殊DNS名称指向宿主机IP通过该地址访问宿主机的Ollama服务(默认端口11434) 四、常见问题解决
1. 模型未显示在列表中
# 检查Ollama服务是否运行
docker exec open-webui curl -s http://host.docker.internal:11434/api/tags# 重启服务
docker restart open-webui2. 性能优化配置
# 带GPU加速的启动命令需安装NVIDIA驱动
docker run -d \--gpus all \ # 启用GPU支持--shm-size8g \ # 提升共享内存...其他参数同上...3. 自定义模型参数
在模型选择框输入时可通过符号指定参数
deepseek-70b temperature0.7 seed123五、高级配置
1. 安全加固
# 禁用用户注册
docker run -e DISABLE_SIGNUPtrue ...# 设置管理员账号
docker run -e DEFAULT_ADMIN_EMAILadminexample.com ...2. 使用HTTPS
# 添加SSL证书映射
-v /path/to/ssl:/app/backend/certs \
-e SSL_CERT_FILE/app/backend/certs/fullchain.pem \
-e SSL_KEY_FILE/app/backend/certs/privkey.pem \3. 监控日志
docker logs -f open-webui # 实时查看日志完成以上步骤后即可通过浏览器访问 http://localhost:3000 使用 deepseek-70b 模型。如果遇到网络问题可尝试关闭防火墙
sudo ufw disable # 临时关闭防火墙测试环境
