广西公路建设协会网站,主做熟人推荐的招聘网站,设计师培训多少钱,佛山网站建设首页排名Ollama
1、安装ollama
Windows版本下载#xff1a;2024WindowsOllama最新0.5.4版本资源-CSDN文库, 下载速度超快#xff0c;官网太慢了
双击安装#xff0c;安装成功后#xff0c;托盘区有Ollama图标
右键View logs打开目录
C:\Users\Administrator\AppData\Local\Oll… Ollama
1、安装ollama
Windows版本下载2024WindowsOllama最新0.5.4版本资源-CSDN文库, 下载速度超快官网太慢了
双击安装安装成功后托盘区有Ollama图标
右键View logs打开目录
C:\Users\Administrator\AppData\Local\Ollama
Ollama安装位置并添加环境变量
C:\Users\Administrator\AppData\Local\Programs\Ollama
Ollama app: C:\Users\Administrator\AppData\Local\Programs\Ollama\ollama app.exe
2、修改Ollama监听端口
如修改为8000不修改其他机器无法访问因为Ollama默认绑定localhost或者127.0.0.1
先结束托盘区的Ollama, 再添加环境变量OLLAMA_HOST为:18000
Windows开放8000端口访问或者关闭防火墙
netsh advfirewall set allprofiles state off
测试Ollama在运行
http://192.168.146.101:18000
3、ollama拉取镜像
ollama pull snowflake-arctic-embed2:latest ollama pull bge-m3:latest ollama pull qwen2.5:7b ollama pull glm4:9b ollama pull llama2-chinese:7b ollama pull llama3.2:3b
4、ollama查看镜像 5、ollama部署web-ui
git clone https://github.com/open-webui/open-webui.git cd open-webui docker run -d --networkhost -v open-webui:/app/backend/data -e OLLAMA_BASE_URLhttp://192.168.1.17:50080 --name open-webui --restart always ghcr.io/open-webui/open-webui:main Dify
1、安装部署Dify
# 下载源码 git clone https://gitee.com/liuchuangjun/dify.git
注意gitee中代码最新为0.6.11 不支持chatflow
需要去github上下载源码 https://github.com/langgenius/dify.git cd dify # 安装运行docker compose cd docker docker compose up -d
如果失败则单独拉取镜像
docker pull langgenius/dify-api:0.6.11
docker pull langgenius/dify-web:0.6.11
docker pull langgenius/dify-sandbox:0.2.1
docker pull semitechnologies/weaviate:1.19.0 # 注册管理员账号 http://192.168.1.39/install
2、添加成员