招聘网站建设需求分析,榆林免费做网站公司,北京城乡建设厅网站,成都市公园城市建设管理局网站由于前期wsl默认装在C盘#xff0c;后期部署好RagFlow后C盘爆红#xff0c;在连接ollama的时候一直在转圈圈#xff0c;问其他人没有遇到这种情况#xff0c;猜测是因为内存不足无法加载模型导致#xff0c;今天重新在E盘安装wsl 使用wsl装Ubuntu
Win11 wsl-安装教程
如… 由于前期wsl默认装在C盘后期部署好RagFlow后C盘爆红在连接ollama的时候一直在转圈圈问其他人没有遇到这种情况猜测是因为内存不足无法加载模型导致今天重新在E盘安装wsl 使用wsl装Ubuntu
Win11 wsl-安装教程
如何给WSL 2扩容硬盘即扩展虚拟大小 wsl 命令 查内存wsl df -h /. 启动wsl -d xxxx 关闭 在Ubuntu装docker
教程 在安装docker时注意配置镜像源文件/etc/docker/daemon.json
配置完后需要重启docker才能生效这个时候就开始爆bug了第一次装没遇到的Bug此时全都出来了从网站找了各种方案都没解决直接卸载重新装一遍docker就行
在Ubuntu装ollama
1、安装命令
sudo curl -fsSL https://ollama.com/install.sh | sh这里我有点怀疑是不是ollama的官网有问题导致我昨天添加模型一直转圈圈。。。。。
在国内环境下,这个方法往往会卡住
首先下载并修改安装脚本然后修改下载源
# 下载安装脚本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh# 给脚本添加执行权限
chmod x ollama_install.sh把下面两个地址
https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}
https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}
分别改成
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64-rocm.tgz好用的github文件加速 2、拉取模型 首先你需要创建一个新的文件夹来存放Ollama模型
sudo mkdir /path/to/ollama/models我的本地模型统统存在D:\04 Ollama models 确保这个目录的权限用户和组都是root并且权限全开为777。如果不是可以用以下命令设置
sudo chown -R root:root /path/to/ollama/models
sudo chmod -R 775 /path/to/ollama/models接下来你需要编辑Ollama的服务文件来指定新的模型存储路径
sudo vim /etc/systemd/system/ollama.service在[Service]部分下加入一行新的Environment设置OLLAMA_MODELS环境变量指向你创建的目录
EnvironmentOLLAMA_MODELS/path/to/ollama/models # 记得替换路径刷新配置并重启Ollama保存并退出编辑器后执行以下命令来刷新配置并重启Ollama服务
sudo systemctl daemon-reload
sudo systemctl restart ollama.service最后你可以通过运行ollama list命令来检查路径是否设置成功
ollama的模型参数说明书
在Ubuntu部署RagFlow
sudo sysctl -w vm.max_map_count262144修改ragflow/docker/.env将需要的RAGFLOW_IMAGE取消注释
docker compose -f docker-compose.yml up -d第一次拉镜像贼慢waiting~~~~~~~
11434时Ragflow分给ollama的端口如果是第一次装在ragflow拉完镜像后先进入 http://loacalhost:80进行注册然后再进行后续操作
检查ollama是否运行进入http://loacalhost:11434正常情况显示Ollama is running如果ragflow没有完全配置好会提示网络错误
可以通过打印日志来检查ragflow服务是否正常运行
docker logs -f ragflow-server正常界面如下 之前我有遇到过文件丢失的情况但实际上文件并没有丢失如图 据说是因为镜像损坏可以更换镜像详细修改参考这里
9GB的镜像已经拉了3.5h了
