孝感网站建设xgsh,wordpress网站基础知识,网站备案需要营业执照吗,html5 网站平台1、下载ollama
在浏览器地址输入#xff1a;https://ollama.com/
选择windows版本的下载
2、安装ollama 3、运行ollama
安装完成后#xff0c;打开命令行工具win r 在命令行输入#xff1a;ollama
4、使用ollama下载并部署Deepseed r1
在ollama网站#xff0c;下载…1、下载ollama
在浏览器地址输入https://ollama.com/
选择windows版本的下载
2、安装ollama 3、运行ollama
安装完成后打开命令行工具win r 在命令行输入ollama
4、使用ollama下载并部署Deepseed r1
在ollama网站下载DeepSeek-R1模型 根据本地机器大小选择合适的版本点击复制按钮 打开命令行工具win r输入ollama run deepseek-r1:7b 等待下载完成安装完成后。 输入问题回车 表明安装成功。
ollama常用参数
Ollama安装完成之后有几个常用的系统环境变量参数建议进行设置
OLLAMA_MODELS模型文件存放目录默认目录为当前用户目录Windows 目录C:\Users%username%.ollama\modelsMacOS 目录~/.ollama/modelsLinux 目录/usr/share/ollama/.ollama/models如果是 Windows 系统建议修改如D:\OllamaModels避免 C 盘空间吃紧 OLLAMA_HOSTOllama 服务监听的网络地址默认为127.0.0.1如果允许其他电脑访问 Ollama如局域网中的其他电脑建议设置成0.0.0.0从而允许其他网络访问 OLLAMA_PORTOllama 服务监听的默认端口默认为11434如果端口有冲突可以修改设置成其他端口如8080等 OLLAMA_ORIGINSHTTP 客户端请求来源半角逗号分隔列表若本地使用无严格要求可以设置成星号代表不受限制 OLLAMA_KEEP_ALIVE大模型加载到内存中后的存活时间默认为5m即 5 分钟如纯数字如 300 代表 300 秒0 代表处理请求响应后立即卸载模型任何负数则表示一直存活我们可设置成24h即模型在内存中保持 24 小时提高访问速度 OLLAMA_NUM_PARALLEL请求处理并发数量默认为1即单并发串行处理请求可根据实际情况进行调整 OLLAMA_MAX_QUEUE请求队列长度默认值为512可以根据情况设置超过队列长度请求被抛弃 OLLAMA_DEBUG输出 Debug 日志标识应用研发阶段可以设置成1即输出详细日志信息便于排查问题 OLLAMA_MAX_LOADED_MODELS最多同时加载到内存中模型的数量默认为1即只能有 1 个模型在内存中
