网站建设行业衰落,做网站用的编程工具,什么叫做网络营销,建设部注册网站一、电脑配置
个人电脑配置
二、安装ollama
简介#xff1a;Ollama 是一个强大的开源框架#xff0c;是一个为本地运行大型语言模型而设计的工具#xff0c;它帮助用户快速在本地运行大模型#xff0c;通过简单的安装指令#xff0c;可以让用户执行一条命令就在本地运…一、电脑配置
个人电脑配置
二、安装ollama
简介Ollama 是一个强大的开源框架是一个为本地运行大型语言模型而设计的工具它帮助用户快速在本地运行大模型通过简单的安装指令可以让用户执行一条命令就在本地运行开源大型语言模型。 在ollama官网根据自己电脑的类型选择对应的下载安装程序比如我这里选择 macos 下载成功后直接安装。 如何判断是否安装成功 打开一个命令行终端输入命令ollama -v显示版本信息表示安装成功。
三、选择合适的模型
点击ollama–models选项可以查看支持运行的模型。 deepseek r1 有多种参数通常我们macos 选择7b8b参数即可参数越大对显卡和内存要求越高如果你是3090显卡4090 显卡可以选择32b70b参数越大效果越好。当然磁盘占用也越大。
选择对应的蒸馏模型按照下面的命令复制到ollama控制台
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5bDeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7bDeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8bDeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14bDeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32bDeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b四、安装并运行
安装并运行对应的蒸馏模型命令行执行 ollama run deepseek-r1:8b
安装成功后在控制台直接输入问题即可得到回复 命令行如何退出大模型对话 输入/bye
