分享deepseek-r1安装程序。还有快捷运行脚本。右键快捷设置

1、先安装OllamaSetup
https://www.123865.com/s/ZmGAjv-iIe7H
2、第二步安装deepseek-r1
3、第三步右键快捷设置
如果显卡一般,也可以参考我这种方法跑蒸馏版CPU版,蹦字较慢:
1. 去 https://github.com/ggerganov/llama.cpp 下载最新llama.cpp。
2. 去 https://huggingface.co/ 下载 deepseek-r1 的GGUF量化版放到llama.cpp目录里,例如我下的是 deepseek-r1-distill-qwen-32b-q4_k_m.gguf 我机子32GB内存,再大就不行了。
3. 然后在llama.cpp程序目录运行终端命令:
4. 等加载启动完毕,打开浏览器 http://127.0.0.1 即可对话,还有深度思考过程。
以上跑的是32B-Q4量化的蒸馏版,输出内容质量有原版R1的7/8成,原版是671B参数量,一般人本地跑不起,所以推荐优先使用官网的网页版,本地跑的充其量当个备份方案

1、先安装OllamaSetup
https://www.123865.com/s/ZmGAjv-iIe7H
2、第二步安装deepseek-r1
如果显卡一般,也可以参考我这种方法跑蒸馏版CPU版,蹦字较慢:
1. 去 https://github.com/ggerganov/llama.cpp 下载最新llama.cpp。
2. 去 https://huggingface.co/ 下载 deepseek-r1 的GGUF量化版放到llama.cpp目录里,例如我下的是 deepseek-r1-distill-qwen-32b-q4_k_m.gguf 我机子32GB内存,再大就不行了。
3. 然后在llama.cpp程序目录运行终端命令:
| .\llama-server.exe -m .\deepseek-r1-distill-qwen-32b-q4_k_m.gguf -c 65536 --host 127.0.0.1 --port 80 |
以上跑的是32B-Q4量化的蒸馏版,输出内容质量有原版R1的7/8成,原版是671B参数量,一般人本地跑不起,所以推荐优先使用官网的网页版,本地跑的充其量当个备份方案
文章来源:
网络小编D
版权声明:
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请联系本站立刻删除。
