1. 选择DeepSeek模型
Ollama官网DeepSeek模型库网址:https://ollama.com/search?q=DeepSeek
在Ollama官网模型库中,有以下DeepSeek模型和版本型号可以选择:
2025-03-04T02:24:19.png

DeepSeek R1:推理模型,版本1.5b、7b到671b共七个。
DeepSeek Coder:代码模型,版本1.3b、6.7b、33b。
DeepSeek V2.5、DeepSeek V3:通用模型,版本分别有236b、671b。
各模型的版本,参数量越大,模型功能也越强大,但也需要更多的计算资源。

本次在笔记本电脑上部署测试,电脑配置:
处理器:11th Gen Intel(R) Core(TM) i5-1135G7 @ 2.40GHz 2.42 GHz
内存:16.0 GB (15.8 GB 可用)
操作系统:Windows 11 专业版 2024H2

通过多方了解,选择了DeepSeek r2推理模型的32b版本。
2025-03-04T03:57:38.png
2. 下载模型
打开CMD或者Powershell窗口,执行

ollama run deepseek-r1:32b

各模型、版本型号下载/运行命令:

DeepSeek R1 推理模型:

DeepSeek-R1-Distill-Qwen-1.5b:ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7b:ollama run deepseek-r1:7b
DeepSeek-R1-Distill-lalama-8b:ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14b:ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32b:ollama run deepseek-r1:32b
DeepSeek-R1-Distill-lalama-70b:ollama run deepseek-r1:70b

DeepSeek Coder 代码模型:

1.3 billion parameter model:ollama run deepseek-coder
6.7 billion parameter model:ollama run deepseek-coder:6.7b
33 billion parameter model:ollama run deepseek-coder:33b

DeepSeek V2.5 通用模型:已升级到下面的V3,建议直接部署V3。

DeepSeek V3 通用模型:

DeepSeek-V3-671b:ollama run deepseek-v3

开始下载。
2025-03-04T04:03:14.png
**注意默认下载的路径是在C盘,这是我的文件路径。C:\Users\abc.ollama\models\blobs\sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93-partial
最好保证C盘有足够的空间。修改ollama模型存储路径,请看《ollama下载模型到指定位置(ollama改变模型默认存储位置)》

当出现 Send Message的时候,说明已经下载好模型,可以直接输入开启对话了。

下载32B,机器运行起来太费力,输入“你好,你是谁?”,愣是两分钟没有给出反馈。
后来,为了调试下载了1.5B,运行起来基本无压力。
2025-03-04T11:49:07.png

分类: 人工智能 标签: deepseek

评论

暂无评论数据

暂无评论数据

目录