DeepSeek本地部署详细指南
DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,这里记录自己DeepSeek本地部署流程。
主机环境
- cpu:amd 7500F
- gpu:4060 8G
- system:win11
- memory: 32G
步骤
-
下载安装Ollama
去官网https://ollama.com/download/windows下载ollama,根据自己需求下载对应版本,我这里下载的是windows版。
安装成功标志,桌面左下角展示ollama图标
-
设置大语言模型下载目录
这里修改下存储目录,不是必须设置,不设置的话会默认将所有内容下载到C盘下面。
高级系统设置->环境变量->新建系统变量
-
下载大语言模型
在刚才的官网搜索deepseek,选择合适的模型,若显存8GB选择7/8b,若显存为12GB,可选择14b。
若选择了8b,可使用下面命令进行安装
ollama run deepseek-r1:8b
随后打开任务管理器(记得用管理员),然后输入命令进行部署,本地会下载对应的模型。
安装成功标志