在刚刚过去的春节期间,DS凭借其卓越的功能表现迅速走红,引发了广泛关注。实际上,在新模型发布的初期,我就已经注意到了这一现象,并且非常希望能够与大家分享我的看法和体验。
为了确保用户能够在网络不稳定或断网的情况下依然能够正常使用DS,同时保护用户的隐私数据不被泄露,在开年之际推出这篇手把手的教学文章,详细指导大家如何进行DS的本地部署。通过本地部署,用户不仅可以在离线环境中使用DS,还能有效避免隐私数据在云端传输过程中可能面临的泄露风险,从而更加安全、稳定地享受DS带来的强大功能。
电脑配置要求
配置越高,运行效果越好。我的显卡是4070TI,可以运行 7b 的模型,运行速度和官网差不多。大家可以参考一下这个配置标准,提前检查自己的电脑是否满足。如果配置过低,可能会出现运行卡顿甚至无法运行的情况。
配置要求一览表
本地化部署详细教程
安装 Ollama
1.打开浏览器,登录官网(见文末),按照页面提示顺序下载 Ollama。
ollama -v
2.下载完成后,直接双击安装程序进行安装,当任务栏出现一个小羊的图标,说明安装成功。
3.安装好后,按下快捷键 win+R,在弹出的命令框中
4.输入 cmd,然后点击确定,打开命令提示符窗口。
5.在光标后面输入 ollama -v(注意中间有空格),然后回车。如果显示 ollama 版本号,比如 0.5.7,那就证明 ollama 安装成功了。
安装 DS 模型(见文末)
1.根据电脑配置选择合适的参数规模(例如,7b代表70亿参数,14b代表140亿参数)。参数规模越大,模型效果理论上越好,但对电脑配置的要求也越高。选择合适的参数规模后,复制对应的下载命令。
2.返回命令提示符窗口,将复制的ollama run DS-r1命令粘贴到光标后,然后按回车键,等待模型下载完成。下载完成后,即可在命令窗口直接向DeepSeek提问。不过,命令窗口界面不够美观,且复制内容不够方便,因此建议继续进行下一步设置,切换到更友好的界面进行对话。
配置 ChatboxAI
1.为了方便对话,我们可以下载一个chatboxai (见文末)。
2.在ChatboxAI的设置中选择Ollama,并选择DS-R1模型:
点击“保存”按钮后,即可通过ChatboxAI与DS进行对话。
通过以上步骤,用户可以在本地环境中部署并使用DS,不仅能够有效避免网络延迟和服务器繁忙的问题,还能在离线状态下使用该模型,同时确保数据的隐私和安全。希望这些信息能够帮助大家更好地利用DS,提升使用体验。
「DeepSeek-R1」
链接:https://pan.quark.cn/s/2f7935f5beb2