欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 财经 > 创投人物 > DS本地化部署教程

DS本地化部署教程

2025/2/7 13:42:28 来源:https://blog.csdn.net/2501_90256091/article/details/145483843  浏览:    关键词:DS本地化部署教程

在刚刚过去的春节期间,DS凭借其卓越的功能表现迅速走红,引发了广泛关注。实际上,在新模型发布的初期,我就已经注意到了这一现象,并且非常希望能够与大家分享我的看法和体验。

为了确保用户能够在网络不稳定或断网的情况下依然能够正常使用DS,同时保护用户的隐私数据不被泄露,在开年之际推出这篇手把手的教学文章,详细指导大家如何进行DS的本地部署。通过本地部署,用户不仅可以在离线环境中使用DS,还能有效避免隐私数据在云端传输过程中可能面临的泄露风险,从而更加安全、稳定地享受DS带来的强大功能。

电脑配置要求

配置越高,运行效果越好。我的显卡是4070TI,可以运行 7b 的模型,运行速度和官网差不多。大家可以参考一下这个配置标准,提前检查自己的电脑是否满足。如果配置过低,可能会出现运行卡顿甚至无法运行的情况。​

配置要求一览表

本地化部署详细教程

安装 Ollama

1.打开浏览器,登录官网(见文末),按照页面提示顺序下载 Ollama。

ollama -v

2.下载完成后,直接双击安装程序进行安装,当任务栏出现一个小羊的图标,说明安装成功。

3.安装好后,按下快捷键 win+R,在弹出的命令框中

4.输入 cmd,然后点击确定,打开命令提示符窗口。

5.在光标后面输入 ollama -v(注意中间有空格),然后回车。如果显示 ollama 版本号,比如 0.5.7,那就证明 ollama 安装成功了。

安装 DS 模型(见文末)

1.根据电脑配置选择合适的参数规模(例如,7b代表70亿参数,14b代表140亿参数)。参数规模越大,模型效果理论上越好,但对电脑配置的要求也越高。选择合适的参数规模后,复制对应的下载命令。

2.返回命令提示符窗口,将复制的ollama run DS-r1命令粘贴到光标后,然后按回车键,等待模型下载完成。下载完成后,即可在命令窗口直接向DeepSeek提问。不过,命令窗口界面不够美观,且复制内容不够方便,因此建议继续进行下一步设置,切换到更友好的界面进行对话。

配置 ChatboxAI

1.为了方便对话,我们可以下载一个chatboxai (见文末)。

2.在ChatboxAI的设置中选择Ollama,并选择DS-R1模型:

点击“保存”按钮后,即可通过ChatboxAI与DS进行对话。

通过以上步骤,用户可以在本地环境中部署并使用DS,不仅能够有效避免网络延迟和服务器繁忙的问题,还能在离线状态下使用该模型,同时确保数据的隐私和安全。希望这些信息能够帮助大家更好地利用DS,提升使用体验。

「DeepSeek-R1」
链接:https://pan.quark.cn/s/2f7935f5beb2

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com