Mac 部署
- 使用傻瓜集成平台ollama,ollama平台依赖于docker,Mac的M3/M4 因doesn’t have VT-X/AMD-v enabled 所以VB,VM无法使用,导致docker无法启动,需要使用docker的替代品podman, 它完全兼容docker
brew install podman
个人没有成功安装docker,安装成功同学可以分享下经验。
2. 安装ollama
brew install --cask ollama
- 拉取deepseek
# r1聊天模型
ollama pull deepseek-r1:1.5b
# 或者
ollama pull deepseek-r1:8b
# 编码版
ollama pull deepseek-coder
更多版本参见
https://ollama.com/library/deepseek-r1/tags
4. 终端运行
ollama run deepseek-r1:1.5b
- 终端还是看着不方便,集成vscode中
A. 安装插件codeGPT
B. 注册codeGPT - 这玩意需要一个账号,用Gmail或者Github账号第三方注册登录
C. codeGPT的窗口
可以快乐的玩耍了!
Linux部署
没有验证,应该也比较简单,没有验证,命令应该是这个
curl -fsSL https://ollama.com/install.sh | sh ollama run deepseek-r1:7b
私有化部署价值
- 和工作环境融为一体,提高工作效率
- 无信息被泄露的安全问题
- 完全免费,节约一丢丢成本
- 虽然不是满血模型,同样可以感受deepseek的优势