一、下载安装:Ollama
官网下载:Download Ollama on macOS
二、安装Ollama
1、直接解压zip压缩包,解压出来就是应用程序
2、直接将Ollama拖到应用程序中即可
3、启动终端命令验证
# 输入
ollama
代表已经安装成功。
4、下载模型
点击模型界面会看到所有的模型名称和版本
笔记本可运行小参数量模型):开源模型列表Ollama
-
推荐模型:(电脑配置较高,可在以上网址搜索 7b 或更大参数模型)
-
deepseek-r1:1.5b,在终端输入:ollama pull deepseek-r1:1.5b ,回车。等待下载完成。
-
-
可选其他模型(根据电脑配置):
7b : ollama pull deepseek-r1
8b: ollama pull deepseek-r1:8b
14b: ollama pull deepseek-r1:14b
.....更多模型自行查看列表:Ollama
-
DeepSeek-R1-Distill-Qwen-1.5B,在终端输入:ollama pull erwan2/DeepSeek-R1-Distill-Qwen-1.5B,回车。等待下载完成。
-
nomic-embed-text,在终端输入:ollama pull nomic-embed-text,回车。等待下载完成。此模型(向量化文档模型)为必须安装,否则后续上传文档无法解析。
-
验证模型安装:
在终端输入:ollama list
至此ollama已安装完毕!
5、本地运行
# 输入命令,终端运行大模型,当出现一个send a message就开始玩耍吧。
ollama run deepseek-r1:1.5b
三、安装cherry studio
1、下载cherry studio
官网下载:Cherry Studio - 全能的AI助手
2、安装成功后
3、设置 cherry studio 使用本地大模型
4、点击添加
5、验证模型关联成功:
我本地下载了70b的模型,可能是本机问题,一直关联不成功,随放弃了,先用1.5b的练练手。
6、上传文档,基于文档内容问答
7、聊天界面测试
8、安装问题
如果安装完毕搜索报下面的错误
把这里的模型全部指定一下,问题解决