本地部署
ollama 下载Ollama
ollama支持的模型:Ollama Search
直接下载,发现默认是下载C盘,并且不能选择安装目录,这对我C盘的压力太大了。
查阅资料:发现可以修改
参考将Ollama安装到非C盘路径_ollama不安装在c盘-CSDN博客
参考 [handy-ollama/docs/C2/2. Ollama 在 Windows 下的安装与配置.md at main · datawhalechina/handy-ollama](https://github.com/datawhalechina/handy-ollama/blob/main/docs/C2/2. Ollama 在 Windows 下的安装与配置.md)
具体步骤如下
步骤1: 下载ollamaollama 下载Ollama
步骤2:新建文件夹用于存储ollama应用,并且将安装程序移动到该位置
比如: E/ollama
步骤3:在此目录下:启动安装程序 OllamaSetup.exe /DIR=E:\ollama
执行
弹出如图下载页面,看出安装在我们指定的位置E/ollama
验证是否安装成功
ollama -v
安装成功。
下载模型:Ollama Search
选个小模型吧
现在过程中发现,模型下载到C盘了
更改模型的下载位置
具体操作
新建一个存放的文件
比如 E:\ollamaModels
配置系统环境变量
OLLAMA_MODELS
指向上述位置
下载太慢的解决方法,如果发现一开始下载块,之后越来越慢,可以CTRL + C 取消下载,然后重新执行下载指令
真的有用:
可以在该控制台对话了
有效的更新:大模型知识
https://github.com/hnsqls/shuo-ai