linux ollama deepseek等大语言模型的model文件的存储目录
一、用ollama serve启动的,模型数据存放在:
/usr/share/ollama/.ollama/models
二、如果在自启动文件中指定了工作目录,则在工作目录下的.ollama/models
1.自启动服务 /etc/systemd/system/ollama.service:
[Unit]
Description=Ollama Service
After=network.target[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
Type=simple
User=root
WorkingDirectory=/root
ExecStart=/usr/local/bin/ollama serve
Restart=on-failure
RestartSec=30[Install]
WantedBy=multi-user.target
文件中指定了工作目录(WorkingDirectory)是/root,但未设置OLLAMA_MODELS环境变量,用systemctl start ollama或开机自启后,模型目录为
/root/.ollama/models
2.修改自定义模型目录,设置OLLAMA_MODELS环境变量即可:
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_MODELS=/data/ollama/.ollama/models"
ExecStart=/usr/local/bin/ollama serve
Type=simple
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=multi-user.target
三、自启动文件属性说明:
- Description 是服务的简单描述。
- After 指定了在哪个服务启动后启动此服务。
- Type 定义了服务进程的启动类型,simple 表示启动主进程。
- User 指定运行服务的用户,本文用的是root ,也可以用其他账户。
- Group 指定运行服务的工用户组,本文用的是root,即用户root所在的用户组。
- WorkingDirectory 设置服务的工作目录,本文用的/root,也可以切换成其他用户目录。
- ExecStart 指定启动服务的命令。
- Restart 指定服务崩溃时的重启策略。
- RestartSec 设置重启服务前等待的时间。
- WantedBy 指定了服务所在的 target,multi-user.target 表示多用户系统。
- Environment 启动服务的环境变量,只对启动该服务有用。
四、服务启动命令
# 重新加载 systemd 以识别新服务
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama.service
# 使服务开机自启
sudo systemctl enable ollama.service
# 检查服务状态
sudo systemctl status ollama.service