欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 新闻 > 资讯 > Linux部署ollama

Linux部署ollama

2025/2/21 23:13:26 来源:https://blog.csdn.net/qq_37798548/article/details/145749808  浏览:    关键词:Linux部署ollama

1、下载ollama

wget https://github.com/ollama/ollama/releases/download/v0.1.47/ollama-linux-amd64或者curl -fsSL https://ollama.com/install.sh | sh

2、安装ollama

install ollama-linux-amd64 /usr/local/bin/ollama

3、启动ollama

vi /etc/systemd/system/ollama.service
[Unit]                    
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434" 
Environment="OLLAMA_MODELS=/home/models/ollama"(指定模型存储路径)
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/root/miniconda3/condabin:/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin:/usr/local/bin/:."[Install]
WantedBy=default.target
重新加载配置文件 sudo systemctl daemon-reload
启动 sudo systemctl start ollama
重启 sudo systemctl restart ollama
停止 sudo systemctl stop ollama

4、其他命令

下载并启动模型 ollama run deepseek-r1:7b(模型名称)
删除模型 ollama rm  deepseek-r1:7b(模型名称)
查看模型 ollama list
查看版本 ollama -v

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

热搜词