linux 安装 ollama 基本步骤
linux服务器,安装ollama后,电脑进行访问时要修改:
#找到服务的单元文件:
#/etc/systemd/system/目录下
sudo vi /etc/systemd/system/ollama.service
#添加环境变量:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
#如果已经有
Environment="PATH=xxx:/root/bin" "OLLAMA_HOST=0.0.0.0:11434"
1
2
3
4
5
6
7
8
9
2
3
4
5
6
7
8
9
为了使更改生效,您需要重新加载systemd的配置。使用以下命令:
sudo systemctl daemon-reload
1
最后,重启服务以应用更改:
sudo systemctl restart ollama
1
成功后,访问地址:http://127.0.0.1:11434
注意配置防火墙规则:
1.当然您可以直接关了他。
2.如果服务器有防火墙(如iptables或ufw),确保开放了Ollama使用的端口(默认为11434)。您可以使用以下命令开放端口:
sudo iptables -I INPUT -p tcp --dport 11434 -j ACCEPT
1
或者,如果您使用的是ufw:
sudo ufw allow 11434/tcp
1
常用命令
ollama ps 查看正在运行的模型
ollama list 查看已经下载的模型列表
ollama help 查看ollama相关命令
1
2
3
2
3
运行模型
以千问大模型为例,包括拉取模型和启动
ollama run qwen2:7b
1
查看服务
netstat -tnlp
1
- 01
- Linux(Ubuntu)安装 open-webui 最新方式汇总11-27
- 03
- Ubuntu 上安装 【docker】 的详细指南11-27