前言本地已经玩了ollama很长时间了, 今天打算把ollama安装到服务器上, 但是服务器没有外网, 所以只能离线安装了, 找了一下离线装教程还是比较少了, 所以自己写一篇, 以便以后查阅.离线安装 Ollama下载安装包在官方Release中进行下载, 根据服务器的 cpu 类型下载对应的安装包, 下载完成后上传到服务器上.安装解压安装包ollama linux amd64.tgz, 进入到解压后的目录, 执行install.sh脚本进行安装.# 解压安装包tar -zxvf Ollama\ Linux\ AMD64.tgz# 将 ollama 执行命令移动到 /usr/bin 目录下sudo mv bin/ollama /usr/bin/ollama启动并添加开机启动1.创建执行用户, 这一步可以忽略, 可以直接设置root或其他有ollama执行权限的用户都可以sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollamasudo usermod -a -G ollama $(whoami)2.创建配置文件创建文件/etc/systemd/system/ollama.service, 并填充如下内容, 其中的User和Group根据上一步的选择填写[Unit]Description=Ollama Service
...
继续阅读
(128)