【摘要】在前一篇流水账博文中已经记录过 k8s 集群上部署 ollama，在这篇博文中重新整理记录一下。准备 GPU 节点服务器，这里准备的是阿里云共享型 GPU 实例 sgn7i，8核31G，4G显存。操作系统用的是 Ubuntu 20.04，容器环境用的是 containerd，没有使用 docker，主机名是 kube-gpu-8c31g 阅读全文