Skip to content

在 OLLAMA 框架中,如何将模型保存在数据盘上?

基于 OLLAMA 框架部署的大语言模型中,模型文件通常保存在系统盘,/root/.ollama 目录下。

但系统盘的空间有限,如何把模型保存到数据盘,甚至是共享文件盘上?

具体做法如下:

一、停止 ollama 服务

如果 ollama 正在运行,可以通过以下命令停止它:

bash
pkill ollama

二、把 .ollama 目录移到数据盘(或共享盘)

bash
# 移到数据盘
mv /root/.ollama /root/gpufree-data/.ollama

如果要移动到共享盘或其它位置

bash
mv /root/.ollama /root/gpufree-share/.ollama # 或者其它位置

三、创建符号链接

bash
ln -s /root/gpufree-data/.ollama /root/.ollama

再启动 ollama,就可以啦

bash
# 启动 ollama
ollama start &
# 查看本地的模型
ollama list