主题
在 OLLAMA 框架中,如何将模型保存在数据盘上?
基于 OLLAMA 框架部署的大语言模型中,模型文件通常保存在系统盘,/root/.ollama
目录下。
但系统盘的空间有限,如何把模型保存到数据盘,甚至是共享文件盘上?
具体做法如下:
一、停止 ollama 服务
如果 ollama 正在运行,可以通过以下命令停止它:
bash
pkill ollama
二、把 .ollama 目录移到数据盘(或共享盘)
bash
# 移到数据盘
mv /root/.ollama /root/gpufree-data/.ollama
如果要移动到共享盘或其它位置
bash
mv /root/.ollama /root/gpufree-share/.ollama # 或者其它位置
三、创建符号链接
bash
ln -s /root/gpufree-data/.ollama /root/.ollama
再启动 ollama,就可以啦
bash
# 启动 ollama
ollama start &
# 查看本地的模型
ollama list