Gérer ses modèles Ollama sur un VPS Linux : lister, supprimer, mettre à jour

Gestion des modeles Ollama sur un VPS Linux

Apres avoir installe Ollama sur un VPS Linux, les modeles de langage (LLM) s'accumulent sur le disque. Chaque modele telecharge occupe entre 2 et 43 Go selon le nombre de parametres et la quantisation choisie. Sur un serveur VPS avec un stockage SSD limite, la gestion des modeles Ollama devient une tache d'administration quotidienne pour tout administrateur : lister les modeles installes, verifier l'espace disque qu'ils consomment, supprimer ceux qui ne servent plus, mettre a jour les modeles actifs vers une version plus recente et sauvegarder les configurations avant un nettoyage.

Ce guide couvre les commandes CLI d'Ollama, l'API REST et le package Python pour administrer vos modeles sur un serveur VPS ou un serveur dedie Linux. Il complete le guide d'installation et suppose qu'Ollama tourne deja en tant que service systemd sur votre serveur. Que vous utilisiez votre VPS pour de l'inference IA en production ou comme plateforme de test, ces operations vous permettront de garder le controle sur le processeur, la memoire et le stockage de votre machine.

Prerequis

• Un VPS Linux ou un serveur dedie sous Ubuntu 22.04/24.04 LTS ou Debian 12 avec Ollama installe et le service actif (guide d'installation Ollama sur VPS Linux) ;
• Un acces SSH en tant qu'utilisateur root ou un compte avec les droits sudo ;
• Au moins un modele telecharge (ollama pull llama3.1) ;
• Pour la partie Python : le package python3 et pip installes sur le serveur.

Lister les modeles installes avec ollama list

La commande ollama list est le point de depart de toute operation de maintenance. Elle affiche tous les modeles presents sur le serveur. Pour chaque modele, elle indique le nom, l'identifiant du manifeste, la taille sur disque et la date de derniere modification :

ollama list

Exemple de sortie sur un serveur VPS Linux :

NAME                ID              SIZE      MODIFIED
llama3.1:latest     365c0bd3c000    4.7 GB    3 days ago
mistral:latest      f974a74358d6    4.1 GB    2 weeks ago
qwen3:14b           abcd12345678    9.0 GB    5 days ago
phi4-mini:latest    abc123def456    2.2 GB    1 week ago

L'alias ollama ls produit la meme sortie. La colonne SIZE correspond a la taille des couches (blobs) referencees par le manifeste du modele. Deux modeles d'une meme famille (par exemple llama3.1:8b et llama3.1:8b-instruct) partagent souvent les memes poids de base : la taille reelle sur disque peut etre inferieure a la somme des tailles affichees, car Ollama deduplique les blobs par empreinte SHA-256.

Sur un serveur dedie avec plusieurs dizaines de modeles, cette commande vous donne une vue d'ensemble de l'espace occupe avant de decider quels modeles supprimer ou mettre a jour.

Inspecter les details d'un modele avec ollama show

La commande ollama show affiche les metadonnees detaillees d'un modele : architecture, nombre de parametres, type de quantisation, taille du contexte et licence. Ces informations permettent a l'administrateur de verifier la version exacte du modele installe avant de decider s'il faut le mettre a jour ou le remplacer par une variante plus legere :

ollama show llama3.1

Pour n'afficher qu'une section specifique, utilisez les options dediees :

ollama show llama3.1 --parameters   # parametres du modele
ollama show llama3.1 --license      # licence du modele
ollama show llama3.1 --modelfile    # Modelfile complet
ollama show llama3.1 --system       # prompt systeme
ollama show llama3.1 --template     # template de prompt

Le type de quantisation (par exemple Q4_K_M, Q5_K_S, Q8_0) determine le compromis entre la taille du modele et la qualite des reponses generees par le processeur ou le GPU de votre serveur. Un modele en Q4 occupe environ 0,6 Go par milliard de parametres, contre 1 Go en Q8. Consultez ces valeurs pour choisir la variante adaptee a la RAM et au processeur de votre VPS (surveiller les ressources d'un VPS Linux avec htop et btop).

Verifier les modeles charges en memoire avec ollama ps

Alors que ollama list inventorie les modeles stockes sur le disque, la commande ollama ps affiche les modeles actuellement charges en memoire (RAM ou VRAM) par le processus Ollama :

ollama ps

Exemple de sortie :

NAME              ID              SIZE      PROCESSOR    UNTIL
llama3.1:latest   365c0bd3c000    6.7 GB    100% CPU     4 minutes from now

La colonne PROCESSOR indique si l'inference tourne sur le processeur (CPU) ou sur un GPU. La colonne UNTIL affiche le temps restant avant qu'Ollama ne decharge automatiquement le modele de la memoire (par defaut 5 minutes d'inactivite). Cette information est utile avant toute operation de maintenance : un modele encore charge en memoire sera decharge avant sa suppression, mais il est preferable d'attendre qu'il soit inactif pour eviter d'interrompre une requete en cours.

Sur un serveur VPS avec une RAM limitee, surveillez cette sortie pour verifier qu'un modele trop volumineux ne sature pas la memoire disponible. Configurez le swap si necessaire (configurer le swap sur un VPS Linux).

Verifier l'espace disque occupe par les modeles

Les modeles Ollama sont stockes par defaut dans /usr/share/ollama/.ollama/models lorsque le service tourne sous l'utilisateur systeme ollama. Si vous executez Ollama manuellement en tant que root ou en tant qu'utilisateur standard, le repertoire sera ~/.ollama/models. Pour mesurer l'espace reel occupe sur le disque SSD de votre serveur :

sudo du -sh /usr/share/ollama/.ollama/models

Cette valeur peut differer de la somme des tailles affichees par ollama list. Ollama utilise un systeme de stockage par blobs inspire de Docker : chaque couche de poids est identifiee par son empreinte SHA-256 et stockee une seule fois dans le repertoire models/blobs/. Quand deux modeles partagent les memes couches de base, le blob n'existe qu'une fois sur le disque.

Pour verifier l'espace disque global restant sur la partition de votre VPS :

df -h /usr/share/ollama/.ollama/models

Si le stockage devient critique, trois approches : supprimer les modeles inutilises avec ollama rm, deplacer le repertoire de stockage vers un volume plus grand (voir la section deplacer le repertoire de stockage), ou passer a une quantisation plus compacte (Q4 au lieu de Q8) pour reduire la taille de chaque modele sans changer d'architecture.

Supprimer un modele avec ollama rm

La commande ollama rm (ou ollama remove) supprime un modele et libere l'espace disque occupe par ses couches. Specifiez le nom exact tel qu'il apparait dans ollama list :

ollama rm mistral:latest

Pour supprimer plusieurs modeles en une seule commande :

ollama rm mistral:latest phi4-mini:latest

La suppression est immediate et irreversible : le manifeste et les blobs non partages sont effaces du disque. Aucune confirmation n'est demandee. Si un blob est encore reference par un autre modele installe, il reste en place. C'est pourquoi supprimer un modele d'une famille qui partage des poids avec un autre modele libere parfois moins d'espace que la taille affichee.

Pour supprimer tous les modeles d'un serveur en une seule passe (utile lors d'une reinstallation ou d'un nettoyage complet du VPS) :

ollama list | awk 'NR>1 {print $1}' | xargs -r ollama rm

Verifiez l'espace recupere apres suppression :

ollama list
sudo du -sh /usr/share/ollama/.ollama/models

Mettre a jour un modele vers une version plus recente

Ollama n'a pas de commande update dediee. Pour mettre a jour un modele, relancez la commande ollama pull : Ollama compare les couches locales avec celles du registre distant et ne telecharge que les blobs modifies, comme une mise a jour incrementale :

ollama pull llama3.1

Si le modele est deja a jour, la commande se termine immediatement sans rien telecharger. Si une nouvelle quantisation ou un correctif est disponible, seules les couches differentes sont rapatriees. L'ancien manifeste est remplace par le nouveau.

Pour mettre a jour tous les modeles installes en une seule passe, combinez ollama list et une boucle shell. Ce script est utile dans un contexte d'administration reguliere d'un serveur VPS de production :

ollama list | tail -n +2 | awk '{print $1}' | while read model; do
  echo "Mise a jour de $model..."
  ollama pull "$model"
done

Pensez egalement a mettre a jour le binaire Ollama lui-meme en relancant le script d'installation officiel : curl -fsSL https://ollama.com/install.sh | sh. Les mises a jour du binaire sont independantes des mises a jour des modeles. Apres la mise a jour du binaire, redemarrez le service : sudo systemctl restart ollama.

Copier un modele avec ollama cp

La commande ollama cp cree une copie locale d'un modele sous un nouveau nom. Cette operation ne duplique pas les poids sur le disque : elle cree un nouveau manifeste qui pointe vers les memes blobs. L'espace disque supplementaire est donc negligeable :

ollama cp llama3.1 mon-llama-custom

Cas d'usage typiques pour un administrateur de serveur :

• Creer une copie de sauvegarde avant de personnaliser un modele avec un Modelfile ;
• Renommer un modele pour l'identifier plus facilement dans vos scripts d'automatisation ;
• Preparer une variante de test sans risquer de modifier le modele original.

Les blobs partages ne seront supprimes que lorsque tous les modeles qui les referencent auront ete supprimes avec ollama rm.

Sauvegarder les modeles avant un nettoyage

Avant de supprimer des modeles ou de reinstaller Ollama sur votre VPS, creez une sauvegarde du repertoire de stockage. Une copie avec rsync vers un volume distant ou un autre serveur permet de restaurer rapidement les modeles sans les retelecharger (sauvegarder un VPS avec rsync) :

sudo rsync -av /usr/share/ollama/.ollama/models/ /mnt/backup/ollama-models/

Pour une sauvegarde sous forme d'archive compressée :

sudo tar czf /mnt/backup/ollama-models-$(date +%F).tar.gz \
  -C /usr/share/ollama/.ollama models

Restaurez en decompressant l'archive dans le repertoire cible et en redemarrant le service. Cette methode est particulierement utile pour les administrateurs qui gerent plusieurs serveurs VPS ou serveurs dedies et souhaitent repliquer les memes modeles sur chaque machine sans consommer la bande passante d'un telechargement complet depuis le registre.

Securiser l'acces a l'API Ollama sur un VPS

Par defaut, Ollama ecoute uniquement sur 127.0.0.1:11434 (localhost). Aucun client externe ne peut acceder a l'API REST tant que l'adresse IP d'ecoute n'est pas modifiee. Si vous devez exposer l'API pour qu'une interface comme Open WebUI ou un script Python distant y accede depuis une autre machine, modifiez la variable OLLAMA_HOST :

sudo systemctl edit ollama.service

Ajoutez dans la section [Service] :

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Appliquez avec sudo systemctl daemon-reload && sudo systemctl restart ollama.

Attention : l'API Ollama n'embarque aucune authentification. Lier le service a 0.0.0.0 l'expose sur toutes les interfaces reseau du serveur. Protegez immediatement le port 11434 avec un pare-feu pour n'autoriser que les adresses IP de confiance (configurer nftables sur un VPS Linux ou gerer les ports avec UFW) :

# Avec UFW : autoriser uniquement une adresse IP specifique
sudo ufw allow from 10.0.0.5 to any port 11434 proto tcp
sudo ufw deny 11434

L'approche la plus sure pour un acces distant reste de laisser Ollama sur localhost et d'utiliser un tunnel SSH ou un VPN comme Tailscale ou WireGuard pour chiffrer la connexion sans ouvrir de port supplementaire sur le pare-feu du serveur.

Gerer les modeles par script Python ou API REST

Pour integrer la gestion des modeles dans vos scripts d'automatisation ou vos outils d'administration, Ollama propose deux interfaces programmatiques : un package Python officiel et une API REST accessible en HTTP sur le port 11434.

Package Python

Installez le package avec pip (Python 3.8 ou superieur requis) :

pip install ollama

Exemples d'utilisation dans un script Python :

import ollama

# Lister les modeles installes
modeles = ollama.list()
for m in modeles["models"]:
    print(f"{m['name']} - {m['size'] / 1e9:.1f} Go")

# Supprimer un modele
ollama.delete("mistral:latest")

# Telecharger ou mettre a jour un modele
ollama.pull("llama3.1")

API REST avec curl

Les memes operations sont disponibles via l'API REST :

# Lister les modeles
curl -s http://localhost:11434/api/tags | python3 -m json.tool

# Supprimer un modele
curl -X DELETE http://localhost:11434/api/delete \
  -d '{"model": "mistral:latest"}'

# Mettre a jour un modele
curl -X POST http://localhost:11434/api/pull \
  -d '{"model": "llama3.1"}'

L'API REST est utile pour les administrateurs qui gerent une flotte de serveurs VPS et souhaitent declencher des operations de maintenance a distance depuis un script central, par exemple avec Ansible ou un simple script Bash.

Deplacer le repertoire de stockage des modeles

Par defaut, les modeles occupent l'espace de la partition racine. Sur un VPS avec un volume de donnees supplementaire monte sur /mnt/data, vous pouvez deplacer le stockage des modeles via la variable d'environnement OLLAMA_MODELS.

Arretez le service, deplacez les fichiers existants, puis configurez la variable :

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo mv /usr/share/ollama/.ollama/models/* /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models

Ajoutez la variable dans la surcharge systemd du service (creer un service systemd sur Linux) :

sudo systemctl edit ollama.service

Ajoutez dans la section [Service] :

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"

Appliquez et redemarrez :

sudo systemctl daemon-reload
sudo systemctl restart ollama

Verifiez que les modeles sont bien detectes dans le nouveau repertoire :

ollama list

Automatiser le nettoyage des modeles par cron

Sur un serveur VPS qui sert de plateforme de test pour differents modeles de langage, les modeles inutilises s'accumulent et consomment l'espace disque du serveur. Un script execute en tache cron permet de supprimer automatiquement les modeles qui n'ont pas ete utilises depuis un certain nombre de jours.

Creez le script /usr/local/bin/ollama-cleanup.sh :

#!/bin/bash
# Supprime les modeles Ollama non utilises depuis plus de 30 jours
JOURS=30
SEUIL=$(date -d "-${JOURS} days" +%s)

ollama list | tail -n +2 | while read -r line; do
  model=$(echo "$line" | awk '{print $1}')
  modified=$(echo "$line" | awk '{for(i=4;i<=NF;i++) printf "%s ", $i}')
  # Convertir la date relative en timestamp
  if echo "$modified" | grep -q "month\|year"; then
    echo "Suppression de $model (inactif depuis $modified)"
    ollama rm "$model"
  fi
done

Rendez le script executable et planifiez-le en tache cron hebdomadaire (guide des taches cron et timers systemd) :

sudo chmod +x /usr/local/bin/ollama-cleanup.sh
sudo crontab -e

Ajoutez la ligne suivante pour executer le nettoyage chaque dimanche a 3 h du matin :

0 3 * * 0 /usr/local/bin/ollama-cleanup.sh >> /var/log/ollama-cleanup.log 2>&1

Adaptez la variable JOURS et le critere de filtrage selon votre usage. Avant d'activer le cron en production, testez le script manuellement avec sudo bash /usr/local/bin/ollama-cleanup.sh pour verifier qu'il ne supprime pas un modele encore en service sur le serveur.

Pour les serveurs qui hebergent a la fois Ollama et une interface comme Open WebUI, verifiez que le modele par defaut configure dans l'interface n'est pas supprime par le script de nettoyage. Ajoutez une liste d'exclusion dans le script pour proteger les modeles essentiels.

Recapitulatif des commandes de gestion Ollama

Ces commandes couvrent l'ensemble des operations d'administration quotidienne des modeles Ollama sur un serveur VPS Linux ou un serveur dedie. Pour comparer les moteurs d'inference disponibles sur un serveur dedie avec GPU, consultez notre guide vLLM vs Ollama : quel moteur d'inference IA pour un serveur dedie.

Conclusion

La gestion des modeles Ollama sur un VPS Linux repose sur un ensemble de commandes simples : ollama list pour inventorier les modeles installes, ollama show pour inspecter leurs metadonnees et quantisation, ollama ps pour verifier ce qui tourne en memoire, ollama rm pour supprimer les modeles inutilises et ollama pull pour les mettre a jour. Completez ces commandes CLI par le package Python ou l'API REST pour automatiser la maintenance dans vos scripts d'administration.

Le stockage par blobs dedupliques limite l'empreinte disque quand plusieurs modeles partagent les memes poids de base. Surveillez l'espace disque avec du et df, sauvegardez vos modeles avec rsync avant un nettoyage, deplacez le repertoire de stockage si la partition racine de votre serveur est trop petite, securisez l'API avec un pare-feu si vous l'exposez sur le reseau, et automatisez le nettoyage des modeles orphelins par cron pour garder votre serveur VPS operationnel.