Offre Durée limitée : -10% sur tout le site* avec le code ELYPSEWELCOME10

Installer FreeLLMAPI sur un VPS Linux : une seule API compatible OpenAI devant les offres gratuites des fournisseurs de LLM

Mis à jour le 21 novembre 2026 10 min de lecture 11 sections

FreeLLMAPI est une passerelle auto-hébergée qui regroupe derrière un seul endpoint /v1, compatible OpenAI, les offres gratuites de nombreux fournisseurs de LLM. Le dépôt tashfeenahmed/freellmapi (licence MIT) évolue rapidement, et ses fournisseurs comme ses quotas changent avec lui. Ce guide l'installe avec Docker Compose sur un VPS, protège le tableau de bord, puis le branche à Open WebUI ou à un agent. Il détaille aussi ce que l'outil ne peut pas faire.

Ce que fait FreeLLMAPI

Un LLM (grand modèle de langage) s'interroge en général via une API HTTP. Beaucoup de fournisseurs offrent un quota gratuit limité : requêtes par minute, par jour, jetons par jour. FreeLLMAPI cumule ces quotas. Vous y saisissez vos propres clés de fournisseurs, et il vous délivre une clé unifiée au format freellmapi-… que vos applications utilisent comme jeton Bearer.

Selon le README du dépôt à la date de rédaction (21 novembre 2026) :

  • le catalogue annonce 87 fournisseurs gratuits et plus d'un millier de points d'accès de modèles. Ce nombre évolue vite : certaines présentations parlaient de 34 fournisseurs il y a peu ;
  • le routage automatique classe les modèles selon la vitesse, la capacité et la fiabilité observées, avec six stratégies ;
  • en cas d'erreur 429 (quota) ou 5xx, le routeur applique un délai de repos, fait tourner les clés et bascule vers le modèle suivant de la chaîne de repli ;
  • une conversation reste sur le même modèle pendant 30 minutes ;
  • le modèle auto laisse le routeur décider, et l'en-tête de réponse X-Routed-Via indique qui a répondu ;
  • les clés des fournisseurs sont chiffrées dans une base SQLite (AES-256-GCM) et ne sont jamais montrées aux applications.

Outre /v1/chat/completions, il expose notamment /v1/responses, /v1/embeddings, /v1/models, un format Anthropic (/v1/messages) et un serveur MCP (/mcp).

Notions clés avant de commencer

  • VPS (serveur privé virtuel) : une machine virtuelle isolée, qui tourne sur un serveur physique grâce à la virtualisation. Avec un accès root, vous installez librement Docker et vos services.
  • Adresse IP : le numéro qui identifie votre VPS sur Internet.
  • DNS : le service qui traduit un nom de domaine en adresse IP. Un enregistrement de type A relie llm.exemple.fr à l'IP de votre VPS.
  • Reverse proxy : un serveur Web placé devant l'application. Il reçoit les requêtes HTTPS, puis les transmet au service interne, ici le port 3001 en loopback.
  • Pare-feu (firewall) : des règles qui autorisent ou bloquent les connexions par port. UFW en est une interface simple sous Ubuntu et Debian.
  • Port : le numéro qui distingue plusieurs services sur une même adresse IP.
  • Base SQLite : une base stockée dans un fichier unique, sans serveur MySQL séparé à administrer. Ici, elle vit dans un volume Docker.
PortRôleExposé sur Internet ?
22SSH, administration du VPSOui, avec un SSH durci
80 et 443HTTP et HTTPS du reverse proxyOui
3001FreeLLMAPI, sur 127.0.0.1Non

Les limites à connaître avant d'installer

Le dépôt est explicite : expérimentation et usage personnel, pas production. Retenez cinq points.

  • Conditions d'utilisation : vous restez responsable du respect des conditions de chaque fournisseur amont. Certains limitent le nombre de comptes ou de clés par personne, d'autres l'usage commercial. Lisez-les avant d'ajouter une clé.
  • Quotas : ils changent sans préavis, et les meilleurs modèles atteignent leur plafond quotidien en cours de journée.
  • Pas de SLA : latence variable, qualité inégale, pas de modèles de pointe garantis.
  • Données chez des tiers : chaque prompt part chez le fournisseur choisi par le routeur. Vous n'avez pas la main sur la rétention ou la réutilisation. Pas de données personnelles, pas de secrets, pas de code confidentiel. Voir aussi notre article sur le RGPD et l'entraînement des IA.
  • Mono-utilisateur : le proxy est pensé pour une personne. Ce n'est pas une plateforme multi-équipes.

Si ces points vous bloquent, passez directement à la comparaison avec LiteLLM et Ollama.

Prérequis sur le VPS

FreeLLMAPI est une application Node.js empaquetée en image Docker multi-architecture (amd64 et arm64). Elle consomme peu de ressources, car l'inférence se fait chez les fournisseurs. Un petit VPS Linux suffit. Ce VPS est une machine virtuelle isolée, et les commandes ci-dessous supposent une distribution Debian ou Ubuntu (gestionnaire de packages apt). Côté bande passante, les requêtes sont textuelles, mais les réponses en streaming arrivent en continu. Il vous faut :

  • un accès root ou sudo, et un nom de domaine dont l'enregistrement DNS de type A pointe vers l'adresse IP publique du VPS (par exemple llm.exemple.fr) ;
  • Docker et Docker Compose : voir installer Docker sur un VPS ;
  • OpenSSL, Git, et un SSH déjà durci : sécuriser SSH.

Installer avec Docker Compose

Le dépôt propose aussi un script d'une ligne (curl … | bash). Sur un serveur, nous préférons la méthode Compose, plus lisible et reproductible. Si vous ne maîtrisez pas encore l'outil, lisez d'abord Docker Compose sur un VPS Linux.

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
ENCRYPTION_KEY="$(openssl rand -hex 32)"
printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" > .env
chmod 600 .env
docker compose up -d
docker compose logs -f freellmapi

Points importants de la configuration (fichier .env), d'après la documentation d'installation du projet :

  • ENCRYPTION_KEY est obligatoire : elle chiffre vos clés de fournisseurs. Gardez-la identique à chaque mise à jour, et sauvegardez-la hors du serveur.
  • Par défaut, le port est publié sur 127.0.0.1 uniquement (variable HOST_BIND). Laissez cette valeur : c'est ce qui permet de placer un reverse proxy devant.
  • La base SQLite vit dans le volume nommé freellmapi-data. N'utilisez docker compose down -v que si vous voulez tout effacer.

Vérifiez que l'application répond en local :

curl -I http://127.0.0.1:3001

Pour mettre à jour : docker compose pull && docker compose up -d. Après toute modification du .env, relancez avec docker compose up -d pour appliquer la nouvelle configuration. N'activez pas le profil autoupdate sans réfléchir : il monte le socket Docker, équivalent à un accès root sur l'hôte.

Placer le tableau de bord derrière un reverse proxy authentifié

Le tableau de bord (port 3001) a sa propre connexion par e-mail et mot de passe, mais ne l'exposez pas seul en clair : il manipule vos clés de fournisseurs. L'idée : un reverse proxy HTTPS, une authentification HTTP Basic supplémentaire sur le tableau de bord, et un chemin /v1/ protégé uniquement par la clé unifiée, car un client OpenAI envoie déjà son propre en-tête Authorization.

Nginx est un serveur Web qui peut jouer le rôle de reverse proxy. Le principe est détaillé dans Nginx en reverse proxy sur un VPS Linux. Créez le fichier de mots de passe (le paquet apache2-utils fournit l'outil htpasswd, sans installer de serveur Apache) :

sudo apt install apache2-utils
sudo htpasswd -c /etc/nginx/.htpasswd-llm admin

Puis un bloc server, l'équivalent d'un virtual host Apache (à adapter, et à tester avec nginx -t) :

server {
    listen 80;
    server_name llm.exemple.fr;

    # Tableau de bord : Basic Auth + connexion applicative
    location / {
        auth_basic "Acces restreint";
        auth_basic_user_file /etc/nginx/.htpasswd-llm;
        proxy_pass http://127.0.0.1:3001;
        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    }

    # API : protégée par la clé unifiée freellmapi-...
    location /v1/ {
        proxy_pass http://127.0.0.1:3001;
        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_buffering off;
        proxy_read_timeout 300s;
    }
}

proxy_buffering off évite de retenir les réponses en streaming. L'en-tête X-Forwarded-Proto compte : la documentation du projet indique que les en-têtes de sécurité réservés au HTTPS en dépendent. Ajoutez ensuite le certificat avec Certbot, ou choisissez Caddy qui gère le HTTPS seul.

Si vous êtes seul à utiliser le tableau de bord, une alternative plus stricte : ne publiez que /v1/ et accédez à l'interface par un tunnel SSH ou un réseau privé virtuel (VPN) Tailscale. Pensez aussi au pare-feu (firewall) : UFW doit n'ouvrir que les ports 22, 80 et 443, jamais le port 3001.

Configurer les fournisseurs : ajouter les clés et récupérer la clé unifiée

  1. Ouvrez https://llm.exemple.fr, passez le Basic Auth et créez votre compte.
  2. Sur la page Keys, ajoutez une clé par fournisseur (compte créé chez lui, conditions acceptées).
  3. Réordonnez la chaîne de repli si besoin.
  4. Copiez la clé unifiée affichée en haut de la page.

Test depuis votre poste :

curl https://llm.exemple.fr/v1/chat/completions \
  -H "Authorization: Bearer freellmapi-votre-cle" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Dis bonjour en une phrase."}]}'

Ajoutez -i pour lire l'en-tête X-Routed-Via. Si la clé unifiée fuit, régénérez-la depuis le tableau de bord.

Brancher Open WebUI ou un agent

Open WebUI

Dans Open WebUI (guide d'installation), ajoutez une connexion OpenAI dans les réglages d'administration : URL https://llm.exemple.fr/v1, clé freellmapi-…. L'URL publique évite les soucis de réseau entre conteneurs, puisque FreeLLMAPI n'écoute que sur le loopback de l'hôte. Choisissez ensuite le modèle auto ou un modèle précis.

Agents et clients OpenAI

Exemple en Python avec le package openai. Tout client compatible OpenAI fonctionne en changeant base_url et api_key :

from openai import OpenAI

client = OpenAI(
    base_url="https://llm.exemple.fr/v1",
    api_key="freellmapi-votre-cle",
)
r = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Résume ce texte."}],
)
print(r.choices[0].message.content)

Le projet fournit aussi un utilitaire pour des agents de code (npx freellmapi setup-claude --url … --api-key …, avec --dry-run pour prévisualiser). Les agents consomment beaucoup de requêtes : surveillez vos quotas, et ne leur donnez que des dépôts sans secret. Pour les flux automatisés, voyez aussi l'hébergement n8n.

FreeLLMAPI, LiteLLM ou Ollama : que choisir ?

CritèreFreeLLMAPILiteLLMModèle local (Ollama)
RôleCumul des offres gratuitesPasserelle générale vers vos comptes de fournisseursInférence sur votre propre machine
CoûtGratuit, dans la limite des quotasDépend des comptes que vous branchezLe coût du serveur
ConfidentialitéDonnées envoyées à des tiersIdem, selon le fournisseur choisiRien ne sort du serveur
StabilitéAucun SLA, quotas changeantsMeilleure, avec des offres payantesDépend de votre matériel
Usage viséExpérimentation personnelleÉquipes, productionDonnées sensibles, usage régulier
Ressources VPSFaiblesModéréesÉlevées (RAM, CPU)

LiteLLM convient dès que plusieurs personnes ou applications partagent la passerelle : voir installer LiteLLM Proxy. Un point de sécurité : cet outil a connu un incident de chaîne d'approvisionnement, détaillé dans notre article sur le malware PyPI. Quelle que soit la passerelle, épinglez vos versions et surveillez vos secrets. Une autre piste est OmniRoute.

Un modèle local avec Ollama règle la question des données, au prix de ressources. Pour dimensionner, regardez llmfit et la gestion des modèles Ollama. Les modèles lourds demandent un serveur dédié.

Une approche pragmatique : Ollama pour tout ce qui est sensible, FreeLLMAPI pour les tests et le code public. FreeLLMAPI accepte d'ailleurs un fournisseur « custom » compatible OpenAI (llama.cpp, vLLM, Ollama), ce qui permet de placer votre modèle local dans la même chaîne.

Exploitation et sécurité au quotidien

  • Sauvegardes (backup) : copiez le volume freellmapi-data et le fichier .env hors du serveur (sur un autre serveur ou un NAS), par exemple avec rsync. Sans ENCRYPTION_KEY, la base est inutilisable. Les sauvegardes ElypseCloud sont une option distincte à ajouter à l'offre.
  • Journaux : docker compose logs -f freellmapi. Le code de réinitialisation du mot de passe (valable 15 minutes) y est écrit.
  • Monitoring : pour suivre la charge du VPS (processeur, mémoire, réseau), la commande docker stats affiche en direct la consommation des conteneurs.
  • Mises à jour : le projet évolue vite. Lisez les notes de version avant un pull.
  • Surface d'attaque : désactivez ce que vous n'utilisez pas, limitez l'accès aux IP connues quand c'est possible, et ajoutez Fail2ban sur SSH.
  • Nettoyage : après des mises à jour répétées, purgez les images inutiles.

En résumé

FreeLLMAPI est un bon outil d'essai : une seule URL, une clé, un routage et une bascule automatiques devant des dizaines d'offres gratuites. Installez-le avec Docker Compose, gardez le port sur le loopback, publiez-le en HTTPS derrière un reverse proxy, et n'y envoyez que des données que vous accepteriez de confier à des tiers. Dès que le besoin devient durable, sensible ou collectif, basculez vers LiteLLM avec des comptes dédiés, ou vers un modèle hébergé chez vous.

FAQ

FreeLLMAPI est-il gratuit ?

Le routeur est publié sous licence MIT et s'installe gratuitement. Le dépôt propose aussi une offre Premium payante, qui donne accès au catalogue de modèles plus tôt. Les offres gratuites des fournisseurs ont leurs propres quotas, qui peuvent changer sans préavis.

Peut-on utiliser FreeLLMAPI en production ?

Le projet se décrit lui-même comme destiné à l'expérimentation personnelle, pas à la production. Les offres gratuites n'offrent ni SLA ni stabilité garantie, et la latence varie. Pour un service réel, passez à une API payante ou à un modèle que vous hébergez.

Pourquoi ne pas ouvrir le port 3001 directement sur Internet ?

Par défaut, le conteneur n'écoute que sur 127.0.0.1, et la documentation précise que le proxy est mono-utilisateur. Ouvrir le port en clair exposerait le tableau de bord et vos clés de fournisseurs chiffrées. Placez-le derrière un reverse proxy HTTPS.

Quelle différence avec LiteLLM ?

LiteLLM est une passerelle généraliste, pensée pour des équipes, avec des clés virtuelles et du suivi de coûts, sur des comptes que vous configurez. FreeLLMAPI se concentre sur le cumul et la rotation des offres gratuites, avec un routage automatique.

Mes données sont-elles envoyées à des tiers ?

Oui. Chaque requête part vers le fournisseur choisi par le routeur, et vous n'en maîtrisez pas toujours le choix. Selon les conditions de ce fournisseur, les échanges peuvent être journalisés ou réutilisés. N'envoyez ni données personnelles ni secrets.

Un modèle local avec Ollama est-il préférable ?

Si la confidentialité compte, oui : rien ne quitte votre serveur. En contrepartie, il faut assez de RAM et de CPU pour le modèle choisi, et la qualité dépend de sa taille. Les deux approches peuvent coexister, car FreeLLMAPI accepte un point d'accès personnalisé compatible OpenAI.

Faut-il un VPS puissant pour FreeLLMAPI ?

Non. La passerelle reste légère, car l'inférence se fait chez les fournisseurs. Un petit VPS Linux suffit pour faire tourner Docker, le conteneur et le reverse proxy.

Comment sauvegarder FreeLLMAPI ?

Copiez hors du serveur le volume freellmapi-data et le fichier .env. Sans ENCRYPTION_KEY, la base chiffrée est inutilisable. Les sauvegardes ElypseCloud sont une option distincte, à ajouter à votre offre.

Faut-il ouvrir le port 3001 dans le pare-feu ?

Non. Ouvrez seulement les ports 22, 80 et 443. Le port 3001 reste sur 127.0.0.1, et seul le reverse proxy, en local, y accède.