LLM Gateway

Passerelle LLM

Un seul point d'entrée pour tous vos modèles d'IA.

Chaque application reçoit une clé LLM Gateway. La passerelle route ses requêtes vers le fournisseur que vous avez configuré, injecte les vrais identifiants et journalise chaque appel.

Applications

  • App web
  • Workflow n8n
  • Service interne
LLM Gateway
  1. 1Authentifie la clé
  2. 2Injecte les identifiants
  3. 3Journalise la requête

Fournisseurs

  • OpenAI
  • Anthropic
  • Google Gemini
  • Mistral
  • Ollama
  • Nicomind

Fonctionnalités

Tout ce qu'il faut pour exposer des LLM à vos équipes.

Une clé par application

Vos applications n'utilisent que leur clé LLM Gateway. Les identifiants des fournisseurs restent sur la passerelle, chiffrés au repos.

Vos SDK, sans réécriture

Appelez la passerelle dans le format natif d'OpenAI, d'Anthropic, de Gemini ou de Mistral, ou via l'API compatible Ollama.

Chaque requête tracée

Latence, tokens, statut et pays d'origine : journaux et métriques sont consultables par application.

Utilisateurs et rôles

Invitez votre équipe par e-mail et attribuez des rôles aux permissions précises.

Quotas et limites de débit

Un quota mensuel de requêtes par organisation et une limitation de débit intégrée.

Multi-organisation

Chaque organisation dispose de son fournisseur, de ses applications et de ses données, isolés des autres.

Fonctionnement

En service en trois étapes.

  1. 1

    Configurez votre fournisseur

    Choisissez le fournisseur et renseignez ses identifiants dans la console. Un test de connexion valide la configuration.

  2. 2

    Créez une application

    Chaque application reçoit sa propre clé LLM Gateway, régénérable à tout moment.

  3. 3

    Pointez votre SDK vers la passerelle

    Remplacez l'URL de base et la clé par celles de la passerelle. Le reste de votre code ne change pas.

Exemple d'appel

curl https://<gateway>/v1/chat/completions \
  -H "Authorization: Bearer <CLE_APP>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [{"role": "user", "content": "Bonjour"}]
  }'

Centralisez vos accès LLM.

Une clé par application, un fournisseur par organisation, chaque requête tracée.