Limites et erreurs

Ce que l’API refuse, pourquoi, et ce que votre code doit faire de chaque réponse.

Sur cette page

Les limites
Les erreurs
Réessayer proprement

Les limites

Limite	Valeur	Au-delà
Requêtes	300 par minute et par clé	429, avec l’attente dans retry-after
Requêtes simultanées	Selon votre offre	429, nouvelle tentative après 5 secondes
Jetons par jour, semaine ou mois	Selon votre offre	429, sans retry-after
Taille d’une requête	50 Mo	Refusée

Les erreurs

Code	Cause	Que faire
`400`	Requête mal formée ou modèle inconnu. Le message nomme le champ en cause.	Corriger la requête
`401`	Clé absente, inconnue, révoquée ou expirée	Vérifier la clé, sans réessayer en boucle
`403`	Modèle ou fonction absent de votre offre	Changer de modèle ou d’offre
`429`	Trop de requêtes, ou plafond de jetons atteint	Attendre retry-after s’il est présent, sinon s’arrêter
`502`	Le modèle n’a pas répondu correctement	Réessayer un peu plus tard
`503`	Service momentanément indisponible	Réessayer un peu plus tard

Le corps d’une erreur porte toujours un message lisible :

json

{
  "error": {
    "message": "model \"max\" is not part of this plan",
    "type": "router_error"
  }
}

Réessayer proprement

Réessayez seulement quand l’API vous dit combien attendre. Un plafond de jetons atteint ne se règle pas en insistant.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.learnya.ai/v1",
    api_key=os.environ["LEARNYA_API_KEY"],
    max_retries=0,
)


def complete(**request):
    for attempt in range(5):
        try:
            return client.chat.completions.create(**request)
        except RateLimitError as error:
            # The gateway says how long to wait.
            # A spent token budget says nothing: stop there.
            wait = error.response.headers.get("retry-after")
            if wait is None:
                raise
            time.sleep(int(wait) + attempt)
    raise RuntimeError("still limited after five attempts")

import OpenAI, { RateLimitError } from "openai"

const client = new OpenAI({
  baseURL: "https://api.learnya.ai/v1",
  apiKey: process.env.LEARNYA_API_KEY,
  maxRetries: 0,
})

async function complete(request) {
  for (let attempt = 0; attempt < 5; attempt++) {
    try {
      return await client.chat.completions.create(request)
    } catch (error) {
      // The gateway says how long to wait.
      // A spent token budget says nothing: stop there.
      const wait =
        error instanceof RateLimitError
          ? error.headers?.get("retry-after")
          : null
      if (!wait) throw error
      await new Promise((done) =>
        setTimeout(done, (Number(wait) + attempt) * 1000),
      )
    }
  }
  throw new Error("still limited after five attempts")
}

import OpenAI, { RateLimitError } from "openai"
import type {
  ChatCompletion,
  ChatCompletionCreateParamsNonStreaming,
} from "openai/resources"

const client = new OpenAI({
  baseURL: "https://api.learnya.ai/v1",
  apiKey: process.env.LEARNYA_API_KEY,
  maxRetries: 0,
})

async function complete(
  request: ChatCompletionCreateParamsNonStreaming,
): Promise<ChatCompletion> {
  for (let attempt = 0; attempt < 5; attempt++) {
    try {
      return await client.chat.completions.create(request)
    } catch (error) {
      // The gateway says how long to wait.
      // A spent token budget says nothing: stop there.
      const wait =
        error instanceof RateLimitError
          ? error.headers?.get("retry-after")
          : null
      if (!wait) throw error
      await new Promise((done) =>
        setTimeout(done, (Number(wait) + attempt) * 1000),
      )
    }
  }
  throw new Error("still limited after five attempts")
}