Comprendre la limitation du débit d’appels
La limitation du débit d’appels définit le nombre de requêtes API pouvant être envoyées pendant une période donnée, ce qui permet d’optimiser l’utilisation de l’API.- Empêcher l’abus et la mauvaise utilisation de l’API
- Garantir une répartition équitable des ressources
- Maintenir les performances et la fiabilité de l’API
- Protéger la stabilité du service
Limitation du débit d’appels par défaut
Chaque compte dispose de limites de débit par défaut lors de l’appel des modèles. Elles sont mesurées en RPM (nombre de requêtes par modèle et par minute) et en TPM (nombre de tokens par modèle et par minute). Les limites de débit varient selon le niveau du compte ; les critères détaillés sont indiqués dans le tableau ci-dessous.| Niveau de quota | Éligibilité (unité : dollars américains) |
|---|---|
| T1 | Montant total de recharge mensuel le plus élevé au cours des 3 derniers mois calendaires < $50 |
| T2 | $50 ≤ Montant total de recharge mensuel le plus élevé au cours des 3 derniers mois calendaires < $500 |
| T3 | $500 ≤ Montant total de recharge mensuel le plus élevé au cours des 3 derniers mois calendaires < $3000 |
| T4 | $3000 ≤ Montant total de recharge mensuel le plus élevé au cours des 3 derniers mois calendaires < $10000 |
| T5 | $10000 ≤ Montant total de recharge mensuel le plus élevé au cours des 3 derniers mois calendaires |
Éviter de déclencher la limitation du débit d’appels
Si le nombre de vos requêtes API dépasse la limite de débit, l’API renverra :- Code d’état HTTP : 429 (trop de requêtes).
- Le corps de la réponse contiendra des informations indiquant que la limite de débit a été dépassée.
- Implémenter une limitation des requêtes dans votre application.
- Utiliser un mécanisme de backoff exponentiel lors des nouvelles tentatives.
- Surveiller votre utilisation de l’API.
Gérer les erreurs 429
Si vous recevez une erreur 429, vous pouvez essayer les actions suivantes :- Réessayer plus tard : attendez un certain temps avant de réessayer votre requête.
- Optimiser les requêtes : réduisez la fréquence des requêtes.
- Augmenter la limite de débit d’appels : si vous avez besoin d’une limite de débit plus élevée, vous pouvez nous contacter.