Entendendo o controle de frequência de chamadas
O controle de frequência de chamadas define a quantidade de solicitações de API que podem ser feitas em um período específico e ajuda a otimizar o uso da API.- Evita abuso e uso indevido da API
- Garante uma alocação justa de recursos
- Mantém o desempenho e a confiabilidade da API
- Protege a estabilidade do serviço
Controle de frequência de chamadas padrão
Cada conta tem limites de taxa padrão ao chamar modelos, medidos em RPM (número de solicitações por modelo por minuto) e TPM (número de tokens por modelo por minuto). Os limites de taxa variam conforme o nível da conta; consulte a tabela abaixo para os critérios específicos.| Nível de quota | Critérios (unidade: dólar americano) |
|---|---|
| T1 | Nos últimos 3 meses-calendário, maior valor total de recarga em um único mês< $50 |
| T2 | $50 ≤ Nos últimos 3 meses-calendário, maior valor total de recarga em um único mês< $500 |
| T3 | $500 ≤ Nos últimos 3 meses-calendário, maior valor total de recarga em um único mês< $3000 |
| T4 | $3000 ≤ Nos últimos 3 meses-calendário, maior valor total de recarga em um único mês< $10000 |
| T5 | $10000 ≤ Nos últimos 3 meses-calendário, maior valor total de recarga em um único mês |
Como evitar acionar o controle de frequência de chamadas
Se a quantidade de solicitações de API exceder o controle de frequência de chamadas, a API retornará:- Código de status HTTP: 429 (solicitações em excesso).
- Informações sobre a frequência de chamadas excedida no corpo da resposta.
- Implemente limitação de solicitações na sua aplicação.
- Use um mecanismo de backoff exponencial ao tentar novamente.
- Monitore o uso da sua API.
Tratamento de erros 429
Se você receber um erro 429, tente as seguintes ações:- Tente novamente mais tarde: aguarde um período antes de tentar novamente sua solicitação.
- Otimize as solicitações: reduza a frequência das solicitações.
- Aumente o controle de frequência de chamadas: se precisar de um controle de frequência de chamadas mais alto, entre em contato conosco.