> ## Documentation Index
> Fetch the complete documentation index at: https://docs.jiekou.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Aufruffrequenzsteuerung (Rate Limits)

export const DynamicRPMList = () => {
  if (typeof document === "undefined") {
    return null;
  } else {
    let attempts = 0;
    const maxAttempts = 50;
    const formatAmount = num => {
      if (typeof num === "number") {
        return num.toLocaleString();
      }
      return num || "-";
    };
    const interval = setInterval(() => {
      const clientComponent = document.getElementById("dynamic-rpm-list");
      if (clientComponent && window.jiekouRemoteData.llmModels.status === 'loaded') {
        const modelList = window.jiekouRemoteData.llmModels.data.filter(model => {
          return Boolean(model.rpm);
        });
        const allModels = modelList.map(model => {
          const t1 = (model.quota_items || []).find(item => item.tier === "T1") || ({});
          const t2 = (model.quota_items || []).find(item => item.tier === "T2") || ({});
          const t3 = (model.quota_items || []).find(item => item.tier === "T3") || ({});
          const t4 = (model.quota_items || []).find(item => item.tier === "T4") || ({});
          const t5 = (model.quota_items || []).find(item => item.tier === "T5") || ({});
          return `
            <tr>
              <td rowspan="2" style="vertical-align: middle; max-width: 230px">${model.id}</td>
              <td>RPM</td>
              <td>${formatAmount(t1.rpm)}</td>
              <td>${formatAmount(t2.rpm)}</td>
              <td>${formatAmount(t3.rpm)}</td>
              <td>${formatAmount(t4.rpm)}</td>
              <td>${formatAmount(t5.rpm)}</td>
            </tr>
            <tr>
              <td>TPM</td>
              <td>${formatAmount(t1.tpm)}</td>
              <td>${formatAmount(t2.tpm)}</td>
              <td>${formatAmount(t3.tpm)}</td>
              <td>${formatAmount(t4.tpm)}</td>
              <td>${formatAmount(t5.tpm)}</td>
            </tr>
          `;
        }).join('');
        clientComponent.innerHTML = `
          <table class="table table-big">
            <thead>
              <tr>
                <th>模型</th>
                <th></th>
                <th>T1</th>
                <th>T2</th>
                <th>T3</th>
                <th>T4</th>
                <th>T5</th>
              </tr>
            </thead>
            <tbody>
              ${allModels}
            </tbody>
          </table>
        `;
        clearInterval(interval);
      }
      attempts++;
      if (attempts >= maxAttempts) {
        clearInterval(interval);
      }
    }, 200);
    return <div id="dynamic-rpm-list"></div>;
  }
};

## Aufruffrequenzsteuerung verstehen

Die Aufruffrequenzsteuerung legt fest, wie viele API-Anfragen innerhalb eines bestimmten Zeitraums gestellt werden können, und hilft dabei, die API-Nutzung zu optimieren.

* Verhindert Missbrauch und Fehlgebrauch der API
* Stellt eine faire Ressourcenverteilung sicher
* Erhält die Leistung und Zuverlässigkeit der API
* Schützt die Stabilität des Dienstes

## Standardmäßige Aufruffrequenzsteuerung

Für jedes Konto gelten beim Aufruf von Modellen standardmäßige Rate Limits, die jeweils in RPM (Anfragen pro Modell pro Minute) und TPM (Token pro Modell pro Minute) gemessen werden. Die Rate Limits unterscheiden sich je nach Kontostufe. Die genauen Kriterien finden Sie in der folgenden Tabelle.

<table class="table table-big">
  <thead>
    <tr>
      <th class="min-w-10">Quota-Stufe</th>
      <th>Qualifikation (Einheit: US-Dollar)</th>
    </tr>
  </thead>

  <tbody>
    <tr>
      <td>T1</td>
      <td>Höchster monatlicher Gesamtaufladebetrag in den letzten 3 Kalendermonaten \< \$50</td>
    </tr>

    <tr>
      <td>T2</td>
      <td>\$50 ≤ höchster monatlicher Gesamtaufladebetrag in den letzten 3 Kalendermonaten \< \$500</td>
    </tr>

    <tr>
      <td>T3</td>
      <td>\$500 ≤ höchster monatlicher Gesamtaufladebetrag in den letzten 3 Kalendermonaten \< \$3000</td>
    </tr>

    <tr>
      <td>T4</td>
      <td>\$3000 ≤ höchster monatlicher Gesamtaufladebetrag in den letzten 3 Kalendermonaten \< \$10000</td>
    </tr>

    <tr>
      <td>T5</td>
      <td>\$10000 ≤ höchster monatlicher Gesamtaufladebetrag in den letzten 3 Kalendermonaten</td>
    </tr>
  </tbody>
</table>

Standardmäßige Rate Limits der einzelnen Stufen (RPM / TPM):

<DynamicRPMList />

## Vermeiden, die Aufruffrequenzsteuerung auszulösen

Wenn die Anzahl Ihrer API-Anfragen die Aufruffrequenzsteuerung überschreitet, gibt die API Folgendes zurück:

* HTTP-Statuscode: 429 (Zu viele Anfragen).
* Im Antworttext werden Informationen zur überschrittenen Aufruffrequenz zurückgegeben.

Um zu vermeiden, die Aufruffrequenzsteuerung auszulösen, können Sie folgende Maßnahmen ergreifen:

* Implementieren Sie eine Anfragenbegrenzung in Ihrer Anwendung.
* Verwenden Sie beim Wiederholen von Anfragen einen exponentiellen Backoff-Mechanismus.
* Überwachen Sie Ihre API-Nutzung.

## Umgang mit 429-Fehlern

Wenn Sie einen 429-Fehler erhalten, können Sie Folgendes versuchen:

* **Später erneut versuchen**: Warten Sie eine Weile und versuchen Sie Ihre Anfrage dann erneut.
* **Anfrage optimieren**: Reduzieren Sie die Anfragefrequenz.
* **Aufruffrequenzsteuerung erhöhen**: Wenn Sie eine höhere Aufruffrequenzsteuerung benötigen, können Sie uns kontaktieren.