> ## Documentation Index
> Fetch the complete documentation index at: https://docs.jiekou.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Dialoganfrage erstellen

Generiert anhand des angegebenen prompt und der Parameter eine Modellantwort

## Anfrageheader

<ParamField header="Content-Type" type="string" required={true}>
  Enumerationswert: `application/json`
</ParamField>

<ParamField header="Authorization" type="string" required={true}>
  Bearer-Authentifizierungsformat: Bearer \{\{API Key}}.
</ParamField>

## Anfragetext

<ParamField body="model" type="string" required={true}>
  Der entsprechende Modellname. Verfügbare Modellnamen finden Sie in der Modellbibliothek von [JieKou AI](https://jiekou.ai/#model-library).
</ParamField>

<ParamField body="prompt" type="string" required={true}>
  Der Prompt zum Generieren des Dialogs (der Prompt kann eine Zeichenfolge, ein Array von Zeichenfolgen, ein Array von Tokens oder ein Array von Token-Arrays sein).
</ParamField>

<ParamField body="max_tokens" type="integer" required={false}>
  Die maximale Anzahl an Tokens, die beim Generieren des Dialogs erzeugt werden kann.<br />Die Anzahl der Tokens des prompt plus max\_tokens darf die Kontextlänge des Modells nicht überschreiten.
</ParamField>

<ParamField body="stream" type="boolean | null">
  Gibt an, ob Streaming verwendet werden soll. Standardmäßig false. Wenn gesetzt, werden Tokens als data-only Server-Sent Events (SSE) gesendet, und der Stream wird mit einer data: \[DONE]-Nachricht beendet.
</ParamField>

<ParamField body="stream_options" type="object">
  Optionen für Streaming-Antworten. Nur setzen, wenn stream auf true gesetzt ist.

  <Expandable title="Eigenschaften" defaultOpen={false}>
    <ParamField body="include_usage" type="boolean" required={false}>
      Wenn gesetzt, wird vor der data: \[DONE]-Nachricht ein zusätzlicher Chunk gestreamt. Das usage-Feld in diesem Chunk zeigt die Token-Nutzungsstatistiken für die gesamte Anfrage, während das choices-Feld immer ein leeres Array ist. Alle anderen Chunks enthalten ebenfalls ein usage-Feld, dessen Wert jedoch null ist.
    </ParamField>
  </Expandable>
</ParamField>

<ParamField body="n" type="integer | null">
  Wie viele Dialoge pro Prompt generiert werden. Der Standardwert ist 1.<br /><br />Hinweis: Da dieser Parameter mehrere Dialoge generiert, kann Ihr Token-Abrechnungskontingent schnell verbraucht werden. Verwenden Sie ihn mit Vorsicht und stellen Sie sicher, dass für max\_tokens und stop sinnvolle Werte festgelegt sind.<br />Erforderlicher Bereich: 1 \< x \< 128
</ParamField>

<ParamField body="seed" type="integer | null">
  Wenn angegeben, bemüht sich unser System nach bestem Wissen um deterministisches Sampling, sodass wiederholte Anfragen mit demselben seed und denselben Parametern dieselben Ergebnisse zurückgeben sollten.
</ParamField>

<ParamField body="frequency_penalty" type="number | null">
  Der Standardwert ist 0. Positive Werte bestrafen neue Tokens basierend darauf, wie häufig sie bereits im aktuellen Text vorkommen, wodurch die Wahrscheinlichkeit verringert wird, dass das Modell denselben Inhalt wiederholt.<br /><br />Wenn das Ziel lediglich darin besteht, wiederholte Samples zu reduzieren, liegen sinnvolle Werte ungefähr zwischen 0.1 und 1. Wenn Wiederholungen stark unterdrückt werden sollen, kann der Koeffizient auf 2 erhöht werden, dies kann jedoch die Sample-Qualität deutlich verringern. Negative Werte können verwendet werden, um die Wahrscheinlichkeit von Wiederholungen zu erhöhen.<br /><br />Siehe auch presence\_penalty, um Tokens, die mindestens einmal vorkommen, mit einer festen Rate zu bestrafen<br />Erforderlicher Bereich: -2 \< x \< 2
</ParamField>

<ParamField body="presence_penalty" type="number | null">
  Der Standardwert ist 0. Positive Werte bestrafen neue Tokens basierend darauf, ob sie bereits im aktuellen Text vorkommen, wodurch die Wahrscheinlichkeit erhöht wird, dass das Modell über neue Themen spricht.<br /><br />Wenn das Ziel darin besteht, wiederholte Samples leicht zu reduzieren, liegen sinnvolle Werte ungefähr zwischen 0.1 und 1. Wenn Wiederholungen stark unterdrückt werden sollen, kann der Koeffizient auf 2 erhöht werden, dies kann jedoch die Sample-Qualität erheblich verringern. Negative Werte können verwendet werden, um die Wahrscheinlichkeit von Wiederholungen zu erhöhen.<br /><br />Siehe auch frequency\_penalty, um Tokens basierend auf ihrer Häufigkeit mit einer steigenden Rate zu bestrafen<br />Erforderlicher Bereich: -2 \< x \< 2
</ParamField>

<ParamField body="repetition_penalty" type="number | null">
  Wendet eine Strafe auf wiederholte Tokens an, um Wiederholungen zu unterdrücken oder zu fördern. Ein Wert von 1.0 bedeutet keine Strafe und erlaubt freie Wiederholung. Werte größer als 1.0 bestrafen Wiederholungen und verringern die Wahrscheinlichkeit wiederholter Tokens. Werte zwischen 0.0 und 1.0 belohnen Wiederholungen und erhöhen die Chance auf wiederholte Tokens. Für ein gutes Gleichgewicht wird in der Regel 1.2 empfohlen. Beachten Sie, dass bei Decoder-only-Modellen die Strafe sowohl auf die generierte Ausgabe als auch auf den Prompt angewendet wird.<br />Erforderlicher Bereich: 0 \< x \< 2
</ParamField>

<ParamField body="stop" type="string | null">
  Bis zu 4 Sequenzen, bei denen die API die Generierung weiterer Tokens stoppt. Der zurückgegebene Text enthält die Stoppsequenz.
</ParamField>

<ParamField body="temperature" type="number | null">
  Der Grad der Zufälligkeit im Dialog, Standardwert 1, zwischen 0 und 2. Höhere Werte (z. B. 0.8) machen die Ausgabe zufälliger, während niedrigere Werte (z. B. 0.2) die Ausgabe fokussierter und deterministischer machen.<br /><br />Wir empfehlen in der Regel, nur diesen Wert oder top\_p anzupassen, nicht beide gleichzeitig.<br />Erforderlicher Bereich: 0 \< x \< 2
</ParamField>

<ParamField body="top_p" type="number | null">
  Eine Alternative zu temperature, auch Nucleus Sampling genannt. Das Modell berücksichtigt die Ergebnisse der Tokens mit einer Wahrscheinlichkeitsmasse von top\_p. Daher bedeutet 0.1, dass nur die Tokens berücksichtigt werden, die die obersten 10% der Wahrscheinlichkeitsmasse bilden. Wir empfehlen in der Regel, nur diesen Wert oder temperature anzupassen, nicht beide gleichzeitig.<br />Erforderlicher Bereich: 0 \< x ≤ 1
</ParamField>

<ParamField body="top_k" type="integer | null">
  Top-k-Sampling ist eine weitere Sampling-Methode, bei der die k wahrscheinlichsten nächsten Tokens herausgefiltert werden und die Wahrscheinlichkeitsmasse nur zwischen diesen k Tokens neu verteilt wird. Der Wert von k steuert die Anzahl der Kandidaten für die nächsten Tokens bei jedem Schritt der Textgenerierung.<br />Erforderlicher Bereich: 1 \< x \< 128
</ParamField>

<ParamField body="min_p" type="number | null">
  Ein Gleitkommawert, der die minimale Wahrscheinlichkeit angibt, mit der ein Token berücksichtigt wird, relativ zur Wahrscheinlichkeit des wahrscheinlichsten Tokens.<br />Erforderlicher Bereich: 0 ≤ x ≤ 1
</ParamField>

<ParamField body="logit_bias" type="map[string, integer]">
  Standardmäßig null. Ändert die Wahrscheinlichkeit, dass bestimmte Tokens im Dialog erscheinen. Akzeptiert ein JSON-Objekt, das Tokens einem zugehörigen Bias-Wert von -100 bis 100 zuordnet.
</ParamField>

<ParamField body="logprobs" type="integer | null">
  Gibt die logarithmischen Wahrscheinlichkeiten der wahrscheinlichsten logprobs Ausgabetokens zurück und schließt dabei die Wahrscheinlichkeit des ausgewählten Tokens ein. Wenn logprobs beispielsweise auf 5 gesetzt ist, gibt die API bei jedem Generierungsschritt eine Liste der logarithmischen Wahrscheinlichkeiten der 5 wahrscheinlichsten Tokens zurück.<br />Der maximale Wert für logprobs beträgt 5.
</ParamField>

<ParamField body="best_of" type="integer">
  Standardmäßig 1. Generiert best\_of Dialoge und verarbeitet sie serverseitig; zurückgegeben wird der „beste“ (d. h. derjenige mit der höchsten logarithmischen Wahrscheinlichkeit pro Token). Ergebnisse können nicht gestreamt werden.<br /><br />Bei Verwendung zusammen mit n steuert best\_of die Anzahl der Kandidatendialoge, und n gibt an, wie viele Dialoge zurückgegeben werden. best\_of muss größer als n sein.<br /><br />Hinweis: Da dieser Parameter mehrere Dialoge generiert, kann Ihr Token-Abrechnungskontingent schnell verbraucht werden. Verwenden Sie ihn mit Vorsicht und stellen Sie sicher, dass für max\_tokens und stop sinnvolle Werte festgelegt sind.
</ParamField>

## Antwortinformationen

<ResponseField name="choices" type="object[]" required={true}>
  Liste der generierten Dialogauswahlen.

  <Expandable title="Eigenschaften" defaultOpen={true}>
    <ResponseField name="finish_reason" type="string" required={true}>
      Der Grund, warum das Modell die Generierung von Tokens beendet hat. Wenn das Modell einen natürlichen Stoppunkt oder die bereitgestellte Stoppsequenz erreicht, ist der Wert ‘stop’; wenn die in der Anfrage angegebene maximale Anzahl an Tokens erreicht wurde, ist der Wert ‘length’. Enumerationswerte: `stop,length`.
    </ResponseField>

    <ResponseField name="index" type="integer" required={true}>
      Der Index der Dialogauswahl.
    </ResponseField>

    <ResponseField name="logprobs" type="object" required={true}>
      Die logarithmischen Wahrscheinlichkeiten der wahrscheinlichsten Tokens.

      <Expandable title="Eigenschaften" defaultOpen={true}>
        <ResponseField name="text_offset" type="integer[]">
          Integer-Array der Text-Offsets.
        </ResponseField>

        <ResponseField name="token_logprobs" type="number[]">
          Zahlenarray der Token-Log-Wahrscheinlichkeiten.
        </ResponseField>

        <ResponseField name="tokens" type="string[]">
          Zeichenfolgenarray der Tokens.
        </ResponseField>

        <ResponseField name="top_logprobs" type="object[]">
          Array von Objekten, die die top logarithmischen Wahrscheinlichkeiten enthalten.

          <Expandable title="Eigenschaften">
            <ResponseField name="{key}" type="integer" required={true}>
              Der Log-Wahrscheinlichkeitswert für den gegebenen Schlüssel.
            </ResponseField>
          </Expandable>
        </ResponseField>
      </Expandable>
    </ResponseField>

    <ResponseField name="text" type="string" required={true}>
      Der vom Dialog zurückgegebene Inhalt.
    </ResponseField>
  </Expandable>
</ResponseField>

<ResponseField name="created" type="integer" required={true}>
  Der Unix-Zeitstempel (in Sekunden), zu dem die Antwort generiert wurde.
</ResponseField>

<ResponseField name="id" type="string" required={true}>
  Die eindeutige Kennung der Antwort.
</ResponseField>

<ResponseField name="model" type="string" required={true}>
  Das für den Dialog verwendete Modell.
</ResponseField>

<ResponseField name="object" type="string" required={true}>
  Objekttyp, immer text\_completion.
</ResponseField>

<ResponseField name="usage" type="object" required={true}>
  Nutzungsstatistik.<br />Bei Streaming-Antworten ist das usage-Feld im letzten zurückgegebenen Antwortblock enthalten.

  <Expandable title="Eigenschaften" defaultOpen={true}>
    <ResponseField name="completion_tokens" type="integer" required={true}>
      Die Anzahl der durch den Dialog generierten Tokens.
    </ResponseField>

    <ResponseField name="prompt_tokens" type="integer" required={true}>
      Die Anzahl der Tokens im prompt.
    </ResponseField>

    <ResponseField name="total_tokens" type="integer" required={true}>
      Die Gesamtanzahl der in der Anfrage verwendeten Tokens (prompt + completion).
    </ResponseField>
  </Expandable>
</ResponseField>