Skip to main content
POST
Dialoganfrage erstellen
Generiert anhand des angegebenen prompt und der Parameter eine Modellantwort

Anfrageheader

string
erforderlich
Enumerationswert: application/json
string
erforderlich
Bearer-Authentifizierungsformat: Bearer {{API Key}}.

Anfragetext

string
erforderlich
Der entsprechende Modellname. Verfügbare Modellnamen finden Sie in der Modellbibliothek von JieKou AI.
string
erforderlich
Der Prompt zum Generieren des Dialogs (der Prompt kann eine Zeichenfolge, ein Array von Zeichenfolgen, ein Array von Tokens oder ein Array von Token-Arrays sein).
integer
Die maximale Anzahl an Tokens, die beim Generieren des Dialogs erzeugt werden kann.
Die Anzahl der Tokens des prompt plus max_tokens darf die Kontextlänge des Modells nicht überschreiten.
boolean | null
Gibt an, ob Streaming verwendet werden soll. Standardmäßig false. Wenn gesetzt, werden Tokens als data-only Server-Sent Events (SSE) gesendet, und der Stream wird mit einer data: [DONE]-Nachricht beendet.
object
Optionen für Streaming-Antworten. Nur setzen, wenn stream auf true gesetzt ist.
integer | null
Wie viele Dialoge pro Prompt generiert werden. Der Standardwert ist 1.

Hinweis: Da dieser Parameter mehrere Dialoge generiert, kann Ihr Token-Abrechnungskontingent schnell verbraucht werden. Verwenden Sie ihn mit Vorsicht und stellen Sie sicher, dass für max_tokens und stop sinnvolle Werte festgelegt sind.
Erforderlicher Bereich: 1 < x < 128
integer | null
Wenn angegeben, bemüht sich unser System nach bestem Wissen um deterministisches Sampling, sodass wiederholte Anfragen mit demselben seed und denselben Parametern dieselben Ergebnisse zurückgeben sollten.
number | null
Der Standardwert ist 0. Positive Werte bestrafen neue Tokens basierend darauf, wie häufig sie bereits im aktuellen Text vorkommen, wodurch die Wahrscheinlichkeit verringert wird, dass das Modell denselben Inhalt wiederholt.

Wenn das Ziel lediglich darin besteht, wiederholte Samples zu reduzieren, liegen sinnvolle Werte ungefähr zwischen 0.1 und 1. Wenn Wiederholungen stark unterdrückt werden sollen, kann der Koeffizient auf 2 erhöht werden, dies kann jedoch die Sample-Qualität deutlich verringern. Negative Werte können verwendet werden, um die Wahrscheinlichkeit von Wiederholungen zu erhöhen.

Siehe auch presence_penalty, um Tokens, die mindestens einmal vorkommen, mit einer festen Rate zu bestrafen
Erforderlicher Bereich: -2 < x < 2
number | null
Der Standardwert ist 0. Positive Werte bestrafen neue Tokens basierend darauf, ob sie bereits im aktuellen Text vorkommen, wodurch die Wahrscheinlichkeit erhöht wird, dass das Modell über neue Themen spricht.

Wenn das Ziel darin besteht, wiederholte Samples leicht zu reduzieren, liegen sinnvolle Werte ungefähr zwischen 0.1 und 1. Wenn Wiederholungen stark unterdrückt werden sollen, kann der Koeffizient auf 2 erhöht werden, dies kann jedoch die Sample-Qualität erheblich verringern. Negative Werte können verwendet werden, um die Wahrscheinlichkeit von Wiederholungen zu erhöhen.

Siehe auch frequency_penalty, um Tokens basierend auf ihrer Häufigkeit mit einer steigenden Rate zu bestrafen
Erforderlicher Bereich: -2 < x < 2
number | null
Wendet eine Strafe auf wiederholte Tokens an, um Wiederholungen zu unterdrücken oder zu fördern. Ein Wert von 1.0 bedeutet keine Strafe und erlaubt freie Wiederholung. Werte größer als 1.0 bestrafen Wiederholungen und verringern die Wahrscheinlichkeit wiederholter Tokens. Werte zwischen 0.0 und 1.0 belohnen Wiederholungen und erhöhen die Chance auf wiederholte Tokens. Für ein gutes Gleichgewicht wird in der Regel 1.2 empfohlen. Beachten Sie, dass bei Decoder-only-Modellen die Strafe sowohl auf die generierte Ausgabe als auch auf den Prompt angewendet wird.
Erforderlicher Bereich: 0 < x < 2
string | null
Bis zu 4 Sequenzen, bei denen die API die Generierung weiterer Tokens stoppt. Der zurückgegebene Text enthält die Stoppsequenz.
number | null
Der Grad der Zufälligkeit im Dialog, Standardwert 1, zwischen 0 und 2. Höhere Werte (z. B. 0.8) machen die Ausgabe zufälliger, während niedrigere Werte (z. B. 0.2) die Ausgabe fokussierter und deterministischer machen.

Wir empfehlen in der Regel, nur diesen Wert oder top_p anzupassen, nicht beide gleichzeitig.
Erforderlicher Bereich: 0 < x < 2
number | null
Eine Alternative zu temperature, auch Nucleus Sampling genannt. Das Modell berücksichtigt die Ergebnisse der Tokens mit einer Wahrscheinlichkeitsmasse von top_p. Daher bedeutet 0.1, dass nur die Tokens berücksichtigt werden, die die obersten 10% der Wahrscheinlichkeitsmasse bilden. Wir empfehlen in der Regel, nur diesen Wert oder temperature anzupassen, nicht beide gleichzeitig.
Erforderlicher Bereich: 0 < x ≤ 1
integer | null
Top-k-Sampling ist eine weitere Sampling-Methode, bei der die k wahrscheinlichsten nächsten Tokens herausgefiltert werden und die Wahrscheinlichkeitsmasse nur zwischen diesen k Tokens neu verteilt wird. Der Wert von k steuert die Anzahl der Kandidaten für die nächsten Tokens bei jedem Schritt der Textgenerierung.
Erforderlicher Bereich: 1 < x < 128
number | null
Ein Gleitkommawert, der die minimale Wahrscheinlichkeit angibt, mit der ein Token berücksichtigt wird, relativ zur Wahrscheinlichkeit des wahrscheinlichsten Tokens.
Erforderlicher Bereich: 0 ≤ x ≤ 1
map[string, integer]
Standardmäßig null. Ändert die Wahrscheinlichkeit, dass bestimmte Tokens im Dialog erscheinen. Akzeptiert ein JSON-Objekt, das Tokens einem zugehörigen Bias-Wert von -100 bis 100 zuordnet.
integer | null
Gibt die logarithmischen Wahrscheinlichkeiten der wahrscheinlichsten logprobs Ausgabetokens zurück und schließt dabei die Wahrscheinlichkeit des ausgewählten Tokens ein. Wenn logprobs beispielsweise auf 5 gesetzt ist, gibt die API bei jedem Generierungsschritt eine Liste der logarithmischen Wahrscheinlichkeiten der 5 wahrscheinlichsten Tokens zurück.
Der maximale Wert für logprobs beträgt 5.
integer
Standardmäßig 1. Generiert best_of Dialoge und verarbeitet sie serverseitig; zurückgegeben wird der „beste“ (d. h. derjenige mit der höchsten logarithmischen Wahrscheinlichkeit pro Token). Ergebnisse können nicht gestreamt werden.

Bei Verwendung zusammen mit n steuert best_of die Anzahl der Kandidatendialoge, und n gibt an, wie viele Dialoge zurückgegeben werden. best_of muss größer als n sein.

Hinweis: Da dieser Parameter mehrere Dialoge generiert, kann Ihr Token-Abrechnungskontingent schnell verbraucht werden. Verwenden Sie ihn mit Vorsicht und stellen Sie sicher, dass für max_tokens und stop sinnvolle Werte festgelegt sind.

Antwortinformationen

object[]
erforderlich
Liste der generierten Dialogauswahlen.
integer
erforderlich
Der Unix-Zeitstempel (in Sekunden), zu dem die Antwort generiert wurde.
string
erforderlich
Die eindeutige Kennung der Antwort.
string
erforderlich
Das für den Dialog verwendete Modell.
string
erforderlich
Objekttyp, immer text_completion.
object
erforderlich
Nutzungsstatistik.
Bei Streaming-Antworten ist das usage-Feld im letzten zurückgegebenen Antwortblock enthalten.