対話リクエストを作成
大規模言語モデル
対話リクエストを作成
POST
対話リクエストを作成
指定された prompt とパラメータに基づいてモデルの応答を生成します
リクエストヘッダー
string
必須
列挙値:
application/jsonstring
必須
Bearer 認証形式: Bearer {{API Key}}。
リクエストボディ
string
必須
対話を生成するためのプロンプト（プロンプトは文字列、文字列配列、tokens 配列、または tokens 配列の配列にできます）。
integer
対話生成時に生成できる最大 tokens 数。
prompt の tokens 数と max_tokens の合計は、モデルのコンテキスト長を超えることはできません。
prompt の tokens 数と max_tokens の合計は、モデルのコンテキスト長を超えることはできません。
boolean | null
ストリーミングを使用するかどうか。デフォルトは false です。設定すると、tokens は data-only server-sent events（SSE）として送信され、data: [DONE] メッセージでストリームを終了します。
object
ストリーミング応答オプション。stream が true に設定されている場合のみ設定します。
integer | null
各プロンプトに対して生成する対話の数。デフォルト値は 1 です。
注意: このパラメータは複数の対話を生成するため、tokens の課金枠を急速に消費する可能性があります。慎重に使用し、max_tokens と stop に適切な値が設定されていることを確認してください。
必要な範囲: 1 < x < 128
注意: このパラメータは複数の対話を生成するため、tokens の課金枠を急速に消費する可能性があります。慎重に使用し、max_tokens と stop に適切な値が設定されていることを確認してください。
必要な範囲: 1 < x < 128
integer | null
指定した場合、同じ seed とパラメータでの繰り返しリクエストが同じ結果を返すよう、当社のシステムは可能な限り決定的サンプリングを行います。
number | null
デフォルト値は 0 です。正の値は、新しい tokens が現在のテキスト内に出現した頻度に基づいてペナルティを与え、モデルが同じ内容を繰り返す可能性を下げます。
単に繰り返しサンプルを減らすことが目的であれば、妥当な値はおおよそ 0.1 から 1 の範囲です。繰り返しを強く抑制することが目的であれば、係数を 2 まで上げることもできますが、サンプル品質が明らかに低下する可能性があります。負の値は繰り返しの可能性を高めるために使用できます。
少なくとも 1 回出現した tokens を固定レートでペナルティする presence_penalty も参照してください
必要な範囲: -2 < x < 2
単に繰り返しサンプルを減らすことが目的であれば、妥当な値はおおよそ 0.1 から 1 の範囲です。繰り返しを強く抑制することが目的であれば、係数を 2 まで上げることもできますが、サンプル品質が明らかに低下する可能性があります。負の値は繰り返しの可能性を高めるために使用できます。
少なくとも 1 回出現した tokens を固定レートでペナルティする presence_penalty も参照してください
必要な範囲: -2 < x < 2
number | null
デフォルト値は 0 です。正の値は、新しい tokens が現在のテキスト内に出現しているかどうかに基づいてペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。
繰り返しサンプルを少し減らすことが目的であれば、妥当な値はおおよそ 0.1 から 1 の範囲です。繰り返しを強く抑制することが目的であれば、係数を 2 まで上げることもできますが、サンプル品質が大幅に低下する可能性があります。負の値は繰り返しの可能性を高めるために使用できます。
tokens の出現頻度に応じて増加するレートでペナルティを与える frequency_penalty も参照してください
必要な範囲: -2 < x < 2
繰り返しサンプルを少し減らすことが目的であれば、妥当な値はおおよそ 0.1 から 1 の範囲です。繰り返しを強く抑制することが目的であれば、係数を 2 まで上げることもできますが、サンプル品質が大幅に低下する可能性があります。負の値は繰り返しの可能性を高めるために使用できます。
tokens の出現頻度に応じて増加するレートでペナルティを与える frequency_penalty も参照してください
必要な範囲: -2 < x < 2
number | null
繰り返される tokens にペナルティを適用し、繰り返しを抑制または促進します。値 1.0 はペナルティなしを意味し、自由な繰り返しを許可します。1.0 より大きい値は繰り返しにペナルティを与え、繰り返し tokens の可能性を下げます。0.0 から 1.0 の間の値は繰り返しに報酬を与え、繰り返し tokens の機会を増やします。良好なバランスを得るためには、通常 1.2 の使用が推奨されます。デコーダーのみのモデルでは、ペナルティが生成された出力とプロンプトの両方に適用されることに注意してください。
必要な範囲: 0 < x < 2
必要な範囲: 0 < x < 2
string | null
最大 4 個のシーケンス。API はそれ以降の tokens の生成を停止します。返されるテキストには停止シーケンスが含まれます。
number | null
対話におけるランダム性の度合い。デフォルト値は 1 で、0 から 2 の間です。高い値（例: 0.8）は出力をよりランダムにし、低い値（例: 0.2）は出力をより集中させ、決定性を高めます。
通常、これと top_p の両方ではなく、どちらか一方のみを調整することを推奨します。
必要な範囲: 0 < x < 2
通常、これと top_p の両方ではなく、どちらか一方のみを調整することを推奨します。
必要な範囲: 0 < x < 2
number | null
temperature の代替手法で、nucleus sampling と呼ばれます。モデルは top_p の確率質量を持つ tokens の結果を考慮します。したがって、0.1 は上位 10% の確率質量を構成する tokens のみを考慮することを意味します。通常、これと temperature の両方ではなく、どちらか一方のみを調整することを推奨します。
必要な範囲: 0 < x ≤ 1
必要な範囲: 0 < x ≤ 1
integer | null
Top-k サンプリングは別のサンプリング手法で、この方法では k 個の最も可能性の高い次の tokens が選別され、確率質量はこの k 個の tokens の間でのみ再分配されます。k の値は、テキスト生成の各ステップで次の tokens の候補数を制御します。
必要な範囲: 1 < x < 128
必要な範囲: 1 < x < 128
number | null
ある tokens が考慮される最小確率を表す浮動小数点値で、最も可能性の高い tokens の確率に対する相対値です。
必要な範囲: 0 ≤ x ≤ 1
必要な範囲: 0 ≤ x ≤ 1
map[string, integer]
デフォルトは null です。指定した tokens が対話に出現する可能性を変更します。tokens を -100 から 100 までの関連バイアス値にマッピングする JSON オブジェクトを受け付けます。
integer | null
最も可能性の高い logprobs 個の出力 token の対数確率を返し、選択された token の確率も含みます。たとえば、logprobs を 5 に設定すると、API は各生成ステップで上位 5 個の最も可能性の高い token の対数確率リストを返します。
logprobs の最大値は 5 です。
logprobs の最大値は 5 です。
integer
デフォルトは 1 です。best_of 個の対話を生成してサーバー側で処理し、「最良」（つまり、各 tokens の対数確率が最も高いもの）を返します。結果はストリーミングできません。
n と一緒に使用する場合、best_of は候補対話の数を制御し、n は返す対話の数を指定します。best_of は n より大きくなければなりません。
注意: このパラメータは複数の対話を生成するため、tokens の課金枠を急速に消費する可能性があります。慎重に使用し、max_tokens と stop に適切な値が設定されていることを確認してください。
n と一緒に使用する場合、best_of は候補対話の数を制御し、n は返す対話の数を指定します。best_of は n より大きくなければなりません。
注意: このパラメータは複数の対話を生成するため、tokens の課金枠を急速に消費する可能性があります。慎重に使用し、max_tokens と stop に適切な値が設定されていることを確認してください。
レスポンス情報
object[]
必須
生成された対話の選択肢リスト。
integer
必須
レスポンスが生成された Unix タイムスタンプ（秒単位）。
string
必須
レスポンスの一意の識別子。
string
必須
対話に使用されたモデル。
string
必須
オブジェクトタイプ。常に text_completion です。
object
必須
使用統計。
ストリーミング応答の場合、usage フィールドは返される最後の応答ブロックに含まれます。
ストリーミング応答の場合、usage フィールドは返される最後の応答ブロックに含まれます。