Skip to main content

Обзор возможностей

Модели рассуждений — это продвинутые языковые модели, оптимизированные для решения сложных задач и задач логического вывода. Они повышают точность решения задач за счет вывода подробных шагов рассуждения (цепочки рассуждений).

Типичные сценарии применения

  • Решение сложных задач: подходит для сценариев, где требуется пошаговый вывод и четкие логические этапы, например в математике и научных рассуждениях.
  • Системы поддержки принятия решений: предоставляют подробный процесс рассуждения для поддержки анализа решений и помогают понять логику, лежащую в основе решения.
  • Образование и обучение: помогают пользователям изучать и понимать сложные знания, предоставляя подробный процесс вывода.

Установка и подготовка

Перед использованием моделей рассуждений убедитесь, что установлена последняя версия OpenAI SDK:

Способ вызова API

Используйте модели рассуждений через вызов интерфейса /chat/completions.

Описание параметров запроса

  • max_tokens: задает максимальное количество token для вывода модели.
  • temperature: рекомендуется установить значение от 0.5 до 0.7 (рекомендуется 0.6), чтобы сбалансировать креативность и логичность вывода.
  • top_p: рекомендуется установить значение 0.95.

Пример кода запроса

Запрос с потоковым выводом

Запрос без потокового вывода

Управление контекстом

Содержимое рассуждений, возвращаемое моделью, не добавляется автоматически к следующему раунду диалога. Пользователю необходимо вручную управлять историей диалога:

Список поддерживаемых моделей

Способ тарификации

  • Тарификация выполняется на основе количества token во входных и выходных данных.
  • Конкретные тарифы и правила конвертации см. на странице сведений о модели.

Примечания и лучшие практики

  • Не добавляйте инструкции по рассуждению в сообщение system; следует напрямую указывать инструкции в сообщении user.
  • В математических задачах четко формулируйте требования, например: «Пожалуйста, рассуждай пошагово и явно укажи итоговый ответ».
  • Чтобы модель не пропускала этап рассуждения, рекомендуется принудительно добавлять символ перевода строки перед выводом.