Вызов инструментов (Function Calling)

Сценарии использования

Функция Function Calling позволяет модели взаимодействовать с внешними инструментами, получать информацию в реальном времени или выполнять определенные действия. Эта функция повышает точность данных и расширяет возможности модели: она становится не просто генератором текста, а может поддерживать более динамичные и практичные сценарии применения. Примеры сценариев использования Function Calling:

Запрос динамической информации: вызов API для получения динамических данных из внешних систем в реальном времени, таких как погода, новости, котировки акций и т. д. Например, при вызове погодного API для получения текущей погоды, когда пользователь спрашивает о погоде сейчас, модель может сообщить фактические погодные условия на текущий момент, а не предоставить устаревший прогноз.
Автоматизация операций с задачами: выполнение определенных действий через вызовы функций, позволяя пользователю запускать автоматизированные операции на стороне бэкенда через диалог. Например, вызов API сайта бронирования билетов для заказа билетов: когда пользователь спрашивает, как купить билет в определенную достопримечательность, модель не просто объясняет, как это сделать, а может помочь пользователю напрямую завершить покупку.

Поддерживаемые модели

Следующие модели поддерживают Function Calling:

Как использовать

Определите функции инструментов, которые должна вызывать модель.
Добавьте в запрос параметр tools, чтобы определить функции, которые должна использовать модель.

Пример использования

Ниже приведен полный пример кода на Python, демонстрирующий использование Function Calling на примере запроса текущей погоды в определенном месте. Подробный формат API для Function Calling см. в API запроса создания чат-диалога.

1. Инициализация клиента

Необходимо инициализировать клиент с помощью вашего API-ключа JieKou AI.

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.highwayapi.ai/openai",
    api_key="<Your API Key>",
)

model = "deepseek/deepseek-v3"

2. Определение функции для вызова

Определите функцию, которую должна вызывать модель. Следующий пример Python демонстрирует функцию получения информации о погоде.

# 示例函数，用于模拟获取天气数据。
def get_weather(location):
    """获取指定地点的当前天气"""
    print("调用 get_weather 函数，位置: ", location)
    # 在实际应用中，您需要在这里调用外部天气 API。
    # 这是一个简化示例，返回硬编码数据。
    return json.dumps({"位置": location, "温度": "20 摄氏度"})

3. Создание API-запроса с инструментами и сообщением пользователя

Создайте запрос для вызова API. Этот запрос включает параметр tools, который определяет функцию, используемую моделью, а также сообщение пользователя.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "获取一个地点的天气，用户需要首先提供地点",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "城市信息, 例如：上海",
                    }
                },
                "required": ["location"]
            },
        }
    },
]
messages = [
    {
        "role": "user",
        "content": "上海的天气怎么样？"
    }
]
# 发送请求并打印响应
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)
# 请在生产环境中检查响应是否包含工具调用
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

Вывод:

{'id': '0', 'function': {'arguments': '{"location": "上海"}', 'name': 'get_weather'}, 'type': 'function'}

4. Ответ на основе результата вызова функции и получение окончательного ответа

Далее обработайте вызов функции, выполните функцию get_weather и отправьте результат обратно модели, чтобы сгенерировать окончательный ответ для пользователя.

# 确保工具调用已从上一步定义
if tool_call:
    # 扩展对话历史记录，添加助手工具调用消息
    messages.append(response.choices[0].message)

    function_name = tool_call.function.name
    if function_name == "get_weather":
        function_args = json.loads(tool_call.function.arguments)
        # 执行函数并获取响应
        function_response = get_weather(
            location=function_args.get("location"))
        # 将函数响应添加到消息中
        messages.append(
            {
                "tool_call_id": tool_call.id,
                "role": "tool",
                "content": function_response,
            }
        )

    # 从模型获取最终响应，包含函数结果
    answer_response = client.chat.completions.create(
        model=model,
        messages=messages,
        # 注意：不要在此处包含 tools 参数
    )
    print(answer_response.choices[0].message)

Вывод:

ChatCompletionMessage(content="上海目前的温度是 20 摄氏度。请注意，天气情况可能会随时变化，建议您查看最新的天气预报以获取更准确的信息。", refusal=None, role='assistant', function_call=None, tool_calls=None)

Полный код

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.highwayapi.ai/openai",
    api_key="<Your API Key>",
)

model = "deepseek/deepseek-v3"

# 示例函数，用于模拟获取天气数据。
def get_weather(location):
    """获取指定地点的当前天气"""
    print("调用 get_weather 函数，位置: ", location)
    # 在实际应用中，您需要在这里调用外部天气 API。
    # 这是一个简化示例，返回硬编码数据。
    return json.dumps({"位置": location, "温度": "20 摄氏度"})

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "获取一个地点的天气，用户需要首先提供地点",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "城市信息, 例如：上海",
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [
    {
        "role": "user",
        "content": "上海的天气怎么样？"
    }
]

# 发送请求并打印响应
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)

# 请在生产环境中检查响应是否包含工具调用
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

# 确保工具调用已从上一步定义
if tool_call:
    # 扩展对话历史记录，添加助手工具调用消息
    messages.append(response.choices[0].message)

    function_name = tool_call.function.name
    if function_name == "get_weather":
        function_args = json.loads(tool_call.function.arguments)
        # 执行函数并获取响应
        function_response = get_weather(
            location=function_args.get("location"))
        # 将函数响应添加到消息中
        messages.append(
            {
                "tool_call_id": tool_call.id,
                "role": "tool",
                "content": function_response,
            }
        )

    # 从模型获取最终响应，包含函数结果
    answer_response = client.chat.completions.create(
        model=model,
        messages=messages,
        # 注意：不要在此处包含 tools 参数
    )
    print(answer_response.choices[0].message)

Начало работы

API больших языковых моделей

Поставщики моделей

Возможности моделей

Настройка сторонних инструментов

Вызов инструментов (Function Calling)

Сценарии использования

Поддерживаемые модели

Как использовать

Пример использования

1. Инициализация клиента

2. Определение функции для вызова

3. Создание API-запроса с инструментами и сообщением пользователя

4. Ответ на основе результата вызова функции и получение окончательного ответа

Полный код

​Сценарии использования

​Поддерживаемые модели

​Как использовать

​Пример использования

​1. Инициализация клиента

​2. Определение функции для вызова

​3. Создание API-запроса с инструментами и сообщением пользователя

​4. Ответ на основе результата вызова функции и получение окончательного ответа

​Полный код

Сценарии использования

Поддерживаемые модели

Как использовать

Пример использования

1. Инициализация клиента

2. Определение функции для вызова

3. Создание API-запроса с инструментами и сообщением пользователя

4. Ответ на основе результата вызова функции и получение окончательного ответа

Полный код