Практика. Вызываем инструмент с помощью LLM модели по причине остановки

Наконец мы добрались до практики. Посмотрим на конкретных примерах, как работать с finish_reason - причинами остановки - и с инструментами.

Возьмём приложение с одним инструментом, который выдаёт текущую погоду в городе, запрошенном клиентом. Чата пока не будет, промпт пишем прямо в программе, но тот же принцип работает и тогда, когда всё это настраивается через чат.

Описание инструмента и функция

Как говорилось в теоретических видео, инструменты - это список объектов с описанием. Здесь инструмент - программная функция: тип function, имя get_weather. Сама функция - обычная функция Python, которая принимает один аргумент, город, и возвращает строку «В городе ... +12, облачно». Её можно улучшить и обращаться к API сторонних сервисов за реальной погодой, но для понимания смысла делаем максимально просто.