Guardrails в OpenAI Agents SDK
Как и структурированный ответ, guardrails мы уже смотрели без агентов. Теперь посмотрим, как использовать guardrails для агентов и для инструментов, которые агенты вызывают.
Зачем нужны guardrails
Когда мы даём агенту инструкцию - например, просим что-то сделать или чего-то не делать, - модель может эту просьбу нарушить. Самый надёжный способ заставить модель работать строго по заданным правилам - guardrail. Это отдельная проверка (например, с помощью отдельного агента), которая смотрит, нарушено ли условие. Если нарушено, программа останавливается с исключением, и дальнейшая работа не выполняется.
Ограничители бывают трёх видов:
Дальше в уроке
- Input guardrail: проверка запроса на входе
- Output guardrail: проверка ответа на выходе
- Tool guardrails: проверка на инструменте
- Итог
Как получить доступ к полному уроку
Урок входит в программу "AI инжиниринг": доступ ко всем её курсам на 1 год - 5000 ₽ (стоимость в других валютах можно уточнить у автора).
Войдите / зарегистрируйтесь на сайте, чтобы получить данные для оплаты.
Чтобы оставить сообщение, зарегистрируйтесь/войдите на сайт через:
Email - зарегистрироваться / войти