Guardrails в OpenAI Agents SDK

Бесплатный фрагмент урока

Фрагмент закончился

Полный урок открывается по подписке на курс

Как получить доступ

Как и структурированный ответ, guardrails мы уже смотрели без агентов. Теперь посмотрим, как использовать guardrails для агентов и для инструментов, которые агенты вызывают.

Зачем нужны guardrails

Когда мы даём агенту инструкцию - например, просим что-то сделать или чего-то не делать, - модель может эту просьбу нарушить. Самый надёжный способ заставить модель работать строго по заданным правилам - guardrail. Это отдельная проверка (например, с помощью отдельного агента), которая смотрит, нарушено ли условие. Если нарушено, программа останавливается с исключением, и дальнейшая работа не выполняется.

Ограничители бывают трёх видов:

Дальше в уроке

  • Input guardrail: проверка запроса на входе
  • Output guardrail: проверка ответа на выходе
  • Tool guardrails: проверка на инструменте
  • Итог

Как получить доступ к полному уроку

Урок входит в программу "AI инжиниринг": доступ ко всем её курсам на 1 год - 5000 ₽ (стоимость в других валютах можно уточнить у автора).

Войдите / зарегистрируйтесь на сайте, чтобы получить данные для оплаты.