Инструменты AI-агента
Качество агента определяется не только моделью, но и тем, что ей доступно. Слишком узкий набор инструментов делает агента бесполезным, слишком широкий — непредсказуемым и дорогим.
Как собирать набор инструментов
Заголовок раздела «Как собирать набор инструментов»- Начинайте с минимума. Поиск и загрузка страницы закрывают большинство справочных задач; браузер подключайте только когда без интерактива не обойтись.
- Один инструмент — одна задача. Понятное имя, минимум параметров, явные ограничения. Универсальный инструмент «сделай запрос куда угодно» почти всегда ошибка.
- Разделяйте чтение и запись. Чтение данных агент может выполнять сам, запись и отправку наружу — по правилам, а иногда только после подтверждения человеком.
- Ограничивайте радиус действия. Лимиты по количеству вызовов, доступным доменам и суммам операций закладываются сразу, а не после инцидента.
Guardrails
Заголовок раздела «Guardrails»Проверки на входе фильтруют то, что не должно попадать в модель; проверки на выходе — то, что не должно уходить клиенту; ограничения действий не дают агенту выполнить операцию за пределами разрешённого. Эти три слоя работают только вместе.
Смежные материалы: архитектура агентов, выбор модели.