Инструменты AI-агента

Качество агента определяется не только моделью, но и тем, что ей доступно. Слишком узкий набор инструментов делает агента бесполезным, слишком широкий — непредсказуемым и дорогим.

Как собирать набор инструментов

• Начинайте с минимума. Поиск и загрузка страницы закрывают большинство справочных задач; браузер подключайте только когда без интерактива не обойтись.
• Один инструмент — одна задача. Понятное имя, минимум параметров, явные ограничения. Универсальный инструмент «сделай запрос куда угодно» почти всегда ошибка.
• Разделяйте чтение и запись. Чтение данных агент может выполнять сам, запись и отправку наружу — по правилам, а иногда только после подтверждения человеком.
• Ограничивайте радиус действия. Лимиты по количеству вызовов, доступным доменам и суммам операций закладываются сразу, а не после инцидента.

Guardrails

Проверки на входе фильтруют то, что не должно попадать в модель; проверки на выходе — то, что не должно уходить клиенту; ограничения действий не дают агенту выполнить операцию за пределами разрешённого. Эти три слоя работают только вместе.

Смежные материалы: архитектура агентов, выбор модели.