Что такое AI-агент (ИИ-агент)

Определение

AI-агент это программа на основе языковой модели, которая умеет действовать, а не только отвечать. Получив цель, она решает, какие шаги сделать, пользуется подключёнными инструментами, например календарём, почтой или системой записи, смотрит на результат и продолжает, пока задача не выполнена или пока не нужен человек. Инженерное руководство Anthropic проводит границу, которую полезно знать при покупке: в рабочем процессе (workflow) шаги заданы заранее, а агент сам выбирает шаги и инструменты. «Интеллектуальный агент» это более старый термин из учебников для любой системы, которая воспринимает окружение и действует в нём.

Почему это важно

Он может пользоваться только тем, что вы подключили, поэтому решения владельца такие: что подключить, где обязательно одобрение человека и как читать журнал действий агента. Шаг, который доходит до клиента, до денег или до файла, который нельзя восстановить, должен ждать вашего нажатия.

Напрямую связано: LLM (большая языковая модель), Промпт (Prompt), ИИ (искусственный интеллект, AI).

Советы по улучшению

• Подключайте минимум: только те инструменты и права, которые нужны задаче, и доступ только на чтение там, где чтения достаточно.
• Ставьте одобрение человека перед всем, что доходит до клиента, двигает деньги или меняет файл, который нельзя восстановить.
• В первые недели читайте журнал действий: каждый шаг, что агент прочитал и что отправил.
• Начните с одной узкой задачи, например переноса записей, прежде чем давать вторую.

Частые ошибки

• Давать ему больше инструментов, прав или свободы, чем нужно задаче.
• Разрешить ему рассылать предложения прошлым клиентам, не проверив согласие, хотя по израильскому закону это реклама.
• Купить жёсткую автоматизацию под видом агента или агента там, где хватило бы жёсткой автоматизации.