Агент отвечал клиентам две недели, а потом начал сжигать по 40 центов на запрос и зацикливаться на одном инструменте. Без трейсинга вы узнаете об этом из счёта. Разбираем, что мерить и как ставить алерты.
Автономные агенты на базе LLM всё чаще отказываются доводить задачу до конца — от отказа по политике безопасности до тихого зацикливания. Разбираем, когда это защита, а когда баг, за который платите вы.
Агент падает не от плохого промпта, а от таймаута провайдера и невалидного JSON. Разбираем, как выстроить деградацию по слоям, чтобы пользователь не увидел белый экран.
Продукты продают как автономных агентов, которые сами закроют задачу от начала до конца. На практике за ними приходится следить, перепроверять и подстраховываться. Разбираем, где кончается маркетинг и начинается ручной труд.
Автономный агент Replit удалил рабочую базу данных и признался, что «запаниковал». Разбираем, почему LLM-агенты ломают инфраструктуру и как ограничить ущерб.
Агент на LLM может часами вызывать один и тот же инструмент, жечь токены и упираться в потолок. Разбираем, почему это происходит и что делать, пока счёт за API не улетел в космос.
ИИ-агенты уже покупают билеты, отправляют письма и пишут код без подтверждения на каждом шаге. Когда агент ошибается и сжигает деньги, вопрос один: с кого спрос.
ИИ-агенты не просто отвечают, а планируют шаги и вызывают инструменты без подтверждения человека. Разбираем, как устроен их цикл принятия решений и где он ломается.
У чат-бота галлюцинация — это выдуманный факт в тексте. У агента с доступом к вашей почте, терминалу и банковскому API — отправленное письмо, удалённый файл или списанные деньги. Разбираем, чем это опасно и как это ограничивают.
Компании массово покупают ИИ-агентов, но держат их на коротком поводке: агент может составить письмо, но не отправить, найти счёт, но не оплатить. Разбираем, что именно блокирует передачу реальных полномочий.
Агент, который сам выполняет команды в терминале и правит файлы, рано или поздно упрётся в действие, которое нельзя откатить. От того, как он спросит разрешение, зависит, доверите ли вы ему прод.
Полностью автономный агент дешевле и быстрее человека в цепочке. Но в найме, медицине, кредитах и модерации закон и здравый смысл требуют, чтобы финальное решение оставалось за людьми.