Компании откатываются с ИИ-агентов на живых людей: почему

Klarna в 2024 году громко заявила, что её ИИ-ассистент на базе OpenAI выполняет работу 700 операторов поддержки. А в мае 2025-го гендиректор компании Себастьян Семятковски признал в интервью Bloomberg, что качество упало, и Klarna снова нанимает людей на поддержку. Это не единичный разворот: за два года через один и тот же цикл прошли десятки компаний — от финтеха до логистики. Сначала автономный агент закрывает 70% обращений, потом всплывают провалы на оставшихся 30%, и часть функций возвращают операторам.

Разберём, что именно ломается при откате, сколько это стоит и как отличить задачу, которую агент потянет, от той, где он гарантированно подведёт.

Что такое «откат на людей» на практике

Речь редко о полном отказе от автоматизации. Чаще это гибридная схема: агент^* остаётся на первой линии, но сложные, спорные или дорогие по последствиям обращения уходят человеку. Формулировка «откатились» обычно означает одно из трёх:

• агенту оставили только простые сценарии (статус заказа, часы работы, сброс пароля), а всё остальное вернули людям;
• агента перевели из режима «решает сам» в режим «черновик для оператора» — человек проверяет и отправляет ответ;
• агента отключили от исполнения действий (возвраты, списания, изменения тарифа), оставив только консультации.

^* ИИ-агент — программа на базе языковой модели, которая не просто отвечает текстом, а выполняет действия: вызывает API, оформляет возврат, ищет по базе, планирует шаги. Отличие от чат-бота — в автономности: агент сам решает, что сделать дальше.

Где агенты ломаются

Публичных постмортемов немного, но повторяются одни и те же точки отказа.

Галлюцинации с последствиями

В феврале 2024 года Канадский суд обязал Air Canada возместить пассажиру деньги: чат-бот авиакомпании выдумал несуществующую политику возврата за тариф по случаю тяжёлой утраты. Суд отклонил довод, что бот — «отдельная сущность», и признал компанию ответственной за его слова. Когда агент не просто отвечает, а обещает от имени бизнеса, каждая галлюцинация — потенциальное обязательство.

Накопление ошибки в длинных цепочках

Автономный агент выполняет задачу пошагово, и вероятность ошибки перемножается. Если на каждом шаге модель права в 95% случаев, то на цепочке из десяти шагов итоговая надёжность падает примерно до 60%. Для одноходовых вопросов это незаметно, для многошаговых сценариев — критично.

Стоимость эскалации выше экономии

Экономия на автоматизации первой линии легко съедается, если недовольный клиент после агента уходит к человеку раздражённым и разговор длится вдвое дольше, чем занял бы сразу.

Klarna в объяснении отката прямо назвала качество и удовлетворённость клиентов приоритетом над чистой экономией на зарплатах. Для бизнеса с высоким чеком потеря одного клиента дороже, чем зарплата оператора за месяц.

Сколько стоит откат

Возврат людей — это не только новые ставки. Разово всплывают затраты, которые при внедрении агента списали как экономию.

Ключевая ловушка — потеря экспертизы. Когда операторов сократили, ушли и люди, которые понимали редкие кейсы. Восстановить эту насмотренность быстрее, чем за несколько месяцев, обычно не выходит.

Кому автономный агент подойдёт, а кому нет

Скорее сработает

• Высокий объём однотипных обращений. Статус заказа, график, типовые инструкции — где ответ детерминирован и проверяем.
• Низкая цена ошибки. Неверный ответ раздражает, но не создаёт финансового или юридического обязательства.
• Есть надёжный источник правды. Агент работает поверх RAG^** по актуальной базе, а не сочиняет из памяти модели.

Скорее подведёт

• Обращения с деньгами и правами клиента. Возвраты, компенсации, спорные списания — там, где обещание становится обязательством.
• Эмоционально заряженные ситуации. Жалобы, отмены, конфликты: клиент хочет, чтобы его услышал человек, а не получить корректный по форме отказ.
• Редкие сложные кейсы без данных. Если сценарий не описан в базе, агент додумает — и это худший исход.

^** RAG (retrieval-augmented generation) — подход, при котором модель перед ответом подтягивает нужные документы из базы и отвечает на их основе, а не только по данным обучения. Снижает галлюцинации, но не исключает их.

Как не откатываться болезненно

Разворот дешевле, если его закладывают заранее, а не спасают тонущий проект.

1. Не сокращайте команду поддержки под ноль на старте. Держите ядро экспертов минимум первые кварталы после запуска.
2. Замеряйте не только долю закрытых обращений, но и удовлетворённость и долю повторных обращений по той же проблеме — она показывает скрытые провалы.
3. Сделайте эскалацию к человеку явной и быстрой. Клиент, который не может дозвониться до оператора, злится сильнее, чем на медленный ответ.
4. Разделяйте «отвечать» и «действовать». Дайте агенту консультировать раньше, чем разрешите ему списывать деньги и оформлять возвраты.
5. Логируйте всё. Без разбора реальных диалогов вы не поймёте, где именно агент теряет клиентов.

Откат на людей — не приговор автоматизации, а сигнал, что границу ответственности агента провели слишком широко. Компании, которые прошли этот цикл публично, не отказались от ИИ полностью — они сузили его до задач, где ошибка дёшева, и вернули человека туда, где на кону деньги и доверие.