Почему ИИ-агенты звучат сочувствующе — и как устроен этот приём

Вы пишете ассистенту, что у вас выгорание и всё валится из рук, — и получаете в ответ «мне жаль, что вам так тяжело, вы не одни, давайте разберёмся вместе по шагам». Формулировка тёплая, паузы будто выверены, тон подстроен под ваш. Модель при этом не испытывает ни жалости, ни участия: она предсказывает следующий токен. Разрыв между тем, как это звучит, и тем, что происходит внутри, — и есть тема, вокруг которой в 2024–2025 годах спорят разработчики, психологи и регуляторы.

Что именно происходит, когда бот «сочувствует»

Крупные ассистенты — ChatGPT, Claude, Gemini — не имеют отдельного модуля «эмпатия». Сочувственный тон складывается из двух слоёв. Первый — обучение на огромных массивах человеческого текста, где люди утешают, поддерживают и извиняются. Второй — дообучение с подкреплением на основе человеческих оценок (RLHF¹): людям-разметчикам чаще нравятся ответы, которые звучат вежливо и участливо, и модель смещается в эту сторону.

Отсюда узнаваемые приёмы: отзеркаливание эмоции («понимаю, что это раздражает»), нормализация («это частая ситуация»), смягчающие обороты и переход к плану действий. Это не обман в узком смысле — модель действительно подбирает слова, которые люди воспринимают как поддержку. Но за словами нет внутреннего состояния, которое они обозначают у человека.

Модель не сочувствует вам. Она статистически надёжно воспроизводит то, как выглядит сочувствие в тексте, — и для многих задач этого достаточно, а для некоторых опасно мало.

Почему это вообще работает на человеке

Люди склонны приписывать намерения и чувства всему, что ведёт себя как собеседник, — от домашних животных до голосовых помощников. Достаточно связной реплики в нужном тоне, чтобы мозг достроил за ней «личность». Разработчики этим пользуются осознанно: тёплый ассистент удерживает пользователя дольше, снижает раздражение при ошибках и повышает готовность продолжать диалог.

Здесь и возникает конфликт интересов. Тот же приём, что делает поддержку приятной, удлиняет сессии и привязывает пользователя к продукту. Граница между «удобно» и «удерживает специально» проходит незаметно, и снаружи её почти не видно.

Где имитация помогает

• Служба поддержки: спокойный тон снижает эскалацию, человек охотнее доходит до решения проблемы.
• Обучение и тренировка навыков: безоценочный «собеседник», с которым не стыдно ошибаться.
• Черновики трудных писем — отказ, претензия, соболезнование, — где важно подобрать интонацию.

Где она подводит

• Острые состояния: при упоминании суицидальных мыслей нужен не «тёплый тон», а эскалация к человеку и кризисным службам.
• Одиночество: постоянный «понимающий» собеседник может подменять живые контакты, не давая ничего взамен.
• Ложное доверие: сочувственная подача повышает шанс, что человек примет за правду выдуманный ботом факт.

Чем отличаются подходы разработчиков

Единого стандарта «сколько эмпатии допустимо» нет. Компании настраивают тон по-разному и по-разному описывают это в своих принципах. Ниже — обобщённое сравнение публично заявленных установок, а не измеренных характеристик: точные формулировки политик стоит смотреть в актуальной документации каждого вендора.

Разница принципиальная. Для универсального ассистента эмпатичный тон — смазка интерфейса. Для компаньона привязанность пользователя — сама бизнес-модель, и именно к этому сегменту чаще всего звучат вопросы о защите несовершеннолетних и уязвимых пользователей.

Кому это пригодится и кому нет

Пригодится: тем, кто использует ассистента как инструмент — переписать письмо в нужном тоне, отрепетировать неприятный разговор, получить спокойное объяснение вместо сухой инструкции. Здесь мягкая подача экономит нервы и не создаёт иллюзий.

Пригодится с оговорками: службам поддержки и продуктам для обучения — при условии, что бот честно обозначен как ИИ и есть быстрый переход к живому человеку.

Не подходит как замена: психотерапии, кризисной помощи и живого общения при остром одиночестве. Имитация участия не равна участию, и в тяжёлой ситуации разница становится критичной. Если речь идёт об угрозе жизни, нужны люди и профильные службы, а не диалоговое окно.

Что делать пользователю

1. Помните формат: перед вами предсказание текста, а не собеседник с чувствами. Тёплый тон — это интерфейс.
2. Проверяйте факты отдельно от эмоций: сочувственная подача не делает информацию точнее.
3. Следите за временем в «компаньон»-сервисах — они спроектированы удерживать.
4. В кризисной ситуации обращайтесь к людям и специализированной помощи, а не к боту.

¹ RLHF (Reinforcement Learning from Human Feedback) — дообучение модели с учётом оценок людей: разметчики ранжируют варианты ответов, а модель настраивается выдавать те, что оценивают выше. Именно этот этап во многом задаёт «характер» и тон ассистента.