Shadow AI: сотрудники подключают агентов в обход IT

Отдел маркетинга загружает клиентскую базу в чат-бота, чтобы тот написал рассылку. Разработчик вставляет кусок закрытого кода в бесплатный генератор, чтобы найти баг. Бухгалтер просит агента разобрать выгрузку с зарплатами. Всё это происходит без единого согласования с IT и без записи в реестре используемого ПО. Так выглядит Shadow AI — теневое использование нейросетей внутри компании, которое стало массовым явлением примерно с 2023 года, когда генеративные модели попали в открытый доступ.

Термин вырос из старого понятия Shadow IT — когда сотрудники ставят себе программы и облачные сервисы в обход политики компании. Разница в том, что нейросеть не просто хранит файл, а отправляет его на чужие серверы и потенциально использует для обучения. Данные, которые ушли в бесплатный чат, вернуть или удалить почти невозможно.

Почему это происходит

Сотрудники не саботажники — они решают задачи быстрее, чем позволяют корпоративные инструменты. Причины повторяются от компании к компании:

• Инструменты работают, а согласования нет. Официальную корпоративную подписку на AI внедряют месяцами, а бесплатный доступ открывается за минуту.
• Экономия времени измерима сразу. Черновик письма, саммари созвона, разбор таблицы — то, что раньше занимало час, делается за пять минут.
• Нет запрета — значит можно. Во многих компаниях до сих пор нет письменной политики по использованию нейросетей, и сотрудник искренне не считает это нарушением.
• Личные аккаунты вне контроля. Человек заходит в чат-бота со своего телефона или личной почты, и никакой корпоративный фильтр этого не видит.

Проблема Shadow AI не в том, что люди используют нейросети. Проблема в том, что компания не знает, какие именно данные и куда утекают прямо сейчас.

Чем это опасно

Утечка данных

Главный риск — конфиденциальная информация, отправленная во внешний сервис. Это могут быть персональные данные клиентов, коммерческая тайна, исходный код, финансовые показатели. В бесплатных тарифах большинства публичных моделей вводимые данные по умолчанию могут использоваться для дообучения*, если пользователь явно не отключил эту опцию — а рядовой сотрудник об этом чаще всего не задумывается.

Юридические риски

Передача персональных данных третьей стороне без правовых оснований — потенциальное нарушение закона о персональных данных. Если данные ушли на серверы за пределами страны, добавляется вопрос трансграничной передачи. Ответственность здесь несёт компания, а не конкретный сотрудник, нажавший «отправить».

Качество и галлюцинации

Модель может уверенно выдать выдуманный факт, несуществующую норму закона или неверный расчёт. Если сотрудник вставляет ответ в документ без проверки, ошибка попадает клиенту или в отчётность. Контроля за этим при теневом использовании нет по определению.

Официальные инструменты против теневых

Ответ бизнеса на Shadow AI — не запрет, а замена: дать сотрудникам корпоративную версию, где данные защищены договором и не уходят на обучение. Крупные вендоры давно развели потребительские и бизнес-тарифы именно по этому признаку.

Enterprise-тарифы ChatGPT, Claude и Gemini заявляют, что данные бизнес-клиентов не используются для обучения моделей и поддерживают вход через корпоративную учётку (SSO) и журналирование. Точные условия и цены меняются — сверяйте на официальных страницах вендоров, а не по чужим пересказам.

Кому это пригодится и кому нет

Разговор про Shadow AI по-разному звучит для разных ролей.

• Руководителю IT и безопасности — сигнал провести аудит: через прокси и DNS видно, на какие AI-домены ходит трафик из сети. Это отправная точка, чтобы понять масштаб.
• HR и юристам — повод написать понятную политику: что можно загружать, что нельзя, каким сервисом пользоваться. Без неё наказывать сотрудника не за что.
• Руководителю отдела — задача выбить бюджет на официальный инструмент. Если люди уже пользуются теневыми, спрос доказан.
• Рядовому сотруднику — понимание, что вставленный в бесплатный чат договор или база клиентов может стать причиной служебной проверки.

А вот кому тема пока не критична: микробизнесу без чувствительных данных и командам, которые обрабатывают только публичную информацию. Запрещать нейросети там, где нечего утекать, — лишняя бюрократия.

Что сделать компании: пошагово

1. Провести аудит трафика. Выяснить, какими AI-сервисами реально пользуются и в каких отделах.
2. Опросить сотрудников без наказаний. Цель — понять задачи, а не найти виноватых. Иначе теневое использование просто уйдёт глубже.
3. Написать политику по AI. Классификация данных: что можно в нейросеть, что нельзя никогда, каким сервисом пользоваться.
4. Дать легальную альтернативу. Корпоративный тариф или локальная модель — иначе люди вернутся к теневым инструментам.
5. Обучить и объяснить причины. Не «нельзя», а «почему нельзя» и «чем пользоваться вместо».

* Дообучение (fine-tuning) — процесс, при котором готовую модель дополнительно тренируют на новых данных, чтобы она лучше решала конкретные задачи. Если ваши данные попали в обучающую выборку, они косвенно влияют на будущие ответы модели и могут теоретически всплыть у других пользователей.