Агенты для фактчекинга в редакциях: что реально работает

Проверка фактов в тексте — рутина, которая съедает часы: найти первоисточник цифры, убедиться, что цитата не искажена, проверить, что закон с таким номером существует и говорит то, что написано. Крупные редакции — от Reuters до The New York Times — публично рассказывали о встраивании языковых моделей в редакционные процессы, и фактчекинг оказался одной из первых зон применения. Не потому что модель проверяет лучше человека, а потому что она быстрее собирает материал для проверки. Ниже — как это устроено на практике и почему агент без человека рядом опасен именно в этой задаче.

Что такое «агент» в этом контексте

Речь не про чат, которому вставили абзац и спросили «тут всё верно». Агент^* — это система, которая для проверки одного утверждения сама выполняет цепочку действий: разбивает текст на отдельные проверяемые заявления, ищет источники в интернете или в базе редакции, сравнивает формулировки и возвращает вывод со ссылками. В отличие от одиночного запроса, агент делает несколько шагов подряд и использует внешние инструменты — поиск, доступ к архиву, парсер PDF.

Типичный маршрут выглядит так:

1. Извлечение заявлений. Модель раскладывает текст на атомарные утверждения: «штраф вырос до 30 000 рублей», «компания основана в 2011 году», «по данным Х, рынок вырос на 12%».
2. Классификация. Что требует проверки (цифры, даты, цитаты, ссылки на законы), а что — оценочное суждение и проверке не подлежит.
3. Поиск первоисточника. Для каждого проверяемого заявления агент ищет опору: официальный документ, страницу компании, релиз.
4. Сверка. Совпадает ли цифра в тексте с цифрой в источнике, не выдернута ли цитата из контекста.
5. Отчёт. Список заявлений с пометками «подтверждено / расходится / источник не найден» и ссылками.

Ключевое слово — «отчёт», а не «вердикт». Решение остаётся за редактором. Агент готовит материал для решения.

Агент не заменяет фактчекера. Он превращает восьмичасовую проверку лонгрида в двухчасовую — но только если каждую его ссылку кто-то открывает глазами.

Где это реально экономит время

Сильная сторона такой связки — не «оценка правды», а сбор и сопоставление. Модель хорошо ловит внутренние противоречия: в первом абзаце цифра одна, в подписи к графику другая. Она быстро находит, что цитата в тексте не совпадает дословно с оригиналом выступления. И она отлавливает выдуманные ссылки — когда автор (или другая нейросеть, писавшая черновик) сослался на исследование, которого не существует.

Последнее особенно актуально: тексты всё чаще проходят через генеративные модели на этапе черновика, а те склонны к галлюцинациям^** — уверенно приводят несуществующие номера статей, названия отчётов и фамилии экспертов. Агент-фактчекер тут работает как санитар: пытается открыть каждую ссылку и каждый источник, и то, что не открывается, помечает красным.

Чего агент делать не должен

Опасность ровно в том же механизме. Если поиск не нашёл первоисточник, слабая система может «дорисовать» правдоподобное подтверждение из собственных весов — то есть выдать галлюцинацию как факт-чек. Поэтому в редакционных внедрениях агента жёстко ограничивают: вывод «подтверждено» разрешён только при наличии рабочей ссылки, всё остальное — «не найдено», и это сигнал человеку, а не повод пропустить утверждение.

Сравнение подходов

Редакции используют разные схемы — от готового чат-бота до собственного пайплайна с RAG^***. Возможности и риски отличаются существенно.

Общего замера точности «агент против фактчекера» с публичным методологичным источником по русскоязычным редакциям я привести не могу — если встретите цифру вроде «агент ловит 95% ошибок», спрашивайте, на каком тесте она получена. Без названия бенчмарка и методики такая цифра ничего не значит.

Кому это пригодится, а кому нет

Пригодится:

• Новостным редакциям с потоком. Когда за смену выходят десятки заметок, агент отсекает грубые ошибки — перепутанную дату, несуществующую ссылку — до публикации.
• Авторам лонгридов и расследований. Извлечение всех проверяемых заявлений из текста на 30 000 знаков — механическая работа, которую модель делает за минуты.
• Редакциям, которые уже пропускают тексты через генеративные модели. Тут агент-проверяльщик обязателен: он ловит галлюцинации, добавленные на этапе черновика.

Не пригодится или навредит:

• Там, где нет человека на выходе. Автопубликация по вердикту агента — прямой путь к тому, что галлюцинация станет опубликованным фактом.
• Для оценочных и аналитических материалов. Модель не отличит смелый тезис от ошибки; она проверяет факты, а не корректность интерпретации.
• При работе с закрытыми и специализированными данными. Если первоисточник не в открытом доступе, веб-агент его не найдёт и либо промолчит, либо соврёт.

Сколько это стоит

Готовые агентские режимы встроены в платные тарифы крупных чат-сервисов — стоимость подписок меняется раз в несколько месяцев, актуальные цифры смотрите на официальных страницах провайдеров. Собственный пайплайн с RAG по архиву — это уже расходы на API-вызовы (оплата по токенам), инфраструктуру и инженера, который всё это поддерживает. Для небольшой редакции разумный старт — платная подписка с агентским поиском и жёсткое правило: любая пометка «подтверждено» перепроверяется человеком по ссылке.

^* Агент — программа на базе языковой модели, которая для решения задачи сама выполняет последовательность шагов и обращается к внешним инструментам (поиск, база данных, парсер), а не отвечает одним сообщением.

^** Галлюцинация — уверенно сформулированный, но ложный ответ модели: несуществующая ссылка, выдуманная цитата или цифра, которых нет в источниках.

^*** RAG (retrieval-augmented generation) — схема, где модель перед ответом достаёт релевантные документы из заданной базы и опирается на них, а не только на собственные веса.