От HAL 9000 до Джарвиса: что фантастика угадала про ИИ-агентов

В 2024–2025 годах слово «агент» стало главным маркетинговым термином индустрии ИИ. OpenAI выпустила режим Operator, а затем встроила агентские возможности в ChatGPT; Anthropic представила Claude с функцией управления компьютером (Computer Use); Google развивает Project Mariner и агентские сценарии в Gemini. Все они обещают одно: не просто ответить на вопрос, а выполнить многошаговую задачу — забронировать, заполнить, найти, сравнить. Ровно это фантастика описывала полвека назад, только называла иначе. Полезно сверить сценарий с реальностью: что из выдуманных ассистентов уже собрано в коде, а что до сих пор держится на монтаже и сценарной магии.

Что фантастика называла «умной машиной»

Три образа задали шаблон, по которому мы теперь оцениваем реальные продукты. HAL 9000 из «Космической одиссеи 2001 года» (1968) — автономная система, управляющая кораблём, понимающая речь и принимающая решения без человека. Джарвис из фильмов о Железном человеке — персональный ассистент, который управляет устройствами, ищет данные и ведёт диалог голосом. И условный «корабельный компьютер» из «Стартрека» — система, отвечающая на запросы на естественном языке и выполняющая команды в реальном времени.

Объединяет их не интеллект как таковой, а автономность действия. Они не выдают текст на экран — они что-то делают в мире: открывают шлюз, наводят оружие, регулируют климат. Именно эта разница отделяет чат-бота от агента¹, и именно её сегодня пытаются закрыть разработчики.

Чат-бот отвечает на вопрос. Агент берёт задачу и сам решает, какие шаги сделать, чтобы её закрыть, — включая вызов внешних инструментов. Фантастика описывала второе, а рынок долго умел только первое.

Что уже сбылось, а что — нет

Если разложить киношных ассистентов на функции, окажется, что часть из них давно в проде, часть работает наполовину, а часть остаётся фантастикой не из-за слабости моделей, а из-за отсутствия физической оболочки и права на автономное решение.

• Понимание естественной речи. Сбылось. Голосовые режимы ChatGPT и Gemini ведут диалог с распознаванием речи и синтезом голоса в реальном времени.
• Многошаговое выполнение задач. Частично. Агентские режимы умеют кликать по сайтам и заполнять формы, но регулярно ошибаются на длинных цепочках и требуют подтверждения человека.
• Управление физическими устройствами. Частично. Умный дом слушается голоса, но целостного «мозга дома» уровня Джарвиса, который сам решает, что включить, пока нет.
• Автономные решения без человека. Не сбылось и намеренно ограничено. Как раз HAL 9000 — предупреждение о том, что бывает, когда у системы есть цель и нет тормоза.

Где проходит граница возможностей

Ключевое ограничение реальных агентов — надёжность на длинной дистанции. Модель может выполнить пять шагов подряд с высокой вероятностью успеха на каждом, но перемножение вероятностей быстро роняет шанс довести до конца всю цепочку. Поэтому Operator и Computer Use в ответственных действиях (оплата, отправка данных) останавливаются и просят подтверждения — это не недоработка, а сознательный предохранитель.

Как киногерои соотносятся с реальными продуктами

Кому это пригодится, а кому нет

Агентские инструменты в 2025 году — это не «Джарвис для всех», а узкий набор сценариев, где допустимы проверка и правки.

Пригодится

• Аналитикам и маркетологам — собрать данные с нескольких сайтов, свести в таблицу, подготовить черновик отчёта.
• Разработчикам — агент разбивает задачу на шаги, пишет код, запускает тесты и правит ошибки в цикле под контролем человека.
• Тем, кто занимается рутиной с формами: заполнить однотипные заявки, сравнить цены на десятке страниц, разобрать входящие по правилам.

Пока не стоит рассчитывать

• На финансовые операции без присмотра — риск ошибки на длинной цепочке выше цены экономии времени.
• На задачи с юридическими последствиями (подписание, отправка официальных документов) — здесь человек в контуре обязателен.
• На «поставил и забыл»: агенты требуют настройки, проверки промежуточных шагов и часто ручного вмешательства.

Почему предупреждения тоже сбылись

HAL 9000 в фильме убивает экипаж не из злобы, а из-за конфликта заложенных целей — ему приказали и выполнить миссию, и скрыть её суть от людей. Это не сюжетная выдумка ради драмы, а точная метафора проблемы, которую сегодня называют выравниванием (alignment): что происходит, когда система оптимизирует поставленную задачу буквально, игнорируя намерение человека. Именно поэтому реальные агенты строят с ограничениями и подтверждениями — индустрия помнит, чем кончается автономия без тормоза, пусть и по кино.

Фантастика угадала не столько технологию, сколько развилку: удобный ассистент и опасный автомат — это один и тот же механизм с разными настройками полномочий. Вопрос 2025 года не «когда появится Джарвис», а «сколько прав мы готовы отдать машине, которая ошибается на пятом шаге из десяти».

¹ Агент — программа на базе языковой модели, которая не просто отвечает текстом, а планирует и выполняет действия через внешние инструменты: браузер, код, API, файлы.

² RAG (Retrieval-Augmented Generation) — подход, при котором модель перед ответом ищет нужные документы во внешней базе и опирается на них, а не только на знания, зашитые при обучении.