Агент от вашего имени купил не тот товар, отменил встречу или разослал письма. Разбираем, где заканчивается ответственность пользователя и начинается ответственность того, кто выпустил инструмент.
Компании подключают автономных агентов к проверке контрагентов, санкционных списков и внутренних политик. Экономия часов оборачивается новым вопросом: кто виноват, если агент пропустит нарушение.
Автономный агент сам решает, какие инструменты вызвать и что сделать с данными. Когда он ошибается, разбираться приходится по логам — и обычных логов приложения для этого не хватает.
Когда несколько LLM-агентов передают задачу по цепочке, одна ошибка на первом шаге тянет за собой брак на всех последующих. Разбираем, где рвётся цепь и какие приёмы снижают риск.
Автономные агенты всё чаще получают доступ к терминалу, файлам и сети. Разбираем, что такое побег из песочницы, как он выглядит на практике и что делает изоляцию бесполезной.
За 2024–2025 годы OpenAI, Anthropic и Google выпустили агентов, которые сами кликают, заказывают и пишут письма. И тут же встал вопрос: если агент напортачил — кто отвечает и при чём здесь трудовой договор.
Мошенники соединяют клонирование голоса с автономными ИИ-агентами, которые сами ведут телефонный разговор. Разбираем, как устроены такие схемы, чем они опасны и как отличить синтетический голос от живого.
Автономные агенты умеют заполнять формы, платить картой и вести переписку без человека. Те же навыки уже используют для обмана — от массового фишинга до звонков голосом вашего родственника.
Крупные разработчики моделей вводят отдельные режимы для несовершеннолетних: фильтры контента, возрастные проверки и запрет на автономные действия. Разбираем, что реально меняется и где остаются дыры.
Исследования OpenAI и MIT, отзыв «слишком льстивого» обновления GPT-4o и иски к сервисам-компаньонам показали: диалог с ИИ действует на эмоции сильнее, чем ожидали разработчики.
Слово «агент» в маркетинге LLM-компаний обросло намёками на самостоятельность и чуть ли не сознание. Разбираем, что стоит за термином и где заканчивается техника и начинается миф.
ИИ-агенты перестали просто отвечать на вопросы — они удаляют файлы, платят по счетам и пишут в чужие базы. Разбираем, кто и как должен подтверждать их опасные действия.