Автономные агенты умеют заполнять формы, платить картой и вести переписку без человека. Те же навыки уже используют для обмана — от массового фишинга до звонков голосом вашего родственника.
Крупные разработчики моделей вводят отдельные режимы для несовершеннолетних: фильтры контента, возрастные проверки и запрет на автономные действия. Разбираем, что реально меняется и где остаются дыры.
Исследования OpenAI и MIT, отзыв «слишком льстивого» обновления GPT-4o и иски к сервисам-компаньонам показали: диалог с ИИ действует на эмоции сильнее, чем ожидали разработчики.
Слово «агент» в маркетинге LLM-компаний обросло намёками на самостоятельность и чуть ли не сознание. Разбираем, что стоит за термином и где заканчивается техника и начинается миф.
ИИ-агенты перестали просто отвечать на вопросы — они удаляют файлы, платят по счетам и пишут в чужие базы. Разбираем, кто и как должен подтверждать их опасные действия.
Агенты пишут тексты, генерируют картинки и код без прямого участия человека. Ведомства США и российская практика уже дали первые ответы на вопрос, кому это принадлежит — и ответы вам не понравятся.
Автономные агенты уже удаляли продакшн-базы, покупали лишнее и путались в инструкциях. Разбираем задокументированные случаи и то, где именно ломается автономность.
Оборонные стартапы строят автономные системы наведения, OpenAI и Google убрали запреты на военное применение, а ООН десятый год не может договориться о правилах. Разбираем, о чём спор и что уже работает.
OpenAI, Anthropic, Microsoft и open source выпустили инструменты, которые пытаются удержать автономных агентов от опасных действий. Разбираем, что каждый из них умеет и где границы.
Автономные агенты покупают, пишут код и отправляют письма без человека в цикле. Разбираем, как бизнес готовится доказывать, что действия бота можно проверить и откатить.
Платёжные системы и стартапы дают ИИ-агентам право двигать деньги. Разбираем, чем контроль качества таких агентов отличается от обычного чат-бота и какие подходы реально снижают риск.
Автономные агенты умеют не просто писать тексты, а сами планировать действия, заводить аккаунты и рассылать сообщения. Разбираем, чем это отличается от обычных чат-ботов и что уже делают против этого разработчики моделей.