Чем длиннее диалог с агентом, тем больше он путается и тем дороже каждый запрос. Разбираем, как устроена память у актуальных инструментов и какие подходы к её управлению работают на практике.
Модели рекламируют контекст в сотни тысяч токенов, но информация из середины длинного промпта теряется. Разбираем эффект «lost in the middle» и как обойти его на практике.
Чем длиннее диалог с моделью, тем чаще она забывает инструкции из начала и упускает детали. Разбираем, что такое context rot, почему растянутое контекстное окно не решает проблему и как с этим борются на практике.
За два года «искусство промпта» превратилось в инженерную работу с контекстом: тем, что модель видит в окне на момент ответа. Разбираем, что изменилось и почему это важно для разработчиков.
Между агентом, который прошёл демо, и агентом, который держит нагрузку в проде — пропасть из ретраев, таймаутов и денег. Разбираем, где ломаются автономные пайплайны и сколько стоит их починить.
Когда ИИ-агент отвечает клиентам сам, главный риск — уверенно выданный неверный ответ. Разбираем, как считать долю ложных срабатываний и почему одна цифра точности вводит в заблуждение.
Компании массово запускают пилоты с ИИ-агентами, но до промышленного внедрения доживают единицы. Разбираем, где ломается связка «демо — прод» и что с этим делать.
Компании массово запускают пилоты автономных агентов, но до промышленного масштаба доходит меньшинство. Разбираем, где именно ломается путь от демо до работающего процесса и что с этим делать.
Компании, продающие ИИ-агентов бизнесу, всё чаще прикладывают к контракту отчёт SOC 2 или сертификат ISO/IEC 27001. Разбираем, что за этими аббревиатурами стоит и на что смотреть в закупке.
Демо агента отработало идеально, а в продакшене он путает счета и сливает данные в чужой контекст. Разбираем, что проверить до подписания договора, чтобы не платить за красивую презентацию.
ИИ-агенты уже оформляют заказы, бронируют услуги и запускают сделки без участия человека. Вопрос, кто платит за ошибочное решение, пока не имеет однозначного ответа ни в законе, ни в пользовательских соглашениях.
Крупные страховщики начали продавать полисы, покрывающие сбои и «галлюцинации» AI-моделей. Разбираем, что именно они страхуют, сколько это стоит и где заканчивается ответственность.