Три крупных вендора дают моделям вызывать внешние функции по-разному — от формата описания инструментов до параллельных вызовов. Разбираем, что это значит для кода и переносимости.
Длинные задачи агента падают на середине — из-за таймаута API, лимита токенов или сбоя сети. Разбираем, как чекпоинты и восстановление состояния спасают часы работы и деньги на токенах.
System prompt перестал быть парой строк «ты полезный ассистент». У агентов с инструментами и памятью он превратился в спецификацию поведения, и цена ошибки в нём — зацикленные вызовы функций и слитые данные.
Когда модель работает не в одном чате, а в цикле из десятков вызовов инструментов, красивая формулировка запроса перестаёт спасать. На первый план выходит то, что попадает в контекстное окно и в каком порядке.
Structured output заставляет модель отвечать по заданной JSON-схеме, а не просто «в формате JSON». Для агентов это разница между рабочим пайплайном и бесконечным парсингом сломанных ответов.
Prompt caching у OpenAI, Anthropic и Google по-разному режет цену повторяющегося контекста в агентных пайплайнах. Разбираем, где скидка автоматическая, где ручная и сколько реально экономят.
Агент на LLM звучит просто, пока не считаешь счета и секунды. Каждый вызов модели, каждый цикл рассуждения и каждый вызов инструмента — это деньги и задержка, которые складываются в цепочку.
За словом «агент» скрывается конкретный цикл из четырёх шагов: восприятие, планирование, действие и рефлексия. Разбираем, как он работает и где ломается.
Агент прошёл 70% задач в SWE-bench — и что это значит на практике? Разбираем, какие бенчмарки для агентов используют лабораторные команды, что они реально измеряют и где обманывают.
Автономный агент, который сам вызывает API и пишет в базу, ошибается дороже чат-бота. Разбираем, какими инструментами ограничивают его поведение — от NeMo Guardrails до Llama Guard — и где у каждого предел.
Агент вызвал API, а тот вернул 500. Что происходит дальше — зависит от того, как построена обработка ошибок. Разбираем стратегии, которые отличают рабочего агента от бесконечного цикла с сожжённым бюджетом токенов.
Классический RAG отвечает на вопрос по документам за один проход. Агент с доступом к той же базе умеет искать несколько раз, уточнять и проверять себя. Разбираем, где разница видна в деньгах и качестве ответов.