Российские фреймворки для LLM-агентов: что есть кроме LangChain

Собрать LLM-агента на LangChain или CrewAI в 2024 году — вопрос пары вечеров: документация, тысячи примеров, готовые интеграции с векторными базами. Проблема начинается, когда агент должен ходить не в OpenAI, а в YandexGPT или GigaChat: оплата зарубежных API из России затруднена, а данные клиентов не всегда можно отправлять за периметр. В ответ на это и Яндекс, и Сбер выпустили собственные SDK, а сообщество — обёртки, которые подключают отечественные модели к привычным фреймворкам. Ниже — что из этого готово к работе, а что пока ближе к демо.

О чём вообще речь: агенты, а не просто чат

LangChain и CrewAI решают разные, хотя и пересекающиеся задачи. LangChain — это конструктор: цепочки вызовов, память, подключение инструментов, работа с документами через RAG¹. CrewAI надстроен над идеей мультиагентности — несколько «ролей» (исследователь, писатель, критик) делят задачу и обмениваются результатами. Оба написаны на Python, оба привязаны в первую очередь к моделям OpenAI и Anthropic, хотя формально поддерживают любой провайдер через совместимый интерфейс.

Ключевой момент для российского контекста: чтобы использовать эти фреймворки с отечественной моделью, нужен слой совместимости. Он бывает двух видов — либо провайдер сам отдаёт OpenAI-совместимый эндпоинт, либо кто-то пишет адаптер под интерфейс LangChain.

Что предлагают Яндекс и Сбер

YandexGPT и yandex-cloud-ml-sdk

Яндекс развивает YandexGPT в составе Yandex Cloud и поставляет официальный Python-SDK для работы с моделями и эмбеддингами. Для LangChain существует пакет-интеграция yandexgpt/langchain-yandex уровня сообщества и партнёров — он оборачивает модель в класс, который LangChain воспринимает как обычную LLM. Это позволяет использовать цепочки, RAG и агентские шаблоны LangChain, подставив под них YandexGPT.

Точные названия актуальных версий моделей, лимиты токенов и тарификацию проверяйте в консоли Yandex Cloud — они меняются, и подставлять сюда конкретную цифру было бы враньём.

GigaChat и gigachat SDK

Сбер поставляет собственную библиотеку gigachat для Python, а также интеграцию langchain-gigachat, которую компания заявляет как официальную. Через неё GigaChat подключается к цепочкам и агентам LangChain так же, как это делается с зарубежными моделями. Есть поддержка функций (function calling) и эмбеддингов — то, без чего агент и RAG не собираются.

Здесь важна оговорка: доступность конкретных возможностей зависит от версии модели (Lite / Pro / Max) и тарифа. Что именно входит в ваш доступ, смотрите в личном кабинете, а не в обзорах.

Обёртки и самостоятельные фреймворки от сообщества

Отдельного зрелого аналога CrewAI, написанного в России и широко используемого в продакшене, на сегодня выделить честно нельзя — это была бы выдача желаемого за действительное. На практике мультиагентные сценарии на российских моделях чаще собирают одним из двух способов:

• берут CrewAI или LangGraph как есть и подключают YandexGPT/GigaChat через их LangChain-интеграции;
• используют OpenAI-совместимый эндпоинт (если провайдер его предоставляет) и указывают его в конфиге любого фреймворка, рассчитанного на OpenAI.

Второй путь — самый переносимый: код, написанный под OpenAI SDK, начинает работать с российской моделью сменой базового URL и ключа, без переписывания логики агента.

Сравнение подходов

Выбор здесь почти никогда не про «российский фреймворк лучше зарубежного». Он про то, где хранятся данные и чьим API можно легально и стабильно платить.

Кому это пригодится и кому нет

Пригодится:

• командам, которые обрабатывают персональные данные и не могут отправлять их в зарубежные облака — тогда GigaChat или YandexGPT в российском облаке снимают часть регуляторных вопросов;
• тем, у кого уже налажена оплата через Yandex Cloud или Сбер — это устраняет главную боль с зарубежными подписками;
• проектам, где достаточно текстовых задач на русском: суммаризация, поддержка, извлечение данных из документов.

Скорее не пригодится:

• исследовательским прототипам, где важна максимальная свежесть моделей и широкий выбор — экосистема вокруг OpenAI и Anthropic всё ещё богаче интеграциями;
• сложным мультиагентным пайплайнам, где вы хотите готовые роли «из коробки»: здесь CrewAI + совместимый эндпоинт даст больше, чем текущие отечественные SDK;
• задачам с кодом и агентами-инструментами, если конкретная функциональность (например, стабильный function calling нужной формы) в вашей версии модели ограничена — это нужно проверять до, а не после запуска.

Как выбрать без переписывания кода

1. Определите ограничение по данным: если персональные данные нельзя вывозить — сразу отсекаете зарубежные облака.
2. Проверьте, отдаёт ли ваш провайдер OpenAI-совместимый эндпоинт: если да, пишите код под OpenAI SDK, это сохранит переносимость.
3. Соберите минимальный RAG-прототип на одной модели и замерьте качество на своих документах, а не на публичных бенчмарках.
4. Только после этого выбирайте фреймворк оркестрации — LangChain для цепочек и RAG, CrewAI/LangGraph для мультиагентных сценариев.

Практический вывод простой: отечественные SDK закрывают вопрос «на чём легально и стабильно работать», но абстракции для агентов вы почти наверняка возьмёте из LangChain, LangGraph или CrewAI. Это не проблема — именно так их и задумывали использовать: слой моделей и слой оркестрации разделены.

¹ RAG (retrieval-augmented generation) — подход, при котором модель перед ответом достаёт релевантные фрагменты из вашей базы документов и отвечает уже с опорой на них, а не только на то, что запомнила при обучении. Так снижают выдумывание фактов и подключают модель к закрытым данным.