🚀 Для тех, кому удобнее читать на Хабре: финальная часть цикла про ИИ-агентов теперь и там!
Третья, заключительная часть цикла о построении независимой ИИ-инфраструктуры также опубликована на Хабре 👉 Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Если вы пропустили предыдущие части — в этом материале я закрываю полный стек: к готовому агентному бэкенду на LangGraph подключаю production-ready фронтенд и выкатываю всё на боевой сервер с доменом и SSL. Главная фишка прежняя: всё работает полностью на ваших серверах, без привязки к закрытым API, сторонним SaaS-платформам и зарубежным облакам.
В статье пошагово разбираю:
🔹 как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за пару минут
🔹 как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
🔹 как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
🔹 как закрыть API Bearer-авторизацией — с нюансами, которых нет в официальной документации
🔹 как задеплоить всё через Nginx и PM2, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который выглядит и работает как ChatGPT, но целиком на вашей инфраструктуре: со стримингом токенов, историей диалогов, вызовами инструментов в реальном времени и переключением между агентами прямо в интерфейсе. При этом бэкенд не открывается наружу и данные не уходят во внешние сервисы.
Также напоминаю, что весь исходный код к материалу открыт. Можно забирать, разворачивать на своей инфраструктуре и тестировать:
🔗 HabrGraphCLI → https://github.com/Yakvenalex/HabrGraphCLI
🔗 AgentChatUIHabr → https://github.com/Yakvenalex/Agent-chat-ui-habr
Буду рад обсудить архитектуру, ответить на вопросы и почитать о вашем опыте в комментариях на Хабре или в обсуждениях к данному посту 👇
Третья, заключительная часть цикла о построении независимой ИИ-инфраструктуры также опубликована на Хабре 👉 Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Если вы пропустили предыдущие части — в этом материале я закрываю полный стек: к готовому агентному бэкенду на LangGraph подключаю production-ready фронтенд и выкатываю всё на боевой сервер с доменом и SSL. Главная фишка прежняя: всё работает полностью на ваших серверах, без привязки к закрытым API, сторонним SaaS-платформам и зарубежным облакам.
В статье пошагово разбираю:
🔹 как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за пару минут
🔹 как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
🔹 как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
🔹 как закрыть API Bearer-авторизацией — с нюансами, которых нет в официальной документации
🔹 как задеплоить всё через Nginx и PM2, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который выглядит и работает как ChatGPT, но целиком на вашей инфраструктуре: со стримингом токенов, историей диалогов, вызовами инструментов в реальном времени и переключением между агентами прямо в интерфейсе. При этом бэкенд не открывается наружу и данные не уходят во внешние сервисы.
Также напоминаю, что весь исходный код к материалу открыт. Можно забирать, разворачивать на своей инфраструктуре и тестировать:
🔗 HabrGraphCLI → https://github.com/Yakvenalex/HabrGraphCLI
🔗 AgentChatUIHabr → https://github.com/Yakvenalex/Agent-chat-ui-habr
Буду рад обсудить архитектуру, ответить на вопросы и почитать о вашем опыте в комментариях на Хабре или в обсуждениях к данному посту 👇
Хабр
Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Друзья, возвращаюсь с финальной частью цикла. За две предыдущие статьи мы подняли собственную локальную модель на облачном сервере с GPU на 16 ГБ VRAM, разобрались с vLLM и tool calling, собрали...
🔥19👍5👏2