🚀 ИИ-агенты на собственной инфраструктуре: ChatGPT-интерфейс для ваших LangGraph-агентов 🚀
Третья, финальная часть цикла уже опубликована в Академии Selectel! В материале закрываем полный стек: к готовому агентному бэкенду подключаем production-ready фронтенд — и выкатываем всё на боевой сервер с доменом и SSL.
В статье пошагово показал:
— как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за несколько минут
— как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
— как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
— как закрыть API Bearer-авторизацией — с разбором нюансов, которых нет в официальной документации
— как задеплоить всё через Nginx и PM2 так, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который:
— выглядит и работает как ChatGPT, но полностью на вашей инфраструктуре
— поддерживает стриминг токенов, историю диалогов и вызовы инструментов в реальном времени
— позволяет переключаться между несколькими агентами прямо в интерфейсе
— не открывает бэкенд наружу — LangGraph API доступен только внутри машины
— не зависит от OpenAI и не передаёт данные во внешние сервисы
Деплой проекта делал на сервере от @Selectel, который можно запустить за пару минут.
Материал будет полезен разработчикам и командам, которые хотят дать своим LangGraph-агентам красивый продакшн-фронтенд и полностью контролировать AI-инфраструктуру.
Реклама. АО «Селектел», erid: 2Vtzqvv7GsK
Третья, финальная часть цикла уже опубликована в Академии Selectel! В материале закрываем полный стек: к готовому агентному бэкенду подключаем production-ready фронтенд — и выкатываем всё на боевой сервер с доменом и SSL.
В статье пошагово показал:
— как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за несколько минут
— как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
— как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
— как закрыть API Bearer-авторизацией — с разбором нюансов, которых нет в официальной документации
— как задеплоить всё через Nginx и PM2 так, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который:
— выглядит и работает как ChatGPT, но полностью на вашей инфраструктуре
— поддерживает стриминг токенов, историю диалогов и вызовы инструментов в реальном времени
— позволяет переключаться между несколькими агентами прямо в интерфейсе
— не открывает бэкенд наружу — LangGraph API доступен только внутри машины
— не зависит от OpenAI и не передаёт данные во внешние сервисы
Деплой проекта делал на сервере от @Selectel, который можно запустить за пару минут.
Материал будет полезен разработчикам и командам, которые хотят дать своим LangGraph-агентам красивый продакшн-фронтенд и полностью контролировать AI-инфраструктуру.
Реклама. АО «Селектел», erid: 2Vtzqvv7GsK
🔥13❤4👍4
🚀 Для тех, кому удобнее читать на Хабре: финальная часть цикла про ИИ-агентов теперь и там!
Третья, заключительная часть цикла о построении независимой ИИ-инфраструктуры также опубликована на Хабре 👉 Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Если вы пропустили предыдущие части — в этом материале я закрываю полный стек: к готовому агентному бэкенду на LangGraph подключаю production-ready фронтенд и выкатываю всё на боевой сервер с доменом и SSL. Главная фишка прежняя: всё работает полностью на ваших серверах, без привязки к закрытым API, сторонним SaaS-платформам и зарубежным облакам.
В статье пошагово разбираю:
🔹 как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за пару минут
🔹 как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
🔹 как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
🔹 как закрыть API Bearer-авторизацией — с нюансами, которых нет в официальной документации
🔹 как задеплоить всё через Nginx и PM2, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который выглядит и работает как ChatGPT, но целиком на вашей инфраструктуре: со стримингом токенов, историей диалогов, вызовами инструментов в реальном времени и переключением между агентами прямо в интерфейсе. При этом бэкенд не открывается наружу и данные не уходят во внешние сервисы.
Также напоминаю, что весь исходный код к материалу открыт. Можно забирать, разворачивать на своей инфраструктуре и тестировать:
🔗 HabrGraphCLI → https://github.com/Yakvenalex/HabrGraphCLI
🔗 AgentChatUIHabr → https://github.com/Yakvenalex/Agent-chat-ui-habr
Буду рад обсудить архитектуру, ответить на вопросы и почитать о вашем опыте в комментариях на Хабре или в обсуждениях к данному посту 👇
Третья, заключительная часть цикла о построении независимой ИИ-инфраструктуры также опубликована на Хабре 👉 Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Если вы пропустили предыдущие части — в этом материале я закрываю полный стек: к готовому агентному бэкенду на LangGraph подключаю production-ready фронтенд и выкатываю всё на боевой сервер с доменом и SSL. Главная фишка прежняя: всё работает полностью на ваших серверах, без привязки к закрытым API, сторонним SaaS-платформам и зарубежным облакам.
В статье пошагово разбираю:
🔹 как подключить agent-chat-ui — официальный Next.js-интерфейс от LangChain — к LangGraph Server за пару минут
🔹 как кастомизировать фронтенд: перевод на русский, переключатель между агентами, удаление чатов
🔹 как выстроить три агента с разной архитектурой: генералист, диспетчер-мультиагент и узкий эксперт
🔹 как закрыть API Bearer-авторизацией — с нюансами, которых нет в официальной документации
🔹 как задеплоить всё через Nginx и PM2, чтобы LangGraph оставался внутри контура
В результате получается полноценный AI-продукт, который выглядит и работает как ChatGPT, но целиком на вашей инфраструктуре: со стримингом токенов, историей диалогов, вызовами инструментов в реальном времени и переключением между агентами прямо в интерфейсе. При этом бэкенд не открывается наружу и данные не уходят во внешние сервисы.
Также напоминаю, что весь исходный код к материалу открыт. Можно забирать, разворачивать на своей инфраструктуре и тестировать:
🔗 HabrGraphCLI → https://github.com/Yakvenalex/HabrGraphCLI
🔗 AgentChatUIHabr → https://github.com/Yakvenalex/Agent-chat-ui-habr
Буду рад обсудить архитектуру, ответить на вопросы и почитать о вашем опыте в комментариях на Хабре или в обсуждениях к данному посту 👇
Хабр
Облачная LLM на 16 ГБ VRAM — часть 3: ChatGPT-интерфейс для ваших LangGraph-агентов
Друзья, возвращаюсь с финальной частью цикла. За две предыдущие статьи мы подняли собственную локальную модель на облачном сервере с GPU на 16 ГБ VRAM, разобрались с vLLM и tool calling, собрали...
🔥19👍5👏2