Свой локальный ChatGPT 🚀

Наконец-то дошли руки до создания собственного ИИ-агента на Go.

В нашей команде недавно стартовали проекты, связанные с AI, но напрямую я ими не занимался — всё моё время уходило на другие задачи. При этом желание «потрогать руками» технологии не отпускало. Сначала казалось, что всё это очень сложно и требует кучи времени, но шаг за шагом: где-то видео на YouTube, где-то статья, и вот уже приходит понимание — начать намного проще, чем кажется.

Пара часов live-кодинга, немного экспериментов — и первый прототип готов. Агент умеет вести диалог и запоминать контекст. Работает! 🎉 Чувство как от запуска первого локального сервера.

Что дальше:

хочу подключить MCP, чтобы агент мог сам искать информацию (например, гуглить),

добавить RAG, чтобы работать с собственной базой знаний,

и со временем превратить его в полноценного помощника, а не просто чат.

Для себя сделал вывод: технологии уже достаточно доступны, чтобы каждый мог быстро собрать рабочее решение чего угодно. Главное — идея и желание.

PS использовал модели qwen2:7b и llama3.1:8b, те что по меньше выдавали не очень разумные ответы