Привет, это канал разработчика ИИ агентов, буду делиться подробностями и процессом разработки различных ИИ агентов

Какие вообще языковые модели бывают?
Ну понятно LLM - большие языковые модели, которые предсказывают следующее слово в зависимости от контекста. Из чего состоит LLM поговорим в следующий раз. 
Но бывает еще и LRM - Large Reasoning Models, которые уже умеют мыслить логически и пошагово, для сложных задач. Так же их хорошо применять для составления планов и устранений противоречий. 
LAM - Large Action Model - модель обученная не на тексте, а на действиях. Например на движениях курсора или движениях робототехнической руки, как уже из названия понятно, что она для генерирования действия в зависимости от ситуации.

https://github.com/VectifyAI/PageIndex
RAG - это уже стандарт, но есть сложности - этот подход пытается получить из векторной базы данных наиболее похожие данные на запрос, и возможно, что он просто не найдет ее. Это плохо особенно в приложениях для обработки юридических, медицинских и других важных данных. Но есть новый подход который набирает тренд и это PageIndex. Что он делает? Он строит смысловое дерево по тексту и индексирует его, и уже по запросу ищет релевантные данные, а не похожие как в RAG. Возможно это убийца RAG.

Почему нужна кастомная разработка если есть OpenClaw.
Короткий ответ - при эксплуатации выйдет дешевле. Во-первых при разработке можно создать много инструментов которых нет в OpenClaw и которых вообще не потребляют токены, во-вторых составить архитектуру агентов и необходимую мощность для них, чтоб оптимизировать расходы, чтоб не стрелять пушкой по воробьям. Третье - проще отлаживать и исправлять баги.
Конечно, все можно делать и на основе OpenClaw, но тогда это по сути разработка отдельного агента, но с определенными ограничениями, так как при разработке кастомного агента(или мультиагента) мы вольны выбирать среди фреймворков.

Какие проблемы могут возникнуть при заполнении RAG документами?
На самом деле это тема для многих статей, но одна из них - это дубликаты документов.
Почему недостаточно просто загрузить файлы в векторную базу?
Если при каждом запуске скрипта заново добавлять все документы например в Qdrant (векторная база данных которую я использую), можно получить дубликаты чанков и ухудшить качество поиска.
Более надёжный pipeline:
1. Рассчитать hash содержимого загружаемого файла.
2. Поискать если такой хеш мы уже видели.
3. Пропустить неизменившиеся документы.
4. Переиндексировать изменённые.
Для этого полезно использовать стабильные ID документов, метаданные источника и отдельный скрипт для заполнения векторной бд.
#ИИ #RAG

Недавно решал проблему с одной RAG системой для клиента, выдавала не тот результат, как будто просто вытаскивала данные с базы данных если запрос похож на этот самый текст.
Проблема оказалось, что навайбкодили не разобравшись в RAG паттернах и просто по простому хешу запрашивали данные из векторной базы.
Добавил локальный embedding BM25 и это решило проблему.
#ИИ #RAG