Прокачиваем корпоративного ИИ-помощника. Чему его обучите?
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤14🔥11💯8 6
RAG выходит на новый уровень 🚀
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
🔵 RAG 2.0 совершенствует взаимодействие поиска и LLM. Оба компонента настраиваются совместно, чтобы система формировала наиболее качественные ответы.
🔵 Agentic RAG добавляет управление поиском: модель планирует действия, выбирает инструменты, оценивает найденные данные и при необходимости уточняет запрос.
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта➡️
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ Tencent представила Hy4 flash
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇
❤8 6❤🔥3🔥2👌1🌚1
Правда или миф: ИИ-модель обрабатывает миллион токенов контекста и не отправляет данные за границу?
🔥 — очень хотелось бы, чтобы это была правда
💯 — такое даже ИИ не придумает
🌚 — а в чем подвох?
🔥 — очень хотелось бы, чтобы это была правда
💯 — такое даже ИИ не придумает
🌚 — а в чем подвох?
🔥22🌚21💯9❤5
В это сложно поверить, но…
миллион токенов контекста реально получить без отправки за границу 🤩
Вы можете получить доступ к популярным open-source моделям через OpenAI-совместимый API в Token Factory Selectel. А главное — все они развернуты в российских дата-центрах Selectel.
❗️ Среди новинок — мультимодальная модель DeepSeek V4.1 Flash с экономным KV-кэшем. В FP4 она занимает 890 байт на токен, что вчетверо меньше, чем у V4 Flash. Такой подход позволяет эффективно масштабировать память при работе с контекстом в миллион токенов.
Переходите в каталог Token Factory и тестируйте ИИ-модели с оплатой по токенам на своих задачах➡️
Вы можете получить доступ к популярным open-source моделям через OpenAI-совместимый API в Token Factory Selectel. А главное — все они развернуты в российских дата-центрах Selectel.
Переходите в каталог Token Factory и тестируйте ИИ-модели с оплатой по токенам на своих задачах
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10 7🥰4🤣2
От терминала к удобному чату с LLM 🎓
Для взаимодействия с LLM необязательно разрабатывать собственный интерфейс или разбираться в командах черного окна терминала. Готовые open-source решения позволяют общаться с моделями через привычный чат, загружать документы и организовывать командный доступ.
Сравниваем четыре популярных интерфейса и разбираемся, для каких задач подходит каждый.
Выбирайте подходящий инструмент и сохраняйте подборку👉
Для взаимодействия с LLM необязательно разрабатывать собственный интерфейс или разбираться в командах черного окна терминала. Готовые open-source решения позволяют общаться с моделями через привычный чат, загружать документы и организовывать командный доступ.
Сравниваем четыре популярных интерфейса и разбираемся, для каких задач подходит каждый.
Выбирайте подходящий инструмент и сохраняйте подборку
Please open Telegram to view this post
VIEW IN TELEGRAM
👏7 6❤3🤯1
⚡️Три новых LLM для ваших ИИ-проектов
В каталоге появились свежие новинки от OpenAI и Alibaba:
1️⃣ GPT-6.2 Astra — мощный инструмент для программирования, многошаговых сценариев с ИИ-агентами и работы с документами.
2️⃣ GPT-6.2 Sol — более экономичный вариант для повседневных задач, разработки и автоматизации процессов.
3️⃣ Qwen4-Max — флагманская MoE-модель с контекстным окном до 1 млн токенов, ориентированная на написание кода и сложные агентные задачи.
Все LLM уже доступны в ИИ-роутере Selectel. Подключайте их к своим проектам через единый API-ключ и платите в рублях ⤵️
В каталоге появились свежие новинки от OpenAI и Alibaba:
1️⃣ GPT-6.2 Astra — мощный инструмент для программирования, многошаговых сценариев с ИИ-агентами и работы с документами.
2️⃣ GPT-6.2 Sol — более экономичный вариант для повседневных задач, разработки и автоматизации процессов.
3️⃣ Qwen4-Max — флагманская MoE-модель с контекстным окном до 1 млн токенов, ориентированная на написание кода и сложные агентные задачи.
Все LLM уже доступны в ИИ-роутере Selectel. Подключайте их к своим проектам через единый API-ключ и платите в рублях ⤵️
🔥9 7⚡3❤1🎉1
Чем удивил рынок серверного железа за последний месяц? ⚙️
Собрали дайджест главных анонсов
🔹 Intel представила GPU с памятью
🔹 AMD и NVIDIA показали свои CPU-стойки для ИИ-агентов
🔹 Microsoft создала ИИ-ускоритель Maia 300 с 288 ГБ HBM4
🔹 Frore предложила охлаждать GPU синтетическими алмазами
🔹 Samsung и AMD протестировали CXL-пул памяти для ИИ-агентов
Больше о железных новинках читайте в свежем материале Академии Selectel➡️
Собрали дайджест главных анонсов
🔹 Intel представила GPU с памятью
LPDDR5X объемом до 480 ГБ
Ускоритель ориентирован на инференс LLM с длинным контекстом, где большой объем памяти может быть важнее высокой пропускной способности.
🔹 AMD и NVIDIA показали свои CPU-стойки для ИИ-агентов
В обеих разработках CPU берут на себя выполнение кода, работу с инструментами и оркестрацию, освобождая GPU для вычислений ИИ-моделей.
🔹 Microsoft создала ИИ-ускоритель Maia 300 с 288 ГБ HBM4
Чип рассчитан на инференс LLM и агентные сценарии, а платформа на его основе может объединять до 12 288 ускорителей.
🔹 Frore предложила охлаждать GPU синтетическими алмазами
По результатам испытаний алмазные вставки снизили температуру GPU на 16–22 °C по сравнению с обычными водоблоками.
🔹 Samsung и AMD протестировали CXL-пул памяти для ИИ-агентов
В перспективе серверы смогут получать дополнительную оперативную память из общего пула по запросу и возвращать ее, когда потребность снижается.
Больше о железных новинках читайте в свежем материале Академии Selectel
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8🔥5⚡4