Мини-ПК для LLM и автоматизации 💻
Современные мини-ПК все чаще берут на себя задачи полноразмерных компьютеров. Пока одни производители оснащают свои устройства более мощными процессорами и увеличивают объем памяти, другие экспериментируют с архитектурой и охлаждением.
👉 Выбрали пять интересных новинок этой осени и разобрали их характеристики и сценарии использования.
Сравнивайте модели в карточках, а больше технических деталей ищите в полной статье➡️
Современные мини-ПК все чаще берут на себя задачи полноразмерных компьютеров. Пока одни производители оснащают свои устройства более мощными процессорами и увеличивают объем памяти, другие экспериментируют с архитектурой и охлаждением.
Сравнивайте модели в карточках, а больше технических деталей ищите в полной статье
Please open Telegram to view this post
VIEW IN TELEGRAM
Экспериментируете с ИИ или интегрируете его в свой продукт?
В ИИ-роутере Selectel доступно 400+ LLM по единому API-ключу. Выбирайте подходящую модель и подключайте ее к своему проекту через API 👇
В ИИ-роутере Selectel доступно 400+ LLM по единому API-ключу. Выбирайте подходящую модель и подключайте ее к своему проекту через API 👇
🥰9❤6 5
⏰ Понедельник начинается с новой инструкции по ИИ-агентам
С нашей подборкой вы успеваете добавить дополнительную задачу в текущий спринт. Например, развернуть DeepSeek или Qwen. Знакомьтесь с каждой инструкцией подробнее в Академии Selectel 👇
🔸 Qwen как универсальный ассистент
🔸 DeepSeek для выгодной автоматизации
🔸 Llama 3 для генерации текста
🔸 Mistral-7B-Instruct-v0.3 как основа для внутреннего ассистента
🔸 Wan 2.2 для генерации видео
❤️ — чтобы разблокировать новый мини-курс по ИИ-агентам.
С нашей подборкой вы успеваете добавить дополнительную задачу в текущий спринт. Например, развернуть DeepSeek или Qwen. Знакомьтесь с каждой инструкцией подробнее в Академии Selectel 👇
🔸 Qwen как универсальный ассистент
За несколько шагов разбираемся, как развернуть модель на GPU-сервере и поднять OpenAI-совместимый API через vLLM для интеграции в свои проекты.
🔸 DeepSeek для выгодной автоматизации
Выясняем, какой сервер подойдет для работы модели и как подготовиться к запуску.
🔸 Llama 3 для генерации текста
Показываем, как настроить популярную связку Ollama + Open WebUI.
🔸 Mistral-7B-Instruct-v0.3 как основа для внутреннего ассистента
Рассказываем, как получить инференс-эндпоинт в формате OpenAI-compatible API и проверить его работу запросом из терминала.
🔸 Wan 2.2 для генерации видео
Смотрим, сколько памяти нужно для работы модели и какие конфигурации прописать, чтобы все заработало с первого раза.
❤️ — чтобы разблокировать новый мини-курс по ИИ-агентам.
❤19 14💯5🔥2
Реакции собрали — мини-курс разблокирован 🔐
Проходите в удобное время и запускайте первых ИИ-агентов и ассистентов с материалами Академии Selectel 🦖
Проходите в удобное время и запускайте первых ИИ-агентов и ассистентов с материалами Академии Selectel 🦖
🔥6 6❤4
Прокачиваем корпоративного ИИ-помощника. Чему его обучите?
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤14🔥11💯8 6
RAG выходит на новый уровень 🚀
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
🔵 RAG 2.0 совершенствует взаимодействие поиска и LLM. Оба компонента настраиваются совместно, чтобы система формировала наиболее качественные ответы.
🔵 Agentic RAG добавляет управление поиском: модель планирует действия, выбирает инструменты, оценивает найденные данные и при необходимости уточняет запрос.
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта➡️
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ Tencent представила Hy4 flash
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇
❤8 6❤🔥3🔥2👌1🌚1
Правда или миф: ИИ-модель обрабатывает миллион токенов контекста и не отправляет данные за границу?
🔥 — очень хотелось бы, чтобы это была правда
💯 — такое даже ИИ не придумает
🌚 — а в чем подвох?
🔥 — очень хотелось бы, чтобы это была правда
💯 — такое даже ИИ не придумает
🌚 — а в чем подвох?
🔥22🌚21💯9❤5
В это сложно поверить, но…
миллион токенов контекста реально получить без отправки за границу 🤩
Вы можете получить доступ к популярным open-source моделям через OpenAI-совместимый API в Token Factory Selectel. А главное — все они развернуты в российских дата-центрах Selectel.
❗️ Среди новинок — мультимодальная модель DeepSeek V4.1 Flash с экономным KV-кэшем. В FP4 она занимает 890 байт на токен, что вчетверо меньше, чем у V4 Flash. Такой подход позволяет эффективно масштабировать память при работе с контекстом в миллион токенов.
Переходите в каталог Token Factory и тестируйте ИИ-модели с оплатой по токенам на своих задачах➡️
Вы можете получить доступ к популярным open-source моделям через OpenAI-совместимый API в Token Factory Selectel. А главное — все они развернуты в российских дата-центрах Selectel.
Переходите в каталог Token Factory и тестируйте ИИ-модели с оплатой по токенам на своих задачах
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10 7🥰4🤣2
От терминала к удобному чату с LLM 🎓
Для взаимодействия с LLM необязательно разрабатывать собственный интерфейс или разбираться в командах черного окна терминала. Готовые open-source решения позволяют общаться с моделями через привычный чат, загружать документы и организовывать командный доступ.
Сравниваем четыре популярных интерфейса и разбираемся, для каких задач подходит каждый.
Выбирайте подходящий инструмент и сохраняйте подборку👉
Для взаимодействия с LLM необязательно разрабатывать собственный интерфейс или разбираться в командах черного окна терминала. Готовые open-source решения позволяют общаться с моделями через привычный чат, загружать документы и организовывать командный доступ.
Сравниваем четыре популярных интерфейса и разбираемся, для каких задач подходит каждый.
Выбирайте подходящий инструмент и сохраняйте подборку
Please open Telegram to view this post
VIEW IN TELEGRAM
👏7 6❤3🤯1
⚡️Три новых LLM для ваших ИИ-проектов
В каталоге появились свежие новинки от OpenAI и Alibaba:
1️⃣ GPT-6.2 Astra — мощный инструмент для программирования, многошаговых сценариев с ИИ-агентами и работы с документами.
2️⃣ GPT-6.2 Sol — более экономичный вариант для повседневных задач, разработки и автоматизации процессов.
3️⃣ Qwen4-Max — флагманская MoE-модель с контекстным окном до 1 млн токенов, ориентированная на написание кода и сложные агентные задачи.
Все LLM уже доступны в ИИ-роутере Selectel. Подключайте их к своим проектам через единый API-ключ и платите в рублях ⤵️
В каталоге появились свежие новинки от OpenAI и Alibaba:
1️⃣ GPT-6.2 Astra — мощный инструмент для программирования, многошаговых сценариев с ИИ-агентами и работы с документами.
2️⃣ GPT-6.2 Sol — более экономичный вариант для повседневных задач, разработки и автоматизации процессов.
3️⃣ Qwen4-Max — флагманская MoE-модель с контекстным окном до 1 млн токенов, ориентированная на написание кода и сложные агентные задачи.
Все LLM уже доступны в ИИ-роутере Selectel. Подключайте их к своим проектам через единый API-ключ и платите в рублях ⤵️
🔥9 7⚡3❤1🎉1
Чем удивил рынок серверного железа за последний месяц? ⚙️
Собрали дайджест главных анонсов
🔹 Intel представила GPU с памятью
🔹 AMD и NVIDIA показали свои CPU-стойки для ИИ-агентов
🔹 Microsoft создала ИИ-ускоритель Maia 300 с 288 ГБ HBM4
🔹 Frore предложила охлаждать GPU синтетическими алмазами
🔹 Samsung и AMD протестировали CXL-пул памяти для ИИ-агентов
Больше о железных новинках читайте в свежем материале Академии Selectel➡️
Собрали дайджест главных анонсов
🔹 Intel представила GPU с памятью
LPDDR5X объемом до 480 ГБ
Ускоритель ориентирован на инференс LLM с длинным контекстом, где большой объем памяти может быть важнее высокой пропускной способности.
🔹 AMD и NVIDIA показали свои CPU-стойки для ИИ-агентов
В обеих разработках CPU берут на себя выполнение кода, работу с инструментами и оркестрацию, освобождая GPU для вычислений ИИ-моделей.
🔹 Microsoft создала ИИ-ускоритель Maia 300 с 288 ГБ HBM4
Чип рассчитан на инференс LLM и агентные сценарии, а платформа на его основе может объединять до 12 288 ускорителей.
🔹 Frore предложила охлаждать GPU синтетическими алмазами
По результатам испытаний алмазные вставки снизили температуру GPU на 16–22 °C по сравнению с обычными водоблоками.
🔹 Samsung и AMD протестировали CXL-пул памяти для ИИ-агентов
В перспективе серверы смогут получать дополнительную оперативную память из общего пула по запросу и возвращать ее, когда потребность снижается.
Больше о железных новинках читайте в свежем материале Академии Selectel
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8🔥5⚡4