Мини-ПК для LLM и автоматизации 💻
Современные мини-ПК все чаще берут на себя задачи полноразмерных компьютеров. Пока одни производители оснащают свои устройства более мощными процессорами и увеличивают объем памяти, другие экспериментируют с архитектурой и охлаждением.
👉 Выбрали пять интересных новинок этой осени и разобрали их характеристики и сценарии использования.
Сравнивайте модели в карточках, а больше технических деталей ищите в полной статье➡️
Современные мини-ПК все чаще берут на себя задачи полноразмерных компьютеров. Пока одни производители оснащают свои устройства более мощными процессорами и увеличивают объем памяти, другие экспериментируют с архитектурой и охлаждением.
Сравнивайте модели в карточках, а больше технических деталей ищите в полной статье
Please open Telegram to view this post
VIEW IN TELEGRAM
Экспериментируете с ИИ или интегрируете его в свой продукт?
В ИИ-роутере Selectel доступно 400+ LLM по единому API-ключу. Выбирайте подходящую модель и подключайте ее к своему проекту через API 👇
В ИИ-роутере Selectel доступно 400+ LLM по единому API-ключу. Выбирайте подходящую модель и подключайте ее к своему проекту через API 👇
🥰8❤5 5
⏰ Понедельник начинается с новой инструкции по ИИ-агентам
С нашей подборкой вы успеваете добавить дополнительную задачу в текущий спринт. Например, развернуть DeepSeek или Qwen. Знакомьтесь с каждой инструкцией подробнее в Академии Selectel 👇
🔸 Qwen как универсальный ассистент
🔸 DeepSeek для выгодной автоматизации
🔸 Llama 3 для генерации текста
🔸 Mistral-7B-Instruct-v0.3 как основа для внутреннего ассистента
🔸 Wan 2.2 для генерации видео
❤️ — чтобы разблокировать новый мини-курс по ИИ-агентам.
С нашей подборкой вы успеваете добавить дополнительную задачу в текущий спринт. Например, развернуть DeepSeek или Qwen. Знакомьтесь с каждой инструкцией подробнее в Академии Selectel 👇
🔸 Qwen как универсальный ассистент
За несколько шагов разбираемся, как развернуть модель на GPU-сервере и поднять OpenAI-совместимый API через vLLM для интеграции в свои проекты.
🔸 DeepSeek для выгодной автоматизации
Выясняем, какой сервер подойдет для работы модели и как подготовиться к запуску.
🔸 Llama 3 для генерации текста
Показываем, как настроить популярную связку Ollama + Open WebUI.
🔸 Mistral-7B-Instruct-v0.3 как основа для внутреннего ассистента
Рассказываем, как получить инференс-эндпоинт в формате OpenAI-compatible API и проверить его работу запросом из терминала.
🔸 Wan 2.2 для генерации видео
Смотрим, сколько памяти нужно для работы модели и какие конфигурации прописать, чтобы все заработало с первого раза.
❤️ — чтобы разблокировать новый мини-курс по ИИ-агентам.
❤16 13💯5🔥2
Реакции собрали — мини-курс разблокирован 🔐
Проходите в удобное время и запускайте первых ИИ-агентов и ассистентов с материалами Академии Selectel 🦖
Проходите в удобное время и запускайте первых ИИ-агентов и ассистентов с материалами Академии Selectel 🦖
🔥5 5❤4
Прокачиваем корпоративного ИИ-помощника. Чему его обучите?
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤️ — поиск по внутренней базе знаний
💯 — работа с несколькими источниками данных
🔥 — самостоятельная проверка результатов и уточнение запросов
❤10🔥8💯6 6
RAG выходит на новый уровень 🚀
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
🔵 RAG 2.0 совершенствует взаимодействие поиска и LLM. Оба компонента настраиваются совместно, чтобы система формировала наиболее качественные ответы.
🔵 Agentic RAG добавляет управление поиском: модель планирует действия, выбирает инструменты, оценивает найденные данные и при необходимости уточняет запрос.
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта➡️
Классический RAG хорошо справляется с FAQ и типовыми справками. Он находит релевантные фрагменты и передает их LLM для генерации ответа. При работе с более сложными запросами системе недостаточно найти информацию. Важно также оценить ее полноту и при необходимости продолжить поиск.
Эти ограничения дали толчок двум направлениям развития технологии:
В новой статье разбираем, чем отличаются классический и агентный RAG, как они устроены и для каких сценариев подходят. Читайте и выбирайте подход под задачи своего проекта
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ Tencent представила Hy4 flash
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇
Модель получила 224 млрд параметров, а при обработке каждого токена задействует только 12 млрд. Это помогает снизить вычислительную нагрузку, а контекстное окно в 1 млн токенов позволяет работать с большими объемами информации.
Hy4 flash уже доступна в ИИ-роутере Selectel. Подключайтесь по единому API-ключу и тестируйте новинку и 400+ других моделей на своих задачах👇