🔍 Удобство внешней LLM или контроль над данными?

Порой приходится выбирать. Сторонний сервис помогает быстрее разбирать логи и документацию, но вместе с запросом во внешний контур может уйти и чувствительная информация. 

Модели типа MiniMax-M2.7 запускаются локально и обрабатывают все внутри компании, не передавая данные за пределы инфраструктуры. А интеграция с существующими системами не требует переписывания кода.

В Академии Selectel рассказали, что нужно сделать, чтобы собрать замкнутый пайплайн анализа инцидентов:

❄️ поднять модель через vLLM на GPU-сервере;
❄️ подключить S3 как слой хранения для логов, runbook и готовых отчетов;
❄️ вывести отчет в Markdown: паттерны запросов, HTTP-статусы и план действий по приоритету.

Подберите конфигурацию GPU-сервера для локального запуска LLM в Selectel 👉

+ 1 навык в вашем стаке 🏆

Мы запустили новую образовательную платформу с бесплатными курсами, чтобы вы могли быстро обучиться работе с продуктами Selectel. Внутри — теоретические материалы, тесты на проверку знаний и практические задания.

Пока на платформе открыты два курса:
- по выделенным серверам,
- по облаку.

На каждом из них вы научитесь выбирать продукты исходя из запросов. А также получите промокод на бесплатную практику в панели управления Selectel и сертификат о прохождении. 

В скором времени откроем больше учебных материалов. Начните обучение сейчас 👉

✅ Ваш сервер уже доставлен

Вы можете арендовать любой сервер для запуска проекта на своей территории с помесячной оплатой и полным контролем над ИТ-инфраструктурой.

С нас не только доставка👇

1️⃣ Поддержим быстрый запуск
Привезем серверы в города России и Беларуси в течение месяца, а в Москву и Питер — за два дня.

2️⃣ Предоставим новейшие комплектующие
Среди них — GPU B300, CPU Intel Xenon, AMD EPYC 9965, DDR5 и другие.

3️⃣ Нарастим мощности или уберем ненужные комплектующие
Заберем оборудование без штрафов, если сервер больше не нужен. Масштабируем мощности, если пилот взлетел. 
Если сервер нужен на более долгий срок, сможете выкупить оборудование.

Бесплатно подберем нужную конфигурацию перед заказом. Арендуйте серверы с доставкой на вашу площадку ➡️

🔍 Классический Data Lake перестал справляться?
Пора строить собственную платформу данных

Дополнительное хранилище не поможет, когда форматы множатся, а объем данных перешагнул за терабайт. Оптимальное решение — табличный слой поверх существующих хранилищ. Он дает ACID-транзакции, эволюцию схемы без переписывания данных и одинаковое представление таблиц для стриминга, ML и BI.

🎓 В Академии Selectel мы собрали серию статей по построению собственной платформы данных на базе Apache Iceberg. Хотите навести порядок в хранении данных — сохраняйте!

Часть 1. Разбираемся с архитектурой Apache Iceberg.
Часть 2. Практика: связываем метаданные в единую систему для разных движков.
Часть 3. Подключаем вычислительный движок к платформе данных.

Ставьте ❤️, если ждете продолжение статей про платформу данных.

Роутер к внешним LLM vs свой инференс ⚖️

В каких проектах выгоднее использовать тарификацию по ресурсам, а для каких оптимальна оплата по токенам? Разбираемся на примере наших продуктов из ИИ-платформы Selectel.

Выгодно платить за вычислительные ресурсы → Foundation Models Catalog

🖥 Требования регуляторов. Вычисления и данные не должны покидать границы государства.
🖥 Проект растет. Количество запросов настолько
велико или непредсказуемо, что экономически выгоднее платить за GPU, чем за миллион токенов.
🖥 Архитектура усложняется. Ваш продукт полагается на несколько моделей и многоэтапные пайплайны. От этого выгоднее минимизировать сетевые задержки и сложность развертывания.

Выгодно платить за количество токенов → ИИ-роутер

🖥 Проект на старте. Объем запросов низкий или нестабильный. Нет смысла резервировать дорогие GPU, но проще платить за фактические токены.
🖥 Нагрузка эпизодическая. Пиковые всплески сменяются периодами простоя. Оплата по токенам позволяет не держать инфраструктуру без использования.
🖥 Не нужна кастомизация. Используете стандартные публичные модели без дообучения или специфических требований к окружению.

Сохраняйте пост со шпаргалкой по выбору решения. Больше вариантов ИТ-инфраструктуры для ИИ-задач — в ИИ-платформе Selectel ➡️

🔍 ИИ поднял вопрос хранения и систематизации данных на новый уровень сложности

Найти конкретную информацию в общем хранилище было непросто и раньше. Теперь ее нужно еще и готовить к обучению LLM — следить за качеством и актуальностью. Компании рассчитывали, что Data Lake упростит эту работу, но на практике все вышло иначе.

В новом выпуске подкаста «Сегодня на ретро» выясняем, почему так произошло и чем на практике отличаются Data Warehouse, Data Lake и Data Lakehouse.

В нашей студии — Антон Близгарев, директор по развитию бизнеса Arenadata, и Алексей Вокуев, продакт-менеджер по Big Data в Selectel. Вместе разбираем, как архитектура данных выдерживает рост бизнеса, что дает open source и во сколько обходится его поддержка, а также какие новые требования к данным приносит эпоха ИИ.

Смотрите на наших площадках:
🔹YouTube,
🔹VK Видео,
🔹Rutube.

А если после выпуска захочется навести порядок в своих данных — подберите подходящее решение в Selectel ➡️👉