Железо будущего — это хорошо, но что делать, если сервер нужен уже сегодня? 🛠️

Пока индустрия готовит новинки, проверяем, насколько жизнеспособна идея собрать сервер самостоятельно — например, из игровых комплектующих.

Технически это возможно, но для рабочих нагрузок рискованно. Игровой ПК рассчитан на короткие интенсивные сессии, а сервер должен стабильно работать круглые сутки. В таком режиме цепи питания перегреваются, SSD изнашиваются, а память без коррекции ошибок может повредить данные.

Надежнее доверить задачи оборудованию, рассчитанному на круглосуточную нагрузку. Арендуйте выделенный сервер в Selectel ➡️

🦖 Дайджест обновлений с Selectel ТехноДень

Раскрываем подробности продуктовых апдейтов, которыми мы поделились на нашей флагманской конференции.

1️⃣ Представили обновленную ИИ-платформу Selectel. В состав платформы вошли новые сервисы — Token Factory и Custom Inference, которые расширяют возможности инференса для бизнеса и позволяют получить доступ к популярным ИИ-моделям. Подробнее про каждый сервис рассказали здесь.

2️⃣ Запустили набор платформенных сервисов для работы с большими данными. Анонсировали новые PaaS-решения, которые позволяют проводить сквозную аналитику и выполнять мониторинг в реальном времени на основе массивов данных. Полный список продуктов — в посте.

3️⃣ Увеличили планы по инвестициям в развитие экосистемы продуктов для искусственного интеллекта. Год назад мы говорили о намерении вложить 10 млрд рублей в это направление за пять лет, но по итогам 9 месяцев 2026 года инвестиции уже превысили 30% от этой суммы. Мы обновляем прогноз и планируем вложить 25 млрд рублей в экосистему продуктов для ИИ до 2031 года.

Как подружить DeepSeek и корпоративные данные? 🔒

Онлайн-версии LLM удобны, но есть нюанс: запросы и загруженные файлы передаются на внешние серверы. Чтобы сохранить контроль над информацией, DeepSeek можно развернуть в собственной инфраструктуре.

Как настроить и запустить DeepSeek локально?
📎 выбрать версию DeepSeek-R1 под ресурсы сервера,
📎 установить модель через LM Studio или Ollama,
📎 подключить RAG для работы с внутренней базой знаний.

Сохраняйте пошаговую инструкцию, чтобы развернуть собственную нейросеть с учетом требований ИБ.

Протестируйте DeepSeek и еще 400+ LLM в ИИ-роутере Selectel и выберите модель под ваши задачи 👉

Что изменилось в мире нейросетей за месяц? 👀
Если кратко — инференс становится доступнее, а инфраструктура требует все больше ресурсов.

✏️ OpenAI и Anthropic снижают цены

Компании почти одновременно представили модели дешевле предшественников. Но цена токена уже не дает полной картины затрат.

✏️ Кэширование выходит на первый план

Все большую роль играет повторное использование контекста. Тренд заметен и по DeepSeek, которая снизила стоимость кэшированного входа.

✏️ Обновляется стек для ML

За месяц вышли новые версии PyTorch, vLLM и SGLang. В SGLang улучшили работу с кэшем и время до первого токена.

✏️ NVIDIA выводит Vera Rubin в производство

Компания подтвердила серийное производство нового поколения ускорителей.

О том, что еще происходит в сфере ИИ и что это значит для экономики инференса, читайте в свежем ML-дайджесте Академии Selectel 👉

+3 курса в копилку продуктовых знаний 🧠

Загрузили новые бесплатные курсы по работе с нашими продуктами на Selectel.Стак.
Среди них — материалы по:

🔸 S3,
🔸 облачным базам данных,
🔸 Managed Kubernetes.

Также на платформе открыты курсы по выделенным и облачным серверам. Изучайте новое, проверяйте знания с помощью тестов и получайте сертификаты.

Укрепляйте продуктовые знания бесплатно. Жмите, чтобы освоить работу с сервисами Selectel ➡️

🔒 Можно ли заставить LLM забыть все, чему ее учили?

Вполне! По этому принципу работают джейлбрейки: специально сформулированный запрос может заставить LLM игнорировать правила системы и раскрыть конфиденциальные данные. Особенно это нельзя допускать в системах, где модель работает с внутренними документами или пользовательской информацией.

Блокировать такие попытки обхода помогают гардрейлы. Они проверяют входящие запросы и ответы модели и задают правила ее работы. Такой контур охватывает весь путь запроса — от его получения до проверки готового ответа.

Подробнее об архитектуре гардрейлов, задачах каждого уровня защиты и ограничениях WAF читайте в новой статье Академии Selectel ➡️