Как развернуть приватную LLM в Kubernetes

Selectel приглашает на вебинар, где покажут, весь путь до готового интерфейса, настройки мониторинга, распределенных моделей, интеграции и даже автоматизации инфраструктуры.

📅 12 марта, 12:00
📍Онлайн
👥Для DevOps и SRE-инженеров, Архитекторов и менеджеров ИТ-инфраструктуры.

👉Смотрите полную программу и регистрируйтесь: https://slc.tl/avssr

Чтобы не пропустить вебинар и узнавать о других событиях и бесплатных курсах Selectel, подписывайтесь на @selectel_events

Реклама. АО "Селектел". erid:2W5zFGrSGVw

🚀 Компания три месяца принимала решения по цифрам… которые придумал AI.

История из Reddit.

В компании решили ускорить работу и заменить аналитика на AI.
Он быстро отвечал на вопросы руководства, собирал метрики, показывал динамику и объяснял тренды.

Всё выглядело идеально.
Отчёты — быстро.
Графики — красиво.
Выводы — уверенно.

Проблему заметили только через три месяца.

Оказалось, что AI:
- брал данные из неправильных периодов
- путал продукты
- иногда просто выдумывал цифры

И всё это время вице-президент и финансовый директор принимали решения на основе данных, которых не существовало.

Самое показательное — когда разработчик указал на ошибку, ему ответили:

“Не замедляй инновации.”

Главный вывод

Опасность AI не в том, что он ошибается.
Опасность в том, что он делает это уверенно.

Автоматизация без проверки — это не ускорение.
Это риск принимать решения в вымышленной реальности.

Источник
https://www.reddit.com/r/analytics/comments/1r4dsq2/we_just_found_out_our_ai_has_been_making_up/

🎥 Вебинар по Linux: GREP и другие регулярные выражения Linux

На вебинаре вы узнаете:
• Разберём, что такое регулярные выражения и в чём разница между их основными типами (Basic, Extended, PCRE)
• Узнаем, как не сломать grep, sed и awk одной неловкой скобкой и заставить их делать ровно то, что вам нужно
• Составим шаблоны для логов, чтобы находить не просто «ошибки», а именно ту ошибку, которая мешает спать. И чтобы конфиги сами себя проверяли (ну, почти)
• Научимся отлаживать и тестировать регулярные выражения на практике.

В результате вебинара вы:
• Перестанете путать .* с .+ и будете знать, почему это важно.
• Научитесь писать выражения, которые работают с первого раза (ладно, со второго).
• Автоматизируете хотя бы одну рутину прямо на вебинаре
👉 Для участия зарегистрируйтесь: https://otus.pw/zKnq/?erid=2W5zFJ1FRSh

🎁 Все участники вебинара получат специальные условия на полное обучение курса "Administrator Linux. Professional"

Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

Языки программирования и время разработки до первого релиза

🦀 Rust - 9 лет (2006 → 2015)

🤖 Kotlin - 6 лет (2010 → 2016)

⚙️ C++ - 6 лет (1979 → 1985)

☕ Java - 5 лет (1991 → 1996)

🐹 Go - 5 лет (2007 → 2012)

🍎 Swift - 4 года (2010 → 2014)

🔧 C - 3 года (1969 → 1972)

🧬 Scala - 3 года (2001 → 2004)

📊 Julia - 3 года (2009 → 2012)

💧 Elixir - 3 года (2011 → 2014)

🎯 C# - 2 года (1998 → 2000)

🎯 Dart - 2 года (2011 → 2013)

🐍 Python - 2 года (1989 → 1991)

📘 TypeScript - 1 год (2011 → 2012)

🌐 PHP - 1 год (1994 → 1995)

⚡ JavaScript - 10 дней (май 1995)

Yandex B2B Tech запустила Monium — платформу observability для мониторинга и управления состоянием ИТ-систем. Решение уже доступно пользователям Yandex Cloud и позиционируется как enterprise-инструмент для работы с высоконагруженными сервисами.

Функциональность платформы
Monium объединяет метрики, логи и трейсы в едином интерфейсе, что соответствует современному подходу к unified observability. Система предназначена для анализа работы приложений, инфраструктуры и распределённых сервисов в реальном времени и помогает быстрее определять причины инцидентов.

Технологии и интеграции
Платформа поддерживает Prometheus и OpenTelemetry, что упрощает внедрение в существующие DevOps-конвейеры и снижает зависимость от конкретного вендора. Реализован гибкий алертинг с настройкой сценариев эскалации и поддержкой разных каналов уведомлений.

Масштаб и применение
Monium разрабатывалась командой Yandex Infrastructure изначально для мониторинга критически важных сервисов внутри Яндекса. Сейчас системой ежемесячно пользуются около 16 тысяч сотрудников компании. Среди первых внешних клиентов — ОТП Банк.

Рынок observability продолжает расти, и по прогнозам Gartner, подобные платформы становятся частью систем управления рисками и стабильностью бизнеса.

🚀 Ускорьте понимание кода с FastCode!

FastCode — это высокопроизводительный фреймворк для анализа кода, обеспечивающий скорость, точность и экономичность. Он подходит для работы с большими кодовыми базами и поддерживает множество языков программирования, включая Python и JavaScript.

🚀 Основные моменты:
- 3-4x быстрее конкурентов
- Снижение затрат на 44-55%
- Высокая точность анализа
- Поддержка многопроцессорного анализа
- Интуитивно понятный веб-интерфейс

📌 GitHub: https://github.com/HKUDS/FastCode

Порядок в инфраструктуре: BSA-модель на практике

Инфраструктурный код хранится в разных местах, каждая команда пишет по-своему, развертывание каждый раз проходит по разному сценарию, а ответственность не закреплена. Знакомо? В итоге — задержки, долгие согласования и лишние конфликты.

На вебинаре 13 марта -«Экспресс42» и «Магнит OMNI» покажут, как модель BSA (Base–Service–Application) помогает упорядочить инфраструктуру, чётко разделить зоны ответственности и сделать процессы поставки стабильными и предсказуемыми. Продемонстрируем не только подход, но и практический опыт реализации в компании «Магнит OMNI».

В программе:
боли неструктурированного IaC
суть трёхуровневой модели BSA
опыт внедрения в Магнит OMNI
результаты использования модели
практические рекомендации

13 марта в 12:00, онлайн
👉 Зарегистрироваться
Реклама. АО "ФЛАНТ". ИНН 7723661439.

Когда вы новичок в DevOps 🥲

Managed Kubernetes vs полный контроль? Первый вариант экономит ресурсы, гарантирует поддержку провайдера. Второй — дает гибкость тонких настроек, особенно когда кластеры идут в прод с высокими нагрузками.

Timeweb Cloud нашел баланс: запустили собственный оркестратор Kubernetes Toolset Layer. В планах — интеграция с панелью управления, что откроет доступ к настройке компонентов управляющего слоя. Можно будет менять конфиги групп узлов, подключать внешние ноды и делать другие кастомы без потери managed-статуса. Выглядит как крупное обновление.

Что это даст
• Гибкость: например, можно поменять интервалы автоскейлера под свои бизнес-метрики. И тем самым точнее подстроить инфраструктуру под бюджет и требования приложений

• Контроль: в ближайших релизах — мониторинг и логирование на уровне оркестратора, кластеров и их компонентов. В панели будут статусы и история изменений. Это позволит видеть, как часто и насколько масштабируется приложение

• Стабильность: при росте нагрузки на кластеры система автоматически масштабируется как платформа оркестрации. Сервисы будут стабильнее переживать пики нагрузки

Ребята также рассказали, что вместе с оркестратором реализовали интеграцию виртуальных роутеров. Теперь воркер-ноды можно размещать в приватной сети без публичных IP, а внешний доступ организовывать через Ingress или балансировщики. Это повышает безопасность и позволяет экономить на публичных IP.

Итог: провайдер серьезно прокачивает свой Managed Kubernetes. Кажется, это нечастая практика, когда дают доступ к компонентам управляющего слоя без потери managed-статуса. Плюсом — приватная сеть для нод через виртуальный роутер.

Запустить кластер

#Kubernetes #DevOps #TimewebCloud #Security