Kagent — Kubernetes-нативный фреймворк для создания и запуска ИИ-агентов в виде пользовательских ресурсов
Поддерживает несколько провайдеров моделей, переиспользуемые MCP-инструменты, веб-интерфейс, CLI и трассировку.
➤ https://github.com/kagent-dev/kagent
👉 DevOps Portal
Поддерживает несколько провайдеров моделей, переиспользуемые MCP-инструменты, веб-интерфейс, CLI и трассировку.
➤ https://github.com/kagent-dev/kagent
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6
Планирование GPU-ресурсов в Kubernetes сейчас становится важным навыком
Вот почему 👇
Большинство организаций либо экспериментируют, либо уже запускают ML-нагрузки в Kubernetes.
Как DevOps-инженеры, вы должны понимать, как настраивать и управлять GPU-ресурсами.
Вот простой гайд по настройке GPU-ноды с использованием NVIDIA GPU Operator.
К концу этой статьи у вас будет чёткое понимание:
- зачем нужен GPU Operator в Kubernetes
- как установить NVIDIA GPU Operator в Kubernetes-кластер
- как проверить, видит ли Kubernetes GPU
- как задеплоить реальную GPU-нагрузку, чтобы провалидировать весь стек
Если честно, всё не так сложно, как кажется, когда понимаешь базу.
Даже если у вас нет доступа к GPU, просто изучите материал, чтобы разобраться, как это работает.
Прочитать можно здесь: https://devopscube.com/setup-gpu-operator-kubernetes/
👉 DevOps Portal
Вот почему 👇
Большинство организаций либо экспериментируют, либо уже запускают ML-нагрузки в Kubernetes.
Как DevOps-инженеры, вы должны понимать, как настраивать и управлять GPU-ресурсами.
Вот простой гайд по настройке GPU-ноды с использованием NVIDIA GPU Operator.
К концу этой статьи у вас будет чёткое понимание:
- зачем нужен GPU Operator в Kubernetes
- как установить NVIDIA GPU Operator в Kubernetes-кластер
- как проверить, видит ли Kubernetes GPU
- как задеплоить реальную GPU-нагрузку, чтобы провалидировать весь стек
Если честно, всё не так сложно, как кажется, когда понимаешь базу.
Даже если у вас нет доступа к GPU, просто изучите материал, чтобы разобраться, как это работает.
Прочитать можно здесь: https://devopscube.com/setup-gpu-operator-kubernetes/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Может ли контейнер подключиться к сервису на хосте, если используется UFW?
Ответ — нет. По крайней мере, по умолчанию.
Контейнеры обращаются к сервисам на хосте через bridge-интерфейс. Такой трафик считается входящим, а UFW по умолчанию его блокирует.
Попрактиковаться в настройке правил можно здесь: https://labs.iximiuz.com/challenges/docker-networking-fix-firewall-blocking-container-to-host
👉 DevOps Portal
Ответ — нет. По крайней мере, по умолчанию.
Контейнеры обращаются к сервисам на хосте через bridge-интерфейс. Такой трафик считается входящим, а UFW по умолчанию его блокирует.
Попрактиковаться в настройке правил можно здесь: https://labs.iximiuz.com/challenges/docker-networking-fix-firewall-blocking-container-to-host
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Сегодня вышли два новых практических задания по диагностике и устранению проблем в Linux — для прокачки навыков управления хранилищем и работы с systemd:
- Восстановить работу сервиса после обновления виртуальной машины — https://labs.iximiuz.com/challenges/storage-recover-ingestion-service-after-vm-upgrade
- Не допустить запуска сервиса без подключённого диска с его данными — https://labs.iximiuz.com/challenges/storage-make-service-refuse-to-start-without-data-volume
Удачного хакинга!
👉 DevOps Portal
- Восстановить работу сервиса после обновления виртуальной машины — https://labs.iximiuz.com/challenges/storage-recover-ingestion-service-after-vm-upgrade
- Не допустить запуска сервиса без подключённого диска с его данными — https://labs.iximiuz.com/challenges/storage-make-service-refuse-to-start-without-data-volume
Удачного хакинга!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤2🔥1
Graceful Shutdown Pod в Kubernetes — важная концепция, которую должен знать каждый, кто работает с Kubernetes.
Когда Pod завершает работу, Kubernetes отправляет контейнеру сигнал
Если приложение неправильно обрабатывает
Для корректного завершения работы можно реализовать собственную логику в коде приложения.
Также можно немного замедлить завершение работы приложения с помощью хука
Этот хук выполняется до отправки сигнала
Подробнее о корректном завершении работы Pod можно прочитать в нашей статье, где разбираются следующие темы:
- Что такое
- Как Kubernetes обрабатывает сигналы
- Как приложения могут обрабатывать
- Какую роль играют хуки
- Как связаны
→ Читать статью: https://devopscube.com/kubernetes-pod-graceful-shutdown/
Кроме того, Kubernetes отправляет
Если приложение запущено не как процесс с PID 1, оно не получит сигнал, а логика корректного завершения работы не выполнится.
Например, если в Dockerfile запускается shell-скрипт, который стартует приложение как дочерний процесс, PID 1 будет принадлежать скрипту, а не самому приложению.
А как вы реализуете Graceful Shutdown для Pod в своих приложениях?
Примечание: обозначение «10 секунд на preStop + 20 секунд на SIGTERM» на изображении приведено исключительно для примера. В реальных конфигурациях выполнение
👉 DevOps Portal
Когда Pod завершает работу, Kubernetes отправляет контейнеру сигнал
SIGTERM.Если приложение неправильно обрабатывает
SIGTERM, оно может завершиться прямо во время обработки пользовательского запроса, сохранения данных, обработки файла и других операций.Для корректного завершения работы можно реализовать собственную логику в коде приложения.
Также можно немного замедлить завершение работы приложения с помощью хука
preStop.Этот хук выполняется до отправки сигнала
SIGTERM, предоставляя приложению дополнительное время для очистки ресурсов или завершения текущих задач.Подробнее о корректном завершении работы Pod можно прочитать в нашей статье, где разбираются следующие темы:
- Что такое
SIGTERM и SIGKILL.- Как Kubernetes обрабатывает сигналы
SIGTERM и SIGKILL.- Как приложения могут обрабатывать
SIGTERM для корректного завершения работы.- Какую роль играют хуки
preStop и почему они важны.- Как связаны
SIGTERM и процесс с PID 1 внутри контейнера.→ Читать статью: https://devopscube.com/kubernetes-pod-graceful-shutdown/
Кроме того, Kubernetes отправляет
SIGTERM процессу с PID 1 внутри контейнера.Если приложение запущено не как процесс с PID 1, оно не получит сигнал, а логика корректного завершения работы не выполнится.
Например, если в Dockerfile запускается shell-скрипт, который стартует приложение как дочерний процесс, PID 1 будет принадлежать скрипту, а не самому приложению.
А как вы реализуете Graceful Shutdown для Pod в своих приложениях?
Примечание: обозначение «10 секунд на preStop + 20 секунд на SIGTERM» на изображении приведено исключительно для примера. В реальных конфигурациях выполнение
preStop может занимать больше или меньше времени в зависимости от настроек и продолжительности выполнения хука.Please open Telegram to view this post
VIEW IN TELEGRAM
❤1🔥1
AWS представила AWS Emulator — Open Source-инструмент, который позволяет бесплатно запускать эмуляцию AWS-сервисов локально на ноутбуке, без учётной записи AWS.
Для локального тестирования приложений или тестирования в CI можно использовать AWS CLI и SDK.
По заявлению AWS, весь код эмулятора написан автономными ИИ-агентами.
Репозиторий: GitHub
👉 DevOps Portal
Для локального тестирования приложений или тестирования в CI можно использовать AWS CLI и SDK.
По заявлению AWS, весь код эмулятора написан автономными ИИ-агентами.
Репозиторий: GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥1
В этом руководстве вы развернёте тестовое окружение Crossplane с двумя кластерами, научитесь создавать ресурсы в локальном и удалённом кластерах, а затем намеренно нарушите работу конфигурации, чтобы разобраться, как анализировать статусы и сигналы об ошибках.
➜ https://dev.to/joojodontoh/your-crossplane-may-be-sleeping-1295
👉 DevOps Portal
➜ https://dev.to/joojodontoh/your-crossplane-may-be-sleeping-1295
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Как совместить профессиональное развитие и желание просто отдохнуть? Саша Бударин и его жена попытались найти ответ — получилось очень жизненно.
🚀 А если тоже хочется развиваться, но с пользой для работы, приходите 19 ноября на Импульс Т1.
В программе — выступления экспертов, разбор реальных задач, работа с ИИ-агентами, Код-ретрит, ресурсные игры и десятки других активностей — каждый найдет что-то интересное для себя.
➡️ Выбирайте свое направление и регистрируйтесь ⬅️
В программе — выступления экспертов, разбор реальных задач, работа с ИИ-агентами, Код-ретрит, ресурсные игры и десятки других активностей — каждый найдет что-то интересное для себя.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6❤4🤝3🥱1
Kube-Argus — дашборд Kubernetes в виде одного исполняемого бинарного файла для мониторинга состояния кластера в реальном времени, просмотра логов подов, метрик, проверки затрат и предоставления временного доступа к выполнению команд через
➜ https://github.com/manishchaudhary101/kube-argus
👉 DevOps Portal
exec. Не требует отдельной базы данных➜ https://github.com/manishchaudhary101/kube-argus
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9
В статье разбирается, как CNI обеспечивает сетевое взаимодействие между подами Kubernetes, как работают операции ADD, DEL и CHECK, а также чем отличаются подходы Flannel, Calico и Cilium к передаче сетевого трафика.
➤ https://newtonwamiti.substack.com/p/cni-deep-dive
👉 DevOps Portal
➤ https://newtonwamiti.substack.com/p/cni-deep-dive
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8🔥1
Apple делает Docker Desktop необязательным для работы с Kubernetes на Mac
С поддержкой Kubernetes от Apple можно:
- Поднимать кластер одной командой.
- Подключаться к кластеру через
- Добавлять рабочие узлы.
- Делиться образами с кластером.
Можно будет собирать контейнерный образ прямо на Mac и тестировать его в Kubernetes без необходимости пушить в реестр
Поддержка пока экспериментальная, но теперь Mac может самостоятельно собирать образы и запускать их в Kubernetes.
https://github.com/apple/container/blob/main/docs/cluster.md
👉 DevOps Portal
apple/container позволяет запускать Linux-контейнеры на устройствах с Apple Silicon. Теперь инструмент получает поддержку Kubernetes.С поддержкой Kubernetes от Apple можно:
- Поднимать кластер одной командой.
- Подключаться к кластеру через
kubectl.- Добавлять рабочие узлы.
- Делиться образами с кластером.
Можно будет собирать контейнерный образ прямо на Mac и тестировать его в Kubernetes без необходимости пушить в реестр
Поддержка пока экспериментальная, но теперь Mac может самостоятельно собирать образы и запускать их в Kubernetes.
https://github.com/apple/container/blob/main/docs/cluster.md
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7👍4🔥3
Docker 101: краткий обзор основных команд
В руководство «Разбор команд для управления Docker-контейнерами» добавлен практический раздел.
Практикуйтесь на реальной виртуальной машине с Linux прямо в браузере:
https://labs.iximiuz.com/tutorials/docker-container-management-commands
👉 DevOps Portal
В руководство «Разбор команд для управления Docker-контейнерами» добавлен практический раздел.
docker create → start → stop → wait → restart → ...Практикуйтесь на реальной виртуальной машине с Linux прямо в браузере:
https://labs.iximiuz.com/tutorials/docker-container-management-commands
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4❤2🥱1
DevOps-инструмент недели: Kubescape
Ваш Kubernetes-кластер работает исправно, приложения запущены. Но насколько он безопасен?
Внутри могут работать контейнеры от имени root, привилегированные Pod'ы, RBAC с избыточными правами доступа и другие потенциальные уязвимости.
Проверять всё это вручную сложно. А повторять проверку после каждого изменения ещё сложнее.
Здесь поможет Kubescape — open-source инструмент для обеспечения безопасности Kubernetes и инкубационный проект CNCF.
Он сканирует кластер и конфигурационные файлы, находит проблемы безопасности и показывает, что нужно исправить.
Что умеет:
• Сканировать Kubernetes-кластеры, YAML-файлы, Helm-чарты, Kustomize и Git-репозитории.
• Проверять конфигурации на соответствие стандартам NSA-CISA, MITRE ATT&CK и CIS Benchmark.
• Искать известные уязвимости в образах контейнеров.
• Показывать оценку рисков и результаты проверок безопасности.
• Исправлять ошибки конфигурации YAML и генерировать политики Admission Control, предотвращающие небезопасные развёртывания.
• Интегрироваться с CI/CD-инструментами: GitHub Actions, GitLab CI и Jenkins.
• Экспортировать отчёты о безопасности в JSON, SARIF, HTML и PDF.
Начать работу: GitHub
👉 DevOps Portal
Ваш Kubernetes-кластер работает исправно, приложения запущены. Но насколько он безопасен?
Внутри могут работать контейнеры от имени root, привилегированные Pod'ы, RBAC с избыточными правами доступа и другие потенциальные уязвимости.
Проверять всё это вручную сложно. А повторять проверку после каждого изменения ещё сложнее.
Здесь поможет Kubescape — open-source инструмент для обеспечения безопасности Kubernetes и инкубационный проект CNCF.
Он сканирует кластер и конфигурационные файлы, находит проблемы безопасности и показывает, что нужно исправить.
Что умеет:
• Сканировать Kubernetes-кластеры, YAML-файлы, Helm-чарты, Kustomize и Git-репозитории.
• Проверять конфигурации на соответствие стандартам NSA-CISA, MITRE ATT&CK и CIS Benchmark.
• Искать известные уязвимости в образах контейнеров.
• Показывать оценку рисков и результаты проверок безопасности.
• Исправлять ошибки конфигурации YAML и генерировать политики Admission Control, предотвращающие небезопасные развёртывания.
• Интегрироваться с CI/CD-инструментами: GitHub Actions, GitLab CI и Jenkins.
• Экспортировать отчёты о безопасности в JSON, SARIF, HTML и PDF.
Начать работу: GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6👀3
Сертификации по AI/ML для DevOps-инженеров
Сейчас существует множество сертификаций по искусственному интеллекту. Но если вы DevOps- или Platform-инженер, не стоит проходить их без определённой цели.
Лучше выбирать сертификации исходя из того, в каком направлении AI/ML вы хотите развиваться.
Это могут быть основы генеративного ИИ (GenAI), ИИ-агенты, MLOps в облаке, LLM Engineering или инфраструктура для ИИ.
Для каждого направления подходят свои сертификации. Выбирайте те, которые соответствуют задачам, с которыми вы хотите работать в AI/ML.
Вот подробное руководство по сертификациям в области AI/ML: какие знания они дают и кому лучше всего подходят.
https://devopscube.com/best-ai-ml-certifications/
👉 DevOps Portal
Сейчас существует множество сертификаций по искусственному интеллекту. Но если вы DevOps- или Platform-инженер, не стоит проходить их без определённой цели.
Лучше выбирать сертификации исходя из того, в каком направлении AI/ML вы хотите развиваться.
Это могут быть основы генеративного ИИ (GenAI), ИИ-агенты, MLOps в облаке, LLM Engineering или инфраструктура для ИИ.
Для каждого направления подходят свои сертификации. Выбирайте те, которые соответствуют задачам, с которыми вы хотите работать в AI/ML.
Вот подробное руководство по сертификациям в области AI/ML: какие знания они дают и кому лучше всего подходят.
https://devopscube.com/best-ai-ml-certifications/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7👍1
До 80% экономии на GPU и эксплуатации: знакомьтесь, «Штурвал ML/AI»
У «Штурвал» появилась отдельная редакция, которая запускает ML- и AI-нагрузки в Kubernetes, эффективно использует GPU и управляет всем жизненным циклом моделей — от экспериментов до продакшена.
Что умеет «Штурвал ML/AI»:
◾объединять GPU в общий пул и распределять ресурсы между командами;
◾предоставлять готовый ML-стек на базе Kubeflow и MLflow;
◾запускать обучение и инференс в одном кластере;
◾обновлять ML-компоненты вместе с кластером;
◾обеспечивать безопасность и контроль доступа.
По расчетам разработчика, платформа помогает сократить затраты на GPU и эксплуатацию до 80%.
Поддерживаются NVIDIA A100, H100 и L40S, а также Astra Linux, РЕД ОС, Rosa, Alt Linux, Ubuntu и Debian.
Подробнее о «Штурвал ML/AI» тут
У «Штурвал» появилась отдельная редакция, которая запускает ML- и AI-нагрузки в Kubernetes, эффективно использует GPU и управляет всем жизненным циклом моделей — от экспериментов до продакшена.
Что умеет «Штурвал ML/AI»:
◾объединять GPU в общий пул и распределять ресурсы между командами;
◾предоставлять готовый ML-стек на базе Kubeflow и MLflow;
◾запускать обучение и инференс в одном кластере;
◾обновлять ML-компоненты вместе с кластером;
◾обеспечивать безопасность и контроль доступа.
По расчетам разработчика, платформа помогает сократить затраты на GPU и эксплуатацию до 80%.
Поддерживаются NVIDIA A100, H100 и L40S, а также Astra Linux, РЕД ОС, Rosa, Alt Linux, Ubuntu и Debian.
Подробнее о «Штурвал ML/AI» тут
❤1👍1🔥1
Каждый DevOps-инженер должен разбираться в сетевых технологиях облачной инфраструктуры.
В большинстве организаций сетевые команды управляют VPC-сетями и следят за тем, чтобы для них выделялись только свободные диапазоны IP-адресов.
Как это организовано?
Обычно для этого используют инструменты управления IP-адресным пространством (IPAM), которые позволяют отслеживать распределение IP-адресов.
Например, в AWS есть встроенное решение VPC IPAM, которое может автоматически выделять CIDR-диапазоны для VPC на основе заранее заданных правил.
Такие инструменты предоставляют централизованный обзор IP-адресного пространства, используемого в организации.
Даже если инфраструктурой управляет отдельная сетевая команда, DevOps-инженеру необходимо понимать IP-адресацию и основы сетевых технологий. Чем глубже эти знания, тем проще диагностировать проблемы и взаимодействовать с сетевыми инженерами.
Например, DevOps-инженеру может потребоваться разбираться со следующими проблемами:
- Проблемы сетевой связности и высокие задержки.
- Ошибки маршрутизации.
- Проблемы с разрешением DNS-имён.
- Конфликты IP-адресов и исчерпание адресов в подсетях.
- Проблемы с файрволами и прокси-серверами.
На изображении показан пример дашборда NetBox — open-source инструмента для управления IP-адресным пространством (IPAM).
👉 DevOps Portal
В большинстве организаций сетевые команды управляют VPC-сетями и следят за тем, чтобы для них выделялись только свободные диапазоны IP-адресов.
Как это организовано?
Обычно для этого используют инструменты управления IP-адресным пространством (IPAM), которые позволяют отслеживать распределение IP-адресов.
Например, в AWS есть встроенное решение VPC IPAM, которое может автоматически выделять CIDR-диапазоны для VPC на основе заранее заданных правил.
Такие инструменты предоставляют централизованный обзор IP-адресного пространства, используемого в организации.
Даже если инфраструктурой управляет отдельная сетевая команда, DevOps-инженеру необходимо понимать IP-адресацию и основы сетевых технологий. Чем глубже эти знания, тем проще диагностировать проблемы и взаимодействовать с сетевыми инженерами.
Например, DevOps-инженеру может потребоваться разбираться со следующими проблемами:
- Проблемы сетевой связности и высокие задержки.
- Ошибки маршрутизации.
- Проблемы с разрешением DNS-имён.
- Конфликты IP-адресов и исчерпание адресов в подсетях.
- Проблемы с файрволами и прокси-серверами.
На изображении показан пример дашборда NetBox — open-source инструмента для управления IP-адресным пространством (IPAM).
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👍1😁1
Поднимаем сервер Minecraft в облаке: live-demo с ИИ-агентом
ИИ-агенты умеют не только отвечать на вопросы и писать код. Они могут управлять облаком: создавать и настраивать инфраструктуру без ручных команд и кликов в консоли.
2 декабря приглашаем на практический вебинар «От ручного управления облаком к агентскому».
Что разберём:
▪️ какие задачи в облаке уже можно смело делегировать ИИ
▪️ как подключить управление облачной инфраструктурой к Claude, Codex, Cursor и другим агентам
▪️ как проверять результат работы ИИ и фиксировать инфраструктуру в IaC
В прямом эфире поручим агенту с нуля развернуть сервер Minecraft в MWS Cloud Platform, перенесём результат в IaC, чтобы сохранить конфигурацию и при необходимости быстро воспроизвести её снова.
Кому будет полезно: разработчикам, DevOps-инженерам, активным пользователям ИИ-ассистентов и всем, кто хочет автоматизировать рутину в облаке.
🗓 2 декабря в 12:00
Зарегистрироваться
До встречи в эфире!
ИИ-агенты умеют не только отвечать на вопросы и писать код. Они могут управлять облаком: создавать и настраивать инфраструктуру без ручных команд и кликов в консоли.
2 декабря приглашаем на практический вебинар «От ручного управления облаком к агентскому».
Что разберём:
В прямом эфире поручим агенту с нуля развернуть сервер Minecraft в MWS Cloud Platform, перенесём результат в IaC, чтобы сохранить конфигурацию и при необходимости быстро воспроизвести её снова.
Кому будет полезно: разработчикам, DevOps-инженерам, активным пользователям ИИ-ассистентов и всем, кто хочет автоматизировать рутину в облаке.
🗓 2 декабря в 12:00
Зарегистрироваться
До встречи в эфире!
Please open Telegram to view this post
VIEW IN TELEGRAM
😁2🥱1
Kubernetes Gateway API предоставляет стандартные ресурсы Kubernetes для маршрутизации HTTP, gRPC, TLS, TCP и UDP, поддерживает общие шлюзы, управление доступом между пространствами имён (namespaces) и переносимые правила маршрутизации трафика.
➜ https://github.com/kubernetes-sigs/gateway-api
👉 DevOps Portal
➜ https://github.com/kubernetes-sigs/gateway-api
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7
Docker 201: Пользовательские bridge-сети
Когда вы запускаете контейнер командой
https://labs.iximiuz.com/challenges/docker-networking-create-user-defined-bridge
👉 DevOps Portal
Когда вы запускаете контейнер командой
docker run nginx, ему назначается IP-адрес, после чего он подключается к стандартной сети bridge. Для простых сценариев этого достаточно, но часто требуется более строгая сетевая изоляция.https://labs.iximiuz.com/challenges/docker-networking-create-user-defined-bridge
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3❤2
В статье объясняется, почему задержки в поступлении метрик снижают эффективность автомасштабирования Kubernetes и как сигналы нагрузки в реальном времени, KEDA и специализированные скейлеры для разных типов рабочих нагрузок позволяют быстрее и надёжнее масштабировать приложения.
➤ https://kedify.io/resources/blog/stop-autoscaling-on-yesterdays-metrics
👉 DevOps Portal
➤ https://kedify.io/resources/blog/stop-autoscaling-on-yesterdays-metrics
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4❤2