Пятница, 19:00. Худшее время для деплоя, но идеальное, чтобы научиться эффективно хранить и индексировать данные для работы корпоративных LLM.

Инфраструктурная задача: как наладить работу с терабайтами текстов для нейронок?

На открытом уроке обсудим:

— роль векторных хранилищ в RAG-системах;
— отличия в поддержке систем с Fine-tuning и RAG;
— сборку пайплайна для «чтения» PDF документов.

Один из спикеров — Алексей Яндутов, ML-инженер в поиске Яндекса.

Это вводное занятие курса «Разработка AI-агентов». Для тех, кто готов строить инфраструктуру будущего.

Записаться на урок

Что такое Cluster Autoscaler в Kubernetes?

👾 — Организация сетевых обновлений
👍 — Инструмент для управления внутренним DNS
🥰 — Автоматическая регулировка количества узлов в кластере
⚡️ — Управление логами Kubernetes

Библиотека задач по DevOps

Что мешает использовать сервер Kubernetes API в качестве прокси для неавторизованных конечных точек?

👾 — Сетевые политики
👍 — Конфигурации EndpointSlice
🥰 — Механизмы аутентификации и авторизации
⚡️ — Политики безопасности модулей

Библиотека задач по DevOps

У клиента есть подключение AWS Direct Connect объемом 10 ГБ к региону AWS, где у него есть веб-приложение, размещенное в Amazon Elastic Computer Cloud (EC2). Приложение имеет зависимости от локальной базы данных мэйнфрейма, которая использует модель согласованности BASE, а не модель согласованности ACID. Приложение демонстрирует нежелательное поведение, поскольку база данных не может справиться с объемом операций записи. Как можно снизить нагрузку на локальные ресурсы базы данных наиболее экономичным способом?

👾 — Используйте Amazon Elastic Map уменьшает (EMR) S3DistCp в качестве механизма синхронизации между локальной базой данных и кластером Hadoop на AWS.
👍 — Измените приложение для записи в очередь Amazon SQS и разработайте рабочий процесс для очистки очереди в локальной базе данных.
🥰 — Измените приложение, чтобы оно использовало DynamoDB для подачи данных в кластер EMR, который использует функцию карты для записи в локальную базу данных.
⚡️ — Предоставление базы данных реплики чтения RDS на AWS для обработки операций записи и синхронизации двух баз данных с помощью конвейера данных

Библиотека задач по DevOps

Какая из следующих команд используется для сброса текущего HEAD в указанное состояние?

👾 — GIT reset
👍 — GIT restore
🥰 — GIT checkout
⚡️ — GIT diff

Библиотека задач по DevOps

Что Kubernetes позволяет абстрагироваться от сложностей управления сетевым трафиком подов?

👾 — Виртуальные IP-адреса
👍 — Ресурсы Ingress
🥰 — Сервисы
⚡️ — Сетевые политики

Библиотека задач по DevOps

__________________ отвечает за проверку работоспособности модулей, работающих на отдельных узлах.

👾 — Kubectl
👍 — Kube controller manager
🥰 — Kube scheduler
⚡️ — Kubelet

Библиотека задач по DevOps

Вопрос, который вы можете задать на собеседовании: если бы вы могли изменить одну вещь в компании, что бы это было?

Подобно вопросу о технической задолженности, это поможет вам определить любые болевые точки в компании. Кроме того, это может быть отличным способом показать, как вы будете полезны команде.

Например, если они говорят, что у них есть проблема X, и вы решили ее в прошлом, вы можете показать, как вы могли бы смягчить эту проблему.

Библиотека задач по DevOps

В Kubernetes приложение прогревается ~40 сек и первое время отдаёт 503. Во время деплоя Pod перезапускается из-за срабатывания liveness. Что сделать правильно?

👾 — Увеличить только readinessProbe.initialDelaySeconds
👍 — Настроить startupProbe, чтобы liveness/readiness не срабатывали, пока сервис не прогреется
🥰 — Увеличить terminationGracePeriodSeconds
⚡️ — Отключить все пробы

Библиотека задач по DevOps

Как обеспечить стабильные DNS-имена подов в StatefulSet?

👾 — Обычный Service типа ClusterIP без настроек
👍 — Headless Service (clusterIP: None) и serviceName в StatefulSet → имена вида <pod>.<svc>
🥰 — NodePort с фиксированным портом
⚡️ — DaemonSet с аннотацией stable-dns

Библиотека задач по DevOps

Какие настройки Deployment в Kubernetes минимизируют даунтайм при обновлении?

👾 — maxUnavailable: 1, maxSurge: 0
👍 — maxUnavailable: 0, maxSurge: 1 и корректные readinessProbe
🥰 — Только livenessProbe
⚡️ — Увеличить terminationGracePeriodSeconds до 0

Библиотека задач по DevOps