AI vs DevOps
138 subscribers
206 photos
1 video
119 links
DevOps и системная инженерия в эпоху AI. Новости индустрии. И немного юмора.
Download Telegram
Совет от принципал инженера из Atlassian. Учим?
Теперь уже отправляем каждый комит в аи модель? Дожили 😭Идея то хорошая, но я не знаю, какой нибудь семантический search прикрутить?) но это сложновато... С другой стороны с такой задачей должен даже условный бесплатный MiniMax или Nemotron справиться, надо будет попробовать :)
Рабочая неделя началась со вторника :) И небольшая заметка, в июне будет конфа от Гитлаба, про их агентик фичи и как они собирается развивать свой продукт в эру АИ. Так что если у вас в компании тоже используют Гитлаб - можно зарегаться послушать.

https://about.gitlab.com/events/transcend/virtual/
А еще вот просто не могу не пошарить инфо о своем продукте разработанном на хакатоне 😎
Первое место к сожалению не заняли, потому что надо было брать топики, которые организаторы обьявили на старте, то есть темы которые реально волнуют департаменты согласно опросам. Первые два места как раз делали продукты на эти темы (так что вот лайфхак на будущее).
Но Exa вошла в TOP5 (где-то из 15 команд) и жюри ее отдельно упомянули на файнал церемонии. Короче мерч в качестве призов за топ5 ничего не стоит 😅, но опыт и факт того, что продукт реально работает, реально полезен и мы его уже пробуем на текущем живом проекте и он уже начинает помогать людям - это бесценно 🤩

Почему это лучше чем "yet another chatbot"?

* Работа с данными. LLM-Wiki от Андрюхи Karpaty под капотом. Получаем точные данные с качественными взаимосвязями без громоздких RAG пайплайнов. Основной токен кансампшн на дата инжесте. Ретривал же простой как пробка, легко поддерживать, легко траблшутить.

* Агент харнесс от opencode, все четенько работает (скилы, mcp, кастом агенты) без разработки своих велосипедов

* Легко интегрируемся с новыми дата сорсами через MCP+синк микросервис. Сам АИ-бэкенд не требует доработок.

* Архитектура которая реально скейлиться на организацию. Микросервисы, асинк очереди, кешинг, клауд-нейтив дизайн.

Такие дела... 🤗 Вижу потенциал, будем работать над продуктом дальше)
Писали, что это - эволюционное продолжение LLM-Wiki by Karpaty - трансферим любые файлы в knowledge graph. Но как по мне - это пример как не надо писать скилы. 1300 строк скил, вместо рефов - указания ллм ставить внешние репы и внешний софт, вместо нормального ридми и cli с понятным хелпом по командам - рассказы как ллм запускать ту или иную команду.
Вобщем пока выглядит очень топорно, пробовать не буду. Но буду наблюдать какая идея окажется эффективнее - wiki или graph. Со временем должны будут появляться более качественный тулинг для одного или второго варианта работы с данными.
👍1
Уже второй раз натыкаюсь в рассылках на ai engineering hot topics 2026.
Так как автор не дает прямых разьяснений и говорит - подробности ищите сами, попросил ЛЛМ посерчить интернет на эти темы и сделать html страничку с блог постом на эти топики.
Мне понравилось 😎 Поэтому запаблишил на Github pages и заодно перенес свой блог с micro one на этот же самописный вариант в гитхабе. В 2026 платить хоть $1 за блог с интерфейсом из нулевых, когда можно все написать за пол часа аишкой и бесплатно захостить - зашквар))

Так что читайте, а я буду и дальше иногда постить лонгриды в этом блоге 😉 Кстати кто угадает, какой моделью написан текст и дизайн? 😏
🔥2
Ну что, готовы менять свои тайтлы в Linkedin? 🧐 Forward Deployed Engineers (FDE) - сейчас самый хайповый job title, при этом не такой временный, как уже ушедшие в небытье prompt engineeers (ну, поверим.. 😅). И гиганты собираются их хайрить и обучать сотнями.
Термин стал популярным буквально за последние пару недель, после того как OpenAI запустила свою deployment company, с инвестициями в $4ярда. Сразу же подключился гугл, который уже создал carrier ladder (FDE II - FDE IV) и разместил 59 вакансий на эту позицию, с рейтами для IV lvl в $183k-$265k, это без бонусов и эквити. К этой же движухе подключились и ServiceNow с Accenture.

В чем суть? В том что AI решения слишком сложны во внедрения в бизнес процессы. У малых и средних бизнесов нет своих айти отделов для внедрения даже простых в использовании тулов. А у больших компаний есть айти отделы, но нет экспертизы. Они хотят просто "нам бы АИ в наши процессы", но конкретные боли которые можно решить с АИ и как внедрить весь тулсет - это и должен искать FDE. Вобщем это инженер или их команда, которые работают на стороне заказчика, и сочитают роли бизнес-аналитика/архитекта/девопса. Рассказывают как и где АИ сделает в компании все радужно, допиливают софт напильниками чтобы подходило под процесссы кастомера и занимаются внедрением и настройкой.
По сути тот же DevOps+Архитектура, но чуть больше болтовни и софт скилов, с умением продать заказчику слона 😅

Но хайп интересный, движуха выглядит серьезной, может и в правду это станет очень выгодной и трендовой нишей. Через пол годика станет понятнее. Наблюдаем 😎

Статья на эту тему
А вот просто крутейшая находка на просторах сети. Сотни скилов для агентов на тему киберсекьюрити.

Что интересно нам? Cloud Security hardening. Container security включая k8s hardening. Настройка Web Apps Security (OWASP) для SDLC. Скилы по CI/CD security и terraform auditing.

Ну и в целом можно импрувнуть свои знания по cybersec, почитать про практики red/blue teaming, pentesting итд. Все скилы написаны доходчивым английским, так что это считай краткая сжатая документация с примерами использования программ 😎

https://github.com/mukul975/Anthropic-Cybersecurity-Skills
Продуктивного понедельника, коллеги 😄
🌚2
Forwarded from Lunar
Я вот пользуюсь таким ( телега )

Из плюсов: цена 0.3$ за лям opus 4.7 reasoning low, 1M контекста. Модели честные, не разбавленная. Могу скинуть аквариум.

Из минусов - иногда тулы на 4.7 подтупливают, но только на этой модели.

Нормальный бюджетный вариант.

По китайским китайцам:

https://hvoy.ai/ - тестер и роутер китайских апи

https://www.aiapipk.com/

https://linux.do/ - форум с обсуждениями

Китайцы в чатах кидали варианты
https://outgap.ai/
https://www.packyapi.com
По сообщению выше ^ Для интересующихся китайскими LLM роутерами, тут в одном чате скинули, интересное посмотреть :) Не рекомендация, понимайте риски.
Смотрел недавно IaCConf2026 и на конференции упоминали несколько интересных девопсовых продуктов для инфратструктуры появившихся в этом году.

Решил хотя бы минимально потрогать все интересное и рассказать вам здесь 🌡
И первый упомянутый на конфе тул который рассмотрим здесь - Spacelift Intent.

Spacelift - довольно известная платформа для хостинга Terraform IaC. И Intent - их попытка позаигрывать с вайбкодинг программистами🤔 По сути это просто MCP сервер. Который берет твои AWS креды, забирает конфигурацию terraform (opentofu ) aws провайдера из сети, и используя креды создает любые ресурсы в облаке. С хранением внутреннего стейта, но минуя сам терраформ код и init-apply-plan процессы. Intent MCP использует провайдера чтобы понять как напрямую ходить в CloudAPI и создавать/менеджить там ресурсы, и дальше хранит стейт в локальной базе на твоем компе (в ./.state/ или по переменной DB_DIR).

То есть с одной стороны знания терраформа не нужны. С другой стороны когда ты спрашиваешь вот надо мне поднять небольшую aws rds с postgres для локального проекта - LLM все равно идет в ресурсы провайдера и показывает тебе примеры что можно поднять и как сконфигурить - в HCL коде, то есть минимально понимать HCL все равно надо (хотя там все нативно понятно конечно).

Насколько это все удобно и имеет смысл? Не знаю. Лично мне проще сохранить все в терраформ файлы и даже локальный стейт, и видеть что у нас поднято просто из .tf файлов, не спрашивая каждый раз ллм а что у нас задеплоено в облаке. Для коллаборации внутри команды все это тоже как-то слабо годится...
Хотя в принципе для какого нибудь AI-native стартапа на десяток человек может и рабочий вариант, прикрутить к Intent сетевую базу с синхронизацией на всю команду (из коробки нет, но думаю легко костылится), и разработчики не знакомые с терраформом смогут создавать всю инфру прямо из своего Claude Code. И это будет лучше контролироваться, чем дать всем креды и все будут просто гонять aws cli. Даже можно поверх guardrails прикрутить в виде OPA полиси.

Так же если вы соло девелопер и хотите поднимать пет проекты в облаках без заморочек с IaC - нормальный вариант, можно пробовать.

Для ентерпрайзных команд же которые уже используют IaC в любом виде - переходить на Intent наверное смысла мало. Хотите AI native подход? Лучше написать небольшой скил описывающий вашу инфраструктуру, в каких все репозиториях, в каком формате, как добавлять ресурсы, как создать PR - и пошарить девелоперам.


Ставится Intent очень просто, скачиваете с гитхаба себе бинарник в /usr/local/bin и добавляете mcp вызывающую этот бинарник таким образом (здесь конфиг для opencode, на гитхабе есть примеры установки для других агентов):
mcp: {

"spacelift-intent": {
"type": "local",
"command": ["spacelift-intent"],
"env": {
"AWS_PROFILE": "default",
"AWS_REGION": "eu-north-1"
},
"enabled": true
}

}

Переменные можно передать в любом количесте, от разных клаудов. Как я понял - тула пока полностью бесплатная. Пробуйте 👍

На скринах:
Их сайт | Создал тестовый free-tier EC2 | Попросил показать стейт | Попросил расказать какие настройки есть для RDS | Список провайдеров
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Ohh, fcuk!!.. А вот и подоспел ответ на сумасшедшее стремление корпораций эвалюейтить перфоманс инженеров по тому, кто сколько токенов потратил. Логичное решение 🤣🤣 Как пели Bloodhound Gang - Burn-mthfcker... Burn! 😭🤣

Happy Friday, коллеги 🍻🍸🎁🎁🎁

https://github.com/dtnewman/burn-baby-burn
Please open Telegram to view this post
VIEW IN TELEGRAM
🦄1
Доброго начала рабочей недели, коллеги! И у меня есть новость, возможно пролетевшая мимо популярных сми и каналов. Про Google I/O 2026 конечно уже писали и жук и жаба. Но помимо всем понятной и в целом ожидаемой истории с 3.5 серией моделей Gemini, а так же весьма впечатляющей мультимедия модели Omni, на конференции упоминали еще один продукт, который может оказаться очень важным для DevOps и AI инженеров.

Во-первых, потому что это базовая инфрастуктура.
Во-вторых, это про агентную интеграцию.
Ну и в-третьих, это про k8s и про опенсорс решение от Google, так что есть все шансы что оно взлетит и станет одним из распространенных тулов в DevOps инструментарии через пол-годика - год.

Речь идет про Kubernetes Agent Sandbox.
Как сейчас обычно готовят агентов? Агент оркестратор запускает саб-агентов в отдельных контейнерах через docker api. Напрямую через docker socket если деплоим апликуху прямо на машине, или через docker-in-docker сайд контейнер внутри пода, если запускаем в кубере. В итоге это все имеет только вертикальный скейлинг, медленный старт, не самую секьюрную изоляцию. 🙈
Более навороченные велосипеды ходят в кубер апи и запускают полноценные deploy/sts, но это все равно костыльно. И любые инфраструктурные фичи под эту основу - это сложно, дорого и по сути костыли и велосипеды.😬

Продукт от гугл добавляет в любой ваш k8s кластер отдельный контроллер и CRD ("Sandbox", "SandboxClaim", "SandboxTemplate" etc). Которые описывают поды специально подходящие для агентных workloads. Выглядит этот CRD почти как обычный под:
apiVersion: agents.x-k8s.io/v1alpha1
kind: Sandbox
metadata:
name: dynamic-ephemeral-sandbox
spec:
replicas: 1
shutdownPolicy: Delete
shutdownTime: "${SHUTDOWN_TIME}"
podTemplate:
spec:
containers:
- name: workspace
image: alpine:latest
command: ["sleep", "infinity"]

Но при этом имеет множество важных фич⚠️:

- 😮стабильная сетевая identity (полноценный заранее извсетный хостнейм у каждого пода) и роутинг через X-Sandbox-ID хедер
- улучшенная работа с вольюмами. вольюмы переживают рестарты и рескедулинг между нодами и подключаются к новым подам без костылей
- scheduled deletion
- снапшоты состояния пода (можо через апи откатить сандбокс на любой момент его исполнения, получаем нативный бранчинг агент рантайма)
- 😮SandboxWarmPool - прогретый стак подов, ваши субагенты будут запускаться <1sec., гугл пишет про 90% прирост скорсти по сравнению с cold starts
- плагины для навороченный изоляции через gVisor/Kata, по сути запускаем полноценную изолированную виртуалку, а не обычный контейнер. Сесурити!🦾🔒

Ну и это все отлично скейлится горизонтально, удобно раскидываются по нужным нодгруппам с подходящим обьемом железа, работает с guardrails в виде OPA полиси. А так же отлично интегрируется в мониторинг.

Ну и киллер🔥фича - вся эта прелесть деплоится прямо из go/питон кода вашего приложения через свою SDK!

from k8s_agent_sandbox import SandboxClient

client = SandboxClient()

sandbox = client.create_sandbox(
template="python-sandbox-template",
namespace="default",
)
try:
result = sandbox.commands.run("echo 'Hello from Agent Sandbox!'")
print(result.stdout)
# Hello from Agent Sandbox!
finally:
sandbox.terminate()


Продукт залаунчили уже давно (на нынешней IO2026 его упоминали в контексте того, что гугл его гоняет у себя в gcloud для ентерпрайз агент решений(Managed Agents API)). И уже в стадии GA, то есть полноценно подходит для продакшн энвов.

Так что если вы все еще костылите как запускать ваших агентов в обычных deployments или dind-sidecar - делайте PoC, несите демо вашему архитекту, и изабвляейтсь от всех головняков и костылей😉


Качественной вам продакшн инфраструктуры, коллеги! 🌡
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
DeepSeek снизил цены еще на 75% 🤪

Теперь Deepseek-V4-Pro стоит беспрецедентно низкие $0.435 / $0.87

Но я его уже не использую, вернулся к Kimi как к базовой модели для большинствав задач. После того как DeepSeek стал у меня косячить с некоторыми проблемами с терраформом и с AWS OIDC аутентификацией, и я с ним убил прилично времени, хотя причина была очевидной, вернулся к Kimi. С ней вообще никаких непредсказуемых сюрпризов.

Да дипсик может неплохо писать код по спеке и что-то ревьювать, но все таки это он делалет хуже чем Kimi/GLM. Обычно вроде и неплохо, но экономить осознавая что там или тут могут выстрелить косяки - смысла не вижу. Go подписки пока хватает для работы и без использования супер дешевого дипсика. Такие дела 😎
Придумал идейку, а куда же все таки использовать DeepSeek 🧠🤔

Стандартный Explore субагент использует ту же самую модель, с которой ты работаешь в основной сессии. Зачастую это медленно, и относительно дорого, во время чтения код базы мы загружаем очень много инпут токенов. Решение - отдельный субагент для code exploration тасок, который гоняется на DeepSeek V4 🔥 Он быстрый, дешевый, и у него большой контекст на лям - как раз для больших ресерчей.

Потестил простым запросом "Explore the codebase and find all API endpoint definitions." на код базе нашего текущего проекта, в +-миллион строк (js/ts)
Задача слегка со звездочкой, потому что классических API ендпойнтов на проекте нет😅 Но есть множество cli entrypoints и 8 разных External API References (Outbound Calls). Цель была посмотреть как полноценно субагент проведет ресерч, ну и скорость/цена конечно.

Итого:
* DeepSeek V4 Pro - 2 минуты 30 секунд. 113к токенов, $0.23 - Четкий полный ресерч, расписало подробно все энтрипойнты, нашло все external api calls

* DeepSeek V4 Flash - 1 минута 32 секунды, 88к токенов, $0.02 - В доках написано что модель бесплатная, но посчитало как 2 цента. Какой-то урезаный ответ, нашло все энтрипойнты, но отдало минимум деталей по ним окрекстратору. Показало только 4 основных External API calls, не все.

Сравнил с обычным Explore который запускается на текущих моделях:
* Kimi K2.6 - 4 минуты. почему-то только 50к токенов и $0.11 центов (если сранить с 113к токенов DS Pro - цена почему-то одинаковая). Но чуть урезаный вариант, все cli, 4 екстеранала как у флеш, без подробностей 🥲

* GLM-5.1 - 4 минуты 58 секунд, 90к токенов, $0.48 - Охренеть какой подробный обзор🤯по каждому методу, со сводными таблицами, с количеством всех вызовов в гитхаб, гитлаб, джиру, вобщем вся подноготная проекта. В данном случае это наверное излишне... 🤔



Вобщем DeepSeek V4 Pro видется как лучший вариант для ресерч сабагента. Ну и забавная фича нашлась - OpenCode сначала никак не хотел подтягивать нового сабагента и запускал стандартный встроенный Explore. Что помогло?

"mv deepseek-code-search.md 00-deepseek-code-search.md" 😂 Похоже опенкод читает ямлы с агентами по очереди, и алфавитно приоритетное имя файла решило проблему))

Такие дела 🌡 Пробуйте, ставьте, решение видется довольно неплохое 😎

Промпт агента пишу в коментарии
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3