AI vs DevOps
138 subscribers
206 photos
1 video
119 links
DevOps и системная инженерия в эпоху AI. Новости индустрии. И немного юмора.
Download Telegram
А еще вот просто не могу не пошарить инфо о своем продукте разработанном на хакатоне 😎
Первое место к сожалению не заняли, потому что надо было брать топики, которые организаторы обьявили на старте, то есть темы которые реально волнуют департаменты согласно опросам. Первые два места как раз делали продукты на эти темы (так что вот лайфхак на будущее).
Но Exa вошла в TOP5 (где-то из 15 команд) и жюри ее отдельно упомянули на файнал церемонии. Короче мерч в качестве призов за топ5 ничего не стоит 😅, но опыт и факт того, что продукт реально работает, реально полезен и мы его уже пробуем на текущем живом проекте и он уже начинает помогать людям - это бесценно 🤩

Почему это лучше чем "yet another chatbot"?

* Работа с данными. LLM-Wiki от Андрюхи Karpaty под капотом. Получаем точные данные с качественными взаимосвязями без громоздких RAG пайплайнов. Основной токен кансампшн на дата инжесте. Ретривал же простой как пробка, легко поддерживать, легко траблшутить.

* Агент харнесс от opencode, все четенько работает (скилы, mcp, кастом агенты) без разработки своих велосипедов

* Легко интегрируемся с новыми дата сорсами через MCP+синк микросервис. Сам АИ-бэкенд не требует доработок.

* Архитектура которая реально скейлиться на организацию. Микросервисы, асинк очереди, кешинг, клауд-нейтив дизайн.

Такие дела... 🤗 Вижу потенциал, будем работать над продуктом дальше)
Писали, что это - эволюционное продолжение LLM-Wiki by Karpaty - трансферим любые файлы в knowledge graph. Но как по мне - это пример как не надо писать скилы. 1300 строк скил, вместо рефов - указания ллм ставить внешние репы и внешний софт, вместо нормального ридми и cli с понятным хелпом по командам - рассказы как ллм запускать ту или иную команду.
Вобщем пока выглядит очень топорно, пробовать не буду. Но буду наблюдать какая идея окажется эффективнее - wiki или graph. Со временем должны будут появляться более качественный тулинг для одного или второго варианта работы с данными.
👍1
Уже второй раз натыкаюсь в рассылках на ai engineering hot topics 2026.
Так как автор не дает прямых разьяснений и говорит - подробности ищите сами, попросил ЛЛМ посерчить интернет на эти темы и сделать html страничку с блог постом на эти топики.
Мне понравилось 😎 Поэтому запаблишил на Github pages и заодно перенес свой блог с micro one на этот же самописный вариант в гитхабе. В 2026 платить хоть $1 за блог с интерфейсом из нулевых, когда можно все написать за пол часа аишкой и бесплатно захостить - зашквар))

Так что читайте, а я буду и дальше иногда постить лонгриды в этом блоге 😉 Кстати кто угадает, какой моделью написан текст и дизайн? 😏
🔥2
Ну что, готовы менять свои тайтлы в Linkedin? 🧐 Forward Deployed Engineers (FDE) - сейчас самый хайповый job title, при этом не такой временный, как уже ушедшие в небытье prompt engineeers (ну, поверим.. 😅). И гиганты собираются их хайрить и обучать сотнями.
Термин стал популярным буквально за последние пару недель, после того как OpenAI запустила свою deployment company, с инвестициями в $4ярда. Сразу же подключился гугл, который уже создал carrier ladder (FDE II - FDE IV) и разместил 59 вакансий на эту позицию, с рейтами для IV lvl в $183k-$265k, это без бонусов и эквити. К этой же движухе подключились и ServiceNow с Accenture.

В чем суть? В том что AI решения слишком сложны во внедрения в бизнес процессы. У малых и средних бизнесов нет своих айти отделов для внедрения даже простых в использовании тулов. А у больших компаний есть айти отделы, но нет экспертизы. Они хотят просто "нам бы АИ в наши процессы", но конкретные боли которые можно решить с АИ и как внедрить весь тулсет - это и должен искать FDE. Вобщем это инженер или их команда, которые работают на стороне заказчика, и сочитают роли бизнес-аналитика/архитекта/девопса. Рассказывают как и где АИ сделает в компании все радужно, допиливают софт напильниками чтобы подходило под процесссы кастомера и занимаются внедрением и настройкой.
По сути тот же DevOps+Архитектура, но чуть больше болтовни и софт скилов, с умением продать заказчику слона 😅

Но хайп интересный, движуха выглядит серьезной, может и в правду это станет очень выгодной и трендовой нишей. Через пол годика станет понятнее. Наблюдаем 😎

Статья на эту тему
А вот просто крутейшая находка на просторах сети. Сотни скилов для агентов на тему киберсекьюрити.

Что интересно нам? Cloud Security hardening. Container security включая k8s hardening. Настройка Web Apps Security (OWASP) для SDLC. Скилы по CI/CD security и terraform auditing.

Ну и в целом можно импрувнуть свои знания по cybersec, почитать про практики red/blue teaming, pentesting итд. Все скилы написаны доходчивым английским, так что это считай краткая сжатая документация с примерами использования программ 😎

https://github.com/mukul975/Anthropic-Cybersecurity-Skills
Продуктивного понедельника, коллеги 😄
🌚2
Forwarded from Lunar
Я вот пользуюсь таким ( телега )

Из плюсов: цена 0.3$ за лям opus 4.7 reasoning low, 1M контекста. Модели честные, не разбавленная. Могу скинуть аквариум.

Из минусов - иногда тулы на 4.7 подтупливают, но только на этой модели.

Нормальный бюджетный вариант.

По китайским китайцам:

https://hvoy.ai/ - тестер и роутер китайских апи

https://www.aiapipk.com/

https://linux.do/ - форум с обсуждениями

Китайцы в чатах кидали варианты
https://outgap.ai/
https://www.packyapi.com
По сообщению выше ^ Для интересующихся китайскими LLM роутерами, тут в одном чате скинули, интересное посмотреть :) Не рекомендация, понимайте риски.
Смотрел недавно IaCConf2026 и на конференции упоминали несколько интересных девопсовых продуктов для инфратструктуры появившихся в этом году.

Решил хотя бы минимально потрогать все интересное и рассказать вам здесь 🌡
И первый упомянутый на конфе тул который рассмотрим здесь - Spacelift Intent.

Spacelift - довольно известная платформа для хостинга Terraform IaC. И Intent - их попытка позаигрывать с вайбкодинг программистами🤔 По сути это просто MCP сервер. Который берет твои AWS креды, забирает конфигурацию terraform (opentofu ) aws провайдера из сети, и используя креды создает любые ресурсы в облаке. С хранением внутреннего стейта, но минуя сам терраформ код и init-apply-plan процессы. Intent MCP использует провайдера чтобы понять как напрямую ходить в CloudAPI и создавать/менеджить там ресурсы, и дальше хранит стейт в локальной базе на твоем компе (в ./.state/ или по переменной DB_DIR).

То есть с одной стороны знания терраформа не нужны. С другой стороны когда ты спрашиваешь вот надо мне поднять небольшую aws rds с postgres для локального проекта - LLM все равно идет в ресурсы провайдера и показывает тебе примеры что можно поднять и как сконфигурить - в HCL коде, то есть минимально понимать HCL все равно надо (хотя там все нативно понятно конечно).

Насколько это все удобно и имеет смысл? Не знаю. Лично мне проще сохранить все в терраформ файлы и даже локальный стейт, и видеть что у нас поднято просто из .tf файлов, не спрашивая каждый раз ллм а что у нас задеплоено в облаке. Для коллаборации внутри команды все это тоже как-то слабо годится...
Хотя в принципе для какого нибудь AI-native стартапа на десяток человек может и рабочий вариант, прикрутить к Intent сетевую базу с синхронизацией на всю команду (из коробки нет, но думаю легко костылится), и разработчики не знакомые с терраформом смогут создавать всю инфру прямо из своего Claude Code. И это будет лучше контролироваться, чем дать всем креды и все будут просто гонять aws cli. Даже можно поверх guardrails прикрутить в виде OPA полиси.

Так же если вы соло девелопер и хотите поднимать пет проекты в облаках без заморочек с IaC - нормальный вариант, можно пробовать.

Для ентерпрайзных команд же которые уже используют IaC в любом виде - переходить на Intent наверное смысла мало. Хотите AI native подход? Лучше написать небольшой скил описывающий вашу инфраструктуру, в каких все репозиториях, в каком формате, как добавлять ресурсы, как создать PR - и пошарить девелоперам.


Ставится Intent очень просто, скачиваете с гитхаба себе бинарник в /usr/local/bin и добавляете mcp вызывающую этот бинарник таким образом (здесь конфиг для opencode, на гитхабе есть примеры установки для других агентов):
mcp: {

"spacelift-intent": {
"type": "local",
"command": ["spacelift-intent"],
"env": {
"AWS_PROFILE": "default",
"AWS_REGION": "eu-north-1"
},
"enabled": true
}

}

Переменные можно передать в любом количесте, от разных клаудов. Как я понял - тула пока полностью бесплатная. Пробуйте 👍

На скринах:
Их сайт | Создал тестовый free-tier EC2 | Попросил показать стейт | Попросил расказать какие настройки есть для RDS | Список провайдеров
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Ohh, fcuk!!.. А вот и подоспел ответ на сумасшедшее стремление корпораций эвалюейтить перфоманс инженеров по тому, кто сколько токенов потратил. Логичное решение 🤣🤣 Как пели Bloodhound Gang - Burn-mthfcker... Burn! 😭🤣

Happy Friday, коллеги 🍻🍸🎁🎁🎁

https://github.com/dtnewman/burn-baby-burn
Please open Telegram to view this post
VIEW IN TELEGRAM
🦄1
Доброго начала рабочей недели, коллеги! И у меня есть новость, возможно пролетевшая мимо популярных сми и каналов. Про Google I/O 2026 конечно уже писали и жук и жаба. Но помимо всем понятной и в целом ожидаемой истории с 3.5 серией моделей Gemini, а так же весьма впечатляющей мультимедия модели Omni, на конференции упоминали еще один продукт, который может оказаться очень важным для DevOps и AI инженеров.

Во-первых, потому что это базовая инфрастуктура.
Во-вторых, это про агентную интеграцию.
Ну и в-третьих, это про k8s и про опенсорс решение от Google, так что есть все шансы что оно взлетит и станет одним из распространенных тулов в DevOps инструментарии через пол-годика - год.

Речь идет про Kubernetes Agent Sandbox.
Как сейчас обычно готовят агентов? Агент оркестратор запускает саб-агентов в отдельных контейнерах через docker api. Напрямую через docker socket если деплоим апликуху прямо на машине, или через docker-in-docker сайд контейнер внутри пода, если запускаем в кубере. В итоге это все имеет только вертикальный скейлинг, медленный старт, не самую секьюрную изоляцию. 🙈
Более навороченные велосипеды ходят в кубер апи и запускают полноценные deploy/sts, но это все равно костыльно. И любые инфраструктурные фичи под эту основу - это сложно, дорого и по сути костыли и велосипеды.😬

Продукт от гугл добавляет в любой ваш k8s кластер отдельный контроллер и CRD ("Sandbox", "SandboxClaim", "SandboxTemplate" etc). Которые описывают поды специально подходящие для агентных workloads. Выглядит этот CRD почти как обычный под:
apiVersion: agents.x-k8s.io/v1alpha1
kind: Sandbox
metadata:
name: dynamic-ephemeral-sandbox
spec:
replicas: 1
shutdownPolicy: Delete
shutdownTime: "${SHUTDOWN_TIME}"
podTemplate:
spec:
containers:
- name: workspace
image: alpine:latest
command: ["sleep", "infinity"]

Но при этом имеет множество важных фич⚠️:

- 😮стабильная сетевая identity (полноценный заранее извсетный хостнейм у каждого пода) и роутинг через X-Sandbox-ID хедер
- улучшенная работа с вольюмами. вольюмы переживают рестарты и рескедулинг между нодами и подключаются к новым подам без костылей
- scheduled deletion
- снапшоты состояния пода (можо через апи откатить сандбокс на любой момент его исполнения, получаем нативный бранчинг агент рантайма)
- 😮SandboxWarmPool - прогретый стак подов, ваши субагенты будут запускаться <1sec., гугл пишет про 90% прирост скорсти по сравнению с cold starts
- плагины для навороченный изоляции через gVisor/Kata, по сути запускаем полноценную изолированную виртуалку, а не обычный контейнер. Сесурити!🦾🔒

Ну и это все отлично скейлится горизонтально, удобно раскидываются по нужным нодгруппам с подходящим обьемом железа, работает с guardrails в виде OPA полиси. А так же отлично интегрируется в мониторинг.

Ну и киллер🔥фича - вся эта прелесть деплоится прямо из go/питон кода вашего приложения через свою SDK!

from k8s_agent_sandbox import SandboxClient

client = SandboxClient()

sandbox = client.create_sandbox(
template="python-sandbox-template",
namespace="default",
)
try:
result = sandbox.commands.run("echo 'Hello from Agent Sandbox!'")
print(result.stdout)
# Hello from Agent Sandbox!
finally:
sandbox.terminate()


Продукт залаунчили уже давно (на нынешней IO2026 его упоминали в контексте того, что гугл его гоняет у себя в gcloud для ентерпрайз агент решений(Managed Agents API)). И уже в стадии GA, то есть полноценно подходит для продакшн энвов.

Так что если вы все еще костылите как запускать ваших агентов в обычных deployments или dind-sidecar - делайте PoC, несите демо вашему архитекту, и изабвляейтсь от всех головняков и костылей😉


Качественной вам продакшн инфраструктуры, коллеги! 🌡
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
DeepSeek снизил цены еще на 75% 🤪

Теперь Deepseek-V4-Pro стоит беспрецедентно низкие $0.435 / $0.87

Но я его уже не использую, вернулся к Kimi как к базовой модели для большинствав задач. После того как DeepSeek стал у меня косячить с некоторыми проблемами с терраформом и с AWS OIDC аутентификацией, и я с ним убил прилично времени, хотя причина была очевидной, вернулся к Kimi. С ней вообще никаких непредсказуемых сюрпризов.

Да дипсик может неплохо писать код по спеке и что-то ревьювать, но все таки это он делалет хуже чем Kimi/GLM. Обычно вроде и неплохо, но экономить осознавая что там или тут могут выстрелить косяки - смысла не вижу. Go подписки пока хватает для работы и без использования супер дешевого дипсика. Такие дела 😎
Придумал идейку, а куда же все таки использовать DeepSeek 🧠🤔

Стандартный Explore субагент использует ту же самую модель, с которой ты работаешь в основной сессии. Зачастую это медленно, и относительно дорого, во время чтения код базы мы загружаем очень много инпут токенов. Решение - отдельный субагент для code exploration тасок, который гоняется на DeepSeek V4 🔥 Он быстрый, дешевый, и у него большой контекст на лям - как раз для больших ресерчей.

Потестил простым запросом "Explore the codebase and find all API endpoint definitions." на код базе нашего текущего проекта, в +-миллион строк (js/ts)
Задача слегка со звездочкой, потому что классических API ендпойнтов на проекте нет😅 Но есть множество cli entrypoints и 8 разных External API References (Outbound Calls). Цель была посмотреть как полноценно субагент проведет ресерч, ну и скорость/цена конечно.

Итого:
* DeepSeek V4 Pro - 2 минуты 30 секунд. 113к токенов, $0.23 - Четкий полный ресерч, расписало подробно все энтрипойнты, нашло все external api calls

* DeepSeek V4 Flash - 1 минута 32 секунды, 88к токенов, $0.02 - В доках написано что модель бесплатная, но посчитало как 2 цента. Какой-то урезаный ответ, нашло все энтрипойнты, но отдало минимум деталей по ним окрекстратору. Показало только 4 основных External API calls, не все.

Сравнил с обычным Explore который запускается на текущих моделях:
* Kimi K2.6 - 4 минуты. почему-то только 50к токенов и $0.11 центов (если сранить с 113к токенов DS Pro - цена почему-то одинаковая). Но чуть урезаный вариант, все cli, 4 екстеранала как у флеш, без подробностей 🥲

* GLM-5.1 - 4 минуты 58 секунд, 90к токенов, $0.48 - Охренеть какой подробный обзор🤯по каждому методу, со сводными таблицами, с количеством всех вызовов в гитхаб, гитлаб, джиру, вобщем вся подноготная проекта. В данном случае это наверное излишне... 🤔



Вобщем DeepSeek V4 Pro видется как лучший вариант для ресерч сабагента. Ну и забавная фича нашлась - OpenCode сначала никак не хотел подтягивать нового сабагента и запускал стандартный встроенный Explore. Что помогло?

"mv deepseek-code-search.md 00-deepseek-code-search.md" 😂 Похоже опенкод читает ямлы с агентами по очереди, и алфавитно приоритетное имя файла решило проблему))

Такие дела 🌡 Пробуйте, ставьте, решение видется довольно неплохое 😎

Промпт агента пишу в коментарии
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
Всем позитивной субботы, коллеги :)
Вчера вечером наткнулся на интересный репорт от Cursor. Они изучили паттерны использования своего софта разработчиками за текущий весенний квартал 2026 года. Конечно это все таки на определенную долю - PR и реклама. Как и любые исследования и репорты от Anthropic, OpenAI, Anysphere ит.д. Но все равно интересная информация к размышлению.

1. Разница между топ перформерами и обычными пользователями продолжает расти и сейчас уже на почти недосигаемых цифрах. Топ 1% перформеров пишут в 46х раз больше кода и деливерят в 15x раз больше PR среднего юзера. То есть истории про 10x инженеров по факту приближаются к 50x 🙃 Когда я вижу статьи, которые пишут что аи агенты улучшают перфоманс инженеров буквально на 20-30% или не улчшают совсем - воспринимаю это как обратную сторону сказочных историй про АИ интеграцию. С одной стороны АИ евангелисты с их 10х иженерами, с другой стороны скептики с их "аи ничего не умеет и ничего не заменит". Истина где-то посередине. Но если честно - цифры растут. Даже скептики раньше писали "аи ничего не дает в скорости деливери на реальных задачах", а сейчас уже пишут про "пару десятков процентов".

Вывод: если вы все еще используете АИ только чтобы что-то спросить в веб чате (вы что?😁) или все еще эстимейтите свои небольшие фичи по пол спринта на реализацию - вы неизбежно отстаете. Время менять парадигму своей работоспособности, чтобы не оказаться в списках на lay off-ы. Печально, но жесткий факт.🤷‍♂️

2. АИ все больше потребляет токенов на чтение контекста, а не на аутпут. АИ пишет больше кода, больше документации, код базы растут, приходится больше загружать контекста. Не супер важная информация, но какой-то вывод можно сделать. Например что при ценовом анализе моделей для кодинг проектов стоимость input токенов становится гораздо важнее. И скажем $0.75/$25 против $1/$25 будет гораздо выгоднее, чем $1/$15 против $1/$25

3. Стоимость моделей per request уже достигает цифры в х9 если сравнить Cursor Composer 2.5 (а это уровень цен Kimi, GLM, Qwen, DeepSeek) c популярным Опусом, да и с последними GPT тоже разница большая. Если учесть, что даже на кодинг бенчах разница в качестве этих моделей - буквально единицы процентов, а на живых задачах вообще может нивилироваться, то можно с уверенностью сказать что шифт на дешевые модели рано или поздно не избежен. Как в персональном использовании так и в энтерпрайзах. Ну не могут все жрать маректинговый булшит Антропиков годами, даже самые замшелые корпы рано или поздно прозреют))
Вывод: пробуйте новые оптимальные по цена/качество модели уже сейчас. Наращивайте экспертизу, подходящие промпты, скилы и mcp, ну и просто насмотренность как надо с ними эффективно работать. В будущем при массовом шифте внутри вашей компании вы будете уже профи в работе с ними.

4. В январе 2026 только 7% кода мержили без ручного ревью человеком. За 4 месяца эта цифра выросла до 38%, колоссально 😮 При этом в профильных статьях, чатах и форумах не слышно, чтобы все стонали о том, что код базы заполяют тонны слопа, наоборот качество так же уверенно продолжает расти.🌡
Вывод: агентное код ревью и секьюрити ревью становится базой. Используйте его и вы. Можно начать с commands/skills которые обязательно запускаете после каждого написания кода у себя в IDE/TUI (я когда-то выкладывал свою code-review md команду для ревью, использую ее по сей день, но уже в опенкоде, максимально доволен результатами👍 В плане моделей - GLM-5.1 ну или ладно уж - GPT-5.5 High, они максимально влазят в детали и в эдж кейсы, но при этом не добавляют лишней дичи, все по делу). Но вообще от буста личной продуктивности надо переходить к продуктивности всей команды, поэтому задумайтесь о внедерении AI ревью в свои пайплайны 😉

PS: хороших выходных! у нас сегодня в Дананге начинается международный чемпионат феерверков, будут выступать Китай vs Вьетнам. Будем смотреть красивое 🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM