⚡️ JAXFORMER - фундамент для доменных LLM от Salesforce
JAXFORMER - это не просто ещё одна ML-библиотека. Это движок от Salesforce, созданный специально для того, чтобы обучать огромные языковые модели на кластерах TPU v4.
Если коротко - он решает главную боль всех, кто работает с LLM:
🔧 В чём магия
1. Использует мощь
2. Оптимизация под TPU. JAXFORMER вытягивает максимум производительности и эффективности на железе Google - синхронизация и обмен градиентами работают почти «на лету».
3. Именно на JAXFORMER были обучены все модели семейства CodeGen (от 350M до 16B параметров) - первая open-source альтернатива Codex.
🚀 Почему это актуально в 2025?
Тренд сместился с гигантских универсальных моделей на компактные, умные и доменные LLM:
🍓 Ваш ассистент, который знает вашу кодобазу и ваши API.
🍓 Ваша модель, обученная на внутренней документации и специфичных данных.
Яркий кейс - Einstein for Developers
Тот же CodeGen, дообученный на экосистеме Salesforce (Apex, API), превратился в AI-помощника прямо в VS Code. Копайлот, который предлагает решения, учитывающие текущую бизнес-логику, работает гораздо лучше универсального.
👉 В эпоху специализированного AI JAXFORMER - тот инструмент, который позволяет строить вашего собственного копайлота. Он даёт компаниям и исследователям возможность делать то, что раньше мог лишь бигтех:
- обучать большие модели,
- адаптировать их под свою область,
- и при этом сохранять полный контроль над данными.
Это не про то, чтобы догнать GPT 🤡. Это про то, чтобы обогнать всех в своей нише, создав AI-эксперта, который знает подложку бизнеса изнутри.
#LLM #JAX #TPU #AI #Salesforce #Copilot #ModelTraining #GenAI
JAXFORMER - это не просто ещё одна ML-библиотека. Это движок от Salesforce, созданный специально для того, чтобы обучать огромные языковые модели на кластерах TPU v4.
Если коротко - он решает главную боль всех, кто работает с LLM:
как «распихать» миллиарды параметров модели по куче устройств так, чтобы она реально обучалась, а не падала с OOM.
🔧 В чём магия
1. Использует мощь
pjit из JAX для одновременного распределения данных, модели и состояния оптимизатора по всем устройствам. Больше не нужно выбирать между Data и Model Parallelism - здесь это есть из коробки.2. Оптимизация под TPU. JAXFORMER вытягивает максимум производительности и эффективности на железе Google - синхронизация и обмен градиентами работают почти «на лету».
3. Именно на JAXFORMER были обучены все модели семейства CodeGen (от 350M до 16B параметров) - первая open-source альтернатива Codex.
🚀 Почему это актуально в 2025?
Тренд сместился с гигантских универсальных моделей на компактные, умные и доменные LLM:
🍓 Ваш ассистент, который знает вашу кодобазу и ваши API.
🍓 Ваша модель, обученная на внутренней документации и специфичных данных.
Яркий кейс - Einstein for Developers
Тот же CodeGen, дообученный на экосистеме Salesforce (Apex, API), превратился в AI-помощника прямо в VS Code. Копайлот, который предлагает решения, учитывающие текущую бизнес-логику, работает гораздо лучше универсального.
👉 В эпоху специализированного AI JAXFORMER - тот инструмент, который позволяет строить вашего собственного копайлота. Он даёт компаниям и исследователям возможность делать то, что раньше мог лишь бигтех:
- обучать большие модели,
- адаптировать их под свою область,
- и при этом сохранять полный контроль над данными.
Это не про то, чтобы догнать GPT 🤡. Это про то, чтобы обогнать всех в своей нише, создав AI-эксперта, который знает подложку бизнеса изнутри.
#LLM #JAX #TPU #AI #Salesforce #Copilot #ModelTraining #GenAI
7❤11👍3🥰2👻2🦄2🤗1
🍓Инструмент недели. Как DVC может спасти ваш ML-проект
Кейс
Месяц назад выкатил модель, которая классифицирует котиков и собачек. Метрики - огонь, продакшн съел. Ты такой: «Оки-доки, теперь добавим ещё данных, особенно рыжих котиков🐾 🐾 🐾 , их не хватало».
Качаешь гигабайт новых картинок, кидаешь их в папку
Вот здесь начинается ад😵💫 . Ты пытаешься откатиться к прошлому чекпойнту модели, но он был натренирован на «каких-то там данных», которых у тебя уже нет. Воспроизвести прошлый результат нельзя. Весь процесс превращается в лотерею 🎟️
DVC — это как «Гит» для данных и моделей. Он не тащит гигабайты в репозиторий, а кладёт их на удалённое хранилище (типа S3 или даже просто сервер в соседней комнате), а в сам git-реп коммитит только маленький файлик-указатель (`.dvc`), который говорит: «версия данных №1 лежит вот по такому хешу».
Это гениально😇 , если ты два раза добавил одну и ту же картинку в разные датасеты, DVC не будет хранить две копии. Он посчитает хеш, увидит, что файл уже есть на сервере, и просто продублирует ссылку. Экономия места — бешеная.
Так почему его мало кто использует?
Потому что на старте проекта, когда данных 100 МБ, всё и так работает. DVC — это инструмент для «взрослых», который начинает кричать о своей необходимости ровно тогда, когда хаус уже горит и все тонут в хаосе. Это не про «сделать круто», а про «перестать тратить нервы и время». Это скелет проекта, который не ломается при первом же изменении. Самый недооценённый труженик в нашем стэке.
#DVC #ВерсионированиеДанных #MLOps #Reproducibility #DataManagement #МашинноеОбучение #DataScience #GitForData #MLOpsTools #MLЭксперименты #УправлениеДанными #DataEngineering #DataVersionControl
Кейс
Месяц назад выкатил модель, которая классифицирует котиков и собачек. Метрики - огонь, продакшн съел. Ты такой: «Оки-доки, теперь добавим ещё данных, особенно рыжих котиков
Качаешь гигабайт новых картинок, кидаешь их в папку
data/train, поверх старых. Запускаешь дообучение. Смотришь на графики — а метрики просели. «Странно... Может, я не те данные удалил? Или перезаписал не ту версию?» А вспомнить уже не можешь, потому что папка data/ теперь просто свалка из 50к файлов без истории 🦭.Вот здесь начинается ад
DVC — это как «Гит» для данных и моделей. Он не тащит гигабайты в репозиторий, а кладёт их на удалённое хранилище (типа S3 или даже просто сервер в соседней комнате), а в сам git-реп коммитит только маленький файлик-указатель (`.dvc`), который говорит: «версия данных №1 лежит вот по такому хешу».
Это гениально
Так почему его мало кто использует?
Потому что на старте проекта, когда данных 100 МБ, всё и так работает. DVC — это инструмент для «взрослых», который начинает кричать о своей необходимости ровно тогда, когда хаус уже горит и все тонут в хаосе. Это не про «сделать круто», а про «перестать тратить нервы и время». Это скелет проекта, который не ломается при первом же изменении. Самый недооценённый труженик в нашем стэке.
#DVC #ВерсионированиеДанных #MLOps #Reproducibility #DataManagement #МашинноеОбучение #DataScience #GitForData #MLOpsTools #MLЭксперименты #УправлениеДанными #DataEngineering #DataVersionControl
Please open Telegram to view this post
VIEW IN TELEGRAM
2❤10🔥9👍4💯1
CVE-2025-57818
✍️ Firecrawl до версии 2.0.1 позволял авторизованным пользователям настраивать вебхуки так, что они могли стучаться в любые внутренние сервисы компании. В результате пользователь мог задать, например:
То есть вместо обычного вебхука на внешний сервис Firecrawl начинал «стучаться» во внутренние ресурсы инфраструктуры — от etcd до облачных метаданных. На практике это значит, что Firecrawl превращается в прокси к приватным сервисам, до которых извне не добраться!
Уязвимость в Firecrawl на первый взгляд выглядит «обычным» SSRF, но есть важный нюанс. Firecrawl - это ML-парсер, изначально задумывавшийся для автоматического сбора и структурирования веб-контента. В нормальной эксплуатации модель обрабатывает текст и данные извне, однако благодаря SSRF-багу этот «умный парсер» превращается в инструмент разведки внутренней инфраструктуры.
🥺 Именно комбинация ML-модуля (обработка входных сайтов) и гибких вебхуков (интеграция с внешними сервисами) делает уязвимость опаснее. И вместо того чтобы парсить публичные сайты, система по просьбе пользователя начинает ходить в приватные ресурсы компании. По сути, ML-компонент становится троянским конём не по своей воле — его инфраструктура используется в атаках на внутренние сервисы, хотя сам по себе ML-код к багу отношения не имеет.
🫨 Вектор атаки
– Атакующий должен иметь авторизованный доступ к Firecrawl (не аноним!).
– После этого он настраивает webhook URL и Firecrawl выполняет запрос от имени своего сервера.
– Возможные последствия - доступ к внутренним API, метаданным облака, сервисам администрирования.
⚠️ tl;dr
До версии
✍️ Firecrawl до версии 2.0.1 позволял авторизованным пользователям настраивать вебхуки так, что они могли стучаться в любые внутренние сервисы компании. В результате пользователь мог задать, например:
http://127.0.0.1:2379/
http://metadata.google.internal/computeMetadata/v1/
http://intranet.corp.local/
То есть вместо обычного вебхука на внешний сервис Firecrawl начинал «стучаться» во внутренние ресурсы инфраструктуры — от etcd до облачных метаданных. На практике это значит, что Firecrawl превращается в прокси к приватным сервисам, до которых извне не добраться!
Уязвимость в Firecrawl на первый взгляд выглядит «обычным» SSRF, но есть важный нюанс. Firecrawl - это ML-парсер, изначально задумывавшийся для автоматического сбора и структурирования веб-контента. В нормальной эксплуатации модель обрабатывает текст и данные извне, однако благодаря SSRF-багу этот «умный парсер» превращается в инструмент разведки внутренней инфраструктуры.
🥺 Именно комбинация ML-модуля (обработка входных сайтов) и гибких вебхуков (интеграция с внешними сервисами) делает уязвимость опаснее. И вместо того чтобы парсить публичные сайты, система по просьбе пользователя начинает ходить в приватные ресурсы компании. По сути, ML-компонент становится троянским конём не по своей воле — его инфраструктура используется в атаках на внутренние сервисы, хотя сам по себе ML-код к багу отношения не имеет.
🫨 Вектор атаки
– Атакующий должен иметь авторизованный доступ к Firecrawl (не аноним!).
– После этого он настраивает webhook URL и Firecrawl выполняет запрос от имени своего сервера.
– Возможные последствия - доступ к внутренним API, метаданным облака, сервисам администрирования.
⚠️ tl;dr
До версии
2.0.1 Firecrawl можно было превратить из ML-парсера в прокси для внутренних сервисов — классический SSRF.6❤10☃5🔥4🤓1👻1👾1
Автоматизированная оценка рисков утечки данных из ML-моделей 🔍
Исследователи из CTC и USMA представили конвейер для анализа атак инверсии. Model Inversion Attack позволяет восстанавливать чувствительные данные из обученной сети, угрожая приватности (классика - MI-Face 🤦♀️).
Конвейер использует Vision Language Models (CLIP, BLIP2, InstructBLIP), чтобы автоматически оценивать качество реконструированных изображений. Вводятся 4 метрики:
1️⃣ Quality Loss — насколько картинка «шумная» по сравнению с оригиналом
2️⃣ Feature Loss - сходство признаков по эмбедингам.
3️⃣ Label Loss - вероятность совпадения класса.
4️⃣ Model Stealing Loss - риск, что извлечённая модель копирует поведение оригинала.
Все метрики агрегируются в WCAL (Weighted Composite Accuracy Loss). Риск считается низким при <55%, средним 55–65%, высоким >65%.
Эксперименты показали следующее. VGG16 течёт данными сильнее, чем ResNet50, а GMI-атаки (GAN-based) эффективнее простых Feature Visualization (Lucent для PyTorch). Fine-tuning VLM и GAN на специфичных доменах (например, военная техника Military Vehicles dataset) повышает точность оценки риска.
📈Для тестов использовали датасеты STL-10 и Military Vehicles; модели — VGG16, MobileNetV2, ResNet50.
📌 Хороший обзор теории model inversion: OWASP/NIST, StartupDefense.
💭 Моё мнение
Главный инсайт - приватность в ML-моделях дырявая по умолчанию. Один хороший GMI-атакующий вытащит из VGG16 куда больше, чем мы привыкли думать. WCAL как индикатор риска - это мощный шаг, так ккк теперь утечки можно мерить не на глаз.
Но вывод в целом тревожный, если твоя модель тренируется на чувствительных данных и ты не проверяешь её на инверсию, считай, что эти данные уже наполовину скомпрометированы.
Исследователи из CTC и USMA представили конвейер для анализа атак инверсии. Model Inversion Attack позволяет восстанавливать чувствительные данные из обученной сети, угрожая приватности (классика - MI-Face 🤦♀️).
Конвейер использует Vision Language Models (CLIP, BLIP2, InstructBLIP), чтобы автоматически оценивать качество реконструированных изображений. Вводятся 4 метрики:
1️⃣ Quality Loss — насколько картинка «шумная» по сравнению с оригиналом
2️⃣ Feature Loss - сходство признаков по эмбедингам.
3️⃣ Label Loss - вероятность совпадения класса.
4️⃣ Model Stealing Loss - риск, что извлечённая модель копирует поведение оригинала.
Все метрики агрегируются в WCAL (Weighted Composite Accuracy Loss). Риск считается низким при <55%, средним 55–65%, высоким >65%.
Эксперименты показали следующее. VGG16 течёт данными сильнее, чем ResNet50, а GMI-атаки (GAN-based) эффективнее простых Feature Visualization (Lucent для PyTorch). Fine-tuning VLM и GAN на специфичных доменах (например, военная техника Military Vehicles dataset) повышает точность оценки риска.
📈Для тестов использовали датасеты STL-10 и Military Vehicles; модели — VGG16, MobileNetV2, ResNet50.
📌 Хороший обзор теории model inversion: OWASP/NIST, StartupDefense.
💭 Моё мнение
Главный инсайт - приватность в ML-моделях дырявая по умолчанию. Один хороший GMI-атакующий вытащит из VGG16 куда больше, чем мы привыкли думать. WCAL как индикатор риска - это мощный шаг, так ккк теперь утечки можно мерить не на глаз.
Но вывод в целом тревожный, если твоя модель тренируется на чувствительных данных и ты не проверяешь её на инверсию, считай, что эти данные уже наполовину скомпрометированы.
6❤8🐳4💋3🎃3🔥2👏1
🔥 Критическая уязвимость в Local Deep Research (CVE-2025-57806)
До версии 1.0.0 все API-ключи (OpenAI, Anthropic и др.) хранились в SQLite без шифрования.
➡️ Доступ к серверу = кража ключей.
🔴 Риск!
Любой, кто получал доступ к серверу или контейнеру, мог скопировать базу и похитить ключи - для последующего использования или продажи.
⚠️ В версии 1.0.0 брешь закрыли - ключи теперь шифруются и хранятся безопасно.
📎 Ссылки: Release, PR, Advisory.
P.S.
✨ Почему стоит обратить внимание на Local Deep Research? Это self-hosted AI-ассистент, который ищет в вебе и ваших документах, собирает факты и превращает их в структурированный отчёт. Удобен для аналитиков (обзоры рынка), исследователей (подбор материалов) и разработчиков (разбор кода). Или если сами запутались в том, что наресечили в папке "диплом" или "доклад".
✅ Теперь инструмент не только удобный, но и безопасный 🤭. Если раньше сомневались (правильно делали, интуиция) - сейчас самое время попробовать.
#CVE #AI #безопасность #уязвимость #LocalDeepResearch
До версии 1.0.0 все API-ключи (OpenAI, Anthropic и др.) хранились в SQLite без шифрования.
➡️ Доступ к серверу = кража ключей.
🔴 Риск!
Любой, кто получал доступ к серверу или контейнеру, мог скопировать базу и похитить ключи - для последующего использования или продажи.
⚠️ В версии 1.0.0 брешь закрыли - ключи теперь шифруются и хранятся безопасно.
📎 Ссылки: Release, PR, Advisory.
P.S.
✨ Почему стоит обратить внимание на Local Deep Research? Это self-hosted AI-ассистент, который ищет в вебе и ваших документах, собирает факты и превращает их в структурированный отчёт. Удобен для аналитиков (обзоры рынка), исследователей (подбор материалов) и разработчиков (разбор кода). Или если сами запутались в том, что наресечили в папке "диплом" или "доклад".
✅ Теперь инструмент не только удобный, но и безопасный 🤭. Если раньше сомневались (правильно делали, интуиция) - сейчас самое время попробовать.
#CVE #AI #безопасность #уязвимость #LocalDeepResearch
50❤9👍3💯3🤓1👻1🎃1🦄1
Где пентест-агенты работают, а где пока что нужен человек
Сегодня пентест-агенты умеют выполнять часть задач хакера, но не все. По данным Veracode, до 40% кода, написанного ИИ, содержит уязвимости - и это подталкивает индустрию к поиску автоматизированных решений для аудита. На этом фоне появляются пентест-агенты - системы, призванные автоматизировать процесс поиска уязвимостей. Правда, и сами они опираются на модели, которые порой генерируют небезопасный код. Упс 😁
Где помогают и где буксуют?
Один из простых и наглядных примеров - HackSynth. Агент работает по циклу планирование ➡️ выполнение ➡️анализ. Планировщик придумывает, что делать, а саммаризатор фильтрует шум из логов. Всё аккуратно, пошагово, но линейно.
Другой подход показала MAPTA. Тут есть Координатор, который строит общую стратегию и распределяет её между несколькими агентами, а агент-валидатор проверяет эксплойты - по сути как команда пентестеров с руководителем. Благодаря этому снижается количество false-positive, а риск того, что инфраструктура ляжет спать – минимален.
Результаты MAPTA:
✅ 100% успеха в SSRF и мисконфигурациях
✅ 83% - в broken authorization
❌ 0% - в blind SQL injection
НО! Симуляция ≠ реальная сеть. GAP Framework пробует метод Real-to-Sim-to-Real, чтобы сократить разрыв. LLM забывается на длинных сессиях, придумывает IP и требует строгой изоляции...
Чтобы снизить риски, применяют промпты с чёткой ролью, few-shot и chain-of-thought. Но даже так модели способны выдавать нерелевантные шаги и/или ошибочные команды.
Как агент думает
На практике агент работает довольно просто: он видит топологию сети, сервисы и учётки; может сканировать, эксплуатировать уязвимости, подбирать пароли и перемещаться по сети; получает бонус за успешные шаги и штраф за ошибки или обнаружение.
Чаще всего используют алгоритмы вроде PPO (Proximal Policy Optimization) и иерархические подходы: стратегический уровень решает, какую цель атаковать, тактический - как именно это сделать.
Для обучения создаются среды вроде PenGym, где подключаются реальные инструменты (Nmap, Metasploit). Эффективность проверяют на CTF-платформах или бенчмарках: PicoCTF, OverTheWire, XBOW. Низкая стоимость успешных атак (7 центов по данным MAPTA) показывает экономическую эффективность агентов в рутинных задачах, однако это не означает, что они подходят для всех сценариев.
Если по-простому
Агенты - это ускоритель пентеста, а не замена пентестеру. Они снимают рутину (сканы, переборы, типовые атаки), а человеку оставляют главное - анализ сложных уязвимостей.
Иначе говоря, пока агенты делают «скучное», человек остаётся в роли арбитра.
#ai #aiagent #pentest
Сегодня пентест-агенты умеют выполнять часть задач хакера, но не все. По данным Veracode, до 40% кода, написанного ИИ, содержит уязвимости - и это подталкивает индустрию к поиску автоматизированных решений для аудита. На этом фоне появляются пентест-агенты - системы, призванные автоматизировать процесс поиска уязвимостей. Правда, и сами они опираются на модели, которые порой генерируют небезопасный код. Упс 😁
Где помогают и где буксуют?
Один из простых и наглядных примеров - HackSynth. Агент работает по циклу планирование ➡️ выполнение ➡️анализ. Планировщик придумывает, что делать, а саммаризатор фильтрует шум из логов. Всё аккуратно, пошагово, но линейно.
Другой подход показала MAPTA. Тут есть Координатор, который строит общую стратегию и распределяет её между несколькими агентами, а агент-валидатор проверяет эксплойты - по сути как команда пентестеров с руководителем. Благодаря этому снижается количество false-positive, а риск того, что инфраструктура ляжет спать – минимален.
Результаты MAPTA:
✅ 100% успеха в SSRF и мисконфигурациях
✅ 83% - в broken authorization
❌ 0% - в blind SQL injection
НО! Симуляция ≠ реальная сеть. GAP Framework пробует метод Real-to-Sim-to-Real, чтобы сократить разрыв. LLM забывается на длинных сессиях, придумывает IP и требует строгой изоляции...
Чтобы снизить риски, применяют промпты с чёткой ролью, few-shot и chain-of-thought. Но даже так модели способны выдавать нерелевантные шаги и/или ошибочные команды.
Как агент думает
На практике агент работает довольно просто: он видит топологию сети, сервисы и учётки; может сканировать, эксплуатировать уязвимости, подбирать пароли и перемещаться по сети; получает бонус за успешные шаги и штраф за ошибки или обнаружение.
Чаще всего используют алгоритмы вроде PPO (Proximal Policy Optimization) и иерархические подходы: стратегический уровень решает, какую цель атаковать, тактический - как именно это сделать.
Для обучения создаются среды вроде PenGym, где подключаются реальные инструменты (Nmap, Metasploit). Эффективность проверяют на CTF-платформах или бенчмарках: PicoCTF, OverTheWire, XBOW. Низкая стоимость успешных атак (7 центов по данным MAPTA) показывает экономическую эффективность агентов в рутинных задачах, однако это не означает, что они подходят для всех сценариев.
Если по-простому
Агенты - это ускоритель пентеста, а не замена пентестеру. Они снимают рутину (сканы, переборы, типовые атаки), а человеку оставляют главное - анализ сложных уязвимостей.
Иначе говоря, пока агенты делают «скучное», человек остаётся в роли арбитра.
#ai #aiagent #pentest
53🔥8❤5👍4💯1💔1👻1🙈1🆒1
Инструмент недели. Polars
Когда Pandas начинает «тормозить» на миллионах строк, на помощь приходит Polars - библиотека для анализа данных, написанная на Rust.
Почему стоит попробовать?
😛 В разы быстрее Pandas на больших датасетах.
✌️ Lazy API - можно строить вычислительные графы и оптимизировать запросы (как в SQL).
👑 Поддержка многопоточности «из коробки».
🐰 Совместимость с Arrow - легко интегрировать с ML-инструментами.
Кейс
У нас есть датасет vulners_web.csv с колонками cve_id, score, has_exploit, fetched_at.
Нужно понять распределение уязвимостей по уровням риска (Low/Medium/High/Critical) и посмотреть, сколько из них уже имеют эксплойт (на рисунке результат работы кода).
Такой кейс прям жизненный. Показывает, как Polars помогает быстро агрегировать и строить фичи для анализа киберугроз или для будущей ML-модели.
Polars в одну строчку даёт сводку: сколько уязвимостей в каждой категории, сколько из них имеют эксплойты, средний CVSS-балл.
Такой подход удобно использовать для генерации признаков перед обучением ML-модели (например, для прогноза риска эксплуатации).
⚡ Polars vs Pandas (на 1 млн строк).
⚡ На ноутбуке с 1 млн строк:
Pandas ≈ 1.5–2.0 сек
Polars ≈ 0.2–0.3 сек
Разница на больших датасетах ещё больше.
Выводы
Polars = скорость + простота + экономия памяти, времени и нервов.
Для ML-инженера это отличный инструмент для EDA и фичер-инжиниринга.
Когда Pandas начинает «тормозить» на миллионах строк, на помощь приходит Polars - библиотека для анализа данных, написанная на Rust.
Почему стоит попробовать?
Кейс
У нас есть датасет vulners_web.csv с колонками cve_id, score, has_exploit, fetched_at.
Нужно понять распределение уязвимостей по уровням риска (Low/Medium/High/Critical) и посмотреть, сколько из них уже имеют эксплойт (на рисунке результат работы кода).
import polars as pl
df = pl.read_csv(
"/content/vulners_web.csv",
columns=["cve_id", "score", "has_exploit"],
n_rows=20000
)
df = df.with_columns([
pl.when(pl.col("score") < 4.0).then(pl.lit("Low"))
.when(pl.col("score") < 7.0).then(pl.lit("Medium"))
.when(pl.col("score") < 9.0).then(pl.lit("High"))
.otherwise(pl.lit("Critical"))
.alias("severity")
])
stats = (
df.group_by("severity")
.agg([
pl.count().alias("n_total"),
pl.sum("has_exploit").alias("n_with_exploit"),
pl.mean("score").alias("avg_score"),
])
.sort("avg_score", descending=True)
)
print(stats)
Такой кейс прям жизненный. Показывает, как Polars помогает быстро агрегировать и строить фичи для анализа киберугроз или для будущей ML-модели.
Polars в одну строчку даёт сводку: сколько уязвимостей в каждой категории, сколько из них имеют эксплойты, средний CVSS-балл.
Такой подход удобно использовать для генерации признаков перед обучением ML-модели (например, для прогноза риска эксплуатации).
⚡ Polars vs Pandas (на 1 млн строк).
import pandas as pd
import polars as pl
import numpy as np
import time
# Генерируем тестовый датасет
N = 1_000_000
scores = np.random.uniform(0, 10, N)
has_exploit = np.random.choice([0, 1], size=N)
# Pandas
df_pd = pd.DataFrame({"score": scores, "has_exploit": has_exploit})
t0 = time.time()
pd_stats = df_pd.groupby(pd.cut(df_pd["score"], [0,4,7,9,10])).agg(
n_total=("score", "count"),
n_with_exploit=("has_exploit", "sum"),
avg_score=("score", "mean")
)
print("Pandas:", time.time() - t0, "сек")
# Polars
df_pl = pl.DataFrame({"score": scores, "has_exploit": has_exploit})
t0 = time.time()
pl_stats = (
df_pl.with_columns([
pl.when(pl.col("score") < 4.0).then(pl.lit("Low"))
.when(pl.col("score") < 7.0).then(pl.lit("Medium"))
.when(pl.col("score") < 9.0).then(pl.lit("High"))
.otherwise(pl.lit("Critical"))
.alias("severity")
])
.group_by("severity")
.agg([
pl.count().alias("n_total"),
pl.sum("has_exploit").alias("n_with_exploit"),
pl.mean("score").alias("avg_score"),
])
)
print("Polars:", time.time() - t0, "сек")
⚡ На ноутбуке с 1 млн строк:
Pandas ≈ 1.5–2.0 сек
Polars ≈ 0.2–0.3 сек
Разница на больших датасетах ещё больше.
Выводы
Polars = скорость + простота + экономия памяти, времени и нервов.
Для ML-инженера это отличный инструмент для EDA и фичер-инжиниринга.
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤9🔥6👍5👀2
Киберугрозы перебрались в мир ML-библиотек
Машинное обучение активно выходит в продакшн, а вслед за ним приходят и новые, нетривиальные угрозы.
😞 Привычные инструменты — TensorFlow, PyTorch, Scikit-learn — могут стать лазейкой для атак, если бездумно загружать модели из ненадёжных источников.
Только за последнее время в ключевых библиотеках обнаружили критические уязвимости.
В Keras (CVE-2024-3660) нашли дыру, из-за которой модели с Lambda-слоями могли содержать вредоносный код, выполняемый сразу при загрузке. MLflow (CVE-2024-37057) не отставал — уязвимость в логике десериализации TensorFlow-моделей позволяла злоумышленнику получить полный контроль над системой. История с PyTorch (CVE-2025-32434) оказалась особенно показательной: казалось бы, безопасный режим weights_only=True можно было обойти, и специально подготовленный файл весов всё равно исполнял произвольный код. А затем выяснилось, что даже инструменты защиты уязвимы.😂 PickleScan (CVE-2025-1944), созданный для проверки моделей на безопасность, сам содержал дыру. Злоумышленник мог подделать архив так, чтобы обойти проверку, и успешно загрузить вредоносную модель.
К чему всё это? Вывод простой.
🍂 Загрузка чужих весов без проверки — это пупупу...
🦄 Даже если в документации написано «безопасно», всегда есть шанс, что кто-то уже нашёл лазейку.
Корень проблем часто кроется в ненадёжной десериализации — использовании pickle, cloudpickle, исполняемых слоёв (Lambda) и пользовательского кода внутри моделей. Кроме того, атаки целятся не только в сами модели, но и во всю инфраструктуру вокруг (инструменты управления, системы трекинга, логирования и тд). Важно помнить, что не каждая уязвимость даёт полный доступ к системе или DoS, но и утечка данных или подрыв доверия к модели — тоже крайне серьёзные риски.
Что делать?
Относиться к моделям как к коду🧑💻 . Проверять их происхождение, использовать песочницы для запуска, сканировать артефакты и своевременно обновлять зависимости.
#MLбезопасность #AI #DevSecOps #TensorFlow #PyTorch
Машинное обучение активно выходит в продакшн, а вслед за ним приходят и новые, нетривиальные угрозы.
😞 Привычные инструменты — TensorFlow, PyTorch, Scikit-learn — могут стать лазейкой для атак, если бездумно загружать модели из ненадёжных источников.
Только за последнее время в ключевых библиотеках обнаружили критические уязвимости.
В Keras (CVE-2024-3660) нашли дыру, из-за которой модели с Lambda-слоями могли содержать вредоносный код, выполняемый сразу при загрузке. MLflow (CVE-2024-37057) не отставал — уязвимость в логике десериализации TensorFlow-моделей позволяла злоумышленнику получить полный контроль над системой. История с PyTorch (CVE-2025-32434) оказалась особенно показательной: казалось бы, безопасный режим weights_only=True можно было обойти, и специально подготовленный файл весов всё равно исполнял произвольный код. А затем выяснилось, что даже инструменты защиты уязвимы.
К чему всё это? Вывод простой.
🍂 Загрузка чужих весов без проверки — это пупупу...
Корень проблем часто кроется в ненадёжной десериализации — использовании pickle, cloudpickle, исполняемых слоёв (Lambda) и пользовательского кода внутри моделей. Кроме того, атаки целятся не только в сами модели, но и во всю инфраструктуру вокруг (инструменты управления, системы трекинга, логирования и тд). Важно помнить, что не каждая уязвимость даёт полный доступ к системе или DoS, но и утечка данных или подрыв доверия к модели — тоже крайне серьёзные риски.
Что делать?
Относиться к моделям как к коду
#MLбезопасность #AI #DevSecOps #TensorFlow #PyTorch
Please open Telegram to view this post
VIEW IN TELEGRAM
4🔥10❤5👍2🤓2👀2
Инструмент недели. Weights & Biases (W&B)
Работать с ML-моделями значит запускать десятки экспериментов🤪 , менять гиперпараметры и пытаться всё это отслеживать.
С W&B всё вживую! Как меняется точность, как падает ошибка, какая модель оказалась лучшей. Удобная платформа для логирования экспериментов, визуализации метрик, управления моделями и коллаборации в ML-командах. Поддерживает PyTorch, TensorFlow, Keras, Scikit-Learn и другие фреймворки.
Почему стоит попробовать?
🐕🦺Простая интеграция — wandb.init() и у тебя уже дашборд
🐩 Красивые графики из коробки (loss, accuracy, ROC и др.).
🐕Совместная работа — можно шарить ссылку на эксперименты коллегам.
🦮 Версионирование моделей и датасетов.
🐶 Поддержка PyTorch, TensorFlow, Keras, HuggingFace, Sklearn и тд.
Кейс
Берём открытый датасет MNIST и обучаем простую модель на PyTorch. Тренируем и логируем метрики в W&B — через пару секунд в браузере появляется дашборд с loss и accuracy.
🐶 Пример на MNIST (PyTorch + W&B):
Чем отличается от аналогов?
🕺 Если коротко, W&B выигрывает там, где важно быстро стартовать, красиво визуализировать и работать в команде.
🦴TensorBoard хорош, если нужен простой просмотр метрик, графиков и тд в связке с TensorFlow. Но это скорее локальный инструмент для одиночной работы, без удобного шаринга и версионирования.
🦴🦴MLflow подходит, когда требуется полный контроль. Можно развернуть свой сервер, хранить модели и вести реестр экспериментов. Но за это платишь временем на настройку и более скромным интерфейсом.
🦴🦴🦴Neptune ориентирован на крупные команды и масштабные проекты. Он стабилен при огромном количестве экспериментов, но для большинства задач выглядит избыточным.
🦴🦴🦴🦴W&B сочетает простоту старта (wandb.init()), наглядный дашборд «из коробки», версионирование моделей и датасетов и лёгкий шаринг экспериментов.
#WB #инструментнедели #ml #machinelearning
Работать с ML-моделями значит запускать десятки экспериментов
С W&B всё вживую! Как меняется точность, как падает ошибка, какая модель оказалась лучшей. Удобная платформа для логирования экспериментов, визуализации метрик, управления моделями и коллаборации в ML-командах. Поддерживает PyTorch, TensorFlow, Keras, Scikit-Learn и другие фреймворки.
Почему стоит попробовать?
🐕🦺Простая интеграция — wandb.init() и у тебя уже дашборд
🐩 Красивые графики из коробки (loss, accuracy, ROC и др.).
🐕Совместная работа — можно шарить ссылку на эксперименты коллегам.
🦮 Версионирование моделей и датасетов.
Кейс
Берём открытый датасет MNIST и обучаем простую модель на PyTorch. Тренируем и логируем метрики в W&B — через пару секунд в браузере появляется дашборд с loss и accuracy.
import wandb, torch, torch.nn as nn, torch.optim as optim
from torchvision import datasets, transforms
from torch.utils.data import DataLoader
wandb.init(project="mnist-demo")
config = wandb.config
config.epochs, config.lr, config.batch_size = 3, 0.001, 64
train_loader = DataLoader(
datasets.MNIST('.', train=True, download=True, transform=transforms.ToTensor()),
batch_size=config.batch_size, shuffle=True
)
model = nn.Sequential(nn.Flatten(), nn.Linear(28*28, 128), nn.ReLU(), nn.Linear(128, 10))
opt, loss_fn = optim.Adam(model.parameters(), lr=config.lr), nn.CrossEntropyLoss()
for epoch in range(config.epochs):
loss_total, correct = 0, 0
for X, y in train_loader:
opt.zero_grad()
pred = model(X)
loss = loss_fn(pred, y)
loss.backward()
opt.step()
loss_total += loss.item()
correct += (pred.argmax(1) == y).sum().item()
acc = correct / len(train_loader.dataset)
wandb.log({"epoch": epoch, "loss": loss_total/len(train_loader), "accuracy": acc})
Чем отличается от аналогов?
🦴TensorBoard хорош, если нужен простой просмотр метрик, графиков и тд в связке с TensorFlow. Но это скорее локальный инструмент для одиночной работы, без удобного шаринга и версионирования.
🦴🦴MLflow подходит, когда требуется полный контроль. Можно развернуть свой сервер, хранить модели и вести реестр экспериментов. Но за это платишь временем на настройку и более скромным интерфейсом.
🦴🦴🦴Neptune ориентирован на крупные команды и масштабные проекты. Он стабилен при огромном количестве экспериментов, но для большинства задач выглядит избыточным.
🦴🦴🦴🦴W&B сочетает простоту старта (wandb.init()), наглядный дашборд «из коробки», версионирование моделей и датасетов и лёгкий шаринг экспериментов.
#WB #инструментнедели #ml #machinelearning
Please open Telegram to view this post
VIEW IN TELEGRAM
4❤11🔥4👍3👌2
Как держать ноутбуки в чистоте и не сойти с ума от мерджей
Если ваша команда работает с Jupyter Notebooks и использует Git, вы наверняка сталкивались с этим.🙈 Коммиты превращаются сон при температуре 39 из-за тысяч изменённых строк в диффах. Виноваты вы и аутпуты ячеек — графики, результаты print() (кто же не отлаживает код принтами), большие датафреймы. Они маскируют реальные изменения кода и делают историю нечитаемой.
nbstripout (там даже есть видеодемонстрация) автоматически очищает ваши .ipynb файлы от:
📤 Выходных данных! Все эти графики, картинки и текстовый вывод, которые генерируются при выполнении ячеек.
📉 Лишних метаданных! Служебная информация от различных расширений (например, execution time, состояния виджетов), которая тоже меняется каждый раз и создаёт шум.
Идея в том, чтобы в репозиторий попадал только чистый код и разметка — то, что действительно нужно для воспроизведения результатов, а не их артефакты.
Вот так выглядит diff, если коммитить ноутбук с аутпутами и с нбстрипаут:
🔻 До — сотни строк JSON ради одного графика.
🔺 После nbstripout — только код.
Как это использовать? Есть два основных пути:
1️⃣ настроить nbstripout как фильтр для Git. Это значит, что в вашей рабочей директории файлы остаются с аутпутами (удобно для работы), но при коммите гит автоматически применяет очистку перед сохранением версии.
2️⃣ интегрировать с фреймворком прекоммит. Перед каждым коммитом хук запускается и проверяет, что ноутбуки чистые. Если нет — он их очищает и добавляет изменения в коммит.
А есть подводные камни?
Конечно! Главный из них — мерджи.
Вы тянете изменения из основной ветки, где ноутбуки чистые. А у вас локально эти ноутбуки выполнены и полны аутпутов. Гит попытается смерджить изменения в коде, но запутается в тех частях файла, где хранятся аутпуты. Это может привести к конфликтам слияния, которые придётся разрешать вручную.😳 Нет, ну может, конечно, это только у меня так было… Решением будет договориться в команде, что все используют такой фильтр. Тогда и в основной ветке, и у всех локально ноутбуки будут в одинаковом «чистом» состоянии, и проблем с мерджами будет минимум.
#python #jupyter #git #datascience #ml #productivity #nbstripout
Если ваша команда работает с Jupyter Notebooks и использует Git, вы наверняка сталкивались с этим.
nbstripout (там даже есть видеодемонстрация) автоматически очищает ваши .ipynb файлы от:
Идея в том, чтобы в репозиторий попадал только чистый код и разметка — то, что действительно нужно для воспроизведения результатов, а не их артефакты.
Вот так выглядит diff, если коммитить ноутбук с аутпутами и с нбстрипаут:
- "execution_count": 2,
- "outputs": [
- ... 200 строк мусора ...
- ],
+ "execution_count": null,
+ "outputs": [],
🔻 До — сотни строк JSON ради одного графика.
🔺 После nbstripout — только код.
Как это использовать? Есть два основных пути:
1️⃣ настроить nbstripout как фильтр для Git. Это значит, что в вашей рабочей директории файлы остаются с аутпутами (удобно для работы), но при коммите гит автоматически применяет очистку перед сохранением версии.
2️⃣ интегрировать с фреймворком прекоммит. Перед каждым коммитом хук запускается и проверяет, что ноутбуки чистые. Если нет — он их очищает и добавляет изменения в коммит.
А есть подводные камни?
Конечно! Главный из них — мерджи.
Вы тянете изменения из основной ветки, где ноутбуки чистые. А у вас локально эти ноутбуки выполнены и полны аутпутов. Гит попытается смерджить изменения в коде, но запутается в тех частях файла, где хранятся аутпуты. Это может привести к конфликтам слияния, которые придётся разрешать вручную.
#python #jupyter #git #datascience #ml #productivity #nbstripout
Please open Telegram to view this post
VIEW IN TELEGRAM
7❤6✍5👍2🔥1
🤖 Ошибка в проде или как одна строка сломала всё (ML edition)
Недавно в ML-сервисе (он ранжировал товары в каталоге) в продакшн попала вот такая правка:
И всё — выдача внезапно «поехала».
В чём подвох?
В проде модель ждала данные, нормализованные так же, как при обучении.
Но fit_transform обучил новый StandardScaler прямо на боевых данных.
В результате каждый запрос нормализовался «по-своему», и модель выдавала рандом.
Одна строка превратила рекомендательную систему в рандомизатор. Почему? StandardScaler.fit_transform() вычисляет среднее (mean) и стандартное отклонение (std) по предоставленным данным и сразу применяет их ((x - mean) / std).
На обучении он посчитал mean_train и std_train на трейне и преобразовал данные. Модель научилась работать с признаками, имеющими такое распределение (~N(0,1)). На проде в каждом запросе (или батче) он заново вычислял mean_prod и std_prod на лету для одного-единственного запроса и применял их. Для одного объекта mean = x1, std = 0. Попытка поделить на ноль (или получить огромные числа, если std выставлялся в какое-то минимальное значение для избежания деления на ноль). Для небольшого батча нормализация происходила по странным, нестабильным параметрам. Модель получала на вход числа, которые по масштабу и распределению были совершенно не похожи на те, на которых она училась. Ее предсказания становились бессмысленными.
Именно поэтому ML-прод = код + данные + артефакты препроцессинга.
Как нашли:
Метрики CTR резко упали (тревогу поднимают аналитики)
В логах модели значения признаков стали «плясать».
git bisect вывел на единственную строку.
Фикс:
Выводы:
Никогда не вызывай fit/fit_transform на продовых данных.
Все препроцессоры должны сохраняться вместе с моделью (joblib/pickle/onnx).
Смоук-тесты для ML — это не только «API 200 ОК», но и проверка распределений фичей.
Весь препроцессинг (кодирование, скалирование, импутация) должен быть инкапсулирован в единый объект, который обучается только один раз и затем переиспользуется. Лучший способ — использовать sklearn.pipeline.Pipeline.
P.S. Ошибка не ограничивается StandardScaler. Любой объект с состоянием, обученным на трейне, должен быть сохранён. Для прод-ML best practices тык.
Недавно в ML-сервисе (он ранжировал товары в каталоге) в продакшн попала вот такая правка:
# хотели заменить устаревший scaler
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X_train)
И всё — выдача внезапно «поехала».
В чём подвох?
В проде модель ждала данные, нормализованные так же, как при обучении.
Но fit_transform обучил новый StandardScaler прямо на боевых данных.
В результате каждый запрос нормализовался «по-своему», и модель выдавала рандом.
Одна строка превратила рекомендательную систему в рандомизатор. Почему? StandardScaler.fit_transform() вычисляет среднее (mean) и стандартное отклонение (std) по предоставленным данным и сразу применяет их ((x - mean) / std).
На обучении он посчитал mean_train и std_train на трейне и преобразовал данные. Модель научилась работать с признаками, имеющими такое распределение (~N(0,1)). На проде в каждом запросе (или батче) он заново вычислял mean_prod и std_prod на лету для одного-единственного запроса и применял их. Для одного объекта mean = x1, std = 0. Попытка поделить на ноль (или получить огромные числа, если std выставлялся в какое-то минимальное значение для избежания деления на ноль). Для небольшого батча нормализация происходила по странным, нестабильным параметрам. Модель получала на вход числа, которые по масштабу и распределению были совершенно не похожи на те, на которых она училась. Ее предсказания становились бессмысленными.
Именно поэтому ML-прод = код + данные + артефакты препроцессинга.
Как нашли:
Метрики CTR резко упали (тревогу поднимают аналитики)
В логах модели значения признаков стали «плясать».
git bisect вывел на единственную строку.
Фикс:
# должно быть строго transform с сохранённым scaler из обучения
scaler = load("scaler.joblib")
X_scaled = scaler.transform(X_request)
Выводы:
Никогда не вызывай fit/fit_transform на продовых данных.
Все препроцессоры должны сохраняться вместе с моделью (joblib/pickle/onnx).
Смоук-тесты для ML — это не только «API 200 ОК», но и проверка распределений фичей.
Весь препроцессинг (кодирование, скалирование, импутация) должен быть инкапсулирован в единый объект, который обучается только один раз и затем переиспользуется. Лучший способ — использовать sklearn.pipeline.Pipeline.
P.S. Ошибка не ограничивается StandardScaler. Любой объект с состоянием, обученным на трейне, должен быть сохранён. Для прод-ML best practices тык.
6❤13✍3⚡3😁2👍1
Уязвимости в дата-репозиториях. Обзорно главное
Репозитории для анализа данных и ML - зона повышенного риска⚠️ . Быстрое прототипирование, работа с чувствительными данными и специфичные инструменты создают уникальные векторы атак.
Вот ключевые из них:
1.🤫 Секреты в коде.
Самая распространённая и критичная уязвимость. Хардкод API-ключей (например, к AWS S3, OpenAI, базам данных), токенов доступа и даже паролей прямо в Jupyter Notebook, конфигурационных файлах и скриптах. При попадании такого кода в публичный репозиторий злоумышленники получают прямой доступ к платным сервисам и данным.
Лечение
2.🧑💻 RCE через десериализацию
Библиотеки pickle и joblib - стандарты для сохранения ML-моделей в Python - небезопасны. Десериализация файла из ненадёжного источника может привести к выполению произвольного кода на машине.
Лечение
3.💻 Открытые ноутбуки
Юпитер ноутбуки, развёрнутые с настройками по умолчанию, часто остаются доступными для всех в сети (особенно в облаках). Пароли, токены и результаты запросов с конфиденциальными данными могут быть видны в интерфейсе.
Лечение
‘nbstripout’ аудит перед коммитом. Регулярно аудить права доступа (IAM) к S3-бакетам, базам данных и другим ресурсам. Принцип наименьших привилегий - база 🤭.
4.🙈
DoS через загрузку моделей.
Эндпоинт для загрузки моделей без проверки размера файла может быть атакован путём отправки огромного файла, что приводит к переполнению диска и отказу в обслуживании (Denial-of-Service).
Data Poisoning. Злонамеренное изменение обучающих данных для подрыва работы модели (например, добавление в выборку для классификации спама писем с определённым словом, помеченных как "не спам").
Adversarial Attacks. Специально сконструированные входные данные, предназначенные для обмана модели (например, незаметные для человека изменения в изображении, заставляющие модель видеть не то, что есть на самом деле)
Лечение
Pre-commit хуки, сканирование в CI/CD, обучение DS основам безопасности.Менеджеры секретов, безопасные форматы сериализации, инструменты для мониторинга (Evidently AI, WhyLabs).
#DataSecurity #MLSecurity #PickleRCE #SecretsManagement #DevSecOps
🔗 Полезные ссылки:
1. TruffleHog— сканер секретов
2. nbstripout — очистка ноутбуков
3. OWASP Top 10 — главные уязвимости
Репозитории для анализа данных и ML - зона повышенного риска
Вот ключевые из них:
1.
Самая распространённая и критичная уязвимость. Хардкод API-ключей (например, к AWS S3, OpenAI, базам данных), токенов доступа и даже паролей прямо в Jupyter Notebook, конфигурационных файлах и скриптах. При попадании такого кода в публичный репозиторий злоумышленники получают прямой доступ к платным сервисам и данным.
Лечение
‘git grep’ + ‘truffleHog’, ротация ключей, менеджер секретов.2.
Библиотеки pickle и joblib - стандарты для сохранения ML-моделей в Python - небезопасны. Десериализация файла из ненадёжного источника может привести к выполению произвольного кода на машине.
Лечение
yaml.safe_load(), ONNX, sandbox.3.
Юпитер ноутбуки, развёрнутые с настройками по умолчанию, часто остаются доступными для всех в сети (особенно в облаках). Пароли, токены и результаты запросов с конфиденциальными данными могут быть видны в интерфейсе.
Лечение
‘nbstripout’ аудит перед коммитом. Регулярно аудить права доступа (IAM) к S3-бакетам, базам данных и другим ресурсам. Принцип наименьших привилегий - база 🤭.
4.
DoS через загрузку моделей.
Эндпоинт для загрузки моделей без проверки размера файла может быть атакован путём отправки огромного файла, что приводит к переполнению диска и отказу в обслуживании (Denial-of-Service).
Data Poisoning. Злонамеренное изменение обучающих данных для подрыва работы модели (например, добавление в выборку для классификации спама писем с определённым словом, помеченных как "не спам").
Adversarial Attacks. Специально сконструированные входные данные, предназначенные для обмана модели (например, незаметные для человека изменения в изображении, заставляющие модель видеть не то, что есть на самом деле)
Лечение
Pre-commit хуки, сканирование в CI/CD, обучение DS основам безопасности.Менеджеры секретов, безопасные форматы сериализации, инструменты для мониторинга (Evidently AI, WhyLabs).
#DataSecurity #MLSecurity #PickleRCE #SecretsManagement #DevSecOps
🔗 Полезные ссылки:
1. TruffleHog— сканер секретов
2. nbstripout — очистка ноутбуков
3. OWASP Top 10 — главные уязвимости
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - kynan/nbstripout: strip output from Jupyter and IPython notebooks
strip output from Jupyter and IPython notebooks. Contribute to kynan/nbstripout development by creating an account on GitHub.
5❤9👍3🔥2
Инструмент недели. Evidently AI
Представь, что у тебя в продакшене работает модель, ты доволен результатами, а через пару недель начинаешь замечать странности. Качество падает, предсказания уже не такие уверенные… 🤔 Оказывается, данные изменились, а ты об этом узнал слишком поздно.
Чтобы не попадать в такие ситуации, есть отличный инструмент — Evidently AI (там есть ссылка на гитхаб!) . Он словно whoop для модели (подписка дешевле и бесплатного функционала за глаза и за уши)! Постоянно следит за её состоянием, замечает сдвиги в данных, подсказывает, где метрики поползли вниз, и даже рисует красивые отчёты. Можно открыть их в браузере и сразу увидеть картину, где данные изменились, а где всё ещё стабильно:
🔹 замечает дрейф данных,
🔹 подсвечивает упавшие метрики,
🔹 строит понятные отчёты.
Посмотрим на любимых ирисах ;)
📊 В Jupyter он отрисует интерактивный отчёт, где данные остались стабильными, а где признаки «поплыли» (смотрим рисунок).
Это ощущается как ромашковый чай☕️ , который попиваешь следя за своим ML в продакшене. Не гадаешь, что пошло не так, а видишь конкретные сигналы. А значит, можешь быстро реагировать - переобучить модель, обновить пайплайн или просто зафиксировать изменения. Если у тебя модель уже живёт в проде - советую настроить мониторинг на старте, а не ждать сюрпризов 🤫 .
#ИнструментНедели #SecretsManagement
Представь, что у тебя в продакшене работает модель, ты доволен результатами, а через пару недель начинаешь замечать странности. Качество падает, предсказания уже не такие уверенные… 🤔 Оказывается, данные изменились, а ты об этом узнал слишком поздно.
Чтобы не попадать в такие ситуации, есть отличный инструмент — Evidently AI (там есть ссылка на гитхаб!) . Он словно whoop для модели (подписка дешевле и бесплатного функционала за глаза и за уши)! Постоянно следит за её состоянием, замечает сдвиги в данных, подсказывает, где метрики поползли вниз, и даже рисует красивые отчёты. Можно открыть их в браузере и сразу увидеть картину, где данные изменились, а где всё ещё стабильно:
🔹 замечает дрейф данных,
🔹 подсвечивает упавшие метрики,
🔹 строит понятные отчёты.
Посмотрим на любимых ирисах ;)
import pandas as pd
from sklearn import datasets
from evidently import Report
from evidently.presets import DataDriftPreset
iris = datasets.load_iris(as_frame=True)
df = iris.frame
# Разбиваем на reference и current
ref = df.sample(frac=0.5, random_state=42)
cur = df.drop(ref.index)
# Создаём отчёт
report = Report([DataDriftPreset()])
result = report.run(reference_data=ref, current_data=cur)
# В Jupyter достаточно вернуть объект result,
# и он отрендерится прямо в output ячейки
result
📊 В Jupyter он отрисует интерактивный отчёт, где данные остались стабильными, а где признаки «поплыли» (смотрим рисунок).
Это ощущается как ромашковый чай
#ИнструментНедели #SecretsManagement
Please open Telegram to view this post
VIEW IN TELEGRAM
7❤8👍3🔥3👏3
CVE-2025-59155 SSRF в HackMD-MCP
Если запускаешь MCP в HTTP и версия где-то между 1.4.0 и 1.5.0 , то внешний пользователь может заставить твой сервер ходить по внутренним сервисам и вытаскивать оттуда данные. А после такого стресс-теста может понадобиться отдых в санатории Татарстана.🕵️♂️💥
Советую обновиться до исправленной версии или перейти на stdio, закрыть внешний доступ через firewall и ограничить исходящие соединения с хоста MCP и просмотреть логи на странные заголовки и запросы к localhost (127.0.0.1) и внутренним сетям (10.x.x.x, 172.16.x.x, 192.168.x.x), а также проверить доступные токены и убрать лишние права у процесса. 🔧🔒
Немного про HackMD и зачем вообще MCP нужен (хотя весь пост как будто больше про это сервис, у которого есть и опенсорс версия Codimd, можно у себя развернуть). HackMD - это платформа для совместного редактирования заметок в markdown, удобная для команд и документации.
MCP - это прослойка, которая позволяет AI-ассистентам работать с заметками автоматически чтобы не копировать вручную тексты и правки. Именно из-за этой интеграции источник данных может иметь доступ к API и токенам если конфигурация ослаблена.
HackMD-MCP упрощает работу с заметками и документацией, так как ассистент получает прямой доступ к чтению и редактированию, может автоматически создавать шаблоны, собирать саммари встреч и помогать с командной работой. Благодаря протоколу MCP интеграция стандартна и легко встраивается в разные рабочие окружения, будь то контейнеры, CI или локальная среда. В итоге команда меньше тратит времени на мелочи и больше фокусируется на содержании. 🚀
Почему это критично?
MCP в HTTP режиме выполняет исходящие запросы от имени сервера. Через уязвимость сервер превращается в шпиона и может опрашивать метрики, админки, локальные API и другие внутренние сервисы. Особенно плохо если рядом есть ML или инференс серверы с приватными моделями и секретами. 🤒
#HackMD #MCP #CVE2025 #SSRF #Security #Infosec #CyberSecurity #PatchNow #ZeroTrust
Если запускаешь MCP в HTTP и версия где-то между 1.4.0 и 1.5.0 , то внешний пользователь может заставить твой сервер ходить по внутренним сервисам и вытаскивать оттуда данные. А после такого стресс-теста может понадобиться отдых в санатории Татарстана.🕵️♂️💥
Советую обновиться до исправленной версии или перейти на stdio, закрыть внешний доступ через firewall и ограничить исходящие соединения с хоста MCP и просмотреть логи на странные заголовки и запросы к localhost (127.0.0.1) и внутренним сетям (10.x.x.x, 172.16.x.x, 192.168.x.x), а также проверить доступные токены и убрать лишние права у процесса. 🔧🔒
Немного про HackMD и зачем вообще MCP нужен (хотя весь пост как будто больше про это сервис, у которого есть и опенсорс версия Codimd, можно у себя развернуть). HackMD - это платформа для совместного редактирования заметок в markdown, удобная для команд и документации.
MCP - это прослойка, которая позволяет AI-ассистентам работать с заметками автоматически чтобы не копировать вручную тексты и правки. Именно из-за этой интеграции источник данных может иметь доступ к API и токенам если конфигурация ослаблена.
HackMD-MCP упрощает работу с заметками и документацией, так как ассистент получает прямой доступ к чтению и редактированию, может автоматически создавать шаблоны, собирать саммари встреч и помогать с командной работой. Благодаря протоколу MCP интеграция стандартна и легко встраивается в разные рабочие окружения, будь то контейнеры, CI или локальная среда. В итоге команда меньше тратит времени на мелочи и больше фокусируется на содержании. 🚀
Почему это критично?
MCP в HTTP режиме выполняет исходящие запросы от имени сервера. Через уязвимость сервер превращается в шпиона и может опрашивать метрики, админки, локальные API и другие внутренние сервисы. Особенно плохо если рядом есть ML или инференс серверы с приватными моделями и секретами. 🤒
#HackMD #MCP #CVE2025 #SSRF #Security #Infosec #CyberSecurity #PatchNow #ZeroTrust
6❤10🔥5👍3👌1💔1
Awesome AI Apps - технический гид по созданию LLM-приложений
🦙 Репозиторий awesome-ai-apps - коллекция продакшен-примеров для построения приложений на базе LLM. Внутри — проекты на LangChain, LlamaIndex + habr, CrewAI, Agno, Mastra, Nebius AI Studio, GibsonAI и много других полезных!..
Что можно найти:
- минимальные прототипы на базе OpenAI SDK, LangGraph, Camel AI — идеальны для экспериментов,
- готовые сценарии вроде финансового трекера, HITL-агента или бот для веб-автоматизации,
- демонстрации работы с Model Context Protocol (MCP) для репозиториев, документов или бд. Это особенно актуально для стандартизации, взаимодействия между агентами и внешними сервисами. Ну и тем, кто оттягивает знакомство с MCP, еть уже готовые анализ GitHub-репо, QnA по документации, работа с Couchbase и GibsonAI DB. Не оттягивайте🤪 .
- агенты с persistent memory (на Memori), которые позволяют строить более контекстно-зависимые системы (например, arXiv Researcher или Social Media Agent).
- примеры Agentic RAG (они не устарели!!!) с использованием Qdrant, Exa, LlamaIndex. Поддержка работы с PDF, кодом и OCR (Gemma3).
- комплексные пайплайны (например, Meeting Assistant, который конвертирует митинг в задачи и заметки, или Finance Service Agent на FastAPI)
Что под капотом (продублируем для удобства твоего гугл эдвэнсед, большинство ссылок выше) и ждет, когда затащишь себе?
🫰 LangChain + LangGraph для оркестрации агентов.
🫰 Agno как фреймворк для построения agentic workflows.
🫰 CrewAI для мультиагентных исследований.
🫰 LlamaIndex как основа RAG и документных ассистентов.
🫰 Memori для хранения контекста и долгосрочной памяти.
🫰 Nebius AI и Bright Data — как инфраструктурные провайдеры.
Установка (единый паттерн):
🧘♀️ Каждый проект снабжен своим README.md, а там можно и сразу стартовать.
Этот репозиторий в чистом виде 🏖️ R&D-песочница, быстро тестировать разные стеки, паттерны взаимодействия агентов, интеграции MCP и реализацию RAG. Гении, как известно, воруют 👌
#AI #LLM #RAG #LangChain #LlamaIndex #CrewAI #Agno #Memori #AIagents #opensource #MCP #Python #MachineLearning #GenerativeAI
🦙 Репозиторий awesome-ai-apps - коллекция продакшен-примеров для построения приложений на базе LLM. Внутри — проекты на LangChain, LlamaIndex + habr, CrewAI, Agno, Mastra, Nebius AI Studio, GibsonAI и много других полезных!..
Что можно найти:
- минимальные прототипы на базе OpenAI SDK, LangGraph, Camel AI — идеальны для экспериментов,
- готовые сценарии вроде финансового трекера, HITL-агента или бот для веб-автоматизации,
- демонстрации работы с Model Context Protocol (MCP) для репозиториев, документов или бд. Это особенно актуально для стандартизации, взаимодействия между агентами и внешними сервисами. Ну и тем, кто оттягивает знакомство с MCP, еть уже готовые анализ GitHub-репо, QnA по документации, работа с Couchbase и GibsonAI DB. Не оттягивайте
- агенты с persistent memory (на Memori), которые позволяют строить более контекстно-зависимые системы (например, arXiv Researcher или Social Media Agent).
- примеры Agentic RAG (они не устарели!!!) с использованием Qdrant, Exa, LlamaIndex. Поддержка работы с PDF, кодом и OCR (Gemma3).
- комплексные пайплайны (например, Meeting Assistant, который конвертирует митинг в задачи и заметки, или Finance Service Agent на FastAPI)
Что под капотом (продублируем для удобства твоего гугл эдвэнсед, большинство ссылок выше) и ждет, когда затащишь себе?
Установка (единый паттерн):
git clone https://github.com/Arindam200/awesome-ai-apps.git
cd awesome-ai-apps/<project_name>
pip install -r requirements.txt
Этот репозиторий в чистом виде 🏖️ R&D-песочница, быстро тестировать разные стеки, паттерны взаимодействия агентов, интеграции MCP и реализацию RAG. Гении, как известно, воруют 👌
#AI #LLM #RAG #LangChain #LlamaIndex #CrewAI #Agno #Memori #AIagents #opensource #MCP #Python #MachineLearning #GenerativeAI
Please open Telegram to view this post
VIEW IN TELEGRAM
13❤11👍3💯3🔥1
CVE-2025-50709. Приватная инфа и URL — не лучшие друзья, особенно когда речь о нейросетях.
😳 В Perplexity AI нашли уязвимость CVE-2025-50709. Через обычный GET-запрос можно было вытянуть конфиденциальные данные.
Напоминание!!!
🕵️Приватная информация не должна передаваться в URL — особенно при работе с нейросетями. Передавать чувствительные данные через query string (?token=...&password=...) или допускать их в логи — это антипаттерн, но он встречается на практике чаще, чем хотелось бы… вспомните все случаи, когда нужно “быстро прикрутить” авторизацию или тестовый прототип, когда токен или ключ кидаешь в URL, потому что это проще. Не надо так…😥
Что важно:
🔍 Уязвимость позволяет извлекать секреты через простые запросы.
⚠️ Проверь, не попадают ли чувствительные параметры в query string или логи.
🔐 Немедленно удаляй секреты из URL и используй безопасные каналы передачи (POST с телом, заголовки, шифрование, токены в хранилище).
Полезная ссылка.
😳 В Perplexity AI нашли уязвимость CVE-2025-50709. Через обычный GET-запрос можно было вытянуть конфиденциальные данные.
Напоминание!!!
🕵️Приватная информация не должна передаваться в URL — особенно при работе с нейросетями. Передавать чувствительные данные через query string (?token=...&password=...) или допускать их в логи — это антипаттерн, но он встречается на практике чаще, чем хотелось бы… вспомните все случаи, когда нужно “быстро прикрутить” авторизацию или тестовый прототип, когда токен или ключ кидаешь в URL, потому что это проще. Не надо так…
Что важно:
🔍 Уязвимость позволяет извлекать секреты через простые запросы.
⚠️ Проверь, не попадают ли чувствительные параметры в query string или логи.
🔐 Немедленно удаляй секреты из URL и используй безопасные каналы передачи (POST с телом, заголовки, шифрование, токены в хранилище).
Полезная ссылка.
Please open Telegram to view this post
VIEW IN TELEGRAM
8❤13💯5👍3
🔥 CVE-2025-9906 — RCE в Keras даже с включённым safe_mode!
Если коротко, в .keras-архив можно подложить config.json, который отключит защиту, а затем вмонтировать Lambda-слой с произвольным кодом - при загрузке модели он выполнится.
🫰 Если длинно, идем по ссылке и изучаем (там тоже не особо длинно).
В фиксе уже запрещена десериализация произвольных функций/классов и ужесточены правила для KerasSaveable 🐒.
🎯 Механизм эксплуатации
1. Злоумышленник создаёт вредоносную модель
2. В архиве подменяется config.json для отключения защиты
3. Добавляется лямбда-слой с произвольным питон-кодом
4. При загрузке модели код выполняется автоматически
Особенно критично для:
🙈Продакшен-систем с ML-моделями
🙈🙈Сервисов, загружающих модели от пользователей
🙈🙈🙈 Ресеча с обменом моделями
🤝Что делать?
Обновить Keras как можно скорее; не загружать модели из ненадёжных источников; избегать Lambda-слоёв (ссылка для мл-энтузиазтов-самоучек) из чужих архивов; при возможности проверять содержимое .keras перед загрузкой или загружать модели в песочнице.
#Keras #CVE2025 #RCE #MLSecurity
Если коротко, в .keras-архив можно подложить config.json, который отключит защиту, а затем вмонтировать Lambda-слой с произвольным кодом - при загрузке модели он выполнится.
В фиксе уже запрещена десериализация произвольных функций/классов и ужесточены правила для KerasSaveable 🐒.
🎯 Механизм эксплуатации
1. Злоумышленник создаёт вредоносную модель
2. В архиве подменяется config.json для отключения защиты
3. Добавляется лямбда-слой с произвольным питон-кодом
4. При загрузке модели код выполняется автоматически
Особенно критично для:
🙈Продакшен-систем с ML-моделями
🙈🙈Сервисов, загружающих модели от пользователей
🙈🙈🙈 Ресеча с обменом моделями
🤝Что делать?
Обновить Keras как можно скорее; не загружать модели из ненадёжных источников; избегать Lambda-слоёв (ссылка для мл-энтузиазтов-самоучек) из чужих архивов; при возможности проверять содержимое .keras перед загрузкой или загружать модели в песочнице.
#Keras #CVE2025 #RCE #MLSecurity
Please open Telegram to view this post
VIEW IN TELEGRAM
4❤11👍4🥰1💯1🤗1
🫐 Инструмент недели. Pydantic
В проде больше половины инцидентов про «кривые данные» 📊 - строка там, где ждём число, емэйл без домена, перепутанные координаты, пустые обязательные поля... Пока латаешь всё ручными
- правила валидации расползаются по пайплайнам и сервисам;
- ошибки получаются шумные и неструктурированные;
- откат/повторение экспериментов ломается из-за невидимых изменений в схеме данных.
В ML/DS это особенно больно, так как один «NaN как строка» — и метрики едут; одна «категория не из словаря» — и онлайн-фичи расходятся с офлайн. Нам нужен явный «контракт данных», что считается валидным, какие типы и диапазоны, какая нормализация применяется - и всё это в одном месте, с понятными сообщениями об ошибках и автогенерацией схем.
Решение
Pydantic превращает аннотации типов в реальную валидацию и автокаст прямо при подаче события/JSON. 👿 В отличие от библиотек (однажды обсудим еще marshmallow), которые валидируют данные только в отдельных точках (например, при вызове load()), Pydantic проверяет и приводит типы прямо при создании объекта и, при желании, при каждом присваивании полю. Это превращает модель не просто в контейнер, а в исполняемый «контракт данных», так как любые несоответствия ловятся там, где объект рождается или меняется.
🎯 Цель Pydantic - сопровождать объекты валидацией на всём их жизненном цикле. Если включить validate_assignment=True, то некорректное присваивание полю вызовет ошибку сразу, а не через несколько хопов по коду. Такой подход существенно снижает «дрейф» данных, когда объект успевает разойтись с контрактом задолго до сериализации.
👨🦽 По умолчанию Pydantic аккуратно преобразует данные без потери - строка "42" превратится в число 42 🌌. Там, где требуется строгая дисциплина, используются «строгие» типы (StrictInt, StrictStr) или валидаторы в режиме before. Можно точно выбирать места, где допустим автокаст, а где критична точность.
🧅 Еще Pydantic построен на pydantic-core (Rust) и заметно выигрывает на больших объёмах валидации. Это особенно чувствуется в потоковых пайплайнах и сервисах, принимающих крупные JSON-массивы.
⌛ Как внедрить за час
1. Поставь pydantic>=2.
2. Оберни входящие объекты (advisory, feed, webhook) в модели.
3. Вынеси ручные if в Field(...)/валидаторы.
4. Возвращай наружу e.errors() и генерируйте model_json_schema() для контрактов.
#Pydantic #Python #DataContracts #DataValidation #DataQuality #ML #DataScience #MLOps #FastAPI #Pandas #JSONSchema #TypedPython
В проде больше половины инцидентов про «кривые данные» 📊 - строка там, где ждём число, емэйл без домена, перепутанные координаты, пустые обязательные поля... Пока латаешь всё ручными
if по коду, получаешь еще три проблемы разом:- правила валидации расползаются по пайплайнам и сервисам;
- ошибки получаются шумные и неструктурированные;
- откат/повторение экспериментов ломается из-за невидимых изменений в схеме данных.
В ML/DS это особенно больно, так как один «NaN как строка» — и метрики едут; одна «категория не из словаря» — и онлайн-фичи расходятся с офлайн. Нам нужен явный «контракт данных», что считается валидным, какие типы и диапазоны, какая нормализация применяется - и всё это в одном месте, с понятными сообщениями об ошибках и автогенерацией схем.
Решение
Pydantic превращает аннотации типов в реальную валидацию и автокаст прямо при подаче события/JSON. 👿 В отличие от библиотек (однажды обсудим еще marshmallow), которые валидируют данные только в отдельных точках (например, при вызове load()), Pydantic проверяет и приводит типы прямо при создании объекта и, при желании, при каждом присваивании полю. Это превращает модель не просто в контейнер, а в исполняемый «контракт данных», так как любые несоответствия ловятся там, где объект рождается или меняется.
🎯 Цель Pydantic - сопровождать объекты валидацией на всём их жизненном цикле. Если включить validate_assignment=True, то некорректное присваивание полю вызовет ошибку сразу, а не через несколько хопов по коду. Такой подход существенно снижает «дрейф» данных, когда объект успевает разойтись с контрактом задолго до сериализации.
🧅 Еще Pydantic построен на pydantic-core (Rust) и заметно выигрывает на больших объёмах валидации. Это особенно чувствуется в потоковых пайплайнах и сервисах, принимающих крупные JSON-массивы.
1. Поставь pydantic>=2.
2. Оберни входящие объекты (advisory, feed, webhook) в модели.
3. Вынеси ручные if в Field(...)/валидаторы.
4. Возвращай наружу e.errors() и генерируйте model_json_schema() для контрактов.
#Pydantic #Python #DataContracts #DataValidation #DataQuality #ML #DataScience #MLOps #FastAPI #Pandas #JSONSchema #TypedPython
Please open Telegram to view this post
VIEW IN TELEGRAM
3❤12👍5🍾3🥰2
😱CVE-2025-10360
🔑 Ключ от вашего AI-аккаунта случайно попал в backup? Да, такое бывает!
✍️ Если вы пользуетесь Puppet Enterprise с включённым Infra Assistant, то до версии 2025.6 ваш encryption key для доступа к AI-провайдеру мог спокойно уехать в бэкап вместе с остальными файлами. Так что если кто-то получит ваши резервные копии - конгрэтьюлейшнс, у него есть ключик к вашему AI! Обновляйтесь и не забывайте чистить старые backup'ы, если не хотите сюрпризов.
📎 Ссылка
🔑 Ключ от вашего AI-аккаунта случайно попал в backup? Да, такое бывает!
✍️ Если вы пользуетесь Puppet Enterprise с включённым Infra Assistant, то до версии 2025.6 ваш encryption key для доступа к AI-провайдеру мог спокойно уехать в бэкап вместе с остальными файлами. Так что если кто-то получит ваши резервные копии - конгрэтьюлейшнс, у него есть ключик к вашему AI! Обновляйтесь и не забывайте чистить старые backup'ы, если не хотите сюрпризов.
📎 Ссылка
46❤7👍3🔥3⚡2👾1