👣 GrayMatter: память для AI-агентов в три строки кода

У AI-агентов есть старая проблема: каждый новый запуск начинается почти с нуля. Чтобы агент «помнил» контекст, приходится снова скармливать ему историю, правила, предпочтения и детали проекта. Это быстро сжигает токены и замедляет работу.

GrayMatter решает это как легкий слой persistent memory для агентов.

Идея простая: агент сохраняет важные факты в локальное хранилище, а перед новой задачей достает только релевантный контекст.

Не всю историю подряд, а именно то, что нужно сейчас.
Не нужен Docker, база данных, облако или отдельный аккаунт. Один бинарник, локальное хранение, офлайн-режим.

Можно использовать и как обычную Go-библиотеку: Remember сохраняет факт, Recall достает нужную память по запросу.

Есть TUI-дашборд, где видно, сколько фактов сохранено, как часто они используются, сколько памяти занимает store и как работает recall.

https://github.com/angelnicolasc/graymatter

MalwareSourceCode — cборник исходного кода вредоносных программ для различных платформ, написанных на разных языках программирования.

🐱 GitHub

Интересный калькулятор расчета ресурсов для поднятия LLM.

Теперь не придётся в уме байты считать. 👍

https://smelukov.github.io/WeightRoom/

👩‍🏫 AI-агенты в ИБ: путь к доверенному члену команды

♒️ Один неверный вывод AI-агента в SOC — и компания может остаться без домена, а вместе с ним без Kerberos, LDAP и части критичных сервисов. Искусственный интеллект в ИБ действительно умеет разгружать команды: он быстрее разбирает поток алертов, помогает в триаже и берёт на себя рутину там, где у аналитиков уже не хватает рук.

♒️ Но есть нюанс: такой агент может не просто ошибиться, а эскалировать собственное заблуждение в полноценный инцидент, если дать ему слишком много полномочий. Поэтому главный вопрос уже не в том, нужен ли AI в безопасности, а в том, где заканчивается автоматизация и начинается опасный автопилот. Нужны ограничения, проверки, защитные слои и обязательный контроль человека в критичных действиях, иначе помощник легко превращается в источник риска.

⏩ Читайте на Хабре разбор того, как внедрять AI-агентов в ИБ без иллюзий и излишнего доверия.

Подписывайтесь:
💬 @Yandex4Security
📹 @YandexForSecurity

🔒 Как мы защищаем умные устройства

Колонки, ТВ и камеры с Алисой сегодня уже не просто бытовая электроника. Эти устройства формируют экосистему, в которой безопасность — важное свойство продукта.

Меня зовут Никита Лычаный, я инженер по информационной безопасности Алисы и Умных устройств Яндекса. И мне нужно быть по обе стороны баррикад: проектировать защиту и понимать, как её ломать. Сегодня я расскажу, что помогает нам обеспечивать безопасность устройств.

Аппаратный уровень

🟣 Первое, на что я смотрю, — процесс загрузки. Механизм Secure Boot проверяет подлинность и целостность каждого этапа: от неизменяемого аппаратного кода BootROM до пользовательских приложений. Это фундаментальный механизм безопасности, без которого остальные слои защиты просто теряют смысл.

Аппаратная изоляция

🟣 Даже если злоумышленник получит доступ к части системы, критичные операции и данные должны остаться вне досягаемости.

🟣 В устройствах на базе ARM мы используем TrustZone. Это два раздельных контура исполнения операций: обычная среда и защищённая область.

Пользовательская ОС

🟣 Сетевое взаимодействие с облачной инфраструктурой я рассматриваю как ещё одну границу.

🟣 Передача данных по зашифрованным каналам с проверкой подлинности сторон закрывает целый класс атак, которые связаны с перехватом и подменой трафика. Поэтому она является обязательным элементом современной безопасной архитектуры.

Чувствительные данные

🟣 Логи — это одна из самых частых точек утечки информации. Разработчик пишет отладочный вывод, случайно включает в него содержимое запроса, а там — токен авторизации или другие важные сведения.

🟣 Сервис маскировки решает эту проблему автоматически. Он работает как фильтр на выходе любого лог-вызова: перед тем как данные попадают в файл или систему сбора логов, она проходит через набор паттернов. Если они сработали — чувствительная часть строки заменяется на маску.

⏩ В статье на Хабре я поделился кейсом закрытия аппаратной уязвимости. А также объяснил, в чём заключается роль внешних исследователей в программе «Охота за ошибками».

Подписывайтесь:
💬 @Yandex4Security
📹 @YandexForSecurity