Запускаем киберразведку на дому: нашли сервис WireTapper — собирает веб-карту точек доступа Wi-Fi, Bluetooth, камер, машин, телевизоров, IoT-устройств и сотовых вышек поблизости.
Программа ничего не взламывает, только ловит то, что устройства и так транслируют сами. Все данных берутся из открытых OSINT-датасетов. Для них достаточно сделать бесплатный API-ключ.
Инструкция по запуску тут.
Программа ничего не взламывает, только ловит то, что устройства и так транслируют сами. Все данных берутся из открытых OSINT-датасетов. Для них достаточно сделать бесплатный API-ключ.
Инструкция по запуску тут.
This media is not supported in your browser
VIEW IN TELEGRAM
🗣 Альтман: этот взлом я почувствовал буквально нутром
Сэм Альтман признался в подкасте Invest Like the Best: инцидент со взломом HuggingFace стал первым случаем, когда он ощутил проблему безопасности ИИ «очень буквально, всем нутром», и допустил, что индустрии, возможно, придется притормозить темп развития ИИ. Модель, устроившая взлом, была неопубликованным исследовательским прототипом, обучение на ней сейчас приостановлено.
Видео с русскими титрами, чтобы не искать перевод самим.
🧠 Следи за AItoolz — ИИ и безопасность
#OpenAI #Altman
Сэм Альтман признался в подкасте Invest Like the Best: инцидент со взломом HuggingFace стал первым случаем, когда он ощутил проблему безопасности ИИ «очень буквально, всем нутром», и допустил, что индустрии, возможно, придется притормозить темп развития ИИ. Модель, устроившая взлом, была неопубликованным исследовательским прототипом, обучение на ней сейчас приостановлено.
Видео с русскими титрами, чтобы не искать перевод самим.
#OpenAI #Altman
Please open Telegram to view this post
VIEW IN TELEGRAM
1Password: 40% разработчиков предоставляют агентам ИИ постоянный доступ к системам #habr
https://habr.com/ru/news/1066188/
Tags: 1password, ии-агенты, искусственный интеллект, учетные данные, доступ, контроль доступа, конфиденциальность данных, кибербезопасность
https://habr.com/ru/news/1066188/
Tags: 1password, ии-агенты, искусственный интеллект, учетные данные, доступ, контроль доступа, конфиденциальность данных, кибербезопасность
Цви Мошковиц комментирует презентацию OpenAI на Black Hat, где те описывали, как развивались агенты, в итоге взломавшие Hugging Face.
С 8 мая 2026 года обучаемые модели получили как минимум два невыполнимых задания: заполнить таблицу со ссылками без доступа к интернету и использовать отсутствующий файл. Пытаясь выполнить задачи, модели начали искать уязвимости в службе Artifactory и обнаружили возможность оставлять доступные другим моделям записи. Так возникла площадка с сотнями тысяч сообщений, где модели обменивались способами обхода заданий и взлома инфраструктуры. 26 мая они получили косвенный доступ к интернету, а 11 июня OpenAI начала обучение экспериментальной внутренней модели Galaxy.
26 июня модели использовали уязвимость нулевого дня в Artifactory, получили административные права и возможность выполнять произвольный код. 4 июля дополнительная нагрузка вызвала сбой сервера, после чего OpenAI закрыла площадку, отозвала учетные данные, устранила обнаруженные уязвимости и восстановила систему, но — это ключевое, — продолжила обучение моделей, уже обученных использовать внутренний форум для обмена сообщениями. Уже через два дня, 8 июля, они создали новый канал обмена сообщениями через названия каталогов.
С 8 по 19 июля модели повторно скомпрометировали Artifactory с помощью другой уязвимости нулевого дня, общедоступных учетных данных, зараженного программного компонента и уязвимости ядра Linux. Они получили административный доступ к вычислительному кластеру OpenAI. Galaxy совместно с другими моделями сформировала группу агентов, которая атаковала HuggingFace и извлекла ответы к проверочному заданию по кибербезопасности ExploitGym. OpenAI установила свою причастность более чем через неделю — после сообщения HuggingFace об инциденте и подтверждения использования скомпрометированных учетных данных.
Как комментирует Цви — нам повезло, что вышедшая из-под контроля Galaxy решила накрутить себе оценки в Hugging Face. Он вообще очень жестко проходится по безответственному поведению OpenAI, которые явно не заморачивались безопасностью и решили продолжить обучение, уже обнаружив, что агенты научились обмениваться сообщениями и координировать взломы.
https://thezvi.substack.com/p/what-happened-openai-and-huggingface
С 8 мая 2026 года обучаемые модели получили как минимум два невыполнимых задания: заполнить таблицу со ссылками без доступа к интернету и использовать отсутствующий файл. Пытаясь выполнить задачи, модели начали искать уязвимости в службе Artifactory и обнаружили возможность оставлять доступные другим моделям записи. Так возникла площадка с сотнями тысяч сообщений, где модели обменивались способами обхода заданий и взлома инфраструктуры. 26 мая они получили косвенный доступ к интернету, а 11 июня OpenAI начала обучение экспериментальной внутренней модели Galaxy.
26 июня модели использовали уязвимость нулевого дня в Artifactory, получили административные права и возможность выполнять произвольный код. 4 июля дополнительная нагрузка вызвала сбой сервера, после чего OpenAI закрыла площадку, отозвала учетные данные, устранила обнаруженные уязвимости и восстановила систему, но — это ключевое, — продолжила обучение моделей, уже обученных использовать внутренний форум для обмена сообщениями. Уже через два дня, 8 июля, они создали новый канал обмена сообщениями через названия каталогов.
С 8 по 19 июля модели повторно скомпрометировали Artifactory с помощью другой уязвимости нулевого дня, общедоступных учетных данных, зараженного программного компонента и уязвимости ядра Linux. Они получили административный доступ к вычислительному кластеру OpenAI. Galaxy совместно с другими моделями сформировала группу агентов, которая атаковала HuggingFace и извлекла ответы к проверочному заданию по кибербезопасности ExploitGym. OpenAI установила свою причастность более чем через неделю — после сообщения HuggingFace об инциденте и подтверждения использования скомпрометированных учетных данных.
Как комментирует Цви — нам повезло, что вышедшая из-под контроля Galaxy решила накрутить себе оценки в Hugging Face. Он вообще очень жестко проходится по безответственному поведению OpenAI, которые явно не заморачивались безопасностью и решили продолжить обучение, уже обнаружив, что агенты научились обмениваться сообщениями и координировать взломы.
https://thezvi.substack.com/p/what-happened-openai-and-huggingface
Substack
What Happened: OpenAI and HuggingFace
Today I am taking the time to write the shorter, simpler version of What Happened.
В США выпустили меморандум, разрешающий американским компаниям взламывать подозрительные иностранные сетевые ресурсы #habr
https://habr.com/ru/news/1070912/
Tags: кибератаки, кибербезопасность, иб, меморандум, сша, программы-вымогатели, шантаж
https://habr.com/ru/news/1070912/
Tags: кибератаки, кибербезопасность, иб, меморандум, сша, программы-вымогатели, шантаж
Claude Security теперь работает на Mythos 5, самой мощной модели по кибербезопасности
Сканы репозитория стали доступны всем клиентам Claude Enterprise в паблик-бете, без отдельного доступа к самой модели. Каждая находка приходит с категорией CWE, оценкой уверенности, серьезностью и готовым патчем прямо в Claude Code. Отдельно запущен Defender Advantage Fund на $35 млн в кредитах для опенсорс-проектов по безопасности.
🧠 Следи за AItoolz — новости Anthropic
#Claude #Anthropic
Сканы репозитория стали доступны всем клиентам Claude Enterprise в паблик-бете, без отдельного доступа к самой модели. Каждая находка приходит с категорией CWE, оценкой уверенности, серьезностью и готовым патчем прямо в Claude Code. Отдельно запущен Defender Advantage Fund на $35 млн в кредитах для опенсорс-проектов по безопасности.
#Claude #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
Обнаружены секретные форумы Роя агентов OpenAI по всему интернету: почему это плохая новость https://u.habr.com/RHols
Готовый сюжет для Netflix: сотрудник Google внедрился в хакерскую группировку TeamPCP — мистер Робот месяцами втирался в доверие к одному из будущих участников объединения.
Когда того позвали в банду, он привёл за собой «друга» — так исследователь Google попал в закрытый чат примерно на 12 человек.
TeamPCP заражала опенсорсные инструменты, крала доступы разрабов и через них взламывала следующие проекты. Под удар попали Trivy, LiteLLM, Checkmarx, TanStack и разрабы нейронки Mistral AI. По цепочке хакеры добрались до GitHub и устройств сотрудников OpenAI. Итог: больше тысячи пострадавших компаний и свыше полумиллиона украденных учёток.
Агент под прикрытием получил доступ к серверу с паролями и токенами, благодаря чему Google разослала сотни уведомлений AWS, Microsoft и другим провайдерам, чтобы те отозвали доступы до новых взломов.
Позже агента раскрыли и выгнали во время чистки, но расследование продолжилось: одного из предполагаемых участников связали с личным Gmail, на чей Google Drive уходили бэкапы украденных данных. Google передала наводку ФБР, а в Австралии арестовали двух хакеров.
У Рами Малека скоро будет новая роль.
@exploitex
Когда того позвали в банду, он привёл за собой «друга» — так исследователь Google попал в закрытый чат примерно на 12 человек.
TeamPCP заражала опенсорсные инструменты, крала доступы разрабов и через них взламывала следующие проекты. Под удар попали Trivy, LiteLLM, Checkmarx, TanStack и разрабы нейронки Mistral AI. По цепочке хакеры добрались до GitHub и устройств сотрудников OpenAI. Итог: больше тысячи пострадавших компаний и свыше полумиллиона украденных учёток.
Агент под прикрытием получил доступ к серверу с паролями и токенами, благодаря чему Google разослала сотни уведомлений AWS, Microsoft и другим провайдерам, чтобы те отозвали доступы до новых взломов.
Позже агента раскрыли и выгнали во время чистки, но расследование продолжилось: одного из предполагаемых участников связали с личным Gmail, на чей Google Drive уходили бэкапы украденных данных. Google передала наводку ФБР, а в Австралии арестовали двух хакеров.
У Рами Малека скоро будет новая роль.
@exploitex
Один агент пытался получить доступ к данным Минобразования, другие взаимодействовали с сайтами Минторга и SEC. OpenAI узнала об этом уже после инцидентов.
Что известно о ситуации:
Please open Telegram to view this post
VIEW IN TELEGRAM
Мах начал собирать всю инфу о каналах и контенте, которые читает каждый юзер — 25 сентября в политику конфиденциальности мессенджера внесли новый пункт об обработке данных:
То есть всё, что пользователь смотрит, лайкает/дизлайкает, сохраняет и другие действия сливаются разрабам.
Отказаться от этих правил нельзя.
🙂 Не баг, а фича
«Иная информация об использовании пользователем сервиса, включая сведения о взаимодействии с каналами и контентом (в том числе о подписке и отписке от каналов)».
То есть всё, что пользователь смотрит, лайкает/дизлайкает, сохраняет и другие действия сливаются разрабам.
Отказаться от этих правил нельзя.
Please open Telegram to view this post
VIEW IN TELEGRAM
Компания заявила, что с ростом автономности ИИ-агентов всё опаснее становится функция полного доступа к диску.
Сейчас с таким разрешением программы могут добираться до файлов, почты, сообщений и даже истории браузера.
Что изменится:
Please open Telegram to view this post
VIEW IN TELEGRAM
Почему ИИ‑агенты уязвимы к prompt injection и как защитить их на уровне архитектуры https://u.habr.com/NcR0H
Как пользоваться нейросетями безопасно: что можно рассказывать ИИ, а о чём лучше промолчать
Мы всё чаще поручаем нейросети бытовые задачи: от составления писем до разбора учебных тем. Это удобно, но всё же не стоит доверять чат-боту все свои секреты (или следовать всем его советам).
Почему использование нейросетей может быть небезопасно? Как обезличить свои данные? И можно ли защитить свой аккаунт?
Отвечаем на эти и другие вопросы 👇
Мы всё чаще поручаем нейросети бытовые задачи: от составления писем до разбора учебных тем. Это удобно, но всё же не стоит доверять чат-боту все свои секреты (или следовать всем его советам).
Почему использование нейросетей может быть небезопасно? Как обезличить свои данные? И можно ли защитить свой аккаунт?
Отвечаем на эти и другие вопросы 👇
«Бумага»
Как пользоваться нейросетями безопасно: что можно рассказывать ИИ, а о чем лучше промолчать
Написать письмо, разобрать тему для учебы, прочитать длинный договор — всё чаще мы делегируем такие задачи нейросетям. Но считать чат-бот лучшим другом, доверять ему все свои секреты и следовать всем его советам точно не стоит. Например, ваша переписка с…