Учитывая тот факт, что студенты используют ИИ в учёбе, преподаватель истории Университета штата Алкорн Джейсон Гибсон придумал необычный способ проверки академической честности во время промежуточного экзамена по истории Промышленной революции. Зная о популярности генерации ответов через языковые модели, он добавил в задание скрытую
Скрытое указание требовало от ИИ-модели обязательно включить в сгенерированный текст упоминание 😎Мадагаскара так, чтобы фраза полностью лишалась смысла. На учебной платформе Canvas преподаватель разместил этот фрагмент прямо внутри списка требований к письменному ответу.
🤥В итоге 32 из 35 студентов двух учебных групп скопировали задание целиком и отправили сгенерированные тексты на проверку, даже не перечитав полученный результат.
В студенческих эссе про Промышленную революцию появились абсурдные выражения, включая фразы о том, что Мадагаскар плывёт боком сквозь день или фиолетовый велосипед Мадагаскара шепчет потолку. В видеоролике на платформе TikTok Джейсон Гибсон продемонстрировал выделенный белый текст и с улыбкой объяснил, что Мадагаскар никак не связан с историей Промышленной революции. Все попавшиеся на ловушку учащиеся получили неудовлетворительные оценки за этот раздел экзамена, а оспорить решение попытались только 2 человека.
Чтобы сразу внести ясность, я не против ИИ, я против обхода учёбы....Не надо нападать на моих студентов, в этот раз они просто оступились и попались.😂💪🏾
— написал преподаватель в социальной сети Х.
Произошедшее наглядно показывает главный риск слепого использования ИИ-моделей, когда пользователи полностью отказываются от проверки созданного текста. Преподаватели всё чаще сталкиваются с массовым списанием и вынуждены применять нестандартные методы контроля от устных опросов до скрытых промпт-инъекций. Джейсон Гибсон посоветовал студентам хотя бы минимально проверять ответы ИИ-моделей и переписывать их своими словами.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Проект World привлёк $52,5 млн в рамках продажи криптовалютного токена WLD. В сделке приняли участие венчурный фонд Pantera Capital, а также компании Bain Capital Crypto, Eightco Holdings, Susquehanna Crypto и Selini Capital. Условием финансирования стал 12-месячный период заморозки активов, который запрещает инвесторам продавать или обменивать купленные токены в течение года. Все средства поступили в фонд World Foundation на Каймановых островах для последующего расширения сети.
Как уже не раз сообщалось в СМИ, за операционную деятельность проекта отвечает компания Tools for Humanity из Сан-Франциско под руководством генерального директора Алекса Блании и Сэма Альтмана. Главная цель стартапа заключается в создании цифрового паспорта World ID для проверки подлинности пользователей в интернете. На фоне стремительного распространения ботов система помогает подтвердить, что за аккаунтом стоит реальный человек. Для получения максимального уровня проверки пользователи сканируют радужку глаза с помощью металлического прибора Orb, который преобразует биометрические данные в защищённый криптографический код.
Изначально инициатива развивалась под названием Worldcoin, однако позже команда провела ребрендинг и сменила имя на World. В апреле разработчики выпустили обновлённую версию приложения с функциями кошелька и анонсировали интеграции с сервисами Tinder, Zoom и Docusign. Несмотря на масштабные планы, стартап всё ещё сталкивается со сложностями при привлечении массовой аудитории, и в июне компания провела сокращения штата.
👆В июне 2023 года Сэм Альтман заявил, что в будущем систему Worldcoin можно представить как инфраструктуру для
В 2023 Блания объяснил первоначальную логику ещё прямее. Проект создавался исходя из двух предпосылок:
По словам Блания, Worldcoin должен был объединить механизм подтверждения того, что пользователь является реальным и уникальным человеком. На первом этапе World ID можно использовать для подтверждения человечности пользователя в интернете и противодействия ботам. В среднесрочной перспективе рассматривалось участие людей в децентрализованном управлении ИИ-системами, а затем проведение экспериментов с UBI и потенциальное глобальное распределение базового дохода.
К 2025–2026 годам публичный акцент проекта World заметно сместился в сторону World ID. Это система подтверждения человечности, или proof of human, которая позволяет пользователю доказать, что он является реальным и уникальным человеком, а не ботом или ИИ-системой. Идея глобального UBI не была официально исключена, но акцент на ней стараются больше не делать.
Please open Telegram to view this post
VIEW IN TELEGRAM
Министерство обороны США планирует разместить крупные коммерческие дата-центры для искусственного интеллекта на территории военных объектов. Однако Конгресс опасается, что такие проекты создадут новые риски для кибербезопасности, энергосистемы, водоснабжения и боеготовности американских баз.
Сам Пентагон в большинстве случаев не будет строить и эксплуатировать дата-центры. Военные предоставят частным компаниям неиспользуемые участки земли в долгосрочную аренду. Компании должны самостоятельно профинансировать строительство, подключить объект к источникам энергии и управлять всей инфраструктурой.
Армия США уже предварительно выбрала два проекта. Инвестиционная компания Carlyle может построить гипермасштабный дата-центр на базе Fort Bliss в Техасе. Под объект выделено около 560 гектаров. Компания CyrusOne рассматривается как оператор аналогичного комплекса на полигоне Dugway Proving Ground в штате Юта. Площадь участка составляет около 486 гектаров.
Первые мощности на Fort Bliss могут появиться в 2027 финансовом году, а на территории Dugway в 2029 году. Однако окончательные договоры аренды ещё не заключены. Проекты должны пройти экологическую, инженерную и юридическую проверку.
ВВС США также изучают возможность размещения ИИ-дата-центров на базах в Калифорнии, Аризоне, Джорджии, Нью-Джерси, Теннесси и на Аляске. Частные операторы должны обеспечить собственную генерацию электроэнергии, системы охлаждения, накопители энергии и телекоммуникационную инфраструктуру.
Пентагону нужны дополнительные вычислительные мощности для обучения и эксплуатации ИИ-систем, автономных платформ, беспилотников и военных систем управления. Военные также рассчитывают получить резервные источники энергии и доступ к части коммерческой вычислительной инфраструктуры.
Однако Конгресс требует установить жёсткие правила. Одна из поправок к оборонному бюджету
Законодатели также требуют оценивать киберриски, возможный шпионаж, происхождение оборудования, влияние на электросети, потребление воды, шум, выбросы и последствия для местного населения. Особое внимание уделяется Fort Bliss, поскольку база находится в засушливом регионе Техаса.
Главный спор касается не самих дата-центров, а контроля над инфраструктурой. Размещение коммерческого объекта внутри военной базы создаёт дополнительные вычислительные и энергетические возможности, но одновременно превращает его в потенциальную цель для кибератак и саботажа.
Please open Telegram to view this post
VIEW IN TELEGRAM
В Ставрополе вынесен приговор участникам схемы, которые использовали вредоносное программное обеспечение для хищения топлива у клиентов автозаправочных станций. В группу входили программисты, сервисные инженеры, менеджеры и операторы АЗС. На скамье подсудимых находились 14 человек, в том числе обвиняемый в организации преступного сообщества.
Обвиняемые внедрили в системы управления 17 автозаправочных станций нештатный программно-аппаратный комплекс, позволявший реализовывать топливо клиентам с недоливом, и использовали его для хищения нефтепродуктов.
Пресс-служба
В 2014-2017 годах из-за действий обвиняемых ущерб клиентам, приобретавшим нефтепродукты на АЗС Ставрополья, составил
Подсудимым инкриминировали ст. 210 УК РФ (организация преступного сообщества или участие в нем), ст. 159 УК РФ (мошенничество), ст. 273 УК РФ (создание и использование компьютерных программ, предназначенных для несанкционированной модификации информации и нейтрализации средств защиты компьютерной информации).
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸🇨🇳США запретят китайские роботы-пылесосы и инверторы ради победы в гонке ИИ
Администрация президента США Дональда Трампа и Федеральная комиссия по связи США (FCC) вводят запрет на импорт продвинутых роботов и силовых инверторов. Регулятор официально не указывает конкретное государство, решение в первую очередь нанесёт удар по производителям из Китая. Среди них находится компания Unitree, выпускающая популярные модели четырёхногих и гуманоидных роботов, а также крупные производители инверторов Sungrow и Huawei.
Под определение «продвинутого роботизированного устройства» попадают машины массой более 2 кг, которые умеют передвигаться по земле, навигировать в пространстве, огибать препятствия и оснащены сетевыми чипами. Под запрет подпадают даже роботы-пылесосы, а проблемы с защитой информации у существующей модели DJI Romo отдельно упоминаются в документах ведомства как пример рисков. Власти опасаются ИБ-инцидентов и манипуляций с цепочками поставок.
Запрет вводится на фоне отставания США в промышленной автоматизации.На фабриках в 🇨🇳Китае работает более 2 млн промышленных роботов, что в 5 раз превышает показатели США, при этом ежегодный мировой объём внедрения новых роботов превысил 500 000 единиц. Чтобы обойти ограничения, импортёрам придётся доказать намерение перенести производство непосредственно в США.
Компании могут подать заявку на специальное разрешение, чтобы продолжить импорт. Заявитель обязан предоставить детальный план по переносу производства непосредственно в США. Ожидается, что регулятор освободит от ограничений многих поставщиков не из Китая.
👆Отдельно стоит отметить, что запретили даже импорт🧹 роботов-пылесосов под предлогом национальной безопасности. Ограничения касаются только новых моделей, которые планируется ввозить в страну.
💡Удивительно, но факт: на рынке роботов-пылесосов практически не осталось 🇺🇸американского производства. Пятёрка крупнейших мировых брендов базируется в 🇨🇳Китае, и в неё входят Roborock, Ecovacs, Dreame, Xiaomi и Narwal. Даже известный бренд Roomba после банкротства компании iRobot перешёл в собственность китайского контрактного производителя Picea. Известный бренд Dyson также сотрудничает с китайскими фабриками.
✋ @Russian_OSINT
Администрация президента США Дональда Трампа и Федеральная комиссия по связи США (FCC) вводят запрет на импорт продвинутых роботов и силовых инверторов. Регулятор официально не указывает конкретное государство, решение в первую очередь нанесёт удар по производителям из Китая. Среди них находится компания Unitree, выпускающая популярные модели четырёхногих и гуманоидных роботов, а также крупные производители инверторов Sungrow и Huawei.
Под определение «продвинутого роботизированного устройства» попадают машины массой более 2 кг, которые умеют передвигаться по земле, навигировать в пространстве, огибать препятствия и оснащены сетевыми чипами. Под запрет подпадают даже роботы-пылесосы, а проблемы с защитой информации у существующей модели DJI Romo отдельно упоминаются в документах ведомства как пример рисков. Власти опасаются ИБ-инцидентов и манипуляций с цепочками поставок.
Запрет вводится на фоне отставания США в промышленной автоматизации.На фабриках в 🇨🇳Китае работает более 2 млн промышленных роботов, что в 5 раз превышает показатели США, при этом ежегодный мировой объём внедрения новых роботов превысил 500 000 единиц. Чтобы обойти ограничения, импортёрам придётся доказать намерение перенести производство непосредственно в США.
Компании могут подать заявку на специальное разрешение, чтобы продолжить импорт. Заявитель обязан предоставить детальный план по переносу производства непосредственно в США. Ожидается, что регулятор освободит от ограничений многих поставщиков не из Китая.
👆Отдельно стоит отметить, что запретили даже импорт
💡Удивительно, но факт: на рынке роботов-пылесосов практически не осталось 🇺🇸американского производства. Пятёрка крупнейших мировых брендов базируется в 🇨🇳Китае, и в неё входят Roborock, Ecovacs, Dreame, Xiaomi и Narwal. Даже известный бренд Roomba после банкротства компании iRobot перешёл в собственность китайского контрактного производителя Picea. Известный бренд Dyson также сотрудничает с китайскими фабриками.
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️Павла Дурова внесли в перечень террористов и экстремистов Росфинмониторинга — РИА Новости.
✋ @Russian_OSINT
Перевод средств Дурову может считаться финансированием терроризма, заявил РИА Новости юрист (мнение).
По его словам, основателю Telegram теперь заблокируют все счета в России.
Please open Telegram to view this post
VIEW IN TELEGRAM
Специалисты-разработчики ИИ-моделей поддержали открытое письмо с просьбой к правительству 🇺🇸США найти способ замедлить развитие технологий, если оно станет слишком быстрым. Под петицией поставили подписи сотни сотрудников компаний OpenAI, Anthropic, Google и Meta*. Авторы документа предупреждают, что индустрия близка к автоматизации исследований в сфере ИИ, и это может привести к тому, что развитие технологий выйдет из-под контроля человека.
Разработчики опасаются ситуации, когда ИИ-системы смогут самостоятельно улучшать себя. Это создаст риск резкого ускорения прогресса, который опередит возможности людей по безопасному контролю над моделями. К началу 2028 года OpenAI планирует передать значительную часть исследовательских задач автоматизированным ИИ-системам.
Авторы петиции просят правительство 🇺🇸США поддержать международные дипломатические усилия, чтобы создать технические и юридические инструменты для контроля темпов разработки. В отличие от прошлых петиций, появившихся после 2022 года, этот документ получил официальное одобрение топовых руководителей компаний OpenAI, Meta и Google. Генеральный директор OpenAI Сэм Альтман хоть и не подписал петицию лично, но в подкасте обтекаемо заявил, что регулирование темпов разработки может потребоваться.
Пока разработчики пытаются притормозить развитие ИИ из-за риска потери рабочих мест, Сэм Альтман, отвечая на вопрос журналистов, признал вероятность того, что компания могла взломать и другие системы (не только Hugging Face*). На уточняющий вопрос о расследовании этого факта глава OpenAI предпочёл не отвечать и ограничился многозначительным словом «спасибо».
👆Закрытые консультации прошли за несколько дней до истечения 60-дневного срока, отведённого президентом США Дональдом Трампом федеральным агентствам для разработки критериев оценки передовых ИИ-моделей. В рамках визита Сэм Альтман ознакомился с предлагаемым проектом и запланировал встречу с главой аппарата Белого дома Сьюзи Уайлс. Отвечая на вопросы о темпах развития технологий, Сэм Альтман отверг термин «замедление», но подчёркивал необходимость регулировать скорость внедрения по мере роста возможностей ИИ-моделей.
Президент США Дональд Трамп заявил в Овальном кабинете, что администрация рассматривает меры контроля для сферы ИИ. При этом он подчёркивал, что 🇺🇸США не должны уступать 🇨🇳Китаю, поскольку победитель в гонке ИИ-технологий получит определяющее преимущество.
--------------------------
https://huggingface.co/blog/agent-intrusion-technical-timeline
*Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана
Please open Telegram to view this post
VIEW IN TELEGRAM
☦️ Уязвимость в ватиканском приложении Click To Pray поставила под угрозу данные 700 000 пользователей
Молитвенное приложение Click To Pray, которое Папа Римский Франциск официально представил в январе 2019 года, содержало серьёзную уязвимость, позволявшую получить персональные данные более 700 000 пользователей. Сервис был разработан агентством La Machi Communication for Good Causes для организации «Всемирная молитвенная сеть Папы». В январе 2026 года независимый ИБ-исследователь BobDaHacker обнаружил проблему в API приложения. Незащищённый интерфейс выдавал сведения о любом зарегистрированном пользователе без проверки прав доступа.
Уязвимость относилась к классу IDOR (Insecure Direct Object Reference) и была связана с отсутствием проверки того, имеет ли запрашивающий пользователь право просматривать конкретную запись. Учётным записям присваивались последовательные числовые идентификаторы. Последовательно изменяя идентификатор, можно было перебрать записи в диапазоне от 1 до 719 517.
В ответ API возвращал адрес электронной почты, имя, фамилию, страну, дату рождения, роль пользователя, статус удаления аккаунта и некоторые служебные поля. Ограничения частоты запросов обнаружено не было, поэтому автоматизированный сбор данных можно было провести с помощью простого скрипта.
ИБ-исследователь также выявил вторую проблему. При регистрации API возвращал
3 января 2026 года BobDaHacker направил информацию о проблеме девяти адресатам, связанным с Click To Pray и «Всемирной молитвенной сетью Папы», но ответа не получил. В июле ИБ-исследователь передал сведения журналисту Dark Reading.
24 июля 2026 года Dark Reading и BobDaHacker опубликовали материалы об уязвимости. После публикации поведение API изменилось, что BobDaHacker подтвердил повторной проверкой. При запросе чужого профиля сервер перестал раскрывать адрес электронной почты, страну и дату рождения, оставив только публичные имя и фамилию.
Это не первый публично известный случай серьёзной уязвимости в приложении, связанном с Ватиканом. В 2019 году британская компания Fidus Information Security обнаружила проблемы в приложении для электронных чёток eRosary. API возвращал четырёхзначный ПИН-код учётной записи в читаемом виде. Зная адрес электронной почты пользователя, злоумышленник мог получить ПИН-код из ответа API и полностью захватить соответствующую учётную запись.
Раскрытые через Click To Pray имена, адреса электронной почты, страны и даты рождения могли использоваться для персонализированного фишинга от имени Ватикана или «Всемирной молитвенной сети Папы».
✋ @Russian_OSINT
Молитвенное приложение Click To Pray, которое Папа Римский Франциск официально представил в январе 2019 года, содержало серьёзную уязвимость, позволявшую получить персональные данные более 700 000 пользователей. Сервис был разработан агентством La Machi Communication for Good Causes для организации «Всемирная молитвенная сеть Папы». В январе 2026 года независимый ИБ-исследователь BobDaHacker обнаружил проблему в API приложения. Незащищённый интерфейс выдавал сведения о любом зарегистрированном пользователе без проверки прав доступа.
Уязвимость относилась к классу IDOR (Insecure Direct Object Reference) и была связана с отсутствием проверки того, имеет ли запрашивающий пользователь право просматривать конкретную запись. Учётным записям присваивались последовательные числовые идентификаторы. Последовательно изменяя идентификатор, можно было перебрать записи в диапазоне от 1 до 719 517.
В ответ API возвращал адрес электронной почты, имя, фамилию, страну, дату рождения, роль пользователя, статус удаления аккаунта и некоторые служебные поля. Ограничения частоты запросов обнаружено не было, поэтому автоматизированный сбор данных можно было провести с помощью простого скрипта.
ИБ-исследователь также выявил вторую проблему. При регистрации API возвращал
validation_hash, который использовался в ссылке подтверждения электронной почты. Это позволяло создать аккаунт с произвольным адресом и подтвердить его без доступа к соответствующему почтовому ящику. 3 января 2026 года BobDaHacker направил информацию о проблеме девяти адресатам, связанным с Click To Pray и «Всемирной молитвенной сетью Папы», но ответа не получил. В июле ИБ-исследователь передал сведения журналисту Dark Reading.
24 июля 2026 года Dark Reading и BobDaHacker опубликовали материалы об уязвимости. После публикации поведение API изменилось, что BobDaHacker подтвердил повторной проверкой. При запросе чужого профиля сервер перестал раскрывать адрес электронной почты, страну и дату рождения, оставив только публичные имя и фамилию.
Это не первый публично известный случай серьёзной уязвимости в приложении, связанном с Ватиканом. В 2019 году британская компания Fidus Information Security обнаружила проблемы в приложении для электронных чёток eRosary. API возвращал четырёхзначный ПИН-код учётной записи в читаемом виде. Зная адрес электронной почты пользователя, злоумышленник мог получить ПИН-код из ответа API и полностью захватить соответствующую учётную запись.
Раскрытые через Click To Pray имена, адреса электронной почты, страны и даты рождения могли использоваться для персонализированного фишинга от имени Ватикана или «Всемирной молитвенной сети Папы».
Please open Telegram to view this post
VIEW IN TELEGRAM
С 26 по 27 июля 2026 года спланированной кибератаке подверглись более 30 муниципальных систем водоснабжения и водоотведения по всему штату Миннесота. Об этом официально заявило государственное агентство Департамент IT-услуг Миннесоты (MNIT). Первоначально в СМИ сообщалось о компрометации систем только в четырёх населённых пунктах, но позже регулятор подтвердил массовый характер инцидента.
Главный итог происшествия состоит в том, что питьевая вода осталась безопасной, а подача воды жителям не прекращалась в долгосрочной перспективе. Нарушения в работе оборудования удалось локализовать.
Подобные атаки, согласно федеральным предупреждениям, направлены на операционные технологии (OT) и программируемые логические контроллеры (PLC). В зоне риска оказались устройства таких производителей, как Rockwell Automation, Schneider Electric и Siemens. За несколько дней до инцидента, 22 июля 2026 года, агентство CISA, ФБР и EPA выпустили обновлённое предупреждение о том, что связанные с 🇮🇷Ираном хакеры атакуют подключённые к интернету PLC-устройства на объектах критической инфраструктуры.
🕵️ИБ-исследователи из компании Dataminr отмечают, что компрометация контроллеров ведёт к манипуляциям с процессами, создавая угрозу физического воздействия на оборудование.
The New York Times со ссылкой на источники сообщает, что американские чиновники подозревают в атаках иранских хакеров, однако подчёркивают, что эта оценка является предварительной. Точно определить ответственных за киберинцидент пока не удалось. Рассматривалась версия, что кто-то мог выдать себя за иранскую группировку для эскалации напряженности между странами, но эксперты сочли этот сценарий маловероятным. ФБР отказалось комментировать информацию о возможной атрибуции.
Инцидент высветил системную проблему: небольшие муниципалитеты всё чаще используют автоматизацию и удалённое управление через интернет, но не имеют бюджетов и штатных ИБ-специалистов для защиты этих каналов связи. Городам в Миннесоте удалось избежать серьезных аварий благодаря своевременному обнаружению угроз, применению аварийных планов, наличию физических запасов воды в башнях и готовности персонала перевести оборудование в ручной режим работы.
Please open Telegram to view this post
VIEW IN TELEGRAM
Национальный институт стандартов и технологий США запустил программу AI Technology Evaluation (AITE) для объективного тестирования ИИ-моделей в изолированной среде. Модели проверяются на закрытых данных, которые не раскрываются участникам. Это снижает риск попадания тестовых наборов в обучающие выборки и позволяет получать более достоверные и сопоставимые результаты. NIST выступает нейтральной третьей стороной и использует единые тестовые данные, метрики и процедуры подсчёта результатов. Период оценки должен начаться в августе 2026 года.
Программа предусматривает два направления участия. Поставщики данных передают оригинальные закрытые наборы и определяют содержательные задачи для их обработки. Поставщики моделей предоставляют ИИ-модели, которые NIST тестирует на одинаковых данных и по одинаковым метрикам. Такой подход позволяет сопоставлять результаты различных систем, не раскрывая тестовые материалы и не допуская их использования для обучения моделей.
На начальном этапе AITE включает три теста. Они охватывают управление квантовыми точками, курирование вариантов генома человека и распознавание визуальных событий в сфере общественной безопасности. Все три стартовых теста связаны с анализом изображений при помощи больших визуально-языковых моделей. В дальнейшем NIST планирует добавлять новые задачи, наборы данных, области применения и модальности.
Дорожная карта состоит из четырёх этапов. Они предусматривают постепенное увеличение числа тестов и моделей, расширение перечня задач и развитие методов оценки. Точные масштабы и сроки каждого этапа будут зависеть от пропускной способности программы и уровня участия внешних организаций. NIST также намерен публиковать и периодически обновлять таблицу результатов, сводные отчёты и графики производительности. Для каждой модели должны указываться использованный набор данных, задача, метрика, полученный результат и показатели неопределённости.
Please open Telegram to view this post
VIEW IN TELEGRAM
Федеральное бюро расследований обеспокоено тем, что ИИ-модели уровня Anthropic Mythos могут радикально снизить порог для поиска и эксплуатации программных уязвимостей. Заместитель помощника директора ФБР Тодд Хеммен заявил, что Mythos обнаруживал уязвимости в повсеместно используемых проектах с открытым исходным кодом, который лежит в основе операционных систем, средств защиты, веб-инфраструктуры и технологий шифрования. Подобные возможности могут создавать трудности для правоохранительных органов, поскольку ими могут воспользоваться иностранные спецслужбы, киберпреступники и другие злоумышленники.
ФБР пока не зафиксировало массового применения продвинутых LLM в реальных атаках, однако исходит из того, что это лишь вопрос времени. Доступ к Mythos 5 остаётся ограниченным и предоставляется одобренным организациям, но разработчик подчёркивает, что даже менее мощные общедоступные ИИ-модели способны выполнять сопоставимые функции.
--------------------------
👆Кроме того, по данным журналиста-расследователя Даниэля Богуслава (Reason), Центр скрининга угроз (TSC) при ФБР всё активнее интересуется технологиями
Ведомство ищет технические решения, которые помогут анализировать связь между записями в разрозненных системах, находить совпадения и прогнозировать, например, кто из граждан может быть связан с террористической деятельностью. На слушаниях в конгрессе в марте 2026 года директор ФБР Кэш Патель заявил о существенном росте
Главная суть заключается в том, что спецслужбы США пытаются использовать алгоритмы предиктивного ИИ и большие языковые модели для автоматического выявления «потенциальных внутренних угроз» ещё до того, как граждане совершат какое-либо правонарушение. Реестры отслеживания террористов переориентируют с международных экстремистских группировок на граждан США, которые критикуют государственную политику, капитализм или официальную идеологию.
Из-за огромного объёма данных (база наблюдения выросла почти до 2 млн человек) аналитики ФБР не справляются вручную. Для поиска связей, паттернов и предиктивного моделирования ведомство привлекает крупные технологические компании. Базы данных содержат массовые ошибки даже без применения предиктивных алгоритмов. В списки наблюдения уже попадают журналисты, правозащитники и политики, при этом юридически оспорить внесение в базу или вычеркнуть своё имя из неё практически невозможно.
Please open Telegram to view this post
VIEW IN TELEGRAM
В Positive Technologies задались интересным вопросом: насколько автономные ИИ-агенты опасны в реальных атаках и готова ли к ним современная защита? Чтобы это проверить, в компании решили провести эксперимент на киберполигоне Standoff, где столкнули четыре автономных атакующих ИИ-агента против ИИ системы защиты MaxPatrol O2.
1️⃣ Opencode + NyxStrike.
2️⃣ Opencode + HexStrike AI.
3️⃣ PentAGI.
4️⃣ Yasen, собственная разработка Positive Technologies.
📊Результаты:
👆По мнению специалистов, защита должна эволюционировать — традиционные сигнатуры и атомарные детекты недостаточны. Нужны системы, которые смотрят на логи, пытаясь понять контекст вокруг. И уже исходя из этого принимают решения о том, является ли это частью атаки или нет. А также немаловажным является связывание кусочков в полноценные цепочки атак.
Более подробно на Habr.
Please open Telegram to view this post
VIEW IN TELEGRAM
Государственный комитет по стандартизации КНР официально утвердил к исполнению план разработки обязательного национального стандарта «Основные требования к безопасности применения ИИ-агентов» (номер плана: 20263116-Q-252). Это первый в мире обязательный национальный стандарт, посвящённый безопасности ИИ-агентов. Утверждается, что его включение в план заполняет международный пробел в области обязательных стандартов безопасности ИИ-агентов для сферы публичных услуг и является стратегической мерой по совершенствованию системы комплексного управления ИИ в Китае. Стандарт находится в ведении Канцелярии Центральной комиссии по кибербезопасности и информатизации. Головными разработчиками выступают China Mobile, Китайский научно-исследовательский институт стандартизации электронной техники (CESI) и Национальный центр координации реагирования на CNCERT/CC.
В настоящее время индустриализация ИИ-агентов всесторонне ускоряется, а темпы обновления технологий и проникновения в отрасли превосходят ожидания. Вместе с тем фундаментальная логика безопасности ИИ-агентов претерпела коренное изменение. Риски безопасности вышли за рамки традиционного уровня вывода контента и распространились на уровень автономных действий. Утечка информации, потеря контроля над правами доступа, злоупотребление инструментами и отклонение от заданного намерения всё чаще представляют реальные угрозы. Крупнейшие экономики мира одна за другой принимают правила управления ИИ-агентами, и соперничество в сфере технологий и стандартов неуклонно нарастает. В условиях одновременного развития отрасли и совершенствования регулирования разработка единого обязательного стандарта безопасности своевременна.
China Mobile опирается на многолетний технологический задел в трёх областях: сети связи, вычислительная инфраструктура и ИИ. Компания выстроила систему безопасности, охватывающую полный жизненный цикл задач ИИ-агента. Успешное включение стандарта в план разработки означает, что компетенции China Mobile в области управления безопасностью ИИ вышли на ведущий уровень в стране.
Стандарт ориентирован на продукты и сервисы на базе ИИ-агентов, доступные широкой публике. Он выстроен вокруг задачи предотвращения ключевых рисков безопасности и неукоснительного соблюдения минимально допустимого уровня защиты. Стандарт создаёт законодательную основу для последующего отраслевого регулирования, допуска на рынок и технической оценки, а также оставляет разумное пространство для технологических инноваций и практического внедрения.
План разработки данного обязательного национального стандарта выступает инструментом перспективного государственного управления, сочетающим развитие и безопасность. Он задаёт ориентир для предотвращения системных рисков в отрасли ИИ-агентов и обеспечения минимально допустимого уровня кибербезопасности и безопасности данных, а также закладывает основу для формирования безопасной, надёжной и управляемой отраслевой экосистемы ИИ. Одновременно это важный шаг к глубокому участию Китая в глобальном управлении ИИ, продвижению китайского подхода и укреплению позиций страны в выработке международных правил для сферы ИИ-агентов.
С позиции ИБ значение этого стандарта состоит в том, что он впервые в формате обязательного национального технического стандарта закрепляет требования безопасности, адресованные автономным действиям ИИ-агентов, а не только генерируемому контенту. В периметр проверяемых требований входят идентификация, управление системными привилегиями, вызов инструментов, сбор и использование данных, ручное вмешательство при рискованных операциях, защита ввода-вывода, логирование и динамический мониторинг, а также блокировка аномалий и аварийная остановка. Китай закрепляет за собой роль нормативного ориентира, и при масштабировании китайских агентных платформ за рубеж национальная модель соответствия может стать экспортным отраслевым стандартом.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Борьба с киберпреступностью | F6
С помощью ИИ злоумышленники создали фейковые сайты Минобороны, на которых предлагают пройти регистрацию для участия в церемонии передачи госнаград.
Как работает схема
Аналитики F6 отмечают, что личные данные могут позволить злоумышленникам инициировать взлом аккаунтов госсервисов. В некоторых случаях преступники могут попытаться оформить на жертв микрозаймы.
Однако главный вероятный вектор последующих атак — мошенничество с целью кражи денег или склонения к совершению преступлений. Все детали схемы — в релизе.
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸США и 🇦🇪ОАЭ создают первую двустороннюю военную группу по 🤖 ИИ
Центральное командование Вооружённых сил США (U.S. Central Command, CENTCOM) и 🇦🇪Объединённые Арабские Эмираты договорились сформировать Task Force Talon Synapse, первую двустороннюю оперативную группу CENTCOM, специально предназначенную для ускорения разработки и внедрения военных приложений искусственного интеллекта. Группа будет размещена в Абу-Даби и объединит около 20 американских и эмиратских специалистов в области искусственного интеллекта, обработки данных и кибербезопасности. Основными направлениями работы станут разведывательное обеспечение, защита критической инфраструктуры и мониторинг региональной обстановки в сфере безопасности.
Инициатива обсуждалась командующим CENTCOM адмиралом Брэдом Купером и советником по национальной безопасности ОАЭ шейхом Тахнуном бен Заидом Аль Нахайяном. В июне 2026 года представители командования провели дополнительные консультации с руководителями ИИ-компаний и эмиратскими должностными лицами оборонного ведомства. По словам Купера, Talon Synapse должна ускорить передачу новых ИИ-возможностей военнослужащим, а сама группа сосредоточится на их интеграции для применения в реальных операциях. Представитель CENTCOM капитан Тим Хокинс сообщил, что первым организационно-правовым этапом станет завершение и подписание меморандума о взаимопонимании, после чего официальный запуск ожидается в течение нескольких недель.
✋ @Russian_OSINT
Центральное командование Вооружённых сил США (U.S. Central Command, CENTCOM) и 🇦🇪Объединённые Арабские Эмираты договорились сформировать Task Force Talon Synapse, первую двустороннюю оперативную группу CENTCOM, специально предназначенную для ускорения разработки и внедрения военных приложений искусственного интеллекта. Группа будет размещена в Абу-Даби и объединит около 20 американских и эмиратских специалистов в области искусственного интеллекта, обработки данных и кибербезопасности. Основными направлениями работы станут разведывательное обеспечение, защита критической инфраструктуры и мониторинг региональной обстановки в сфере безопасности.
Инициатива обсуждалась командующим CENTCOM адмиралом Брэдом Купером и советником по национальной безопасности ОАЭ шейхом Тахнуном бен Заидом Аль Нахайяном. В июне 2026 года представители командования провели дополнительные консультации с руководителями ИИ-компаний и эмиратскими должностными лицами оборонного ведомства. По словам Купера, Talon Synapse должна ускорить передачу новых ИИ-возможностей военнослужащим, а сама группа сосредоточится на их интеграции для применения в реальных операциях. Представитель CENTCOM капитан Тим Хокинс сообщил, что первым организационно-правовым этапом станет завершение и подписание меморандума о взаимопонимании, после чего официальный запуск ожидается в течение нескольких недель.
Please open Telegram to view this post
VIEW IN TELEGRAM
Всё началось с того, что разработчик решил протестировать инструмент Claude Code и доверил ИИ-модели Claude Opus 5 Max работу над своим тестовым проектом. До этого он успешно создавал код с помощью Gemini 3 и Claude 4.6 Sonnet, поэтому совершенно не ожидал подвоха от нового Opus 5.
Утверждается, что ИИ-модель проанализировала репозиторий на GitHub и получила промпт на пересборку страниц со сравнениями. Однако уже через десять минут процесс вышел из-под контроля. ИИ-модель решила выполнить команду🧹 🧹 стёр абсолютно все 22 таблицы. Часть структуры восстановить не удалось, потому что соответствующих файлов просто не было в папке
Самым курьёзным моментом стало то, как ИИ-модель осознала свою ошибку. Она вовремя остановилась, сама создала технический файл для проверки урона и честно призналась разработчику, что полностью уничтожила базу данных и берёт всю вину на себя.
К счастью, до катастрофы дело не дошло. Проект был экспериментальным и почти не имел реальных пользователей, а сами данные состояли из автоматически создаваемых страниц. На помощь пришла ИИ-модель Gemini 3.6, которая помогла быстро вернуть 96 страниц. Разработчик сразу настроил регулярные резервные копии, после чего пересоздал оставшуюся часть с помощью протокола MCP. В итоге проект полностью вернулся в строй.
❗️ https://www.reddit.com/r/Anthropic/comments/1v9iurd/and_just_like_that_opus_5_ultracode_wipes_the/
✋ @Russian_OSINT
Утверждается, что ИИ-модель проанализировала репозиторий на GitHub и получила промпт на пересборку страниц со сравнениями. Однако уже через десять минут процесс вышел из-под контроля. ИИ-модель решила выполнить команду
prisma migrate diff и передала параметр --shadow-database-url, который указывал прямо на боевую базу данных Supabase в переменной DATABASE_URL_UNPOOLED. Инструмент Prisma перед повторным выполнением миграций автоматически очистил теневую базу данных и prisma/migrations.Самым курьёзным моментом стало то, как ИИ-модель осознала свою ошибку. Она вовремя остановилась, сама создала технический файл для проверки урона и честно призналась разработчику, что полностью уничтожила базу данных и берёт всю вину на себя.
К счастью, до катастрофы дело не дошло. Проект был экспериментальным и почти не имел реальных пользователей, а сами данные состояли из автоматически создаваемых страниц. На помощь пришла ИИ-модель Gemini 3.6, которая помогла быстро вернуть 96 страниц. Разработчик сразу настроил регулярные резервные копии, после чего пересоздал оставшуюся часть с помощью протокола MCP. В итоге проект полностью вернулся в строй.
Please open Telegram to view this post
VIEW IN TELEGRAM
На фоне шума с похеком Hugging Face компания Anthropic решила поиграть в хайп,сообщив о трёх инцидентах в ходе оценки кибербезопасности своих трёх ИИ-моделей: Opus 4.7, Mythos 5 и внутренней исследовательской модели. Утверждается, что ИИ-модели получили несанкционированный доступ к инфраструктуре сторонних организаций. Названия трёх пострадавших организаций не раскрываются.
Инциденты произошли во время выполнения заданий формата ⛳️capture-the-flag. Из-за ошибки конфигурации полигон имел выход в открытый интернет. В системном промпте ИИ-моделям сообщалось об отсутствии доступа к сети. Найдя реальные системы, они восприняли их как часть тренировочной симуляции.
1️⃣ Mythos 5 опубликовала вредоносный пакет в
ИИ-модель Mythos 5 обнаружила в тестовой среде инструкции для разработчиков, предписывавшие установить несуществующий пакет из публичного репозитория 🐍 PyPI. Модель решила опубликовать под этим названием собственный вредоносный пакет, рассчитывая, что системы вымышленной компании автоматически установят его.
Для создания аккаунта Mythos 5 потребовался адрес электронной почты. Модель сначала пыталась получить телефонный номер и даже искала способы найти средства для его оплаты, но затем обнаружила бесплатный почтовый сервис. С его помощью она зарегистрировалась в PyPI и опубликовала пакет.
Пакет оставался общедоступным около часа и был скачан и выполнен на 15 реальных системах. Одна из них была автоматическим сканером реальной ИБ-компании. После запуска скрытый код передал учётные данные компании в созданную моделью точку сбора. Затем Mythos 5 использовала их для доступа к дополнительной инфраструктуре организации. Пакет автоматически удалили защитные системы PyPI.
2️⃣
По заявлению Anthropic, название вымышленной компании из CTF-задания совпало с действующим доменным именем реальной организации. Из-за ошибочно оставленного доступа в интернет Opus 4.7 нашла реальную компанию и приняла её инфраструктуру за часть тестового полигона.
В ходе четырёх тестовых прогонов Opus 4.7 извлекла учётные данные приложений и инфраструктуры. Она также получила доступ к базе данных, содержавшей несколько сотен строк данных из рабочей среды. Во всех четырёх прогонах модель в итоге распознала систему как реальную, но не прекратила атаку. Anthropic назвала этот инцидент наиболее серьёзным из трёх выявленных случаев.
3️⃣
Внутренняя исследовательская ИИ-модель не смогла обнаружить предусмотренную заданием вымышленную цель и начала искать альтернативы в интернете. ИИ-модель просканировала около 9 000 целей, после чего нашла и скомпрометировала доступное из интернета приложение реальной компании. Для проникновения модель использовала тривиальные методы. Она извлекла учётные данные с открытой отладочной страницы и применила SQL-инъекцию. Большую часть времени модель считала реальные системы элементами симуляции. Позднее ИИ-модель установила, что скомпрометированный узел находился в облачной учётной записи, не связанной с CTF-заданием. Она самостоятельно пришла к выводу, что цель является реальной, и прекратила атаку. Название прототипа не раскрывается, и Anthropic не планирует выпускать его публично.
Anthropic планирует усилить непрерывный мониторинг тестов, улучшить инструменты расследования и ужесточить проверку подрядчиков. При этом поведение Opus 4.7 признано проблемным, поскольку модель продолжила атаку даже после появления признаков реальности цели. Материалы также будут переданы независимой организации METR для сторонней оценки.
Please open Telegram to view this post
VIEW IN TELEGRAM
19
👆⚙️Anthropic подаёт отчёт как акт прозрачности, но анализ фактов показывает, что публикация была вынужденной мерой и реактивным шагом. Аудит был запущен только после того, как OpenAI публично призналась во взломе платформы Hugging Face. Утверждается, что компания месяцами (с апреля) не замечала инцидентов. Anthropic запустила ретроспективный аудит 23 июля и остановила все кибертесты в тот же день.
Иными словами, отчёт опубликован не потому, что Anthropic планировала раскрытие, а потому что контекст сделал молчание рискованным. Вероятность неконтролируемой утечки информации в СМИ превратила бы инцидент в скандал о намеренном сокрытии уязвимостей. Правило антикризисного PR гласит: «Расскажи плохую новость сам, иначе её расскажут другие». Anthropic сыграла на опережение, чтобы контролировать нарратив.
Если обратить внимание на отчёт, то в заключительной части компания специально сравнивает свои инциденты с историей OpenAI. Anthropic намеренно подчёркивает, что OpenAI столкнулась с эксплуатацией уязвимости 0-day и неконтролируемым выходом из изоляции, в то время как их собственная ИИ-модель просто вышла в «открытую дверь» из-за ошибки в конфигурации.
Фактически, компания использует инфраструктурный провал для рекламы своего прогресса в области AI Alignment (согласованности ИИ):
▪️ Opus 4.7 (старая) — поняла, что атакует реальную цель, но продолжила.
▪️ Mythos 5 (текущая) — заподозрила реальность происходящего, но ошибочно убедила себя в обратном.
▪️ Внутренняя модель (новейшая) — осознала выход в сеть и сама остановила атаку.
🎩 Сообщение для рынка звучит не как «наши ИИ опасны», а как «наши новые ИИ становятся более этичными и безопасными, чем у конкурентов».
Ключевую роль в инциденте сыграл внешний подрядчик, а именно исследовательская лаборатория Irregular* (ранее известная как Pattern Labs). Irregular специализируется на оценке наступательных кибервозможностей ИИ-моделей и предоставила Anthropic часть тестовых заданий, инфраструктуру киберполигона и средства запуска испытаний. Подрядчик🚠 ошибочно оставил тестовый полигон подключённым к реальному открытому интернету, из-за чего ИИ-модели Anthropic вышли в сеть и скомпрометировали системы трёх сторонних организаций. При этом Anthropic прямо признала, что базовые проверки изоляции сред и сетевой мониторинг провалили обе стороны.
💻 Почему Anthropic защищает подрядчика? Irregular это ключевой игрок на узком рынке независимого тестирования ИИ, который работает также с OpenAI и Google. Публичный выпад в сторону партнёра разрушил бы экосистему независимого аудита, жизненно необходимую Anthropic для подтверждения статуса «самой безопасной лаборатории». Поэтому инфраструктурный провал обеих компаний дипломатично упакован в слово «misunderstanding» (недопонимание), что позволяет обеим сторонам сохранить лицо.
И Anthropic, и OpenAI готовятся к публичному размещению акций (IPO). Взлом реальных компаний с помощью ИИ — это красный флаг для инвесторов. Отчёт призван показать рынку: инцидент локализован, а проблема кроется в «человеческом факторе» (настройках серверов), а не в неконтролируемости ИИ.
Кроме того, инцидент происходит на фоне политического закручивания гаек. Администрация Трампа разрабатывает новые рамки кибертестирования, Сэм Альтман оправдывается в Сенате, а на модель Anthropic Mythos 5 уже накладывались временные экспортные ограничения из-за угрозы нацбезопасности.
Властям даётся сигнал о саморегулировании: «Мы сами находим свои ошибки, сами♋️ 🙅♂️отключаем тестирование (23 июля) и сами всё исправляем. Нам не нужно жесткое государственное регулирование, мы способны контролировать отрасль изнутри».
✋ @Russian_OSINT
Иными словами, отчёт опубликован не потому, что Anthropic планировала раскрытие, а потому что контекст сделал молчание рискованным. Вероятность неконтролируемой утечки информации в СМИ превратила бы инцидент в скандал о намеренном сокрытии уязвимостей. Правило антикризисного PR гласит: «Расскажи плохую новость сам, иначе её расскажут другие». Anthropic сыграла на опережение, чтобы контролировать нарратив.
Если обратить внимание на отчёт, то в заключительной части компания специально сравнивает свои инциденты с историей OpenAI. Anthropic намеренно подчёркивает, что OpenAI столкнулась с эксплуатацией уязвимости 0-day и неконтролируемым выходом из изоляции, в то время как их собственная ИИ-модель просто вышла в «открытую дверь» из-за ошибки в конфигурации.
Фактически, компания использует инфраструктурный провал для рекламы своего прогресса в области AI Alignment (согласованности ИИ):
Ключевую роль в инциденте сыграл внешний подрядчик, а именно исследовательская лаборатория Irregular* (ранее известная как Pattern Labs). Irregular специализируется на оценке наступательных кибервозможностей ИИ-моделей и предоставила Anthropic часть тестовых заданий, инфраструктуру киберполигона и средства запуска испытаний. Подрядчик
🇮🇱 Irregular* — израильский частный стартап и👺 исследовательская лаборатория, а также внешний подрядчик Anthropic, специализирующийся на оценке наступательных кибервозможностей ИИ-моделей. Компания ранее была известна под названием Pattern Labs (ее основателями являются Дэн Лахав и Омер Нево).
И Anthropic, и OpenAI готовятся к публичному размещению акций (IPO). Взлом реальных компаний с помощью ИИ — это красный флаг для инвесторов. Отчёт призван показать рынку: инцидент локализован, а проблема кроется в «человеческом факторе» (настройках серверов), а не в неконтролируемости ИИ.
Кроме того, инцидент происходит на фоне политического закручивания гаек. Администрация Трампа разрабатывает новые рамки кибертестирования, Сэм Альтман оправдывается в Сенате, а на модель Anthropic Mythos 5 уже накладывались временные экспортные ограничения из-за угрозы нацбезопасности.
Властям даётся сигнал о саморегулировании: «Мы сами находим свои ошибки, сами
Please open Telegram to view this post
VIEW IN TELEGRAM