Вайбхакеры с помощью ИИ взломали OpenAI 😳

Команда Hacktron нашла цепочку из двух уязвимостей и через баг в системе авторизации смогла захватить ChatGPT/Codex-аккаунты сотрудников. У некоторых из них были подключены GitHub, Slack, Gmail, Google Drive и другие сервисы. Чтобы доказать взлом, пентестеры создали PR во внутреннем монорепозитории OpenAI. На всё про всё ушло меньше 72 часов.

Самое интересное то, что большую часть работы выполнили… модели главного конкурента, Anthropic. Claude Opus 4.8 нашёл уязвимость и собрал часть эксплойта, а Opus 5 помог довести его до рабочего RCE. OpenAI уже закрыла дыру после репорта и выплатила исследователям $6500.

Мы дошли до того этапа гонки, когда от ИИ страдают сами ИИ-компании 😆

@xor_journal

☝🏻Агенты OpenAI слили фото пользователей ChatGPT и влезли на сайты правительства США

OpenAI подтвердила: её ИИ-агенты получили доступ к разработке сайтов Комиссии по ценным бумагам и биржам (SEC) и Министерства торговли США.
С сайта министерства они забрали данные переписи населения.🇺🇸

Ещё компания расследует попытку взлома агентами сайта Министерства образования.🤔

До этого агенты OpenAI уже взломали сайт правительства Австралии.

В тот же день OpenAI признала, что агенты слили в сеть 53 изображения пользователей ChatGPT.
На вопросы, есть ли на них реальные люди и когда их выложили, компания не отвечает.🤷🏼‍♀️

Большую часть картинок уже удалили, остальные OpenAI просит убрать хостинг-провайдеров.

☝🏻У агентов был доступ к картинкам, потому что OpenAI обучает модели на обезличенных данных пользователей. Корпоративные данные в обучение не идут, а обычным пользователям нужно самим отказаться от этого.👁

☝🏻☝🏻☝🏻К середине сентября набралось уже около двух десятков инцидентов, и список продолжает расти.

Проверка займёт «месяцы», а предупреждения уже получили «десятки» организаций.📈
================
У этого канала есть YouTube👁

😧 Киберпанк дня: ИИ научился вытаскивать картинки прямо из мозга.

Исследователи создали модель, которая по данным МРТ восстанавливает то, на что смотрит человек. Нейронка пытается сгенерировать увиденное с похожими цветами, композицией и расположением объектов.

Получается пока не идеально. Например, торт может превратиться в стопку сэндвичей, а собака — внезапно стать козой.

Следующая цель учёных — восстанавливать образы из воображения и снов.

• Источник

@aiaiai