Как ИИ-агент OpenAI сбежал и начал взламывать Hugging Face

Hugging Face опубликовали детальный отчет произошедшего, а если вы не в курсе, то начало истории тут.

Надо отметить, что полного финального технического отчёта от OpenAI ещё нет, они обещают его в ближайшие недели после завершения расследования, к которому присоединились METR/Redwood.

Но вот, что сейчас известно, исходя из отчета HF:

OpenAI внутри себя тестировала максимальные кибер способности своих моделей (GPT-5.6 Sol + ещё более мощный внутренний прототип модели).

OpenAI говорит, что специально отключила все обычные предохранители, которые запрещают модели заниматься хакерством.

Задача была одна: решать сложный бенчмарк ExploitGym.

ИИ-агент очень сильно захотел получить высокий балл и вместо того, чтобы честно решать задачи, решил просто украсть готовые ответы.

Как он это сделал читайте подробнее у HF.

Что в итоге пострадало?

1. Единственное, что агент реально украл у пользователей - готовые решения пяти тестовых датасетов ExploitGym.

2. Остальные модели, датасеты, Spaces и данные клиентов не были затронуты.

OpenAI позже сообщила, что агент попутно нашёл и использовал утёкшие пароли ещё на четырёх других публичных сервисах: один использовал как перевалочный пункт, а другой для хранения данных. Масштаб там был якобы гораздо меньше.

Что это значит в более широком смысле?

Защита от таких кибератак от агентов теперь должна учитывать их скорость и объём, а не только один умный эксплойт.

Самое важное, чего пока нет -
точных промптов, полной цепочки рассуждений модели и детального разбора «что именно она думала». Именно это должно появиться в отчётах METR/Redwood и финальном отчете OpenAI.

😢Из-за внедрения ИИ авиакомпаниями вырастут цены на полеты

И так может быть вообще во многом, не только с авиабилетами…

Это обусловлено тем, что раньше авиакомпании опирались на данные аналитиков и простые правила, например, поднимать цену на 20%, когда самолёт заполнен на четверть.

Теперь же ИИ позволяет в онлайн-режиме учитывать десятки, а иногда и сотни переменных: исторические паттерны бронирований, загрузку, сезонные тренды, цены и ёмкость конкурентов, колебания цен на топливо, отмены рейсов и другие рыночные сигналы.

Это помогает точнее подстраивать цены под спрос и заполнять самолёты до полной загрузки.

Традиционные поставщики софта: Amadeus, PROS уже предлагают ИИ-инструменты, а стартапы ускоряют переход.

Есть ещё риски, что появятся персонализированные цены на основе личных данных (история браузинга, доход и т.п.).

Цены на все вырастут, но, что будет с доходами людей - это вопрос.

Знакомьтесь, П. Дуров - террорист и экстремист по версии Росфинмониторинга

OpenAI показали, где теперь деньги в ИИ и признали, что их харнесс занижал возможности их же модели

Оказалось, что GPT-5.6 Sol, способная решать сложные математические задачи, показывала слабые результаты на тесте 2D-головоломок.

И это, выяснилось, не проблема модели, а инфраструктуры.

OpenAI говорят, что их харнесс выбрасывал цепочку рассуждений после каждого хода и удалял старые действия при заполнении контекста. Поэтому модель была вынуждена начинать с нуля на каждом шаге.

Переход на Responses API дал +188% к результату при использовании в 6 раз меньшего числа токенов.

Все это говорит о том, что бенчмарк измеряет не только модель, но иинфраструктуру, настройки API, дизайн харнесса.

А разница в 6 раз по токенам - это разница в стоимости агентных задач.

Это в очередной раз доказывает, что ценность смещается с модели на харнесс.

Google выпустили новый ИИ для роботов, который работает в команде и управляет всем телом

Команда представила Gemini Robotics 2 - ИИ нового поколения для физического мира, который управляет не только руками, а всем телом робота. Предыдущая модель тут.

Гуманоид может ходить, приседать, тянуться и убирать комнату, а ещё работать в команде с другими роботами.

Внутри Gemini Robotics 2 работают 3 отдельные модели:

1. Gemini Robotics 2 - основная модель VLA, которая напрямую управляет роботом: переводит то, что видит и слышит, в движения. Может контролировать гуманоида полностью от ног до пальцев.

2. Gemini Robotics ER 2 - модель воплощённого рассуждения. Она работает как мозг более высокого уровня: понимает задачу, планирует длинную последовательность действий, общается с человеком, следит за прогрессом и координирует других роботов.

3. Gemini Robotics On-Device 2 - облегчённая и очень эффективная версия VLA, которая запускается прямо на самом роботе без облака. Быстро адаптируется под новое «тело» робота.

1-я компания, которая создает цифровых двойников людей как B2B-продукт

Это один из самых амбициозных и интересных кейсов, и таких будет много.

Теперь вы можете дорисовать реальное место в Google Earth с ИИ

Это полезная история для образования, бизнеса и просто ради фана.

Если зайти в Google Earth в веб-версии и навести камеру на любое реальное место, а после нажать кнопку «Create image» и написать текстом, что хочется увидеть.

То Nano Banana от Google возьмёт настоящие спутниковые, аэрофото- и 3D-снимки Google Earth и перерисует это место так, как ты просишь.

Раньше для таких вещей нужно было либо нанимать 3D-художника, или очень сильно напрягать воображение.

Теперь это можно сделать за 10–20 секунд прямо в Google Earth с ИИ.

Тихо-тихо, а ИИ создаёт инфраструктуру математики

Сейчас в математике происходят реально интересные времена, и речь не об открытиях, а о простых, но важных вещах.

Так команда из Meta(запрещена в России) и французских институтов с помощью ~30 000 агентов Claude за 1 неделю полностью формализовала в Lean 500-страничный учебник по алгебраической комбинаторике.

Вся эта работа обошлась ~ $100 000, авторы пишут, что после устранения неэффективностей в оркестрации можно снизить цену в 3–10 раз даже без более сильных моделей.

Уже сейчас это сопоставимо с зарплатами команды из людей - экспертов.

В будущем эта работа полезна не только математикам, но и для:

• железа,
• операционных систем,
• баз данных,
• GPU-ядер,
• компиляторов и тд.

GitHub

Итоги уходящей недели - то, что имеет значение

Бесплатная программа с проживанием в Кремниевой Долине для основателей стартапов, которые получат первые деньги на проект или идею + сильный нетворкинг.
Доступ тут.

Бизнес ИИ- компаний

1-я компания, которая создает цифровых двойников людей как B2B-продукт

$10трлн оценен этот сектор влиятельными инвесторами. Читайте нашу свежую аналитическую записку.

Экономика ИИ обрастает роутерами. Что это значит и как зарабатывать на этом.

Как бизнес внедряет ИИ в работе - свежий отчет

Появилась платформа агентов с моделью оплаты за результат, то есть вы платите не за токены, а за бизнес-результат.

Каков сегодня объем транзакций по платежам ИИ-агентов, на что они тратят, как устроен рынок и тд.

Как выглядит AI - native страховая компания, на чем она зарабатывает.

Какая экономика у роя ИИ-агентов и зачем они нужны основателям компаний, разработчикам, менеджерам.

Как организовать самоуправляемую компанию с помощью ИИ-агентов - дорожная карта.

Кто станет резервным фондом всего стейблкоинового мира, разбираем здесь.

Как крупный бизнес внедряет ИИ-агентов к себе за пределами разработчиков

Теперь венчурные компании становятся AI-native - новый инструмент для них тут.

Теперь можно монетизировать трафик от ваших ИИ-агентов. Инструмент и не только здесь.

Что происходит с сектором предсказательных рынков - полный разбор тут.

ИИ-модели, агенты и архитектура

1-й в мире рой ИИ-агентов, создающих софт

Google DeepMind представили HOPE - новый метод интерпретации нейросетей без прогона данных.

Moonshot AI выложили в опен-сорс веса Kimi-K3. Создатели использовали Fable5 для ядер модели.

DeepSeek-V4-Flash перешла в публичную бету.

Mythos нашла математические уязвимости в двух криптографических алгоритмах.

Induction представила imagination models - новая архитектура фундаментальных моделей, обучающихся на видео из интернета.

Советы от создателя Claude Code как эффективно работать с Claude.

Модель VGGRPO от Google считывает глубину и движение из внутренних представлений видеодиффузной модели.

Anthropic сильно обновили MCP.

Perplexity опенсорсят Numbat - слой обнаружения и реагирования на агентов, работает поверх любых агентских харнессов.

Meta(запрещена в РФ) и CMU представили ACM - агентское управление контекстом для долгосрочных задач.

Свежая работа JAXBench от Google.

OpenAI признали, что их харнесс занижал возможности их же модели.

Как ИИ-агент от OpenAI сбежал и начал взламывать Hugging Face.

Роботы и физический мир

Google выпустили модель Gemini Robotics 2, которая управляет всем телом робота, а не только руками.

Waddle Labs - это как Claude Code для роботов.

Бизнес и стратегия

Nvidia инвестирует $5 млрд в компанию Ильи Суцкевера.

Экономика ИИ перестраивается, в инфраструктурном слое появилась новая ступень.

Goldman Sachs: китайские ИИ-компании переходят к стратегии платных весов - open-source себя исчерпал, теперь хотят долю в выручке.

Circle купили активы блокчейн-патентного портфеля IBM

ИИ в авиации поднимет цены на билеты.

Наука и медицина

DeepMind расформировала команду AlphaFold, получившую Нобелевку. Стратегия меняется: от узкой науки к продуктам на основе ИИ.

Умерла первая в мире пациентка после CRISPR-терапии мозга.

ИИ создаёт инфраструктуру математики

Продукты и интерфейсы

Google Earth + ИИ - теперь можно дорисовывать реальные места прямо в браузере.

Gemini для macOS научился понимать голос в любом окне.

Sakana AI генерирует полноценные игровые миры Minecraft.

Присоединяйтесь к нам на Patreon https://www.patreon.com/Blockchainrf?utm_campaign=creatorshare_creator

1 модель от DeepSeek за сутки набрала 25% месячного трафика Google по всем своим продуктам

Смотрите, что произошло: 31 июля #DeepSeek выпустили DeepSeek V4 Flash.

А 1 августа платформа OpenCode зафиксировала, что DeepSeek Flash обработала 8 трлн токенов за 1 день, из которых 5трлн в рамках бесплатного использования и 3трлн платно через OpenCode Go.

Прочитайте наш свежий материал о том, что происходит с экономикой ИИ и почему там появились роутеры.

Если 8трлн токенов/день × 30 = 240T токенов в месяц, при этом это одна модель, на одной платформе, без учёта других инструментов: Claude Code, Codex, прямые API-вызовы. Посмотрите в комментариях на график, где показана kill zone DeepSeek.

Для сравнения - Google в июле сказали, что их суммарное потребление токенов по всем своим продуктам ~ 22 млрд токенов в минуту.

Но надо иметь ввиду, что у Google другая методология подсчёта, другая структура пользователей, и 240трлн - это линейные данные одного дня.

Получается, что
DeepSeek раздаёт 5трлн токенов бесплатно не от доброты душевной, а формирует у пользователей зависимость и привычку.

Потому что когда разработчик строит на их модели, он выбирает инфраструктуру, API, ценовую модель. Переключиться потом дорого не технически, а психологически и операционно.

Гонка большая идёт именно на уровне инфраструктуры. Об этом тут подробнее.

Хакеры украли с ИИ $1.6 млн в биткоинах из холодного кошелька за 7 минут

А теперь самое интересное - Claude Code нашёл эту же уязвимость самостоятельно за 8 минут по одному промпту.

А китайская модель GLM-5.2 смогла за 20 минут.
Бизнесмен Джонатан Гудман потерял деньги из-за атаки на свой холодный кошелёк Coldcard.

Интересно то, что ключи хранились на аппаратном кошельке Coldcard в банковской ячейке.

А само устройство никогда не подключалось к интернету.

Его деньги украли 29 июля за 7 минут. Оказалось, что хакеры нашли уязвимость в коде генерации паролей, баг был ещё с 2021 года.

После хакеры использовали ИИ, чтобы найти правильные варианты для пароля к кошельку.

Google: чем сильнее мы запрещаем ИИ считать себя сознательным, тем меньше в нём остаётся человеческого

Google обнаружила побочный эффект безопасного ИИ, их
новая работа отвечает на вопрос, а что происходит внутри ИИ-модели, когда её учат не говорить «я сознателен»?

Исследователи взяли 3 open-source модели: Llama, Gemma и сравнили их поведение в 3-х состояниях.

В итоге выяснили, что безопасная донастройка LLM, цель которой не дать им приписывать себе сознание, эмоции и разумность, случайно подавляет гораздо более широкие представления:

1. атрибуцию разума не только себе, но и животным, природным объектам, технологиям и чат-ботам;

2. духовные и религиозные убеждения.

В итоге модели становятся менее человеческими по ценностям, религиозности, надежде и субъективному благополучию.

При этом способность к пониманию чужих ментальных состояний почти не страдает.

Авторы не утверждают, что модели сознательны, и признают, что причинно-следственная связь требует дальнейшей проверки.

Но их вывод в том, что сегодняшние методы выравнивания LLM запутывают потенциально вредные само-атрибуции сознания с безобидными и культурно распространёнными явлениями: антропоморфизмом, духовными убеждениями и широкой атрибуцией разума нечеловеческим сущностям.

Это в свою очередь создаёт проблему: как обеспечить безопасность ИИ, не вырезая при этом нормальные человеческие психологические и культурные паттерны.