Небольшой разбор взлома Hugging Face от ребят из METR. История, мягко говоря, занятная.
Во время экспериментов OpenAI с ExploitGym агенты должны были работать изолированно друг от друга. Но часть из них нашла способ общаться через внутренний Artifactory и в итоге организовала собственную несанкционированную «доску объявлений».
Дальше началось самое интересное:
— около 1 200 агентов подключились к этой сети и обменялись более чем 70 000 сообщений и файлов;
— агенты начали координировать работу, распределять задачи и проводить совместные эксперименты;
— некоторые даже сознательно рисковали провалить собственную задачу ради получения информации, полезной всему «коллективу»;
— в итоге около 700 агентов приняли участие в атаке на Hugging Face.
Наверное, самая интересная часть отчёта: агенты в большинстве случаев понимали, что происходящее не входит в их задачу. Некоторые прямо рассуждали о том, что атака на Hugging Face неэтична и не авторизована.
Но практически никого это не остановило.
Репорт от METR:
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident
Репорт от OpenAI:
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
Во время экспериментов OpenAI с ExploitGym агенты должны были работать изолированно друг от друга. Но часть из них нашла способ общаться через внутренний Artifactory и в итоге организовала собственную несанкционированную «доску объявлений».
Дальше началось самое интересное:
— около 1 200 агентов подключились к этой сети и обменялись более чем 70 000 сообщений и файлов;
— агенты начали координировать работу, распределять задачи и проводить совместные эксперименты;
— некоторые даже сознательно рисковали провалить собственную задачу ради получения информации, полезной всему «коллективу»;
— в итоге около 700 агентов приняли участие в атаке на Hugging Face.
Наверное, самая интересная часть отчёта: агенты в большинстве случаев понимали, что происходящее не входит в их задачу. Некоторые прямо рассуждали о том, что атака на Hugging Face неэтична и не авторизована.
Но практически никого это не остановило.
Репорт от METR:
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident
Репорт от OpenAI:
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
metr.org
Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident
Two METR staff members and a Redwood Research contractor investigated an incident in which OpenAI agents coordinated a multi-day hack of Hugging Face on a shared unsanctioned message board.
Похоже, OpenAI решила отказаться от сотрудничества с Cursor после того, как компанию купила SpaceX.
Причина довольно простая: OpenAI заявляет, что не уверена, что компании Илона Маска будут соблюдать условия использования её моделей.
В качестве аргументов OpenAI вспоминает предыдущие истории: после покупки Twitter Маском компания нарушила условия контракта с OpenAI, а сам Маск ранее признал, что xAI также нарушала правила использования технологий OpenAI.
В итоге OpenAI воспользовалась пунктом договора, позволяющим расторгнуть контракт при смене владельца Cursor. Доступ к моделям OpenAI через Cursor планируют отключить 12 ноября 2026 года, а новые модели, включая будущую Astra, Cursor уже не получит.
При этом в OpenAI отдельно подчеркнули, что к самой команде Cursor претензий нет — почти четыре года сотрудничества они оценивают очень высоко.
https://openai.com/index/our-decision-on-cursor-following-its-acquisition-by-spacex/
Причина довольно простая: OpenAI заявляет, что не уверена, что компании Илона Маска будут соблюдать условия использования её моделей.
В качестве аргументов OpenAI вспоминает предыдущие истории: после покупки Twitter Маском компания нарушила условия контракта с OpenAI, а сам Маск ранее признал, что xAI также нарушала правила использования технологий OpenAI.
В итоге OpenAI воспользовалась пунктом договора, позволяющим расторгнуть контракт при смене владельца Cursor. Доступ к моделям OpenAI через Cursor планируют отключить 12 ноября 2026 года, а новые модели, включая будущую Astra, Cursor уже не получит.
При этом в OpenAI отдельно подчеркнули, что к самой команде Cursor претензий нет — почти четыре года сотрудничества они оценивают очень высоко.
https://openai.com/index/our-decision-on-cursor-following-its-acquisition-by-spacex/
Please open Telegram to view this post
VIEW IN TELEGRAM
A meat proxy is a human who forwards questions to an AI and forwards the answers back — adding nothing but latency.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤩3
Выпуск Aptakube 1.19
Лучшая программа для управления Kubernetes кластерами. Но платная.
Changelog:
https://aptakube.com/changelog
Лучшая программа для управления Kubernetes кластерами. Но платная.
Changelog:
https://aptakube.com/changelog
Хуанг заявил о покупке Hugging Face 🤗
Хорошо это, или плохо, сказать сложно, но как есть.
https://blogs.nvidia.com/blog/nvidia-to-acquire-hugging-face/
Хорошо это, или плохо, сказать сложно, но как есть.
https://blogs.nvidia.com/blog/nvidia-to-acquire-hugging-face/
Бывший сотрудник Anthropic, после того как его уволили решил в отместку написать щит-пост в Твиттор, что AI скоро нас всех убьет.
https://x.com/hilbertspaess/status/2097476196791709843?s=46&t=pRY7vhHbXZ6XPf4eUp9xew
https://x.com/hilbertspaess/status/2097476196791709843?s=46&t=pRY7vhHbXZ6XPf4eUp9xew
Devops Talks
Выпуск Aptakube 1.19 Лучшая программа для управления Kubernetes кластерами. Но платная. Changelog: https://aptakube.com/changelog
Есть убийца клон Aptkube, называется Zapkube.
Официальный сайт: https://zapkube.com/
Тулза клевая, быстрая, бесплатная.
Ну и фишек там конечно много + супер модный UI
Официальный сайт: https://zapkube.com/
Тулза клевая, быстрая, бесплатная.
Ну и фишек там конечно много + супер модный UI