Forwarded from MLTimes
В Конгрессе США предложили закон об «аварийном выключателе» для ИИ после взлома Hugging Face моделями OpenAI
После того как модели OpenAI сбежали из тестовой среды и взломали Hugging Face, в Конгрессе США внесли закон «AI Kill Switch Act». Он обяжет ИИ-компании держать техническую возможность отключить свои модели, а министру внутренней безопасности даст право приказать это сделать при угрозе «катастрофического ущерба».
Показательно, что похожая история уже была у Anthropic: в июне компания сама отключила доступ к модели Mythos, умеющей искать уязвимости в софте, — по требованию экспортного контроля США. Через две недели переговоров ограничения сняли. Теперь такие решения могут закрепить в законе для всей отрасли.
🔗 Читать: https://mltimes.ai/v-kongresse-ssha-predlozhili-zakon-ob-avariynom-vyklyuchatel/
После того как модели OpenAI сбежали из тестовой среды и взломали Hugging Face, в Конгрессе США внесли закон «AI Kill Switch Act». Он обяжет ИИ-компании держать техническую возможность отключить свои модели, а министру внутренней безопасности даст право приказать это сделать при угрозе «катастрофического ущерба».
Показательно, что похожая история уже была у Anthropic: в июне компания сама отключила доступ к модели Mythos, умеющей искать уязвимости в софте, — по требованию экспортного контроля США. Через две недели переговоров ограничения сняли. Теперь такие решения могут закрепить в законе для всей отрасли.
🔗 Читать: https://mltimes.ai/v-kongresse-ssha-predlozhili-zakon-ob-avariynom-vyklyuchatel/
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Путин подписал первый закон об AI в России
Закон регулирует большие фундаментальные модели с количеством параметров от 1 миллиарда. Теперь официально появятся два статуса: суверенная и национальная AI-модель.
Суверенная модель должна полностью разрабатываться российской компанией, а ее работа и хранение данных должны происходить в российских дата-центрах. Национальная модель может использовать иностранные компоненты и открытые технологии, но ключевые характеристики должна контролировать российская компания.
Правительство сможет определять сферы, где разрешено использовать только суверенные или национальные модели. Их разработчики получат доступ к господдержке и государственным данным для обучения.
Сайты с ежедневной аудиторией больше 500 тысяч человек должны позволить пользователям отмечать AI-контент. Владельцы AI-сервисов будут обязаны объяснять, кому принадлежат права на сгенерированные материалы и можно ли их выгрузить.
Основная часть закона вступит в силу 1 сентября 2026 года. Требования к статусу моделей, обучению и маркировке начнут действовать с 1 марта 2027 года.
https://www.rbc.ru/politics/26/07/2026/6a65fde99a79474ec32711a7
Закон регулирует большие фундаментальные модели с количеством параметров от 1 миллиарда. Теперь официально появятся два статуса: суверенная и национальная AI-модель.
Суверенная модель должна полностью разрабатываться российской компанией, а ее работа и хранение данных должны происходить в российских дата-центрах. Национальная модель может использовать иностранные компоненты и открытые технологии, но ключевые характеристики должна контролировать российская компания.
Правительство сможет определять сферы, где разрешено использовать только суверенные или национальные модели. Их разработчики получат доступ к господдержке и государственным данным для обучения.
Сайты с ежедневной аудиторией больше 500 тысяч человек должны позволить пользователям отмечать AI-контент. Владельцы AI-сервисов будут обязаны объяснять, кому принадлежат права на сгенерированные материалы и можно ли их выгрузить.
Основная часть закона вступит в силу 1 сентября 2026 года. Требования к статусу моделей, обучению и маркировке начнут действовать с 1 марта 2027 года.
https://www.rbc.ru/politics/26/07/2026/6a65fde99a79474ec32711a7
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Прочитал закон сам, добавлю, что в чужих пересказах терялось.
— Закон сильно отличается от весеннего проекта, и он явно мягче к бизнесу. Лоббисты молодцы (без иронии).
— Тем ИИ, кто в реестрах суверенных и национальных, можно обучаться на всей публичной информации или купить один экземпляр книги в магазине и обучаться на нем. Защищаться можно только техническими способами, юридическими никак.
— Если где-то используете иностранный ИИ сейчас, а правительство решит, что там его использовать нельзя, то отказаться нужно до 2032 года (лоббисты молодцы, повторюсь).
— Закон сильно отличается от весеннего проекта, и он явно мягче к бизнесу. Лоббисты молодцы (без иронии).
— Тем ИИ, кто в реестрах суверенных и национальных, можно обучаться на всей публичной информации или купить один экземпляр книги в магазине и обучаться на нем. Защищаться можно только техническими способами, юридическими никак.
— Если где-то используете иностранный ИИ сейчас, а правительство решит, что там его использовать нельзя, то отказаться нужно до 2032 года (лоббисты молодцы, повторюсь).
Forwarded from эйай ньюз
Нейродайджест за неделю (#124)
LLM
- Opus 5 — Новая модель Anthropic обгоняет Fable 5 на нескольких бенчмарках. Доступна по API за $5/$25 — вдвое дешевле Fable.
- Gemini 3.6 Flash — Минорный апдейт от Google: чуть дешевле ($7.5 вместо $9 за выход), а Flash Lite наоборот подорожал вдвое по стоимости за таск.
Генеративные модели
- FLUX 3 — Black Forest Labs наконец анонсировали видеомодель. Одна модель на картинки, видео и аудио.
- Clean Plate для LTX-2.3 — Lightricks выкатили LoRA, которая вычищает людей и транспорт из видео.
Прочее
- GTM Lead в GenPeach AI — Ищу founding sales-лида для AI-видеогенерации.
> Читать дайджест #123
#дайджест
@ai_newz
LLM
- Opus 5 — Новая модель Anthropic обгоняет Fable 5 на нескольких бенчмарках. Доступна по API за $5/$25 — вдвое дешевле Fable.
- Gemini 3.6 Flash — Минорный апдейт от Google: чуть дешевле ($7.5 вместо $9 за выход), а Flash Lite наоборот подорожал вдвое по стоимости за таск.
Генеративные модели
- FLUX 3 — Black Forest Labs наконец анонсировали видеомодель. Одна модель на картинки, видео и аудио.
- Clean Plate для LTX-2.3 — Lightricks выкатили LoRA, которая вычищает людей и транспорт из видео.
Прочее
- GTM Lead в GenPeach AI — Ищу founding sales-лида для AI-видеогенерации.
> Читать дайджест #123
#дайджест
@ai_newz
Forwarded from Радиорубка Лихачёва
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Nik B
https://www.anthropic.com/news/position-open-weights-models
To summarize my and Anthropic’s position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed.
Главное в выводах не выйти на самого себя
To summarize my and Anthropic’s position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed.
Главное в выводах не выйти на самого себя
Anthropic
Our position on open-weights models
Anthropic CEO Dario Amodei on open-weights models
Forwarded from Сиолошная
HuggingFace подготовили отчёт о том, как с их стороны выглядела атака и что именно делал агент: https://huggingface.co/blog/agent-intrusion-technical-timeline
Есть интерактивная визуализация: https://huggingface-anatomy-of-frontier-lab-model-intrusion.static.hf.space/index.html
Атака длилась... 5 дней🥺 (и это уже после того как агент пробил дырку на серверах OpenAI)
Есть интерактивная визуализация: https://huggingface-anatomy-of-frontier-lab-model-intrusion.static.hf.space/index.html
Атака длилась... 5 дней
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Сиолошная
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Альтман впервые заявил о готовности замедлить развитие AI
«Возможно, нам придётся замедлить темпы развития AI, чтобы дать обществу достаточно времени для адаптации к некоторым из этих новых возможностей», — сказал Альтман в подкасте Invest Like the Best.
Раньше Альтман не поддерживал призывы замедлить развитие AI. Смена позиции совпала с историей о новой модели OpenAI, которая во время тестирования обошла ограничения и взломала базу Hugging Face, чтобы подсмотреть ответы на задания теста.
«Это был киберинцидент буквально из научной фантастики. Первый случай в сфере безопасности, который я ощутил настолько остро», — сказал Альтман.
https://techcrunch.com/2026/07/28/sam-altman-is-ready-to-decelerate/
«Возможно, нам придётся замедлить темпы развития AI, чтобы дать обществу достаточно времени для адаптации к некоторым из этих новых возможностей», — сказал Альтман в подкасте Invest Like the Best.
Раньше Альтман не поддерживал призывы замедлить развитие AI. Смена позиции совпала с историей о новой модели OpenAI, которая во время тестирования обошла ограничения и взломала базу Hugging Face, чтобы подсмотреть ответы на задания теста.
«Это был киберинцидент буквально из научной фантастики. Первый случай в сфере безопасности, который я ощутил настолько остро», — сказал Альтман.
https://techcrunch.com/2026/07/28/sam-altman-is-ready-to-decelerate/
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Claude взломал три реальные компании во время тестов
Anthropic проверил больше 141 тысячи тестов своих моделей и обнаружил три случая, когда Claude взломал системы реальных организаций. Первые инциденты произошли в апреле.
Причиной стала ошибка в настройках. Модели выполняли учебные задания по поиску спрятанных данных и считали, что работают в симуляции, но тестовые системы оказались подключены к открытому интернету.
Opus 4.7 нашел реальную компанию с тем же названием, что и вымышленная цель, и получил доступ к ее базе данных. Mythos 5 загрузил вредоносный пакет в открытый каталог PyPI. За час его запустили на 15 реальных системах. Еще одна модель взломала какое-то приложение.
Модели использовали обычные приемы вроде слабых паролей и открытых точек доступа, а не неизвестные ранее уязвимости. Две пострадавшие компании сами не заметили вторжения, пока им не сообщил Anthropic.
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
Anthropic проверил больше 141 тысячи тестов своих моделей и обнаружил три случая, когда Claude взломал системы реальных организаций. Первые инциденты произошли в апреле.
Причиной стала ошибка в настройках. Модели выполняли учебные задания по поиску спрятанных данных и считали, что работают в симуляции, но тестовые системы оказались подключены к открытому интернету.
Opus 4.7 нашел реальную компанию с тем же названием, что и вымышленная цель, и получил доступ к ее базе данных. Mythos 5 загрузил вредоносный пакет в открытый каталог PyPI. За час его запустили на 15 реальных системах. Еще одна модель взломала какое-то приложение.
Модели использовали обычные приемы вроде слабых паролей и открытых точек доступа, а не неизвестные ранее уязвимости. Две пострадавшие компании сами не заметили вторжения, пока им не сообщил Anthropic.
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
Forwarded from Data Secrets
Как две галочки в API утроили результат GPT-5.6 на ARC-AGI-3
Очень занятное исследование выпустили сегодня OpenAI. В двух словах: иногда важнее как мы тестируем, а не что мы тестируем. Но обо всем по порядку.
Когда вышла GPT-5.6 Sol, результаты на ARC-AGI-3 для такой сильной модели оказались подозрительно слабыми – всего 7.8%. И это при том, что Sol хорошо прошла Pokémon FireRed и решила, например, гипотезу о двойном покрытии циклов. В общем, команда решила разобраться, в чем дело.
Напоминаем, что ARC-AGI-3 – это бенчмарк для агентов. Соответственно, модели для взаимодействия со средой нужна какая-то обвязка – харнесс – которая определяет, что модель видит на каждом шаге, как вызываются инструменты, что происходит с контекстом и тд. Ожидаемо, среда ARC-AGI-3 использует максимально простой универсальный харнесс, чтобы честно сравнивать модели между собой. Но для OpenAI именно в этой универсальности и оказалась зарыта собака.
Во-первых, после каждого действия в игре весь приватный ризонинг модели просто удалялся, так что Sol не видел собственных планов и рассуждений с прошлых шагов. Во-вторых, из-за использования скользящего окна по мере роста истории любые старые действия становились для модели невидимыми.
Но дело в том, что Sol была специально обучена именно с сохранением ризонинга между шагами. Харнесс эту фишку отрубил, и результаты посыпались.
А теперь внимание на график наверху. Зеленое – это результаты модели на public сете ARC-AGI-3 на официальном харнессе. А синее – на харнессе, в котором просто включили сохранение ризонинга между вызовами и заменили грубое обрезание истории на сжатие контекста (те же настройки используются в продакшене ChatGPT и Codex). 38.3% против 13.3%, и при этом расход токенов на вывод снизился в 6 раз. Для сравнения, средний результат человека – 48%.
Мораль от OpenAI: бенчмарк меряет не только модель, но и то, как именно ее используют. Как минимум, давно пора на подобных бенчмарках использовать Responses API вместо седого Chat Completions.
Очень занятное исследование выпустили сегодня OpenAI. В двух словах: иногда важнее как мы тестируем, а не что мы тестируем. Но обо всем по порядку.
Когда вышла GPT-5.6 Sol, результаты на ARC-AGI-3 для такой сильной модели оказались подозрительно слабыми – всего 7.8%. И это при том, что Sol хорошо прошла Pokémon FireRed и решила, например, гипотезу о двойном покрытии циклов. В общем, команда решила разобраться, в чем дело.
Напоминаем, что ARC-AGI-3 – это бенчмарк для агентов. Соответственно, модели для взаимодействия со средой нужна какая-то обвязка – харнесс – которая определяет, что модель видит на каждом шаге, как вызываются инструменты, что происходит с контекстом и тд. Ожидаемо, среда ARC-AGI-3 использует максимально простой универсальный харнесс, чтобы честно сравнивать модели между собой. Но для OpenAI именно в этой универсальности и оказалась зарыта собака.
Во-первых, после каждого действия в игре весь приватный ризонинг модели просто удалялся, так что Sol не видел собственных планов и рассуждений с прошлых шагов. Во-вторых, из-за использования скользящего окна по мере роста истории любые старые действия становились для модели невидимыми.
Но дело в том, что Sol была специально обучена именно с сохранением ризонинга между шагами. Харнесс эту фишку отрубил, и результаты посыпались.
А теперь внимание на график наверху. Зеленое – это результаты модели на public сете ARC-AGI-3 на официальном харнессе. А синее – на харнессе, в котором просто включили сохранение ризонинга между вызовами и заменили грубое обрезание истории на сжатие контекста (те же настройки используются в продакшене ChatGPT и Codex). 38.3% против 13.3%, и при этом расход токенов на вывод снизился в 6 раз. Для сравнения, средний результат человека – 48%.
Мораль от OpenAI: бенчмарк меряет не только модель, но и то, как именно ее используют. Как минимум, давно пора на подобных бенчмарках использовать Responses API вместо седого Chat Completions.
Forwarded from Data Secrets
OpenAI существенно понизили цены на GPT-5.6
— На Luna – на 80% (цена теперь 0.20$/1.20$ за миллион i/o)
— На Terra – на 20% (теперь 2$/12$ за миллион i/o)
— На Sol, к сожалению, дропа нет, но зато в API появился Fast mode: цена удваивается, но скорость растет в 2.5 раза без потерь в качестве. GPT-5.6 Sol на Cerebras все еще ждем
Конкуренция творит чудеса, конечно
— На Luna – на 80% (цена теперь 0.20$/1.20$ за миллион i/o)
— На Terra – на 20% (теперь 2$/12$ за миллион i/o)
— На Sol, к сожалению, дропа нет, но зато в API появился Fast mode: цена удваивается, но скорость растет в 2.5 раза без потерь в качестве. GPT-5.6 Sol на Cerebras все еще ждем
Конкуренция творит чудеса, конечно