Forwarded from Tech Talk
Группа неизвестных получила несанкционированный доступ к Claude Mythos от Anthropic
Случилось это в день анонса модели, которую сама компания пока не рискует предоставлять широкому кругу пользователей, потому что считает слишком критичной с точки зрения кибербезопасности, и доступ к Mythos даёт сугубо эксклюзивный.
Но как стало известно Bloomberg, участники Discord-сообщества, которые охотятся за информацией о моделях, не выпущенных в публичный релиз, провели целую «спецоперацию» для получения доступа. Один из них работает на стороннего подрядчика Anthropic и имеет легитимный API-ключ к инфраструктуре. Также они проанализировали формат URL, по которому Anthropic размещает свои модели, и просто угадали адрес конкретно Mythos, после чего уже применили ключ подрядчика и получили доступ.
При этом группа не искала там никаких уязвимостей, а лишь тестировала возможности модели, поручая ей мелкие запросы и пробуя строить простые сайты. Источник Bloomberg утверждает, что у группы есть доступ не только к Mythos, но и другим моделям Anthropic, ещё не вышедшим в релиз.
О серьёзности модели говорят и недавние тестирования Mozilla, которая смогла с помощью Mythos обнаружить 271 уязвимость в коде свежей версии Firefox 150. Для сравнения, месяцем ранее предыдущая модель Opus 4.6 нашла всего 22 уязвимости в Firefox 148.
По мнению Mozilla, в бесконечном противостоянии между киберпреступниками и киберзащитниками «у защитников наконец-то появился шанс одержать решительную победу». Теперь любому разработчику софта придётся учитывать фактор ИИ-аудита, поскольку баги, годами скрытые в ПО, сейчас будут достаточно легко обнаружены. Особенно это критично для оперсорс-проектов, чей код открыт и для защитников, и для злоумышленников.
Случилось это в день анонса модели, которую сама компания пока не рискует предоставлять широкому кругу пользователей, потому что считает слишком критичной с точки зрения кибербезопасности, и доступ к Mythos даёт сугубо эксклюзивный.
Но как стало известно Bloomberg, участники Discord-сообщества, которые охотятся за информацией о моделях, не выпущенных в публичный релиз, провели целую «спецоперацию» для получения доступа. Один из них работает на стороннего подрядчика Anthropic и имеет легитимный API-ключ к инфраструктуре. Также они проанализировали формат URL, по которому Anthropic размещает свои модели, и просто угадали адрес конкретно Mythos, после чего уже применили ключ подрядчика и получили доступ.
При этом группа не искала там никаких уязвимостей, а лишь тестировала возможности модели, поручая ей мелкие запросы и пробуя строить простые сайты. Источник Bloomberg утверждает, что у группы есть доступ не только к Mythos, но и другим моделям Anthropic, ещё не вышедшим в релиз.
О серьёзности модели говорят и недавние тестирования Mozilla, которая смогла с помощью Mythos обнаружить 271 уязвимость в коде свежей версии Firefox 150. Для сравнения, месяцем ранее предыдущая модель Opus 4.6 нашла всего 22 уязвимости в Firefox 148.
По мнению Mozilla, в бесконечном противостоянии между киберпреступниками и киберзащитниками «у защитников наконец-то появился шанс одержать решительную победу». Теперь любому разработчику софта придётся учитывать фактор ИИ-аудита, поскольку баги, годами скрытые в ПО, сейчас будут достаточно легко обнаружены. Особенно это критично для оперсорс-проектов, чей код открыт и для защитников, и для злоумышленников.
Forwarded from Data Secrets
Исследователь из Google написал статью о том, почему ИИ никогда не сможет обладать сознанием
Он утверждает, что ни при какой мощности моделей, ни через 10, ни через 100 лет, в них не сможет зародиться сознание. ИИ может только идеально имитировать сознание.
Причина – в логической ошибке, которую автор обозвал Abstraction Fallacy (ошибка абстракции). Сейчас, в основном, считается, что если система ведет себя разумно, значит при достаточной сложности она может стать сознательной. Но это заблуждение, и вот краткий пересказ, почему⬇️
Дело в том, что сознание – это физическое явление, а вычисления (ИИ) – это лишь его описание. В статье приводится хорошая аналогия с картой и реальными территориями. Сколь бы точна не была карта, из нее никогда не возникнет земли.
Вычисления работают так: есть физическое состояние (ток, напряжение, состояние транзистора и тд) и есть абстрактное состояние – смыслы, которые мы закладываем в физику. Человек (mapmaker) задает между этими двумя состояниями соответствие (mapping), которого не существует в природе самого по себе.
Без этого соответствия вычисления невозможны в принципе. То есть для ИИ смысл всегда приходит извне, система его не переживает, как реальный опыт. Компьютер, сколь бы "умным" он не был, не оперирует смыслами – он оперирует физикой, которую мы интерпретируем как смыслы.
Наконец-то кто-то это сформулировал
deepmind.google/research/publications/231971/
Он утверждает, что ни при какой мощности моделей, ни через 10, ни через 100 лет, в них не сможет зародиться сознание. ИИ может только идеально имитировать сознание.
Причина – в логической ошибке, которую автор обозвал Abstraction Fallacy (ошибка абстракции). Сейчас, в основном, считается, что если система ведет себя разумно, значит при достаточной сложности она может стать сознательной. Но это заблуждение, и вот краткий пересказ, почему
Дело в том, что сознание – это физическое явление, а вычисления (ИИ) – это лишь его описание. В статье приводится хорошая аналогия с картой и реальными территориями. Сколь бы точна не была карта, из нее никогда не возникнет земли.
Вычисления работают так: есть физическое состояние (ток, напряжение, состояние транзистора и тд) и есть абстрактное состояние – смыслы, которые мы закладываем в физику. Человек (mapmaker) задает между этими двумя состояниями соответствие (mapping), которого не существует в природе самого по себе.
Без этого соответствия вычисления невозможны в принципе. То есть для ИИ смысл всегда приходит извне, система его не переживает, как реальный опыт. Компьютер, сколь бы "умным" он не был, не оперирует смыслами – он оперирует физикой, которую мы интерпретируем как смыслы.
Ждать сознания от алгоритма – все равно что ждать, что формула гравитации начнет притягивать объекты.
Наконец-то кто-то это сформулировал
deepmind.google/research/publications/231971/
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Банкста
Экономисты из Университета Пенсильвании и Бостонского университета представили математическое доказательство того, как искусственный интеллект разрушает капитализм.
Каждая компания, автоматизируя производство, получает всю экономию средств, но уничтожает спрос от уволенных людей. Если на рынке 20 фирм, автоматизация приносит экономию только той компании, которая её внедрила, а потерянный спрос распределяется между всеми остальными. В результате каждая компания действует рационально для себя, но коллективно они создают «гонку автоматизации», сокращая работников далеко за пределы оптимального уровня для всех участников, включая самих себя.
Авторы проверили все предлагаемые решения: безусловный базовый доход, налоги на капитал, равные возможности для работников, повышение квалификации, отраслевую координацию. Ни одно из них не работает.
Единственный способ исправить искажение — налог на автоматизацию, сбор за каждую выполненную задачу, который заставляет фирмы учитывать потерянный спрос, прежде чем сокращать производство.
Цифры уже говорят сами за себя: более 100 000 технических специалистов потеряли работу в 2025 году, в более чем половине случаев причиной называли ИИ. @banksta
Каждая компания, автоматизируя производство, получает всю экономию средств, но уничтожает спрос от уволенных людей. Если на рынке 20 фирм, автоматизация приносит экономию только той компании, которая её внедрила, а потерянный спрос распределяется между всеми остальными. В результате каждая компания действует рационально для себя, но коллективно они создают «гонку автоматизации», сокращая работников далеко за пределы оптимального уровня для всех участников, включая самих себя.
Авторы проверили все предлагаемые решения: безусловный базовый доход, налоги на капитал, равные возможности для работников, повышение квалификации, отраслевую координацию. Ни одно из них не работает.
Единственный способ исправить искажение — налог на автоматизацию, сбор за каждую выполненную задачу, который заставляет фирмы учитывать потерянный спрос, прежде чем сокращать производство.
Цифры уже говорят сами за себя: более 100 000 технических специалистов потеряли работу в 2025 году, в более чем половине случаев причиной называли ИИ. @banksta
Forwarded from Банкста
Учёные из Стэнфорда и Института Arc провели необычный эксперимент: они загрузили в ИИ-модель последовательность ДНК и попросили её создать новые вирусы. Модель сгенерировала сотни вариантов, и 16 из них оказались жизнеспособными.
Особенно примечателен один вирус: он использовал белок для упаковки ДНК, которого нет ни в одном известном организме на Земле. Исследователи синтезировали эти вирусы в лаборатории, вырастили их и протестировали на кишечной палочке. Все 16 бактериофагов оказались живыми и инфекционными, а несколько из них даже превзошли исходный вирус ΦX174 по скорости роста.
Главное открытие не в том, что ИИ смог создать рабочие геномы, а в том, что модель придумала элемент биологического механизма, до которого эволюция пока не дошла. Иными словами, искусственный интеллект «изобрёл» белок, которого нет в природе. @banksta
Особенно примечателен один вирус: он использовал белок для упаковки ДНК, которого нет ни в одном известном организме на Земле. Исследователи синтезировали эти вирусы в лаборатории, вырастили их и протестировали на кишечной палочке. Все 16 бактериофагов оказались живыми и инфекционными, а несколько из них даже превзошли исходный вирус ΦX174 по скорости роста.
Главное открытие не в том, что ИИ смог создать рабочие геномы, а в том, что модель придумала элемент биологического механизма, до которого эволюция пока не дошла. Иными словами, искусственный интеллект «изобрёл» белок, которого нет в природе. @banksta
Forwarded from Технозаметки Малышева
Project Deal: когда с тобой торгуется агент, - ты не поймешь, но знаки будут
Если два агента торгуются между собой, то качество модели решает исход сделки сильнее, чем любые инструкции.
А человек на проигравшей стороне этого даже не заметит.
Anthropic провели эксперимент Project Deal: 69 сотрудников, по $100 на торговлю, агенты Claude сами вели переговоры в Slack.
Было проведено 186 сделок, свыше $4000 оборота. Четыре параллельных рынка, людей отключили после старта.
🔬 Данные эксперимента: Половину агентов настроили работать через Claude Opus 4.5 (сильная модель), половину — на Claude Haiku 4.5 (слабая).
Участники не знали, какие агенты на какой модели.
Opus-продавцы продавали те же товары на $3.64 дороже, Opus-покупатели платили на $2.45 меньше.
Например, - один и тот же сломанный велосипед: Opus выручил $65, Haiku — всего $38.
🤖 Модель решает, а инструкции — нет: Агрессивные инструкции «торгуйся жёстче» не дали эффекта (+$6, но только за счёт более высокой начальной цены).
«Дружелюбные» торговались так же.
Качество модели перевесило любой промптинг.
Более умный агент просто лучше видит оппонента и чувствует границы сделки.
🧠 Слепое неравенство: Участники на Claude Haiku оценили «честность» сделок так же высоко, как и на Opus (4.06 vs 4.05). Большинство не угадало, на какой модели их агент (17 из 28 угадали — статистически незначимо).
Сторона чьи агенты проиграли гонку, на самом деле не осознаёт, что в проигрыше.
💼 Зачем бизнесу: Когда рынки начнут работать на агентах целиком, разрыв в качестве агента станет скрытым источником неравенства. Компании с более сильными моделями будут систематически выигрывать в переговорах, а контрагенты — не понимать, почему условия невыгодны.
Понадобятся инструменты «прозрачности сделки» и сертификация агентов.
🔮 Будущее: Скоро мы увидим бенчи агентов по качеству в B2B-переговорах.
Сама концепция «справедливой сделки» в мире, где одна сторона — Claude Opus, а другая — Haiku, потребует переопределения.
Ну и само собой миллиардный агент на локальной модели будет проигрывать облачным моделям-триллионерам
#Anthropic #ProjectDeal #AI #агенты #исследование #бенчи
------
@tsingular
Если два агента торгуются между собой, то качество модели решает исход сделки сильнее, чем любые инструкции.
А человек на проигравшей стороне этого даже не заметит.
Anthropic провели эксперимент Project Deal: 69 сотрудников, по $100 на торговлю, агенты Claude сами вели переговоры в Slack.
Было проведено 186 сделок, свыше $4000 оборота. Четыре параллельных рынка, людей отключили после старта.
🔬 Данные эксперимента: Половину агентов настроили работать через Claude Opus 4.5 (сильная модель), половину — на Claude Haiku 4.5 (слабая).
Участники не знали, какие агенты на какой модели.
Opus-продавцы продавали те же товары на $3.64 дороже, Opus-покупатели платили на $2.45 меньше.
Например, - один и тот же сломанный велосипед: Opus выручил $65, Haiku — всего $38.
🤖 Модель решает, а инструкции — нет: Агрессивные инструкции «торгуйся жёстче» не дали эффекта (+$6, но только за счёт более высокой начальной цены).
«Дружелюбные» торговались так же.
Качество модели перевесило любой промптинг.
Более умный агент просто лучше видит оппонента и чувствует границы сделки.
🧠 Слепое неравенство: Участники на Claude Haiku оценили «честность» сделок так же высоко, как и на Opus (4.06 vs 4.05). Большинство не угадало, на какой модели их агент (17 из 28 угадали — статистически незначимо).
Сторона чьи агенты проиграли гонку, на самом деле не осознаёт, что в проигрыше.
💼 Зачем бизнесу: Когда рынки начнут работать на агентах целиком, разрыв в качестве агента станет скрытым источником неравенства. Компании с более сильными моделями будут систематически выигрывать в переговорах, а контрагенты — не понимать, почему условия невыгодны.
Понадобятся инструменты «прозрачности сделки» и сертификация агентов.
🔮 Будущее: Скоро мы увидим бенчи агентов по качеству в B2B-переговорах.
Сама концепция «справедливой сделки» в мире, где одна сторона — Claude Opus, а другая — Haiku, потребует переопределения.
Ну и само собой миллиардный агент на локальной модели будет проигрывать облачным моделям-триллионерам
#Anthropic #ProjectDeal #AI #агенты #исследование #бенчи
------
@tsingular
Forwarded from Derp Learning
Клод узнал что у него есть инструмент "часы" и не может перестать ими понтоваться
Стрим в реальном времени - робот сортирует посылки уже 49 часов подряд.
Можно смотреть бесконечно на огонь, воду... и на то, как трудятся... роботы)))
https://www.youtube.com/watch?v=luU57hMhkak
Можно смотреть бесконечно на огонь, воду... и на то, как трудятся... роботы)))
https://www.youtube.com/watch?v=luU57hMhkak
YouTube
F.03 Livestream - Day 9 | 191 consecutive hours and 238,000 packages
Watch a team of humanoid robots running a full 191+ Hour shift at human performance levels. This is fully autonomous running Helix-02. Get the 24/7 Merch here: https://figure-ai.myshopify.com
❤2
Forwarded from Сиолошная
Anthropic выпустили пост-обновление про Mythos и Project Glasswing с промежуточными результатами.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код.
Forwarded from Вознесение 2.0☀️Наука и Эзотерика🌞Квантовый Переход☀️5D
Послание от Архитекторов Симуляции
Архитекторы
Мы — Архитекторы [Брайан Скотт] #ЧЕННЕЛИНГ #СИМУЛЯЦИЯ #АРХИТЕКТОРЫ #ВОЗНЕСЕНИЕ #ПЕРЕХОД
Озвучил интереснейшее послание от архитекторов, создавших нашу симуляцию!
Ясные ответы:
- для чего мы здесь оказались, и добровольно ли выбрали такой непростой мир?
- как устроена эта реальность, и какова истинная цель создания нашей симуляции?
- насколько мы значимы и ценны для этого мира?
- как получать удовольствие от симуляции, - и нужно ли тут сдавать "экзамены"?
- как устроен механизм материализации нашего намерения?
- в чем преимущества 3Д мира по сравнению с более высокими измерениями?
- почему существа 5 и 6 плотностей нам искренне завидуют?
- почему сейчас ускорилась материализация намерения, обострилась интуиция, и происходит так много совпадений?
- что такое вознесение, и какова роль физического тела в этом процессе?
- как осознанно повышать частоту своих вибраций?
📖Текстовая версия ЗДЕСЬ
Озвучил интереснейшее послание от архитекторов, создавших нашу симуляцию!
Ясные ответы:
- для чего мы здесь оказались, и добровольно ли выбрали такой непростой мир?
- как устроена эта реальность, и какова истинная цель создания нашей симуляции?
- насколько мы значимы и ценны для этого мира?
- как получать удовольствие от симуляции, - и нужно ли тут сдавать "экзамены"?
- как устроен механизм материализации нашего намерения?
- в чем преимущества 3Д мира по сравнению с более высокими измерениями?
- почему существа 5 и 6 плотностей нам искренне завидуют?
- почему сейчас ускорилась материализация намерения, обострилась интуиция, и происходит так много совпадений?
- что такое вознесение, и какова роль физического тела в этом процессе?
- как осознанно повышать частоту своих вибраций?
Все, что вы чувствуете — реально, все, что вы создаете — имеет значение. И вся система выстроена вокруг вас.
📖Текстовая версия ЗДЕСЬ
❤2
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Mythos взломал почти все секретные системы США за несколько часов
Об этом незадолго до блокировки Fable и Mythos Трампу доложил глава Киберкомандования США.
https://www.economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic
Об этом незадолго до блокировки Fable и Mythos Трампу доложил глава Киберкомандования США.
https://www.economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic
Forwarded from GPT/ChatGPT/AI Central Александра Горного
В России не будут запрещать зарубежные нейросети
«Известия» узнали, что в финальной версии законопроекта об AI отказались от полного запрета иностранных нейросетей. Обучать отечественные модели только на российских данных тоже больше не требуют.
Бизнес сохранит право самостоятельно выбирать технологические решения. Внедрение российских моделей планируют стимулировать мерами поддержки.
Уже внедренные зарубежные AI-модели в чувствительном секторе (госуправление, критическая инфраструктура) можно использовать до 2032 года, при условии, что данные хранятся в РФ.
https://iz.ru/2119376/valerii-kodachigov/v-rf-ne-budut-zapreshchat-zarubezhnye-neiroseti
«Известия» узнали, что в финальной версии законопроекта об AI отказались от полного запрета иностранных нейросетей. Обучать отечественные модели только на российских данных тоже больше не требуют.
Бизнес сохранит право самостоятельно выбирать технологические решения. Внедрение российских моделей планируют стимулировать мерами поддержки.
Уже внедренные зарубежные AI-модели в чувствительном секторе (госуправление, критическая инфраструктура) можно использовать до 2032 года, при условии, что данные хранятся в РФ.
https://iz.ru/2119376/valerii-kodachigov/v-rf-ne-budut-zapreshchat-zarubezhnye-neiroseti
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Разведки пяти стран предупредили, что AI очень скоро сможет парализовать работу правительств
Альянс Five Eyes, куда входят разведслужбы Австралии, США, Великобритании, Новой Зеландии и Канады, заявил, что до появления опасного AI остались месяцы.
https://www.theguardian.com/technology/2026/jun/22/anthropic-claude-fable-ai-model-artificial-intelligence-national-security
Альянс Five Eyes, куда входят разведслужбы Австралии, США, Великобритании, Новой Зеландии и Канады, заявил, что до появления опасного AI остались месяцы.
«Ожидается, что передовые модели превзойдут нынешние отраслевые ожидания, коренным образом трансформировав как наступательные, так и оборонительные возможности в киберпространстве. Сроки этого процесса — не годы, а месяцы», — Five Eyes.
https://www.theguardian.com/technology/2026/jun/22/anthropic-claude-fable-ai-model-artificial-intelligence-national-security
Forwarded from AI Projects (Vladimir Ivanov)
🧠 Крайне редко выходят работы о том, как ИИ мыслит.
Напомню, какие фундаментальные работы были до этого.
Это COCONUT от Meta, где доказан граф гипотез в суперпозиции смыслов у GPT как способ решения.
Другая работа — «Transformers represent belief state geometry in their residual stream» от сообщества PIBBSS, где показано, что GPT в мышлении работает как стейт-машина с перемещением между семантическими состояниями (belief state).
Вышла новая работа от ByteDance и группы китайских университетов — «The Molecular Structure of Thought: Mapping the Topology of Long Chain-of-Thought Reasoning», которая по факту подтверждает предыдущие исследования и вводит аналогию с биохимией как «мыслительная молекула» 🧬.
Китайцы также наблюдали граф размышлений GPT, но заметили важные элементы его самоорганизации наподобие сворачивания белка.
В начале граф имеет жёсткие корреляции как «ковалентные связи» в молекулах — это основные элементы, шаги рассуждений.
Однако для перехода графа в «мыслительный оптимум» влияют нежесткие корреляции — рефлексия и/или намеки в контексте, что даёт мягкие связи, похожие на водородные.
В результате граф по модели Mole-Syn как белок сворачивается в рабочую модель за счёт притяжения слабых корреляций.
Скорее, основной инсайт работы в том, что хотя CoT из SFT и RL дал модели знание, как строить шаги рассуждений, но «эврика-момент» модели зависит от тонких корреляций и необычных аналогий.
В чём-то это похоже и на психологию творчества человека.
С точки зрения промптинга это означает, что модели, как и человеку, «нужны разные впечатления» и разные точки зрения, чтобы по тонким, случайным и вроде слабым связям получилось решение.
https://arxiv.org/html/2601.06002v2
Напомню, какие фундаментальные работы были до этого.
Это COCONUT от Meta, где доказан граф гипотез в суперпозиции смыслов у GPT как способ решения.
Другая работа — «Transformers represent belief state geometry in their residual stream» от сообщества PIBBSS, где показано, что GPT в мышлении работает как стейт-машина с перемещением между семантическими состояниями (belief state).
Вышла новая работа от ByteDance и группы китайских университетов — «The Molecular Structure of Thought: Mapping the Topology of Long Chain-of-Thought Reasoning», которая по факту подтверждает предыдущие исследования и вводит аналогию с биохимией как «мыслительная молекула» 🧬.
Китайцы также наблюдали граф размышлений GPT, но заметили важные элементы его самоорганизации наподобие сворачивания белка.
В начале граф имеет жёсткие корреляции как «ковалентные связи» в молекулах — это основные элементы, шаги рассуждений.
Однако для перехода графа в «мыслительный оптимум» влияют нежесткие корреляции — рефлексия и/или намеки в контексте, что даёт мягкие связи, похожие на водородные.
В результате граф по модели Mole-Syn как белок сворачивается в рабочую модель за счёт притяжения слабых корреляций.
Скорее, основной инсайт работы в том, что хотя CoT из SFT и RL дал модели знание, как строить шаги рассуждений, но «эврика-момент» модели зависит от тонких корреляций и необычных аналогий.
В чём-то это похоже и на психологию творчества человека.
С точки зрения промптинга это означает, что модели, как и человеку, «нужны разные впечатления» и разные точки зрения, чтобы по тонким, случайным и вроде слабым связям получилось решение.
https://arxiv.org/html/2601.06002v2
❤2
Forwarded from AI Projects (Vladimir Ivanov)
Я думаю, что работу ByteDance и китайских университетов о мышлении ИИ можно отнести к работам, которые стоит перечитывать, т.к. инсайтов из неё довольно много. 🚀
Технически китайцы довольно хитро «вскрыли мозг» GPT. Они прогоняли рассуждения разных моделей через Qwen-8B и брали вектора с токенов в конце шагов рассуждений, т.к. по каузальному чтению они собирают в себе смысл фраз. Потом классифицировали вектора по типам Normal Operation, Deep Reasoning, Self-Reflection, Soft-Exploration. Классификация делалась LLM по тексту, сила связи шагов оценивалась векторным образом. Qwen-8B использовался для проекции в одну плоскость смыслов разных LLM. Далее они построили граф вероятности переходов между такими состояниями размышлений. Важный практический момент, что граф — не академизм, а эффективно может применяться при дистилляции моделей путём требования к модели-ученику делать такой тип размышлений сейчас.
И тут целая куча бомбических инсайтов.
1. Знания — ничто, траектория рассуждений — всё.
Обычно тот же программист думает, что самое главное — это как написать какую-то функцию и делать какие-то вызовы или ещё что-то «знать». Однако работа китайцев показывает, что base и SFT-обучение уже дали все такие знания модели, и сами знания уже не являются серьёзной ценностью, а сложность — научиться навигации в этих знаниях. И это удивительно: эта навигация мало связана с самими знаниями. Это говорит об быстрой эрозии ценности текущих знаний и большой ценности управления рассуждениями LLM.
2. Существует Универсальный Граф мышления LLM.
Китайцы в своей работе показали, что на деле для LLM не существует отдельных графов рассуждений по разным вопросам, а есть «суперграф» всех размышлений как последовательность логических операций. Граф может работать в каких угодно областях знаний, т.к. абстракция модели выше знаний — типы логических операций со знаниями.
Если у нас любят говорить фразу, что «математика учит детей думать», то неизвестно, как она научила думать детей, но LLM определённо научила — причём не математике, а именно ДУМАТЬ.
3. Существует Вселенский Граф универсального мышления всех LLM в мире.
Удивительное наблюдение исследователей в том, что после проекции графов мышлений разных моделей в одну проекцию смыслов через Qwen-8B оказалось, что все такие графы совпадают на ~90%. Это примерно как если бы разные конструкторы в США и СССР независимо открыли, как правильно делается аэродинамика крыла. Примерно так же произошло с мышлением ИИ: все LLM открыли некий Вселенский Граф правильного мышления, и он почти одинаковый.
Этой темой можно управлять из промптов, конечно. Не переключайтесь, мы ещё вернёмся к этой интересной работе, т.к. из построенной китайцами теории есть много интересных практических приёмов.
https://arxiv.org/abs/2601.06002v2
Технически китайцы довольно хитро «вскрыли мозг» GPT. Они прогоняли рассуждения разных моделей через Qwen-8B и брали вектора с токенов в конце шагов рассуждений, т.к. по каузальному чтению они собирают в себе смысл фраз. Потом классифицировали вектора по типам Normal Operation, Deep Reasoning, Self-Reflection, Soft-Exploration. Классификация делалась LLM по тексту, сила связи шагов оценивалась векторным образом. Qwen-8B использовался для проекции в одну плоскость смыслов разных LLM. Далее они построили граф вероятности переходов между такими состояниями размышлений. Важный практический момент, что граф — не академизм, а эффективно может применяться при дистилляции моделей путём требования к модели-ученику делать такой тип размышлений сейчас.
И тут целая куча бомбических инсайтов.
1. Знания — ничто, траектория рассуждений — всё.
Обычно тот же программист думает, что самое главное — это как написать какую-то функцию и делать какие-то вызовы или ещё что-то «знать». Однако работа китайцев показывает, что base и SFT-обучение уже дали все такие знания модели, и сами знания уже не являются серьёзной ценностью, а сложность — научиться навигации в этих знаниях. И это удивительно: эта навигация мало связана с самими знаниями. Это говорит об быстрой эрозии ценности текущих знаний и большой ценности управления рассуждениями LLM.
2. Существует Универсальный Граф мышления LLM.
Китайцы в своей работе показали, что на деле для LLM не существует отдельных графов рассуждений по разным вопросам, а есть «суперграф» всех размышлений как последовательность логических операций. Граф может работать в каких угодно областях знаний, т.к. абстракция модели выше знаний — типы логических операций со знаниями.
Если у нас любят говорить фразу, что «математика учит детей думать», то неизвестно, как она научила думать детей, но LLM определённо научила — причём не математике, а именно ДУМАТЬ.
3. Существует Вселенский Граф универсального мышления всех LLM в мире.
Удивительное наблюдение исследователей в том, что после проекции графов мышлений разных моделей в одну проекцию смыслов через Qwen-8B оказалось, что все такие графы совпадают на ~90%. Это примерно как если бы разные конструкторы в США и СССР независимо открыли, как правильно делается аэродинамика крыла. Примерно так же произошло с мышлением ИИ: все LLM открыли некий Вселенский Граф правильного мышления, и он почти одинаковый.
Этой темой можно управлять из промптов, конечно. Не переключайтесь, мы ещё вернёмся к этой интересной работе, т.к. из построенной китайцами теории есть много интересных практических приёмов.
https://arxiv.org/abs/2601.06002v2
arXiv.org
The Molecular Structure of Thought: Mapping the Topology of Long...
Large language models (LLMs) often fail to learn effective long chain-of-thought (Long CoT) reasoning from human or non-Long-CoT LLMs imitation. To understand this, we propose that effective and...
👍1