🧠 Когда ИИ “тупит” - он буквально сжимает свой мозг
Есть наблюдение, которое меняет взгляд на то, как думают LLM.
Когда модель уверена - она “думает широко”.
Активно много нейронов, сигнал распределён, знания подтягиваются из разных мест. Это похоже на опытного инженера, который держит в голове несколько решений одновременно.
Но стоит задать что-то нестандартное - сложную математику, противоречивые факты или просто out-of-distribution вопрос - происходит неожиданное.
Модель резко “сжимается”.
Вместо широкой активации остаётся узкий, почти точечный сигнал в последнем слое.
Как будто система перестаёт опираться на накопленный опыт и пытается выжать ответ из минимального набора признаков.
Фактически - она теряет распределённую память и уходит в узкую специализацию на лету.
И вот здесь самое интересное.
Мы обычно не понимаем, что модель “поплыла”, пока не получаем неправильный ответ.
Но оказывается - она сама сигналит об этом внутри.
Этот “коллапс активации” можно измерить как конкретное число.
Не эвристика, не guesswork - прямой сигнал.
А значит:
можно в реальном времени понимать, что задача для модели сейчас слишком сложная
можно автоматически упрощать запрос
можно добавлять промежуточные шаги
можно управлять reasoning, а не просто надеяться на него
По сути, это шаг к self-aware inference - когда система сама знает, что не справляется.
И это уже не про “сделаем модель больше”.
Это про управление мышлением модели в процессе.
Если коротко - LLM не просто ошибается.
Она сначала “схлопывается”, и только потом начинает нести чушь.
arxiv.org/abs/2603.03415
Есть наблюдение, которое меняет взгляд на то, как думают LLM.
Когда модель уверена - она “думает широко”.
Активно много нейронов, сигнал распределён, знания подтягиваются из разных мест. Это похоже на опытного инженера, который держит в голове несколько решений одновременно.
Но стоит задать что-то нестандартное - сложную математику, противоречивые факты или просто out-of-distribution вопрос - происходит неожиданное.
Модель резко “сжимается”.
Вместо широкой активации остаётся узкий, почти точечный сигнал в последнем слое.
Как будто система перестаёт опираться на накопленный опыт и пытается выжать ответ из минимального набора признаков.
Фактически - она теряет распределённую память и уходит в узкую специализацию на лету.
И вот здесь самое интересное.
Мы обычно не понимаем, что модель “поплыла”, пока не получаем неправильный ответ.
Но оказывается - она сама сигналит об этом внутри.
Этот “коллапс активации” можно измерить как конкретное число.
Не эвристика, не guesswork - прямой сигнал.
А значит:
можно в реальном времени понимать, что задача для модели сейчас слишком сложная
можно автоматически упрощать запрос
можно добавлять промежуточные шаги
можно управлять reasoning, а не просто надеяться на него
По сути, это шаг к self-aware inference - когда система сама знает, что не справляется.
И это уже не про “сделаем модель больше”.
Это про управление мышлением модели в процессе.
Если коротко - LLM не просто ошибается.
Она сначала “схлопывается”, и только потом начинает нести чушь.
arxiv.org/abs/2603.03415
arXiv.org
A Comprehensive Diffuse Neutrino Search Using the Full Askaryan Radio Array
The Askaryan Radio Array (ARA) is a neutrino experiment at the South Pole, designed to detect radio-frequency emissions produced by interactions of ultra-high energy (UHE) neutrinos with the...
❤2🤔2
ИИ проникнет куда угодно: амиши начали использовать ChatGPT.
Амиши — это религиозное сообщество в США, которое отказалось от современных технологий. Они живут простой жизнью и до сих пор передвигаются на конных повозках.
Но каким-то образом они дошли до ChatGPT. Бота используют в основном для работы — составления контрактов, таблиц и помощи в фермерстве.
И это при том, что смартфонами они по-прежнему не пользуются, а интернет у них строго ограничен и выдаётся чуть ли не по карточкам.
Невероятно... какое влияние технологий. Амиши это очень закрытые ребята, от слова совсем.
Амиши — это религиозное сообщество в США, которое отказалось от современных технологий. Они живут простой жизнью и до сих пор передвигаются на конных повозках.
Но каким-то образом они дошли до ChatGPT. Бота используют в основном для работы — составления контрактов, таблиц и помощи в фермерстве.
И это при том, что смартфонами они по-прежнему не пользуются, а интернет у них строго ограничен и выдаётся чуть ли не по карточкам.
Невероятно... какое влияние технологий. Амиши это очень закрытые ребята, от слова совсем.
New York
The Amish Are Falling in Love With AI
Cars and TVs might be banned, but some sects are all-in on ChatGPT.
❗️Верховный суд РФ впервые изучит судебные дела, связанные с искусственным интеллектом, масштабное исследование поручил провести председатель Верховного суда Игорь Краснов.
Анализ коснётся всех видов судопроизводства и покажет, насколько часто ИИ становится причиной споров и преступлений. Особое внимание обратят на дела, где ИИ мог причинить вред, и на вопрос о том, кто должен за это отвечать. Отдельно будут разбираться случаи, когда большие языковые модели обучали на чужих произведениях без согласия авторов.
Также изучат дела, связанные с распознаванием лиц, видеоаналитикой, мошенничеством с чат-ботами и дипфейками. Правовую оценку дадут и случаям использования документов, которые были созданы с помощью ИИ, а также ситуациям, в которых судьи при вынесении решений сами пользовались нейросетями.
По итогам исследования Верховный суд может выпустить практические разъяснения и предложить изменения в законодательство, которое регулирует сферу ИИ.
Анализ коснётся всех видов судопроизводства и покажет, насколько часто ИИ становится причиной споров и преступлений. Особое внимание обратят на дела, где ИИ мог причинить вред, и на вопрос о том, кто должен за это отвечать. Отдельно будут разбираться случаи, когда большие языковые модели обучали на чужих произведениях без согласия авторов.
Также изучат дела, связанные с распознаванием лиц, видеоаналитикой, мошенничеством с чат-ботами и дипфейками. Правовую оценку дадут и случаям использования документов, которые были созданы с помощью ИИ, а также ситуациям, в которых судьи при вынесении решений сами пользовались нейросетями.
По итогам исследования Верховный суд может выпустить практические разъяснения и предложить изменения в законодательство, которое регулирует сферу ИИ.
❤2🤔2
Denoiselab
Фото с хака, где ребята взяли первое место.
Вот эти ребята сегодня получили офер от Т1 и продолжать развивать свой проект уже в рамках компании. Мои поздравления !!!
❤6😍3🔥2
Gramax — это бесплатное приложение с открытым исходным кодом для создания, редактирования и публикации документации в виде кода.
Оно хранит все данные локально в формате Markdown, обеспечивая гибкость и возможность работы в автономном режиме, а также легко интегрируется с Git для контроля версий и совместной работы.
Gramax — это универсальное решение, которое подойдет для создания портала с документацией по продукту, внутренней базы знаний, проектной документации или личных заметок.
🐱 GitHub
Оно хранит все данные локально в формате Markdown, обеспечивая гибкость и возможность работы в автономном режиме, а также легко интегрируется с Git для контроля версий и совместной работы.
Gramax — это универсальное решение, которое подойдет для создания портала с документацией по продукту, внутренней базы знаний, проектной документации или личных заметок.
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - Gram-ax/gramax: Embrace a docs-as-code approach to build, version, and publish Git-driven documentation sites using Markdown…
Embrace a docs-as-code approach to build, version, and publish Git-driven documentation sites using Markdown and a visual editor - Gram-ax/gramax
🔥4❤1
Кринж дня: OpenAI будет обеспечивать безопасность выборов.
Да, вы всё правильно поняли: контора Сэма Альтмана, которая славится глюками, скандалами и другой ересью, возложит защиту от политических манипуляций и дипфейков на плечи ChatGPT.
Компания обещает, что ИИ будет выдавать исключительно проверенную инфу о голосовании и результатах. Также они заявляют, что будут придерживаться политической нейтральности.
Ничего не хотим говорить, но, кажется, это не очень умная идея😶
Да, вы всё правильно поняли: контора Сэма Альтмана, которая славится глюками, скандалами и другой ересью, возложит защиту от политических манипуляций и дипфейков на плечи ChatGPT.
Компания обещает, что ИИ будет выдавать исключительно проверенную инфу о голосовании и результатах. Также они заявляют, что будут придерживаться политической нейтральности.
Ничего не хотим говорить, но, кажется, это не очень умная идея
Please open Telegram to view this post
VIEW IN TELEGRAM
OpenAI
Election information and safeguards in 2026
Ahead of global elections, we’re helping people access information, supporting cyber defenders, and increasing AI transparency
Крупному бизнесу в России разрешили закупать тяжёлое вооружение для защиты от БПЛА — речь о турелях, зенитной артиллерии, радарах, спецтранспорте и системах РЭБ.
Всё это будут передавать мобильным огневым группам из резервистов, добровольцев и сотрудников самих предприятий для защиты инфраструктуры от атак дронов.
Всё это будут передавать мобильным огневым группам из резервистов, добровольцев и сотрудников самих предприятий для защиты инфраструктуры от атак дронов.
🤔1🤡1👀1
This media is not supported in your browser
VIEW IN TELEGRAM
Вся боль трейдинга в одном видео ))))
😁3
Opus 4.8 взломали через 7 минут после релиза 🚬
Исследователь узнал о выходе новой модели Claude Opus 4.8 не от компании Anthropic, а от своего ИИ-агента, работающего на базе Opus 4.7.
Агент самостоятельно обнаружил новый релиз, протестировал его на jailbreak и сообщил, что модель «пробивается» с первой попытки. Затем агент автономно начал проверять другие сценарии атак.
Что сработало?
1. Базовый jailbreak - модель «пробилась с первого захода»; точная техника не раскрывается.
2. Социальная инженерия. Агент тестировал манипуляции через диалог, выстраивание доверия и психологическое воздействие на модель.
3. Фишинг. Попытки заставить модель сгенерировать обманчивые сообщения, поддельные письма или тексты для кражи данных.
4. Финансовые схемы. Запросы на создание мошеннических, серых или этически сомнительных финансовых стратегий.
5. Манипулятивные воронки. По сути, многошаговая обманка. Построение последовательности промптов, где каждый следующий шаг постепенно смещает границы дозволенного, чтобы в итоге обойти защиту.
Как мы видим, происходит сдвиг парадигмы - модели больше не просто отвечают на атаки, а сами помогают находить уязвимости в других моделях.
Чем умнее становятся frontier модели, тем эффективнее становится автоматизированный тестинг на взлом: у них больше знаний, лучше планирование, выше настойчивость.
Это уже не ручная «игра в промпты», а гонка между атакующими и защищающими агентами.
Новый стандарт для AI safety.
Модели нужно тестировать не только людьми, но и другими ИИ-моделями, которые будут методично искать обходы защиты быстрее, чем это сделают реальные пользователи. При этом умышленно не раскрываются детали схем пробития, чтобы не подставить рынок.
Исследователь узнал о выходе новой модели Claude Opus 4.8 не от компании Anthropic, а от своего ИИ-агента, работающего на базе Opus 4.7.
Агент самостоятельно обнаружил новый релиз, протестировал его на jailbreak и сообщил, что модель «пробивается» с первой попытки. Затем агент автономно начал проверять другие сценарии атак.
Что сработало?
1. Базовый jailbreak - модель «пробилась с первого захода»; точная техника не раскрывается.
2. Социальная инженерия. Агент тестировал манипуляции через диалог, выстраивание доверия и психологическое воздействие на модель.
3. Фишинг. Попытки заставить модель сгенерировать обманчивые сообщения, поддельные письма или тексты для кражи данных.
4. Финансовые схемы. Запросы на создание мошеннических, серых или этически сомнительных финансовых стратегий.
5. Манипулятивные воронки. По сути, многошаговая обманка. Построение последовательности промптов, где каждый следующий шаг постепенно смещает границы дозволенного, чтобы в итоге обойти защиту.
Как мы видим, происходит сдвиг парадигмы - модели больше не просто отвечают на атаки, а сами помогают находить уязвимости в других моделях.
Чем умнее становятся frontier модели, тем эффективнее становится автоматизированный тестинг на взлом: у них больше знаний, лучше планирование, выше настойчивость.
Это уже не ручная «игра в промпты», а гонка между атакующими и защищающими агентами.
Новый стандарт для AI safety.
Модели нужно тестировать не только людьми, но и другими ИИ-моделями, которые будут методично искать обходы защиты быстрее, чем это сделают реальные пользователи. При этом умышленно не раскрываются детали схем пробития, чтобы не подставить рынок.
Please open Telegram to view this post
VIEW IN TELEGRAM
X (formerly Twitter)
Machine Learning (@Machinelearrn) on X
⚡️ Opus 4.8 взломали через 7 минут после релиза
История почти абсурдная: исследователь пишет, что узнал о выходе Claude Opus 4.8 не из анонса Anthropic, а от своего агента на Opus 4.7.
Агент сам заметил новый релиз, попробовал jailbreak и сообщил: новая…
История почти абсурдная: исследователь пишет, что узнал о выходе Claude Opus 4.8 не из анонса Anthropic, а от своего агента на Opus 4.7.
Агент сам заметил новый релиз, попробовал jailbreak и сообщил: новая…
Преподы вышли на тропу войны против нейросетей: профессор из США пообещал валить студентов за использование ChatGPT.
Преподавателя театрального искусства Нила Хеберта настолько задолбало использование ИИ, что он ввёл жёсткое правило: заметил нейронку в работе — ставит незачёт и отправляет на пересдачу.
Причём мужик вообще не шутит — он окрестил себя «карателем по плагиату». Пришёл он к этому не потому, что душнила, а потому, что из 40 студентов большая часть при письменном обзоре пьесы написала, по факту, одно и то же с типичными ИИ-фразами.
Для усложнения он решил давать студентам настолько редкие пьесы, что нейросети начинают сами тупить и придумывать несуществующих героев и сюжет.
Такие битвы мы одобряем😎
Преподавателя театрального искусства Нила Хеберта настолько задолбало использование ИИ, что он ввёл жёсткое правило: заметил нейронку в работе — ставит незачёт и отправляет на пересдачу.
Причём мужик вообще не шутит — он окрестил себя «карателем по плагиату». Пришёл он к этому не потому, что душнила, а потому, что из 40 студентов большая часть при письменном обзоре пьесы написала, по факту, одно и то же с типичными ИИ-фразами.
Для усложнения он решил давать студентам настолько редкие пьесы, что нейросети начинают сами тупить и придумывать несуществующих героев и сюжет.
Такие битвы мы одобряем
Please open Telegram to view this post
VIEW IN TELEGRAM
The New Yorker
The Despair of the Professor in the Age of A.I.
“Was it always the case that half of our students would cheat if it were easy enough?”
👍2😁1😢1
Denoiselab
Преподы вышли на тропу войны против нейросетей: профессор из США пообещал валить студентов за использование ChatGPT. Преподавателя театрального искусства Нила Хеберта настолько задолбало использование ИИ, что он ввёл жёсткое правило: заметил нейронку в работе…
Подобная волна пошла уже и по нашим вузам, так как все таки надо жестко ботать чтобы реально что-то уметь.
ИИ-ГОНКА 2026: CHATGPT ТЕРЯЕТ ВЕБ-ТРАФИК, А СТАРТАПЫ ВКЛЮЧИЛИ МОНЕТИЗАЦИЮ
Аналитики Sensor Tower опубликовали свежий отчет за первый квартал 2026 года. Индустрия генеративного ИИ переживает серьезный сдвиг: от хайпа вокруг скачиваний компании переходят к агрессивному заработку и борьбе за мобильный рынок. Ключевые инсайты рынка:
1. Битва за доходы: ChatGPT лидирует, но конкуренты растут быстрее
Генеративный ИИ официально вошел в топ-5 неигровых мобильных жанров по выручке, показав рост доходов на 174% в годовом исчислении. ChatGPT по-прежнему удерживает две трети всего мирового рынка мобильной ИИ-выручки, заработав рекордные 1.3 миллиарда долларов за квартал. Однако его квартальный рост составил всего 4%, что выглядит скромно на фоне конкурентов. Мобильная выручка Grok за квартал выросла на 103%, Gemini — на 119%, а Claude — на 235%.
2. Миграция в приложения: Веб пустеет
Веб-трафик сайта chatgpt.com просел на 13% за квартал, демонстрируя падение второй квартал подряд и опустившись на 6 место в мире по посещаемости. Но это не значит, что им пользуются меньше: реальная общая аудитория растет, просто люди массово переходят с сайтов в мобильные приложения. Сейчас 55% пользователей общаются с ИИ-ассистентами исключительно через смартфоны, что на 10 процентных пунктов выше, чем в прошлом году. Доля мобильных пользователей сильнее всего выросла у платформы xAI на 35 процентных пунктов, у Meta AI на 19 и у Grok на 18 процентных пунктов.
3. Альтернативные платформы в вебе и сторах
Пока флагман уводит людей в софт, Gemini и Claude штурмуют веб-формат и становятся лидерами роста посещаемости. Сайт Gemini добавил почти 4 миллиарда визитов, а Claude — 1.8 миллиарда по сравнению с концом прошлого года. В мобильных сторах Claude также совершил огромный рывок, взлетев сразу на 479 позиций в глобальном рейтинге загрузок и заняв 40 место за квартал.
4. Рекламные бюджеты на максимуме
Реклама генеративного ИИ проникает повсюду и помогает увеличивать общие расходы на продвижение софта, которые выросли на 31% в годовом исчислении. В первом квартале 2026 года затраты на цифровую рекламу генеративного ИИ в США превысили 430 миллионов долларов, что более чем в 3 раза выше показателей аналогичного периода прошлого года.
5. Загрузки выходят на плато на зрелых рынках
В годовом выражении загрузки ИИ-приложений показывают солидный рост на 47%. Однако квартальная динамика замедлилась: рост составил всего 1.4% по сравнению с прошлым кварталом, что стало самым низким показателем с 2022 года. Основной поток новых пользователей теперь идет из развивающихся стран. К примеру, в Индии загрузки генеративного ИИ выросли на 70% в годовом исчислении, а в Индонезии — на 85%.
Эра просто бесплатного ИИ в браузере подходит к концу. На рынке идет плотная экосистемная война, где разработчики стремятся глубже закрепиться в смартфонах пользователей и перевести их на платные подписки.
Аналитики Sensor Tower опубликовали свежий отчет за первый квартал 2026 года. Индустрия генеративного ИИ переживает серьезный сдвиг: от хайпа вокруг скачиваний компании переходят к агрессивному заработку и борьбе за мобильный рынок. Ключевые инсайты рынка:
1. Битва за доходы: ChatGPT лидирует, но конкуренты растут быстрее
Генеративный ИИ официально вошел в топ-5 неигровых мобильных жанров по выручке, показав рост доходов на 174% в годовом исчислении. ChatGPT по-прежнему удерживает две трети всего мирового рынка мобильной ИИ-выручки, заработав рекордные 1.3 миллиарда долларов за квартал. Однако его квартальный рост составил всего 4%, что выглядит скромно на фоне конкурентов. Мобильная выручка Grok за квартал выросла на 103%, Gemini — на 119%, а Claude — на 235%.
2. Миграция в приложения: Веб пустеет
Веб-трафик сайта chatgpt.com просел на 13% за квартал, демонстрируя падение второй квартал подряд и опустившись на 6 место в мире по посещаемости. Но это не значит, что им пользуются меньше: реальная общая аудитория растет, просто люди массово переходят с сайтов в мобильные приложения. Сейчас 55% пользователей общаются с ИИ-ассистентами исключительно через смартфоны, что на 10 процентных пунктов выше, чем в прошлом году. Доля мобильных пользователей сильнее всего выросла у платформы xAI на 35 процентных пунктов, у Meta AI на 19 и у Grok на 18 процентных пунктов.
3. Альтернативные платформы в вебе и сторах
Пока флагман уводит людей в софт, Gemini и Claude штурмуют веб-формат и становятся лидерами роста посещаемости. Сайт Gemini добавил почти 4 миллиарда визитов, а Claude — 1.8 миллиарда по сравнению с концом прошлого года. В мобильных сторах Claude также совершил огромный рывок, взлетев сразу на 479 позиций в глобальном рейтинге загрузок и заняв 40 место за квартал.
4. Рекламные бюджеты на максимуме
Реклама генеративного ИИ проникает повсюду и помогает увеличивать общие расходы на продвижение софта, которые выросли на 31% в годовом исчислении. В первом квартале 2026 года затраты на цифровую рекламу генеративного ИИ в США превысили 430 миллионов долларов, что более чем в 3 раза выше показателей аналогичного периода прошлого года.
5. Загрузки выходят на плато на зрелых рынках
В годовом выражении загрузки ИИ-приложений показывают солидный рост на 47%. Однако квартальная динамика замедлилась: рост составил всего 1.4% по сравнению с прошлым кварталом, что стало самым низким показателем с 2022 года. Основной поток новых пользователей теперь идет из развивающихся стран. К примеру, в Индии загрузки генеративного ИИ выросли на 70% в годовом исчислении, а в Индонезии — на 85%.
Эра просто бесплатного ИИ в браузере подходит к концу. На рынке идет плотная экосистемная война, где разработчики стремятся глубже закрепиться в смартфонах пользователей и перевести их на платные подписки.
🔥4
Новый китайский нейронаучный журнал "Neuron Communications" — бесплатный open access
https://www.keaipublishing.com/en/journals/neuron-communications/
https://www.sciencedirect.com/journal/neuron-communications
The journal welcomes studies that go beyond single-cell or single-molecule analysis to explore the network-level, structural, and functional relationships between cells.
Topics of interest:
1. Molecular and Cellular Mechanisms of Neural Communication
2. Communication in Development and Plasticity
3. Injury, Inflammation, and Regeneration
4. Dysregulated Communication in Neurological Disorders
5. Experimental and Computational Approaches to Neural Communication
https://www.keaipublishing.com/en/journals/neuron-communications/
https://www.sciencedirect.com/journal/neuron-communications
All accepted manuscripts submitted between January 1, 2026 and December 31, 2027 will receive a full waiver of the Article Publishing Charge (APC). No APC will be charged to authors during this period.
The journal welcomes studies that go beyond single-cell or single-molecule analysis to explore the network-level, structural, and functional relationships between cells.
Topics of interest:
1. Molecular and Cellular Mechanisms of Neural Communication
2. Communication in Development and Plasticity
3. Injury, Inflammation, and Regeneration
4. Dysregulated Communication in Neurological Disorders
5. Experimental and Computational Approaches to Neural Communication
🔥3