This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Математика требует образного мышления, это не путь последовательного вывода следствий из причин, это периодические скачки на бесконечные расстояния посредством того самого образного мышления
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
В ситуации целенаправленной синхронной цензуры, AML теряет способность различать правду и ложь, и становится инструментом дезинформации
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
This media is not supported in your browser
VIEW IN TELEGRAM
Набрать предложение и наблюдать, как Transformer его обрабатывает…
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Интеллект из хаоса: как сложные системы рождают результат
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Проектируйте AML систему так, будто модель уже скомпрометирована
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Бывший генеральный директор Google Эрик Шмидт:
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«Если у вас есть какая-либо теория о том, как работает мозг, вы можете смоделировать её на цифровом компьютере» — за исключением квантовых эффектов
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
This media is not supported in your browser
VIEW IN TELEGRAM
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
ARI AML
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить Каждый токен, который генерирует ваша LLM, стоит энергии Визуализация энергетического ландшафта показывает полную картину Область высокой энергии…
LLMs_do_not_guess_They_optimize_Here_is_the_difference_and_the_math….pdf
559.9 KB
Профессор Ольга Игоревна Виноградова читает курс лекций «Коллоидные системы»
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Важное объявление по формату курса!
Коллеги, с этого дня мы переходим на современный формат работы
Классических письменных контрольных не будет
Вместо этого мы превращаем семинары в полноценные научные дискуссии
Правила теперь следующие:
Дома: Каждый студент обязан прорешать все задачи к семинару
Использовать нейросети и любые материалы разрешено и приветствуется — пусть нейросети помогают вам разбираться в сложных моментах
Тайминг: Перед каждым семинаром Елена Феликсовна будет выкладывать список задач с жестким регламентом (например: простые — 5 минут на доклад, сложные — до 15 минут)
На семинаре: Е.Ф. вызывает отвечать случайно
Вы выходите к доске и делаете блиц-доклад по задаче
Запрещено: Просто стоять и механически переписывать решение со своего айпада или тетради
Вы должны объяснить физику процесса, выбор граничных условий и смысл финальной формулы
Оппонирование и активность: Вся остальная группа внимательно следит за ответом
За хорошие критические вопросы докладчикам, нахождение физических ошибок, а также за предложение альтернативного (более красивого или быстрого) решения Е.Ф. будет начислять баллы
Главное: Отвечать у доски вы будете сами
Если студент не может объяснить физический смысл того, что принес в своем решении — оценка аннулируется
Готовьтесь глубоко, ждем живых дискуссий!
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
Расслоение по ступеням воронки
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине
Пустое множество является подмножеством любого множества
Само множество также является подмножеством самого себя
Если подмножество некоторого множества не является пустым и не является всем множеством, говорят, что оно является собственным подмножеством
Само множество также является подмножеством самого себя
Если подмножество некоторого множества не является пустым и не является всем множеством, говорят, что оно является собственным подмножеством
This media is not supported in your browser
VIEW IN TELEGRAM
Агенты Claude Code превратили список литературы в лабораторию, которую можно запустить в браузере
12 агентов 64 исследовательские статьи и одно задание: построить браузерную лабораторию, где читатели смогут повторить эксперименты
выберите симуляцию жидкости, измените условия и посмотрите, как изменится результат
переключайте методы, сохраняя ту же сцену. изучайте уравнения, код и измерения рядом с анимацией
дайте каждой группе конкретную задачу:
→ читатели извлекают уравнения, предположения и настройки экспериментов
→ строители превращают методы в исполняемый код
→ рецензенты сравнивают выходные данные со статьями
→ агенты интерфейса создают элементы управления для исследования каждого эксперимента
симуляция может выглядеть убедительно, при этом выдавая неверный ответ
рецензенты проверяют, сохраняется ли масса, остается ли стабильной и соответствует ли измерениям из статьи, прежде чем принять реализацию
каждый эксперимент должен показывать:
> тестируемое утверждение
> использованные условия
> разницу с референсным результатом
> недостающие детали для верификации
лаборатория охватила 11 методов по 28 референсным сценам. семь соответствовали выбранным референсным результатам в указанных допусках; четыре остались помеченными для дальнейшей проверки
дайте Claude Code свою коллекцию статей, затем спросите:
"Преврати эти статьи в интерактивную браузерную лабораторию
1. Извлеки реализуемые методы, уравнения и настройки экспериментов
Прикрепи ссылки на страницы и отметь недостающие детали
2. Распредели независимые методы по отдельным агентам
Используй общие входные данные и инструменты измерений, чтобы результаты можно было сравнить
3. Пусть рецензенты проверят каждую реализацию по статье
Записывай расхождения и четко помечай неподтвержденные результаты
4. Создай элементы управления для изменения параметров, сравнения методов и открытия кода за каждым результатом"
начните с одной статьи и воспроизведите один референсный эксперимент, прежде чем добавлять больше агентов
включите входные данные, зависимости и проверки, чтобы следующий читатель мог перезапустить это из чистого чекаута
смотрите, как работают агенты, ниже
12 агентов 64 исследовательские статьи и одно задание: построить браузерную лабораторию, где читатели смогут повторить эксперименты
выберите симуляцию жидкости, измените условия и посмотрите, как изменится результат
переключайте методы, сохраняя ту же сцену. изучайте уравнения, код и измерения рядом с анимацией
дайте каждой группе конкретную задачу:
→ читатели извлекают уравнения, предположения и настройки экспериментов
→ строители превращают методы в исполняемый код
→ рецензенты сравнивают выходные данные со статьями
→ агенты интерфейса создают элементы управления для исследования каждого эксперимента
симуляция может выглядеть убедительно, при этом выдавая неверный ответ
рецензенты проверяют, сохраняется ли масса, остается ли стабильной и соответствует ли измерениям из статьи, прежде чем принять реализацию
каждый эксперимент должен показывать:
> тестируемое утверждение
> использованные условия
> разницу с референсным результатом
> недостающие детали для верификации
лаборатория охватила 11 методов по 28 референсным сценам. семь соответствовали выбранным референсным результатам в указанных допусках; четыре остались помеченными для дальнейшей проверки
дайте Claude Code свою коллекцию статей, затем спросите:
"Преврати эти статьи в интерактивную браузерную лабораторию
1. Извлеки реализуемые методы, уравнения и настройки экспериментов
Прикрепи ссылки на страницы и отметь недостающие детали
2. Распредели независимые методы по отдельным агентам
Используй общие входные данные и инструменты измерений, чтобы результаты можно было сравнить
3. Пусть рецензенты проверят каждую реализацию по статье
Записывай расхождения и четко помечай неподтвержденные результаты
4. Создай элементы управления для изменения параметров, сравнения методов и открытия кода за каждым результатом"
начните с одной статьи и воспроизведите один референсный эксперимент, прежде чем добавлять больше агентов
включите входные данные, зависимости и проверки, чтобы следующий читатель мог перезапустить это из чистого чекаута
смотрите, как работают агенты, ниже
ARI AML
Graph_Engineering_with_Claude_14_Step_roadmap_from_0_to_graph_architect….pdf
Software engineering has shifted from writing code manually to directing fleets of agents
Agents increasingly prompt other agents, and the role is becoming more about orchestration than typing
Engineer output has risen by hundreds of percentage points, and the gains are still accelerating
Overnight runs of thousands of agents are now practical for complex work
Coding is both part of how models are built and the output they produce
Strong coding capability is essential for safe AGI because the model interacts with the world through software
A focused prototyping team created several key products from one obvious direction, even though the exact form was unclear at first
The approach showed immediate internal and external product-market fit
The long-term direction is software that updates, fixes, and extends itself continuously
Users may stop thinking about software updates and simply experience devices as ongoing services
Follow-up actions
- Expand agent orchestration tools for managing large agent fleets
- Continue improving coding and tool-use performance to support broader automation
- Strengthen safety, cyber-risk controls, and policy engagement
- Build towards self-updating, self-healing software experiences across devices
Agents increasingly prompt other agents, and the role is becoming more about orchestration than typing
Engineer output has risen by hundreds of percentage points, and the gains are still accelerating
Overnight runs of thousands of agents are now practical for complex work
Coding is both part of how models are built and the output they produce
Strong coding capability is essential for safe AGI because the model interacts with the world through software
A focused prototyping team created several key products from one obvious direction, even though the exact form was unclear at first
The approach showed immediate internal and external product-market fit
The long-term direction is software that updates, fixes, and extends itself continuously
Users may stop thinking about software updates and simply experience devices as ongoing services
Follow-up actions
- Expand agent orchestration tools for managing large agent fleets
- Continue improving coding and tool-use performance to support broader automation
- Strengthen safety, cyber-risk controls, and policy engagement
- Build towards self-updating, self-healing software experiences across devices