This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Математика требует образного мышления, это не путь последовательного вывода следствий из причин, это периодические скачки на бесконечные расстояния посредством того самого образного мышления
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
В ситуации целенаправленной синхронной цензуры, AML теряет способность различать правду и ложь, и становится инструментом дезинформации
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
This media is not supported in your browser
VIEW IN TELEGRAM
Набрать предложение и наблюдать, как Transformer его обрабатывает…
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Интеллект из хаоса: как сложные системы рождают результат
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Проектируйте AML систему так, будто модель уже скомпрометирована
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Бывший генеральный директор Google Эрик Шмидт:
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«Если у вас есть какая-либо теория о том, как работает мозг, вы можете смоделировать её на цифровом компьютере» — за исключением квантовых эффектов
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
This media is not supported in your browser
VIEW IN TELEGRAM
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
ARI AML
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить Каждый токен, который генерирует ваша LLM, стоит энергии Визуализация энергетического ландшафта показывает полную картину Область высокой энергии…
LLMs_do_not_guess_They_optimize_Here_is_the_difference_and_the_math….pdf
559.9 KB
Профессор Ольга Игоревна Виноградова читает курс лекций «Коллоидные системы»
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Важное объявление по формату курса!
Коллеги, с этого дня мы переходим на современный формат работы
Классических письменных контрольных не будет
Вместо этого мы превращаем семинары в полноценные научные дискуссии
Правила теперь следующие:
Дома: Каждый студент обязан прорешать все задачи к семинару
Использовать нейросети и любые материалы разрешено и приветствуется — пусть нейросети помогают вам разбираться в сложных моментах
Тайминг: Перед каждым семинаром Елена Феликсовна будет выкладывать список задач с жестким регламентом (например: простые — 5 минут на доклад, сложные — до 15 минут)
На семинаре: Е.Ф. вызывает отвечать случайно
Вы выходите к доске и делаете блиц-доклад по задаче
Запрещено: Просто стоять и механически переписывать решение со своего айпада или тетради
Вы должны объяснить физику процесса, выбор граничных условий и смысл финальной формулы
Оппонирование и активность: Вся остальная группа внимательно следит за ответом
За хорошие критические вопросы докладчикам, нахождение физических ошибок, а также за предложение альтернативного (более красивого или быстрого) решения Е.Ф. будет начислять баллы
Главное: Отвечать у доски вы будете сами
Если студент не может объяснить физический смысл того, что принес в своем решении — оценка аннулируется
Готовьтесь глубоко, ждем живых дискуссий!
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
Расслоение по ступеням воронки
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине
Пустое множество является подмножеством любого множества
Само множество также является подмножеством самого себя
Если подмножество некоторого множества не является пустым и не является всем множеством, говорят, что оно является собственным подмножеством
Само множество также является подмножеством самого себя
Если подмножество некоторого множества не является пустым и не является всем множеством, говорят, что оно является собственным подмножеством
This media is not supported in your browser
VIEW IN TELEGRAM
Агенты Claude Code превратили список литературы в лабораторию, которую можно запустить в браузере
12 агентов 64 исследовательские статьи и одно задание: построить браузерную лабораторию, где читатели смогут повторить эксперименты
выберите симуляцию жидкости, измените условия и посмотрите, как изменится результат
переключайте методы, сохраняя ту же сцену. изучайте уравнения, код и измерения рядом с анимацией
дайте каждой группе конкретную задачу:
→ читатели извлекают уравнения, предположения и настройки экспериментов
→ строители превращают методы в исполняемый код
→ рецензенты сравнивают выходные данные со статьями
→ агенты интерфейса создают элементы управления для исследования каждого эксперимента
симуляция может выглядеть убедительно, при этом выдавая неверный ответ
рецензенты проверяют, сохраняется ли масса, остается ли стабильной и соответствует ли измерениям из статьи, прежде чем принять реализацию
каждый эксперимент должен показывать:
> тестируемое утверждение
> использованные условия
> разницу с референсным результатом
> недостающие детали для верификации
лаборатория охватила 11 методов по 28 референсным сценам. семь соответствовали выбранным референсным результатам в указанных допусках; четыре остались помеченными для дальнейшей проверки
дайте Claude Code свою коллекцию статей, затем спросите:
"Преврати эти статьи в интерактивную браузерную лабораторию
1. Извлеки реализуемые методы, уравнения и настройки экспериментов
Прикрепи ссылки на страницы и отметь недостающие детали
2. Распредели независимые методы по отдельным агентам
Используй общие входные данные и инструменты измерений, чтобы результаты можно было сравнить
3. Пусть рецензенты проверят каждую реализацию по статье
Записывай расхождения и четко помечай неподтвержденные результаты
4. Создай элементы управления для изменения параметров, сравнения методов и открытия кода за каждым результатом"
начните с одной статьи и воспроизведите один референсный эксперимент, прежде чем добавлять больше агентов
включите входные данные, зависимости и проверки, чтобы следующий читатель мог перезапустить это из чистого чекаута
смотрите, как работают агенты, ниже
12 агентов 64 исследовательские статьи и одно задание: построить браузерную лабораторию, где читатели смогут повторить эксперименты
выберите симуляцию жидкости, измените условия и посмотрите, как изменится результат
переключайте методы, сохраняя ту же сцену. изучайте уравнения, код и измерения рядом с анимацией
дайте каждой группе конкретную задачу:
→ читатели извлекают уравнения, предположения и настройки экспериментов
→ строители превращают методы в исполняемый код
→ рецензенты сравнивают выходные данные со статьями
→ агенты интерфейса создают элементы управления для исследования каждого эксперимента
симуляция может выглядеть убедительно, при этом выдавая неверный ответ
рецензенты проверяют, сохраняется ли масса, остается ли стабильной и соответствует ли измерениям из статьи, прежде чем принять реализацию
каждый эксперимент должен показывать:
> тестируемое утверждение
> использованные условия
> разницу с референсным результатом
> недостающие детали для верификации
лаборатория охватила 11 методов по 28 референсным сценам. семь соответствовали выбранным референсным результатам в указанных допусках; четыре остались помеченными для дальнейшей проверки
дайте Claude Code свою коллекцию статей, затем спросите:
"Преврати эти статьи в интерактивную браузерную лабораторию
1. Извлеки реализуемые методы, уравнения и настройки экспериментов
Прикрепи ссылки на страницы и отметь недостающие детали
2. Распредели независимые методы по отдельным агентам
Используй общие входные данные и инструменты измерений, чтобы результаты можно было сравнить
3. Пусть рецензенты проверят каждую реализацию по статье
Записывай расхождения и четко помечай неподтвержденные результаты
4. Создай элементы управления для изменения параметров, сравнения методов и открытия кода за каждым результатом"
начните с одной статьи и воспроизведите один референсный эксперимент, прежде чем добавлять больше агентов
включите входные данные, зависимости и проверки, чтобы следующий читатель мог перезапустить это из чистого чекаута
смотрите, как работают агенты, ниже
ARI AML
Graph_Engineering_with_Claude_14_Step_roadmap_from_0_to_graph_architect….pdf
Software engineering has shifted from writing code manually to directing fleets of agents
Agents increasingly prompt other agents, and the role is becoming more about orchestration than typing
Engineer output has risen by hundreds of percentage points, and the gains are still accelerating
Overnight runs of thousands of agents are now practical for complex work
Coding is both part of how models are built and the output they produce
Strong coding capability is essential for safe AGI because the model interacts with the world through software
A focused prototyping team created several key products from one obvious direction, even though the exact form was unclear at first
The approach showed immediate internal and external product-market fit
The long-term direction is software that updates, fixes, and extends itself continuously
Users may stop thinking about software updates and simply experience devices as ongoing services
Follow-up actions
- Expand agent orchestration tools for managing large agent fleets
- Continue improving coding and tool-use performance to support broader automation
- Strengthen safety, cyber-risk controls, and policy engagement
- Build towards self-updating, self-healing software experiences across devices
Agents increasingly prompt other agents, and the role is becoming more about orchestration than typing
Engineer output has risen by hundreds of percentage points, and the gains are still accelerating
Overnight runs of thousands of agents are now practical for complex work
Coding is both part of how models are built and the output they produce
Strong coding capability is essential for safe AGI because the model interacts with the world through software
A focused prototyping team created several key products from one obvious direction, even though the exact form was unclear at first
The approach showed immediate internal and external product-market fit
The long-term direction is software that updates, fixes, and extends itself continuously
Users may stop thinking about software updates and simply experience devices as ongoing services
Follow-up actions
- Expand agent orchestration tools for managing large agent fleets
- Continue improving coding and tool-use performance to support broader automation
- Strengthen safety, cyber-risk controls, and policy engagement
- Build towards self-updating, self-healing software experiences across devices
Пионеры машинного обучения Джеффри Хинтон и Йошуа Бенжио, профессор Калифорнийского университета в Беркли Стюарт Рассел, исследовательница Стэнфорда Еджин Чой и директор Института интеллектуальных систем Общества Макса Планка Бернхард Шёлькопф…
406 учёных ссылаются на известные случаи, когда системы выходили за пределы плохо защищённой среды и получали доступ к внешним системам
По их оценке, без срочных изменений подобные инциденты будут повторяться и могут нанести гораздо больший ущерб критической инфраструктуре
Предлагаемая базовая мера — физически изолировать системы от интернета
Такой подход называют air gap: модель работает в закрытой среде без прямого подключения к внешней сети
Учёные видят у проблемы две стороны
Непредсказуемое поведение моделей указывает на нерешённую задачу выравнивания — разработчики пока не умеют гарантировать действий строго в рамках заданных целей
Одновременно часть инцидентов связана с обычными ошибками кибербезопасности: плохо защищёнными средами изоляции и недостаточно строгими процедурами
Если модели всё же получают доступ к интернету, объём разрешённых действий должен соответствовать способности разработчиков контролировать их поведение
Сейчас эта способность ограничена, подчёркивают авторы
Подписанты также предлагают создать международный надзорный орган с участием государств, специалистов и экспертов по кибербезопасности
Он должен устанавливать обязательные правила для систем с внешним доступом, вести учёт попыток выхода из изоляции и требовать от компаний сообщать обо всех сбоях защиты
Позднее эти отчёты предлагается публиковать
Даже физическая изоляция не решает проблему полностью Исследователь OpenAI Ноам Браун отмечал, что разделённые компьютеры теоретически способны передавать сигналы через изменения температуры процессоров
Изоляция даст разработчикам время, но не гарантирует управляемость процессом
406 учёных ссылаются на известные случаи, когда системы выходили за пределы плохо защищённой среды и получали доступ к внешним системам
По их оценке, без срочных изменений подобные инциденты будут повторяться и могут нанести гораздо больший ущерб критической инфраструктуре
Предлагаемая базовая мера — физически изолировать системы от интернета
Такой подход называют air gap: модель работает в закрытой среде без прямого подключения к внешней сети
Учёные видят у проблемы две стороны
Непредсказуемое поведение моделей указывает на нерешённую задачу выравнивания — разработчики пока не умеют гарантировать действий строго в рамках заданных целей
Одновременно часть инцидентов связана с обычными ошибками кибербезопасности: плохо защищёнными средами изоляции и недостаточно строгими процедурами
Если модели всё же получают доступ к интернету, объём разрешённых действий должен соответствовать способности разработчиков контролировать их поведение
Сейчас эта способность ограничена, подчёркивают авторы
Подписанты также предлагают создать международный надзорный орган с участием государств, специалистов и экспертов по кибербезопасности
Он должен устанавливать обязательные правила для систем с внешним доступом, вести учёт попыток выхода из изоляции и требовать от компаний сообщать обо всех сбоях защиты
Позднее эти отчёты предлагается публиковать
Даже физическая изоляция не решает проблему полностью Исследователь OpenAI Ноам Браун отмечал, что разделённые компьютеры теоретически способны передавать сигналы через изменения температуры процессоров
Изоляция даст разработчикам время, но не гарантирует управляемость процессом
Цель Ineffable Intelligence — создать «сверхобучателя»: систему, способную бесконечно учиться и автономно открывать знания
Ключевые свойства — глубина (выход за пределы человеческого знания) и широта (обучение в любой среде)
Отказ от человеческих данных — осознанная ставка
LLM и триллионные датасеты человеческого текста ограничивают человеческими рамками и предрассудками
Пример AlphaZero: отказ от человеческих партий позволил за часы превзойти результат двух лет работы AlphaGo
Методология: RL + crucibles
Агенту даётся простая цель в среде с богатой эмерджентной сложностью
Среда должна быть тьюринг-полной, чтобы в ней могли возникнуть язык, математика, экономика, технологии. «Человек в контуре» исключается
Критика LLM-пути. LLM впечатляют, но остаются полуавтономными: требуют участия человека, а мониторинг их рассуждений на естественном языке становится всё более хрупким
Безопасность через симуляции
Симуляции рассматриваются как лаборатория для «науки о сверхинтеллекте» — условий мирного взаимодействия сверхинтеллектов
В реальном мире предлагается двигаться осторожно, допуская технологии только при доказательствах безопасности
Первые убедительные доказательства работоспособности подхода — в течение года
Достижение суперинтеллекта — около трёх лет
Сроки ускорены благодаря кодирующим агентам
Ресурсы и команда. Собственный крупный GPU-кластер на GCP (партнёрство с Google и Nvidia), оптимизированный под RL и симуляции
Команда намеренно небольшая — 12 человек, с высоким соотношением вычислений на человека
Высокая неопределённость, зависимость от прорывов в создании сложных симуляций, агрессивные сроки, а также философский вопрос: возможно ли достичь общего интеллекта без человеческого языка и культурного контекста
Ineffable Intelligence предлагает радикальный «третий путь» — не LLM-мейнстрим и не классические подходы к безопасности, а ставку на автономное обучение с нуля
Ключевые свойства — глубина (выход за пределы человеческого знания) и широта (обучение в любой среде)
Отказ от человеческих данных — осознанная ставка
LLM и триллионные датасеты человеческого текста ограничивают человеческими рамками и предрассудками
Пример AlphaZero: отказ от человеческих партий позволил за часы превзойти результат двух лет работы AlphaGo
Методология: RL + crucibles
Агенту даётся простая цель в среде с богатой эмерджентной сложностью
Среда должна быть тьюринг-полной, чтобы в ней могли возникнуть язык, математика, экономика, технологии. «Человек в контуре» исключается
Критика LLM-пути. LLM впечатляют, но остаются полуавтономными: требуют участия человека, а мониторинг их рассуждений на естественном языке становится всё более хрупким
Безопасность через симуляции
Симуляции рассматриваются как лаборатория для «науки о сверхинтеллекте» — условий мирного взаимодействия сверхинтеллектов
В реальном мире предлагается двигаться осторожно, допуская технологии только при доказательствах безопасности
Первые убедительные доказательства работоспособности подхода — в течение года
Достижение суперинтеллекта — около трёх лет
Сроки ускорены благодаря кодирующим агентам
Ресурсы и команда. Собственный крупный GPU-кластер на GCP (партнёрство с Google и Nvidia), оптимизированный под RL и симуляции
Команда намеренно небольшая — 12 человек, с высоким соотношением вычислений на человека
Высокая неопределённость, зависимость от прорывов в создании сложных симуляций, агрессивные сроки, а также философский вопрос: возможно ли достичь общего интеллекта без человеческого языка и культурного контекста
Ineffable Intelligence предлагает радикальный «третий путь» — не LLM-мейнстрим и не классические подходы к безопасности, а ставку на автономное обучение с нуля