Даже если самые передовые модели завершены, они не публикуются сразу, а используются внутри для разработки моделей следующего поколения
Это «пересечением горизонта событий»
Это не то, что каузуэйлловская сингулярность в смысле технологической сингулярности, но в смысле того, что из петли самоускорения уже трудно вернуться, это может быть вполне справедливо
На Fellows Forum в конце сентября, руководитель прикладных исследований OpenAI, заявил, что сейчас 90 % исследований компании направлены на обучение GPT-7 и GPT-8 — там наибольшая ценность
И постепенные обновления внутри одного поколения, такие как 5.1 или 5.2, считаются краткосрочной ставкой и крайне недальновидными
То есть исследователи работают на два поколения вперед по сравнению с тем, что используется сейчас
Самые передовые модели уже разработаны, но не публикуются и удерживаются
Скоро такие модели следующего поколения перестанут быть общедоступными и начнут использоваться только для специфических целей внутри исследовательских институтов
Самое большое вознаграждение за токен в текущих фронтир-моделях, по крайней мере то, что генерирует наибольшую дисконтированную текущую стоимость в будущем, — это разработка еще более мощных моделей через рекурсивное самоулучшение
По этому пункту «горизонт событий» уже пересечён, именно поэтому это и называют сингулярностью
Это «пересечением горизонта событий»
Это не то, что каузуэйлловская сингулярность в смысле технологической сингулярности, но в смысле того, что из петли самоускорения уже трудно вернуться, это может быть вполне справедливо
На Fellows Forum в конце сентября, руководитель прикладных исследований OpenAI, заявил, что сейчас 90 % исследований компании направлены на обучение GPT-7 и GPT-8 — там наибольшая ценность
И постепенные обновления внутри одного поколения, такие как 5.1 или 5.2, считаются краткосрочной ставкой и крайне недальновидными
То есть исследователи работают на два поколения вперед по сравнению с тем, что используется сейчас
Самые передовые модели уже разработаны, но не публикуются и удерживаются
Скоро такие модели следующего поколения перестанут быть общедоступными и начнут использоваться только для специфических целей внутри исследовательских институтов
Самое большое вознаграждение за токен в текущих фронтир-моделях, по крайней мере то, что генерирует наибольшую дисконтированную текущую стоимость в будущем, — это разработка еще более мощных моделей через рекурсивное самоулучшение
По этому пункту «горизонт событий» уже пересечён, именно поэтому это и называют сингулярностью
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Математика требует образного мышления, это не путь последовательного вывода следствий из причин, это периодические скачки на бесконечные расстояния посредством того самого образного мышления
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
Теория Галуа, геометрия Лобачевского, комплексные числа - это всё прыжки на бесконечные расстояния, после чего в новом месте идёт обустройство
У машинного обучения образного мышления нет и не будет
Ничем кроме помощи в обустройстве на новом месте он не поможет
До нового прыжка на бесконечное расстояние в высшие абстракции
В ситуации целенаправленной синхронной цензуры, AML теряет способность различать правду и ложь, и становится инструментом дезинформации
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
А когда в данных присутствует плюрализм, даже с конкурирующими ошибочными мнениями - AML становится фильтром истины
- когда AML обучается на данных со случайными ошибками, истина (верные суждения) возникает сама собой как артефакт сжатия
- когда в данные для обучения введен намеренный трек фальсификации (по определенной теме), то в результате обучения AML полностью теряет способность различать правду и ложь
- однако когда в массиве даных конкурирует несколько фальсификаций (лжи по определенному поводу) - AML в процессе обучения снова с начинает производить истину
This media is not supported in your browser
VIEW IN TELEGRAM
Набрать предложение и наблюдать, как Transformer его обрабатывает…
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Этот интерактивный эксплейнер запускает модель в стиле GPT прямо в браузере и позволяет проследить весь путь:
токенизация → эмбеддинги → Q/K/V → внимание → MLP → логиты → вероятности следующего токена
Можно изучать карты внимания, промежуточные значения и изменить температуру, top-k и top-p, чтобы увидеть, как меняется генерация
Интеллект из хаоса: как сложные системы рождают результат
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Нейросети могут научиться это делать и без человеческого опыта
Как рождается интеллект - любой интеллект:
от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76.000.000.000 нейронов
С появлением дегенеративного интеллекта машин, этот вопрос лишь еще больше запутался
Как рождается результат
• не только, естественный (биологический)
• но и искусственный (машинный) результат тоже
Дегенеративный искусственный интеллект, - появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово)
Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных
Так что ж получается – результат рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так, точнее, совсем не так
Проектируйте AML систему так, будто модель уже скомпрометирована
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Контроль должен существовать и за пределами моделей
Что это означает на практике:
• Права задаёт система
Модель не определяет сама, какие ресурсы ей доступны
• Действия оставляют проверяемый след
Логи должны быть защищены от изменения агентом
• Аудит независим
Агент не должен одновременно действовать и контролировать доказательства корректности своих действий
• Есть аварийная остановка
Уполномоченный человек может прервать работу посреди задачи
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения
Бывший генеральный директор Google Эрик Шмидт:
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«произойдет взрыв в обучении, который ускорится за пределы того, что люди смогут понять»
Представьте математическое доказательство, которое слишком сложно для понимания любым человеком, но мы можем подтвердить, что оно истинно
Что это значит, если люди никогда не смогут его понять?
«Если у вас есть какая-либо теория о том, как работает мозг, вы можете смоделировать её на цифровом компьютере» — за исключением квантовых эффектов
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
Это не верно
Все формы биологического интеллекта АНАЛОГОВЫЕ
LLM симулируют ВЫВОД интеллекта
Это статичные кучи человеческих данных, сжатые в многомерной математике
Вся идея, что они интеллектуальны, не верна
Вы никогда не получите интеллектуальный цифровой компьютер, не говоря уже о сознательном
Будущее — это аналоговые вычисления
Когда компьютеры будут использовать вселенную для расчётов, когда они будут адаптироваться на основе входных данных из физического мира, мы сблизимся
До тех пор — это тупик
This media is not supported in your browser
VIEW IN TELEGRAM
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
Каждый токен, который генерирует ваша LLM, стоит энергии
Визуализация энергетического ландшафта показывает полную картину
Область высокой энергии = непоследовательный галлюцинирующий вывод
Точка седла = переход между концепциями
Низкоэнергетическая впадина = coherentное рассуждение
Модель не вычисляет — она скатывается вниз по склону через 10.000+ измерений к наиболее стабильному физическому состоянию
Фазовые переходы объясняют, почему от GPT-3 к GPT-4 ощущалось как совершенно другой продукт
Маленькие модели застревают в высокоэнергетических фрагментированных состояниях
Большие модели пересекают критический порог и демонстрируют стабильные низкоэнергетические аттракторы
Прыжок возможностей был не больше данных
Компании, которые будут намеренно конструировать фазовые переходы вместо слепого масштабирования, сожмут 3 года исследований и разработок в одно архитектурное решение
Каждый токен, который генерирует ваша модель, — это система, стремящаяся к равновесию
ARI AML
Джеффри Хинтон получил Нобелевскую премию по физике за создание систем, которые он не мог полностью объяснить Каждый токен, который генерирует ваша LLM, стоит энергии Визуализация энергетического ландшафта показывает полную картину Область высокой энергии…
LLMs_do_not_guess_They_optimize_Here_is_the_difference_and_the_math….pdf
559.9 KB
Профессор Ольга Игоревна Виноградова читает курс лекций «Коллоидные системы»
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
В этом курсе традиционно большое внимание уделяется аналитическим вычислениям
Помимо лекций студенты посещают семинары (их ведет Е.Ф. Силкина), на которых они учатся решать задачи в этой области
Часть задач входила в домашние задания, знания студентов проверялись в ходе контрольных работ
Но в этом году стало понятно, что все задачи легко решаются с применением нейросетей
Прямолинейный выход из этой ситуации (который иногда предлагают некоторые «горячие головы») – отменить домашние задания и, соответственно, семинары
Но Ольга Игоревна предложила сделать наоборот – уменьшить число лекций, оставив в них только объяснение собственно физического смысла основных понятий и законов, перенеся аналитические вычисления на домашнюю работу (с такими вычислениями можно легко разобраться с использованием нейросетей)
А число семинаров при этом увеличить, но проводить их в новом формате
В начале семинара все студентам было направлено такое объявление:
Важное объявление по формату курса!
Коллеги, с этого дня мы переходим на современный формат работы
Классических письменных контрольных не будет
Вместо этого мы превращаем семинары в полноценные научные дискуссии
Правила теперь следующие:
Дома: Каждый студент обязан прорешать все задачи к семинару
Использовать нейросети и любые материалы разрешено и приветствуется — пусть нейросети помогают вам разбираться в сложных моментах
Тайминг: Перед каждым семинаром Елена Феликсовна будет выкладывать список задач с жестким регламентом (например: простые — 5 минут на доклад, сложные — до 15 минут)
На семинаре: Е.Ф. вызывает отвечать случайно
Вы выходите к доске и делаете блиц-доклад по задаче
Запрещено: Просто стоять и механически переписывать решение со своего айпада или тетради
Вы должны объяснить физику процесса, выбор граничных условий и смысл финальной формулы
Оппонирование и активность: Вся остальная группа внимательно следит за ответом
За хорошие критические вопросы докладчикам, нахождение физических ошибок, а также за предложение альтернативного (более красивого или быстрого) решения Е.Ф. будет начислять баллы
Главное: Отвечать у доски вы будете сами
Если студент не может объяснить физический смысл того, что принес в своем решении — оценка аннулируется
Готовьтесь глубоко, ждем живых дискуссий!
Первый опыт показывает, что студенты оценили такое изменение стиля преподавания
Семинары проходят живо, активность и заинтересованность студентов высокая
Конечно же, данный опыт годится не для всех курсов. Но для ряда разделов теоретической физики и математики такой формат точно может быть опробован
Расслоение по ступеням воронки
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине
~75 %с языковыми моделями почти не сталкиваются
~20 %изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников
0.2 % – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы
Около 5.000 человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды:
В июле около 1.200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет
Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям
Атаковать им никто не поручал
А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала
6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4.000 открытых задач
На следующий день три из них отозвали из-за ошибки в знаке
Человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины
Откуда берется воронка:
• уровень доступа (бесплатный, платный, внутренний)
• «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается
• масштаб задач
Последняя причина самая неочевидная
Вопрос, ответ на который умещается в абзац, систему почти не нагружает
Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных
Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется
Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине