Lately people who know what I’m working on keep asking me the same question: does it even make sense to build an alliance of programmers if AI is about to replace programmers?
After hearing this question too many times, I decided to write a short article explaining why the real challenge of the AI era may not be writing code at all
https://medium.com/p/b5af54f7f8dd?postPublishedType=initial
After hearing this question too many times, I decided to write a short article explaining why the real challenge of the AI era may not be writing code at all
https://medium.com/p/b5af54f7f8dd?postPublishedType=initial
Medium
AI Will Write the Code. But Who Will Take Responsibility for the Life of Software?
AI can already generate software at unprecedented speed.
фотография участников первой международной топологической конференции в Москве (1935)
на фотографии можно видеть Чеха, Уитни, Лефшеца, Фрейденталя, Борсука, Тумаркина, ван Кампена, Александера, Хопфа, П.С. Александрова и др.
см. тж. http://mi.mathnet.ru/umn5952 и https://arxiv.org/abs/1903.02065
на фотографии можно видеть Чеха, Уитни, Лефшеца, Фрейденталя, Борсука, Тумаркина, ван Кампена, Александера, Хопфа, П.С. Александрова и др.
см. тж. http://mi.mathnet.ru/umn5952 и https://arxiv.org/abs/1903.02065
Диаграмма о влиянии AML на рынок труда от Anthropic
Иллюстрация того, где мы находимся в части проникновения AML в экономику
Anthropic предлагает метрику, которая объединяет теоретические возможности LLM с реальными данными об использовании
Синяя зона - теоретическое покрытие, то есть мог бы делать
Красная зона - реальное использование - что люди реально делают сейчас с Claude
Интересно, где красная зона почти исчезает - сферы, что правее и ниже: здравоохранение, образование, искусство и медиа
Несмотря на высокий теоретический потенциал, реального проникновения почти нет — из-за регуляторных барьеров, профессиональной культуры, требований верификации человеком
Левая сторона — синяя зона тоже маленькая, потому что физический труд изначально недоступен LLMB
Здесь нет разрыва, потому что нет ни теоретического потенциала, ни реального использования
Красная зона будет расти
Вопрос только в том, в каком порядке и с какой скоростью она будет догонять синюю
Иллюстрация того, где мы находимся в части проникновения AML в экономику
Anthropic предлагает метрику, которая объединяет теоретические возможности LLM с реальными данными об использовании
Синяя зона - теоретическое покрытие, то есть мог бы делать
Красная зона - реальное использование - что люди реально делают сейчас с Claude
Интересно, где красная зона почти исчезает - сферы, что правее и ниже: здравоохранение, образование, искусство и медиа
Несмотря на высокий теоретический потенциал, реального проникновения почти нет — из-за регуляторных барьеров, профессиональной культуры, требований верификации человеком
Левая сторона — синяя зона тоже маленькая, потому что физический труд изначально недоступен LLMB
Здесь нет разрыва, потому что нет ни теоретического потенциала, ни реального использования
Красная зона будет расти
Вопрос только в том, в каком порядке и с какой скоростью она будет догонять синюю
LLM плохо обновляют убеждения по мере получения новой информации
Хотя от модели ожидается, что она должна понимать предпочтения пользователя по его ответам и при накоплении таких данных становится полезнее, на самом деле LLM в этом плохи
С математической точки зрения это означает, что у моделей нет байесовского мышления, то есть умения обновлять вероятность гипотез при поступлении новой информации
У людей, кстати, такое мышление должно быть хорошо развито
Здесь исследователи предлагают интересный подход
Вместо того, чтобы учить модель обновлять знания с помощью файнтюна на обычных диалогах, они берут и дистиллируют в нее настоящий байесовский алгоритм
То есть:
• строится обычный автомат Байеса, который знаком всем, кто изучал классический ML
Он решает задачу, просто обновляя вероятность разных гипотез по формуле
• LLM файнтюнят на ответах алгоритма, чтобы она переняла общую логику обновления, но уже без формулы
Во-первых, модель действительно начинает вести себя ближе к байесовскому оптимуму и учитывать новые данные
На основной задаче рекомендаций качество заметно увеличилось
Во-вторых, появилось обобщение
То есть модель фактически выучивает сам принцип рассуждения, и начинает использовать эту стратегию в других задачах, где ее напрямую не обучали
Короче говоря, довольно показательно, и авторы делают вывод о том, что обучение на демонстрациях алгоритмов в целом – работает
В действительности, мы ведь и правда хотим от LLM, чтобы они были не просто генераторами текста, а универсальными имитатороми алгоритмов мышления
research.google/blog/teaching-llms-to-reason-like-bayesians/
Хотя от модели ожидается, что она должна понимать предпочтения пользователя по его ответам и при накоплении таких данных становится полезнее, на самом деле LLM в этом плохи
С математической точки зрения это означает, что у моделей нет байесовского мышления, то есть умения обновлять вероятность гипотез при поступлении новой информации
У людей, кстати, такое мышление должно быть хорошо развито
Здесь исследователи предлагают интересный подход
Вместо того, чтобы учить модель обновлять знания с помощью файнтюна на обычных диалогах, они берут и дистиллируют в нее настоящий байесовский алгоритм
То есть:
• строится обычный автомат Байеса, который знаком всем, кто изучал классический ML
Он решает задачу, просто обновляя вероятность разных гипотез по формуле
• LLM файнтюнят на ответах алгоритма, чтобы она переняла общую логику обновления, но уже без формулы
Во-первых, модель действительно начинает вести себя ближе к байесовскому оптимуму и учитывать новые данные
На основной задаче рекомендаций качество заметно увеличилось
Во-вторых, появилось обобщение
То есть модель фактически выучивает сам принцип рассуждения, и начинает использовать эту стратегию в других задачах, где ее напрямую не обучали
Короче говоря, довольно показательно, и авторы делают вывод о том, что обучение на демонстрациях алгоритмов в целом – работает
В действительности, мы ведь и правда хотим от LLM, чтобы они были не просто генераторами текста, а универсальными имитатороми алгоритмов мышления
research.google/blog/teaching-llms-to-reason-like-bayesians/
AML
Lately people who know what I’m working on keep asking me the same question: does it even make sense to build an alliance of programmers if AI is about to replace programmers? After hearing this question too many times, I decided to write a short article explaining…
Пока мировые медиа обсуждают битву за полупроводники и гонку нейросетевых чипов, в науке тихо зреет куда более радикальная идея — а что, если вместо всё более сложных микросхем просто взять и использовать живые нейроны?
Австралийская компания Cortical Labs уже сделала это: подключила лабораторно выращенные клетки к биокомпьютеру и заставила их пройти трёхмерный шутер DOOM
Причём речь не о клетках мыши или дрозофилы — нейроны были получены методом репрограммирования из клеток кожи и крови обычных взрослых людей
Этот крошечный сгусток человеческой ткани в чашке Петри превзошёл GPT-4 по скорости реакции
То, на что у кремниевого AML уходят мегаватты энергии, кусочек чьего-то бывшего эпидермиса делает мгновенно
Пентагон тоже решил этим заняться
DARPA объявило о будущей программе O-CIRCUIT по созданию «биологических процессоров» для боевых дронов
Цель — создать принципиально новый класс боевых систем
Логика у американских стратегов проста: дрон-убийца на передовой требует мощного процессора, тот требует тяжёлых аккумуляторов, те убивают автономность
Замкнутый круг
Решение — выбросить кремний и вырастить вместо него живые нейронные сгустки из нервных, глиальных и иммунных клеток
В качестве эталона эффективности DARPA приводит мозг плодовой мушки: 140.000 нейронов, всего 6 милливатт-часов в сутки, маневрирует лучше любого квадрокоптера
Программа разбита на две задачи:
Первая — вырастить биопроцессор, который будет играть в «Ms. Pac-Man» на уровне человека и удерживать этот навык сутками
Pac-Man по своей математической сути — это навигация в замкнутом лабиринте, непрерывный поиск целей и уклонение от угроз. Переведите это на язык войны — и получите автономный живой контроллер для зачистки подземных тоннелей, траншейных сетей, городских кварталов
Вторая — скрестить живой мозг с биологическим обонятельным сенсором и встроить его в дрон
Цель — идти по химическому следу
Электронный нос уступает собачьему в чувствительности на порядки, никакой кремниевый газоанализатор не сравнится с живой обонятельной тканью. Но главное нечувствительность
Дрон, идущий на запах взрывчатки, пороховых газов или человеческого метаболизма — пота, выдыхаемого CO₂, адреналина — физически невозможно заглушить радиопомехами
Американцы десятилетиями продавали миру культ кремния — чипы, процессоры, цифровое превосходство
А потом пришли к тому, что природа придумала лучше
Только это открытие они сделали в военной лаборатории, а не в философской
Австралийская компания Cortical Labs уже сделала это: подключила лабораторно выращенные клетки к биокомпьютеру и заставила их пройти трёхмерный шутер DOOM
Причём речь не о клетках мыши или дрозофилы — нейроны были получены методом репрограммирования из клеток кожи и крови обычных взрослых людей
Этот крошечный сгусток человеческой ткани в чашке Петри превзошёл GPT-4 по скорости реакции
То, на что у кремниевого AML уходят мегаватты энергии, кусочек чьего-то бывшего эпидермиса делает мгновенно
Пентагон тоже решил этим заняться
DARPA объявило о будущей программе O-CIRCUIT по созданию «биологических процессоров» для боевых дронов
Цель — создать принципиально новый класс боевых систем
Логика у американских стратегов проста: дрон-убийца на передовой требует мощного процессора, тот требует тяжёлых аккумуляторов, те убивают автономность
Замкнутый круг
Решение — выбросить кремний и вырастить вместо него живые нейронные сгустки из нервных, глиальных и иммунных клеток
В качестве эталона эффективности DARPA приводит мозг плодовой мушки: 140.000 нейронов, всего 6 милливатт-часов в сутки, маневрирует лучше любого квадрокоптера
Программа разбита на две задачи:
Первая — вырастить биопроцессор, который будет играть в «Ms. Pac-Man» на уровне человека и удерживать этот навык сутками
Pac-Man по своей математической сути — это навигация в замкнутом лабиринте, непрерывный поиск целей и уклонение от угроз. Переведите это на язык войны — и получите автономный живой контроллер для зачистки подземных тоннелей, траншейных сетей, городских кварталов
Вторая — скрестить живой мозг с биологическим обонятельным сенсором и встроить его в дрон
Цель — идти по химическому следу
Электронный нос уступает собачьему в чувствительности на порядки, никакой кремниевый газоанализатор не сравнится с живой обонятельной тканью. Но главное нечувствительность
Дрон, идущий на запах взрывчатки, пороховых газов или человеческого метаболизма — пота, выдыхаемого CO₂, адреналина — физически невозможно заглушить радиопомехами
Американцы десятилетиями продавали миру культ кремния — чипы, процессоры, цифровое превосходство
А потом пришли к тому, что природа придумала лучше
Только это открытие они сделали в военной лаборатории, а не в философской
Corticallabs
Cortical Labs
We've combined lab-grown neurons with silicon chips and made it available to anyone, for first time ever.
2512.24873.pdf
11.7 MB
AML – цепочка из пяти уровней, от чипов и облаков до моделей и приложений
И все больше этих уровней концентрируется в руках одних и тех же глобальных компаний
Каждый из уровней требует значительных инвестиций и выигрывает от масштаба и вертикальной интеграции
В результате именно крупнейшие игроки получают системные преимущества
Среди 20 крупнейших мировых компаний в сфере AML семь базируются в США, и их совокупная капитализация более чем вдвое превышает капитализацию остальных 13 и представлены пятью юрисдикциями: США, Китай, Тайвань, Южная Корея и Нидерланды
Американские и китайские компании присутствуют сразу на нескольких или на всех уровнях цепочки, от вычислительных ресурсов до приложений
TSMC или ASML, сохраняют узкую специализацию на критически важных компонентах (например, чипах)
OpenAI и Anthropic – лидируют в разработке моделей, но опираются на партнерства для доступа к инфраструктуре
К концу 2025 г. на их долю приходилось до 40 % рыночной капитализации в США, на Тайване, в Южной Корее и Нидерландах и формируют существенную часть корпоративных инвестиций и выручки в этих юрисдикциях
Это означает влияние на инвестиционные циклы мировой экономики, формирование совокупного спроса, производительность
«Когда движутся гиганты, земля может двигаться вместе с ними»
Масштабы и вертикальная интеграция позволяют гигантам поглощать издержки и ускорять инновации
Однако высокая концентрация усложняет вход на рынок новых компаний и ограничивает конкуренцию
Вопрос ближайших лет – смогут ли регуляторы и национальные стратегии «суверенного AML» поддержать конкуренцию, не замедлив инновации
AML становится инфраструктурой
А инфраструктура всегда имеет системное значение
И все больше этих уровней концентрируется в руках одних и тех же глобальных компаний
Каждый из уровней требует значительных инвестиций и выигрывает от масштаба и вертикальной интеграции
В результате именно крупнейшие игроки получают системные преимущества
Среди 20 крупнейших мировых компаний в сфере AML семь базируются в США, и их совокупная капитализация более чем вдвое превышает капитализацию остальных 13 и представлены пятью юрисдикциями: США, Китай, Тайвань, Южная Корея и Нидерланды
Американские и китайские компании присутствуют сразу на нескольких или на всех уровнях цепочки, от вычислительных ресурсов до приложений
TSMC или ASML, сохраняют узкую специализацию на критически важных компонентах (например, чипах)
OpenAI и Anthropic – лидируют в разработке моделей, но опираются на партнерства для доступа к инфраструктуре
К концу 2025 г. на их долю приходилось до 40 % рыночной капитализации в США, на Тайване, в Южной Корее и Нидерландах и формируют существенную часть корпоративных инвестиций и выручки в этих юрисдикциях
Это означает влияние на инвестиционные циклы мировой экономики, формирование совокупного спроса, производительность
«Когда движутся гиганты, земля может двигаться вместе с ними»
Масштабы и вертикальная интеграция позволяют гигантам поглощать издержки и ускорять инновации
Однако высокая концентрация усложняет вход на рынок новых компаний и ограничивает конкуренцию
Вопрос ближайших лет – смогут ли регуляторы и национальные стратегии «суверенного AML» поддержать конкуренцию, не замедлив инновации
AML становится инфраструктурой
А инфраструктура всегда имеет системное значение
«Вообще, если не знать, что Риман был очень умный человек, а посмотреть только на интеграл Римана, то это кажется сомнительным
Вот Вы идете вдоль забора из реек одинаковой ширины, но разной длины, и хотите посчитать площадь забора
Что делает Риман?
Измеряет длину каждой рейки, умножает на ширину и складывает
Кто же так делает?
Надо пойти в прорабскую и узнать, сколько реек каждой длины пошло на забор
Это то, что делает Лебег»
воспоминания И.Д. Новикова
Forwarded from НИИ Антропогенеза (ARI)
"Студенты, которые занимались удаленно с AML, усвоили материал в два раза лучше тех, кто работал в аудитории с преподавателем по методике активного обучения, <...> на физическом факультете Гарварда <...>"
- по статье Kestin, G., Miller, K., Klales, A. et al. AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational setting. Sci Rep 15, 17458 (2025)
https://doi.org/10.1038/s41598-025-97652-6
<...> через несколько лет <...> AML заберет первое объяснение и тренировку базовых шагов, а очное время с преподавателем освободится для того, на что раньше катастрофически не хватало времени: разбора ошибок, живых дискуссий, синтеза идей, межпредметных проектов и задач без единственно правильного ответа <...>
Одни университеты просто купят готовый сервис и встроят его в расписание
Но, наверное, найдутся и другие, которые постараются сами стать «немножечко EdTech-ом»
То есть попробуют обучить «домашние» модели, оцифровать накопленную экспертизу <...>
https://t.me/aireformer/38 (Scientific Reports соображения представляются мне в целом здравыми, статья в Sci Rep, от которой они отталкиваются, вышла в июне прошлого года и на данный момент, как подсказывает AML-сервис Elict, нет полной ясности, насколько воспроизводимы её результаты)
Nature
AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational…
Scientific Reports - AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational setting
Интернет переполнен анонимусами, но ольшие языковые модели (LLM) могут массово устанавливать личности владельцев
LLM анализирует посты пользователя, изучая неструктурированный текст: комментарии, шутки, упоминания об образовании и стиль письма
Затем он преобразует данные в математическое представление профиля (профайл) и ищет совпадения среди миллионов других профилей, включая LinkedIn
Исследователи протестировали систему на почти 1.000 профилях LinkedIn и сопоставили их с аккаунтами на Hacker News и Reddit
Результаты показывают, что такая система может быть полезна мстителям и всему, что имеет отношение к внутренним органам
LLM анализирует посты пользователя, изучая неструктурированный текст: комментарии, шутки, упоминания об образовании и стиль письма
Затем он преобразует данные в математическое представление профиля (профайл) и ищет совпадения среди миллионов других профилей, включая LinkedIn
Исследователи протестировали систему на почти 1.000 профилях LinkedIn и сопоставили их с аккаунтами на Hacker News и Reddit
«Практическая незаметность, которая долгое время защищала пользователей под никами... больше не работает, — резюмируют авторы исследования. — Пользователи, которые пишут под постоянными никами, должны исходить из того, что злоумышленники могут связать их аккаунты с реальными личностями или друг с другом, и что вероятность этого растет с каждым фрагментом публикуемых ими микроданных»
Результаты показывают, что такая система может быть полезна мстителям и всему, что имеет отношение к внутренним органам
Наука
Искусственный интеллект может положить конец анонимности в интернете
Исследователи настроили модель на массовую онлайн-деанонимизацию пользователей и получили ошеломительные результаты.
AGI — Superhuman Adaptable Intelligence (SAI): система, которая умеет быстро адаптироваться к новым задачам, а не просто имитирует человека
Аргумент: человеческий интеллект эволюционно специализирован, а не универсален — мы просто не видим собственных слепых зон
Существующие определения AGI не выдерживают критики: одни нарушают теорему No Free Lunch, другие неизмеримы
Технически авторы ставят на модели мира и самообучение — и критикуют монополию GPT-архитектур: «Однородность убивает исследования»
Аргумент: человеческий интеллект эволюционно специализирован, а не универсален — мы просто не видим собственных слепых зон
Существующие определения AGI не выдерживают критики: одни нарушают теорему No Free Lunch, другие неизмеримы
Технически авторы ставят на модели мира и самообучение — и критикуют монополию GPT-архитектур: «Однородность убивает исследования»
Российские физики создали нейросеть, которая способна решать сложные квантовые уравнения и моделировать реальные сверхпроводники на микроскопическом уровне.
https://nkj.ru/news/57861/
https://nkj.ru/news/57861/
Наука и жизнь
Нейросеть исследует сверхпроводимость
Реальные сверхпроводящие материалы имеют неидеальную структуру с различными хаотично расположенными дефектами и примесями. Именно в этом беспорядке и возникают различные интересные квантовые эффекты. Например, куперовские пары (связанные пары электронов)…
Cовременные конфликты ведутся преимущественно в сфере мышления
Индустриальная модель массового поражения уступила место борьбе за восприятие и формирование «нарративного контекста»
Применение смертоносной силы сохраняет свою эффективность, но ее стратегический эффект зависит от того, укрепляет ли она доверие и способствует ли достижению последовательных политических целей
Зато в обществах, связанных цифровыми технологиями, население интерпретирует события в режиме реального времени и соответствующим образом формирует политические результаты
В центре разработки военных кампаний теперь находятся давние противостояния (противоречия) населения, влияющие на операции, стратегическую коммуникацию, психологические операции, киберпространственную пропаганду и экономическую политику
Фрагментация социальных сетей, дезинформация и искусственный интеллект усилили борьбу за доминирование в информационном пространстве
Тактический успех, подрывающий доверие или подпитывающий пропаганду противника, может подорвать более широкие цели
Индустриальная модель массового поражения уступила место борьбе за восприятие и формирование «нарративного контекста»
Применение смертоносной силы сохраняет свою эффективность, но ее стратегический эффект зависит от того, укрепляет ли она доверие и способствует ли достижению последовательных политических целей
Зато в обществах, связанных цифровыми технологиями, население интерпретирует события в режиме реального времени и соответствующим образом формирует политические результаты
В центре разработки военных кампаний теперь находятся давние противостояния (противоречия) населения, влияющие на операции, стратегическую коммуникацию, психологические операции, киберпространственную пропаганду и экономическую политику
Фрагментация социальных сетей, дезинформация и искусственный интеллект усилили борьбу за доминирование в информационном пространстве
Тактический успех, подрывающий доверие или подпитывающий пропаганду противника, может подорвать более широкие цели
🤔1
Клод Opus 4.6 только что решил открытую задачу, над которой работал неделями — гипотезу о разложении графа из книги "Искусство компьютерного программирования"
Он назвал статью "Циклы Клода"
31 исследование. ~1 час
Кнут прочитал результат, написал формальное доказательство и в конце добавил: «Похоже, в ближайшее время мне придется пересмотреть свое отношение к генеративному искусственному интеллекту»
Так сказал человек, написавший библию информатики
В статье, названной в честь искусственного интеллекта
Статья:
https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf
Он назвал статью "Циклы Клода"
31 исследование. ~1 час
Кнут прочитал результат, написал формальное доказательство и в конце добавил: «Похоже, в ближайшее время мне придется пересмотреть свое отношение к генеративному искусственному интеллекту»
Так сказал человек, написавший библию информатики
В статье, названной в честь искусственного интеллекта
Статья:
https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf
Минцифры может закрепить право граждан на отказ от обслуживания с применением искусственного интеллекта
Если клиент не хочет взаимодействовать с нейросетями, организация обязана будет предоставить ему услугу без их использования
Документ в настоящее время проходит межведомственное согласование, его вступление в силу предварительно планируется на 1 сентября 2027 года
Если клиент не хочет взаимодействовать с нейросетями, организация обязана будет предоставить ему услугу без их использования
Документ в настоящее время проходит межведомственное согласование, его вступление в силу предварительно планируется на 1 сентября 2027 года