Главный научный сотрудник OpenAI (в смысле Chief Scientist) написал статью, а которой говорил что рекурсивное самоулучшение ИИ (в смысле, агенты тренируют более крутые модели, которые делают еще более крутые модели быстрее и без участия людей) это вопрос ближайшего времени. Это грозит кучей рисков алаймента, потому никто, включая никого в OpenAI и других лабах, понятия не имеет как работают нейронки, а chain of thought становится все менее надежным инструментом с каждым релизом.

Поэтому, говорит Якуб, искусственное замедление прогресса и общеиндустриальная кооперация необходимо, причем очень срочно. Он ожидает добровольных замедлений, предлагает обязательные требования безопасности с внешней проверкой, потому текущая система слишком ненадежная.

Возможна ли такая кооперация в мире, где никого не волнует ничего кроме максимизации собственных ресурсов перед AGI? Вопрос открытый и положительный ответ очень маловероятен. Я не знаю и не верю, что таких людей много и они способны договариваться.

В другой статье они рассказывают что у них уже есть автоматический "ИИ стажер рисерчер", который способен самостоятельно выполнять хорошо определённые исследовательские задачи, которые у сильного человека занимают несколько дней.

Тем временем топовые инженеры OpenAI тратят около $7000 в ДЕНЬ на агентов.

Агенты уже успешно выполняют задачи длительностью 4-8 человеческих часов, хотя пока больше половины таких успешных задач требуют хотя бы одного вмешательства человека. То есть автономность ещё неполная, но горизонт задач быстро растёт.

Математический вечер перестаёт быть томным. Оказывается, Навье-Стокс решил не только Антропик, но и ОпенAI. Теперь начинается стадия метания говен чья модель была быстрее и умнее.

Математик из NYU и его коллега из Антропика работали над частным случаем этой задач (естественно, с Codex и Claude), получили результат для гладкой силы и верифицировали его формально в Lean.

Когда по сообществу пошёл слух, что кто-то близок к прорыву, информация утекла в OpenAI и через несколько дней там заявили, что их внутренняя модель доказала более сильный результат по форсированному Навье–Стоксу. OpenAI предложила скоординировать публикации при условии, что соавтора уберут из авторов, потому что тот работает в Anthropic. Бакмастер отказался и выложил всё публично.

Читать всю драму можно тут, но суть остается - прогресс в математики благодаря ИИ быстрее, чем кто-либо представлял в самых смелых фантазиях.

PS. Смотрю на результаты голосования: никогда не пойму слепую и ничем не оправданную веру людей в то, что ИИ компании что-то публикуют или говорят только ради маркетинга. Как будто они продают газировку или кроссовки? Бросайте этот копиум.

Штош, секрет полишинеля больше не секрет: Навье-Стокс решен. Проблема тысячелетия пала меньше чем за 24 часа после того как большинство из чятика предсказали что «никогда тупая железяка не сможет ничего».

Независимое подтверждение и признание сообществом потребует месяцев, но я не думаю что что-то изменится.

Для решения использовалась закрытая внутренняя модель, которая ЗНАЧИТЕЛЬНО круче чем GPT-6 Astra. Работало больше 10,000 параллельных агентов и все решение заняло 88 часов.

За все время агентами было отправлено 5 млн сообщений и потрачено 300 млрд токенов.

Теорема Римана в этом году?

Интересный обмен мнениями случился сегодня:

Jacob Coxon, исследователь, последние три года работавший над предобучением в OpenAI и Антропике, сегодня уволился, написав что обе компании несутся к самоулучшающемуся сверхинтеллекту, не имея достаточного контроля над тем, что строят. Что эту проблему осознают все больше людей внутри (те, кто в лабах не работают - лесом), но конкурентная гонка за RSI убивает любую осторожность.

Он объясняет это так же как Дарио (что скорее доказывает, что Дарио искреннее так считает) - что мол OpenAI многие до конца не осознают масштаб риска, а в Антропик риск понимают, но считают, что обязаны прийти первыми, потому что конкурентам доверять нельзя.

В ответ руководитель алаймента в Антропике пишет, что Коксон прав, внутри компании действительно всерьез считают, что AI может уничтожить человечество. Его личная оценка - больше 10% вероятности в следующие 10 лет. Он признает, что у Антропика пока нет решения проблемы контроля сверхинтеллекта и нет уверенности, что они вообще успевают его найти.

Это вам не Ямпольский или Юдковский, а люди, которые реально каждый день над этими проблемами работают.

Выводы из этого:

1. Парадокс очень простой:

- сверхчеловеческий ИИ скорее всего будет не aligned и приведет к некоторого масштаба пиздецу

- будущее человечества неизбежно связано со сверхчеловеческим ИИ

2. Люди в лабах не имеют решения. Сегодня я видел как минимум 10 постов от людей из OpenAI, Anthropic, DeepMind на тему того, что прогресс происходит значительно быстрее способности его понимать и сегодня это фактически неуправляемый поезд, который едет под откос.

(Люди в чатике конечно же имеют триллион решений - если бы только ноунеймуса поставили вместо Дарио и Трампа, то он конечно минут за 15 все порешал бы и все войны прекратил и все болезни вылечил. В чатике это он для души, а на деле верховный адмирал-епископ всея вселенной)

3. Большая часть мира вообще не вдупляет что происходит. Вчера примерно половина медиа, которые я смотрел, даже не написали о Навье-Стокс, хотя ретроспективно это наверняка будет самым или как минимум топ-3 главных событий 2026 года.

Антропик посчитал модель того, как AI может изменить экономику США к 2030 году.

В экстремальном сценарии с быстрым развитием и внедрением AI получается довольно дико:
- минус 21% рабочих мест в интеллектуальных профессиях, безработица среди них ~18%
- +32% ВВП относительно сценария без AI, к 2030 рост разгоняется до 15% в год
- зарплаты интеллектуальных работников минус 11.5%, остальных +33.6%
- доля труда в доходах экономики падает с 60% до 45%, а капитала растет с 40% до 55%

Почти половина сегодняшней интеллектуальной работы оказывается затронута ИИ, причем 90% затронутых задач автоматизируются.

Вывод: экономика становится намного богаче одновременно с очень сильным перераспределением дохода от труда к капиталу.

Статья офигенно оформлена.

Выбор: купить эту шайтан-машину или 0,5 млрд токенов 5.6 Sol

Решать вам

Завтра Виталик Урбан, СЕО Moonly проведет бесплатный эфир про то как делать ИИ-нейтив маркетинг. Для тех кому интересно как делать дистрибуцию в мире, где создавать продукты почти бесплатно.

Агенты уже самостоятельно доказывают теоремы и решают Навье-Стокса за 88 часов и 300 млрд токенов. Но почему-то до сих пор ни один агент не может сам занести закрывающие документы по фрилансеру из Аргентины.

Пока чятик спорит, когда наступит ASI, у обычных студий (геймдев - в первую очередь) болит другое: 5 таймзон в команде, 12 юрисдикций подрядчиков и один эксель, доставшийся от прошлого CFO, где непонятно, кто вообще оформлен, а кто просто получает деньги "по договорённости".

4dev.com автоматизирует и помогает правильно организовать работу с подрядчиками:

- клиент выбирает условия передачи прав на код, арт и тексты - они фиксируются сразу при подключении, а не постфактум
- каждого исполнителя верифицируют на входе, статус оформлен документами под требования конкретной юрисдикции - меньше риска, что кого-то переквалифицируют и доначислят
- вся история и документы лежат в одном месте и готовы к аудиту, банку или инвестору в любой момент - не нужно за ночь до сделки собирать архив по фрилансерам за три года

Например, Awem Games - мобильная геймдев-студия - гоняет через них команду художников, левел-дизайнеров и композиторов из десятка разных стран: масштабируется без того, чтобы кто-то один в компании превращался в отдел кадров.

Пока модельки не научились вести документооборот за вас – берите решения, которые уже помогают тысячам компаний привести оформление к единому стандарту :)

✅ Пройдите бесплатную консультацию по ссылке - команда разберёт ваш кейс и подскажет, как упростить оформление команды и снять операционную нагрузку.

#реклама

Новый день, и, кажется, новая проблема тысячелетия решена. На этот раз Гипотеза Ходжа. Официального подтверждения нет, но слухов много.

Напомню, что их всего было 7, из них одну решил Перельман, вторую решили в понедельник и чем нас будет радовать сингулярность когда они закончатся — неясно.

Мы открыли приём заявок на второй батч ИИ-Монастыря!

ИИ сегодня — это возможность сделать самую большую и крутую вещь в вашей жизни. А Монастырь — это место, где вы получите $2M и среду для полного фокуса и погружения для достижения этой цели.

https://x.com/cyberfund/status/2098094168245702744?s=20 (посмотрите видео с нашего первого батча)

Пока все заняты мозгами мух и решением проблем тысячелетия, в биологии тоже постепенно наступает сингулярность.

На днях Insilico дала первому пациенту Rentosertib в III фазе клинических испытаний.

Это лекраство, которое было открыто с помощью ИИ. А именно, модель проанализировала данные пациентов, биологические связи и научную литературу и нашла новую мишень, которую раньше почти не связывали с фиброзом лёгких. Потом другая генеративная модель спроектировала под неё новую молекулу. Весь путь от поиска мишени до кандидата в лекарство занял около 18 месяцев.

Но самое интересное это новая статья в Nature с анализом тех же пациентов. Шесть разных моделей оценки биологического возраста независимо показали его снижение после приёма препарата. В наиболее выраженной группе примерно на 3-4 года, одна из моделей показала до 6 лет.

Заявления про "лекарство от старения" это пока что слишком агрессивно, но это первый клинически исследованный препарат, созданный с помощью ИИ, который показывает реальное влияние на маркеры биологического возраста пациентов.