Илья дал большое интервью:
https://www.youtube.com/watch?v=aR20FWCCjAs

Вот главное:

– Сейчас модели выглядят намного умнее на тестах, чем в реальных задачах: они переобучены на эвалы и плохо обобщают, особенно в сложных многошаговых сценариях

– Главный технический барьер к AGI - ненадёжное обобщение и низкая «человеческая» обучаемость; простое масштабирование предобучения и RL это не решит

– Эпоха «масштабируем всё предобучением» заканчивается: данные конечны, RL жрёт много вычислений; начинается новая «эпоха исследований» с поиском новых рецептов обучения (в т.ч. ценностные функции, архитектур моделей, другие виды RL и т.п.).

– Будущее AGI видится как система, которая учится как человек: один и тот же базовый разум может быстро осваивать разные профессии, постоянно дообучаясь в реальном мире, а не «готовый мозг, который знает всё из коробки»

– Массовое распространение таких АИ-учеников по экономике почти неизбежно приведёт к очень быстрому росту производительности и ВВП; скорость будет сильно зависеть от регулирования в разных странах

– Скорее всего появится много сверхсильных АИ от разных компаний, специализирующихся по нишам (право, медицина, R&D и т.д.), а не один «богоподобный» монополист-суперинтеллект (аниме Пантеон смотрели? Пора если нет)

– Основной риск - огромная мощь: если сделать чрезвычайно сильного целеустремлённого агента, даже с «хорошей» целью, результат может сильно не понравиться людям; желательно ограничивать максимальную мощность единичных систем

– В качестве цели для первых суперинтеллектов он рассматривает «заботу о чувствующих существах» (в т.ч. о самом АИ) как более реалистичную и устойчивую, чем «забота только о людях», но признаёт, что это не идеальное решение

– Он ожидает постепенный, но всё более заметный показ мощных АИ обществу: по мере роста реальной силы моделей компании и государства станут намного более параноидальны и начнут активно координироваться по безопасности и регулированию

– Краткосрочный «хороший» сценарий - универсальный высокий доход и то, что АИ делает почти всю работу; долгосрочно это нестабильно, потому что люди выпадают из активного участия в принятии решений

– Один из возможных (ему самому не очень нравящийся) способов долгосрочной стабилизации - частичное слияние людей с АИ через продвинутые нейроинтерфейсы, чтобы люди разделяли понимание с системами и оставались в контуре управления

– Оценка горизонта: до АИ, который учится как человек и может стать базой для суперинтеллекта, примерно 5-20 лет; текущий «чистый масштабинг» в какой-то момент упрётся в потолок

– SSI (его АИ лаба) он описывает как «чисто исследовательскую» компанию с другим техническим подходом к обобщению и безопасности, которая не ставит ставку на простое наращивание масштаба текущих архитектур, и ожидает, что в итоге крупные игроки всё равно сойдутся в общих стратегиях по безопасному выводу суперинтеллекта в мир

Я, когда меня спрашивают про сроки проекта

А вот так выглядит LoFi если Gemini 3, Opus 4.5 и GPT 5.1 Pro попросить улучшать результаты генератора музыки друг друга

Suno не нужен:
https://shir-man.com/lofi-generator/

В очередной раз в ютубе увидел видео в стиле «ЧатГПТ отупляет», где по факту все свелось к тому, что «Сделанная работа за тебя отупляет», а не сам ЧатГПТ и решил проверить а сколько нужно вникнуть в материал чтобы он остался в голове хоть в каком-то виде после прочтения – мне кажется это новая проблема в мире АИ ассистентов, особенно, если представить что в следующем году LLM будут еще меньше ошибаться при работе, чем сейчас

5.1 Pro говорит, что нужно заложить в 3 раза больше времени на работу с уже написанной задачей, чем обычное время на прочтение этого же текста – сюда входит: переформулирование, уточнение вопросов, проверка источников, воспоминание материала, интервальные подходы к задаче и тп.

Выглядит так, что многие люди правда хорошо учились в школе или университете, и не списывали, и удивляются что некоторые вещи написанные АИ в голове не остаются – сюрприз, списывальщики так живут и те кто по умнее учат, что списали

Понятно что нейро-хирургом за х3 времени от одного ответа не станешь, но ответ хоть запомнишь, в этом же смысл

Тут целиком ее рассуждения