Господа!

Последние годы я начинаю наш старейший спецкурс краткой версией "Леммингов" (выжимкой из цикла "Как программисту преуспеть по жизни"), где в том числе пунктиром даю понятие "периода полураспада знаний".

Смысл простой — осознать, от каких факторов зависит срок, в течении которого вы забудете полученные знания на следующий день после экзамена.

На мой вкус это критичнейшая тема для любого студента, который собирается работать по специальности.

Четыре дня назад Anthropic выкатил "Anthropic Education Report: How University Students Use Claude". Они своими штатными средствами анализа чатов общения с Claude проанализировали полмиллиона (574+ тысячи) чатов пользователей с адресами американских университетов (отфильтрованные *.edu).

Все чаты они классифицировали на прямые ответы и сотрудничество, а также на решение проблем и создание результата. Условно:

* Прямое решение проблемы
Запросы типа "реши дифференциальное уравнение"

* Прямое создание результата
Запросы: "Напиши программу, которая ..." ("Напиши эссе..." etc)

* Сотрудничество в решении проблемы
Запросы: "Объясни основы программирования с примерами на Питоне"

* Сотрудничество в создании результата
Запросы: "Посмотри мой текст и дай по нему замечания"

Любопытно, что чатов с сотрудничеством набирается около 53%, т.е. студенты довольно часто не просто сгружают домашки LLM. В данном случае это, очевидно, можно рассматривать как огромный шаг вперед по сравнению с Google Lens в режиме "домашнее задание", когда доля "Прямого решения" у школьников была около 100% 🤦‍♂️😁 (писал про это подробно тут).

Можно было бы кричать "Ура!", если бы не было остальных 47% 😉 Очевидно, что у студентов появилась возможность автоматически или полуавтоматически делать довольно сложные домашние задания, которой раньше не было. Примерно то же мы наблюдаем в наших спецкурсах, когда доля решений с использованием Copilot/Cursor/GPT явно растет.

Когда-то считалось, что ИИ в будущем сильно облегчит труд учителей (проверяющих сочинения, например), однако на практике ИИ на данный момент существенно облегчил труд учеников 🤷‍♂️😉😉😉

Фундаментальных проблемы тут две:
1. Определить автоматическое решение минимум на порядок сложнее, чем автоматически решить.
2. Платежеспособность учеников/студентов в России примерно на два порядка превышает платежеспособность учителей/преподавателей.

Итого — 3 порядка разницы минимум. Это много. 🤔

Так в ИТМО, где я являюсь председателем ГЭК магистров, гордятся, что проверяют все магистерские диссертации в Антиплагиате. Но не секрет, что основные деньги Антиплагиат зарабатывает на студентах, которые итеративно скармливают ему свои работы до тех пор, пока % плагиата не упадет до зачетного. А вузам они делают огромные оптовые скидки, чтобы завлечь побольше, РОВНО чтобы мотивировать студентов больше им платить в розницу. 🤷‍♂️😁 Ничего личного, просто бизнес-модель. 😉

До кучи, Google тут вчера выкатил https://notebooklm.google, который позволяет оптом обрабатывать до 50 источников и строить по конспекты, майндмапы, рефераты, введения в дипломы и т.п.

Как следствие таких прекрасных новостей... Вангую, что в ближайшие 3 года период полураспада знаний у текущих студентов заметно уменьшится. Т.е. доля студентов, которые не будут знать элементарных профессиональных вещей сильно возрастет.

Хороший вопрос, что с этим делать (и надо ли). Мое мнение — пока не будет дорого платного образования (когда преподавателям будут хорошо платить за решение этой проблемы), проблема решаться не будет (а студенты будут счастливы, легко сдавая курсы))). И даже в платном случае... Наблюдаю за дискуссиями на эту тему в чате преподавателей ФКН (самого крупного IT факультета России, на секундочку, набор бакалавров в 4 раза превосходит ВМК) и вижу, что проблема так просто не решается. 🤷‍♂️

Это шикарная новость для тех, кто собирается быть конкурентоспособным, я считаю (ибо конкуренция в топе рынка труда в России явно будет снижаться)! 😁

Sapienti sat. 😉

Господа!

У нас очередной праздник!

Статью на ICML, ту самую, у которой было 2 LLM-ревьювера, все статьи которых сняли с конференции, где текст ребаттала превысил по размеру текст статьи и 3 из 4 ревьюверов подняли свои оценки в итоге ПРИНЯЛИ! УРА-А-А!!! 💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃

Что хотелось бы отметить. Получается, что за последние 4 года 4 наших студента/аспиранта стали первыми авторами на А* конференциях! 🙂🙂🙂

Первый автор (которых бывает несколько с характерной звездочкой equal contribution, но у нас все чисто первые) — это обычно человек, сделавший основной вклад в статью и нередко основной организатор процесса.

В общем — пока держим темп +1 человек в год 💪 (что очень неплохо)

По тому, сколько сейчас статей находится в работе есть все шансы выйти на уровень +2 человека в год (плотно работаем над этим)! 😁

Замечу, что еще недавно Яндекс хвастался, что они подают А* больше, чем любой университет России, а с недавних пор с первого места их уверенно оттеснил Сбер (в лице AIRI). Происходит так потому, что они активно нанимают таких людей, причем платят очень хорошо, ибо западные компании таких людей нанимают с неменьшим удовольствием (рекламу вакансии с требованием А* и размер зарплаты там я показываю на лекциях).

А нанимают с радостью, поскольку способность затащить А* сегодня по факту означает способность конкурировать с китайскими лабораториями, что в текущих условиях массового разгрома российских лабораторий компаниями очень и очень непросто (за что я наши компании люблю безмерно просто). Напомню, сотрудники нашей лаборатории за предыдущие 5 лет дали 12 А*, а весь МГУ 20 с хвостиком, о чем я писал в посте "лучшего ученого МГУ" и это в том числе по причине очень небольшого количества оставшихся "живых" лабораторий (не мы много дали, остальных мало). 🤷‍♂️

В общем — хотя нам очень непросто, но держимся и планируем нарастить темпы! 💪💪💪

Хотелось бы отдельно особо поблагодарить Центр доверенного ИИ ИСП РАН за поддержку публикаций, институт ИИ МГУ за поддержку лаборатории и ответственных за суперкомпьютер МГУ-270 за поддержку тяжелейшей вычислительной составляющей исследований! 🤝🙂🤝

Также внимательный читатель заметит, что работа посвящена бенчмарку защит от состязательных атак. Суммарно у нас уже реализовано уже 30 разных защит (на 35 атак, выложено меньше) и уже хорошо видно, как быстро растет сложность этой предельно новой области. В общем не только эффективно ломаем (за что нас справедливо корили), но и защищаем! На страже (as guards) против нового вида атак, в общем! 😉😁

Горячие поздравления всем нашим ребятам, причастным к этой работе! 👏👏👏

Празднуем и работаем дальше! 😁
🎉🎉🎉🥳🥳🥳💃💃💃🏆💃💃💃🥳🥳🥳🎉🎉🎉

#pro_conferences #our_successes

Господа!

Дошли руки написать про оценку скорости прогресса в нашей области.

Я недавно писал, что обучение LLM уровня GPT-2 по оценке Карпаты за 6 лет подешевело в 400 раз. И то, что в 2019 году могли делать только топовые специалисты за 40000$ сегодня может повторить любой аспирант. Кстати, экспоненциальный рост потому и сложно прогнозировать, что эти фантастические 400 раз, это рост всего пример в 3 жалких раза в год в среднем. И вот вам 400 за 6 лет. 🤔

Также еще зимой Google рапортовал, что 25% кода в компании создается ИИ, а недавно они заявили уже 30%. Причем требования к качеству кода внутри Google очень высокие и это, очевидно, не тот вайбкодинг, которым скоро будет под завязку забит Github. С другой стороны это, очевидно, низковисящие фрукты в первую очередь (тестирование, автодокументирование и т.п.) Но в любом случае интересно, сколько будет в конце года? 😉 Ваши ставки? (Я ставлю на 40-45%) 😉

Про интересный подход группы METR "Measuring AI Ability to Complete Long Tasks", который дал оценку удвоения временной сложности задач примерно каждые 7 месяцев на дистанции 5 лет (т.е. даже чуть больше 3 раз в год!) я писал недавно.

Несколько ранее, в ноябре прошлого года у них была другая работа на тему "RE-Bench: Evaluating frontier AI R&D capabilities of language model agents against human experts", в которой они также сравнивают производительность человека и моделей (график оттуда выше).

Там тоже, как в прошлый раз, есть вопросы к методике (например, они берут лучший результат из десятков прогонов модели, т.е. в каком-то смысле подыгрывают моделям), но в любом случае графики выглядят любопытно. Уже хотя бы потому, что стоимость часов работы моделей значительно ниже аналогичной стоимости работы человека (и, напомню, быстро падает для задач эквивалентной сложности!)

Хорошо видно, что на коротких задачах модели справляются лучше человека, однако при росте сложности задачи человек довольно быстро обгоняет все модели (и тренд результатов кожаных идет намного круче вверх).

Что тут можно сказать:

* Во-первых, если тренды сохранятся, то условно через 6 лет в 1000 может вырасти сложность успешно решаемых задач, при этом одновременно в 200 раз упадет стоимость решения аналогичной задачи (хотя время решения скорее всего заметно вырастет, в том числе для снижения себестоимости и сильно возрастет средняя сложность задачи). Звучит, как фантастика, но основания для сохранения тренда есть. ✌️

* Во-вторых, очень быстро растет, как стоимость разметки датасетов подобных задач, так и стоимость прогонов таких бенчмарков. Наибольший интерес, безусловно, к сложным задачам, а на них сохранение reward заметная проблема. Интересно, что для программистских задач хорошие объемы размеченных данных есть во внутренних кодовых базах компаний, т.е. внутри крупной компании бенчмаркать такие решения проще. Хотя открытые датасеты появляются. Например, месяц назад вышла любопытная статья, в которой размечено 170 тысяч задач! 💪 Очевидно обновляться будет и мой любимый SWE-bench (который явно закончится к двухлетию).

* В-третьих, сейчас мы наблюдаем, как студенты достаточно массово начинают использовать LLM при сдаче заданий курсов и написании дипломов (подтверждая график выше 😉). И очень рады этому. Очевидно, мы наблюдаем довольно быстрое успешное решение простых задач, традиционно выдававшихся в курсах. Недавно я спровоцировал обсуждения явления среди авторов курсов в нескольких местах (и университетах, и компаниях). Резюме как-нибудь в другой раз, но было любопытно, что, скажем так, молодые преподаватели наименее склонны были усложнению заданий (не хотят учиться — и не надо, их дело). 🤷‍♂️ Их можно понять, у них основная работа есть, и чем меньше там будет конкурентов, тем лучше 😉

Очень интересно наблюдать, к чему эти процессы приведут в среднесрочной перспективе, но уже очевидно, что наиболее будут цениться те, кто в состоянии делать очень сложные задачи (что на практике требует экспертизы, часто в разных областях). 🤷‍♂️😉

В общем — всем экспертности! 😁

#speed_of_progress

Коллеги!

Тут Similarweb опубликовал отчет о траффике GenAI за полгода.

Там много интересного, но я обратил бы внимание на статистику, посвященную GenAI в разработке и девопсе.

Статистики по ChatGPT & DeepSeek тут нет, ибо хотя общую статистику они считают, но характер запросов оценить не могут. Также что-то нет тулов типа Aider и GitHub Copilot. Также надо понимать, что это статистика сайта и возможности сбора статистики по API у Similarweb довольно ограничены.

Тем не менее даже данные по траффику сайтов весьма показательны. В первую очередь потому, что они констатируют рост в 4 раза за полгода! Это больше, чем на порядок за год, походу, будет! 10 раз за год — это прям очень хорошо. 😲

С одной стороны это, очевидно, эффект низкой базы. С другой понятно, что технологии плавно развиваются от баловства до начала вполне себе взрослого применения. 💪

Причем если второе место — Cursor — весьма известен, то про первое место — Lovable я, каюсь, узнал только из этого отчета. Не слежу я за последней модой фронтендеров, не слежу... 🤷‍♂️😉 А Lovable меж тем, очевидно, ориентируется на массовую аудиторию и планирует плавно отъесть часть рынка у самых дешевых фронтенд фрилансеров. Для начала 😉 Причем с апреля (считай, только что — они запустились в декабре) они явно в ответ на дружную критику поддержали в числе прочего функцию Security Scan. Актуальненько! 😁 Недавно была история, как товарищ радостно всем написал, как он за минуты с одного запроса сайт поднял, и его сайт и нескольких минут после этого твита не продержался))). 😉🤔😉 В общем — проблемы есть, проблемы решаются. 🙂

Также замечу, что Windsurf (6 место топа) буквально на прошлой неделе был куплен OpenAI за 3 миллиарда долларов (!!!). 😨 Очевидно OpenAI также целит на этот рынок (помним про их участие в SWE-Bench и запуск ими SWE-Lancer — совпадение? Не думаю! 😂). Учитывая, что DeepMind с гораздо большими достижениями в свое время был куплен Google "всего" за 500 миллионов, звучит как будто на этом рынке скоро будет очень интересно! 🙂

Ну и, кто не читал, напомню, что последние пару лет можно оценить скорость роста сложности задач примерно в 2 раза за 7 месяцев. Это чуть меньше 4 раз в год. При этом снижение стоимости для той же сложности задач только за счет железа идет до 2 раз в год (и еще за счет программных оптимизаций может быть и 10 раз в год, но сильно зависит от задачи). Исходя из этого можно предсказывать примерную скорость развития продуктов без лишней эйфории от того, что продукт (внезапно!) уже может.

В общем, в дверь фронтендеров уже постучали... 🤷‍♂️😉 Вангую появление в топе Хабра залайканной заметки, что фронтендеров заменить невозможно 😁

Продолжаем наблюдение! 😁

#speed_of_progress

Господа!

Когда-то сатирик Задорнов популяризировал выражение "Ну американцы тупые!" (кстати, у него акценты расставлялись более корректно, чем ему приписывают, но про это позже).

В общем тут позавчера популярный американский ресурс Gizmodo в разделе про ИИ опубликовал заметку о том, как захватывает дух от скорости разрушения искусственным интеллектом образовательной системы и от того как выросла скорость американского отупения.

Основная мысль крайне проста. Когда-то думали, что придет ИИ и сильно упростит работу учителя. Ну-ну! 😁 Пришел ИИ и сильно упростил работу ученика! Из-за галлюцинаций сегодня все еще довольно сложно использовать ИИ для проверки работ. А для выполнения — без проблем (ученик по определению может довольно часто ошибаться).

Опыт США наиболее интересен тем, что они заметно опережают Россию в скорости внедрения ИИ в образование. Опять же большинство LLM на английском заметно умнее, чем на русском. Спецпредложения для студентов есть у OpenAI, Anthropic, Perplexity (возможность получить тариф Pro бесплатно — это же праздник, правда? 😉)))

С одной стороны в США есть истории, студент активно использует GPT не вникая в суть диплома, например, а потом ему устраивают экзамен по его диплому и отчисляют. С другой в США есть студенты, которые раздают интервью о том, что они поступили в университет (Лиги Плюща, на секундочку) благодаря ИИ, учатся благодаря ИИ и им плевать на задания курсов («Они могут быть взломаны ИИ, и я просто не был заинтересован в том, чтобы делать их»). 😲

Основное следствие такого подхода — сильнейшее недообучение (в терминах ИИ))). Размер скормленных мозгу батчей и количество эпох обучения таковы, что нейросеть между ушей просто не в состоянии обучиться! Период полураспада знаний (который и так был невелик), снижается до неприлично малых значений. 🤷‍♂️😁

Чем отличается США от России:

* На Россию не распространяются скидки студентам, у нас те же самые процессы будут идти с отставанием примерно на год. 🤔

* Разрыв в зарплатах в индустрии/университетах в России намного больше, чем в США. Нет никакого смысла работать в университете, когда в нем зарплата за месяц столько же, сколько в IT компании за день. 🤷‍♂️ Понятно, что есть программы типа ИИ-360, которые за счет денег компаний несколько выравнивают диспропорцию, но... какой это процент от всех CS студентов? Ну и для продвинутых таких программ совсем мало, что характерно. 🤔

Не далее, как в этот четверг принимал очередной госэкзамен и в очередной раз убеждался в том, насколько сузился профессиональный кругозор студентов. Я практически не спрашиваю теории (хотя она критична!), а сознательно делаю акцент на современном практическом применении знаний билета. И там печаль. 🤦‍♂️

Студенты спорят: "Зачем это все знать, если все это можно запросить" (знает нейросеть) Это просто прекрасно! 😁 ВАМ (которые это спрашивают) это знать ну точно не нужно! 😁 ТОЧНО-ТОЧНО! 😂

Ибо очень скоро в IT будет наблюдаться чудный процесс — будет РАСТИ нужда в топовых специалистах и будет снижаться запрос на специалистов поверхностных. 🤷‍♂️ Ибо поверхностных, у которых между ушей что-то недообученное, заменить на LLM намного проще (и дешевле).

За последние 4 месяца мы буквально каждый месяц собеседуем желающих ко мне в аспирантуру и защитить диссер. За последние 20 лет никогда такого не было. Это почуяли ветер перемен бросившие аспиранту и ушедшие в компании. Утверждаю, что это только самое начало процесса. Во что, конечно, тоже можно и нужно не верить! 😁

Ибо чем больше будет не верящих, тем проще будет с хорошими местами для тех, кто сечет ситуацию и сейчас плотно качает! 😉

Sapienti sat! (это такое латинское выражение, оно означает "что-то для умных") 😁

Господа!

Любопытные новости были за последнюю неделю по SWE агентам:

1. CodeRabbit выпустили бесплатный плагин для AI Code Review, который доступен для VS Code, Cursor и недавно купленной OpenAI Windsurf. В рекламе обещают 4х кратное ускорение пул-реквестов, отлов 95% багов и на 50% более быстрый review. Понятно, что надо делить на N, но при грамотном применении ускорение и польза будут. И развитие будет. 🙂

2. OpenAI выпустили агента Codex-1 (доступен только на платных аккаунтах ChatGPT Pro, Team, and Enterprise). На SWE-Bench Verified он с первой попытки выбивает больше 70% и 75% на внутренних тестах OpenAI. Народ на ycombinator.com уже пишет, например:

Это похоже на джуна на стероидах, вам просто нужно указать на файл или функцию, указать задачу, и модель сделает большую часть пул-реквеста. Вам все еще нужно сделать много работы, чтобы доработать его до прода, но в вашем распоряжении теперь бесконечное количество джунов, работающих над разными задачами.

Качество модели хорошо, но пока сложно сказать, что оно намного лучше других. Сравнимо с Cursor + Gemini 2.5-Pro, именование, стиль и логика относительно близки...

3. И, наконец, самое интересное на мой вкус. Google показал широкой публике AlphaEvolve (A Gemini-powered coding agent for designing advanced algorithms).

Когда со мной спорят касательно SWE ассистентов наиболее частый (и справедливый!) аргумент — качество кода. Вайб-кодинг явно становится культурным синонимом г**но-кодинга. 🤷‍♂️😉 В этом плане опыт Google для меня наиболее интересен. Очевидно, их не интересует цель завалить свои репозитории плохим кодом. У них появилась очень пристойная модель с большим контекстом (Gemini 2.5-Pro). И у них точно есть много много внутренних качественных репозиториев для обучения. Сильно больше, чем у OpenAI и сильно качественней, чем GitHub. И это скажется. Сейчас они анонсировали агента для высокоуровневых алгоритмических задач, который они уже успешно применяли для оптимизации умножения сложных матриц, ускорения ядра FlashAttention (на 32,5%), оптимизация балансировки ЦОД Google (экономия 0,7% вычислительных ресурсов Google) и т.д. Это логичный следующий уровень улучшений и было известно, что Google над ним работает, но не были известны результаты. Сейчас их, наконец, объявили! Промежуточные) 💪

Для одной недели неплохо! 😁

На картинке выше сокращения сотрудников технологических компаний за последние 1,5 года, отсортированные по числу уволенных (данные https://layoffs.fyi/). 😲😲😲

Глобально сокращения для IT компаний это как омоложение, оно реально позволяет улучшить тонус компании. Более того, собственно, сотрудник Intel мне рассказывал в свое время, как регулярные сокращения важны для нормального функционирования. Но то, что за последний год им пришлось уволить треть сотрудников это в любом случае жесть, конечно. Среди 25% уволенных сотрудников Unity тоже много программистов. Как и среди 8000 сотрудников SAP. 😢

В принципе в этом году пока увольнений немного (61 тысяча человек из 130 технологических компаний за 4,5 месяца). 🤔

В Intel работает наш выпускник (и ныне соискатель на ученую степень), причем в подразделении, которое занимается OpenVINO (тулкит для оптимизации и внедрения DL моделей). В компании жарко, но их подразделение не трогают. Неудивительно, согласитесь! 😉

А в каком подразделении будешь работать ты, %%USERNAME%%? 😁

Всем конкурентоспособности! 💪

Stay tuned! 😁

#winter_is_coming
#speed_of_progress

Господа!

Как кто-то из вас уже, возможно, знает, МГУ выиграл грант центра ИИ третьей волны! 💃💃💃

Суммарное финансирование — 976 миллионов (почти миллиард!) на 2 года, что, правда на заявленное число сотрудников и большое количество заявленных результатов, не так уж много. Но тут важно, что эти деньги государство дает во многом на прокачку наиболее топовых публикаций в ИИ — на А* конференциях... ✌️

Если быть точным, то нужны и конференционные А* публикации и журнальные Q1 публикации, причем в равном количестве (заметим, что и список конференций, и список журналов ограничен, и какой попало Q1 журнал не прокатит). Но поскольку по факту А* в ИИ заметно сложнее, оплата за них обычно в 2 раза выше, чем за Q1.

4 года назад наша лаборатория участвовала в заявке центров первой волны. Тогда МГУ проиграл, а выиграли 6 центров (из 30+ заявок) — Сколтех, Физтех, Вышка, ИСП, ИТМО и Иннополис. И мы присоединились к центру ИСП, сделав там пять А* публикаций на NeurIPS, ICML (2 шт), ICLR и AAAI. Далее была "вторая волна" грантов, но более индустриальных (требовалась скорее работа с компаниями, чем наука). Во второй волне гранты получили еще 6 центров в основном в регионах у которых возникли большие проблемы со статьями.

И вот сейчас в "третьей волне" МГУ наконец-то выиграл основной грант!

Выиграл, если честно, на флажке. Изначально планировалось, что выигравших центров традиционно будет 6. Однако после подведения итогов по баллам выяснилось, что МГУ на 7 месте, причем на 6 месте был Сколтех с очень небольшим отрывом (они довольно экономно пообещали в плане показателей). А с 8 места прямо очень заметная была ступенька уменьшения показателей. В итоге после рассмотрения 19 заявок было принято решение дать грант 7 центрам: 6 центрам первой волны и МГУ.

Для МГУ это очень важно, я считаю. Фактически это был шанс заскочить в последний вагон этого поезда. Есть мнение, что в дальнейшем больше грантов в текущем виде (со сложной процедурой заявки) не будет, а будет упрощённая только для победителей этого года. Ибо вторая и третья волна четко показали, что более коллективов делающих топовые публикации в стране, увы, практически не осталось. 🤷‍♂️

При этом текущие центры очень прокачались. Так ИСП РАН (в том числе с нашим участием) за прошлый год сделал, помнится, 23 А* публикации. А ВЕСЬ МГУ за ПЯТЬ лет сделал, если правильно помню статистику, собранную к заявке, 24. Т.е. ИСП РАН за год сделал столько же А*, сколько МГУ за 5 лет. 😲 При этом сотрудники нашей лаборатории сделали 12 А* за 5 лет... ☺️ Вот такая любопытная математика.

Замечу, что основными лоббистами KPI в виде А* в этой программе были, как ни странно, не представители академии, а Яндекс со Сбером. А представители науки как раз неоднократно выступали за снижение показателей) Большие компании хотят А* потому, что по факту сегодня затащить А* означает (очень часто) победить в соревновании на скорость исследований с китайцами. Это ооочень сложно. И обычно первых авторов А* начинают хантить. Причем открываются двери и в западные компании (там тоже таких любят). 😉

Ну и больше всего А* запланировали в центр ИИ МГУ научные группы под управлением Антона Конушина и вашего покорного слуги! Сейчас задача это затащить 😉

Короче! В ближайшее время мы объявим вакансии в наши научные группы! Не переключайтесь!

В заключение замечу, что ВК в софинансировании центра, это наша работа. Любимый Huawei зачесть было нельзя, но с ВК.Видео мы нашли тему, которая весьма интересна и полезна и нам, и им. И они в довольно короткий срок провернули крайне нетривиальную бюрократическую работу и поддержали грант, за что им огромная благодарность! 🙂

А теперь взлетаем! 🚀 Кто с нами — велкам! 🤝

Вернем А* в МГУ! 😁💪🙂

Господа!

На прошлой неделе побывал у наших коллег в Институте ИИ Физтеха.

Я давно с огромным интересом наблюдаю за их развитием, хорошо много лет знаком с текущим первым директором института, а сейчас целенаправленно ездил пообщаться с молодым растущим руководителем одной из лучших лабораторий Физтеха в ИИ. 👍👍👍

Сегодня в России сложилась во многом уникальная ситуация в плане превращения IT факультетов в научном плане в лунный пейзаж. Это очень маленькая государственная зарплата помноженная на лютый дефицит кадров при хорошей маржинальности бизнеса, который привел к конскому росту зарплат в IT и набору людей в компании буквально с 1 курса. Часть наиболее наиболее "умных" студентов-олимпиадников прямо говорят — "мне учеба не нужна, меня Яндекс в начале 1 курса взял, мне нужна только корочка". 🤦‍♂️ И забивают на учебу примерно полностью. 😲 Я на госах/дипломах регулярно держусь за лицо, при том, что зарабатываю на проектах с компаниями и спрашиваю только применимые прямо сейчас вещи. Это уже привело к появлению поколения недоучек, ибо такая ситуация везде (в Вышке, например, намного сильнее, чем на ВМК, а в региональных вузах коллеги рассказывают про ужас-ужас). 🤷‍♂️

На сотрудников пылесос компаний тоже мощно действует. Недавно общался с руководителем подразделения российской компании, который хотел бы с нами работать. Долго объяснял ситуацию. Наконец, задал в лоб неприличный вопрос о зарплате. Выяснилось, что наша зарплата отличается в 100 раз (сто раз, Карл!). Это феерический п* очень многое меняет. Он руководитель исследовательского подразделения, и я руководитель исследовательского подразделения (кстати, не намного меньше). Но есть маленький нюанс. 😂 Разница зарплат в IT начинается с 10 раз на низовых должностях, потом доходит до 100 раз на средних и потом (говорят 😉) опять снижается к декану-ректору. В этом плане смысла руководить исследовательскими подразделениями в IT в университете примерно ноль. В большой статье О русской науке замолвите слово... я про все это в красках написал давно. В комментариях там меня назвали упоротым и это чистая правда. Нормальному человеку, который востребован в компаниях, остаться в университете сегодня почти нереально (меня только 6 официальных мест работы спасают). Характерно, что этот процесс вымывания сотрудников снижает качество образования и дает лишние аргументы не желающим учиться студентам (это система с положительной обратной связью, если кто-то знает, что это такое). 😉

Все вышеописанное привело к тому, что за последние 5 лет А* статей на ВМК за пределами нашей лаборатории не было, а в МГУ в ИИ они были в основном в на мехмате и физфаке (где "давление рынка" меньше).

Я сначала пытался объяснять (в первую очередь компаниям, потом студентам), спорить. Но через несколько лет понял, что это потеря времени! Мы сегодня на пороге сильнейшего изменения ситуации на рынке труда. Причем у программистов в первую очередь. И наиболее глубоко прокачанные будут наиболее успешны. ✌️

Сокращение квоты студентов в нашу лабораторию вынудило искать студентов вовне. В этом учебном году мы прочитали 7 курсов в разных местах (рекорд!). На Физтехе пока не читаем, но мне очень нравятся уровень их студентов.

Чем они отличаются:

* На Физтехе "с рождения" была создана система базовых кафедр предприятий, которая на мой вкус наилучшим образом соответствует текущей безумной политике компаний (по вырубанию деревьев, плодами которых они питаются). Это позволяет удерживать топовых-преподавателей.

* В последнее время у них прошло уже 2 реформы подразделений (в т.ч. создание физтех-школ), которые сильно перетряхнули имеющиеся подразделения и сильно омолодили их организационно.

* У них нет как таковых квот. Т.е. студенты идут туда, где есть конкурс, усиливая сильные места и ослабляя слабые. Похожая система на Физфаке и Мехмате МГУ, кстати.

* Физтех борется за олимпиадников и стобальников.

И там еще, как водится, огромное количество нюансов, в которые я вникаю давно, но каждый раз что-то новое для себя нахожу!

В общем ездил в Физтех учиться. Многое почерпнул! 😁

Работаем! 😁

Господа!

В моих старых добрых лекциях "Уйти с тропы лемминга" в последней части "Жизненный цикл программиста" я кратко рассказываю про книжку "Важные годы / Почему не стоит откладывать жизнь на потом". Это, кстати, эпичный пример, как перевод может убить исходный месседж. Исходное название "The Defining Decade: Why Your Twenties Matter — And How to Make the Most of Them Now". ОПРЕДЕЛЯЮЩЕЕ десятилетие, почему ваши 20 имеют имеют значение. Это принципиально другой смысл!

Так почему десятилетие с 20 до 30 определяющее? Желающие могут посмотреть TED talk автора "Why 30 is not the new 20", но если брать суть, то дело в нейропластичности.

Нейропластичность - это способность нейронов и нейронных сетей в мозге изменять свои связи и поведение в ответ на новую информацию, сенсорную стимуляцию, развитие, повреждение или дисфункцию.
Британника, статья #Нейропластичность.

Тему копают довольно давно. В 1989 был создан аж отдельный журнал Neural Plasticity только о нейропластичности. Большинство исследований посвящены детским годам, когда нейропластичность (см. график) максимальна. Но много работ и о реабилитации после травм, когда мозг также (в некоторых случаях и при некоторых условиях) демонстрирует удивительную пластичность даже в более взрослом возрасте.

В шуточном варианте можно сравнить высокую нейропластичность молодых лет с формированием архитектуры нейросети, а обучение с 20 до 30 с fine-tuning 😉 И те, кто старшие классы потратил на Доту получают embedded ImageNet, а кто на олимпиады — built-in transformer-based архитектуру 🤣😂🤣

Если быть более точным, то у нас между ушей развивается Mixture of Experts-based архитектура, т.е. на входных данных дообучается сразу несколько архитектур параллельно (под разные задачи). Более того, параллельно дообучается оркестратор. Это очень важный механизм, который позволяет имея супер прокачанный CS/GO "ImageNet" и управление мышкой (когда вы без модов снайперски попадаете куда надо — ценнейший навык для работы 😂) и transformer-based генеративки в зачаточном состоянии 😉 таки их прокачать в направлении кода, презентаций и статей (пусть затратив массу сил). Я наблюдал удивительные случаи прокачки студентов с ооочень слабой начальной базой (если воли хватает). 💪

Одним из ключей к прокачке (согласно обзору Principles of Experience-Dependent Neural Plasticity) является интенсивность:

Intensity: If you do something that doesn’t challenge you, you won’t see much of a difference. Intensity can be the number of times you do an exercise or how difficult it is. Try to find an intensity that is one step above your current level.

(Ходящие в фитнес увидели знакомое))) Для обучения важно повышение уровня сложности, что не все тянут.

Примерно 35 лет назад обучение в университете не давало отсрочки от армии. Военкомат забирал со 2-4 курсов и возвращал через 2 года. Казалось бы, жалких 2 года, но была масса примеров, как весьма успешные до армии студенты балансировали на грани вылета (или за гранью) после возвращения. Даже мотивированные! Людям реально становилось сложно затаскивать!

Зимой писал про интервью интервью с руководителем ШАД, где речь шла про специальный трек для закончивших вуз жалких 3-5 лет назад, ибо им даже поступить сложнее.

Мне наиболее интересны те, кто хотел бы прокачаться на самый топ. В недавнем материале Reuters описываются зарплаты в 10-20 миллионов долларов в год у топовых исследователей OpenAI & Google и разовых бонусах по паре миллионов. 😲

При этом я пачками вижу студентов (часто с хорошими данными), уходящих фигачить прод (в DS это джейсончики перекладывать) ВМЕСТО прокачки в 20 с хвостиком. 🤷‍♂️😁

Вангую, что PyTorch будет чем-то типа PHP в резюме через 15 лет (как и многие другие модные темы 😉), и качать надо не моду фреймворки, а алгоритмы и фундаментальные технологии от базовых ко все более сложным (кто потянет).

Желаю всем успеть потратить остатки нейропластичности на более крутую build-in архитектуру и в целом сохранить нейропластичность повыше! 🙂 А чем больше будет рано уходящих в прод, тем больше вы будете зарабатывать! 😁

Работаем! 😉

#neuroplasticity

Господа!

Недавно мы выпустили скрининг (быстрое тестирование) российских видеохостингов.

История началась на профессиональной конференции VideoTech осенью прошлого года, где после моего дневного доклада о кораблях бороздящих просторы вселенной последних достижениях в области метрик качества видео на вечерней дискуссии поднялся товарищ и выдал мне в лоб с размаху. Короче, его начальство считает измерение качество совершенно ненужным. У них бизнес. Они внедряют lean production, как у Toyota. Там все, что людям непосредственно не нужно, должно быть безжалостно сокращено. Поэтому они снижают качество видео, пока люди не отписываются — и это наиболее здоровая бизнес-практика, а не эта ваша никому не нужная наука. А мой тейк состоял в том, что Toyota перед тем, как отрезать лишнее, сначала поставила планку качества (что каждый узел должен быть не хуже по надежности самого лучшего узла любого конкурента) и только потом начала безжалостно резать. А если резать косты до тех пор, пока идут продажи, получится как бы не совсем Toyota. 🤷‍♂️ Ну есть такое мнение. 😉

Дискуссия была жаркой и закончилась ничем. А недавно мы сделали скрининг видеохостингов. На пробу. Оценить, как зайдет. Ибо предыдущий опыт был негативным. В конце концов, вполне возможно, мы не правы и тестирование качества нужно только иностранным компаниям, а вам и так сойдет! 😁

Если честно, то пока реакция компаний на отчет ОЧЕНЬ радует. 😲🙂

Думаю, что у нас есть реальный шанс существенно поднять техническое качество российских сервисов и это основная цель данного проекта. Цель амбициозная и по ряду причин непростая. Буду держать вас в курсе продолжения этой чудной истории. Ниже пост про нас в одном из каналов (моя цитата взята из отчета, который рекомендую прочитать в оригинале):

#pro_conferences

▶️ Rutube грузит сеть больше «VK Видео». И YouTube.

И дело не в зрителях, а в оптимизации. Институт перспективных исследований проблем ИИ и интеллектуальных систем МГУ им. М.В. Ломоносова провел сравнительный анализ популярных видеохостингов с акцентом на визуальное качество видео. Сам отчет можно найти по ссылке.

В сравнении попали Rutube, «VK Видео», а также зарубежные Vimeo и YouTube. Представители аналитической команды отмечают, что это пробный скрининг, который впоследствии может развиться в более глубокую работу по анализу десятков кодеков, но он дает ответ на вопрос, почему «замедленный» хостинг через VPN порой работает лучше, чем альтернативы.

🟢 Основные выводы:

• YouTube требует в два раза меньшего битрейта для достижения того же качества, что и у отечественных сервисов. Это означает, что при одинаковом визуальном качестве файлы на Rutube и «VK Видео» занимают вдвое больше места. Такая неэффективность может существенно повлиять на стоимость хранения и доставки контента, особенно в условиях ограничений пропускной способности.

• Российские сервисы испытывают трудности с трансляцией видео при низкой скорости интернета. При имитации реальных сетевых условий качество стриминга на Rutube и «VK Видео» было в два раза ниже, чем у YouTube. Задержки воспроизведения у Rutube превышают аналогичные показатели YouTube более чем в 8 раз.

• Проблемы с оптимизацией кодирования популярного контента. Российские видеохостинги не применяют более продвинутые настройки кодирования для популярных видео, что снижает их конкурентоспособность даже относительно собственных решений для менее просматриваемых материалов.

• Неэффективное управление битрейтом и риск «непрактичных» решений. Например, Rutube использует завышенные битрейты для FullHD-видео, что может приводить к техническим проблемам при воспроизведении, особенно на сложных сценах.

• Существуют ошибки в транскодировании, которые могут ухудшать пользовательский опыт. Некоторые видео на Rutube демонстрировали немонотонность RD-кривых — ситуация, при которой увеличение битрейта не приводит к улучшению качества, что создает проблемы для плеера и пользователя.

Дмитрий Ватолин, руклабораторий компьютерной графики ВМК МГУ и интеллектуального анализа видео института ИИ МГУ:

У бизнеса самый главный показатель — это пользователи и подписки. И если они битрейт понижают, а пользователи не отписываются, значит все в порядке. Такая точка зрения действительно распространена, но надо трезво понимать, что снижение себестоимости «пока покупают» — это риск повторения истории Лады Калина, что в условиях скорого прихода китайских компаний на наш рынок вещания весьма чревато. Сейчас мы активно работаем с китайскими компаниями и они демонстрируют и великолепное понимание тонкостей накрутки, и квалификацию, достаточную для написания крайне конкурентоспособных кодеков. В наших же компаниях кодеки не пишут, а инженеры жалуются на специфические компетенции начальства, и нежелание вкладывать деньги в качество сервиса.

™️ Телекоммуналка