Ну, за контекст

Сегодня четыре разных человека с четырёх разных сторон принесли мне новость про принятие офигенной революционной программы развития науки в США – с блэкджеком, гибким финансированием, планом по развитию emerging technologies, инфраструктурой для научного ИИ и пр.

А я читала все эти кликбейтные новостные восторги – и мне даже смеяться не хотелось; мне было грустно.

Потому что есть четыре нюанса, которые демонстрируют реальное место этого документа в политическом процессе:

1️⃣ Бумага, которую [почему-то] называют «программой», – ни разу не программа, а просто-напросто публичный доклад президенту США от директора Управления по развитию науки и технологий; т.е. что из этих предложений будет принято, в каком виде, под какие деньги и в какие сроки – науке не известно.

2️⃣ Через три с небольшим месяца в США должны пройти выборы в Палату представителей и в Сенат; и ещё весной было понятно, что ситуация для республиканцев (и действующей администрации США) складывается, мягко говоря, сложная.

3️⃣ За полтора года президентства тов. Трампа администрация успела: заморозить ~10 тыс. научных грантов, связанных с diversity и прочей woke-повесткой; заморозить часть финансирования National Institutes of Health и назначить в минздрав антиваксера; аннулировать «зелёную сделку», разогнать президентский Совет по науке и технологиям и собрать его снова из представителей бигтеха – ну, и сделать ещё массу всего по мелочи... после чего из околонаучных организаций в США уволилось порядка 100 тыс. человек.

4️⃣ Два месяца назад Административно-бюджетное управление администрации президента выкатило на публичное обсуждение драфт новых правил, по которым должны распределяться госденьги на науку – включая обязательный политический одобрямс для каждого гранта, возможность прекращения любого гранта без объяснений, федеральный контроль за иностранным финансированием R&D и пр. И к началу июля получило в панамку порядка 280 тыс. нефритовых стержней комментариев от отдельных учёных, научных организаций и general public.

Собственно, на этой радостной ноте «революционная программа трансформации американской науки» внезапно превращается в вынужденный и сугубо конъюнктурный PR-документ с красивыми словесами, который а) никого ни к чему не обязывает, б) нужен исключительно для того, чтобы хоть как-то приглушить [вполне обоснованные] протесты академического сообщества против происходящего трындеца.

Ну то есть это как в СПб губернатор перед выборами клялся и божился, что ограничит деятельность электросамокатных контор – запретит ездить, где попало, бросать самокаты во дворах и посреди тротуаров и пр. Результаты не воспоследовали, зато как вирусилось, как вирусилось!

…Короче, контекст / детали рулят и решают. В них не только дьявол, но и пролетарская суть.

#орать_в_ведро #про_экспертов_и_людей

Ну, за светлое будущее

Как известно, один из самых модных трендов в потребительской сфере – это всеобщая лабубизация с её блайнд боксами.

Я считаю и всегда считала, что аналитика и экспертиза тоже должны оперативно реагировать на тренды и вообще смотреть в будущее! Так что всем уважающим себя экспертным и аналитическим организациям надо срочно, вот прямо сейчас развивать блайндбоксовую бизнес-модель.

Вы только представьте заголовки, объявления и вообще маркетинг:

▫️Наша фабрика мысли переходит на ИИ-агентов модель лабубу: за что бы вы ни заплатили, вы получите симпатичное и гладенькое хрен знает что!

▫️Малоизвестный ютубер запилил анбоксинг аналитического доклада и собрал три миллиона просмотров

▫️Лучший отдых – смена деятельности: купи аналитический блайнд бокс – и получи блайндбокс 18+ в подарок! (предложение ограничено, реализуется в партнёрстве с сетью секс-шопов «Весёлый кролик»)

▫️Мне тут попались анализ рынка гражданских БПЛА, policy brief по зелёной энергетике и карточки с темпами роста ВВП стран ЛатАма. Кто хочет махнуться? Готов обменять на типовую муниципальную программу соц-эк развития

▫️Серия из десяти докладов про критические технологии: собери их все!

▫️Новый тикток тренд: real time реакция на чтение блайндбокс-форсайтов!

▫️Винтаж, редкость, только для настоящих ценителей! Прошлогодние прогнозы по развитию ИИ! (сверка с текущей реальностью – за отдельную плату)

… а дальше аналитические гачапон-автоматы в подземных переходах у метро, флешки с аналитикой в качестве модных аксессуаров – и всё как в тумане.

(извините, это очень узкопрофильная шутка, но у меня пятнично-летнее настроение и ноль желания говорить про утилитарное)

#про_экспертов_и_людей

Ну, за своевременность

Наглядная иллюстрация к вопросу о технологическом лидерстве и механиках его достижения: Федеральная комиссия по связи (США) давеча запретила импорт продвинутой робототехники – гуманоидных, четвероногих и колёсных роботов.

Поводы для запрета простые: робототехника – критическое направление для экономики, армии и нацбезопасности. А дешёвые нехорошие китайские зарубежные роботы: а) мешают появлению в США собственной робоиндустрии (и полностью контролируемых цепочек поставок), что угрожает экономической и национальной безопасности страны; б) создают риски в области кибербеза, в особенности – для критических инфраструктур.

(и, btw, вычеркнуть какую-то позицию из списка робототехнической запрещёнки чисто юридически может только министерство войны США)

Рацио в запрете, конечно, есть: роботы [небезосновательно] расцениваются администрацией Трампа как одна из next big things, которая, в т.ч., позволит хоть как-то оправдать запредельные инвестиции в ИИ.

А, между тем, ни одна компания в США с китайскими робототехниками и рядом не стояла: Figure не масштабирована, X1 тоже что-то пока своих андроидов никуда не поставляет, а китайская Unitree продаёт робособак, андроидов, тележки и пр. направо и налево – и 10 августа должна выйти на IPO в Шанхае (текущая оценка – примерно $5,7 млрд.; после IPO, как ожидается, пробьёт $7 млрд.).

Так что единственный луч света в тёмном царстве – это Google, которая на днях выкатила Gemini Robotics ER 2, ориентированную как раз на управление андроидами (с продвинутой видеоаналитикой, коллаборативными алгоритмами и пр.).

Проще говоря, всем понятно, что если не начать что-то делать по части развития собственной робоиндустрии вот прямо сейчас, то повторится история с БПЛА, ИИ, электромобилями, батареями, оборудованием для ВИЭ и пр.

(при этом бан китайских роботов, с шансами, даст незапланированный побочный эффект класса «выстрелить себе в ногу». Если верить данным американской Ассоциации по развитию автоматизации, то 90% академических исследований / разработок в области робототехники в США проводятся с использованием роботов от Unitree; просто потому, что, скажем, робособака от Unitree стоит что-то от $2 тыс. до $5 тыс., а аналог от американской Boston Dynamics – $200+ тыс. Так что перспективы робототехнических R&D теперь несколько туманны)

Практический вывод тут только один: надо срочно топить за отдельный нацпроект (или хотя бы федпроект) «Передовая робототехника», иначе последний вагон оч скоро скроется за горизонтом – и в него будет уже не вскочить.

А грустный вопрос о том, кто, какими силами и на базе каких ИИ-моделей должен делать российских андроидов, лучше пока оставить за скобками.

#next_big_thing #техсув #техлид

#диалоги_в_танке

А: Interesting fact - ИИ-ассистент Росприроднадзора называется "Хомяк".

У: Странно, что Росприроднадзора, а не Минсельхоза.

А: А мне странно, что "Хомяк", а не "Песец".

У: Не, "Песец" - это для МЧС же ж.

Ну, за made in Russia

Меня периодически спрашивают, почему я часто высказываюсь про зарубежную технологическую политику, в т.ч. в довольно критичном ключе, а про российскую – почти никогда.

Спрашивали – отвечаем: потому что я хорошо представляю всю сложность проблем, с которыми приходится иметь дело тем, кто эту политику разрабатывает и реализует.

Взять, например, нацпроекты технологического лидерства. Да, 90% того, что там заявлено, не имеет отношения к «лидерству»: это обычное (хотя и очень, очень непростое) импортозамещение, которое, к тому же, не даст на выходе сколько-нибудь конкурентоспособных хайтек-продуктов, не говоря уже о продуктах first-in-class; а даст, в лучшем случае, что-то функциональное с ценником х4 относительно китайских аналогов.

При этом критических для техлида и техсуверенитета хайтек-промышленности и стартап-протобульона в стране как не было, так и нет, и нет инструментов, которые системно работали бы на их появление.

Но если я схвачу матюгальник и начну кричать об этом на каждом углу, не изменится примерно ни черта.

Во-первых, федеральный бюджет не резиновый, а в последнее время прямо-таки шагреневый. И на технологическое развитие можно выбить только определённое – и, по мировым меркам, очень небольшое – количество денег.

Во-вторых, экономическая ситуация такова, что построить архитектуру реального технологического лидерства в России, мягко говоря, затруднительно: скажем, Китай может позволить себе формировать и использовать «терпеливый капитал» (10 лет инвестиций, 10 лет на возврат) для создания новых хайтек-отраслей; США – всё ещё центр мировых финансов, и технологическому сектору перепадает более чем достаточно для развития. А у России – и российских инвесторов – сейчас нет ни нефтяных сверхдоходов, ни возможностей ждать возврата инвестиций по 20 лет.

И этих двух пунктов лично мне вполне достаточно, чтобы а) вспомнить про пользу смирения, б) прикрыть своё сильно экспертное хайло и помогать людям работать над тем, над чем имеет смысл работать: выбивать деньги на нормальные, не стыдные технологические / продуктовые / научные проекты; проектировать и делать работающую инфраструктуру поддержки – короче, по возможности выращивать локусы техлида здорового человека. В тех условиях, которые у нас есть. Потому что других-то нет.

…Ну то есть я тоже очень хочу таблетки от деменции и робота-дворецкого made in Russia, но уже смирилась с тем, что покупать их придётся в Китае. 🤷🏻‍♀️

#про_экспертов_и_людей

#диалоги_в_танке

А: К вопросу о важности культурного контекста для корп.нарративов: одна из страниц про науку на сайте Йельского университета называется "Research for the greater good".

У: ...

У: Да-а, нехорошо получилось. "Гарри Поттера" ребята явно не читали.

Ну, за [не]зависимость

Пока все молятся на отчёты Anthropic, MS и прочих вендоров про использование ИИ, весёлая команда исследователей из нескольких американских университетов (MIT, Беркли, Карнеги Меллон и пр.) взяла и проанализировала, как ИИ используют реальные люди.

И данные, и выводы прекрасные:

1️⃣ ИИ-вендоры, в т.ч. – Anthropic (Economic Index), при подготовке своих как бы объективных докладов и исследований того, как используется ИИ, выбрасывают из анализируемых дата-сетов 48% запросов, которые LLMки получают от пользователей; из анализа частично или полностью выпадают отношения и здоровье; харассмент, осуждение и ненависть; секс и уголовка.

(причина очевидна: вендоры продают ИИ корпорациям, потому что на одних физлицах не прокормишься, и приоритезируют как бы «рабочие» использования моделей, игнорируя все остальные)

2️⃣ Паттерны использования ИИ а) меняются со временем, б) делают это быстро и в) неоднородно – в зависимости от LLM и типажа / персоны пользователя. В среднем, сильнее всего растут объёмы уточняющих запросов к ИИ (+39,4% в 2023-2025 годах), типовых промптов класса «копипаста» (+29,2%), кода на входе (+26,5%) и на выходе (+28,9%), запросов про технологии (+25,8) и фатической коммуникации (+25%).

3️⃣ У general purpose LLMок постепенно складывается своя специализация (и, видимо, свои целевые аудитории): например, к Grok чаще обращаются за новостями, вопросами про искусство, развлечения, здоровье и отношеньки; к ChatGPT – по темам культуры, моды и прочего лайфстайла, а также технологий, и т.д.

А от себя в этой связи могу добавить, что разнообразные победные реляции и обещания ИИ-вендоров нужно делить на два, если не на десять: LLM – это, в большинстве случаев, не только и не столько рабочий инструмент, [якобы] повышающий эффективность, сколько такой же procrastination engine, как гугл и соцсети.

Алсо мне очень интересно было бы посмотреть на независимое исследование про полторы суверенные российские модели, но при моей жизни его, скорее всего, никто не сделает.

#ИИ

Ну, за знания

Читала тут программы развития российских университетов («Приоритет 2030») – как обычно, под задачу тм; в процессе чтения то и дело натыкалась на реликты, всплывающие в стратегических нарративах года этак с 2013-го (привет программе «5-100»!), орала чаечкой – и вот решила, что чего одной-то орать, надо поделиться.

Так что вот вам в честь 1 сентября весёлый цикл выгорания околоуниверситетских / образовательных концептов – и, заодно, пара наблюдений про мотивам программ развития:

1️⃣ Самый заметный анахронизм – то, что участие студентов в реальных заказах / проектах с индустриями всё ещё позиционируется как «уникальный новый формат инженерного / любого другого образования»; а, между тем, это общее место, которое вызрело и выгорело ещё в проекте «5-100» и в 2026 году воспринимается как «осспадя, вы опять про это?!..», поскольку это маст хэв примерно для всех.

(новшеств в инж.образовании в России вообще очень мало; свежие подходы, кмк, пока нашли только МГТУ им. Баумана – «учить нужно развитию технологий; будущие инженеры должны проходить на практике все TRL и знать, как каждый устроен», – и УрФУ, заявивший а) обучение через мультифункциональные команды – исследователи, инженеры, внедренцы и пр., б) использование иннов.инфраструктуры как базы для подготовки)

2️⃣ Самое, кмк, заметное отличие от стратпланов зарубежных университетов – то, что российские вузы собираются создавать или уже создали опытные производства / произв. центры. Но если с т.з. условных западных практик это выглядит странно – университеты вроде как должны выдавать на выходе результаты R&D / IP, а не БПЛА и не эндопротезы, – то с т.з. здравого смысла появление произв.центров при университетах вполне оправдано: в России просто нет хайтек-промышленности, которая могла и хотела бы с университетской IP что-то делать.

3️⃣ Самое смешное: налицо железная закономерность – чем слабее программа развития университета (в плане технологических заявок на победу), тем чаще там упоминается ИИ, причём в духе «ничего не будет: ни кино, ни театра, ни книг, ни газет – одно сплошное телевидение».

Такие дела.

#университеты

Ну, за навыки

Афтерпати давешнего дня знаний: потихоньку подъезжают исследования про то, что использование ИИ делает с мозгом и навыками.

Выборки там пока небольшие, от 50 до 1,5 тыс. человек, но первые результаты [предсказуемо] не обнадёживают:

1️⃣ Исследование MIT Media Lab: у студентов, юзавших ChatGPT для подготовки эссе, общая активность мозга была на 55% ниже, чем у тех, кто не пользовался ничем или только гуглил; мозг у чатжптшников не то что бы совсем не работал, но показывал крайне низкую активность в зонах, отвечающих за креативность и обработку информации. Когда через четыре месяца юзеров ChatGPT попросили поработать без LLM, выяснилось, что уровень связности между разными зонами мозга у них куда ниже, чем у остальных.

2️⃣ Исследование университета Беркли (пока не опубликовано целиком): у студентов, использовавших ИИ в формате «скормить ИИ промпт, скопировать результат as is, сдать задание в оркестр», гамма-активность мозга была на 40% ниже, чем у тех, кто хотя бы активно тыкал ИИ палкой (задавал вопросы, уточнял данные, давал новые вводные и пр.); при этом таких «активистов» было не больше 10%, остальные оказались сугубо пассивными пользователями.

(если кто-то вдруг запамятовал: низкая гамма-активность мозга тесно ассоциирована с деменцией и болезнью Альцгеймера)

3️⃣ Исследование Carnegie Mellon University: после использования ИИ для решения разного спектра задач (математическое обоснование чего-либо, общее понимание текста и пр.) люди а) выполняли те же задачи без ИИ куда хуже, чем до его использования, б) быстрее сдавались, когда что-то не получалось. Что самое смешное, эффект наблюдался даже после 10 минут взаимодействия с ИИ-инструментами.

4️⃣ Исследование SBS Swiss Business School: есть сильная негативная корреляция между частым использованием ИИ-инструментов (любых) и навыками критического мышления; самое заметное влияние в этом плане ИИ оказывает на молодых людей, люди постарше удерживают критичность лучше. Основная причина утраты критического мышления – когнитивная разгрузка / cognitive offloading.

5️⃣ Исследования Университета Пенсильвании (оч схоже с результатами выше): люди, использующие чатботов как систему поддержки принятия решений, склонны чрезмерно доверять ИИ – и соглашаются с выводами ИИ даже тогда, когда им предоставляют проверенную информацию, прямо противоречащую рекомендациям от ИИшницы. Кроме того, чатбот-энтузиасты не замечают 80% ошибок в ответах / результатах генерации, в том числе – при решении вопросов, связанных с личными финансами.

6️⃣ Исследование медицинского факультета в Academy of Silesia, Польша (самое пугающее, кмк): эндоскописты, начинавшие юзать ИИ-продукты для распознавания разного рода аномалий и проблем, через три месяца «сбивали руку» – и их эффективность без ИИ заметно падала.

Не то что бы всё это такая уж неожиданность: опросы Pew Research Center показывают, что люди и сами не идиоты – и всё замечают; в частности, половина пользователей ИИ в США считает, что ИИшница ухудшила их креативные навыки и способность поддерживать отношения с людьми.

Но хорошо иметь чисто эмпирические подтверждения собственных выводов, а не только результаты соц.опросов и умение сложить два и два.

…А что до долгосрочных последствий этого дела, то тут можно просто перечитать меморандум Бромберга, мне кажется.

#ИИ

Вдогонку к посту про AI deskilling: одно из исследований о влиянии ИИшницы на мозг дало охрененный и не запланированный результат.

Вкратце:

Студентам университета Беркли дали задания, связанные с прогнозированием разных событий, в духе «какой будет цена на нефть через шесть месяцев».

90% студентов действовали по принципу «скорми LLMке промпт, скопируй результат as is, сдай задание»; у этих на выходе получилась предсказуемая херня. Остальные 10% интенсивно тыкали LLM вилами – задавали дополнительные вопросы, подгружали новые данные, давали нестандартные вводные и пр.

И вот с этими 10% началось самое интересное.

Во-первых, прогнозы у них оказались не сильно хуже, чем у тех, кто зарабатывает миллионы долларов на Polymarket’е.

Во-вторых, качество получившихся прогнозов вообще не зависело от используемой модели: с т.з. точности одинаковый результат показывали и какой-нибудь самый новый Claude, и ущербные опенсорсные ИИ-модели для мобильных.

Ну то есть ребята на кошках продемонстрировали: единственный компонент, реально определяющий уровень / качество результата, который выдают LLMки для массового потребителя, – это человек с его навыками, в первую очередь – с навыками [нестандартного] мышления и, простите, со встроенным исследовательским любопытством.

А бенчмарки и количество параметров в моделях, которыми на публику меряются ИИ-вендоры, – это, в большинстве случаев, чистой воды маркетинг и продаванство.

(на всяк случ: речь именно что о массовых чатботах, а не о специализированных / нишевых моделях)

Да, да, давайте, расскажите мне ещё раз, как прошаренные в ИИ джуны начнут на раз делать синьоров, а ИИ-графоманы – толстых с достоевскими

#ИИ

Продолжая разговор про ИИ и навыки: вместо тысячи слов – четыре диаграммы про отношение к ИИ среди студентов и университетских преподавателей.

TL;DR:

Студенты: Использовали ИИ, используем – и будем использовать!

Преподаватели: Котики, но вы же от этого на глазах тупеете!.. Т___Т

Вот и поговорили.

Алсо из забавного:

▫️Студенты, говоря про ИИ, привычно повторяют социально одобряемую мантру про «избавление от рутины», но каждый пятый уже заметил негативные последствия от использования ИИ (ухудшение качества результатов без ИИ, снижение способности к решению задач / проблем и пр.).

▫️Преподаватели, в свою очередь, опасаются, что а) ИИ сформирует у студентов зависимость без нужного для его использования скепсиса (95%), б) заметно снизит способности студентов к критическому мышлению (90%) и в) уменьшит и без того короткий attention span (83%).

▫️Чем лучше университет, тем хуже его преподаватели относятся к ИИ и к его использованию (51% ИИ-пессимистов в ivy league vs 36% в заборостроительных колледжах), причём лидеры по негативу – США и Канада (55% тамошних преподавателей считают, что использование ИИ, с шансами, приведёт к умственной деградации людей).

#ИИ #университеты

Ну, за неприятное

Чтобы как-то подытожить тему с влиянием ИИ на мозг и разделением ИИ-юзеров на на пассивных (90%) и активных (10%) – пара мыслей про то, что всё это значит для высшего образования и университетов.

Запрещать ИИ в университетах бессмысленно, это ясно даже и ежу: в этой гонке снаряда и брони точно победит снаряд.

Поэтому рациональный ответ, кмк, тут только один, причём ужасно неприятный, неполиткорректный и прямо-таки социал-дарвинистский: перестать притворяться, что у всех студентов – одинаковые возможности, способности и приоритеты.

Нет, не одинаковые, и это наглядно показали ещё MOOC’и: самые лучшие результаты по итогам онлайн-курсов – у тех, кто и без всяких онлайн-курсов умён, мотивирован и любопытен. Причём водораздел проходит не по количеству баллов условного ЕГЭ, а по уровню кайфа, который люди получают от процесса мышления, понимания, преодоления и пр.

С практической точки зрения это означает для университетов четыре вещи:

1️⃣ Возврат к образованию как к развитию (и отказ от образования как проверки усвоения контента): мыслить критически, работать с другими, делать новое [очень страдая в процессе], проявлять инициативу, понимать последствия своих действий и пр. И да, эту логику могут (и всегда могли) себе позволить только считанные университеты, и ИИ в этом плане не изменит примерно ничего.

2️⃣ Жёсткое образовательное профилирование, сильно напоминающее евгенику: тех, кому реально надо, можно по-настоящему учить; тем, кому не надо, – показывать, как нажимать на кнопочки, и не мучить личным развитием, сложностью, методами рационального мышления и вот этим вот всем. Потому что корм-то всё равно не в коня.

(и в таком разделении, кстати, тоже нет ничего нового: лучшие преподаватели всегда работали с теми, кто хотел учиться, подзабивая на остальных; опять же, формат образовательных программ «honors» – спецтреки для самых-самых – существует уже очень много лет)

3️⃣ Кампус, кампус и ещё раз кампус: развитие – практика а) человеческая, б) оффлайновая, в) социально-коммуникативная, и её в своё время не смогли заменить ни книги (а надежды на демократизацию развития вместе со знанием, кстати, были), ни интернет с гуглом, и у ИИ шансов тоже нет, что бы ни рассказывали нам вендоры, сражающиеся за выручку.

4️⃣ И, конечно, неизбежная ложь на публику: сказать, что в эпоху ИИ к настоящему обучению, развитию и творчеству способны, дай бог, 10% студентов (и это в Беркли!), а все остальные будут выполнять всё по минимуму, получать терпимые оценки и не напрягать мозг… ну, я даже думать не хочу, что сделают с ректором, который честно такое заявит.

А всё остальное – «ИИ-персонализация обучения», «высвобождение времени для творческих и сложных задач», ИИ как личный ментор и пр. – это или стратегия продаж / позиционирования, не имеющая отношения к реальности, или, в лучшем случае, способ не тратить время на тех, на кого не имеет смысла его тратить.

#ИИ #университеты