Вы наверняка уже видели раньше исследования, которые показывают, что LLM предвзяты, и их ответы зависят от того, где их обучали. Наверняка вначале это происходило случайно, но также я уверен, что сейчас такое происходит специально, по крайней мере, точно партия Китая контролирует «правильность» мнений своих моделей.

Но также исследования показывают, что дообученные модели несут на себе следы родительских искажений, и даже глубокое обучение не исправляет этого. Вот свежее исследование об этом «Reward Models Inherit Value Biases from Pretraining».

Это все про то, как ИИ может искажать свои ответы в силу тех данных и представлений, которые в него были заложены. И когда российские депутаты сетуют на создание национального ИИ, они, видимо, как раз и опасаются, что чуждые ценности как-то проникнут через ответы ИИ. Но мне кажется, что это опасность уровня борьбы с джазом и The Beatles. Но есть куда более серьезная угроза…

И по большому счету эта угроза касается всех пользователей интернета и тех, кто пользуется ИИ.

Статья «Marcus asks AI chatbots various questions» на эту тему хороша. Это и пример классного текста, и классной верстки. И основной месседж там в том, что ИИ знает о нас уже очень много, куда больше, чем мы думаем.

Помните, как все делали в ChatGPT комиксы о себе — о том, что чат знает о нас? Это было очень весело, но, возможно, стоило задуматься. ИИ способен по фрагментам данных (нашим вопросам, уточнениям, файлам, IP и т. д.) собрать огромную базу информации о нас и профилировать нас с такой точностью, о которой даже не мечтали агенты Штази, собиравшие все данные о гражданах ГДР.

Причем, чтобы составить точный профиль, ИИ не нуждается в каких-то специальных вопросах. Достаточно его возможностей по обработке массива разрозненной информации. Через выбор слов, структуру предложений, культурные отсылки и мимолетные упоминания мы неосознанно многое раскрываем о себе. И теперь ИИ знает о нас куда больше, чем Google или Meta. Да черт побери, он, наверное, знает о вас больше, чем ваш психолог.

И чиновников, у которых есть параноидальный страх, что везде враги, это должно жутко пугать.

Обратной стороной того, что ИИ знает о нас очень много, становится то, что он может нас везде найти. Точнее, найти наши следы там, где нам казалось, что мы их не оставили. Например, анонимные комментарии, сообщения в общих чатах, отзывы — все это можно с определенной точностью деанонимизировать. И это проще, чем кажется. В принципе, мы приближаемся к некоему порогу, за которым можно будет уверенно утверждать, что для 90% граждан вся их сетевая жизнь будет полностью деанонимизирована.

Сегодня ко мне пришла фишинговая ссылка от имени известного сервиса, чтобы выманить мою кредитную карту. И думаю, что первыми за информацией о нас придут не спецслужбы, а банальные мошенники. И вялые попытки что-то запретить вряд ли их остановят.

Хорошо бы, чтобы компании и государства смогли выработать общие правила для нового мира. Но я с печалью смотрю на то, что, кроме отдельных компаний и людей, мало кто озабочен этой проблемой. И мы в очередной раз оказываемся в ситуации, когда граждане должны сами побеспокоиться о своей безопасности. И, похоже, уже стоит переосмыслить то, как надо вести себя в интернете.

Больше не надо мучить свою совесть идеей, что использование ИИ потребляет много воды. Исследователи посчитали, и оказалось, что на фоне нашего среднего потребления это ничтожно мало. Если вы хотите компенсировать пожизненное использование промптов чат-бота, просто откажитесь от покупки одной пары джинсов — и ваша совесть будет чиста.
Если вы хотите глубже погрузиться в детали, вот материал Andy Masley: «The AI water issue is fake».

А прекрасная инфографика из этой статьи.

Последние изменения в проекте затрагивали в большей степени внешний вид, чем функционал, но некоторые из таких внешних функций все равно потребовали внимательного внедрения. Например, доработка кода, чтобы можно было использовать светлую и темную тему, и внедрение мультиязычности вымывали у меня несколько дней подряд дневные лимиты Gemini.

Чтобы внедрять такие функции, которые затрагивают большое количество файлов, я использовал ступенчатый подход. Вначале формировал промт для анализа кода на потенциальные проблемы внедрения, по результату анализа формировал через промт пошаговый алгоритм внедрения новой функции и потом уже двигался по этим шагам. Такой подход кажется более рациональным, чем просто пробовать сразу интегрировать большой функционал в код работающего проекта.

Для совсем больших функций, которые требовали больше пространства на поиск решений, я использовал подход, когда сначала собирал готовое решение как отдельный проект. И когда считал, что решение меня устраивает, переносил его в проект через промт. Такой подход позволяет не проводить эксперименты в рамках проекта с большой кодовой базой и оберегает его от случайных изменений.

Старое доброе «Семь раз отмерь, один отрежь» для вайбкодинга, как ни странно, кажется очень актуальным. Стоимость токенов хоть и падает, но хорошие модели стоят недешево. А чем больше проект, тем больше потребление токенов на его доработку. Поэтому стратегия внедрения осмысленных изменений в проект экономит не только время, но и деньги.

Сделал еще 404 страницу. Она мне просто нравится. И хоть код скрипта там довольно несложный, но все равно, чтобы сделать такую страницу, пришлось использовать разные инструменты. Вариант просто попросить ИИ нарисовать «вот так» не прокатывает. И это одна из особенностей вайбкодинга. Если вам нужно получить результат, но не принципиально, как он будет выглядеть, или у вас просто есть большой диапазон допусков, то такой результат получается быстро. Но если у вас есть конкретное требование, то может оказаться, что придется повозиться, и даже что-то проще сделать вручную, чем объяснить модели, что вы хотите получить.

Еще думал к разным языкам добавить арабский, чтобы был язык с другим направлением написания, но это влечет столько доработок, что пока оставил эту идею в покое.

На этом, пожалуй, все. Сам проект по-прежнему доступен на https://nodeflow.podluzny.com/

Видео на Ютюбе https://youtu.be/yO4TJalrFfo

Старая русская поговорка «Семь раз отмерь, один отрежь» становится удивительно актульной в эпоху внедрения ИИ, если вас ограничивает бюджет. На своем опыте я вижу, что более эффективным в экономии токенов оказывается не путь выбора более дешевой модели, а вариант выстраивания поэтапного подхода внедрения вместо хаотичного закидывания ИИ промтами в надежде, что он разберется.

Массовое внедрение ИИ среди разработчиков ведет к разным последствиям, и одно из них — это рост трат на сам ИИ. Пока нет никакого бенчмарка по этому поводу, но есть разрозненные материалы. Вот, например, вышел пост «The Pulse: token spend breaks budgets – what next?» https://newsletter.pragmaticengineer.com/p/the-pulse-token-spend-breaks-budgets?utm_source=post-email-title&publication_id=458709&post_id=196007666&utm_campaign=email-post-title&isFreemail=true&r=2y9heo&triedRedirect=true&utm_medium=email

В нем несколько точечных примеров, описанных в результате интервью. И в целом основная разбежка в оценках трат — $200–3000 в месяц на разработчика. Причем кто-то, типа healthcare, тратит и больше $1000 в день, а кто-то, как геймеры, и $200 в месяц считают большой суммой, потому что общий фонд оплаты труда низкий. И фигурирует какая-то новая норма в размере $1000 в месяц на разработчика при использовании передовых моделей и при этом контроль того, какие модели используются.

Компании тратят на ИИ, потому что боятся отстать. Фокус на продуктивности не оставляет им выбора. Переключение с дорогих моделей на дешевые дает экономию, но компании все равно вынуждены все время выбирать лучшие модели. И при этом большинство говорят, что расходы на ИИ выходят за первоначальные ожидания. Но у тех, кто видит, что продуктивность растет, нет страха тратить тысячи долларов на разработчика в месяц, потому что это все равно себя оправдывает.
Можно еще вспомнить, что Uber израсходовал годовой бюджет ИИ за пару месяцев. А Jensen Huang (CEO, Nvidia) считает, что инженер с зарплатой в $500k в год должен тратить $250k в год на токены https://www.forbes.com/sites/richardnieva/2026/03/31/the-ai-gods-spending-as-much-as-they-can-on-ai-tokens/.

И это все при том, что за последние два года стоимость токенов упала более чем на 90%, расходы на покупку токенов растут. Мы стоим перед поворотом от бурной радости от внедрения ИИ к подсчету затрат и ROI, и в выигрыше останутся те компании, которые будут способны это сделать.

Вообще, я давно думаю, что многие большие компании заигрываются в дизайн, в то время как для нормальной жизни можно делать и что-то попроще. И даже эстетика DOS не мешает реализовать основные сценарии для банковского приложения. И без 3D и разных шрифтов. Да, теряется всякая брендовость, но, кажется, ее значимость сильно преувеличена бренд-директорами.

Была бы моя воля, я бы сделал полный скин для банка, чтобы хотя бы старые сисадмины и тинейджеры порадовались отсутствию сторис и рекламы.

Оказывается, отношение к ИИ сильно зависит от дохода. Среди американцев оптимизм по поводу ИИ демонстрирует только одна группа — это те, кто зарабатывает больше $200 000 в год. А в остальном, чем беднее — тем тревожнее.

Из всех мрачных сценариев меня больше всего беспокоит один, что ИИ обеспечит формирование нового вечного бедного класса. Это когда большинство будет работать на выживание без шансов выбраться, а богатства сконцентрируются в руках все меньшего числа людей. Это не фантастика, уже сейчас 1% американцев владеет 35% богатств США, в России тот же 1% контролирует 49% богатств страны.

Меня немного утешает, что самые пессимистичные прогнозы обычно не сбываются, потому что реальность оказывается сложнее и интереснее. Но, наверное, стоит помнить, во Франции головы начали лететь именно тогда, когда расслоение стало невыносимым.

А график из статьи «We’re Just Getting Started»

После нескольких экспериментов с созданием диалога между виртуальным клиентом и виртуальным банковским ИИ я успел заметить несколько вещей.

Во-первых, делать чат с лентой снизу вверх кажется не лучшей идеей, потому что верхняя граница чата часто смещается, и это триггерит внимание. Люди так устроены, что очень хорошо реагируют на сменяющиеся картинки, а если диалог со стороны ИИ становится детализированным, то даже короткие сообщения ведут к частой смене позиций баблов сообщений.

Я подумывал отказаться от цвета, сделать все более нейтральным, но самого текста уже достаточно, чтобы эта проблема сохранялась. Поэтому кажется, что предпочтительнее делать ленту сообщений сверху вниз. В общем-то идея не новая, но иногда надо сделать большой круг, чтобы прийти к чему-то простому и обычному.

Во-вторых, сворачивание сообщений, которые возникают из-за необходимости поддерживать прозрачность рассуждений и тянуть время, кажется хорошим решением. Из плюсов, можно сохранять сценарий на одном экране долгое время. Из минусов, очевидное прыгание высоты при сворачивании, но, когда постинг идет сверху вниз, это уже не так бросается в глаза.

В-третьих, в ленте не надо оставлять сообщения, которые были вопросами или требовали пользовательского выбора. У меня первоначально кнопки оставались как часть истории, но очевидно, что глаз за них цепляется, если просматривать историю повторно, и это мешает.

В-четвертых, после использования перекрывающих чат сообщений, в этом сценарии это bottom sheet, при возвращении к ленте чата теряется внимание. Фактически невозможно сразу попасть в то место, где ты был до перекрывающего сообщения. Надо искать глазами, что явно повышает когнитивную нагрузку. Это маленькая, но важная задача, и я бы потратил время на поиск хорошего решения.

Из того, что мне кажется можно попробовать: добавлять текущему активному пункту больше яркости, чтобы он условно переливался, или поднимать контент выше, чтобы после возвращения последний пункт стоял посередине экрана. Второй вариант кажется мне более рабочим, потому что там внимание будет фокусироваться на нужном месте и за счет позиции на устройстве, и за счет отступа от нижней части, и за счет того, что это последний пункт в списке.

Ну и в-пятых, первоначально я задумал верхний блок как навигатор для сценария, чтобы вверху экрана фиксировать текущую задачу и отмечать этапы ее выполнения. Но сценарий получился коротким, все сообщения помещаются на экран без прокрутки, и, казалось бы, можно обойтись без верхнего блока. Но, на мой взгляд, он хорошо работает как отдельный акцент на сообщении об успешном завершении выполнения задачи. Моя идея в том, что, когда вы отдельно от чата выделяете ключевое событие, это дает дополнительный буст к привлечению внимания к этому сообщению.

Правда, с этим верхним сообщением не все еще гладко. Там куча кейсов, как оно должно себя вести, ответы на которые я пока не знаю. Но было бы желание, а решения найдутся.

В планах — продолжать играться со сценариями для голосовых интерфейсов. Хочу посмотреть, рабочая ли это вообще вещь, а для этого надо попробовать сделать еще парочку сценариев.

У меня в очереди стоит что-то типа: «Посмотри, какие ОФЗ сейчас дают выше 14% — хочу взять тысяч на 300, желательно с погашением не раньше 2027», «Уточни у банка, можно ли изменить время инкассации с 18:00 на 20:00 — магазины закрываются поздно, кассиры ждут». Полагаю, они будут длиннее, и возникнет необходимость в новых вариантах сообщений и типах данных. Если руки дойдут, потом расскажу, что получилось.

И немного деталей реализации. Сборка всего и отдельных элементов — это Figma. Для сценария чата я использовал HTML с библиотекой GSAP, которая отвечает за анимацию. Весь код собран в Claude.

Здесь все не поместилось, полный текст можно прочитать на Medium. Там еще будет про детали реализации: типы сообщений, операции постинга, шаги построения диалога.

Я давно слежу за публикациями Nathan Curtis. Еще со времен его компании EightShapes он умудрялся очень системно писать о проектировании и дизайне. С такой системностью трудно стать популярным, но это всегда были интересные материалы. За последние 10 лет, наверное, никто больше него не написал о работе над дизайн-системами. Вообще, очень рекомендую его блог https://substack.com/@nathanacurtis

И сейчас у него есть новый проект, который направлен на создание спецификации из файла дизайн-системы, чтобы эта спецификация стала промежуточным уровнем между Figma и кодом.

Когда есть краткая спецификация, то не нужно больше гонять MCP-запросы, чтобы проверить, какие изменения произошли в дизайн-системе. Один раз обработав Figma-файл, можно использовать спецификацию для дальнейших задач. И это дает колоссальную экономию токенов.

Не знаю, как у вас в проектах, но я видел рабочие дизайн-системы почти по гигабайту на один файл. С такой системой, честно говоря, бюджета не хватит что-то делать. И это только одна из причин использовать инструмент от Nathan Curtis.
Если выделить самое интересное и ключевое, что можно сделать через эту спецификацию:

— вести версионирование и четко видеть, в чем различия между версиями;
— получить компактный код дизайн-системы для ИИ-агентов для дальнейшей работы;
— проводить аудит консистентности и очистку от мусора.

Подробнее о возможностях читайте здесь: https://nathanacurtis.substack.com/p/figma-component-specs-on-command , а потом можно скачать GitHub-репозиторий и поставить себе.

Правда, нужно признать, что и с этим проектом Nathan не найдет всеобщего признания. Потому что тут нет «серебряной пули», а есть только инструмент на границе дизайна и инженерного подхода, который позволяет делать работу более эффективно. А такие вещи никогда хайповыми не становились.

Многие слышали про дизайн-спринты, и мало кто их делал. Я грешу на то, что, с одной стороны, мы все любим хайповые темы и готовы хвататься за всякую новую практику, но у нас весьма атомизированная культура и, как результат, всякие практики совместного дизайна приживаются с трудом, даже когда обещают значительный выигрыш в результате.

Если говорить проще, то нам легче катить квадратные колеса, потому что это привычнее, чем договориться с тремя другими людьми и сделать колесо круглым. Но я верю, что ИИ может помочь изменить ситуацию.
Вот тут подоспела статья от генерального директора Fantasy (небезызвестная в дизайн-кругах компания) — «What Running AI-Augmented Design Sprints Teaches About Creative Work».

Он рассказывает о своем опыте внедрения ИИ в дизайн-спринты. Начнем с цифр: при использовании ИИ в дизайн-спринтах трудозатраты сократились на 65%, а расходы — на 68%. Но реальный выигрыш в другом.

ИИ выступает как поддерживающая машина генерации идей, и это повышает эффективность всей команды. Люди больше сосредотачиваются на вопросах стратегического выбора, и это делает весь процесс эффективнее.
Именно стратегический выбор для ИИ является трудной задачей, ведь, в конечном счете, ИИ может хорошо обосновать любое решение. И в этой ситуации ценно иметь человеческие ресурсы, когнитивно не загруженные другими задачами, чтобы эффективно работать над этой важной частью процесса.

Если говорить образно, то ИИ умеет очень точно стрелять из лука и делает это быстро, но вот куда стрелять — все еще должен указывать человек. И кажется, что это не поменяется до появления AGI.

И еще один хороший совет от Firdosh Tangri: оценивайте влияние ИИ на отдельные этапы работы, а не ориентируйтесь на общее ощущение от результата. Совет дельный, но требует зрелости процессов, которой пока мало где есть. Может, ИИ как раз и поможет эту зрелость вырастить.

Много интересных графиков можно посмотреть в «Artificial Intelligence Index Report». Видно, как распределяется ИИ по планете, и что США и Китай доминируют, а их отрыв колоссален. Есть и интересная статистика по количеству патентов в области ИИ: в этом вопросе Китай — безусловный лидер. Сейчас у него патентов больше, чем у всего остального мира вместе взятого. Видно, что в 2025 году контент, сгенерированный ИИ, превзошел по объему контент, создаваемый людьми. И в принципе, на 425 страницах есть что посмотреть.

Но из всех этих графиков я вытащу сюда только один — про эффективность моделей относительно человека по разным бенчмаркам. Если смотреть на этот график как на объективное отражение реальности, то почти во всех темах ИИ уже превосходит среднего человека по качеству ответов. Осталось еще немного комплексных тем, с которыми люди справляются лучше, но наверняка это лишь вопрос ближайшего времени, когда и эти задачи будут решены.

Microsoft в мае выпустил новый отчет «Agents, human agency, and the opportunity for every organization».

Как всегда, отчет интересный, но все они в последние пару лет очень похожи по духу. Microsoft остается последовательным ИИ-оптимистом и видит в агентах сплошные возможности. При этом отчет все сильнее ощущается как большой product placement для корпоративных клиентов. Основная мысль простая: бегите в ИИ как можно быстрее, иначе будете лузерами.

Больше всего понравилось акцент на том, что в новом мире самыми ценными сотрудниками будут не те, кто просто делает больше задач, а те, кто выходит за рамки своей роли в поиске возможностей создать существенно больший результат для компании.

Microsoft рисует картину, где ИИ берет на себя больше исполнительных ролей, а человек получает больше функций активного агента, который определяет цели, оценивает результат и переключается между задачами. С одной стороны, это звучит, как получение свобода действий, но с другой, возникает ощущение, что естественные паузы в работе исчезают. Если раньше были естественные ограничения (поиск информации, бюрократия, время на размышления), то теперь все ускоряется, и давление на то, чтобы постоянно быть проактивным только растет.

В итоге вместо классического «вкалывают роботы, а не человек» мы можем получить мир, где человек вкалывает без остановки, а робот помогает ему это делать эффективнее поднося «кирпичи» и контролируя сколько времени он отдыхал.
Похоже, что идея про work life balance, которая на короткое время замаячила на горизонте, будет позабыта и занесена пеплом выгоревших работников.

Выскажу непопулярное мнение о новом Ferrari — это прекрасное дизайнерское решение. Ferrari сделали машину, на которой можно ездить в магазин или на пляж: удобную, чего у них, кажется, никогда не было, и дико эксклюзивную. Мне кажется, у них точно не будет недостатка в текущих заказах.

Попытка перевернуть игру на меняющемся рынке — это круто. Результат сильно лучше, чем попытка перезапуска у Jaguar.

Отдельно мое внимание привлекли интерфейсы внутри салона. По фотографиям, конечно, нельзя составить полное впечатление, но что мне бросается в глаза?

Руль остался рулем, нет попыток добавить туда экраны, сделать его космической формы — это чистая дань наследию и устоявшейся форме.
Небольшая площадь цифровых интерфейсов. Кажется, что вся философия машины в том, чтобы получать удовольствие от вождения, а не смотреть TikTok в салоне.

Куча физических переключателей в противовес прошлому повсемесному тренду на использование простых плоских интерфейсов.

Единственным препятствием, на мой взгляд, для того чтобы эта машина стала культовой, будет отсутствие автопилота. У Ferrari нет таких технологий, и, видимо, купить их неоткуда. И сейчас Ferrari Luce может оказаться очень красивым дирижаблем, но выпущенным в начале 1937 года, как раз перед тем, как их век прошел.

У меня закончился учебный год: принял зачеты, раздал оценки. Надо, наверное, подвести какие-то итоги.

Помню свой оптимизм в начале осени. Тогда у меня было три цели на учебный год, но реальность, как всегда, оказалась более суровой.

В области AR я вообще не продвинулся с точки зрения учебного процесса. Даже не было повода куда-то это встроить. У меня сейчас есть подозрение, что такое можно проделать, когда студентов очень много и тогда найдется пять человек, которым будут интересны эксперименты с новыми технологиями. Но нужно признать, что студенческое любопытство — это штучный товар, который редко встречается.

До ИИ для вайбкодинга и продуктовых прототипов тоже не дошли. Я вижу, что студенты часто используют ИИ для текстовых работ, немного — для изображений, еще меньше — для видео и совсем мало — для создания продуктов. И эта пирамида отражает их интерес к этим вещам. Процесс учебы построен на необходимости выполнять обязательные задания, и все, что не входит в этот список, не получает должного внимания и времени.

Надо заметить, что ввели отдельный курс по вайбкодингу для дизайнеров. Правда, с колокольни моего опыта, его стоило бы делать иначе и интегрировать с другими практическими работами. Но хотя бы студентам расскажут, как развернуть агента у себя на компьютере и поделают с ним какие-нибудь задания. Хотя если задания слишком сложные, то есть шанс только испортить впечатление вместо того, чтобы открыть новые возможности.

Еще мне понравилось, какой процесс у меня получился в дизайн-лаборатории. Удалось скоординировать работу ребят так, чтобы они не толкались плечами, делая одно и то же, и при этом чтобы их частные проекты дополняли общую картину большого проекта. Было бы чуть больше людей и чуть больше времени, можно было бы не только придумать что-то хорошее, но и внедрить это в жизнь.

Кроме прекрасного отзыва, который меня будет еще долго радовать, хочу поделиться с вами темами учебного плана, который вышел в дизайн-лаборатории. Кажется, получилось неплохо.

- Введение в UX-стратегию
- Product Discovery и приоритизация идей
- Сегментация аудитории
- Редакционная политика цифрового продукта, Tone of Voice
- Прототипирование сервисных разделов и дизайн-система
- AI Skills и продуктовое прототипирование
- Развитие прототипов
- UX-ревью и итерационный подход в дизайне
- Интерактивные прототипы и внедрение инноваций
- Адаптивность интерфейсов
- Презентация продуктовых решений
- Презентация и унификация проектных материалов
- Защита проектов

Мне кажется интересной статья BCG про будущее робототехники «How Physical AI Is Reshaping Robotics Today—and What Comes Next» . Сама тема не входит в круг моих профессиональных интересов, но это определенно та область, которая будет волновать людей и бизнес в ближайшие десятилетия.

BCG попробовали структурировать карту развития робототехники, сведя её к простым шагам. Это очень удобно для понимания огромной предметной области. При этом такой подход позволяет свободно говорить о будущем технологии, не путаясь в том, что уже есть, что почти существует и о чём компании пока только мечтают.

По большому счёту, идея BCG в том, что переход на каждый следующий уровень развития технологии даёт робототехнике реактивный импульс распространения за счёт удешевления и роста возможностей. Причём эти эффекты неотделимы друг от друга: чем более развита технология, тем более повсеместной она становится.

Понятно, что это только прогноз и один из вариантов будущего. Но если бы я занимался инвестированием в робототехнику, то направил бы усилия не на поиск компаний, которые производят роботов, а на те компании, которые нацелены на преодоление барьеров между разными уровнями развития робототехники. Именно в этих точках находится колоссальный потенциал.

Такие разнообразные времена, что, с одной стороны, компании разрешают сотрудникам, за компьютерами которых следят, делать перерывы на полчаса для «личных дел», а с другой — в энциклике Папы Льва XIV мы читаем: «Важно обеспечить, чтобы рост признания человеческого достоинства не был заслонен давлением новых идеологий. Из них особенно коварна та, которая предполагает, что каждый человек должен зарабатывать или оправдывать свою собственную ценность, вплоть до приписывания большей ценности тем, кто более эффективен или результативен. С этой точки зрения люди в конечном итоге сводятся к средству достижения результатов, ресурсу, который можно использовать и эксплуатировать, и больше не признаются самоцелью. Однако ценность личности не зависит от того, чего она достигает или производит».

Католическая церковь звучит как новый социалистический революционер, призывая к таким гуманистическим стандартам, за которые в некоторых странах можно угодить в немилость.

Формирующаяся технократическая парадигма характеризуется тенденцией следовать логике эффективности, контроля и прибыли в формировании личных, социальных и экономических решений. Нужно признать, что технология — это не просто инструмент. Когда она становится стандартом, по которому все оценивается, она начинает диктовать, что важно, а что можно отбросить, сводя людей к простым винтикам в системе, стремящейся к постоянно возрастающей эффективности.

Как я понимаю, Папа Лев XIV выступает с осторожным предостережением о том, что современные подходы будут влиять и изменять саму структуру социального устройства. И эти фундаментальные изменения могут быть опасны и повлекут изменения в духовной, этической, политической сферах, и не обязательно эти изменения будут в лучшую сторону.

На фоне этого я вспомнил слова Дмитрия Лихачева из интервью 1992 года: «У нас есть прогресс техники, но у нас колоссальный регресс духовной жизни, культуры». А это было уже очень давно, и похоже, что то, о чем говорит Папа Лев XIV, — это не просто изменения под давлением локальных инноваций, но продолжение куда более длинного и глубокого тренда, который отражается на изменении общества. Но, может быть, с современными технологиями эти изменения будут происходить куда более стремительно и неудержимо.
Вопрос, собственно, в том, несет ли каждый из нас ответственность за идущие изменения и влияем ли мы на то, в каком мире будут жить следующие поколения, ну и заодно мы в старости. Будет ли это мир, выстроенный вокруг человека, или мир, выстроенный вокруг метрик?

Если что, я не знаю ответа на этот вопрос.

P.S. Кстати, в 99 параграфе энциклики очень точно, на мой взгляд, формулируется определение ИИ через то, чем ИИ не является. Если вас интересует тема развития ИИ и технологий, посмотрите, там хорошая точка зрения: https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html

Для компаний, которые ратуют за выход сотрудников обратно в офис, есть новый интересный аргумент.

Вышло небольшое исследование про безработицу среди молодежи, опубликованное на сайте Федерального резервного банка Нью-Йорка и подготовленное совместно с исследователями из Гарварда и Университета Вирджинии: https://libertystreeteconomics.newyorkfed.org/2026/06/remote-work-leaves-younger-workers-sidelined/

По их оценке, это не ИИ вытесняет молодежь с ролей в начале карьеры, а повсеместное увеличение удаленной работы. Удаленная работа затрудняет обучение и наставничество новых сотрудников. Профессиональный рост молодых специалистов замедляется. И, соответственно, компании начинают неохотно нанимать менее опытных работников.

Исследователи пишут, что удаленная работа может объяснить 64% роста безработицы среди молодежи (напоминаю, это американские данные).
Понятно, что когда джун не сидит рядом, ему реже дают фидбек, реже что-то объясняют, реже подтягивают. Его прогресс становится медленным. Чтобы поддерживать такой же уровень наставничества при удаленной работе, нужно создавать специальные механизмы структурированной обратной связи, но такое никто не делает. В итоге на удаленную позицию нанимают тех, кто способен работать самостоятельно.

Хотя с выводами исследования можно поспорить, с другой стороны, мне нравится точка зрения, что на ИИ можно не грешить, хотя бы в вопросе безработицы среди начинающих специалистов.

После того, как я написал про папскую энциклику, касающуюся в том числе и ИИ, было бы несправедливо не посмотреть на то, как другие религии относятся к ИИ. Меня в первую очередь заинтересовала позиция ислама.

Я понимаю, что ислам очень разный, и я физически не могу охватить все его разнообразие, но если смотреть на тексты некоторых авторов, то есть позиции, близкие к мнению Святого престола. А Великий имам Аль-Азхара, доктор Ахмед Аль-Тайеб (авторитетный лидер суннитского ислама), даже рассказал, что вместе с покойным Папой Франциском начал проект подготовки всеобъемлющего документа по этике искусственного интеллекта.
Общая идея Аль-Тайеба в том, что ИИ должен быть окружен оградой этической ответственности и профессионального контроля. И ответственность здесь лежит на экспертах и законодателях, и только они должны оберегать эти технологии от отклонения от целей, основанных на гуманитарных принципах.

Кстати, тут можно увидеть одно из расхождений с подходом Папы Льва XIV, который много говорит про субсидиарность, то есть принятие решений на самом низком локальном уровне. На его взгляд, важно избегать сверхцентрализации в области ИИ и нужно оставлять ответственность и свободу принятия решений на локальном уровне.

В общем, слово «ответственность» снова стало важным. Другое дело, что кажется, будто сейчас особо никто не хочет брать ответственность, а тот, кто говорит, что ответственность на нем, в конечном счете склонен просто присваивать себе абсолютную власть.

Мне в этом плане последний фильм Соррентино «La grazia» все больше кажется утопичной сказкой. Кстати, если не смотрели, то посмотрите.

Неожиданно для себя втянулся в проект по работе с кодом и корпоративными документами через семантический поиск. Если коротко, то мы пытаемся научить поиск понимать смысл запроса и связи между данными, а не просто ловить совпадение слов.

У нас простая идея, если научиться качественнее подбирать связанные данные, а не просто «вот документы со словом X», а «вот требование, вот задача под него, вот результат», то можно будет автоматизировать решение некоторых комплексных задач, которые сейчас люди руками делают.

Пока мы на стадии проверки гипотезы, надо понять будет ли наш подход лучше, чем к-векторы и дешевле, чем тяжелые графовые решения.

Немного из 1987 года. Исследование «The Vocabulary Problem in Human-System Communication» было фундаментальной работой для эпохи активной компьютеризации, но его выводы актуальны и сейчас.

В исследовании опросили несколько сотен человек в нескольких предметных областях и выяснили, что при необходимости описать определенную операцию или выделить ключевой термин одним словом или короткой фразой ответы респондентов совпадали только на 7-18% случаев. Люди могли говорить об одном и том же, но называть это разными словами. Это был спонтанный выбор участников исследования, который отражает тот факт, что мы мыслим по-разному.

В принципе, можно сказать: зачем исследовать очевидные вещи, если и так видно, что люди говорят по-разному и используют разные слова? Но нюанс исследования заключался в том, что даже в узкоспециализированных областях процент совпадений был не выше. И исследователи Bell Labs обращали внимание на эту проблему.

Получается, что как бы мы ни пытались точно сформулировать пункт меню или призыв к действию, в нормальной ситуации большинство пользователей все равно предпочло бы, чтобы это называлось иначе.

С другой стороны, если вы делаете справочную систему, то для нормальной работы она должна поддерживать семантический поиск. С появлением LLM с этим стало значительно проще. А все потому, что люди разные и постоянно норовят называть вещи так, как им удобно.

Внедрение SDD (Spec-Driven Development) подхода в разработку с ИИ обещает сокращение сроков поставки на рынок, но не за счет ускорения разработки, а за счет смещения обнаружения ошибок на более ранние стадии.
Хорошие аргументы в статье «ROI of Spec-Driven Development: how to calculate time-to-market and defend it to the board».

По оценкам отраслевых экспертов, обнаружение дефектов происходит на 40–60% быстрее, а затраты на их устранение снижаются на 75–85% при переносе этапа проверки на более ранний этап. Пятилетнее исследование в автомобильном секторе (Bosch, https://swt.informatik.uni-freiburg.de/staff/langenfeld/resources/Requirements%20Defects%20over%20a%20Project%20Lifetime ) показало, что большинство дефектов (61%) возникают из-за неполных или ошибочных требований, а обнаружение дефектов на поздних этапах обходится во много раз дороже, чем обнаружение на этапе определения требований.

Думаю, что всякий, кто занимался разработкой, сможет подтвердить, чем позже найдена проблема, тем больнее и дороже обходится ее устранение.

У IBM и Microsoft было исследование подхода Test-Driven Development, в котором они показывали, что вложение на начальном этапе 15–35% приводит к снижению дефектов на 40–90% (https://github.com/tpn/pdfs/blob/master/Realizing%20Quality%20Improvement%20Through%20Test%20Driven%20Development%20-%20Results%20and%20Experiences%20of%20Four%20Industrial%20Teams%20(nagappan_tdd).pdf ).

Очень подходит к описанию этого русская пословица: «семь раз отмерь, один отрежь».

Но SDD-подход требует определенной культуры разработки и будет требовать дополнительных токенов на написание спецификации. И, как мне кажется, именно культура может стать камнем преткновения. Слишком часто можно встретить менеджмент, который не хочет менять устоявшиеся подходы и вместо того, чтобы усилить аналитические инструменты, предпочитает быстрые результаты, которые потом как-нибудь кто-нибудь будет мужественно выправлять и доводить до ума.

Хорошая статья про A/B-тестирование и ловушки этого метода https://e8.team/lab/why-ab-tests-show-nothing/

Она подойдет как тем, кто хочет проводить тестирование, так и тем, для кого важен его результат и кто хочет быть уверенным, что данные, которые предоставляют аналитики, действительно достоверны.

В общем, если вы хотите проводить тестирование, результаты которого будут убедительными, убедитесь, что люди, которые будут его проводить, знают обо всех возможных ловушках и понимают их. А таких ловушек много, и они очень коварны.

На своей практике я не раз видел, как результаты A/B-тестирования преподносились как однозначный успех, хотя при более внимательном рассмотрении возникали вопросы к методологии или интерпретации данных. Проблема в том, что в командах редко находятся специалисты, готовые детально проверить корректность эксперимента и оценку его результатов. Поэтому к выводам тестирования всегда полезно относиться критически и внимательно разбирать, как именно они были получены. И надо быть уверенным в квалификации людей, которые такие тесты проводят.