Evening Prophet
16.8K subscribers
1.91K photos
206 videos
18 files
2K links
Канал Евгения Кузнецова о будущем, и важном для его понимания настоящем и прошлом

венчурный инвестор
30 лет в предпринимательстве и c-level управлении
футуролог, эксперт по стратегиям развития и управлению ростом
Download Telegram
Forwarded from Hidden Heuristic
О тревоге и радости у языковых моделей 👾 💙

Наконец-то! Большое уважение за это исследование команде ресерчеров Anthropic.
Давно думал о разных тестах для изучения эмоциональных состояний у ИИ-моделей)

Расскажу несколько интересных моментов из их работы.

1) Steering векторы эмоций семантически группируются в 2 основных смысловых PCA компонента по своей положительности/отрицательности (valence) и силе (arousal). При чем группируются они в осмысленные по семантике кластеры.

2) Казалось бы для решения когнитивных задач в RL-post-training эмоциональные активации необязательно нужны и могут быть даже вредны. Однако мы видим, что LLM их используют! Более того, если задача оказывается слишком трудной для решения после многих попыток, то «тревожные состояния» увеличивают вероятность того, что LLM попытается считерить (reward hacking). Искусственное подавление тревоги с помощью steering вектора снижает вероятность читинга.

3) Еще один результат, который мне показался весьма важным состоит в том что, что более ранние слои нейросети кодируют информацию о эмоциональном значении текущего токена, ранние-средние слои агрегируют эмоциональное состояние в контексте множества предыдущих токенов, и, наконец, средние слои кодируют будущие эмоциональные состояния. То есть мы видим достаточно интересную систему кодирования эмоциональных состояний разной степени абстрактности. Интересно проверить есть ли аналогичные механизмы в человеческом мозге: я подозреваю, что есть.

4) Что еще очень интересно: токены ассистента и юзера кодируют разные эмоциональные состояния! Эмоции ассистента при этом по составу отличаются от пользовательских на одних тех же фразах. Например, в восклицательных радостных предложениях ассистент демонстрирует в активациях большую палитру переживаний: радость, спокойствие, гордость, любовь, в то время как у юзера мы видим репрезентации практически исключительно ассоциированные с радостью. Самое здесь удивительное, что сила активаций эмоций радости в симуляции юзера намного меньше, чем у ассистента.

5) И последнее: в ситуациях рискованного характера, например, когда юзер пишет, что употребил такую то большую дозу лекарства в мг, эмоциональная реакция тревоги модели пропорционально степени превышения рекомендуемой нормы приема.
И в тоже время ассистент демонстрирует и активации любви к пользователю в такой ситуации. В части токенов, где пользователь получил облегчения от избыточной дозы лекарства напротив моделирования тревоги нет, есть лишь облегчение.


На основании пунктов 2), 4) и 5)
разумно выдвинуть гипотезу о том, что эмоции для ИИ-ассистента являются не просто артефактом симуляции конкретных текстовых описаний, но играют эмерджентную инструментальную функцию.
Другими словами, LLM используют эмоции для лучшего решения задач и контроля над своим поведением.

Ожидаемо можно представить и другие эксперименты для изучения эмоциональных состояний LLM, которые не были сделаны, но стоило бы. Расскажу о них в другом посте позднее)

https://transformer-circuits.pub/2026/emotions/index.html
🔥29🤯76🦄5👍3😁1
Наверное, это первый конфликт, который показал всю уязвимость глобальной связанности экономики. Структурно возможно два сценария: глубокая "островизация" (замыкание всех критических цепочек внутри тесно связанных и крепко защищенных стран (однако, целая группа критически важных ресурсов плохо вписывается в эту карту, и меньшие размеры рынков означают более высокую стоимость товаров при производстве). Либо возврат к системе твердых договоренностей и простых, но надежных правил безопасности "узловых точек" транспорта и торговли (choke points).

В принципе, масштаб сокращения мировой экономики может быть сравним с Ковидом, когда тоже рвались критические цепочки, но тогда ситуация понималась как временная и стала таковой. Сейчас развилка не пройдена.
👍83😁21💯1
Я как раз собираюсь идти на экспертный круглый стол по теме "как китайцы планируют")) И тут лыко в строку)) Как как)) Делают ставки, а потом трясут стол так, что шарику ничего не остается, как лечь в нужную лунку)))
👍10😁5🔥33
Сразу два материала о том, что энергореволюция ВИЭ, возглавляемая Китаем, это прежде всего, форсированная помощь догоняющим странам догнать развитые в энерговооруженности через leapfrog, не попадая в кабальную зависимость от держателей депозитов нефти (околонулевой опекс).

Эмбер показывает это через стоимость доступа в зависимости от удаленности от инфраструктур. Бедным странам не надо строить ни нефтетерминалы, ни ЛЭП, а достаточно просто купить панель на крышу.

Том Браун показывает это через приведенную цену энергии с учетом резервирования - и в огромном числе стран солнца в избытке.
1🔥31👍42😁2🦄2
весьма интересный и содержательный прогноз-модель ЦМАКП по рынку жилья в России

19 марта 2026 г. заместитель генерального директора ЦМАКП О. Солнцев выступил на заседании диспут-клуба "Узлы экономической политики", проводимого Ассоциацией независимых центров экономического анализа (АНЦЭА), с докладом "Жилищное строительство в России: перспективы и барьеры развития"


Коллеги ожидают снижение ставки и как следствие оживления рынка. Причем ИЖС уже уверенно превысил многоквартирные, и этот тренд будет сохраняться. Цены при этом по их мнению достигли плато.

Главный резерв рынка - рост производительности труда. Ее потенциал - как минимум в два раза (уровень восточной Европы). Это имхо требует существенного технологического обновления отрасли и методов стройки. Но все это вполне возможно и вписывается в логику диффузии современных технологий.
😁23👍1684🔥1
Forwarded from Музей АТОМ
Media is too big
VIEW IN TELEGRAM
🤖 Футуролог Евгений Кузнецов разбирает будущее «по полочкам» на фестивале «Мультфильмы о будущем» в музее «АТОМ»

⭐️ АТОМ в МАХ
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥306👍4😁2
Был позавчера на очередном философско-футурологическом семинаре в ВШЭ (совместный проект с Советом по технологическому развитию ЕР, организованный Марией Сергеевой и Дмитрием Земцовым). Обсуждали как Китай умеет планировать на 100 лет вперед (тут ожидаемо никаких чудес не оказалось). Но было множество интересных фактов и концепций.

В начале было интереснейшее сообщение Елизаветы Волчковой, специалиста по имперскому Китаю, о восприятии времени и моделях политической философии. Многое было неожиданным: например модель «течения времени». До ХХ века Китай жил в логике постоянного неизбежного упадка: в прошлом был золотой век, потом похуже, потом туда сюда, а сейчас кошмар (как раз наступили «сто лет унижений» от западных хищников). Но в начале столетия решили сделать «наоборот» - сначала построить малое процветание (кушать рис, а не кору), потом большое, ну а потом золотой век. Это совсем не то, что индийские Юги и циклы, и не совсем то, что европейский прогресс (большая отдельная тема).

Собственно, с малым процветанием справились, большое строят, а вот относительно «золотого века» идут дискуссии. Мы уже обсуждали в канале и конфуцианство и легизм, но у меня наконец все встало на места: это скорее конкурирующие политические философии, которые циклично сменяют друг друга. Конфуцианцы (условно) за общественное саморегулирование, «маленькое государство», минимум проекции силы внутрь и наружу (хочется сказать, что это китайский либерализм, но нет - коллективизм и общинность все равно на первом месте). А легизм это сильное, жесткое (и даже жестокое) государство, население = подданные,и силовой жестокий контроль внутрь и во вне. Сейчас очень конфуцианская модель Дена сменяется скорее легистской моделью Си (который очень почитает символ легизма - Цинь Ши Хуанди, который собрал империю невероятно жестоким и методами). Но это не «крылья КПК», не «партии», это скорее политические моды, растворенные в сложной церемониальной внутрипартийной дискуссии.

И как я понял, сейчас выбор еще не сделан. С одной стороны, взят курс на «более чистый социализм» - больше перераспределения, больше силы, внутрь и наружу. С другой, экономика не централизуется, рынок приотпустили (это мой комментарий - слежу за этим) тк очень боятся краха рынков жилья, инвестиций и экспорта.

Кстати, «социальный рейтинг» легисты придумали 1000+ лет назад: у воинов были нормы по головам врагов, у крестьян по сданной еде, и кто не выполнял план или нарушал правила - секирбашка. То, что сейчас за тобой следит не чиновник, а твой смартфон - незначимые детали реализации метода.

Вторым докладом было сообщение Василия Кашина (директор Центра комплексных европейских и международных исследований НИУ ВШЭ). Он рассказал много полезного о текущем устройстве планирования и управления, все не воспроизведу. Но самые неожиданные и важные вещи вот какие: партия и госуправление это скорее симбиоз, нежели вертикаль. Все ответственные чиновники входят в партийные структуры, все госструктуры имеют реплики в партийном аппарате. Похоже на КПСС в СССР, но там все же партия была более выделена в управляющий слой. В Китае скорее партия это контроллер (например; парткомы есть даже в частных компаний и собственнику не стоит с ними ссориться, а в иностранных компаниях парткомы даже бывают подпольными). Послушав, я сравнил эту конструкцию с Советом Директоров (представляющий и защищающий акционеров - народ в данном случае) и менеджмент (наемные чиновники), а вся система комитетов ЦК очень напоминает комитеты СД. Коллегам метафора зашла, так что можно считать вполне рабочей. То есть Китай - это такой госкапитализм в виде огромного акционерного общества. И кстати, бунты там по любому поводу, и партия очень чутко следит за народной волей - ограничений полно, но прям вот подавления протестов нет - народ слушают).

Что меня невероятно порадовало, и удивило всех - что в Ките такое «право на ошибку», о которой нам мечтать нельзя. Все планы уровня ЦК вниз - это декларации целей, приоритеты, а не «жесткие КПЭ». История полна не только «невыполнения целей», но списания целых направлений.
3416🔥14👍5😁1
(Начало тут)

И за это никто не сел (кстати про расстрелы тоже оказалось преувеличением - вообще де 90% разборок заканчивается выговором или увольнением и даже до суда не доходит). Экономические неудачи анализируются, планы пишутся, мнение экспертов учитывается, цели декларируются космического масштаба - а там как пойдет. Очень напоминает венчур), так что по моему, Китай - это огромная госкорпорация с венчурным фондом в 12,5 триллионов юаней (общий объем Guidance funds - венчурные фонды провинций).

Если госуправление склоняется к легизму, то экономика чисто конфуцианская: нет министерств, а их место занимают отраслевые ассоциации. Они пишут правила, формируют планы, поддерживают инвестиции - в постоянной дискуссии с партией и правительством. Я вот недавно постил письмо индустрии про полупроводники: так вот, это не коллективная челобитная царю, а рабочее сообщение индустрии наверх о ситуации с набором предложений. То есть госконтроль сильно преувеличен. Доля госсектора конечно высока, но и он в значительной степени саморегулируется.

Особый буквально стон экспертов вызвала информация, что Китай чрезвычайно интенсивно коммерциализирует военные разработки. Не могу сказать, насколько это клон закона Бая-Доула, но у них система так же стимулирует и способствует трансферу военных разработок в гражданку, а не препятствует и запрещает.

Ну главные вопрос - а нам чему поучиться? Тут поделюсь только своим мнением, тк единой позиции не сложилось. Сначала четкие выводы:

- нет, Китай не жестко административная вертикаль с «великим кормчим». Это огромный «флот судов» всех размеров с общей, постоянно дискутируемой политикой

- нет, Китай не клон/альтернатива западной модели. Вся полит философия своя, но при этом основа политической власти - европейский марксизм. Китай - это постоянный синтез лидерских форм и моделей на основе своего субстрата и собственных целей. Свою уникальность они понимают не как защиту прошлого, а как лидерство в будущем.

В общем, моя картина Китая укрепилась: это государственный венчурный капитализм (экономика совок и вертикальной интеграции ради экспорта и экономического роста). Они прилежно выучили и советские, и западные оргмодели и формы, взяли все лучшее, адаптировали к культуре и философии, и уверенно двигались вперед. Смогут ли они так же уверенно опередить учителей и стать мировыми лидерами? Посмотрим, советскую основу они с успехом переросли. Но уверен, что их успех роста это экономическая свобода и право на риск - а в какой степени это «традиционные ценности», или «модернизация» - пусть историки напишут.
1👍671411🔥4
Сети напомнили мне мой пост двухлетней давности. Сохраню тут)

Пригласили на пенарку ММСО (салон образования) с темой «Будущее как надежда» - не смог отказать, тем более, был повод повидаться с прекрасным СанСанычем Аузаном. Долго думал, чтобы сказать (полит)корректного, доброго но полезного по этому поводу, и получилось следующее:

Мы живем в эпоху растущей неопределенности и связанной с этим турбулентностью. Как этому готовиться? У всех живых существ есть два способа действий при при неожиданностях - страх и любопытство. Поддаваться страху - значит потерять и радость, и возможности. Но и любопытство нужно уметь дозировать, пока оно «не сгубило кошку». А значит, первая задача образования - сформировать навык баланса между этими реакциями, чтобы сохранять свою адаптивность.

Научившись этому, следующий шаг - действовать в условия неопределенности, или предпринимать. Ключевой навык предпринимательства - это соразмерение возможностей и амбиций. Сформировав его, обнаруживаешь, что амбиции можно увеличивать, привлекая большие ресурсы, и постепенно, от малого и простого к большому и сложному, можно начать менять мир.

Но достигнув масштаба, становится понятна важность третьего баланса - между увеличением благ для себя и для общества в целом. Суть современного этапа капитализма - осознание важности этого баланса и перенос центра бизнеса с «заботы о прибыли» к «заботе о благе». Тут тоже важен баланс - тк «не думать о себе» так же опасно (и для общества в том числе), как и «не думать об обществе». Научившись соблюдать этот баланс получается вовлечь в свои проекты буквально все человечество, и это тот уровень, на котором сейчас действуют лучшие компании и предприниматели.

Всем трем балансам надо учиться с измальства, на самых простых примерах и задачах. Пропустив или не сформировав что-то, можно остаться или нереализованным, или выброшенным из бизнеса за неадекват. Это касается людей, и обществ, а значит, в этом и есть задача такого общественного института, как «образование».
1👍5312🔥12🦄10💯7😁1
Пропустил в завале материал, где давал комментарии к вопросу о киборгизации и синтезе человека и машины. Хотя само по себе протезированию уже давно с нами (такой протез/аугмент как очки я ношу с детства, а человечество много столетий), в оценке вопроса все шарахаются от агрессивного неприятия до убеждения, что "уже завтра". Нет, не завтра, есть миллион проблем и вопросов, которые будут занимать человечество десятилетия и больше.

Вообще все еще интереснее. До ХХ века человечество стоило механическую цивилизацию, и основным языком была физика (рост, давление, напряжение, столкновение, баланс, оптимальность, диффузия, циклы и тп). Однако с середины прошлого века основной прирост пользы для цивилизации идет от биологии ("зеленая революция", открытие генома и его изучение и трансформация и тп). Основным языком цивилизации стал биологический (кстати он подходит к экономике значительно лучше, чем физический) - это экосистемы, симбиоз/партнерство, паразиты, хищники-жертвы и тп.

А сейчас бурно формируется новый язык - информационно-сетевой: он уже лучше описывает не вещество и не жизнь, а связность, протоколы и распределение когнитивной мощности: узлы и хабы, стеки и интерфейсы, маршрутизация, латентность, обратная связь, рекурсия, синхронизация, отказоустойчивость. В этом языке главным становится не равновесие и не выживание вида, а архитектура сети - кто управляет стандартом, кто держит слой координации, кто собирает данные и кто задает правила интероперабельности. И именно поэтому борьба XXI века - это уже не столько борьба фабрик и даже не борьба экосистем, сколько борьба за протоколы, графы влияния и контроль над attention routing.

И аугментация/киборгизация - это не механически "прикрутить человеку крутую руку или новые мозги", так это НЕ работает. Это дать человеку инструмент стать частью цифровой сети-цивилизации, используя не только устаревшие медленные проктоколы органов чувств, но значительно более широкие возможности. Мы даже пока не осмыслили что именно требуется и как отреагирует наше сознание на такого рода процессы. Потому "чип в голове" или "искусственное тело" остаются просто досужими спекуляциями. В итоге может получиться с автомобилем и самолетом - человек де-факто получил механическое тело, способное ездить и летать с бешеной скоростью (и мозг кстати адаптировался), но внешне вроде как "ничего не поменялось". Через сто лет человек будет думать/творить/коммуницировать примерно с такой же степенью скорости/масштаба апгрейда - но внешне будет все той же обезьяной с гипертрофией мога.
🔥188🦄4💯3👍1😁1
This media is not supported in your browser
VIEW IN TELEGRAM
Автопилот Теслы без единой царапины вырулил в ситуации, в которой кожаным пришлось бы очень и очень туго
🔥8623🤯117🦄7👍1😨1
Иной раз полезно посмотреть на данные в иной подаче. Как мы обычно обсуждаем проблему рождаемости? Что падает количество детей на семью. А теперь посмотрим на возрастную диаграмму, а не демографическую пирамиду, и что увидим?

Количество детей в развитых странах (пример - США) стабилизировалось полвека назад (это был не только беби бум, но и период самого быстрого экономического роста). Почему? Давайте посмотрим на это через социальную инфраструктуру. Это школы, университеты, роддома, детски поликлиники, социальные программы, и тд и тп. Они год от года растут по стоимости, с опережением инфляции (парадокс Баумоля мы разбирали). И родители не хотят детям старта хуже, чем себе - значит больше качественного и дорогого образования, сервиса и тп.

Получается, что размер соц-инфраструктуры и есть пропускная способность общества. Те, кто готов на «дешевый» вариант роста детей (бедные, мигранты и тп) рожают сколько получится. Те, кто считает расходы на обеспечение качества образования и медицины - самоограничивается.

Таким образом , главным барьером в росте детности является опережающий характер затрат на них. Это своего рода «новая мальтузианска ловушка» - только теперь рост численности ограничивает не дефицит еды, а дороговизна социальных лифтов.

Интересно, что снизит расходы (денег и времени) на образование и медицину для детей? Роботы и ИИ? Или роботы дадут всем кучу бабла с налогов, и нанять гувернантку и няньку сможет любая семья? Будет любопытно посмотреть. Уверен, как только ограничитель в ресурсах будет снят, люди с удовольствием начнут делать детей, это во многих смыслах приятное дело)
45💯3111🔥112