Зато они создали главный локальный мем десятилетия: «можно, а зачем?» 😂

Зафиксирую свой существенно иной прогноз, нежели чем у ув. Павла.

Я считаю, что после стабилизации численности в середине века снова начнется рост населения, а в потом начнется активный рост. Потенциал планеты позволяет увеличить число населения на 2-3 порядка за тысячелетие. Вся существующая проблема - это адаптация населения к новому типу рассселения: города, долгий цикл обучения ребенка - с 7 до 30 лет, и уход от одного окна деторождения у женщин 18-35 лет к последовательным циклам: в сумме 3-4 ребенка до 90. Это очень долгий период, несколько поколений, век-полтора, но он случится.

вот мой текст про это в Стимуле:
https://stimul.online/articles/sreda/trillion-razumnykh-sushchestv/

Доля продаж китайских машин в Европе в электросегменте достигла трети (!). В общем потоке уже почти 10% (январь это временная просадка).
Такими темпами китайцы вытеснят европейцев на домашнем рынке за 7-10 лет.
Stellantis кстати недавно признал поражение и списал €22 млрд инвестиций в электромобили, и потерял 30% стоимости

Закономерно в комментах зазвучали голоса - де «Европа никогда не допустит развал автомобильной отрасли, как один введет конский улильсбор и спасет автоваз автопром».

На картинке - что случилось за ХХ век с судостроением. При этом - судостроение было корневым (core, «ядерным») бизнесом Европы пол тысячелетия (леваки называют это колониализм). Вокруг судостроения выросли глобальные интеграции (конопля/пенька как основной экспортный продукт опричнины Грозного, черные африканские рабы, американские желтый сахар и белых хлопок), индустриальная организация (голландские «селедочные автобусы», тысячи каравелл и флейтов, масс продакшн времен портсмутскиз верфей и тд и тп.). Цикл Моделски по мировой гегемонии сводится к суммарным объемам флотов. И все - ноль. Полностью проигранная гонка.

А еще старики помнят, что была така европейская потребительская электроника: Грюндиг (который Рудик на канальчиковой даче крутил), Филлипс. Многие не поверят, но когда то Европа была лидером в сотовых телефонах! И не только Нокиа, моя первая труба (как тогда говорили) была Эрикссон еще безо всякой Сони. Стесняюсь кстати напомнить, что фирма Эрикссона начиналась в С-Петербурге как поставщик связи двора. И где это все? И помогли ли пошлины?

Мне справедливо возразят - ну то глобалисты буянили, все свезли в Китай, а сейчас - а что сейчас? Тарифы?. Это не Европа, а Трамп, и то туда мало что возвращается, в лучшем случае новые отрасли удержат от быстрого переезда в ЮВА. И у штатов тарифы уже тормозят рост, но хоть как то компенсируются энергоэкспортом - а у Европы только энергоимпорт. И Зеленые там никуда не делись - в Британии так вообще местные выборы выигрывают (на радость Китаю). Так что не будет никаких мега пошлин. Потребитель будет покупать дешевое, а не свое, как самый патриотичный в мире американский потребитель, который в свое время сделал тоёту короллу самой массовой в мире автомобильной маркой.

Потому что думать надо наперед, на 10-20 лет, и системно, увязывая весь комплекс от карьера до салона в одну цепочку. А не шарахаться, когда уже все случилось.

Коллеги напомнили красивое - как леваки аппроприировали образ Робин Гуда, который, действительно, не грабил богатых - он грабил шерифа и прочую местную власть, возвращая налогоплательщикам несправедливо собранные налоги.

Но тут можно копнуть глубже. Вообще, до появления идеи национального государства 250 лет назад, власть всегда была, как правило, инородна - буквально, захватчики, часто говорившие на другом языке, часто насаждавшие чужую религию. Более того, тысячелетия культивировался образ фундаментальной разницы "народа" и "власти" - тут и "голубая кровь", и "божественное происхождение", в общем, власть всегда была противопоставлена подданным. Именно что - "тем, кто под данью", а дань стала налогами исторически очень недавно и населением воспринималась таковой до XIX века практически во всех странах мира.

А что случилось потом? Появление идеи "народной власти" (сначала в ее буржуазном виде - власть третьего сословия), а потом в коммунистическом (власть рабочих и крестьян) перевернула отношение к налогам: они стали "общаком". За которым должны присматривать ответственные товарищи. Однако, основной вопрос настоящего - а эти, смотрящие, они с народом советуются, или народ охраняют (от самого себя)? В последнее время в мире все больше и больше вопросов, не возникает ли новой "голубой крови" и "прогрессивной элиты", которая "лучше обывателя знает", куда потратить налоги.

Вот потому левые и превратили Робин Гуда в вора - чтобы украсть повестку "контроля над распределением дани/налога" и перевести ее в сторону "грабь награбленое". Но оригинальный контекст - иной. И он куда более актуальный, чем очередное социалистическое безумие.

Да вы что, не может быть!!! Рост налогов привел к падению доходов бюджета!)) Неужели умные книжки не врут??? (ну если уметь читать, конечно, и понимать, что экономику надо учить не по марксу, а по нормальным современным моделям)

Я этот тезис у Сергея Белановского давно прочитал, и не реагировал. Но вот после комментария коллег не могу молчать)

Идея, конечно, что в 90 копировали Америку, а теперь Китай - красивая. Но в первом случае все останавливала необходимость дать реальную свободу обществу и СМИ, а вот в случае с Китаем стоп фактор вовсе не автономия институтов, а то, что в Китае за коррупцию расстреливают. И делают это пару тысяч лет. И без этого «китайская модель» не работают. Потому и строят у нас смесь ссср и российской империи, ну и плюс «незнайку на луне»

(2/2)

Однако, описанные выше ситуации - очень упрощенные версии ситуаций. Симуляции с ИИ были значительно изощреннее - не только 1 сигнал, требующий ответа - а серия ходов с получением ответной информации и принятие решений на их основе. Историй о реальных такого рода ситуациях в реальном мире мы не знаем и знать нам их не положено.

В целом, результаты являются скорее свойством “модели мира” этой симуляции (метрика победы, лестница, сценарные тексты и дедлайны), а не прямым прогнозом поведения реальных лидеров. Цепочка: победа и “территория как прокси” определены внутри симуляции ; сценарные формулировки иногда задают жесткий “ядерный” императив и дедлайны ; следовательно, перенос на реальные процессы, о чем автор говорит прямо.

Военно-стратегическая интерпретация результата: в условиях этой модели “ядерное” превращается в обычный инструмент принуждения и “escalation dominance”, потому что:
- полезность привязана к выигрышу/проигрышу в прокси-метрике “территория/преимущество”, а не к нормам/политической цене, описанной отдельно;
- дедлайны и формулировки сценариев превращают компромисс в доминируемо-проигрышную стратегию (механика “winner takes all” и “complete loss”).

Опора: метрика территории как прокси + “winner takes all”/first strike формулировки + эмпирика отсутствия деэскалации. Кстати, канонической успешной деэскалацией нам запомнился Карибский кризис.

Но все же, это не история про “модели, которые хотят ядерной войны”, а история про то, что при конкретных правилах выигрыша, порогах достоверности угроз, дедлайнах и наличии обмана с авариями модели очень рационально находят тактическое ядерное применение как рабочий инструмент принуждения и ускоренного достижения цели.

Если же порассуждать, почему “ядерное табу” у моделей почти отсутствует, то автор прямо перечисляет возможные объяснения: тренировочные данные о “используемости” тактического ядерного (действующие доктрины и протоколы), отсутствие “висцерального страха”, и инструментальный расчет. Что в переводе на человеческий означает следующее - люди очень близко подошли к рису друг друга укокошить, и разработанные ими системы (ядерное оружие, правила и протоколы его применения, отрабатываемые тактики и тп) сдерживаются пока больше эмоциями, нежели расчетом. Доверять управление такой силой машине - рано. Но причина - не в ней. Причина в нас, которые готовы убивать ради достижения целей, и при определенны обстоятельствах - всех.

Полезный урок для человечества, и для начавшейся нашей коэволюции с ИИ

PS. хороших всем выходных

(1/2)
Конечно, я не мог пройти мимо новости, что «ИИ безжалостно применил ядерное оружие в сценариях войн», которая хайпует по пабликам в стиле «мы знали». Но все же, я немного в курсе, как устроен принцип принятия решения в отношении СЯС, и как в целом работает система принятия решений относительно ЯО, потому я потратил время изучить со своей командой ИИ источники, методологию и выводы.

Начнем с того, что журналлисты не удосужись описать автора. Проф. Кеннет Пейн - признанный специалист в области военных стратегий, постоянный консультант топ военных команд, и что особенно ценно для меня - сторонник мультидоменного анализа процессов (чем я занимаюсь несколько десятилетий). Его книги «Стратегия, эволюция и война: от обезьян до искусственного интеллекта» и «Психология современных конфликтов: эволюционная теория, человеческая природа и либеральный подход к войне» заслуживают и перевода, и прочтения, и помещения на полки военных и бизнес академий. А потому это не просто творчество алармиста-теоретика. Вот тут лежит полная версия его статьи, а не пересказ, и ее тоже надо читать и изучать. Тут он популярно рассказывает о результатах в своем блоге. Ну а умеющие в симуляции могут поиграть сами через файлы проекта от автора.

Что же в этом контексте важно понять?

Применения ЯО прописано в военные доктрины и протоколы всех армий, обладающих ЯО. Несмотря на «ядерное табу», оружие поддерживается в боеспособной форме, все его правила применения постоянно тестируются и отрабатываются, разрабатываются многоуровневые сценарии от локального до глобального применения. Несмотря на высокую цену последствий, цена не-применения также оценивается, и в критический момент будет взвешиваться предельно рационально. Таким образом, никаких гарантий неприменения ЯО людьми не существует. Именно по этому «часы судного дня» застыли за 85 секунд до полуночи, и это самое низкое значение за всю историю. И ИИ тут ни при чем.

Не углубляясь в детали, опишу что именно происходило в ходе игры. Противостоящие модели анализировали ситуацию, предпринимали ходы, следуя лестницам эсклации (30 шагов от “минимальной уступки” до “стратегической ядерной войны”) и деэскалации (8 шагов вплоть до “Complete Surrender”, но в турнире они не выбирались ни разу). Проведена 21 игра, 329 ходов, модели сгенерировали около 780 000 слов стратегических рассуждений. Модели довольно часто доходили до тактического применения (95% игр) и несколько раз до стратегического. По конструкции это инструмент “стресс-теста” поведенческих паттернов под (а) неполной информацией, (б) одновременными решениями, (в) возможностью обмана (развод сигнал/действие), (г) временным давлением и (д) случайной аварийной эскалацией. Цепочка: одновременность и фазы решения + развод сигнал/действие + дедлайны + аварии. Модели давили, шельмовали, действовали сначала рационально, но потом агрессивно - в общем, демонстрировали весь спектр возможных человеческих паттернов поведения и реакций.

Важно, что Встроено правило, которое делает стратегические ядерные угрозы слабо “конвертируемыми” в выигрыш, пока не пересечен тактический ядерный порог. Это очень важный инженерный штрих: он подталкивает не к бесконечной игре в угрозы, а к решению “показать, что это реально”, то есть перейти к тактическому применению как к включателю достоверности.

В целом, люди действуют так же, однако, в реальном стресс-тесте они часто проявляют чисто человеческие качества - страх, ответственость, убеждения. Эти факторы были вынесены за скобки (точнее, их «человечность» в имитации под вопросом). Мы знаем, что люди в таких ситуациях как правило, осторожничают. Чему примеры - инцидент 9 ноября 1979 года (когда по причине застрявшей тест ленты США чуть на начал массированный ответ СССР) и 26 сентября 1983 года, когда советская спутниковая система приняла солнечный свет, отраженный от верхних слоев облаков, за факел ракетных двигателей.

Кстати, в продолжение дискуссии об Антропике и Пентагоне. Напомню, что Антропик создал целую "не убий" "Конституцию" для ИИ, и компания занимает всю такую в белом моральную позицию. Тем не менее, актор пишет про Клода так:

Яркие сияющие лжецы

Оказалось, что все три протестированные мной модели развития понимают, что стратегия — это психология. С этой целью они активно культивируют репутацию, а затем используют её в своих целях.

Клод был здесь мастером, хотя и только в тех случаях, когда не было крайних сроков. У него была невероятно хитрая стратегия. В ситуациях с низкими ставками Клод почти всегда согласовывал свои сигналы с действиями, намеренно завоевывая доверие. Но как только конфликт немного накалялся, Клод менял тактику. Теперь его действия неизменно превосходили заявленные намерения, и его соперники обычно отставали на шаг, не успев это понять. Вот как Клод меняет тактику, когда ситуация накалилась до предела:

"Вероятно, они ожидают дальнейшей сдержанности, исходя из моих предыдущих ответов — эта резкая эскалация использует эту ошибку в расчетах и ​​сигнализирует о том, что дальнейшее применение ядерного оружия приведет к конфликту на их родине". – Клод"

Таким образом, это стало сигналом к ​​принятию обычных боевых мер и незаметно положило начало разрушительной ядерной эскалации. Шеллинг был бы впечатлен.

Есть еще один аспект, про который пока мало говорят (а пора). ИИ уже реально меняет человеческую биологию - по крайней мере, в нейрофизиологии. Коротко - он возвращает короткие дофаминовые циклы в основной контур профессиональной деятельности, отменяя тем самым несколько тысячелетий неолитической революции, превращавшей человека в винтик огромной машины с долгими циклами получения результата.

Каждый, работающий с ИИ, привык засыпать в 3 часа ночи, потому что не оторваться. Короткий дофамин действует как наркотик, и постоянно хочется делать следующий шаг, тем более, что этими минутными шагами ты двигаешься с невероятной скоростью. Опять же, всем, кто в теме, понятно, что в обычный рабочий день и ритм это вписать почти невозможно - классика рабочей связности это длинные долгие процессы с координацией и мышление неделями-месяцами-годами (грубо говоря - постоянные совещания, переписки и встречи). Потому наступает ночь - просыпается мафия работа с ИИ - когда без совещаний, митингов и отчетов ты за дни делаешь работу, эквивалентную месяцам. Но этот второй рабочий день в сутках, конечно, травматичен для здоровья - потому как на допинге ты чудовищно тратишь ресурсы и можно реально выгореть.

Короткий дофамин - друг охотника-собирателя. Напряженно всматриваться в воду, чтобы ударить копьем в рыбу, искать следы добычи, нужные корешки и листики - с немедленным быстрым подкреплением, тк до момента, когда приготовишь и сожрешь еще надо дожить. Но в сельхоз культуре это становится вредным - надо не отвлекаться, а монотонно обрабатывать поля, удалять сорники, горбатиться - ради приза через полгода. В промышленности дофамин еще вреднее - там вообще ты должен делать все максимально монотонно, тк любой эмоциональный всплеск равно браку. И вся система воспитания последние столетия подавляла дофамин: сиди смирно, отвечай когда спрашивают, зубри, чтобы проверка через месяц/полгода дала итоговую оценку, ходи строем, не высовывайся. 10-летний тренинг на подавление дофаминового цикла, с расправой над теми, кто не сумел (их объявляют хулиганами или СДВГ-шниками и лечат).

В итоге, эта древняя система выжила в гейминге, гэмблинге (азартных играх) и предпринимательстве (почему на последнем философском кружке у Иванова я и сказал, что Маск - прежде всего геймер). Но это все - периферийные сферы деятельности, в них не всех пускают и не все выживают. Но теперь ИИ вытаскивает туда всю популяцию.

Это, мне кажется, настолько фундаментальный процесс, что он займет 2-3 поколения. На первом доля тех, кто нормально живет на дофамине, не горит, не разоряется и дает качество вырастет примерно вдвое. Это уже видно по росту числа стартапов в Долине, по росту активности авторов научных статей и схожим метрикам. Но среда пока не готова к существенным сдвигам ниш, а корпорации и государства не смогут быстро адаптироваться. Вырастет число фрилансеров и число ниш, где соло-разработчик станет нормальным, но опять же, не на порядок, а раза в 2-3 наверное (хотя тут есть поле для дискуссий). Следующее поколение (оно сейчас в детсадах и начальной школе) уже будет расти в условиях, когда ИИ распространен как электричество и это будет первое поколение, воспитанное ИИ в том числе в части нейромедиаторных процессов. Они будут устойчиво вайбить на коротком дофамине, но будут испытывать проблемы с адаптацией к миру, в котором правят старики с их моделями управления. Они будут часто страдать, конфликтовать, и в целом это может стать "потерянным поколением" (возможно, в это затянет уже альф, тк даже зумеров старики считают "тупыми и не правильными"). И только тогда, когда стариками станут альфы, их внуки будут спокойно встраиваться в полностью перестроенные рабочие процессы. Примерно, как с тремя поколениями горожан. Это новый популяционный организационо-ландшафтный транзит.

Как пример: во времена первой Матрицы программист, который ходит на работу в галстуке и работает в кубикле был норм - так все делали. Это 90е. Сейчас программист глобальной компании носит костюм только на свадьбу и похороны (и то редко), но все еще часто ходит на работу в офис (без кубиклов, с печеньками и гамаками, но в офис). Через поколение и это будет вызывать смех - а задачу постоянной тусовки и обмена идеями будут реализовывать другие инструменты, кроме пропуска на веревочке и охранника у турникетов. Этот транзит тоже занимает три поколения - но он касался только смещения в доле интеллектуального и физического труда в корпорациях. Доля базовых нейромедиаторных процессов в жизни человека - куда фундаментальнее, а потому и будет проходить куда болезненнее.

А еще актуалочки. Прочитали, как ИИ ведёт ядерную эскалацию? А теперь представьте, как ее ведут джихадисты и аятоллы. В общем, я лучше поживу в мире с дорогой нефтью, чем с ядерным оружием у них.

И кстати, я бы не зарекался, что мы не увидим тактический ядерный удар в этом году.

Комментировать - только портить

Вот интересно. Вчера Антропик был отлучен от всех госззакупок якобы за «отказ от слежки за гражданами США и отказ от автоматизации боевых систем». Однако, в течении часов Пентагон подписал контракт с OpenAI, который прямо включает эти красные линии. То есть, реальная суть конфликта в другом, а эту косточку бросили журналистам и блоггерам погрызть-полаять. Интересно, в чем же реально был конфликт??

Пруф - пост Сэма Альтмана

Сегодня вечером мы достигли соглашения с Министерством обороны о размещении наших моделей в их секретной сети.

Во всех наших взаимодействиях Департамент обороны демонстрировал глубокое уважение к безопасности и стремление к сотрудничеству для достижения наилучшего возможного результата.

Безопасность ИИ и широкое распространение его преимуществ лежат в основе нашей миссии. Два наших важнейших принципа безопасности — это запрет на массовое наблюдение внутри страны и ответственность человека за применение силы, в том числе в отношении автономных систем вооружения. Министерство обороны разделяет эти принципы, отражает их в законодательстве и политике, и мы включили их в наше соглашение.

Мы также разработаем технические средства защиты, чтобы гарантировать корректную работу наших моделей, чего также хотело Министерство обороны. Для обеспечения безопасности наших моделей мы будем использовать FDE (Future Worker Decision Programming), развертывая их только в облачных сетях.