Невозможно оторваться от новостей, «извениде». В общем, пацаны мужают и матереют на глазах, и понимают, что пора менять крышу: оксфордский комсомольский обком на нормальный партийный вашингтонский. Я сначала глазами не поверил и начал искать, что за однофамилец у Ларри Саммерса - нет, он родной, экс президент Гарварда и министр финансов при Клинтоне

https://techcrunch.com/2023/11/21/openais-initial-new-board-counts-larry-summers-among-its-ranks/

В экономике есть понятие «старые деньги», а вот в хайтеке пора вводить определение «старые мозги». Завязываем с пионерией, судьба человечества на кону 😂

Лопаты, братцы, лопаты - вот лучший объект инвестиций во времена золотой лихорадки 😂 эх, была моя любимая акция, пока еще можно было торговать через спб

Выручка Nvidia за третий квартал составила $18,1 млрд, а прибыль выросла почти в 14 раз в сравнении с аналогичным периодом 2022 года, достигнув $9,2 млрд

https://www.nytimes.com/2023/11/21/business/nvidia-revenue-earnings.html

Ну что, стартовал второй сезон или «девочки наносят ответный удар»

Только отгремела вечеринка сотрудников Open AI по поводу триумфального возвращения Сэмы (с тяжелой кавалерией старой гвардии), на которую кстати не пришел Илья (воду пил видимо), как в классический сливной бачок леваков (Reuters, куда недавно слили инфу-сотку, что Маск калечит работников в SpaceX), слили, что незадолго до отставки Мурати предупреждала, что пацаны ̶р̶а̶с̶к̶о̶п̶а̶л̶и̶ ̶д̶е̶м̶о̶н̶и̶ч̶е̶с̶к̶и̶й̶ ̶а̶р̶т̶е̶ф̶а̶к̶т̶ создали AGI. С имперским названием Q-star (Q*)

“Создатель ChatGPT добился прогресса в разработке Q* (произносится как Q-Star), которая, по мнению некоторых внутри компании, может стать прорывом в поиске стартапом сверхинтеллекта, также известного как общий искусственный интеллект (AGI), сообщил агентству Reuters один из собеседников. OpenAI определяет AGI как системы искусственного интеллекта, которые умнее людей.

Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности, поскольку он не уполномочен говорить от имени компании.

По словам источника, несмотря на то, что Q* выполняет математику только на уровне учеников начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.”

Прикиньте, тостер научился извлекать корни! Мы все умрем!!!111

Дальше две прекрасных оговорки:

«Reuters не смогло независимо проверить возможности Q*, заявленные исследователями.” и
«(Эта история была исправлена, и в заголовке и абзаце 5 указано, что увольнение Сэма Альтмана произошло после того, как в правление было отправлено письмо, а не по причине письма)»

Даю репост, тк рейтерз не заставит меня им платить. https://nypost.com/2023/11/22/business/sam-altmans-ouster-precipitated-by-ai-discovery-that-could-threaten-humanity-sources/

Итак! Что мы имеем в сухом остатке.

Факт, известный всем - что в лабах O AI сделано существенное продвижение. Что это будет и к чему приведет - никто не знает.

Есть две группы: одна за то, чтобы делать и тестить (как делают все в долине, и как сам O AI вырвался в лидеры запилив чат, когда инженеры Google и Meta продолжали герметично развлекаться за зарплату). Маск таким путем, взрывая ракеты, объехал всю космическую индустрию и теперь отпуск на Луне перестает быть научной фантастикой. И даже черепашки в Бока-Чике не умерли (да, я зажал триллер про черепашек - я помню).

Вторая за «изучать и рассуждать», которая до истерики напугана камланиями эффективных альтруистов. Эта группа обучена всем навыкам современных активистов, но не имеет финансовой поддержки (Маск вовремя соскочил - предмет отдельного разбора почему). Свободных миллиардов на герметичный частный think tank нет, корпораты пилят сами, частники инвестируют в венчур, бабло на гранты дают только арабы. Я уже даже ждал новости о Soft bank-е, но нет (может Суцкевер по-этому одумался??).

Насколько серьезны «риски появления AGI» - на народ, ну никто не знает. Есть куча страшилок, есть куча аргументов, что от изобретения огня мир не сгорел (хотя города горели только в путь). Но суть не в этом - AGI разрабатывают десятки команд в нескольких странах мира (подозреваю, что даже в лабах Яндекса и Сбера об этом мечтают). Остановка одной команды (которая кстати на старте отставала, а вырвалась вперед только чутьем Альтмана, придумавшего привлечь пользователей к до-обучению) - не решает вообще ничего.

Известно, что если комсомольско-партийное начальство решает что-то остановить, то инженерный народ начинает быстро разбегаться (из O AI уже сбежала команда Antropic), и знания моментально утекают. Никакая стоимость серверов (там все в облаке) или стоимость уже сделаной работы не спасает - за год все с нуля все равно перепишут и переобучат. Стоимость обучения стремительно падает, так что выйти из гонки - это просто распустить народ, и через год «отряд не заметит потери бойца». В этом и разница между гос-гонками (на манхэттенский проект или аполлон собирали всей страной), а частной - сотни конкурентов.

В этой ситуации останавливать прогресс - это стрелять себе в ногу (или голову даже). Это понятно всем разумным людям, но сектанстсво выключает мозг.

И в конце - немного лирики. Во всем виноват Марвелл. Это их голливудовская тема, что мир спасают кучка невротиков с супер-способностями, которые игнорируют все правила потому, что «правила писали тупые старики». Отсюда желание молодежи рубить с плеча и «спасать мир» в одиночку. Узкой группой партай-геноссе. Такие группы научились создавать глобальный пиар, перенаправлять гранты, создавать нетворки - то есть заниматься «подпольной работой» в нынешней информ-инфраструктуре (не газетой Искра, а постами в твиттере).

И эта группа продолжит «спасать мир». Так что в новом сезоне (а тут задел на многолетний сериал с франшизами, приквелами и сиквелами), надо ждать многочисленных атак прессы на Open AI, вскрытия «компромата», скандалов, судов, подстав, потому что это не три девочки устроили переворот - а огромная теневая и ресурсная группа (секта). Слабым звеном назначен Илья (я ему правда не завидую - он будет целью долгих манипуляций с целью организации его руками внутренних или внешних диверсий).

В общем, попкорна нам понадобится вагон. Каждому.

отчетное видео - беседа с Андреем Резниченко, де факто создателем школы научной журналистики в России, все довольно популярно и поверхностно по формату, но может кому что быть любопытное)

https://www.atomic-energy.ru/video/140860

Главный мировой заговор 😁

David Deutsch громит effective altruism (EA) и effective accelerationism (e/acc) в подкасте у Lulie Tanett на 2ч. OpenAI шоу же вывело в массы инфо о EA + в их борде девочка из EA - ну такие заблуждения лучше знать 🙈

Дойч открыл квантовые вычисления + автор книги Beginning of Infinity что люди всегда в начале бесконечных знаний о вселенной

EA - философская концепция что можно делать филантропию эффективнее + больше социального блага для всех через 1) приоритизацию целей (рассчитывать эффекты, а не просто что симпатично celebrities) и 2) личный вклад (отдавать 10% своих доходов). Маск год назад твитил, что ему близки идеи лонгтермизма (мой конспект книги) представителя EA William MacAskill. SBF из FTX считал себя EA. В EA еще важно бояться existential risks, в тч от AGI

E/acc - культ анонимов типа этого (но выступал на Network State конфе), появился год назад. Подвид акселерационизма/технооптимизма в стиле Vinod Khosla или Marc Andreessen. Идея что вселенная растит свою энтропию через создание “машинок” по захвату свободной/структурированной энергии, ее использованию и выбросу в расщепленном виде во вселенную (в тч через биологическую жизнь, компании, страны), и типа нужно этому содействовать через прогресс tech и общества. Перекликается с русским космизмом, мой конспект книги Вернадского 80 лет назад

Дойч о EA
- Слишком общий подход. В charity нужно идти не во что-то общее и искать, как они фантазируют - якобы underserved causes у социальных благ, а просто в узкие решения каждой конкретной проблемы. E.g. малярия - просто купите людям противомоскитные сетки итп
- Они путаются. У них bias в сторону их страхов existential risks. Они все время отказывают людям в том, что в будущем появятся неизвестные сейчас способы решения проблем. Мальтус, лекарь маркизы Пампадур, правильно экстраполировал будущий рост населения, но почему-то отказал в такой экстраполяции прогрессу (механизация, селекция, удобрения). Paul Ehrlich, открыватель химиотерапии, тоже пугал “у вас нет будущего”
- Это оч фундаментально - мы потому и находимся (beginning of infinity) в начале бесконечного объема будущих знаний о вселенной, тк сейчас не можем даже обозначить, а что еще будет открыто
- Что еще фундаментально: прорывы в науке всегда не там, куда идет мейнстрим, а их делают люди, которым лично и иррационально интересно, что они делают. E.g. Andrew Wiles в 10 лет узнал о теореме Ферма 400-летней давности и жизнь потратил на ее (успешное) доказательство
- Так что участникам EA нужно не коммитить 10% своих доходов на правильные charities, а тратить их на самое интересное им самим - так бОльшие масштабы общего блага и создаются. И глубокий личный интерес - это единственное, чем я могу оправдать Eliezer Yudkowsky в его паранойе
- Если вдруг реально будет приближаться большой метеорит - люди проявят креативность, главную силу во вселенной, и что-то сделают

Дойч о e/acc
- Они же появилось как шутки над EA, “half meme movement” =)
- Ускорять энтропию через прогресс tech и мира? Что за суета, у нас же не война на выживание
- Энтропия - это просто irreversibility: снижающаяся с теч. времени вероятность, что какая-то термодинамическая система вдруг сама соберется обратно в такую же
- Я бы не объяснял термодинамикой появление жизни, слишком общо, может просто совпадение. Типа, эволюция “делая” репликаторы/первые с-мы размножения, просто “обнаружила”, что диссипативные репликаторы круче?
- Эволюция шла оч. неравномерно: бактерии быстро появились (300 млн лет), а потом вдруг эпоха фотосинтеза на 1 млрд лет, но это вообще-то создало кислородную атмосферу итп, а их теория это не объясняет
- Или еще: а почему тогда мелкий объем инфо вдруг контролирует бОльший объем инфо/энтропии? E.g. цены в экономике - это крохи по сравнению с массой инфо в био, и уж тем более в физических системах
- Культура фирм и стран - это вид [групповой] intelligence. Thermodynamic adaptation - тоже форма intelligence
- Рынки и конкуренция - круто для прогресса, тк это обмен инфо, variability, адаптация -> все на благо знаний
- Надо растить себе дальше знания о Вселенной и все

Китай утратил свой статус любимца рынка, который он имел на протяжении последнего десятилетия. Портфельные потоки инвестиций для Китая сейчас постоянно отрицательные (красные столбцы) и «останутся теперь такими» (как прогнозирует главный экономист IIF Робин Брукс).
Однако на диаграмме мы видим, что потоки инвестиций с начала 2022 года вообще трагично упали для всех развивающихся экономик. Если Запад выводит деньги из Китая, то это не означает, что он нашёл им новое применение в мире. Нет, Запад вообще перестаёт инвестировать в остальной (Второй и Третий) мир.
Деглобализация, о которой многие мечтают в «мировом большинстве», означает, что у этого «большинства» больше не будет сторонних инвестиций.

Уточненая картина экономической истории по методике счета Ангуса Маддисона

https://t.me/pauldemidovich/2652

Успокаиваем тревожность общественности относительно ИИ апокалипсиса ))

https://tv.rbc.ru/archive/chez/6562311e2ae596cf54f695f0

В эфтре РБК меня спросили, как быстро ИИ попадет в руки криминала. Не знаю. Но вот накладные пальцы, чтобы снимки можно было назвать фейками, нарисованными ИИ, уже в ходу.

«Голосуй или проиграешь»

Интересный отчет о сравнении влияния рекламы на россиян и китайцев - и ее различия. Кратко - у нас это эмоции и нарратив, у китайцев - прагматика и расчет. Интересно, как там у европейцев (но раз там придумали нейроэкономику и иррациональность потребителя- то ближе нам видимо).

Но мне интересно другое. Судя по рассказам инсайдеров, в Китае углубляется раскол между эмоциональной националистическо-реваншистской риторикой верхушки КПК (месть за «сто лет унижений» как национальная идея со школы) - и прагматичным пониманием, что противостояние уничтожает торговлю и экономический рост. И хотя «вину Запада» (Россия тоже в Западе для них, потому и карты перерисовывают) признают все, даже после учебы в мировых университетах, мстить или не мстить - вот в чем вопрос.

И если китайцы действительно так прагматичны, - то каждый процент падения ВВП - это рост нежелания реально толкаться с США и Европой. Слухи и утечки с полей последней встречи Си и Байдена об этом же - якобы Си вообще просил помощи почти в триллион для предотвращения краха строительного рынка.

Но это слухи. Что факты - что по Тайваню риторика «голубеет» с каждым месяцем. В общем, китайская душа значительно менее загадочна и понятна прагматичной части мировой элиты - она не задает загадок, почему люди крепчают когда «переживают трудности». И вообще санкции - на пользу!

АПД: о прагматичности китайцев говорит знаменитый факт. По закону, если китаец на авто сбил пешехода и тот стал инвалидом - то виновник обязан пожизненно его содержать. Потому они додавливают его до смерти. Срок отсидки увеличивается - но нет пожизненного денежного штрафа. Нам это не понять - потому и мотивы китайцев политиков и бизнесменов для нас темный лес.

https://t.me/proeconomics/12963

Корреляция или каузация? В связи IQ и ВВП со всей тщательностью доказано второе. Стартануть без мозгов на нефти, конечно, можно, но вот устойчиво закрепиться - уже никак.

https://t.me/ZNP_edu/303

По данным Национального бюро статистики Китая, опубликованным в понедельник, за первые 10 месяцев 2023 года прибыль промышленных предприятий упала на 7,8% по сравнению с годом ранее.
Государственные компании сообщили о снижении прибыли на 9,9% за первые 10 месяцев, иностранные фирмы зафиксировали снижение прибыли на 10,2%, а компании частного сектора снизили прибыль на 1,9%.
Согласно официальному индексу менеджеров по закупкам (PMI), в октябре как новые экспортные, так и импортные заказы сокращались восьмой месяц подряд.

Самый крупный ветряк в мире китайцы установили в море за 24 часа.

Вот по этому европейцы и не выдерживают конкуренции - а ветрогенерация продолжает бурно расти.

https://electrek.co/2023/11/23/china-goldwind-16-mw-offshore-wind-turbine-24-hours/