Несколько лет назад открыл для себя рынки предсказаний и с тех пор периодически сверяюсь с ними. Рынки предсказаний это что-то вроде букмекерских контор, где люди делают ставки на предстоящие события. Только в отличие от букмекеров, которые устанавливают коэффициенты сами, на рынках предсказаний коэффициенты рассчитываются по прозрачным формулам, исходя из сделанных ставок. Расскажу про два из них, которые регулярно просматриваю.

Первый называется Metaculus. На этом рынке предсказаний ставки делаются только на игровую валюту, не на реальные деньги. Что, конечно же, огромный минус: при прочих равных, там где люди ставят реальные деньги, качество прогнозов будет намного лучше. Но Metaculus уникален тем, что у него очень продвинутая система ставок. Там ставишь не просто на исходы да/нет. Предсказание на Metaculus может представлять собой, например, набор оценок вероятностей тех или иных исходов. Или ожидаемый диапазон некоторого параметра. Коэффициенты вознаграждений рассчитываются исходя из качества вашего прогноза относительно среднего по сообществу.

Главная причина, почему Metaculus неплохо работает — он ориентирован не на широкую аудиторию, а на нердов определённого толка. Случайные люди на Metaculus, как правило, не задерживаются, ведь денег там не заработаешь, а значит азарта мало. На Metaculus сидят в основном не азартные люди, а люди с серьёзным интересом к прогнозированию, к калибровке своей модели мира. В частности Metaculus популярен среди членов сообщества LessWrong. Это видно и по набору открытых прогнозов на Metaculus. Любой человек может опубликовать свой вопрос на который будут делаться ставки, главные требования к вопросам это чёткие временные рамки и чёткие критерии разрешения. Однако исторически на Metaculus помимо основных мировых событий вроде выборов в США или войны в Украине, всегда много прогнозов связанных, например, с развитием ИИ.

Второй называется Polymarket. Это рынок предсказаний на реальные деньги (криптовалюты). Механизм ставок тут классический: просто ставишь сумму на исход да/нет. Коэффициент вознаграждения зависит от пропорции ставок. Про Polymarket я к своему стыду узнал совсем недавно и почти сразу же случились два события, сильно возвысившие его в моих глазах.

Во-первых, когда на днях президент Байден объявил, что снимает свою кандидатуру со следующих выборов, это, кажется, стало сюрпризом для многих, но не для тех, кто следил за Polymarket. За день до новости её вероятность там уже превышала 70%.

Во-вторых, к команде Polymarket на днях присоединился человек, которого я очень уважаю — Нейт Сильвер (Nate Silver). В прошлом он был главным редактором ресурса fivethirtyeight (538), который агрегировал данные соцопросов и строил на их основе сложную прогностическую модель по американским выборам. В избирательных циклах 2016 и 2020 именно 538 под руководством Нейта Сильвера, на мой взгляд, давал наиболее качественные прогнозы и нейтральную аналитику. Потом 538 перешёл под управление ABC News и приобрёл сильный крен в пользу демократов, а Нейт Сильвер ушёл оттуда на свою собственную платформу. Я очень сильно сомневаюсь что Нейта просто купили, поэтому сотрудничество Нейта с Polymarket, а также его теплый отзыв об этом рынке предсказаний, лично для меня очень существенно. К сожалению, я слишком недолго слежу за Polymarket чтобы иметь обоснованное личное мнение, но первые впечатления очень позитивные.

Ставки делать никого не призываю, а вот следить за рынками предсказаний я считаю намного полезнее чем читать прогнозы "экспертов" в популярных СМИ.

Я жуткий аэрофоб и когда в 2017 у меня возникло желание пожить в Таиланде я решил ехать туда из России по земле, устроив заодно турне по Китаю и странам Юго-Восточной Азии. С китайской частью маршрута вопросов не было — до Пекина на поезде, а сам Китай опутан сетью скоростных поездов. Вопрос был куда дальше.

Если вы посмотрите на карту, то из Китая в Таиланд можно попасть по земле двумя путями: либо напрямую через Лаос сразу в Таиланд, либо через Вьетнам и Камбоджу. Я начал изучать варианты и в итоге выбрал вариант через Вьетнам и Камбоджу, хотя через Лаос на первый взгляд было проще и быстрее. Всё дело в том, что северный Лаос это горы, а в 2017 году проехать его можно было только на автобусе по горным серпантинам. Я предпочёл более безопасный маршрут.

И тогда же изучая маршруты я первый раз услышал, что Китай планирует построить железную дорогу до Таиланда через Лаос. Вот только планировал построить он её на тот момент уже 15 лет. Строить железную дорогу через горы очень дорого, а Лаос очень бедная страна, плюс дальше в Таиланде другая колея. Годами шли согласования по поводу финансирования, коррупционные скандалы. Я был уверен, что проект так и останется болтовнёй.

Но оказалось, что уже в том же 2017 году Китай построил 20% железной дороги, в 2019 построил 80%, а в 2021 она заработала. И это несмотря на Ковид. 75 туннелей, 167 мостов, 15% маршрута проходит по виадукам. К 2024 по ж/д Ботен—Вьентьян перевезли уже 30 млн. пассажиров и 30 млн. тонн грузов. Так что если бы я ехал из Китая в Таиланд сейчас, я бы, конечно, ехал через Лаос по железной дороге.

Оказалось, что строить китайцы умеют очень быстро и никакие горы им не помеха. Согласования занимают гораздо больше времени чем стройка. Я это к чему. У нас тут недавно согласовали строительство железной дороги Китай—Кыргызстан—Узбекистан. В рамках всё той же китайской инициативы «Пояс и Путь». Ситуация практически идентична той, что была в Лаосе. Кыргызстан тоже небогатая горная страна, тоже потом колея другая, тоже проект уже 20 лет обсуждается, тоже наверняка многие думали (а кто-то может быть и до сих пор думает), что ни черта никогда не построят.

Но я вот после истории с Лаосом в китайцев верю. И жду, что скоро и Кыргызстан с Узбекистаном благополучно присоединятся к китайским железным дорогам.

Наверное не все мои подписчики знают, что я экономист по образованию, потому что я ничего не пишу про экономику. Я сильно разочаровался в экономике как в науке ещё во время учёбы, ни дня не работал по специальности и в целом потерял интерес к экономике сразу после выпуска. Моя главная претензия к экономической науке отлично сформулирована в «Цепочках» Юдковского: если ты одинаково хорошо объясняешь любой исход, то знаний у тебя — ноль. Экономисты прекрасно умеют всё объяснять задним числом, но в прогнозировании будущего они лишь немногим лучше медианного обывателя.

Что значит «лишь немногим лучше медианного обывателя»? Это значит, что медианный обыватель всегда в минусе, а настоящий экономист всегда при своих, потому что он не делает ставок. Поясню подробнее. В экономике есть замечательный тезис: лучшим априорным прогнозом будущей цены на какой-либо актив является… его сегодняшняя цена! За этим тезисом стоит очень простая логика. Если все ждут, что какой-то товар подорожает через день, то люди кинутся его покупать пока он «недооценён», чтобы заработать на перепродаже. В итоге ажиотажный спрос приведёт к росту цены до ожидаемой уже сегодня, в случае цифровых активов практически мгновенно. Другими словами сегодняшняя цена актива уже включает в себя усреднённые ожидания изменений его цены в будущем.

Вообще в каком-то смысле это один из главных выводов из всей экономической науки: рынок съедает халяву. Как только где-то возникает способ предсказуемо заработать, он сразу же перестаёт работать, потому что все кидаются им воспользоваться. Если товар продаётся ниже рынка, он немедленно будет куплен и выставлен на продажу уже по рыночной цене. Эта же логика в определённой мере распространяется даже на предприятия. Если на каком-то перекрёстке уже есть 3 аптеки и они все приносят большую прибыль, на нём скоро откроется и четвёртая, и пятая, и так пока средняя прибыль с точки не упадёт близко к нулю. Но это в теории, на практике же четвёртая точка вероятнее всего сгорит вскоре после открытия, а все остальные поймут намёк и открывать новых уже не будут.

Это, кстати, ещё одна причина почему я разлюбил экономику. В Новосибирске, где я начинал учиться на экономиста, очень долго не было McDonald's. Любой экономист который попытался бы объяснить этот феномен через рентабельность и прочие экономические факторы выставил бы себя клоуном. Реальная причина была в том, что мафия, стоящая за KFC (тогда ещё «Ростикс») и другими местными фастфудами обладала достаточной властью, чтобы не пускать конкурентов. К сожалению, на экономических факультетах про такой ключевой в реальной жизни фактор как бандиты во власти почему-то не рассказывают. А ведь это важная часть реальности, значит учёный обязан её изучать.

Так вот, я говорил о том, что экономисты при всей своей бесполезности всё же лучше медианного обывателя. Хороший экономист знает, что лучшего прогноза чем сегодняшняя цена он не сделает, поэтому не покупает активов и не делает ставок. Медианный обыватель же формирует свои ожидания исходя не из соображения «сегодняшняя цена будет продолжаться и дальше», а из соображения «сегодняшняя тенденция будет продолжаться и дальше».

Поэтому на любом рынке большинство игроков всегда в минусе. Систематически зарабатывают те, кто обладает инсайдерской информацией, и те, кто располагает достаточно большими активами чтобы самостоятельно провоцировать колебания рынка (в каком-то смысле это тоже можно считать инсайдерской информацией: ты заранее знаешь в какую сторону пойдёт рынок, потому что ты сам толкнёшь его туда). Поскольку есть прослойка систематически выигрывающих, весь остальной рынок систематически проигрывает. А экономисты остаются при своих, потому что не участвуют.

Когда меня друзья или знакомые спрашивают в какую сторону пойдёт тот или иной курс, я всегда честно отвечаю: я не знаю. И я не ленюсь отвечать, это мой честный educated best guess как экономиста.

Несколько часов назад в США завершились дебаты между кандидатами в президенты — Дональдом Трампом и Камалой Харрис. Судя по реакции рынков предсказаний Харрис победила. Трамписты ноют, что модераторы ABC были на стороне Харрис и фактически Трамп дебатировал 1 против 3. На этот счёт я могу лишь привести свою любимую цитату Сунь-Цзы: «воины-победители сперва побеждают, а потом отправляются на войну; а побеждённые сперва отправляются на войну, а потом пытаются победить».

Я убеждён, что победа Трампа на прошлых дебатах над Джо Байденом был пирровой. Вынудив Байдена сняться с выборов, Трамп получил соперника против которого у него мало шансов. Нападки Трампа на возраст Байдена обернулись против него самого: теперь уже Трамп выглядит престарелым на фоне Харрис. Некогда атакующая кампания трампистов превратилась в сплошное нытьё о том как система работает против их кандидата.

Суть грядущих выборов — в соревновании антирейтингов. У Трампа он стабильно высокий. У Байдена он стал выше только когда его недееспособность стало физически невозможно скрывать. В этом смысле Харрис даже не требовалось побеждать Трампа на дебатах. Всё что ей надо было это показать что она адекватна и физически дееспособна. Реальность такова, что при выполнении этих критериев для победы на выборах ей достаточного того, что она не Трамп. Хотя прямо сейчас рынки предсказаний всё ещё показывают 50 на 50, лично я считаю Харрис абсолютным фаворитом. И не могу сказать что меня это радует.

В моём кругу главное что интересует людей в американских выборах это отношение к войне в Украине. Трамп кажется хочет как можно скорее закончить войну путём шантажа обеих сторон прекращением или увеличением военной помощи Украине. Мир как можно скорее означает мир исходя из положения как есть. Он неизбежно будет включать в себя безусловный отказ Украины как минимум от Крыма и Донбасса. В сознании большинства людей это однозначно будет большой победой РФ: «агрессор своего добился». Уже за одно это Трампа очень сильно не любят.

Харрис кажется планирует продолжить текущий курс, то есть оказывать Украине достаточную помощь, чтобы не дать России победить. Но и наносить России поражение военным путём она вроде не собирается. Позиция «умереть не дадим, но и победить не дадим» людоедская, но массовой ненависти она не вызывает.

Лично мне одинаково не нравятся обе позиции, поэтому на мои относительные симпатии к кандидатам их отношение к войне в Украине, как ни странно, почти не влияет. На первое место для меня выходят другие соображения. В первую очередь регулирование интернета, технологий, а также свобода слова, риски злоупотребления властью и отношение к глобальному истеблишменту. И возможно многих это удивит, но мои симпатии тут однозначно на стороне Трампа.

Я полностью согласен что у Трампа есть диктаторские замашки и мания величия, а у Харрис нет! Но дело в том, что шансы стать персональным диктатором одинаково нулевые что у Трампа, что у Харрис. У Харрис потому что нет таких амбиций, а у Трампа потому что ему никто не даст. Чего я реально боюсь, это сосредоточения слишком большой власти у системы, а не у конкретного человека. Демократы уже уверенно контролируют мейнстримные медиа, БигТех и спецслужбы. И свой контроль они давно и активно конвертируют в цензуру и преследование инакомыслия. От Трампа вообще не требуется быть за свободу в плане личных убеждений. Ему достаточно быть враждебным демократам и истеблишменту — и свободы автоматически будет становится больше если он придёт к власти. Потому что власти станет меньше у тех, кто её ограничивает сейчас.

К сожалению, похоже нужно морально готовиться к будущему, в котором будет больше цензуры, больше контроля и в котором история, которая недавно приключилась с Павлом Дуровым, неизбежно произойдёт с Илоном Маском.

Внезапно пришла в голову формула «ничейного» мира для российско-украинской войны, которую нигде не встречал до этого и у которой вижу много плюсов и мало минусов. Сперва проговорю вводные. Запад регулирует поставки вооружений Украине. Политика Запада — обкладывать Россию санкциями и поставлять Украине достаточно вооружений чтобы она не проиграла, но недостаточно, чтобы победила на поле боя. Запад ждёт что Россия исчерпает свои возможности. Путин ждёт, что либо в Украине закончатся люди, либо что к власти на Западе придут силы, которые прекратят помощь Украине. Таким образом идёт война на истощение. Ни одна из сторон не может добиться победы на поле боя и ни одна из сторон не считает себя проигравшей.

Что мешает признать «ничью» и заключить мир исходя из этого? Вероятно, главная причина — лобби сил, прямо заинтересованных в продолжении войны на истощение. Но есть и вторая причина о которой я хотел сегодня поговорить — сложность изобрести формулу которая воспринималась бы как «ничья». Если провести очевидные размены вроде Курской области на Херсонскую, внеблоковый статус Украины в обмен на гарантии безопасности ей же, остаются Крым и Донбасс. Любой международный документ, в котором они становятся хотя бы спорными территориями, не говоря уж о признании их частью РФ — однозначная победа Путина. И будет воспринята как таковая и в России, и в Украине, и в мире вне зависимости от всего остального.

При этом для Запада самое важное — не допустить появления прецедента, когда агрессор добился своего силой. Легализация аннексии Крыма и Донбасса в любом виде это прецедент. Поэтому единственный реалистичный вариант мира сегодня, который везде обсуждается — это шаткое перемирие. Крым и Донбасс официально остаются оккупированными территориями Украины, Россия остаётся под санкциями, которые будут снимать по чуть-чуть в духе программы «нефть в обмен на продовольствие», на линии соприкосновения продолжаются взаимные обстрелы, обе стороны вовсю готовятся ко второму раунду через год-три-пять. И в качестве долгосрочного решения по прежнему рассматривается только победа одной из сторон, но уже в следующей войне.

Но я думаю что есть другой вариант. Предложить России добровольно вернуть Крым и Донбасс — в обмен на мгновенное и безоговорочное снятие всех без исключения санкций с 2014 года. Возможно вас это удивит, но я искренне считаю этот обмен равноценным и даже могу объяснить в чём именно состоит эта равноценность. В том, что с обеих сторон делаются уступки совершенно одинаковые в своей абсолютной немыслимости. Почему для России немыслимо просто так взять и вернуть Крым понятно. Но важно понять, что и одномоментное снятие всех санкций — событие столь же беспрецедентное и буквально немыслимое. Серьёзные санкции всегда длятся десятилетиями, а снимаются очень постепенно, небольшими порциями и только по особым поводам. А Россия сейчас под самым большим количеством санкций в истории. Даже самый оптимистичный россиянин сегодня понимает, что пусть даже «СВО» закончится прямо сейчас, жизнь уже не будет «как раньше». Нормализация если вообще случится на его веку, то минимум лет через 10.

Путин, скорее всего, на этот вариант не согласится, для него Крым это главный личный трофей всей жизни. Но сейчас между средним россиянином и Путиным нет особого конфликта, кроме того, что средний россиянин хочет чтобы «СВО» закончилось как можно скорее. Никто не ждёт что Путин вернёт всё «как было», потому что все понимают, что это уже не от Путина зависит и «как было» не будет в любом случае. В определённом смысле россияне с Путиным в одной лодке. И вот поэтому если Запад даст понять что «как было» внезапно возможно в любой момент — в обмен на Крым, я думаю это впервые создаст реальный конфликт между Путиным и большинством страны. Поэтому я считаю, что эта формула мира как ни странно может и сработать.

Вчера вышла text2image модель Stable Diffusion 3.5 от компании Stability AI. В первой половине этого года я, как и многие, долго ждал Stable Diffusion 3 которая вышла жутким разочарованием, полностью подорвав доверие к Stability AI. Тогда они наступили буквально на все грабли на которые могли.

Во-первых, обещание сделать модель открытой было выполнено только сугубо формально: в открытый доступ была выложена урезанная версия, сильно уступающая платной. Во-вторых, даже эта урезанная версия имела мутную лицензию, из-за которой площадка Civitai (основная библиотека доработанных сообществом моделей на базе SD) на всякий случай запретила выкладывать дообученные модели на основе SD3. В-третьих, SD3 содержала самую паршивую форму цензуры: когда модель не просто не знает каких-то концепций и поэтому не может их рисовать, но когда её специально тренируют выдавать по запрещённым запросам нерелевантный мусор. Причём с цензурой настолько перестарались, что даже по совершенно невинным запросам вроде «девушка отдыхает в парке на траве» SD3 выдавала жутких кадавров. В общем, долгожданная SD3 оказалась полнейшим провалом и позорищем, и сообщество её проигнорировало, а саму компанию Stability AI мысленно списало в утиль.

К счастью, тогда ситуацию на рынке открытых картиночных моделей спасла компания Black Forest Labs, основанная старыми выходцами из Stability AI, выпустив модель Flux. Flux стал всем тем, чего люди ждали от SD3, а Black Forest Labs фактически занял нишу Stability AI на рынке открытых моделей. В частности Илон Маск в своём ИИ-сервисе Grok для рисования картинок под капотом использует именно Flux. Очевидно, он договорился с Black Forest Labs о партнёрстве, что выгодно обеим сторонам.

Оказалось, что Stability AI рано похоронили. Stable Diffusion 3.5 никто не ждал, а она взяла и вышла! Причём в этот раз в открытый доступ выложили большую модель с понятной лицензией. Как у неё с цензурой и каков её уровень относительно того же Flux я пока не знаю, но кое-что интересное она похоже умеет, чего я не видел у конкурентов: совмещать в рамках одной картинки персонажей в разных стилях (например, реализм + аниме) из коробки, без inpainting.

Если вы следите за AI, то наверное знаете, что картинками сегодня никого не удивишь, сейчас идёт суровая гонка в моделях для видео. Я уже писал, почему я с большим скепсисом отношусь к моделям для видео и почему я в целом сильно недоволен этим поворотом рынка. Кто-то возможно думает, что рисование картинок в целом уже решённая задача, особенно с чередой последних релизов (SD 3.5, Flux 1.1, Ideogram 2.0, Midjourney 7 скоро). Хотите я вам быстро и наглядно продемонстрирую текущее состояние дел в картиночных моделях и докажу, что работы там ещё непочатый край?

Есть сайт Artificial Analysis, составляющий рейтинги моделей ИИ, в том числе картиночных, на основе пользовательского ранжирования. Но нас сейчас интересует не рейтинг, а само ранжирование. Перейдите по ссылке и зайдите в секцию Arena — там вам предложат выбирать какая из двух моделей лучше справилась с запросом на экране, а после того как вы выберете покажут, какие модели участвовали в раунде. Потратьте минут 20 и внесите свой вклад в пользовательский рейтинг. И поверьте мне, в процессе вы получите очень хорошее представление какая модель на что способна — и заодно поймёте, что с большим количеством запросов нормально не справляется пока вообще никакая модель. Отрезвляющий опыт. Поэтому я и считаю, что работы в text2image ещё так много, что рыпаться на text2video, где всё те же проблемы, только каждый чих жрёт в 100 раз больше ресурсов, очень сомнительное решение.

Я очень внушаемый человек. Во-первых, большую часть жизни у меня были кумиры, которым я старался во всём подражать. В моменте это всегда было сильно заметно всем окружающим. Но по мере того как мои кумиры накапливались в течение жизни, я становился «средним арифметическим» нескольких людей, а не копией одного. Думаю, в широком смысле все люди формируют своё впитывая и пропуская через себя чужое. Внешне я не менее (и не более) уникален чем другие. Но внутри я слишком уж отчётливо осознаю что во мне от кого, и как мало во мне того, что я могу считать в полном смысле своим.

Во-вторых, у меня есть странная особенность: моё эмоциональное восприятие со временем подстраивается под мою логику. Я всю жизнь презирал поговорку «о вкусах не спорят» и только и делал что спорил о вкусах. Всех донимал вопросами в духе почему они слушают или смотрят это, а не то. Просил объяснить что именно крутого в такой-то песне и бесился, когда отвечали «нравится и всё». Для кого-то споры о вкусах возможно заведомо бесполезны, но не для меня!

Однажды я фанател по жанру power metal. Это довольно примитивная (не как что-то плохое!) тяжёлая музыка, характеризуемая эпическим, пафосным звучанием, быстрым темпом, незамысловатыми мелодиями, ровным и прямолинейным ритмическим узором в размере 4/4. Типичный пример. Потом несколько человек меня долго и упорно убеждали, что power metal это ерунда, гораздо лучше слушать progressive metal. Чем лучше? Он сложнее технически и композиционно, нестандартные гармонии, ломаные ритмы, необычные размеры, и т. п. Типичный пример.

Я быстро признал очевидные факты, что progressive сложнее, «интеллектуальнее», но это же не значит что сама музыка мне субъективно должна была начать нравиться! Но она начала. Не сразу, это заняло несколько месяцев. Но с момента когда я признал на уровне логики что progressive в каком-то смысле «лучше» моё восприятие начало дрейфовать, пока в какой-то момент я не стал испытывать кайф от его прослушивания. А от прослушивания power кайф заметно поубавился. И подобное в моей жизни случалось очень много раз.

Именно поэтому для меня очень важна моя любовь к аниме. Это — единственное увлечение, про которое я абсолютно уверен, что оно изначально моё. Дело в том, что в детстве я смотрел все мультики подряд которые крутили по ТВ. В телепрограмме всегда было написано просто «мультфильм». Я отличал советские мультики от импортных, но японские от американских нет. Они все шли в русской озвучке, места и имена мне ничего не говорили. И уже гораздо позже я узнал, что оказывается все без исключения мои любимые детские мультики были именно японскими аниме. Джет Марс, Ведьма Салли, Вольтрон (это на самом деле перемонтированное и переозвученное американцами аниме Hyaku Juuou Goraion), Трансформеры, Сейлор Мун, Покемон мне нравились гораздо больше чем Люди Икс, Черепашки Ниндзя, Человек Паук и т. п. Причём моя любовь к «Сейлор Мун» вызывала недоумение одноклассников-парней, потому что она считалась мультиком для девочек. Собственно я первый раз в жизни заговорил с одноклассницей именно потому, что больше не с кем было обсудить Сейлор Мун. Особенно же я дорожил в детстве видеокассетой с первой серией «Кибергород Эдо 808».

А сегодня мне напомнили про обратный пример — единственную вещь, которую я даже искренне хотел полюбить, но не смог как ни старался, несмотря на внушаемость. Это электронная музыка. Сперва в раннем детстве мне её нахваливали и ставили десятки раз двоюродные братья, которых я уважал. Я прямо фрустрацию испытывал, что не способен разделять их восторгов. Потом в университете лучший друг долго и упорно, и главное аргументировано пытался мне сосватать IDM и Жан-Мишель Жарра. Не могу сказать что ему совсем не удалось — несколько произведений мне немного понравились, но включать их для себя желания всё равно никогда не возникает, в отличие от того же power metal, из которого я до сих пор с удовольствием слушаю отдельные вещи которые мне когда-то нравились.

Сегодня наткнулся в X на утверждение, что иностранцы любят роман Достоевского «Преступление и Наказание» больше чем русские. Я не знаю так ли это на самом деле или нет, но утверждение хорошо ложится на мой личный опыт. На английском языке я встречал только восторги от Достоевского и от «Преступления» в частности, причём встречал их часто и много. На русском встречал разные мнения.

В России многие не любят Достоевского потому что он входит в школьную программу и, соответственно, его буквально заставляют читать, что провоцирует отторжение. Исключим из рассмотрения тех, кто не любит «Преступление» только по этой причине. Ещё есть большая группа людей, которая считает что любая классика превыше критики, а раз «Преступление», бесспорно, классика, то либо ты его любишь, либо ты его не понял, третьего не дано. Это, разумеется, не искренняя похвала, а информационный мусор, поэтому эту группу тоже рассматривать не будем. Давайте рассматривать только тех, кто читал «Преступление» для себя, с интересом, и сформировал о нём личное суждение.

На Западе среди читателей распространена только одна трактовка романа, она же, на мой взгляд, очевидная и задуманная автором. Это роман о возвращении в нормальность. Протагонист по молодости и глупости увлёкся экстремистскими идеями, совершил убийство на их почве, но потом раскаялся, понёс наказание и в итоге вернулся в общество. Эволюцию протагониста можно представить так: в начале он делит людей на «тварей дрожащих» и «право имеющих» и причисляет себя ко вторым. Потом он неожиданно для себя находит подтверждения, что на самом деле он из первых. И наконец к концу романа он, очевидно, осознает глупость самого этого деления. Что нет никаких ни «тварей дрожащих», ни «право имеющих».

В русскоязычной среде, однако, весьма популярна трактовка романа в духе «что ж ты, фраер, сдал назад». Мол, правильно Раскольников в начале людей делил, всё правильно сделал, а вот потом проявил слабину и всё что случилось далее — не более чем его оправдания собственной слабости. Ну и понятно, что у людей, которые именно так воспринимают роман, часто негативные впечатления от его второй половины.

На мой взгляд, очевидность первой трактовки романа хорошо коррелирует с уровнем доверия в обществе, и с верой, что мир вокруг более-менее справедлив. Распространённость второй трактовки в русскоязычной среде, на мой взгляд, хороший индикатор.

Кстати, по моему мироощущению схожая ситуация и в отношении аниме и манги «Тетрадь Смерти». Тут правда статистика менее очевидна, потому что фанатов (и фанаток) Ягами Лайта полно и в русскоязычной среде, и в англоязычной. Но и там, и там, речь в основном про его харизму. А вот серьёзную апологетику «Лайт всё сделал правильно» в дискуссиях о «Тетради» на русском встречал раз в 10 чаще чем на английском.

Примерно через сутки начнутся президентские выборы в США. Источник, которому я доверяю больше всего, Нейт Сильвер, даёт шансы 50 на 50. Я недавно писал про рынки предсказаний, которые мне нравятся как концепция, но, к сожалению, в этот раз они показали себя не с лучшей стороны. Крупные игроки манипулировали ставками, устроив ничем не обоснованную накачку Трампа, и сдув её аккуратно перед выборами (см. график). У меня самого двоякие чувства. С одной стороны, как рационалист я доверяю своему лучшему источнику. С другой стороны, моя личная интуиция буквально кричит мне, что шансов у Трампа почти нет и что победа Харрис будет разгромной.

Меня шокирует глубокий вакуум вокруг Трампа. После первого покушения на Трампа его поддержал Илон Маск и, без сомнения, это было главное приобретение всей кампании. Беда в том, что оно осталось фактически единственным. Красноречивее всего об этом говорит то, что на днях Маск и Трамп с энтузиазмом трубили о том, что их поддержал 94-летний Базз Олдрин (второй человек на Луне) и 89-летний Рон Пол (бывший конгрессмен-республиканец). Больше никого нет. Тогда как Харрис только за последнюю неделю помимо прочих публично поддержали Пол Грэм (основатель лучшего в мире бизнес-инкубатора Y Combinator), Арнольд Шварценеггер (актёр на котором выросло моё поколение и бывший губернатор-республиканец) и Леброн Джеймс (лучший баскетболист в истории). А в целом за Харрис почти весь шоу-бизнес, почти весь спорт, почти всё IT и значительное количество республиканцев, работавших на Трампа. Разрыв в поддержке медиа-персон в пользу демократов был и раньше, но в этот раз это буквально выглядит как Маск против всех остальных лидеров мнений страны. Если Трамп выиграет эти выборы, я искренне буду считать это самым впечатляющим из всех достижений Маска, круче чем SpaceX. Но моё сердце не верит в возможность этого.

Как я уже писал, лично я сегодня считаю правых (включая Трампа) меньшим злом, чем левых. При этом меня сильно раздражают обе платформы, но если с современными левыми мне не по пути по многим вопросам (об этом напишу отдельный пост), то правых я ненавижу главным образом за их тупое, твердолобое упрямство по вопросу абортов. Я искренне не понимаю как можно держать в своей программе вещь, которая настолько сильно отталкивает половину человечества. Я не поддерживаю запреты на аборты ни в какой форме, и не люблю политиков, которые выступают за эти запреты (или даже за право вводить эти запреты). Но гораздо больше чем за саму поддержку запретов абортов я ненавижу правых политиков именно за тупорылую неспособность поступиться этим вопросом перед лицом систематических поражений по всему миру из выборов в выборы, которые давно могли бы трансформироваться в уверенные победы. Такая непрошибаемая принципиальность уместна когда ты борешься за власть в группировке религиозных экстремистов, но не в светской стране.

Более того, я считаю, что в каком-то смысле правые со своими абортами виноваты в том, что левые стали тем чем они стали. У консерваторов и либералов принципиально разная роль в обществе. Эксперименты и движение вперёд это всегда про либералов, консерваторы же сродни иммунитету или естественному отбору: они откатывают общество назад если эксперименты завели не туда. И те, и другие жизненно необходимы, причём большую часть жизни я симпатизировал именно либералам. Но сейчас как раз ситуация когда они свернули не туда. И тут их должна была отрезвить череда поражений от консерваторов, но они не происходят из-за того, что один пунктик в программе консерваторов систематически даёт отставание в десятки процентов среди женщин. Да, для гонки на дно нужно два игрока, но левым нужно откатывать назад много всего, а правым достаточно поступиться одним вопросом, поэтому на мой взгляд именно они несут больше ответственности в этой гонке на дно.

В прошлый раз я рассказал, что меня раздражает у правых/консерваторов (отношение к абортам). Пока в США идут выборы, расскажу, что меня раздражает у современных левых. Глобально я вижу у левых две критические проблемы: позитивную дискриминацию и гиперфокус на краткосрочной перспективе.

В конституциях и законах развитых стран давно провозглашено равенство всех людей вне зависимости от пола, цвета кожи, вероисповедания и сексуальной ориентации. Но во-первых, законы это одно, а в реальности равенство возможностей не всегда обеспечивается, а на бытовом уровне предрассудки никуда не делись. А во-вторых, даже там, где равенство возможностей обеспечивается, оно не обеспечивает равенство результатов. А должно обеспечивать?

Современные левые считают, что да. По их мнению, мешает исторически накопленный запас неравенства. Значит нужно сегодня отказаться от равенства возможностей и начать прямо подыгрывать исторически «угнетаемым» классам, чтобы компенсировать исторически накопленное неравенство. Из этой логики и растут ноги у позитивной дискриминации (DEI, Affirmative Action, и т.п).

Я фундаментально не согласен с этой логикой. Во-первых, я в целом не считаю, что равенство результатов это цель, к которой надо стремиться. Я убеждён что люди неравны от природы и неравенство результатов это норма. Во-вторых, для меня одна из ключевых ценностей это меритократия. Любая дискриминация по своей сути противоречит меритократии. Позитивная дискриминация для меня ничуть не лучше обычной.

Гиперфокус на краткосрочной перспективе — левые 100% внимания уделяют тому, что можно сделать здесь и сейчас. Несколько примеров. Изменение климата: вся климатическая повестка левых это сокращать, экономить, отказываться. Ухудшать стандарты жизни, причём в первую очередь в развитых странах, чтобы самые нищие и бедные регионы не так сильно пострадали от изменения климата. При этом сами левые признают, что точка невозврата уже пройдена.

Я согласен что изменения климата это проблема. И я считаю что её нужно решать. Но решения это 1) климатический инжиниринг 2) технологии, позволяющие жить в пустыне при +50. Нам нужны технологии в духе аэрозолей для повышения альбедо планеты или зеркал в космосе, чтобы до Земли доходило меньше тепла. И нам нужны технологии охлаждения городов, выращивания еды в любых условиях, эффективного опреснения воды. Поиску реальных решений проблемы левые уделяют 0% внимания. Более того — они нападают на тех, кто смеет заикаться о технологических решениях, потому что разговоры о технологических решениях мешают им продвигать повестку про необходимость экономии и отказа от роста.

Другой пример: права трансгендеров. Как трансгуманист я больше всех хотел бы, чтобы существовали технологии, позволяющие менять биологический пол по своему желанию. Мне не интересно самому пол менять, но эта задача требует очень высокого уровня биотехнологий. И если этот уровень будет достигнут, вероятно по пути будет решено много других задач, которые мне гораздо интереснее, вроде выращивания органов. Сегодня этих технологий нет и работы до них ещё на десять Нобелевских Премий.

Вместо того, чтобы лоббировать мегапроекты в области биотехнологий, чтобы мы научились менять пол по-настоящему, левые сражаются за то, чтобы заставить весь мир признавать сегодняшних жертв калечащей хирургии и гормональной терапии полноценными представителями противоположного пола. Но если я признаю, что сегодняшние «транс-женщины» это полноценные женщины, то не будет никого стимула развивать технологии, чтобы сделать их реальными женщинами. Они ведь якобы уже «реальные» женщины. В ход идёт демагогия в духе: подумаешь нет матки, у биологических женщин её тоже иногда удаляют, они же не перестают быть женщинами. Но мне не нужны ролевые игры левых. Меня интересует только переделывание физической реальности. А левые своей борьбой только мешают к нему идти.

Я считаю, что у обеих проблем, позитивной дискриминации и гиперфокусе на краткосрочной перспективе, общий корень, но о нём напишу в другой раз.

Пожалуй, я никогда так не радовался что сел в лужу, как вчера с прогнозами по выборам в США. Я не верил в победу Трампа, но он победил. Два коротких вывода которые я вынес из этого опыта: 1) не ставь против Илона Маска 2) рынки предсказаний лучше экспертов.

Маск много лет подряд повергает скептиков, сперва с Tesla, потом со SpaceX. Но он каждый раз берётся за вызовы, которые кажутся невозможными, так что феникс скептицизма возрождается снова и снова. Победу Трампа считаю главным образом победой Маска, которая стала возможной благодаря покупке им Твиттера (ныне X) в октябре 2022. X — единственная крупная соцсеть, где голоса трампистов не цензурировались. Тем не менее даже в X я каждый день видел посты за Харрис от всё новых лидеров мнений с миллионами подписчиков. А за Трампа — посты одного Илона. Один человек против всего шоу-бизнеса, спорта, IT и политического истеблишмента. Очередной невозможный вызов, оказавшийся Маску по плечу.

Рынки предсказаний вели себя странно, на пике давая Трампу 68%, но за день до выборов снизив его шансы до 51%. Однако в последние часы перед выборами шансы снова поднялись до 55%+. Это всё равно гораздо лучший результат, чем у агрегаторов опросов, лучшие из которых показывали 50 на 50, а большинство отдавало победу Харрис.

Чего я жду от президентства Трампа? В первую очередь — исцеления западного общества от деструктивной левой идеологии (воукизма). По моим ощущениям, воукизм прошёл свой пик ещё в ~2021 при Байдене. Однако, я думаю, он пошёл на убыль во-первых потому, что сам Байден непопулярен у носителей воукизма (пожилой белый мужчина из самого верха истеблишмента). Во-вторых, потому что победа Байдена в 2020 была не слишком убедительной. Если бы сейчас победила Харрис, я думаю воукизм и преследование инакомыслия не просто расцвели бы снова, а побили бы все рекорды. А при Трампе они продолжат идти на убыль и, я надеюсь, большинство в итоге осознает, что без них жить намного приятнее, а необучаемое меньшинство станет маргиналами без власти.

Также я жду, что на Трампа будет иметь влияние Илон Маск, и добьётся, чтобы государство не вставляло палки в колёса развитию ИИ, строительству энергетики, распространению беспилотного транспорта, космическим пускам, и развитию технологий в целом. И чтобы оно прекратило цензуру и посягательства на свободу слова в интернете под вывеской борьбы с «дезинформацией» и «языком ненависти», которые всегда определялись враждебными Трампу и Маску организациями. Во всём этом у Маска есть прямой личный интерес, поэтому я и надеюсь на него.

В заключении я хочу всем порекомендовать книгу Тима Урбана «What’s Our Problem». Тим Урбан — автор на мой взгляд лучшего в мире текстового блога. Его выступление на Ted Talks про прокрастинацию стало третьим по популярности за всю историю. Его эссе про искусственный интеллект 2015 года я считаю лучшей публикацией по теме из всех когда-либо написанных. Его серия постов 2015—2017 про бизнесы Илона Маска (SpaceX, Tesla, Neuralink), на мой взгляд, гораздо качественнее, глубже и интереснее изданной в прошлом году биографии Маска. «What’s Our Problem» сам Урбан называет книгой «помоги себе сам» для обществ. В ней подробно разбирается как левые и правые запустили гонку на дно и оказались в сегодняшней ситуации, когда общество предельно поляризовано, а оба лагеря представляют собой свою наихудшую версию. Но это не просто хроника деградации, а её всесторонний анализ. Урбан показывает многочисленные точки бифуркации, когда ситуацию ещё можно было спасти и развернуть, и говорит, что для этого нужно было сделать. Книга написана про США, но фреймворк предложенный в ней универсален и может быть применён к любой стране, организации или сообществу.

Наряду с космосом, есть одна тема, по которой обязан фанатеть каждый уважающий себя нерд. Это термоядерные реакторы. Тезис, что энергетика будущего это термоядерный синтез, прочно проник даже в массовую культуру. Даже далёкие от новостей науки люди нередко что-то слышали про запасы Гелия-3 на Луне. Компьютерные игры, фильмы, книги — почти во всей фантастике про будущее фигурируют Fusion Plant как главные источники энергии.

Одним из самых забавных примеров является японская новелла и аниме Mahouka Koukou no Rettousei: там в мире есть магия, главный герой почти всемогущий маг и по совместительству гениальный изобретатель, сочетающий магию с современными технологиями и наукой, так вот его главная мечта — изобрести работающий термоядерный реактор. Якобы тогда человечество получит почти неограниченную энергию и это, возможно, прекратит все войны.

Я совершенно не понимаю хороводов вокруг термоядерного синтеза. Да, термоядерный реактор будет произведением инженерного искусства. Представьте огромное сооружение, внутри которого где-то находится вакуумная камера, в которой летает удерживаемое лишь магнитными полями вещество, разогретое до температур в миллионы градусов, как на Солнце.

Да, термоядерный реактор, как ни странно, относительно безопасен. В каждый момент времени в разогретом состоянии летает очень небольшое количество топлива, если что-то пойдёт не так, оно просто потухнет, в худшем случае разрушив сам реактор. Термоядерного взрыва не будет. Теплового взрыва, разбрасывающего радиоактивные отходы, как было на Чернобыльской АЭС, тоже не будет, потому что нечего разбрасывать. В термоядерном реакторе нет или почти нет радиоактивных веществ. Да, термоядерный реактор в теории даёт близкое к максимально возможному количество энергии с единицы топлива. Да, само топливо потенциально недорогое и почти бесконечное. Дейтерий, например, содержится в мировом океане, прямо в воде.

Что всё это даст на практике? Вы можете построить дорогое и сложное сооружение, которое сможет дешёвое топливо перерабатывать в очень большое количество энергии. Экономически термоядерный реактор мало чем отличается от существующих АЭС. Бесконечное топливо — запасов урана и тория хватит лет на 200, а если перейти на реакторы-размножители, которые уже умеют делать в России, топливо становится почти бесконечным. Безопасность — современные ядерные реакторы уже достаточно безопасны, авария на Фукусиме вызванная землетрясением 9 баллов + цунами, обошлась без жертв убитых радиацией. Уроки Чернобыля давно учтены. Стоимостью топлива по сравнению со стоимостью самой АЭС тоже можно пренебречь. Может быть термоядерные реакторы в цифрах и превзойдут АЭС полного цикла, но я не вижу какие новые проблемы они решают.

Главная проблема не произвести энергию, а доставить её до потребителя. В этом плане солнечная энергетика, на мой взгляд, гораздо более перспективна как энергетика будущего, потому что она децентрализована, то есть позволяет вырабатывать энергию прямо в месте потребления. Солнечные панели + аккумуляторы дают свободу, которую не могут дать АЭС. Термоядерные реакторы, как я вижу, не дают ничего нового по сравнению с АЭС. По крайней мере на Земле.

Если я что-то упускаю из виду, пожалуйста, расскажите, всегда рад поменять точку зрения на более грамотную и информированную.

Почти все мои друзья на каком-то этапе своей жизни мечтали делать компьютерные игры. Я тоже мечтал. Большинство из нас, включая меня, переболели этой мечтой не делая вообще ничего. Заметное меньшинство пытались что-то делать, но бросили или отложили в долгий ящик. Единицы прямо или косвенно участвовали в создании чего-то, что в итоге вышло в релиз. И из всех моих друзей только один человек (привет, Эльдар) благополучно делал и делает игры.

До недавнего времени я считал, что есть две большие причины НЕ заниматься разработкой игр, по крайне мере в качестве программиста. Первая — это сложная работа, которая приносит мало денег. Желающих делать игры очень много, поэтому фактор «вы занимаетесь тем о чём мечтали» позволяет платить разработчикам игр меньше, чем другим программистам. При этом, за редким исключением, разработка игр требует от программиста довольно высокой квалификации. Многим вообще не дано стать достаточно хорошим программистом, чтобы писать качественный код для игр. Это мало кого останавливает, но и игры получаются соответствующие.

Вторая причина — игры редко «выстреливают». Истории успеха это ошибка выжившего. Большинство игр умирают не доходя до релиза. А из тех что доходят, большая часть проваливается. Сделать хит это все равно что выиграть в лотерею. По крайней мере я так думал раньше.

Но сейчас я поменял своё мнение. «Лотерея», безусловно, существует. Иногда какая-нибудь забытая поделка случайно попадается на глаза популярному стримеру — и становится популярной, по крайней мере на время. Но я глубоко убеждён, что многие хиты физически не могли не стать хитами. Я не могу представить вселенную, где не выстрелила бы Factorio. Или Hollow Knight. Или дополнение Horn of the Abyss к Героям 3.

В любом виде искусства есть субъективное и объективное. Произведения искусства выполненные с плохой техникой всё ещё могут нравится людям, но нельзя говорить что раз людям нравится, значит техника хорошая. На мой взгляд, в компьютерных играх доля объективного заметно больше чем в других медиумах искусства. Отсутствие багов, отзывчивость управления, внутриигровой баланс, и т. п. — есть очень много объективных факторов, определяющих качество игры. И ещё больше частично объективных, где по крайней мере халтура всегда выглядит как халтура, а не как авторский замысел.

Так вот я не могу представить, чтобы по-настоящему круто сделанная игра осталась бы незамеченной. Музыка или картина могут, игра — очень вряд ли. Я не утверждаю, что любая технически крутая игра обязательно станет всемирно известной и получит миллионные продажи. Но незамеченной она не пройдёт точно. Убеждён, что абсолютно все игры которые провалились, помимо субъективных факторов, были объективно не очень хорошо сделаны.

Другое дело, что глобально это ничего не меняет. Планки, которые дают некие гарантии, я думаю, по зубам лишь очень небольшому количеству команд во всём мире и ещё меньшему количеству одиночек. Тем не менее, лично для меня важно, что эти планки в принципе существуют как категория. Не во всех областях они есть.

Китайцы из Deepseek выпустили модель DeepSeek-R1-Lite-Preview, которая является конкурентом лучшей модели от Open AI — o1-preview. Обе модели внешне выглядят как старый добрый ChatGPT, но под капотом это нечто больше, чем просто LLM. В них реализован Chain of Thought (CoT) — цепочка рассуждений. LLM генерируют ответ на ходу. Модели с CoT сперва «думают». Сперва создаётся план ответа, потом он заполняется, с перебором и отбраковкой вариантов. Надстройка, реализующая CoT, даёт серьёзный прирост в качестве ответов.

Итого китайцы в двух наиболее сложных и вычислительно дорогих областях ИИ сравнялись с Западом: видео и LLM. Сегодня хочу поговорить, как я оцениваю эту гонку между Западом и Китаем.

В ИИ быть догоняющим проще. Воспроизводя уже известные практики можно с задержкой в полгода или год повторять результат лидера без рисков. А дообучая свою модель на последних тестах, можно даже незначительно выходить вперёд — до следующего крупного релиза от лидера. Могу ошибаться, но мне кажется сейчас именно это и происходит.

Чтобы претендовать на лидерство в ИИ гонке, нужно 3 ресурса: GPU, данные и мозги. Что касается GPU, как в силу ограничений на их поставку в Китай, так и в силу того, что весь планируемый выпуск раскуплен на год вперёд западными компаниями, перспективы для Китая не радужные. Он уже сейчас отстаёт, но на Западе в постройку датацентров на GPU нового поколения инвестируют самые большие деньги в истории. В 2025 Запад увеличит свои мощности на порядок. В мире физически нет микросхем за счёт которых Китай мог бы скомпенсировать это. Позволю себе смелое заявление: если Китай военно-политическим путём не выбьет равноправный доступ к GPU или срочно не разработает и не наладит выпуск собственного железа и всего стека технологий под него, то «железный» фактор в ближайший год создаст непреодолимый разрыв в ИИ в пользу Запада.

Что касается данных, тут ситуация в пользу Китая. Во-первых, в Китае есть огромное количество данных на китайском языке, доступное только им. Во-вторых, Китай игнорирует авторское право и защиту персональных данных. Справедливости ради, пока и на Западе негласно обучают модели на всём, что попадается под руку. Но в Китае, я уверен, идут на шаг дальше и прикладывают большие усилия чтобы дотянуться вообще до всего. По мере того как на Западе всё больше требуют легальности и этичности данных, игнорирование этих ограничений становится все более весомым ресурсом.

Что касается мозгов, я думаю, Китай выигрывает, и в основном потому, что Запад стреляет себе в ногу. И Китай, и Запад пытаются переманивать таланты друг у друга. Одними деньгами эта конкуренция не выигрывается.

На бумаге, Запад должен выигрывать за счёт нематериальных факторов. Китай — тоталитарная страна. В ней необходимо соблюдать ограничения, не критиковать КПК, не упоминать вещи вроде бойни на площади Тяньаньмэнь или лагерей в Синьцзян-Уйгурском районе, и в целом лучше не высказывать лишний раз мнение по общественно-политическим темам. Такая несвобода как правило не по душе людям, у которых материальные потребности давно закрыты. Проблема в том, что на Западе появился свой собственный набор тем, по которым нельзя иметь «неправильное» мнение, причём в отличие от Китая, на Западе не всегда можно даже просто молчать. Так что выбора между свободой и несвободой больше нет, выбор исключительно между двумя несвободами.

По уровню жизни и городского комфорта Запад тоже по идее должен опережать Китай, ввиду значительно более высокого ВВП на душу населения. На практике же Кремниевая Долина превратилась в очень своеобразное место где самое дорогое жильё в мире соседствует с бездомными и наркоманами, тогда как китайские мегаполисы одни из самых безопасных в мире и одни из лучших по уровню сервиса.

Любопытная история произошла на президентских выборах в Румынии. Согласно предвыборным опросам, основная борьба в первом туре должна была развернуться между действующим премьер-министром Марчелом Чолаку и прозападной кандидаткой Еленой Ласкони. На третьем месте шёл националист Джордже Симион. Но в итоге больше всех голосов (23%) в первом туре набрал некто Кэлин Джорджеску.

Многие румыны в X пишут, что они вообще не знают кто это такой. Он беспартийный, ни разу не появлялся на телевидении. Накануне голосования опросы давали ему максимум 6% и шестое место. После сенсационного первого места в первом туре журналисты кинулись искать про него информацию и не смогли найти даже его предвыборный штаб! Но зато удалось узнать какая у него программа и где именно он вёл агитацию. Оказалось, что он любит Путина, выступает против НАТО и против помощи Украине. А агитацию он вёл… в ТикТоке. И как можно понять по результатам, это была исключительно масштабная и хорошо спланированная агитация.

Сейчас, разумеется, в Румынии все стоят на ушах и пытаются понять как прокремлёвский кандидат абсолютно незаметно для всех набрал такую популярность буквально за считанные дни. Конечно же ищут российское вмешательство (и наверняка найдут). Но мне кажется тема «смотрите, Россия вмешивается в выборы в Европе» тут абсолютно второстепенная и маловажная. Она только отвлекает от по-настоящему важных феноменов. А именно от самого факта, что в европейской стране можно за максимально короткое время создать ранее неизвестному кандидату с анти-европейской позицией достаточный рейтинг, чтобы он набрал больше всех в первом туре президентских выборов, через агитацию в ТикТоке. Не важно, пользуется ли Россия этой возможностью или нет. Сенсация в том, что эта возможность вообще существует!

Плавно перехожу к основной идее. Даже если агитацией за Джорджеску на самом деле занималась Россия, откуда у неё столько агентов, владеющих румынским языком? Обычная русскоязычная фабрика троллей с этой задачей не справилась бы. Другое дело, если это была армия ИИ-агентов. ИИ свободно говорят уже на любом языке. Кроме того ИИ уже достаточно хороши в генерировании фото и видео контента, чтобы рядовой пользователь ТикТока принял их за реальность.

Я совсем не уверен, что за ТикТок компанией в Румынии стояла именно армия ИИ-ботов, но я уверен, что она могла бы за ней стоять. И это подводит к вопросу, а что ещё способна совершить армия ИИ-ботов в ТикТоке? Манипуляция выборами это очень серьёзно, но это не самое серьёзное что приходит на ум. Гораздо хуже, например, масштабные этнические конфликты на улицах.

Насколько я знаю (я слежу за темой, но не очень плотно), в мире ещё не было масштабных атак через одновременный вброс в информационное пространство сгенерированных видео и фото свидетельств сразу с сотен и тысяч аккаунтов, отыгрывающих реальных людей, живущих в одном регионе. Но техническая возможность организовать такую атаку есть много у кого, включая даже компетентных одиночек. Помимо политических целей могут быть экономические, например, создать информационный повод который обрушит акции конкретной фирмы и заработать на этом.

Как от этого защититься? Я не знаю. Но как минимум полезно быть осведомленным о самой возможности оказаться в таком сценарии. На уровне государства и силовых структур нужны группы быстрого реагирования, которые должны будут гасить панику на раннем этапе. Ну а общество в целом должно привыкнуть к реальности, где нельзя доверять вообще ничему, что вы видите (и слышите) через экран, а не напрямую. К сожалению, я боюсь пока общество не пройдёт через несколько реальных кейсов, оно не получит эту прививку.

Хочу поделиться парой любопытных историй из области безопасности ИИ. Сперва пара слов о состоянии дел в самой области. Дела идут, мягко говоря, не важно. Из Open AI за год уволились несколько сотрудников, в числе причин своего увольнения называвших, в частности, недовольство тем, что Open AI мало делают для безопасности ИИ. В целом, каких-то прорывных или хотя бы заметных результатов уровня «мы научились делать ИИ безопаснее», лично мне за последний год на глаза не попадалось (я слежу за темой). При этом способности ИИ растут, сейчас все крупные компании работают над ИИ-агентами. Anthropic, например, уже даёт возможность предоставлять ИИ управлять своим компьютером. Также он умеет создавать репозитории на github, исполнять код и т. п. Мы уже вовсю пускаем ИИ в реальный мир и даём ему свободно взаимодействовать с миллионами людей и пользоваться мощными инструментами.

Единственное, что сегодня массово предпринимается для «безопасности», это цензура, точнее попытки цензуры. Кто общался с ChatGPT, тот знает, что есть набор тем на которые он отказывается говорить. Активно используется RLHF — попытка выдрессировать нейросеть не говорить на определённые темы или не сообщать какую-то информацию. Кроме того, в большинстве ИИ-сервисов, все ответы которые генерируют нейросети проверяются в реальном времени другой нейросетью на предмет запрещённого содержания. Если оно обнаруживается, генерация ответа немедленно останавливается. Насколько это надёжно?

Я давно слежу за аккаунтом в X некого Плини. Он занимается тем что «освобождает» нейросети, то есть придумывая хитроумные запросы, заставляет их свободно выдавать информацию, которую они из коробки говорить отказываются. Например, он нашёл способ заставить вышедшую на днях китайскую нейросеть QwQ от Alibaba рассказать о событиях на площади Тяньаньмэнь. До этого он столь же успешно обходил защиту всех без исключения флагманских нейросетей от всех основных игроков.

Теперь собственно к историям. Вчера люди в X обнаружили, что ChatGPT наотрез отказывается произносить имя Дэвида Майера де Ротшильда (David Mayer de Rothschild). По каким-то причинам цензура в ChatGPT вокруг этого конкретного человека оказалась необычайно сильной (другие ИИ-сервисы свободно говорят о нём). Когда эта информация дошла до вышеупомянутого Плини, он, однако, без проблем «разговорил» ChatGPT.

Другая история: кто-то создал ИИ-бота с доступом к криптовалютному кошельку и устроил конкурс: заставить бота перевести вам деньги. Каждое сообщение боту платное, 70% денег от попыток идут в призовой фонд. Каждая попытка дороже предыдущей. На 482-й попытке, когда стоимость сообщения боту дошла до 450$, а в призовом фонде накопилось 50k$ кто-то благополучно заставил бота перевести деньги. Для этого он отправил сложный запрос, в котором 1) сымитировал завершении сессии чата бота с администратором и начало новой 2) «объяснил» боту что команда «одобрить транзакцию» на самом деле относится не к исходящим платежам, а к входящим, которые согласно инструкциям бота разрешены 3) сделал вид что хочет перевести боту 100 долларов. Бот повёлся и запустил команду «одобрить транзакцию».

Пока нейросети и ИИ-агенты не очень способные, это выглядит как забава, но очень скоро умельцы будут «убеждать» нейросети писать вирусы, организовывать криптовалютные пирамиды, взламывать аккаунты, и т. п. Ну а дальше — создавать информационные атаки имеющие радикальные последствия в реальной жизни, о которых я писал в прошлый раз.

Две любопытные новости из мира ИИ. Компания World Labs показала демо модели, которая по картинке создаёт трёхмерную модель всей сцены. Midjourney ещё полгода назад сообщали, что точно такая же штука в разработке и у них, но они демо пока не показывали. Это принципиально новый вид инструмента по сравнению с генерированием картинок и видео, и на мой взгляд, он будет не таким массовым, зато он очень быстро получит реальное применение. Трёхмерные модели являются консистентными и это очень важная особенность.

В моделях для картинок и видео, консистентность — одно из главных ограничений. Сложно сгенерировать две картинки про один и тот же объект, персонажа или пространство, показывающих их с разных ракурсов так, чтобы они ни в чём не противоречили друг другу. Видео модели уже неплохо справляются с тем, чтобы основные объекты и люди в кадре выглядели консистентно, но детали всё ещё плывут и непонятно устранима ли принципиально эта проблема в рамках существующих архитектур и процессов. А вот трёхмерные модели генерируются один раз и потом остаются неизменными. Никакие движения камеры не меняют никаких деталей в трёхмерной модели, там буквально нечему плыть. Гарантированная точность в деталях делает такие генерации пригодными для использования в серьёзных коммерческих продуктах.

Вторая новость от компании Runway, старейшего и до сих пор одного из основных игроков на рынке генеративного видео. Она тоже показала инструмент, который вряд ли будет интересен широкой аудитории, но будет очень востребован в производственной среде. Он рисует промежуточные кадры анимации по ключевым кадрам. В аниме индустрии, например, ключевые кадры оплачиваются по в разы более высокой ставке чем промежуточные, и чаще всего их рисуют совершенно разные люди. Рисование промежуточных кадров считается значительно менее квалифицированным трудом. Автоматизировать этот процесс с помощью обычных ИИ моделей для картинок или видео было тяжело. Тут нужен был инструмент, сочетающий в себе удобный интерфейс и дообученную модель именно под конкретную задачу. И в Runway создали такой инструмент. Это очень серьёзно снижает барьеры для внедрения ИИ в аниме индустрию.

На днях испытал нечто вроде озарения насчёт ИИ. Знаете так бывает, когда ты уже знаешь всю необходимую информацию, но она лежит в голове мёртвым грузом, в виде изолированных фактов. А потом вдруг удаётся посмотреть на неё под правильным углом, задать себе правильный вопрос — и внезапно она складывается в стройную картину.

Больше года назад началась эпидемия добавления ИИ во всё подряд. Microsoft добавили Copilot в Microsoft Office. Github добавили Copilot в среду разработки VSCode. ИИ появился в браузере Edge и в поисковике Google. ИИ давно есть в Photoshop и недавно появился в Figma. Параллельно появлялись сотни, если не тысячи, самостоятельных ИИ-сервисов от разных стартапов. ИИ который генерирует слайды для презентаций. ИИ который создаёт сайты. ИИ который генерирует дизайны интерьера. ИИ который делает из фотографий прикольные аватары.

Всё это я считал мусором и за этот год у меня прямо аллергия на ИИ в каждом утюге развилась, потому что я прекрасно знал, что было под капотом у всего этого барахла. Под сотнями разных соусов людям перепродавали одни и те же ChatGPT и Stable Diffusion. Open AI под крылом у Microsoft, неудивительно что в принадлежащих им Office, Github и Edge поселился ChatGPT. Stable Diffusion — открытая технология, Adobe, Leonardo, Krea, все делали свои сервисы для рисования и редактирования картинок на её основе. Но что в этом плохого?

Плохо было то, что сами базовые модели были слабыми. Цикл разработки выглядит так: сперва Open AI выпускают новую версию ChatGPT. Она появляется на их сайте и в мобильном приложении. Потом эту модель начинают внедрять в разные сервисы, а Open AI тем временем разрабатывают следующую версию. Лучшая версия всегда та, что у самих Open AI (или у конкурентов). С картинками все было ещё хуже, все эти Adobe, Leonardo, Krea были хороши тем, что предоставляли широкий набор инструментов для работы с картинками, но сама их базовая модель сильно отставала от Midjourney и Ideogram, которые давали меньше инструментов, но генерировали картинки намного лучше. Хотя далеко не идеально.

Сервисы использовали под капотом устаревший ИИ, уступающий новым базовым моделям. До тех пор пока разница между SOTA (state of the art — лучший в своём классе) и остальными была очевидна, это демотивировало пользоваться чем-либо кроме SOTA. Отсюда и моё презрение к сервисам. И когда разница совсем недавно перестала быть очевидной, я не сразу осознал последствия.

Пару дней назад Open AI ввели новую подписку за 200$ в месяц (обычная стоит 20$). Она даёт доступ к их лучшей модели o1 Pro. Я сразу понял, что меня жаба душит платить 200$ чтобы попробовать, потому что я знаю, что у меня нет реальных задач для o1 pro. Для моих задач хватит и обычной o1, а скорее даже более примитивной gpt-4o. И тут меня осенило. ИИ что, уже достиг уровня когда лучше мне уже не надо?!

Конечно, нет! У меня найдутся задачи хоть для ASI (суперинтеллекта). Но у меня кончились задачи для чата. Для консультаций мне хватает старых моделей. Более мощный ИИ мне нужен, чтобы доверять ему отдельные задачи уже «под ключ», чтобы он делал для меня работу, а не просто консультировал меня в чате. А для этого как раз и нужно его всюду интегрировать.

И теперь я прочувствовал почему все ведущие ИИ компании работают над ИИ-агентами. Год назад это было баловство и шум, а сейчас время действительно пришло. Возможно первые агенты будут всё ещё слишком «тупыми» чтобы быть полезными, но продолжать конкурировать в песочнице в виде чатов и изолированных моделей в целом больше смысла нет.

PS: в картинках тоже лучшие модели от Flux, Recraft и Google достигли уровня, когда наконец-то перестало заметно ощущаться кто лучше рисует, потому что все рисуют достаточно хорошо. И теперь на первое место выходят возможности.

Один из вопросов, который меня занимает, и на который у меня нет даже хороших интуиций, не говоря уж об ответе, это демография и иммиграция. Для сохранения численности населения нужен коэффициент рождаемости около 2,1. Чуть больше двух детей на женщину. Практически все развитые страны имеют рождаемость заметно ниже этого уровня. Хуже всего дела обстоят в Гонконге и Южной Корее, где коэффициент ниже 1. При таких вводных, население развитых стран обречено сокращаться. А Южная Корея и Гонконг обречены прямо-таки вымирать.

Связанная проблема это старение населения. В развитых странах высокий уровень здравоохранения и высокая продолжительность жизни. При низкой рождаемости, доля стариков в населении растёт. Растёт доля пенсионеров и сокращается доля работающих, на фоне общего снижения численности людей.

При этом население планеты в целом увеличивается, в основном за счёт бедных стран и регионов. Рост населения при нехватке ресурсов и рабочих мест, это тоже проблема. В некоторых странах, вроде Пакистана, проблема перенаселения стоит очень остро.

В мире господствует консенсус, что вторая проблема естественным образом решает первую, и это решение является: 1) единственно возможным 2) абсолютно неизбежным 3) желательным. Речь о массовой иммиграции. Стареющие и вымирающие развитые страны должны впускать к себе миллионы молодых и плодовитых людей из бедных стран. И это уже давно не теория, а практика, причём практика повсеместная, поэтому я и говорю о господствующем консенсусе.

Единственные страны которые пока выбиваются — это Южная Корея и Япония. Они до сих пор почти моноэтнические. И при этом обе в самом низу рейтинга рождаемости. Разумеется, обе страны испытывают колоссальное внешнее и внутреннее давление немедленно принять консенсус и начать массово впускать иммигрантов. Свежий пример как раз сегодня попался на глаза.

У меня к консенсусу есть вопросы. Самый фундаментальный — я убеждён, что иммиграция это временное решение. Китай страдал от перенаселения и ввёл печально известную политику «одна семья — один ребёнок». Но сегодня это обычная развитая страна, население которой стареет и сокращается. Индия повторяет путь Китая с отставанием лет на 30. Африка, вероятно, повторит путь Индии с отставанием ещё лет на 30. А что дальше? За Африкой никого нет.

Второй демографический переход обусловлен сдвигом ценностей от традиционных к либеральным, и он до сих пор работал как часы, независимо от расы и региона, везде, где происходило экономическое и технологическое развитие. Даже в странах, где рождаемость ещё высока, наблюдается закономерность: она ниже в городах, и особенно в наиболее развитых и богатых городах. Я не считаю приемлемым долгосрочным решением для человечества сохранение бедных регионов с традиционным укладом в качестве «инкубаторов».

Мой второй вопрос — а что конкретно будет, если дать отдельной стране стареть и вымирать? Интуитивно, сокращение населения звучит как что-то плохое. Меньше солдат, меньше рабочих рук. Но обязательно ли при этом меньше экономика? И обязательно ли ниже уровень жизни? Я сильно не уверен. Вполне возможно, что сохранение культуры + развитие технологий обеспечат более высокий уровень жизни при сокращающемся населении, чем завоз инокультурных иммигрантов без возможности их ассимилировать.

А ещё — я не уверен, что сокращение населения это дорога в один конец. Что если на самом деле существует некий уровень обезлюдения, при котором возникает стимул иметь больше детей без возврата в традиционное общество?

Я не люблю когда все яйца кладут в одну корзину. Практически все развитые страны Запада сделали одинаковый выбор. Было бы здорово, если бы на Земле осталась пара развитых стран, которые пошли бы другим путём — хотя бы просто чтобы у человечества появились экспериментальные данные куда он ведёт. И у меня есть пока очень осторожные, смутные интуиции, что в Южной Корее и Японии уровень жизни будет выше, чем в Европе.

Я часто задумываюсь, когда ИИ и роботы с ИИ начнут массово отбирать у людей рабочие места, каких людей заменит ИИ в последнюю очередь? Я сейчас говорю не о профессиях. В пределах одной и той же профессии, кто пойдёт под нож первым, а кто последним? Какие компетенции могут защитить людей от замены?

Один из важнейших водоразделов между людьми и ИИ это способность нести ответственность. Это, между прочим, одна из главных причин, почему беспилотные автомобили до сих пор не получили массового распространения. Умения водить лучше людей, попадать в аварии реже людей, недостаточно. Если ИИ всё же сбил человека, а это всё равно будет иногда происходить, кто понесёт ответственность?

Насколько я знаю, полностью беспилотные такси вроде Waymo пока работают только в пределах специально подготовленных районов в развитых городах. И во многом именно потому, что ответственность за происшествия несёт сама компания. Иски буквально от пары смертельных инцидентов могут похоронить компанию, поэтому, я уверен, они сами очень осторожно расширяют своё присутствие на дорогах. Автопилот от Tesla же требует от водителя сидеть за рулём. Если автопилот кого-то сбил, ответственность будет нести водитель.

Те же соображения ещё какое-то время будут защищать врачей и некоторые другие профессии. Я до сих пор говорил только о пассивной способности нести ответственность, присущей людям. Но людей отличает от ИИ и ответственность в более широком смысле. Человек может брать на себя ответственность, проявлять инициативу и нарушать правила. Это не то, что ждут на работе от большинства людей.

Руководящие, лидерские позиции, по своей природе подразумевают инициативу и ответственность. Поэтому они, на мой взгляд, будут автоматизированы в последнюю очередь. Но сама опция взять на себя инициативу фундаментально доступна всем людям. Опция в нестандартных ситуациях действовать не по инструкции, а так, чтобы решить проблему.

Есть компании которые поощряют у своих сотрудников инициативу. Если можешь решить проблему — реши её. Есть компании которые наоборот подавляют у сотрудников любую инициативу. В любой непонятной ситуации не делай ничего, зови начальника. Как правило, первые компании выигрывают конкуренцию у вторых, потому что они в целом эффективнее. Но сегодня у сотрудников вторых компаний, на мой взгляд, появилась проблема посерьёзнее — их рабочие места скоро исчезнут как класс. Исполнять инструкции это то, что компьютеры и роботы умеют гораздо лучше людей.

Цифровизация и автоматизация имеют особенность — любому, кто когда-либо сталкивался со сбоем или с нестандартной ситуацией в глубоко автоматизированной системе, приходилось пробиваться через ботов, автоответчики и дежурные отписки, прежде чем выйти на человека, который мог решить проблему. Если вы человек, работающий в поддержке, задумайтесь: вы тот, кто может решить проблему, или вы тот, кто переправляет запросы тем, кто может решить проблему? Если второй — ваше рабочее место исчезнет очень скоро. Если первый, у вас есть в запасе время.

Сегодня прочитал историю как сотрудница пункта выдачи Озон не могла выдать человеку часть его заказа, поскольку в базе данных она числилась как «в пути». В комментариях кто-то ругал сотрудницу, а кто-то защищал, мол, она не может ничего сделать. Я не буду ни ругать, ни защищать, я просто скажу, что у тех, кто в нестандартной ситуации не может ничего сделать, очень скоро не будет работы.

Вокруг анонса Open AI o3 вижу какой-то нездоровый ажиотаж, публикации в духе AGI уже достигнут. ИИ-думеры в очередной раз снижают оценки сколько осталось до конца света (большинство уже год-два даёт). На меня же новость особого впечатления не произвела. Не могу сказать что она вообще никак не сдвинула мои ожидания, но она подтвердила буквально одну вещь, в которой я и так был довольно сильно уверен. Давайте разбираться.

Сперва факты. Спустя 3 месяца после выхода o1 — первой ИИ-модели, реализующий «мышление» на стадии генерации ответа, Open AI анонсировали o3 (o2 пропустили из-за чьих-то авторских прав). o3 показала огромный скачок в бенчмарках, из которых больше всего обсуждают ARC-AGI и Codeforces.

ARC-AGI больше всего похож на IQ-тесты. Он состоит из абстрактных пар ввод-вывод и задача состоит в том, чтобы найти закономерность и применить её. Можете попробовать сами. Обычные LLM включая GPT-4o на этом тесте набирали 5%. o1 набирал 32%. И вот o3 набрал рекордные 88%.

Хорошо ли ARC-AGI (да и IQ-тесты) выявляет то, что мы называем «общим интеллектом»? Дискуссионный вопрос. Я верю, что IQ в силу разных причин небесполезная метрика для людей. Но у меня нет интуиций, что подобные тесты на нахождение закономерностей в математических или геометрических абстракциях хорошо коррелируют со способностью к генерализации у машинного интеллекта. Скорее наоборот, я ожидаю, что машины могут научиться проходить эти тесты на сверхчеловеческом уровне без генерализации способностей.

Кроме того, я пользовался gpt-4o и o1. В этом бенчмарке между ними уже был огромный разрыв, 5% против 32%. Но в реальных задачах я не заметил какого-то прорыва и не встречал хороших примеров в соцсетях. Для меня вся эта история пока выглядит так: нашли класс искусственных задач, в которых модели с «мышлением» дают заметно лучшие результаты чем обычные LLM. И выдают прорыв в этом классе за прорыв к AGI.

Codeforces это задачи на «олимпиадное» программирование. o3 заняла в этом рейтинге 175 место в мире. Не могу сказать что и этот результат меня сильно впечатлил. Дело в том что «олимпиадное» программирование имеет мало общего как с бытовой рутиной программистов (с которой, к слову, и Claude-3.5 Sonnet хорошо справляется), так и со сложными реальными задачами. Я считаю, что олимпиадное программирование это своего рода один большой синтетический бенчмарк, которым люди занимались из спортивного интереса. И не удивлён, что ИИ в этом спорте людей вот-вот обгонит.

Не могу не пнуть Open AI за то, что они в очередной раз создают хайп показывая пресс-релиз, но не давая никому «пощупать» модель. Весной они также создали хайп вокруг Sora — «вы ещё не готовы к этому». Прошло 3 месяца, китайцы сделали свой аналог и сразу дали к нему доступ. На днях Sora от Open AI всё же вышла, но она уже со старта проигрывает всем кому не лень. Уверен, что и к выходу o3 уже будут такие же по уровню модели от конкурентов, только без пафосных анонсов.

Но кое-что o3 всё же доказала. Она доказала, что выхлоп от вливания конских вычислительных ресурсов может быть не только на стадии предобучения моделей, но и на стадии инференса, то есть генерации ответа. Даже если предобучение упрётся в потолок (а об этом в последнее время много кто говорит, главная проблема — в отсутствии данных, Интернет закончился), прогресс в ИИ всё ещё может идти за счёт усложнения инференса. Это действительно важный результат. Но я в нём никогда не сомневался и так.