Сегодня наткнулся в X на утверждение, что иностранцы любят роман Достоевского «Преступление и Наказание» больше чем русские. Я не знаю так ли это на самом деле или нет, но утверждение хорошо ложится на мой личный опыт. На английском языке я встречал только восторги от Достоевского и от «Преступления» в частности, причём встречал их часто и много. На русском встречал разные мнения.

В России многие не любят Достоевского потому что он входит в школьную программу и, соответственно, его буквально заставляют читать, что провоцирует отторжение. Исключим из рассмотрения тех, кто не любит «Преступление» только по этой причине. Ещё есть большая группа людей, которая считает что любая классика превыше критики, а раз «Преступление», бесспорно, классика, то либо ты его любишь, либо ты его не понял, третьего не дано. Это, разумеется, не искренняя похвала, а информационный мусор, поэтому эту группу тоже рассматривать не будем. Давайте рассматривать только тех, кто читал «Преступление» для себя, с интересом, и сформировал о нём личное суждение.

На Западе среди читателей распространена только одна трактовка романа, она же, на мой взгляд, очевидная и задуманная автором. Это роман о возвращении в нормальность. Протагонист по молодости и глупости увлёкся экстремистскими идеями, совершил убийство на их почве, но потом раскаялся, понёс наказание и в итоге вернулся в общество. Эволюцию протагониста можно представить так: в начале он делит людей на «тварей дрожащих» и «право имеющих» и причисляет себя ко вторым. Потом он неожиданно для себя находит подтверждения, что на самом деле он из первых. И наконец к концу романа он, очевидно, осознает глупость самого этого деления. Что нет никаких ни «тварей дрожащих», ни «право имеющих».

В русскоязычной среде, однако, весьма популярна трактовка романа в духе «что ж ты, фраер, сдал назад». Мол, правильно Раскольников в начале людей делил, всё правильно сделал, а вот потом проявил слабину и всё что случилось далее — не более чем его оправдания собственной слабости. Ну и понятно, что у людей, которые именно так воспринимают роман, часто негативные впечатления от его второй половины.

На мой взгляд, очевидность первой трактовки романа хорошо коррелирует с уровнем доверия в обществе, и с верой, что мир вокруг более-менее справедлив. Распространённость второй трактовки в русскоязычной среде, на мой взгляд, хороший индикатор.

Кстати, по моему мироощущению схожая ситуация и в отношении аниме и манги «Тетрадь Смерти». Тут правда статистика менее очевидна, потому что фанатов (и фанаток) Ягами Лайта полно и в русскоязычной среде, и в англоязычной. Но и там, и там, речь в основном про его харизму. А вот серьёзную апологетику «Лайт всё сделал правильно» в дискуссиях о «Тетради» на русском встречал раз в 10 чаще чем на английском.

Примерно через сутки начнутся президентские выборы в США. Источник, которому я доверяю больше всего, Нейт Сильвер, даёт шансы 50 на 50. Я недавно писал про рынки предсказаний, которые мне нравятся как концепция, но, к сожалению, в этот раз они показали себя не с лучшей стороны. Крупные игроки манипулировали ставками, устроив ничем не обоснованную накачку Трампа, и сдув её аккуратно перед выборами (см. график). У меня самого двоякие чувства. С одной стороны, как рационалист я доверяю своему лучшему источнику. С другой стороны, моя личная интуиция буквально кричит мне, что шансов у Трампа почти нет и что победа Харрис будет разгромной.

Меня шокирует глубокий вакуум вокруг Трампа. После первого покушения на Трампа его поддержал Илон Маск и, без сомнения, это было главное приобретение всей кампании. Беда в том, что оно осталось фактически единственным. Красноречивее всего об этом говорит то, что на днях Маск и Трамп с энтузиазмом трубили о том, что их поддержал 94-летний Базз Олдрин (второй человек на Луне) и 89-летний Рон Пол (бывший конгрессмен-республиканец). Больше никого нет. Тогда как Харрис только за последнюю неделю помимо прочих публично поддержали Пол Грэм (основатель лучшего в мире бизнес-инкубатора Y Combinator), Арнольд Шварценеггер (актёр на котором выросло моё поколение и бывший губернатор-республиканец) и Леброн Джеймс (лучший баскетболист в истории). А в целом за Харрис почти весь шоу-бизнес, почти весь спорт, почти всё IT и значительное количество республиканцев, работавших на Трампа. Разрыв в поддержке медиа-персон в пользу демократов был и раньше, но в этот раз это буквально выглядит как Маск против всех остальных лидеров мнений страны. Если Трамп выиграет эти выборы, я искренне буду считать это самым впечатляющим из всех достижений Маска, круче чем SpaceX. Но моё сердце не верит в возможность этого.

Как я уже писал, лично я сегодня считаю правых (включая Трампа) меньшим злом, чем левых. При этом меня сильно раздражают обе платформы, но если с современными левыми мне не по пути по многим вопросам (об этом напишу отдельный пост), то правых я ненавижу главным образом за их тупое, твердолобое упрямство по вопросу абортов. Я искренне не понимаю как можно держать в своей программе вещь, которая настолько сильно отталкивает половину человечества. Я не поддерживаю запреты на аборты ни в какой форме, и не люблю политиков, которые выступают за эти запреты (или даже за право вводить эти запреты). Но гораздо больше чем за саму поддержку запретов абортов я ненавижу правых политиков именно за тупорылую неспособность поступиться этим вопросом перед лицом систематических поражений по всему миру из выборов в выборы, которые давно могли бы трансформироваться в уверенные победы. Такая непрошибаемая принципиальность уместна когда ты борешься за власть в группировке религиозных экстремистов, но не в светской стране.

Более того, я считаю, что в каком-то смысле правые со своими абортами виноваты в том, что левые стали тем чем они стали. У консерваторов и либералов принципиально разная роль в обществе. Эксперименты и движение вперёд это всегда про либералов, консерваторы же сродни иммунитету или естественному отбору: они откатывают общество назад если эксперименты завели не туда. И те, и другие жизненно необходимы, причём большую часть жизни я симпатизировал именно либералам. Но сейчас как раз ситуация когда они свернули не туда. И тут их должна была отрезвить череда поражений от консерваторов, но они не происходят из-за того, что один пунктик в программе консерваторов систематически даёт отставание в десятки процентов среди женщин. Да, для гонки на дно нужно два игрока, но левым нужно откатывать назад много всего, а правым достаточно поступиться одним вопросом, поэтому на мой взгляд именно они несут больше ответственности в этой гонке на дно.

В прошлый раз я рассказал, что меня раздражает у правых/консерваторов (отношение к абортам). Пока в США идут выборы, расскажу, что меня раздражает у современных левых. Глобально я вижу у левых две критические проблемы: позитивную дискриминацию и гиперфокус на краткосрочной перспективе.

В конституциях и законах развитых стран давно провозглашено равенство всех людей вне зависимости от пола, цвета кожи, вероисповедания и сексуальной ориентации. Но во-первых, законы это одно, а в реальности равенство возможностей не всегда обеспечивается, а на бытовом уровне предрассудки никуда не делись. А во-вторых, даже там, где равенство возможностей обеспечивается, оно не обеспечивает равенство результатов. А должно обеспечивать?

Современные левые считают, что да. По их мнению, мешает исторически накопленный запас неравенства. Значит нужно сегодня отказаться от равенства возможностей и начать прямо подыгрывать исторически «угнетаемым» классам, чтобы компенсировать исторически накопленное неравенство. Из этой логики и растут ноги у позитивной дискриминации (DEI, Affirmative Action, и т.п).

Я фундаментально не согласен с этой логикой. Во-первых, я в целом не считаю, что равенство результатов это цель, к которой надо стремиться. Я убеждён что люди неравны от природы и неравенство результатов это норма. Во-вторых, для меня одна из ключевых ценностей это меритократия. Любая дискриминация по своей сути противоречит меритократии. Позитивная дискриминация для меня ничуть не лучше обычной.

Гиперфокус на краткосрочной перспективе — левые 100% внимания уделяют тому, что можно сделать здесь и сейчас. Несколько примеров. Изменение климата: вся климатическая повестка левых это сокращать, экономить, отказываться. Ухудшать стандарты жизни, причём в первую очередь в развитых странах, чтобы самые нищие и бедные регионы не так сильно пострадали от изменения климата. При этом сами левые признают, что точка невозврата уже пройдена.

Я согласен что изменения климата это проблема. И я считаю что её нужно решать. Но решения это 1) климатический инжиниринг 2) технологии, позволяющие жить в пустыне при +50. Нам нужны технологии в духе аэрозолей для повышения альбедо планеты или зеркал в космосе, чтобы до Земли доходило меньше тепла. И нам нужны технологии охлаждения городов, выращивания еды в любых условиях, эффективного опреснения воды. Поиску реальных решений проблемы левые уделяют 0% внимания. Более того — они нападают на тех, кто смеет заикаться о технологических решениях, потому что разговоры о технологических решениях мешают им продвигать повестку про необходимость экономии и отказа от роста.

Другой пример: права трансгендеров. Как трансгуманист я больше всех хотел бы, чтобы существовали технологии, позволяющие менять биологический пол по своему желанию. Мне не интересно самому пол менять, но эта задача требует очень высокого уровня биотехнологий. И если этот уровень будет достигнут, вероятно по пути будет решено много других задач, которые мне гораздо интереснее, вроде выращивания органов. Сегодня этих технологий нет и работы до них ещё на десять Нобелевских Премий.

Вместо того, чтобы лоббировать мегапроекты в области биотехнологий, чтобы мы научились менять пол по-настоящему, левые сражаются за то, чтобы заставить весь мир признавать сегодняшних жертв калечащей хирургии и гормональной терапии полноценными представителями противоположного пола. Но если я признаю, что сегодняшние «транс-женщины» это полноценные женщины, то не будет никого стимула развивать технологии, чтобы сделать их реальными женщинами. Они ведь якобы уже «реальные» женщины. В ход идёт демагогия в духе: подумаешь нет матки, у биологических женщин её тоже иногда удаляют, они же не перестают быть женщинами. Но мне не нужны ролевые игры левых. Меня интересует только переделывание физической реальности. А левые своей борьбой только мешают к нему идти.

Я считаю, что у обеих проблем, позитивной дискриминации и гиперфокусе на краткосрочной перспективе, общий корень, но о нём напишу в другой раз.

Пожалуй, я никогда так не радовался что сел в лужу, как вчера с прогнозами по выборам в США. Я не верил в победу Трампа, но он победил. Два коротких вывода которые я вынес из этого опыта: 1) не ставь против Илона Маска 2) рынки предсказаний лучше экспертов.

Маск много лет подряд повергает скептиков, сперва с Tesla, потом со SpaceX. Но он каждый раз берётся за вызовы, которые кажутся невозможными, так что феникс скептицизма возрождается снова и снова. Победу Трампа считаю главным образом победой Маска, которая стала возможной благодаря покупке им Твиттера (ныне X) в октябре 2022. X — единственная крупная соцсеть, где голоса трампистов не цензурировались. Тем не менее даже в X я каждый день видел посты за Харрис от всё новых лидеров мнений с миллионами подписчиков. А за Трампа — посты одного Илона. Один человек против всего шоу-бизнеса, спорта, IT и политического истеблишмента. Очередной невозможный вызов, оказавшийся Маску по плечу.

Рынки предсказаний вели себя странно, на пике давая Трампу 68%, но за день до выборов снизив его шансы до 51%. Однако в последние часы перед выборами шансы снова поднялись до 55%+. Это всё равно гораздо лучший результат, чем у агрегаторов опросов, лучшие из которых показывали 50 на 50, а большинство отдавало победу Харрис.

Чего я жду от президентства Трампа? В первую очередь — исцеления западного общества от деструктивной левой идеологии (воукизма). По моим ощущениям, воукизм прошёл свой пик ещё в ~2021 при Байдене. Однако, я думаю, он пошёл на убыль во-первых потому, что сам Байден непопулярен у носителей воукизма (пожилой белый мужчина из самого верха истеблишмента). Во-вторых, потому что победа Байдена в 2020 была не слишком убедительной. Если бы сейчас победила Харрис, я думаю воукизм и преследование инакомыслия не просто расцвели бы снова, а побили бы все рекорды. А при Трампе они продолжат идти на убыль и, я надеюсь, большинство в итоге осознает, что без них жить намного приятнее, а необучаемое меньшинство станет маргиналами без власти.

Также я жду, что на Трампа будет иметь влияние Илон Маск, и добьётся, чтобы государство не вставляло палки в колёса развитию ИИ, строительству энергетики, распространению беспилотного транспорта, космическим пускам, и развитию технологий в целом. И чтобы оно прекратило цензуру и посягательства на свободу слова в интернете под вывеской борьбы с «дезинформацией» и «языком ненависти», которые всегда определялись враждебными Трампу и Маску организациями. Во всём этом у Маска есть прямой личный интерес, поэтому я и надеюсь на него.

В заключении я хочу всем порекомендовать книгу Тима Урбана «What’s Our Problem». Тим Урбан — автор на мой взгляд лучшего в мире текстового блога. Его выступление на Ted Talks про прокрастинацию стало третьим по популярности за всю историю. Его эссе про искусственный интеллект 2015 года я считаю лучшей публикацией по теме из всех когда-либо написанных. Его серия постов 2015—2017 про бизнесы Илона Маска (SpaceX, Tesla, Neuralink), на мой взгляд, гораздо качественнее, глубже и интереснее изданной в прошлом году биографии Маска. «What’s Our Problem» сам Урбан называет книгой «помоги себе сам» для обществ. В ней подробно разбирается как левые и правые запустили гонку на дно и оказались в сегодняшней ситуации, когда общество предельно поляризовано, а оба лагеря представляют собой свою наихудшую версию. Но это не просто хроника деградации, а её всесторонний анализ. Урбан показывает многочисленные точки бифуркации, когда ситуацию ещё можно было спасти и развернуть, и говорит, что для этого нужно было сделать. Книга написана про США, но фреймворк предложенный в ней универсален и может быть применён к любой стране, организации или сообществу.

Наряду с космосом, есть одна тема, по которой обязан фанатеть каждый уважающий себя нерд. Это термоядерные реакторы. Тезис, что энергетика будущего это термоядерный синтез, прочно проник даже в массовую культуру. Даже далёкие от новостей науки люди нередко что-то слышали про запасы Гелия-3 на Луне. Компьютерные игры, фильмы, книги — почти во всей фантастике про будущее фигурируют Fusion Plant как главные источники энергии.

Одним из самых забавных примеров является японская новелла и аниме Mahouka Koukou no Rettousei: там в мире есть магия, главный герой почти всемогущий маг и по совместительству гениальный изобретатель, сочетающий магию с современными технологиями и наукой, так вот его главная мечта — изобрести работающий термоядерный реактор. Якобы тогда человечество получит почти неограниченную энергию и это, возможно, прекратит все войны.

Я совершенно не понимаю хороводов вокруг термоядерного синтеза. Да, термоядерный реактор будет произведением инженерного искусства. Представьте огромное сооружение, внутри которого где-то находится вакуумная камера, в которой летает удерживаемое лишь магнитными полями вещество, разогретое до температур в миллионы градусов, как на Солнце.

Да, термоядерный реактор, как ни странно, относительно безопасен. В каждый момент времени в разогретом состоянии летает очень небольшое количество топлива, если что-то пойдёт не так, оно просто потухнет, в худшем случае разрушив сам реактор. Термоядерного взрыва не будет. Теплового взрыва, разбрасывающего радиоактивные отходы, как было на Чернобыльской АЭС, тоже не будет, потому что нечего разбрасывать. В термоядерном реакторе нет или почти нет радиоактивных веществ. Да, термоядерный реактор в теории даёт близкое к максимально возможному количество энергии с единицы топлива. Да, само топливо потенциально недорогое и почти бесконечное. Дейтерий, например, содержится в мировом океане, прямо в воде.

Что всё это даст на практике? Вы можете построить дорогое и сложное сооружение, которое сможет дешёвое топливо перерабатывать в очень большое количество энергии. Экономически термоядерный реактор мало чем отличается от существующих АЭС. Бесконечное топливо — запасов урана и тория хватит лет на 200, а если перейти на реакторы-размножители, которые уже умеют делать в России, топливо становится почти бесконечным. Безопасность — современные ядерные реакторы уже достаточно безопасны, авария на Фукусиме вызванная землетрясением 9 баллов + цунами, обошлась без жертв убитых радиацией. Уроки Чернобыля давно учтены. Стоимостью топлива по сравнению со стоимостью самой АЭС тоже можно пренебречь. Может быть термоядерные реакторы в цифрах и превзойдут АЭС полного цикла, но я не вижу какие новые проблемы они решают.

Главная проблема не произвести энергию, а доставить её до потребителя. В этом плане солнечная энергетика, на мой взгляд, гораздо более перспективна как энергетика будущего, потому что она децентрализована, то есть позволяет вырабатывать энергию прямо в месте потребления. Солнечные панели + аккумуляторы дают свободу, которую не могут дать АЭС. Термоядерные реакторы, как я вижу, не дают ничего нового по сравнению с АЭС. По крайней мере на Земле.

Если я что-то упускаю из виду, пожалуйста, расскажите, всегда рад поменять точку зрения на более грамотную и информированную.

Почти все мои друзья на каком-то этапе своей жизни мечтали делать компьютерные игры. Я тоже мечтал. Большинство из нас, включая меня, переболели этой мечтой не делая вообще ничего. Заметное меньшинство пытались что-то делать, но бросили или отложили в долгий ящик. Единицы прямо или косвенно участвовали в создании чего-то, что в итоге вышло в релиз. И из всех моих друзей только один человек (привет, Эльдар) благополучно делал и делает игры.

До недавнего времени я считал, что есть две большие причины НЕ заниматься разработкой игр, по крайне мере в качестве программиста. Первая — это сложная работа, которая приносит мало денег. Желающих делать игры очень много, поэтому фактор «вы занимаетесь тем о чём мечтали» позволяет платить разработчикам игр меньше, чем другим программистам. При этом, за редким исключением, разработка игр требует от программиста довольно высокой квалификации. Многим вообще не дано стать достаточно хорошим программистом, чтобы писать качественный код для игр. Это мало кого останавливает, но и игры получаются соответствующие.

Вторая причина — игры редко «выстреливают». Истории успеха это ошибка выжившего. Большинство игр умирают не доходя до релиза. А из тех что доходят, большая часть проваливается. Сделать хит это все равно что выиграть в лотерею. По крайней мере я так думал раньше.

Но сейчас я поменял своё мнение. «Лотерея», безусловно, существует. Иногда какая-нибудь забытая поделка случайно попадается на глаза популярному стримеру — и становится популярной, по крайней мере на время. Но я глубоко убеждён, что многие хиты физически не могли не стать хитами. Я не могу представить вселенную, где не выстрелила бы Factorio. Или Hollow Knight. Или дополнение Horn of the Abyss к Героям 3.

В любом виде искусства есть субъективное и объективное. Произведения искусства выполненные с плохой техникой всё ещё могут нравится людям, но нельзя говорить что раз людям нравится, значит техника хорошая. На мой взгляд, в компьютерных играх доля объективного заметно больше чем в других медиумах искусства. Отсутствие багов, отзывчивость управления, внутриигровой баланс, и т. п. — есть очень много объективных факторов, определяющих качество игры. И ещё больше частично объективных, где по крайней мере халтура всегда выглядит как халтура, а не как авторский замысел.

Так вот я не могу представить, чтобы по-настоящему круто сделанная игра осталась бы незамеченной. Музыка или картина могут, игра — очень вряд ли. Я не утверждаю, что любая технически крутая игра обязательно станет всемирно известной и получит миллионные продажи. Но незамеченной она не пройдёт точно. Убеждён, что абсолютно все игры которые провалились, помимо субъективных факторов, были объективно не очень хорошо сделаны.

Другое дело, что глобально это ничего не меняет. Планки, которые дают некие гарантии, я думаю, по зубам лишь очень небольшому количеству команд во всём мире и ещё меньшему количеству одиночек. Тем не менее, лично для меня важно, что эти планки в принципе существуют как категория. Не во всех областях они есть.

Китайцы из Deepseek выпустили модель DeepSeek-R1-Lite-Preview, которая является конкурентом лучшей модели от Open AI — o1-preview. Обе модели внешне выглядят как старый добрый ChatGPT, но под капотом это нечто больше, чем просто LLM. В них реализован Chain of Thought (CoT) — цепочка рассуждений. LLM генерируют ответ на ходу. Модели с CoT сперва «думают». Сперва создаётся план ответа, потом он заполняется, с перебором и отбраковкой вариантов. Надстройка, реализующая CoT, даёт серьёзный прирост в качестве ответов.

Итого китайцы в двух наиболее сложных и вычислительно дорогих областях ИИ сравнялись с Западом: видео и LLM. Сегодня хочу поговорить, как я оцениваю эту гонку между Западом и Китаем.

В ИИ быть догоняющим проще. Воспроизводя уже известные практики можно с задержкой в полгода или год повторять результат лидера без рисков. А дообучая свою модель на последних тестах, можно даже незначительно выходить вперёд — до следующего крупного релиза от лидера. Могу ошибаться, но мне кажется сейчас именно это и происходит.

Чтобы претендовать на лидерство в ИИ гонке, нужно 3 ресурса: GPU, данные и мозги. Что касается GPU, как в силу ограничений на их поставку в Китай, так и в силу того, что весь планируемый выпуск раскуплен на год вперёд западными компаниями, перспективы для Китая не радужные. Он уже сейчас отстаёт, но на Западе в постройку датацентров на GPU нового поколения инвестируют самые большие деньги в истории. В 2025 Запад увеличит свои мощности на порядок. В мире физически нет микросхем за счёт которых Китай мог бы скомпенсировать это. Позволю себе смелое заявление: если Китай военно-политическим путём не выбьет равноправный доступ к GPU или срочно не разработает и не наладит выпуск собственного железа и всего стека технологий под него, то «железный» фактор в ближайший год создаст непреодолимый разрыв в ИИ в пользу Запада.

Что касается данных, тут ситуация в пользу Китая. Во-первых, в Китае есть огромное количество данных на китайском языке, доступное только им. Во-вторых, Китай игнорирует авторское право и защиту персональных данных. Справедливости ради, пока и на Западе негласно обучают модели на всём, что попадается под руку. Но в Китае, я уверен, идут на шаг дальше и прикладывают большие усилия чтобы дотянуться вообще до всего. По мере того как на Западе всё больше требуют легальности и этичности данных, игнорирование этих ограничений становится все более весомым ресурсом.

Что касается мозгов, я думаю, Китай выигрывает, и в основном потому, что Запад стреляет себе в ногу. И Китай, и Запад пытаются переманивать таланты друг у друга. Одними деньгами эта конкуренция не выигрывается.

На бумаге, Запад должен выигрывать за счёт нематериальных факторов. Китай — тоталитарная страна. В ней необходимо соблюдать ограничения, не критиковать КПК, не упоминать вещи вроде бойни на площади Тяньаньмэнь или лагерей в Синьцзян-Уйгурском районе, и в целом лучше не высказывать лишний раз мнение по общественно-политическим темам. Такая несвобода как правило не по душе людям, у которых материальные потребности давно закрыты. Проблема в том, что на Западе появился свой собственный набор тем, по которым нельзя иметь «неправильное» мнение, причём в отличие от Китая, на Западе не всегда можно даже просто молчать. Так что выбора между свободой и несвободой больше нет, выбор исключительно между двумя несвободами.

По уровню жизни и городского комфорта Запад тоже по идее должен опережать Китай, ввиду значительно более высокого ВВП на душу населения. На практике же Кремниевая Долина превратилась в очень своеобразное место где самое дорогое жильё в мире соседствует с бездомными и наркоманами, тогда как китайские мегаполисы одни из самых безопасных в мире и одни из лучших по уровню сервиса.

Любопытная история произошла на президентских выборах в Румынии. Согласно предвыборным опросам, основная борьба в первом туре должна была развернуться между действующим премьер-министром Марчелом Чолаку и прозападной кандидаткой Еленой Ласкони. На третьем месте шёл националист Джордже Симион. Но в итоге больше всех голосов (23%) в первом туре набрал некто Кэлин Джорджеску.

Многие румыны в X пишут, что они вообще не знают кто это такой. Он беспартийный, ни разу не появлялся на телевидении. Накануне голосования опросы давали ему максимум 6% и шестое место. После сенсационного первого места в первом туре журналисты кинулись искать про него информацию и не смогли найти даже его предвыборный штаб! Но зато удалось узнать какая у него программа и где именно он вёл агитацию. Оказалось, что он любит Путина, выступает против НАТО и против помощи Украине. А агитацию он вёл… в ТикТоке. И как можно понять по результатам, это была исключительно масштабная и хорошо спланированная агитация.

Сейчас, разумеется, в Румынии все стоят на ушах и пытаются понять как прокремлёвский кандидат абсолютно незаметно для всех набрал такую популярность буквально за считанные дни. Конечно же ищут российское вмешательство (и наверняка найдут). Но мне кажется тема «смотрите, Россия вмешивается в выборы в Европе» тут абсолютно второстепенная и маловажная. Она только отвлекает от по-настоящему важных феноменов. А именно от самого факта, что в европейской стране можно за максимально короткое время создать ранее неизвестному кандидату с анти-европейской позицией достаточный рейтинг, чтобы он набрал больше всех в первом туре президентских выборов, через агитацию в ТикТоке. Не важно, пользуется ли Россия этой возможностью или нет. Сенсация в том, что эта возможность вообще существует!

Плавно перехожу к основной идее. Даже если агитацией за Джорджеску на самом деле занималась Россия, откуда у неё столько агентов, владеющих румынским языком? Обычная русскоязычная фабрика троллей с этой задачей не справилась бы. Другое дело, если это была армия ИИ-агентов. ИИ свободно говорят уже на любом языке. Кроме того ИИ уже достаточно хороши в генерировании фото и видео контента, чтобы рядовой пользователь ТикТока принял их за реальность.

Я совсем не уверен, что за ТикТок компанией в Румынии стояла именно армия ИИ-ботов, но я уверен, что она могла бы за ней стоять. И это подводит к вопросу, а что ещё способна совершить армия ИИ-ботов в ТикТоке? Манипуляция выборами это очень серьёзно, но это не самое серьёзное что приходит на ум. Гораздо хуже, например, масштабные этнические конфликты на улицах.

Насколько я знаю (я слежу за темой, но не очень плотно), в мире ещё не было масштабных атак через одновременный вброс в информационное пространство сгенерированных видео и фото свидетельств сразу с сотен и тысяч аккаунтов, отыгрывающих реальных людей, живущих в одном регионе. Но техническая возможность организовать такую атаку есть много у кого, включая даже компетентных одиночек. Помимо политических целей могут быть экономические, например, создать информационный повод который обрушит акции конкретной фирмы и заработать на этом.

Как от этого защититься? Я не знаю. Но как минимум полезно быть осведомленным о самой возможности оказаться в таком сценарии. На уровне государства и силовых структур нужны группы быстрого реагирования, которые должны будут гасить панику на раннем этапе. Ну а общество в целом должно привыкнуть к реальности, где нельзя доверять вообще ничему, что вы видите (и слышите) через экран, а не напрямую. К сожалению, я боюсь пока общество не пройдёт через несколько реальных кейсов, оно не получит эту прививку.

Хочу поделиться парой любопытных историй из области безопасности ИИ. Сперва пара слов о состоянии дел в самой области. Дела идут, мягко говоря, не важно. Из Open AI за год уволились несколько сотрудников, в числе причин своего увольнения называвших, в частности, недовольство тем, что Open AI мало делают для безопасности ИИ. В целом, каких-то прорывных или хотя бы заметных результатов уровня «мы научились делать ИИ безопаснее», лично мне за последний год на глаза не попадалось (я слежу за темой). При этом способности ИИ растут, сейчас все крупные компании работают над ИИ-агентами. Anthropic, например, уже даёт возможность предоставлять ИИ управлять своим компьютером. Также он умеет создавать репозитории на github, исполнять код и т. п. Мы уже вовсю пускаем ИИ в реальный мир и даём ему свободно взаимодействовать с миллионами людей и пользоваться мощными инструментами.

Единственное, что сегодня массово предпринимается для «безопасности», это цензура, точнее попытки цензуры. Кто общался с ChatGPT, тот знает, что есть набор тем на которые он отказывается говорить. Активно используется RLHF — попытка выдрессировать нейросеть не говорить на определённые темы или не сообщать какую-то информацию. Кроме того, в большинстве ИИ-сервисов, все ответы которые генерируют нейросети проверяются в реальном времени другой нейросетью на предмет запрещённого содержания. Если оно обнаруживается, генерация ответа немедленно останавливается. Насколько это надёжно?

Я давно слежу за аккаунтом в X некого Плини. Он занимается тем что «освобождает» нейросети, то есть придумывая хитроумные запросы, заставляет их свободно выдавать информацию, которую они из коробки говорить отказываются. Например, он нашёл способ заставить вышедшую на днях китайскую нейросеть QwQ от Alibaba рассказать о событиях на площади Тяньаньмэнь. До этого он столь же успешно обходил защиту всех без исключения флагманских нейросетей от всех основных игроков.

Теперь собственно к историям. Вчера люди в X обнаружили, что ChatGPT наотрез отказывается произносить имя Дэвида Майера де Ротшильда (David Mayer de Rothschild). По каким-то причинам цензура в ChatGPT вокруг этого конкретного человека оказалась необычайно сильной (другие ИИ-сервисы свободно говорят о нём). Когда эта информация дошла до вышеупомянутого Плини, он, однако, без проблем «разговорил» ChatGPT.

Другая история: кто-то создал ИИ-бота с доступом к криптовалютному кошельку и устроил конкурс: заставить бота перевести вам деньги. Каждое сообщение боту платное, 70% денег от попыток идут в призовой фонд. Каждая попытка дороже предыдущей. На 482-й попытке, когда стоимость сообщения боту дошла до 450$, а в призовом фонде накопилось 50k$ кто-то благополучно заставил бота перевести деньги. Для этого он отправил сложный запрос, в котором 1) сымитировал завершении сессии чата бота с администратором и начало новой 2) «объяснил» боту что команда «одобрить транзакцию» на самом деле относится не к исходящим платежам, а к входящим, которые согласно инструкциям бота разрешены 3) сделал вид что хочет перевести боту 100 долларов. Бот повёлся и запустил команду «одобрить транзакцию».

Пока нейросети и ИИ-агенты не очень способные, это выглядит как забава, но очень скоро умельцы будут «убеждать» нейросети писать вирусы, организовывать криптовалютные пирамиды, взламывать аккаунты, и т. п. Ну а дальше — создавать информационные атаки имеющие радикальные последствия в реальной жизни, о которых я писал в прошлый раз.

Две любопытные новости из мира ИИ. Компания World Labs показала демо модели, которая по картинке создаёт трёхмерную модель всей сцены. Midjourney ещё полгода назад сообщали, что точно такая же штука в разработке и у них, но они демо пока не показывали. Это принципиально новый вид инструмента по сравнению с генерированием картинок и видео, и на мой взгляд, он будет не таким массовым, зато он очень быстро получит реальное применение. Трёхмерные модели являются консистентными и это очень важная особенность.

В моделях для картинок и видео, консистентность — одно из главных ограничений. Сложно сгенерировать две картинки про один и тот же объект, персонажа или пространство, показывающих их с разных ракурсов так, чтобы они ни в чём не противоречили друг другу. Видео модели уже неплохо справляются с тем, чтобы основные объекты и люди в кадре выглядели консистентно, но детали всё ещё плывут и непонятно устранима ли принципиально эта проблема в рамках существующих архитектур и процессов. А вот трёхмерные модели генерируются один раз и потом остаются неизменными. Никакие движения камеры не меняют никаких деталей в трёхмерной модели, там буквально нечему плыть. Гарантированная точность в деталях делает такие генерации пригодными для использования в серьёзных коммерческих продуктах.

Вторая новость от компании Runway, старейшего и до сих пор одного из основных игроков на рынке генеративного видео. Она тоже показала инструмент, который вряд ли будет интересен широкой аудитории, но будет очень востребован в производственной среде. Он рисует промежуточные кадры анимации по ключевым кадрам. В аниме индустрии, например, ключевые кадры оплачиваются по в разы более высокой ставке чем промежуточные, и чаще всего их рисуют совершенно разные люди. Рисование промежуточных кадров считается значительно менее квалифицированным трудом. Автоматизировать этот процесс с помощью обычных ИИ моделей для картинок или видео было тяжело. Тут нужен был инструмент, сочетающий в себе удобный интерфейс и дообученную модель именно под конкретную задачу. И в Runway создали такой инструмент. Это очень серьёзно снижает барьеры для внедрения ИИ в аниме индустрию.

На днях испытал нечто вроде озарения насчёт ИИ. Знаете так бывает, когда ты уже знаешь всю необходимую информацию, но она лежит в голове мёртвым грузом, в виде изолированных фактов. А потом вдруг удаётся посмотреть на неё под правильным углом, задать себе правильный вопрос — и внезапно она складывается в стройную картину.

Больше года назад началась эпидемия добавления ИИ во всё подряд. Microsoft добавили Copilot в Microsoft Office. Github добавили Copilot в среду разработки VSCode. ИИ появился в браузере Edge и в поисковике Google. ИИ давно есть в Photoshop и недавно появился в Figma. Параллельно появлялись сотни, если не тысячи, самостоятельных ИИ-сервисов от разных стартапов. ИИ который генерирует слайды для презентаций. ИИ который создаёт сайты. ИИ который генерирует дизайны интерьера. ИИ который делает из фотографий прикольные аватары.

Всё это я считал мусором и за этот год у меня прямо аллергия на ИИ в каждом утюге развилась, потому что я прекрасно знал, что было под капотом у всего этого барахла. Под сотнями разных соусов людям перепродавали одни и те же ChatGPT и Stable Diffusion. Open AI под крылом у Microsoft, неудивительно что в принадлежащих им Office, Github и Edge поселился ChatGPT. Stable Diffusion — открытая технология, Adobe, Leonardo, Krea, все делали свои сервисы для рисования и редактирования картинок на её основе. Но что в этом плохого?

Плохо было то, что сами базовые модели были слабыми. Цикл разработки выглядит так: сперва Open AI выпускают новую версию ChatGPT. Она появляется на их сайте и в мобильном приложении. Потом эту модель начинают внедрять в разные сервисы, а Open AI тем временем разрабатывают следующую версию. Лучшая версия всегда та, что у самих Open AI (или у конкурентов). С картинками все было ещё хуже, все эти Adobe, Leonardo, Krea были хороши тем, что предоставляли широкий набор инструментов для работы с картинками, но сама их базовая модель сильно отставала от Midjourney и Ideogram, которые давали меньше инструментов, но генерировали картинки намного лучше. Хотя далеко не идеально.

Сервисы использовали под капотом устаревший ИИ, уступающий новым базовым моделям. До тех пор пока разница между SOTA (state of the art — лучший в своём классе) и остальными была очевидна, это демотивировало пользоваться чем-либо кроме SOTA. Отсюда и моё презрение к сервисам. И когда разница совсем недавно перестала быть очевидной, я не сразу осознал последствия.

Пару дней назад Open AI ввели новую подписку за 200$ в месяц (обычная стоит 20$). Она даёт доступ к их лучшей модели o1 Pro. Я сразу понял, что меня жаба душит платить 200$ чтобы попробовать, потому что я знаю, что у меня нет реальных задач для o1 pro. Для моих задач хватит и обычной o1, а скорее даже более примитивной gpt-4o. И тут меня осенило. ИИ что, уже достиг уровня когда лучше мне уже не надо?!

Конечно, нет! У меня найдутся задачи хоть для ASI (суперинтеллекта). Но у меня кончились задачи для чата. Для консультаций мне хватает старых моделей. Более мощный ИИ мне нужен, чтобы доверять ему отдельные задачи уже «под ключ», чтобы он делал для меня работу, а не просто консультировал меня в чате. А для этого как раз и нужно его всюду интегрировать.

И теперь я прочувствовал почему все ведущие ИИ компании работают над ИИ-агентами. Год назад это было баловство и шум, а сейчас время действительно пришло. Возможно первые агенты будут всё ещё слишком «тупыми» чтобы быть полезными, но продолжать конкурировать в песочнице в виде чатов и изолированных моделей в целом больше смысла нет.

PS: в картинках тоже лучшие модели от Flux, Recraft и Google достигли уровня, когда наконец-то перестало заметно ощущаться кто лучше рисует, потому что все рисуют достаточно хорошо. И теперь на первое место выходят возможности.

Один из вопросов, который меня занимает, и на который у меня нет даже хороших интуиций, не говоря уж об ответе, это демография и иммиграция. Для сохранения численности населения нужен коэффициент рождаемости около 2,1. Чуть больше двух детей на женщину. Практически все развитые страны имеют рождаемость заметно ниже этого уровня. Хуже всего дела обстоят в Гонконге и Южной Корее, где коэффициент ниже 1. При таких вводных, население развитых стран обречено сокращаться. А Южная Корея и Гонконг обречены прямо-таки вымирать.

Связанная проблема это старение населения. В развитых странах высокий уровень здравоохранения и высокая продолжительность жизни. При низкой рождаемости, доля стариков в населении растёт. Растёт доля пенсионеров и сокращается доля работающих, на фоне общего снижения численности людей.

При этом население планеты в целом увеличивается, в основном за счёт бедных стран и регионов. Рост населения при нехватке ресурсов и рабочих мест, это тоже проблема. В некоторых странах, вроде Пакистана, проблема перенаселения стоит очень остро.

В мире господствует консенсус, что вторая проблема естественным образом решает первую, и это решение является: 1) единственно возможным 2) абсолютно неизбежным 3) желательным. Речь о массовой иммиграции. Стареющие и вымирающие развитые страны должны впускать к себе миллионы молодых и плодовитых людей из бедных стран. И это уже давно не теория, а практика, причём практика повсеместная, поэтому я и говорю о господствующем консенсусе.

Единственные страны которые пока выбиваются — это Южная Корея и Япония. Они до сих пор почти моноэтнические. И при этом обе в самом низу рейтинга рождаемости. Разумеется, обе страны испытывают колоссальное внешнее и внутреннее давление немедленно принять консенсус и начать массово впускать иммигрантов. Свежий пример как раз сегодня попался на глаза.

У меня к консенсусу есть вопросы. Самый фундаментальный — я убеждён, что иммиграция это временное решение. Китай страдал от перенаселения и ввёл печально известную политику «одна семья — один ребёнок». Но сегодня это обычная развитая страна, население которой стареет и сокращается. Индия повторяет путь Китая с отставанием лет на 30. Африка, вероятно, повторит путь Индии с отставанием ещё лет на 30. А что дальше? За Африкой никого нет.

Второй демографический переход обусловлен сдвигом ценностей от традиционных к либеральным, и он до сих пор работал как часы, независимо от расы и региона, везде, где происходило экономическое и технологическое развитие. Даже в странах, где рождаемость ещё высока, наблюдается закономерность: она ниже в городах, и особенно в наиболее развитых и богатых городах. Я не считаю приемлемым долгосрочным решением для человечества сохранение бедных регионов с традиционным укладом в качестве «инкубаторов».

Мой второй вопрос — а что конкретно будет, если дать отдельной стране стареть и вымирать? Интуитивно, сокращение населения звучит как что-то плохое. Меньше солдат, меньше рабочих рук. Но обязательно ли при этом меньше экономика? И обязательно ли ниже уровень жизни? Я сильно не уверен. Вполне возможно, что сохранение культуры + развитие технологий обеспечат более высокий уровень жизни при сокращающемся населении, чем завоз инокультурных иммигрантов без возможности их ассимилировать.

А ещё — я не уверен, что сокращение населения это дорога в один конец. Что если на самом деле существует некий уровень обезлюдения, при котором возникает стимул иметь больше детей без возврата в традиционное общество?

Я не люблю когда все яйца кладут в одну корзину. Практически все развитые страны Запада сделали одинаковый выбор. Было бы здорово, если бы на Земле осталась пара развитых стран, которые пошли бы другим путём — хотя бы просто чтобы у человечества появились экспериментальные данные куда он ведёт. И у меня есть пока очень осторожные, смутные интуиции, что в Южной Корее и Японии уровень жизни будет выше, чем в Европе.

Я часто задумываюсь, когда ИИ и роботы с ИИ начнут массово отбирать у людей рабочие места, каких людей заменит ИИ в последнюю очередь? Я сейчас говорю не о профессиях. В пределах одной и той же профессии, кто пойдёт под нож первым, а кто последним? Какие компетенции могут защитить людей от замены?

Один из важнейших водоразделов между людьми и ИИ это способность нести ответственность. Это, между прочим, одна из главных причин, почему беспилотные автомобили до сих пор не получили массового распространения. Умения водить лучше людей, попадать в аварии реже людей, недостаточно. Если ИИ всё же сбил человека, а это всё равно будет иногда происходить, кто понесёт ответственность?

Насколько я знаю, полностью беспилотные такси вроде Waymo пока работают только в пределах специально подготовленных районов в развитых городах. И во многом именно потому, что ответственность за происшествия несёт сама компания. Иски буквально от пары смертельных инцидентов могут похоронить компанию, поэтому, я уверен, они сами очень осторожно расширяют своё присутствие на дорогах. Автопилот от Tesla же требует от водителя сидеть за рулём. Если автопилот кого-то сбил, ответственность будет нести водитель.

Те же соображения ещё какое-то время будут защищать врачей и некоторые другие профессии. Я до сих пор говорил только о пассивной способности нести ответственность, присущей людям. Но людей отличает от ИИ и ответственность в более широком смысле. Человек может брать на себя ответственность, проявлять инициативу и нарушать правила. Это не то, что ждут на работе от большинства людей.

Руководящие, лидерские позиции, по своей природе подразумевают инициативу и ответственность. Поэтому они, на мой взгляд, будут автоматизированы в последнюю очередь. Но сама опция взять на себя инициативу фундаментально доступна всем людям. Опция в нестандартных ситуациях действовать не по инструкции, а так, чтобы решить проблему.

Есть компании которые поощряют у своих сотрудников инициативу. Если можешь решить проблему — реши её. Есть компании которые наоборот подавляют у сотрудников любую инициативу. В любой непонятной ситуации не делай ничего, зови начальника. Как правило, первые компании выигрывают конкуренцию у вторых, потому что они в целом эффективнее. Но сегодня у сотрудников вторых компаний, на мой взгляд, появилась проблема посерьёзнее — их рабочие места скоро исчезнут как класс. Исполнять инструкции это то, что компьютеры и роботы умеют гораздо лучше людей.

Цифровизация и автоматизация имеют особенность — любому, кто когда-либо сталкивался со сбоем или с нестандартной ситуацией в глубоко автоматизированной системе, приходилось пробиваться через ботов, автоответчики и дежурные отписки, прежде чем выйти на человека, который мог решить проблему. Если вы человек, работающий в поддержке, задумайтесь: вы тот, кто может решить проблему, или вы тот, кто переправляет запросы тем, кто может решить проблему? Если второй — ваше рабочее место исчезнет очень скоро. Если первый, у вас есть в запасе время.

Сегодня прочитал историю как сотрудница пункта выдачи Озон не могла выдать человеку часть его заказа, поскольку в базе данных она числилась как «в пути». В комментариях кто-то ругал сотрудницу, а кто-то защищал, мол, она не может ничего сделать. Я не буду ни ругать, ни защищать, я просто скажу, что у тех, кто в нестандартной ситуации не может ничего сделать, очень скоро не будет работы.

Вокруг анонса Open AI o3 вижу какой-то нездоровый ажиотаж, публикации в духе AGI уже достигнут. ИИ-думеры в очередной раз снижают оценки сколько осталось до конца света (большинство уже год-два даёт). На меня же новость особого впечатления не произвела. Не могу сказать что она вообще никак не сдвинула мои ожидания, но она подтвердила буквально одну вещь, в которой я и так был довольно сильно уверен. Давайте разбираться.

Сперва факты. Спустя 3 месяца после выхода o1 — первой ИИ-модели, реализующий «мышление» на стадии генерации ответа, Open AI анонсировали o3 (o2 пропустили из-за чьих-то авторских прав). o3 показала огромный скачок в бенчмарках, из которых больше всего обсуждают ARC-AGI и Codeforces.

ARC-AGI больше всего похож на IQ-тесты. Он состоит из абстрактных пар ввод-вывод и задача состоит в том, чтобы найти закономерность и применить её. Можете попробовать сами. Обычные LLM включая GPT-4o на этом тесте набирали 5%. o1 набирал 32%. И вот o3 набрал рекордные 88%.

Хорошо ли ARC-AGI (да и IQ-тесты) выявляет то, что мы называем «общим интеллектом»? Дискуссионный вопрос. Я верю, что IQ в силу разных причин небесполезная метрика для людей. Но у меня нет интуиций, что подобные тесты на нахождение закономерностей в математических или геометрических абстракциях хорошо коррелируют со способностью к генерализации у машинного интеллекта. Скорее наоборот, я ожидаю, что машины могут научиться проходить эти тесты на сверхчеловеческом уровне без генерализации способностей.

Кроме того, я пользовался gpt-4o и o1. В этом бенчмарке между ними уже был огромный разрыв, 5% против 32%. Но в реальных задачах я не заметил какого-то прорыва и не встречал хороших примеров в соцсетях. Для меня вся эта история пока выглядит так: нашли класс искусственных задач, в которых модели с «мышлением» дают заметно лучшие результаты чем обычные LLM. И выдают прорыв в этом классе за прорыв к AGI.

Codeforces это задачи на «олимпиадное» программирование. o3 заняла в этом рейтинге 175 место в мире. Не могу сказать что и этот результат меня сильно впечатлил. Дело в том что «олимпиадное» программирование имеет мало общего как с бытовой рутиной программистов (с которой, к слову, и Claude-3.5 Sonnet хорошо справляется), так и со сложными реальными задачами. Я считаю, что олимпиадное программирование это своего рода один большой синтетический бенчмарк, которым люди занимались из спортивного интереса. И не удивлён, что ИИ в этом спорте людей вот-вот обгонит.

Не могу не пнуть Open AI за то, что они в очередной раз создают хайп показывая пресс-релиз, но не давая никому «пощупать» модель. Весной они также создали хайп вокруг Sora — «вы ещё не готовы к этому». Прошло 3 месяца, китайцы сделали свой аналог и сразу дали к нему доступ. На днях Sora от Open AI всё же вышла, но она уже со старта проигрывает всем кому не лень. Уверен, что и к выходу o3 уже будут такие же по уровню модели от конкурентов, только без пафосных анонсов.

Но кое-что o3 всё же доказала. Она доказала, что выхлоп от вливания конских вычислительных ресурсов может быть не только на стадии предобучения моделей, но и на стадии инференса, то есть генерации ответа. Даже если предобучение упрётся в потолок (а об этом в последнее время много кто говорит, главная проблема — в отсутствии данных, Интернет закончился), прогресс в ИИ всё ещё может идти за счёт усложнения инференса. Это действительно важный результат. Но я в нём никогда не сомневался и так.

Запоздалые итоги 2024 года и планы на 2025. Прошлый год стал моим третьим годом в Бишкеке. Ещё два и можно будет подавать на гражданство. Год вышел на удивление спокойным, запомнились главным образом не события, а люди.

В начале года на аниме сходке познакомился с замечательным человеком @RittervonLicht. Стало приятной неожиданностью в местной группе по косплею встретить человека с очень похожим культурным багажом. За прошедший год он стал близким другом и реализовал одно из моих давних желаний — организовал в Бишкеке аниме-клуб.

Зародившееся два года назад в компании ololo клубное движение стало важной частью моей жизни и социализации. Первым был книжный клуб, в котором я, к слову, дважды был спикером в 2024. Вторым был организованный мной самим ИИ-клуб. Сейчас в ololo, если я не ошибаюсь, уже больше 10 клубов. Когда я ещё в начале задумывался, какие ещё клубы лично я хотел бы видеть, аниме-клуб был на первом месте. Рад, что он теперь есть. На третьем месте, к слову, был космический клуб, он тоже появился в 2024. А на втором месте был клуб, который обязательно появится в 2025 благодаря следующему человеку, о котором я хочу рассказать.

В прошедшем году я близко познакомился с Дмитрием @Nestarenie Веремеенко. Про Диму я мельком слышал ещё лет 5 назад, когда жил в России и вращался в около-трансгуманистических кругах. Был приятно удивлён, узнав что он теперь тоже в Бишкеке. Дима — специалист по доказательному продлению жизни, одной из главных для меня сфер интересов. Я никогда не встречал людей которые имеют настолько же высокие стандарты работы с информацией как Дима. Меня впечатляет его объем знаний по всему, связанному с возрастными заболеваниями, старением и смертностью: от диагностики и медицины, до диетологии и физкультуры. Но ещё сильнее чем его объём знаний меня впечатляет их высочайший эпистемический статус. Буквально за каждым тезисом который он озвучивает или пишет стоит ссылка на качественное научное исследование. Хотел бы я чтобы по всем интересующим меня сферам у меня были такие знакомые как Дима!

Диме я доверяю своё здоровье, он помог мне наконец-то диагностировать артериальную гипертензию и подобрать терапию для её контроля. А также стал первым человеком, которому удалось замотивировать меня начать придерживаться более здоровой диеты и делать хоть какие-то упражнения. Я очень хочу, чтобы то благотворное влияние, которой на меня оказал Дима с его багажом, могли испытать на себе и люди вокруг меня. Поэтому небольшой спойлер: мы с Димой и с Тилеком @tilek99m планируем в скором времени запустить клуб по тематике продления жизни.

Также в 2024 я впервые за 3 года в Кыргызстане побывал на озере Иссык-Куль. Мы отдыхали с девушкой в пансионате ololoAkjol. Мне так понравилось это место, что после долгих раздумий я даже приобрёл там строящиеся апартаменты. Верю и в перспективы самого места, и в людей, которые им управляют, обязательно вернусь туда летом 2025.

В начале 2024 я реализовал ещё одно давнее желание: стал преподавателем. Я вёл курс по искусственному интеллекту в Compass College. К сожалению, после одного семестра мы прекратили сотрудничество, но опыт мне очень понравился, поэтому свой курс я доработал и начал искать для него новую площадку. Уже достигнута предварительная договорённость с другим колледжем, если всё сложится, скоро снова буду преподавать ИИ.

Главный план на 2025 — начать больше делать в сфере ИИ. ИИ уже минимум два года это мой интерес номер один. За это время я создал сообщество, сделал два курса, консультировал десятки людей, но всё это скорее была вспомогательная деятельность, а не основная. Основной интерес, но деятельность не основная. Мечтаю со временем сделать её основной.

В середине 2000х я впервые в жизни всерьёз озаботился поиском единомышленников и людей с такими же увлечениями. Взросление и интернет сделали мою жизнь более одинокой. В школе выбор с кем общаться и чем увлекаться был ограничен. Твой класс, твой двор, твои родственники. Других легко доступных людей нет. А чтобы чем-то увлечься надо сперва об этом от кого-то узнать. В моей школьной компании все играли примерно в одни игры, читали одни книги и смотрели один и тот же телевизор. Не всем всё одинаково нравилось, но выбор невелик — либо ты как все, либо ты один. А потом школа закончилась, зато появились локальные сети и интернет.

С интернетом стало возможным погружаться во что угодно и сколь угодно глубоко. Больше не надо прогибаться под окружение, можешь сосредоточиться на том, что реально интересно тебе. Плюс взросление, сверстники стали менее внушаемыми, более независимыми. Никто больше не будет смотреть, слушать и читать то что тебе нравится только чтобы было о чем с тобой поговорить. Я понял, что мне нужно как-то искать людей по-настоящему похожих на себя. Но как их найти?

И тут мне пришла идея посмотреть на проблему с другой стороны. Как похожие на меня люди могут найти меня? Оказалось, что никак. Я не подавал наружу никаких сигналов. И тогда я придумал жизненный принцип которого придерживаюсь до сих пор. Каждое своё действие, каждый выбор, я делаю не только за себя, но за некий класс людей, мыслящих как я. Я не знаю есть ли эти люди на самом деле, но если есть, то мы можем кооперироваться через нашу одинаковость. Оставлять в публичном пространстве друг для друга метки, заметные и понятные только нам. Спустя 15 лет я узнал, что у интуитивно открытого мною принципа есть название — Акаузальная Торговля.

Примерно в то время появилась соцсеть «Вконтакте» и я заполнил разделы «любимая музыка» и «любимые фильмы» малоизвестными группами и аниме. Они на самом деле не обязательно были любимыми. Зато если в поиске высвечивался человек указавший, скажем, группу Le Orme, с вероятностью 95% он имел такие же вкусы, сидел на тех же сайтах и в целом его путь в интернете был очень похож на мой. Иначе он просто не узнал бы про неё.

Тоже самое с аниме. Например, если вы любите аниме, у меня есть с вами что-то общее, но для возникновения реального интереса этого мало. Если в число ваших любимых аниме входит, например, «Steins;Gate», это уже более информативно, но всё ещё слишком широко. Нас таких много. Но если вы назовёте, скажем, «Simoun» или «Seikai no Monshou», вот тогда у нас, пожалуй, есть повод пообщаться и познакомиться поближе.

Поиск единомышленников для меня по прежнему актуальная задача. К сожалению, кажется что нас, использующих Акаузальную Торговлю, всё-таки слишком мало. Поэтому я не прекращаю поиски новых способов дотянуться до тех, кто ленится или по другим причинам не подаёт сигналов о себе наружу. Недавно пришла в голову мысль: что если у каждого был бы ИИ ассистент? Который всё время с тобой и знает о тебе всё. Тогда ассистенты могли бы прощупывать друг друга и показывать владельцам людей, с кем по мнению ассистентов получился бы хороший контакт. ИИ могут себя размножить и обмениваться информацией намного быстрее людей, поэтому каждому ИИ пообщаться с каждым в рамках некой соцсети для ИИ ассистентов, выглядит реальной задачей.

Помимо поиска интересных людей, ИИ ассистенты могли бы искать интересные предложения. Просматривать за нас рекламу, объявления, цифровой контент. Отбирать и показывать потенциально интересное. Всё это вполне реализуемо уже на сегодняшних технологиях. И это скорее всего в обозримом будущем появится.

К моему сожалению, нас от этого будущего отделяют не технологии, а экономика. Об этом будет следующий пост.

Недавно глава Open AI Сэм Альмтан заявил, что компания теряет деньги на своих самых дорогих подписках (200$ в месяц). То есть люди, которые их покупают, тратят больше чем на 200$ вычислительных ресурсов в стоимостном выражении. Я неоднократно слышал информацию от людей из индустрии, что вообще все AI компании работают в убыток. Это не удивительно, с учётом стоимости GPU.

На что AI компании рассчитывают понятно: на снижение себестоимости вычислений при сохранении или увеличении цены на подписки. О том, за счёт чего себестоимость может снизиться чуть позже. Важно, что до этого будущего надо сперва дожить. А поэтому сегодня, пока стоимость вычислений дорогая, AI компании вынуждены экономить на всём.

ChatGPT уже больше года как умеет искать информацию в интернете. Но вы замечали как редко он это делает? И даже если делает, то использует в ответе всего пару-тройку найденных ссылок. В прошлом году в ChatGPT добавили «память». Если её включить, он будет запоминать важную по его мнению информацию из диалогов с вами. И потом использовать её при генерации ответов. Но на практике он использует память намного реже чем пополняет. Более «глупая» модель gpt-4o часто даёт более подробные и развёрнутые ответы чем «умная» o1. Причина всего этого — экономия.

Разрыв между тем, что ИИ в принципе умеет делать и тем что он будет делать для вас будет только увеличиваться. Сейчас как раз идёт прогресс в повышении качества ответов ИИ за счёт более длительного обдумывания (больше вычислений) на стадии генерации ответа. Ещё не вышедшая модель Open AI o3 поставила рекорд в бенчмарке ARC-AGI потратив на ответ ресурсов более чем на 3000$. Понятно, что на ответы владельцам подписок за 20$ в месяц будут выделять на 4 порядка меньше вычислительных ресурсов.

Этот зазор важно учитывать, оценивая где мы находимся в плане прогресса в ИИ в целом. Есть куча научных и инженерных задач, за решение которых без труда выложат десятки, а может и сотни миллионов долларов. Если вы думаете, что пока ИИ слишком «тупой» даже чтобы помогать в работе лично вам, ни о каком решении им сложных проблем человечества речи идти не может — помните о зазоре в ресурсах. На вас выделяют ресурсов на 20$ в месяц. Поэтому если «ваш» ИИ чего-то не умеет, это не значит что ИИ который это уже умеет не существует в природе.

В развитии ИИ до сегодняшнего дня соблюдалась закономерность: результаты, достигнутые лучшими моделями в мире, спустя год повторяются на моделях, которые можно запустить на хорошем домашнем ПК. Проблему снижения себестоимости вычислений атакуют со всех сторон и простор для её снижения на порядки ещё есть. Например, биткоин уже давно не майнят на GPU, это нерентабельно. Его майнят на ASIC — чипах, специально созданных под одну задачу. Вероятно и вычисления для ИИ со временем перейдут на ASIC.

Сомневаюсь, что тенденция ухода переднего края прогресса «в массы» за год сохранится. Оптимизации в духе сжатия моделей в 10-100 раз с сохранением 90% способностей рано или поздно закончатся. Кроме того, уход прогресса «в массы» могут остановить или замедлить сознательно из-за социальных и экономических последствий.

Но я всё же считаю, что мы находимся у важного рубежа. Модели, которые я субъективно оцениваю как минимально достаточные для трансформационных изменений, только-только стали по зубам хорошим домашним ПК. Но настоящая трансформация произойдёт когда они станут по зубам мобильным телефонам, а это, я думаю, ещё где-то год. Вот тогда вещи о которых я мечтал в прошлом посте, вроде полноценных виртуальных ассистентов у каждого, станут абсолютно реальными.

Новость, которую я давно ждал! Наконец-то сдвинулся с мёртвой точки Open Source ИИ для музыки. Как обычно, спасибо нужно сказать китайцам. Они выпустили text-to-audio модель YuE-s1-7b . Она сильно не дотягивает до Suno и Udio, но тем не менее она представляет из себя что-то, что можно использовать на практике, а не хлам сугубо для исследовательских целей как Stable Audio.

Я, кстати, всем кого знаю в мире ИИ, задавал вопрос: почему, на их взгляд, все ещё не было вменяемых Open Source аудио моделей? Открытая модель для видео есть (Hunyuan), причём она близка к лучшим. Открытые большие текстовые модели чуть ли не лучшие вообще (Qwen 2.5-Max, DeepSeek R1). Есть очень хорошая модель для картинок (Flux). А с музыкой всё было глухо. Встречал два правдоподобных ответа почему:

1) Музыкальные данные сложно разметить. В самом деле, допустим вы скачали десятки терабайт музыки с торрентов. А что с ней дальше делать? Вам же нужно чтобы модель не названия песен и музыкантов выучила, и даже не жанр. Она должна понимать где куплет, где припев, какое настроение у музыки, какими прилагательными она описывается. Как подготовить данные для обучения? Вручную — это нужна целая армия наёмных рабочих. Алгоритмически — я не представляю как. Но задача любопытная и интересная. Если кто-то из читателей разбирается в токенизации музыки, напишите мне, пожалуйста, был бы рад проконсультироваться по этой теме.

2) У музыки fair use сильно отличается от других модальностей. Плюс в аудио индустрии одни из самых зубастых юристов, там несколько корпораций контролируют 90% рынка аудиозаписей и они остервенело кидают всем страйки и подают иски на любой чих. Этим монстрам дорогу переходить не каждый ИИ стартап решится. С другой стороны, Suno и Udio существуют больше года, иски против них уже поданы, но пока ни тех, ни других не закрыли.

Так что правильного ответа я до сих пор не знаю. Но я очень надеюсь, что эта YuE-s1-7b была лишь первой ласточкой, и мы увидим открытые модели уровня Suno v4 в этом году. В идеале я бы хотел видеть целую инфраструктуру, реализующую возможности, которые есть у Suno — ремиксы, аранжировки, генерация по фрагменту, и т. п. У открытых моделей для картинок есть веб-интерфейс ComfyUI с кучей возможностей. Хорошо бы и для музыки появилось нечто подобное.

Почему меня так волнует открытый ИИ именно для музыки? Во-первых, потому что, насколько я знаю, генерация музыки не так прожорлива по видеопамяти как картинки и тем более видео. Одной RTX 5090, которую собираюсь на днях прикупить, для любых музыкальных моделей должно хватать с запасом без технических костылей.

Во-вторых, потому что у меня есть музыкальный опыт и я намного больше доверяю своему эстетическому восприятию в музыке, чем в картинках и видео. Если я сейчас кинусь осваивать ИИ для картинок, то скорее всего в какой-то момент я научусь генерировать картинки которые мне будут нравиться. Но для более искушённых людей они останутся мусором. Я не высокого мнения о своих вкусах в картинках. Вряд ли я даже стану выкладывать свои генерации на публику, чтобы не позориться. Поэтому и мотивация инвестировать время в освоение ComfyUI у меня довольно небольшая. А вот музыка это другой разговор. Suno у меня в приоритетах выше ComfyUI, а уж если появится аналог который можно запускать у себя — я сразу всё брошу и займусь им.

Меня удивляет низкая степень интеграции ИИ переводчиков. Ни для кого не секрет, что качество ИИ перевода давно превзошло уровень потребный в повседневной жизни. Я бы сказал, что это случилось даже до появления ChatGPT, старый добрый Google Translate уже лет 10 даёт вполне сносные переводы для повседневных задач.

Сегодняшние нейросети всё ещё уступают профессиональным переводчикам, поэтому пока нельзя, например, полноценную локализацию фильма или перевод игры на иностранный язык полностью перепоручить ИИ. Потому что от официальной локализации люди ждут именно профессионального уровня и над любыми ошибками или незнанием контекста будут смеяться и выражать своё негодование в соцсетях. Но на уровне обывателя, любой текст можно комфортно читать в машинном переводе, с любыми иностранцами можно общаться в чате через онлайн переводчик.

Кроме того, нейросети уже несколько лет как решили задачу распознания голоса на очень высоком уровне. Задачу синтеза голоса решили недавно и пока на просто высоком уровне, но вполне достаточном для любых повседневных задач. С тем же ChatGPT уже полгода как можно общаться голосом почти на любом языке. YouTube умеет автоматически генерировать субтитры на вашем языке к любому видео.

Приложений, которые делают так, что вы пишите или говорите на одном языке, а оно автоматически переводит на другой, существует вагон и маленькая тележка. Но они всё ещё не оказали заметного влияния мир, потому что по какой-то неведомой мне причине ещё не решена одна ключевая задача.

Я знаю людей которые боятся искать удалённую работу на мировом рынке, потому что не знают английский язык или недовольны своим уровнем владения английским. Большой процент русскоязычных людей сидит в русскоязычном интернете и мало выходит в англоязычный. А, например, в китайский сегмент интернета кроме людей, говорящих на китайском, не выходит почти никто.

Причина всего этого — в недостаточной интеграции переводчиков. Google Translate может перевести любой сайт, но он плохо работает. Не плохо переводит, а именно плохо работает. Медленно загружает переведённую версию, отдельные элементы часто остаются не переведёнными. Нейросети которые могут переозвучить видео на другом языке существуют, но в виде отдельных сервисов. Автоматически сгенерированные субтитры зачастую не очень высокого качества, потому что генерируются на ходу и не учитывают контекст. Нейросети которые анализируют видео целиком и учитывают контекст существуют, но опять же, их надо подключать отдельно.

Все элементы конструктора уже существуют. Если обвесить свой браузер нейросетевыми плагинами с подключенными платными API, можно обеспечить себе вполне комфортный опыт взаимодействия с интернетом с переводом на лету в обе стороны. Меня удивляет, что это до сих пор не сделано по умолчанию в Windows и в мобильных телефонах.

Массовый пользователь никогда не соберёт конструктор сам. И никакое внешнее приложение не соберёт его за пользователя, потому что оно не имеет доступа ко всей системе. Собрать конструктор за массового пользователя могут только Apple, Google и Microsoft. Они должны сделать два удобных переключателя: «переводить всё на мой язык» и «переводить всё что я пишу и говорю на английский». И вот когда они это сделают, это будет трансформационное изменение, которое изменит само отношение к языковым барьерам в массовом сознании. Я уверен, что это случится скоро и даже удивлён, что это не сделано уже сейчас.

Меня занимает вопрос: какой максимальный % населения может быть задействован в креативной экономике? Я не встречал хороших моделей. Моих собственных знаний и компетенций не хватает даже для примерной оценки. Начать стоит с определений: что такое креативная экономика и что значит быть задействованным в ней. Всем, кто хочет разобраться в первом, советую книгу «Оранжевая Экономика» (на английском). Своими словами скажу так: креативная экономика — та, где в стоимости продукта доминирует творческая составляющая.

Чтобы понять суть второго вопроса, рассмотрим примеры. Музыкант или блогер делают полностью креативный продукт, творческая составляющая в нём ~100%. Известный на весь мир ресторан креативный на ~90%. Себестоимость продуктов в нём играет роль, но основная цена и ценность — нематериальные. Рассмотрим смартфоны. Себестоимость iPhone 16 Pro Max в районе 450$. Отпускная цена 1200$ и выше. Телефоны с аналогичным железом дешевле есть, но люди выбирают Айфоны, потому что это Apple это бренд, дизайн и экосистема. Всё перечисленное это креативный труд. Можно сказать iPhone креативный процентов на 70, другие смартфоны процентов на 30. И всю маржу Apple забирает себе, поэтому дизайнеры и программисты Apple задействованы в креативной экономике, а рабочие заводов — нет.

Может ли существовать мир, где вся не креативная составляющая экономики автоматизирована роботами и ИИ? А если ещё и 95% креативной? Пример: писать код ОС и приложений Apple, разрабатывать дизайн микросхем, разрабатывать промышленный дизайн смартфона будет ИИ. Производить всё будут роботы. Но саму концепцию нового Айфона, допустим, будут придумывать люди. Их труд будет на 100% креативным. И их будет 5 человек. Чем займутся остальные бывшие сотрудники и работники заводов Apple?

Одно из немногих откровений, которое мне подарило обучение на экономиста, это концепция косвенной конкуренции. Главным конкурентом магазина мягкой мебели в городе может быть не другой магазин, а туристическая фирма. Потому что цена отпуска и мягкой мебели плюс-минус одинаковая, и достаточно большая, так что перед людьми возникает выбор: обновить мебель или слетать отдохнуть. Поэтому странная на первый взгляд акция «купи диван, тур в подарок» вполне имеет смысл. Концерты конкурируют с футбольными матчами, соцсети конкурируют с компьютерными играми.

На мой взгляд, главный ограничитель креативной экономики — количество человеко-часов внимания, которое есть в природе. Конкуренция за деньги не так страшна как конкуренция за внимание. Если количество стримеров внезапно увеличится в 100 раз, люди не станут в 100 раз чаще смотреть стримы. Каждому стримеру станет в 100 раз тяжелее.

А ещё одно откровение из экономики это естественные монополии. Полезность мессенджера пропорциональна тому, какой % ваших контактов используют именно этот мессенджер. Человечеству выгоднее иметь 2-3 мессенджера где сидят все, нежели миллиард мессенджеров по 10 человек в каждом. Это естественная монополия. С креативными профессиями это не так очевидно, но в них тоже есть элемент естественной монополии.

Мало кто считает что фильмы по MCU это выдающиеся шедевры кинематографа. Большинство смотрит Marvel потому, что Marvel смотрит большинство. Marvel — это общепринятая тема для общения. Если вы не смотрите Marvel, у вас минус одна тема, штраф к социализации. Человечеству не нужно 100 киновселенных уровня Marvel, ему наоборот нужно чтобы их было мало, иначе они перестанут выполнять свою роль.

Поэтому даже если все 8 миллиардов людей станут креаторами, даже если всем дать доступ к производственным роботам и к ИИ ассистентам, предложение вырастет, спрос останется. Будет самая адская конкуренция в истории. И ~80% населения будет в ней получать ~0 внимания, приносить ~0 пользы, а значит и зарабатывать ~0 денег. У меня нет ответов что с этим делать.

Вчера исполнилось три года как Россия начала военное вторжение в Украину. Спустя неделю после начала вторжения я улетел из России. Стыдно признаться, но, как и большинство, улетал я в панике, опасаясь, что закроют границу. Но в отличие от большинства я точно знал, что по своей воле в Россию я больше не вернусь.

Большую часть жизни я воспринимал Россию как одну из лучших стран для жизни. Не хочу выдавать нужду за добродетель: мой уровень доходов никогда даже близко не был таким, чтобы я мог с комфортом жить в развитой стране вроде Японии или США. Многие мои друзья считали (и считают), что лучше быть низом среднего класса в развитой стране, чем серединой в менее развитой. Я же строго предпочитаю обратное. У меня никогда не было мотивации столько инвестировать в свою карьеру, чтобы приземлиться в компаниях уровня Nvidia или Open AI. Лучшее, на что я реалистично мог рассчитывать — это работать в компаниях на 2-3 уровня ниже. И этого сильно недостаточно для комфортной в моём понимании жизни в развитых странах. Но этого вполне достаточно для комфортной жизни в LCOL-стране. А среди LCOL-стран Россия долгое время была одной из лучших, тем более что мне не надо было думать как в неё переехать: я родился в ней.

Больших иллюзий насчёт России я не испытывал. Я хорошо понимал, что та прослойка жителей крупных городов, в которой я вращался и с которой мы разделяли более-менее схожие ценности, это абсолютное меньшинство. Понимал, что наше меньшинство терпят (с каждым годом всё меньше), а не считаются с ним. Но мне казалось все страны плюс-минус такие же: интеллигенция везде в меньшинстве, быть политическим активистом везде опасно, цензура есть везде. Некоторые важные нюансы я не понимал. Например, везде есть люди, способные сломать тебе жизнь, но не везде их так много как в России, где таковой — каждый силовик.

Я считал, что главное это иметь хотя бы базовый набор свобод: свободу перемещения, свободный доступ в интернет, возможность работать на мировом рынке. И желательно, чтобы местная цензура как можно меньше задевала конкретно твою свободу самовыражения. Россия в этом плане стабильно деградировала с 2011 года, но мне казалось что деградирует не только Россия, что это общемировой тренд. Я был готов идти на компромиссы. Но с началом вторжения в Украину, я понял, что в России больше оставаться не могу.

На тот момент ещё не было ни западных санкций, ни тем более мобилизации. Ещё не было даже очевидно, что блицкриг провалился, российский десант воевал под Киевом. Но три вещи лично мне стали понятны уже тогда. Во-первых, что время теперь военное, терпения и сосуществования в России больше не будет. Кто не с нами, тот против нас. Во-вторых, что большинство людей моих взглядов уедут хочу я этого или нет. Весь мой круг общения из Петербурга, например, уехал в полном составе. В-третьих, кто не с нами, тот против нас работает в две стороны. Я теперь гражданин страны-агрессора и если границу не закроют с этой стороны, её могут закрыть и с той.

Я бы хотел, чтобы Россия была частью Западного мира, причём под Западом я подразумеваю не только США и Европу, но и Японию, Южную Корею. Хоть я и никогда не был в этих странах, я воспитан именно на их культуре, почти все интересные мне вещи создаются в них или в кооперации с ними. Та часть России, которая мне нравилась, была филиалом западного мира. К сожалению, другая, доминирующая часть России, решила что больше не хочет терпеть этот филиал не только у себя, а даже у соседей.

Даже если Россия победит в войне, если мир будет заключён на условиях России, если с России снимут санкции, Европа начнёт снова покупать российский газ, а Трамп прилетит договариваться с Путиным о разделе сфер влияния. Та сфера, которая мне культурно близка и интересна, в которой будут делать классные вещи, она в любом случае останется за Трампом, а не за Путиным. А Россия останется с силовиками и с ветеранами «СВО». Нормализация отношений с Западом возможна. Восстановление в России западного «филиала» в обозримой перспективе — увы, нет.