Совершенно неожиданно для себя начал читать Агату Кристи, а конкретно книги про Эркюля Пуаро в порядке написания. Предвосхищая вопрос — нет, раньше я их не читал, ни одной. И не смотрел ни одной экранизации. У меня вообще довольно много белых пятен среди популярного и даже среди общеизвестного. Агата Кристи у меня в планах была где-то в очень дальнем ящике. Но у меня часто бывает так: составляю себе планы, расставляю приоритеты и … ничего не делаю. А потом совершенно внезапно появляется настроение почитать что-нибудь конкретное, а не верхнее в списке. И с учётом того, насколько редко у меня вообще возникает желание что-нибудь читать, я цепляюсь за любую возможность. К слову, лет 7 назад во время одного из подобных внезапных порывов я прочитал всего Шерлока Холмса.

Люблю ли я детективы? Да, но интерес к Пуаро (как и ранее к Шерлоку) у меня изначально был никак не связан с любовью к детективам. У меня были совсем другие причины. Первая причина это широкая известность. Мои белые пятна мне жить особо не мешают, но когда я не первый и даже не десятый раз сталкиваюсь с упоминаниями чего-то известного в разговорах с людьми или в других произведениях, которые мне интересны, у меня всё же появляется зуд заполнить пробел. Вторая причина это экзотика. Для меня любая книга написанная в другой стране или в другую эпоху это помимо всего прочего возможность заглянуть в голову человека, жившего в незнакомой мне среде, и посмотреть на мир его глазами. В особенности это касается книг, где автор помещает действие в современный ему реализм. Замечу, что у меня нет интереса к истории, и к прошлому в целом. Но я нахожу эстетичным и интересным (в силу непохожести на мой) быт людей, попадающий в определённые сочетания сословия, страны и эпохи. Вот классический английский детектив в одно из таких сочетаний как раз попадает.

Пока я прочитал первые 5 книг про Пуаро и уже точно не жалею о потраченном времени, потому что 4я из них («Убийство Роджера Экройда») значительно превзошла мои ожидания. Это была первая книга, которая смогла меня зацепить именно детективной составляющей. То есть заставила где-то на середине прервать чтение, подумать самостоятельно, выдвинуть версию и пойти перечитывать с самого начала сверяя всё с придуманной версией. И потом испытать огромное наслаждение от того, что версия оказалась правильной. Вообще, в книгах с первой по четвертую я прямо отчётливо улавливал стабильный рост сценарного мастерства писательницы и четвёртая книга получилась шедевром. Если вдруг не знакомы, обязательно добавьте в планы. К моему неприятному удивлению, пятая книга («Большая Чётвёрка») оказалась одной из самых никчёмных из всего что я читал вообще. А я читаю дальше, пока не иссяк текущий порыв.

Полчаса назад (не успел опубликовать вовремя) закончился День Независимости в стране, приютившей меня полтора года назад — Кыргызстане. 🇰🇬 Прежде всего, запоздало поздравляю моих кыргызских друзей и читателей с этим праздником! Хоть я и не являюсь гражданином Кыргызстана, для меня этот праздник тоже особенный — ведь я нахожусь здесь именно благодаря тому, что в этот день 32 года назад Кыргызстан стал независимой страной. Независимой от страны в которой я родился и вырос.

Жизнь в Кыргызстане открыла мне глаза на некоторые вещи, над которыми я никогда раньше не задумывался. Во-первых, люди в основной своей массе ценят независимость своей страны. В России об этом вообще не задумываешься, особенно будучи представителем титульной нации и живя вне национальных республик. Ведь независимость России ни от кого это что-то само собой разумеющееся много веков. Со времён падения Ига Россия исторически боролась не за свою независимость, а с чужой независимостью от себя.

При том, что по экономическим показателям, вроде ВВП на душу населения, Кыргызстан одна из самых бедных стран среди входивших в СССР, идею снова объединиться с Россией в Союзное Государство здесь почти никто не поддержит. Уверен, что если потребуется, независимость будут отстаивать с оружием в руках, как это сейчас делают украинцы. Это вторая вещь, которую я здесь осознал — экономика, особенно средние показатели по стране, не главное, что определяет сознание. Более того, несмотря на огромную разницу в средних экономических показателях между Россией и Кыргызстаном, Кыргызстан очень похож на российские регионы где я был, вроде Алтайского Края или Владикавказа. Гораздо сильнее, чем они похожи на Москву или Петербург, например.

Всё заставило меня задуматься о другой стране, название которой заканчивается на «стан». В 1992 году прошёл референдум о независимости Татарстана, убедительную победу в котором одержали сторонники суверенитета. Российские власти сперва на словах признали результаты референдума, потом стали отказываться признавать, но в целом процесс уничтожения остатков независимости Татарстана растянулся на десятилетия. Упразднение должности президента республики, например, Москва продавила лишь год назад. Как знать, если бы знаменитые слова Ельцина «берите столько суверенитета, сколько сможете проглотить» не оказались бы пустым звуком, возможно сегодня я бы находился в Казани, а не в Бишкеке. Хотя ещё более вероятно, я бы в этом случае продолжал жить в Петербурге, поскольку не было бы никакой захватнической войны, развязанной Россией.

И мне непонятно, почему так много людей считают или делают вид что считают абсолютно невозможной катастрофой гипотетический распад Российской Федерации. Распад ядерной державы, вы себе представляете что тогда будет? А этнические конфликты? Я — представляю, почему же нет. Три десятилетия назад мир уже наблюдал распад ядерной державы — значительно более мощной при том. И в её составе тоже были разные национальные республики, которые населяли разные этносы. Её распад тогда тоже мало кто мог представить, но он случился.

Нельзя сказать, что распад СССР прошёл без негативных последствий для всех участников, конечно. Но во всех вернувших или получивших независимость странах жизнь идёт своим чередом и назад никто не хочет, кроме самой бывшей метрополии. И уж точно можно сказать, что распад последней итерации московской империи принёс меньше зла, чем идущая прямо сейчас попытка её частичного восстановления. Не вижу причин, почему гипотетический распад Российской Федерации это принципиально более невероятное событие и почему он обязательно будет отличаться по масштабу негативных последствий в худшую сторону.

На занятиях по японскому проходили тему культурных барьеров и сложностей адаптации к жизни в другой стране. Нам задали написать сочинение по образцу из учебника. Образец в учебнике — типичная история иностранца в Японии. Человек пытается завести друзей, во время знакомства ему все рады, но дальше общение почему-то не клеится. Далее следует объяснение про японскую культуру. О том, что она построена на вежливости и показном дружелюбии. И что очень часто иностранцы допускают ошибку, принимая формальное дружелюбие в рамках этикета за чистую монету. Хорошо знакомая ситуация для всех, кто сталкивался с японской культурой или интересовался ей.

Так вот, вчера писал сочинение на японском к сегодняшнему занятию. Желательно было описать что-нибудь из личного опыта (не обязательно про Японию). Подумал, что логичнее всего написать о своей жизни в Кыргызстане, где я живу уже полтора года. Вот только не сразу придумал о чём собственно писать: ни с какими культурными барьерами я в Кыргызстане не сталкивался и никакой адаптации мне не потребовалось. Не потому, конечно, что кыргызская культура ничем не отличается от российской. А потому что она, как мне кажется, максимально «безбарьерная», это её особенность. Она в некотором роде противоположна японской, что, кстати, подмечали и знакомые японцы в Кыргызстане. В Японии пробивать стену формальности и отстранённости с людьми, чтобы они открылись, надо долго и упорно. А здесь люди открыты с самого начала. Но об одной особенности Кыргызстана я всё-таки захотел написать. Особенность не культурная по своему генезису, но я в начале принял её за культурную и недоумевал.

Кыргызских друзей я завёл очень быстро, сразу как переехал в страну. Знакомились мы в основном (я бы даже сказал исключительно) на всяких сходках и мероприятиях. Потом я как обычно приглашал своих новых друзей и знакомых на встречи, в гости, в кафе. И каждый раз неизменно слышал в ответ: «извини, к сожалению сейчас нет времени», «давай потом, сейчас я очень занят» и т. п. Самое первое о чём я подумал — что я как раз попал в «японский» сценарий. Ошибочно принял банальную вежливость за дружбу. Что я ещё недостаточно близок со своими кыргызскими знакомыми для личных встреч. Во многом поэтому я весь первый год в стране вращался в основном в эмигрантском пузыре. Но я всё-таки хотел понять почему мои местные знакомые все поголовно такие занятые, правда это или предлог. И почему среди эмигрантов в Бишкеке этого нет.

Со временем я узнал, что дело не в культуре, а в демографии и в экономике. В Кыргызстане очень высокая рождаемость по сравнению не только с Россией, но почти с любой страной, о которой у меня было в голове хорошее представление. Соответственно почти у всех тут большие семьи и много родственников, а всевозможные формы времяпровождения с родственниками занимают гораздо большую долю в жизни людей чем я мог себе представить. Второй момент экономический — в стране значительно более низкие средние зарплаты чем опять же почти в любой из стран, которые я себе хорошо представлял. Соответственно людям приходится больше работать, а тем кто не работает — по максимуму помогать тем кто работает. Вот и выходит, что у людей в самом деле гораздо меньше свободного времени для встреч чем я предполагал из прошлого опыта.

И поэтому люди предпочитают собираться компаниями или встречаться в рамках мероприятий, ведь это позволяет поддерживать контакт сразу с несколькими людьми, то есть более эффективно расходовать драгоценное время на социальные взаимодействия чем встречи тет-а-тет. А личная встреча действительно требует более серьёзного повода, чем я привык. Тем не менее, случалось такое, что меня звали на встречу спустя полгода люди, которые, как я думал, давно забыли и меня, и моё предложение встретиться. Это обратная сторона медали: люди тут друг о друге помнят гораздо дольше. В России у меня чаще всего было так, что если мы с кем-то не общались полгода, обычно мы полностью исчезали из жизни друг друга. И потом чтобы снова написать человеку требовалось преодолевать сильную неловкость. В Кыргызстане я этой неловкости вообще не ощущаю сам и не чувствую её у других.

Поздравляю читателей с Днём Петрова!

В этот день 40 лет назад, 26 сентября 1983 года, советский подполковник Станислав Петров предотвратил ядерную войну. Он находился в 100 километрах от Москвы в командном пункте Серпухов-15 системы «Око» следящей со спутников за пусками американских ядерных ракет. При обнаружении пусков ядерных ракет с американской территории, система «Око» поднимала сигнал тревоги в командном пункте, задача находящегося на посту офицера состояла в том, чтобы быстро оценить ситуацию и просто передать информацию дальше. Дальше, к слову, — это уже непосредственно на табло ядерного чемоданчика генсека, министру обороны и начальнику генштаба.

Петров находился на посту когда взвыла звуковая сирена, а на экране появилась красная надпись «пуск», означающая что американцы запустили ракеты в сторону СССР. Система показывала максимальную степень достоверности и количество ракет — от одной до нескольких. Петров решал передавать информацию дальше или нет. Петрова смутило как то, что по показаниям американцы запустили только одну или несколько ракет, тогда как согласно господствовавшему в то время представлению ядерный удар мог быть только массовым, так и максимальная степень достоверности, поскольку по метеорологическим данным в районе из которого был обнаружен пуск была высокая облачность и достоверность не могла быть максимальной. Петров решил дождаться подтверждения пуска по радарам, не дождался и решил, что срабатывание системы оповещения было ложным. То есть вместо того чтобы передать сигнал сразу он вместо этого с большим опозданием передал информацию о ложном срабатывании.

В итоге по итогам расследования Петрова отправили в отставку. Первое признание он получил только в 1991, когда инцидент рассекретили, а в 2006 году он получил награду в Штаб-Квартире ООН в Нью Йорке. Умер Петров в 2017 году. В память о нём некоторые стали отмечать 26 сентября как День Петрова. Отмечают его, в частности, близкие мне организации и сообщества, такие как Future of Life Institute Макса Тегмарка сообщество рационалистов LessWrong и сообщество Эффективных Альтруистов.

Помните, что возможно мы живы потому, что один человек в ответственный момент решил действовать НЕ из принципов «наверху виднее, там разберутся» и «я человек маленький, моё дело выполнить инструкцию».

Вчера Илон Маск в принадлежащей ему соцсети X (бывший Твиттер) выложил картинку высмеивающую президента Украины Володимира Зеленского и финансовую помощь Украине. И англоязычное, и русскоязычное сообщества предсказуемо взорвались, разделившись на два лагеря. И я сам, и почти все кого я читаю, разумеется, в лагере сочувствующих Украине и осуждающих эту выходку Маска. Вместе с тем, я вижу в лагере, который я считаю своим, совершенно лютую и на мой взгляд абсолютно нездоровую ненависть к Маску, которую я не разделяю. Видел сегодня как несколько людей, которых я уважаю, задавались вопросом как вообще кто-то всё ещё может любить Маска, и даже заносили в чёрный список всех, кто высказывал любые намёки на его защиту. Захотел подробно проговорить свою позицию.

Сперва насчёт финансовой помощи. В США, особенно в правых кругах, набирает популярность нарратив, что якобы Украине безвозмездно жертвуются сотни миллиардов долларов из кармана американских налогоплательщиков. И соответственно, если бы Америка не поддерживала Украину, рядовой американец жил бы богаче. Российская пропаганда охотно поддерживает этот нарратив, но обвинять Маска в работе на Путина только на основании этого глупо. Нарратив имеет внутреннее американское происхождение, придумала его не русская пропаганда. Тем не менее, нарратив по своей природе ошибочный и популистский. США передаёт Украине уже произведённое вооружение со своих складов, а для его замещения перезапускает собственный ВПК, то есть самую что ни на есть реальную экономику, создавая там прибавочный продукт и рабочие места. Даже не касаясь моральной стороны вопроса, от того что американские танки и ракеты остались бы на складах в США, рядовой американец не стал бы жить богаче.

Почему я не готов ненавидеть Маска, начавшего распространять этот глупый, вредный и аморальный нарратив? Во-первых, из-за особенностей самих США. Дело в том, что за последние лет 10 западные MSM (мейнстримные СМИ) настолько тотально выжгли напалмом свою репутацию, настолько часто распространяли деструктивную, опаснейшую и омерзительную ложь по политическим мотивам, что я не могу осуждать ни одного американца, который теперь отрицает и высмеивает абсолютно всё, что продвигают MSM. Поддержка Украины это одна из основных тем в западных MSM. Конкретно в этот раз они оказались на правильной (в моих глазах) стороне истории и поддерживают хорошее дело. Но они так часто занимались вредительством, что я совершенно не удивлён что теперь и хорошее дело, которое они поддерживают, кто угодно может воспринимать в штыки. Чтобы представить себя на месте американцев, вообразите что Z-военкоры и Маргарита Симоньян завтра внезапно займут здоровую и морально правильную позицию по какому-нибудь конфликту в другой части света, в котором вы плохо разбираетесь. Станете ли вы ненавидеть людей, которые по привычке начнут высмеивать их позицию, подумав что это очередная пропаганда?

А во-вторых, даже если Маск совершенно искренне и с полным пониманием дела выступал бы на стороне Путина, для меня это было бы очень неприятно и сильно понизило бы его в моих глазах, но далеко не до уровня ненависти. Дело в том, что Маск сделал и продолжает делать на порядок больше чем любой человек на планете для практической реализации ценностей, которые я разделяю и для приближения технологического будущего, о котором я мечтаю. Я ничего не прощаю за заслуги, я лишь констатирую что результирующая его деятельности для меня по прежнему оставалась бы позитивной с очень большим запасом. Ненавидеть человека, который в целом сделал мир вокруг меня ближе к тому миру в котором я хотел бы жить, я не могу и не собираюсь.

Сходили в кино на фильм The Creator (Создатель). Заинтересовала главным образом тематика (конфликт человечества и искусственного интеллекта). Высоких ожиданий у меня не было, поскольку любой фильм, показывающий войну человечества против ИИ, для меня по умолчанию hopepunk, а не hard sci-fi. Тем не менее в 2023 году на фоне обсуждений в парламентах о необходимости регулирования ИИ и появления массового интереса к тематике угрозы со стороны ИИ, я ожидал от фильма чуть более глубокого и технически грамотного погружения в тему чем обычно.

Увы, фильм оказался глупым боевиком с невразумительным сюжетом и безграмотной до уровня комичности технической частью. Удивительно, что в 2023 году на фоне повышенного интереса к теме ИИ на экраны выходит претендующая на серьёзность картина и оказывается при этом содержательно даже большей туфтой чем чисто развлекательные зрелища тридцатилетней давности вроде «Терминатора».

На сегодняшний день лучший фильм про ИИ с большим отрывом из всего что я видел это Transcendence (Превосходство), 2014. Это единственный фильм который более-менее раскрывает серьёзность тематики. На втором месте для меня идёт Ex Machina (Из Машины), тоже 2014. Он тоже достаточно аккуратный технически, но акцентирует внимание на второстепенной проблеме в рамках тематики. Зато он красиво сделан. Всё остальное что я видел это уже чисто развлекательные фильмы без особых претензий (что ни в коем случае не делает фильмы плохими), лучшим из которых я считаю I, Robot (Я, Робот) 2004 года.

«Создатель» же, увы, далеко за пределами того, что я мог бы порекомендовать к просмотру вне зависимости от критериев. Похвалить в нём могу разве что красивые виды Юго-Восточной Азии в стиле киберпанка, но одновременно придётся поругать чрезмерно стереотипную репрезентацию тамошних народов. В остальном — слабый боевик, ужасная фантастика, приторная притча.

Сегодня увидел ролик, в котором бывший кыргызский криминальный авторитет сделал заявление, что он давно живёт по закону и не имеет никакого криминального статуса. Это не первый подобный ролик за последние дни, а началось всё с недавнего убийства известного криминального авторитета при задержании. Сразу скажу, что трогать тему борьбы с криминалом в Кыргызстане я не буду — я в ней совершенно не разбираюсь. Я хочу рассказать, как в мою картину мира однажды попала туфта и оставалась незамеченной двадцать лет, пока я сегодня не поймал себя на замешательстве во время просмотра того ролика.

В замешательство меня привела фраза, крутящаяся где-то на задворках сознания: «вор в законе не может отказаться от своего статуса». У меня возникло странное ощущение будто я вижу нечто невозможное. А потом я спохватился: откуда я знаю, что вор в законе не может отказаться от статуса? Вернее даже не так. Почему эта информация помечена у меня в голове как настолько достоверная, что я испытываю замешательство глядя на видео?

Я никогда не изучал криминальную культуру. Но живя в России не знать о ней было невозможно. В конце 90х и начале 00х самыми культовыми были шоу про бандитов (Брат, Бригада, Бандитский Петербург, и т. п). В физматшколе где я учился был короткий период, когда все пацаны в соседних блоках общежития повально учились «говорить по фене», изучали воровские понятия и травили истории про знакомых зэков. Большинство всё это делало скорее в виде отыгрыша, но для некоторых тема была сакральной. В интернете тюремная тема была одной из самых популярных на Дваче. С культурой «АУЕ» я в реальной жизни не сталкивался, но в интернете про неё читал, потому что писали про неё везде.

Эти источники нельзя назвать достоверными. Они не то чтобы не имели связи с реальностью. Но реальность скучная. Даже в криминальной хронике показывают не всё подряд, а выбирают самое интересное. Кино, сериалы, истории в интернете должны захватывать внимание. Даже если они достоверны, они выбирают самое необычное из достоверного. А гораздо чаще это просто вымысел по мотивам.

Но вымысел тоже может быть разным. Я часто слышал об опасности романтизации бандитов, мол, криминал становится привлекательным для молодёжи. Но на мой взгляд, эти разговоры скрыли более масштабную проблему. Я не помню, чтобы криминал показывали как что-то прямо-таки привлекательное для нормального человека. Даже от знакомых фанатов бандитского жанра я улавливал только желание держаться от этого всего подальше. Но что криминал идеализировали и показывали интереснее и человечнее, чем он есть на самом деле — чистая правда. И на мой взгляд это был бессознательный запрос самого общества.

Людям некомфортно жить с осознанием, что, с одной стороны кругом полно реальных отморозков, а с другой, каждый может сесть в тюрьму ни за что («от сумы и от тюрьмы не зарекайся»). Кто-то откровенно бежит от реальности, но многие начинают реальность аккуратно принаряжать. Например, они знают что тюрьма это ужас, но они начинают верить, что если знать и принимать тюремную культуру и понятия, то якобы там можно жить. Знают, что бандиты это отморозки, но программируют себя, что бандиты тоже люди.

Как я не старался фильтровать поток эскапистской брехни из массовой культуры, какая-то часть в меня проникла. Я не видел в жизни ни одного вора в законе, но я почему-то свято верил, что у воров в законе есть кодекс который нельзя нарушить, иначе они потеряют власть и влияние в преступном мире. Поразмыслив минуту, я понял, что в реальном преступном мире подчиняются тому, у кого есть силовой ресурс, деньги и связи. Кто может сделать так, чтобы не подчинившегося нашли насмерть забитым арматурой в гараже. И тем, кто может так сделать, подчиняться будут вне зависимости от того какие слова они произнесут на камеру.

Кстати, этот же феномен, я убеждён, долгое время был причиной одновременно и популярности Навального, и того, почему его не трогали. Но об этом напишу в другой раз.

Недавно, комментируя в Твиттере кадры опустевшего Степанакерта, я написал, что это, безусловно, трагедия, однако трагедия эта стоит не очень высоко в иерархии трагедий, поскольку практически все жители остались живы, а сам город не был разрушен. Если вдруг кто забыл или не знает контекст, Азербайджан вернул себе контроль над собственной международно признанной территорией, на которой ранее находилась непризнанная Нагорно-Карабахская Республика со столицей в Степанакерте — и на фоне восстановления Азербайджаном контроля над своей территорией, 100+ тысяч армян, проживавших на ней, покинули свои дома и эвакуировались в Армению. Некоторых людей задела моя формулировка «иерархия трагедий». Некоторые упрекнули меня в том, что я вообще смею подходить с линейкой к чужим страданиям.

Глядя на происходящее в Газе, которую сейчас сравнивают с землёй вместе с жителями, которые не могут никуда эвакуироваться, потому что этому сознательно препятствуют, я внезапно задумался: представьте, если в Степанакерте было бы также. Нашёлся ли бы хоть один человек, который посмел бы заявить сейчас, что это была бы не большая и не меньшая трагедия чем то, что случилось в Степанакерте в реальности, а просто другая? Что их нельзя сравнивать, что нет какой-то очевидной шкалы по которой один сценарий однозначно хуже другого?

Я признаю, у меня есть линейка человеческих страданий —и я абсолютно убеждён, что она есть и у каждого из вас. Это не что-то, чего стоит стесняться. Трагедии не равны друг другу, а страдания одних вполне можно соразмерить со страданиями других.

В заключение посоветую любимый текст на эту тему от Элиезера Юдковского.

Пришла в голову идея. Сейчас все соцсети пытаются бороться с ботами. Получается это с переменным успехом, насколько я могу судить. С одной стороны, очевидный спам про криптовалюту в комментариях встречаю постоянно. С другой стороны, аккаунты, с которых этот спам рассылается, оперативно удаляются. Я плохо понимаю по какой причине спам-аккаунты не блокируются превентивно, ведь очевидный спам без труда должен распознаваться несложными алгоритмами или нейросетями. Возможно я банально недооцениваю ресурсоёмкость предварительной проверки всех без исключения сообщений. Но так или иначе, спам быстро удаляется. Вероятно это происходит благодаря жалобам. Это создаёт равновесие Нэша, при котором спам существует и весь спам — максимально тупой.

Почему владельцы ботов не пытаются сделать свой спам менее очевидным? Потому, что если он будет менее очевидным, но всё ещё достаточно очевидным чтобы собирать жалобы, то улучшение ботов это ресурсы, потраченные впустую. Смысл вкладываться в более продвинутых ботов, если их всё равно блокируют примерно с той же скоростью? К тому же, я уверен, что помимо жалоб от пользователей есть и другие механизмы выявления ботов по их активности. Наверняка штучно существуют умные боты, способные обходить все проверки. Но в определённый момент становится выгоднее нанять живых людей, готовых работать за копейки («фабрики троллей»), чем всерьёз пытаться выиграть алгоритмическую гонку вооружений против соцсетей.

Теперь к моей идее. Что если сделать соцсеть на принципиально других принципах: уравнять в правах людей и ИИ, то есть буквально разрешить ботов, но при этом ввести ценз по качеству сообщений. Тогда живые люди с «фабрик троллей» будут нещадно удаляться, если они не будут стараться, а будут писать однотипные тупые сообщения по методичке. А умные ИИ-боты удаляться наоборот не будут, если они пишут интересно и собирают лайки как от людей, так и от других умных ботов. Каким образом, на каких принципах и какими техническими средствами реализовать ценз это нетривиальная и увлекательная задача, но мне пока интереснее понять, может ли вообще соцсеть, построенная на озвученных принципах, быть востребованной? Мне кажется —да.

Вчера, 21 октября, движение Pause AI провело первые протесты в нескольких городах США, Европы и Израиля в преддверье AI Safety Summit который стартует 1го ноября в Британии. Протесты, конечно, микроскопические по масштабу и совершенно незаметные в информационном поле, кроме как для людей вроде меня, кто плотно следит за темой AI Safety. Основное требование — ввести жёсткие ограничения против компаний, разрабатывающих ИИ, чтобы предотвратить появление «суперинтеллекта» (ИИ превосходящего людей). Очень любопытно, чем закончится сам саммит. Судя по заявленным темам, лейтмотивом должна быть как раз международная кооперация для обеспечения безопасности от рисков связанных с ИИ. Пока непонятно кто приедет на саммит вообще, и будут ли на нём китайцы в частности. Но по крайней мере саммит организован на уровне премьер-министра Британии, Риши Сунак будет участвовать лично, значит к проблеме относятся серьёзно.

Любопытно, что параллельно активность развивается и на противоположном фланге. На днях Марк Андриссен опубликовал манифест движения Эффективного Акселерационизма (e/acc). Эти ребята наоборот выступают за как можно более быстрое развитие технологий. По их мнению чем скорее мы создадим искусственный суперинтеллект, тем скорее мы будем жить в техноутопии. Соответственно к идеям о том, что развитие ИИ нужно замедлять, а то и вовсе останавливать, эти ребята относятся максимально плохо.

Два движения, две противоположные точки зрения, и обе мне абсолютно понятны и по-своему близки. С одной стороны, я максимально серьёзно отношусь к угрозе создания искусственного сверхинтеллекта не согласованного по ценностям с человечеством, что практически гарантированно закончится нашим вымиранием. Я не до конца убеждён в том, что человечеству в принципе по силам создать сверхинтеллект в ближайшем будущем. Я не уверен, что наблюдаемый сегодня стремительный прогресс в ИИ и факторы стоящие за этим прогрессом, масштабируются до сверхинтеллекта. В чём я однако вполне убеждён, так это в том, что если всё же человечеству по силам создать сверхинтеллект в ближайшем будущем, то двигаясь тем путём, которым оно двигается сейчас, оно непременно создаст именно сверхинтеллект не совместимый с собственным выживанием. Сделать безопасный сверхинтеллект это отдельная и скорее всего значительно более сложная задача, чем просто сделать сверхинтеллект. И в условиях гонки «кто создаст сверхинтеллект первым», решение задачи безопасности гарантировано опоздает.

С другой стороны, я отдаю себе отчёт в том, что создание сверхинтеллекта это единственный реалистичный шанс увидеть светлое трансгуманистическое будущее своими глазами. Мы живём в захватывающее время, когда научные и технологические прорывы в разных областях происходят чаще чем когда-либо в истории, но всё же темпы этих открытий, и особенно — темпы внедрения этих открытий в повседневную жизнь, слишком медленные. Слишком медленные чтобы лично мы дожили до технологий вроде омоложения и победы над болезнями. Эти технологии из современности уже абсолютно точно не выглядят недостижимыми в принципе, но нас от них отделяет слишком много Нобелевских Премий, чтобы ожидать их появления на нашем веку. Чтобы достичь их в ближайшие десятилетия, нужно каким-то образом на порядки увеличить количество учёных и лабораторий прямо сейчас. Понятно, что им физически неоткуда взяться, если речь идёт о людях. Единственное, что может всё перевернуть, это искусственный интеллект. Его, в отличие от людей, можно копировать и тиражировать сколько угодно. Не говоря уж о том, что он может быть умнее нас и думать в тысячи раз быстрее нас. Только ИИ может оказаться по плечу уместить в ближайшие десятилетия прогресс, на который у человечества «своим ходом» ушли бы столетия.

Поэтому лично я по-своему симпатизирую и Pause AI, и e/acc.

С тех пор как Россия напала на Украину, замечаю, что любая дополнительная горячая точка на планете создаёт массовый психоз насчёт Третьей Мировой. Сейчас он активизировался в связи с конфликтом в Газе. Илон Маск сегодня выступил на дискуссии с говорящим названием «Where is Israel-Hamas war headed? Could this lead to WW3?». При всём уважении к заслугам Маска, он известный трус и паникёр. Но таких как он очень много. Я искренне рад за человечество: мы впервые за свою историю вырастили поколение привыкшее к миру настолько, что два и более локальных конфликта кажутся ему без пяти минут мировой войной.

Я совершенно не разделяю психоза. Для меня важнее не номинальное количество конфликтов и их участников, а задействованные ресурсы. Если бы вместо Второй Мировой война была бы только между Германией и СССР, это все равно была бы крупнейшая и самая кровавая война в истории, хотя мировой она бы не называлась.

Признаюсь, в 2022 году у меня были опасения, что российское вторжение в Украину может привести к чему-то большему. Я боялся что отсутствие военных успехов может сподвигнуть Россию применить ядерное оружие, а его применение, в свою очередь, спровоцировать ответ со стороны НАТО. Вместе с тем, сегодня очевидно, что российско-украинская война перешла в войну на истощение, на решительные успехи Россия уже не рассчитывает, а Украине не дают их добиваться дозируя поставки вооружений. Применение Россией ядерного оружия теперь считаю маловероятным, как и прямое участие других стран в войне.

Что касается Ближнего Востока, на бумаге война Израиля при поддержке союзников (прежде всего США) против всего арабского или исламского мира звучит впечатляюще. На практике ничего подобного, конечно же, не будет. Во-первых, с высокой вероятностью, никакие другие страны в войну Израиля против ХАМАС не вступят вообще. На словах разумеется все исламские страны поддерживают народ Палестины, но на деле ни одна страна не выразила, например, готовность разместить у себя палестинских беженцев, даже детей. Египет так и вовсе дал понять, что если беженцы из Газы прорвут бетонную стену и побегут искать убежище в Египте, армия Египта откроет огонь. Не по Израилю, а по бегущим беженцам. Всевозможные выражения солидарности и митинги в поддержку стоят не больше чем озабоченность ООН.

Во-вторых, единство арабского и тем более исламского мира против Израиля существует только на словах. Один из главных лидеров исламского мира, владелица священных городов Мекки и Медины — Саудовская Аравия, Израилю точно не враг. Важнейший логистический проект мирового масштаба, коридор Индия—Европа (IMEC), который одним анонсом заставил Италию выйти из конкурирующего китайского Belt and Road, проходит как раз через Саудовскую Аравию и Израиль.

Главный непримиримый враг Израиля в регионе — Иран, а если быть точным, то иранская мафия под названием Корпус Стражей Исламской Революции, подмявшая под себя всю экономику и внешнюю политику Ирана. И ХАМАС, и Хезболла это вассалы КСИР. Нюанс в том, что все эти организации — шииты, и суннитским аравийским монархиям они точно такие же враги, как и Израилю. Верю ли я в возможность войны Израиля против Ирана (КСИР)? Да, и я думаю на Ближнем Востоке этой войны много кто хочет и ждёт, вот только болеть страны региона будут против обеих сторон, а помогать не будут ни одной. США же уже пообещали помощь Израилю в случае вступления Ирана в войну, и я не сомневаюсь, что в случае войны Иран потерпит поражение.

Все остальные гипотетические горячие точки на планете на мой взгляд не стоят внимания, кроме Тайваня. Но война за Тайвань, если она вообще состоится, по своей природе будет ограниченной морской войной, и закончится она либо убедительной победой Китая, либо столь же убедительной демонстрацией его слабости. В обоих сценариях она быстро закончится переговорами и миром, разница будет только в условиях этого мира. В обмен ядерными ударами или высадку иностранных войск на материковый Китай я не верю ни при каких обстоятельствах.

В позапрошлый вторник прошла встреча ИИ-клуба ololo, основателем которого я являюсь, по теме "ИИ и Сознание". Одним из спикеров был я сам, другим — Александра Латышкова, нейробиолог и мой учитель по машинному обучению. Принципиальная политика ИИ-клуба — не вести записи и трансляции встреч. Смысл клуба — в создании ИРЛ-сообщества людей, которым интересен ИИ. Суть именно в реальной составляющей, в личном присутствии и личном знакомстве. В интернете материалов, мероприятий, сообществ и всего остального про ИИ и без нас полным полно.

Тем не менее, это не значит, что из клуба ничего нельзя выносить наружу. Наоборот, чем больше и чем в более широком кругу затронутые на встречах клуба темы будут обсуждаться, тем с моей точки зрения лучше. В частности тема "ИИ и Сознание" вызвала большой интерес. Поэтому я наконец собрался и опубликовал у себя в блоге статью, которая резюмирует мои взгляды на тему и включает в себя почти всё что я говорил на встрече и что лично я вынес из выступления Александры. Сюда свой пост дублировать не буду, потому что он слишком длинный.

На вчерашней встрече ИИ-клуба обсуждали тему «ИИ в Медицине», спикером был доктор Эркин Джаманбаев. Эркин — уважаемый и известный в Кыргызстане человек, строгий приверженец доказательной медицины, при этом он хорошо разбирается и в традиционной. Много лет работал как в Кыргызстане, так и за границей, сейчас занимает должности в европейской клинике и в канадской консалтинговой фирме. Ему 59 лет.

Когда я шёл на встречу, я не понятия не имел о чём конкретно будет говорить доктор Эркин, насколько хорошо он знаком с темой Искусственного Интеллекта и настроен ли он скептично или оптимистично по отношению к использованию ИИ в медицине. Но у меня почему-то были ожидания, что главный посыл его выступления будет в том, что ИИ живого врача никогда не заменит. С кучей примеров из практики почему это так. Я морально готовился, что мне придётся оппонировать и говорить о том, что не стоит недооценивать ИИ. Что даже если сегодняшний ИИ имеет серьёзные ограничения, будущий ИИ сможет их преодолеть. Хотя кто я такой чтобы спорить с уважаемым врачом?

Так вот, реальность разбила мои ожидания вдребезги. Сказать что я сильно удивлён это ничего не сказать. Доктор Эркин оказался гораздо более радикальным ИИ-энтузиастом чем я сам. Он утверждал не что ИИ не сможет заменить живых врачей, а наоборот, что сможет. Более того, что уже может. И гораздо большее количество врачебных специальностей чем я смел предполагать. Включая даже хирургов, включая даже традиционную медицину.

По мнению доктор Эркина, три главные причины почему мы ещё не видим массово ИИ-врачей или роботов-врачей в реальности, это этика, бюрократия и мощнейшее медицинское лобби. Под этикой имеется ввиду стандартная проблема: если из-за ошибки ИИ-врача умрёт пациент, кого сажать в тюрьму? ИИ не посадишь, разработчиков целая куча, и как установить чья конкретно вина? И даже если ИИ совершает врачебные ошибки в миллион раз реже людей, пока этический вопрос что делать с ответственностью не решён, ИИ без человека работать не будет. Точно такая же проблема стоит, например, перед беспилотными автомобилями.

С бюрократией и медицинским лобби тоже всё понятно. Медицина одна из самых зарегулированных областей, внедрить что-то новое, тем более принципиальное новое, требует согласований на несколько десятилетий. Ну а с учётом того, что врач — одна из самых высокооплачиваемых профессий на Западе и одна из профессий откуда чаще всего идут в политику, лишаться денег и власти, отдавая свою профессию роботам и ИИ никто, понятно, торопиться не будет. А наоборот будет сопротивляться всем имеющимся колоссальным ресурсом.

Но технологически будущее уже наступило. ИИ уже лучше человека в медицине. И оговорок к этому утверждению гораздо меньше чем я предполагал. Кто я такой чтобы спорить с уважаемым врачом?

Вывод из всего этого такой, что на B2G сегмент сейчас надежды нет совсем (пытаться протолкнуть ИИ в клиники через правительство дохлый номер). На B2B сегмент надежды тоже мало (предлагать ИИ-системы конкретным клиникам, чтобы они их использовали под свою ответственность). Но есть надежда на B2C сегмент. Делать сервисы непосредственно для людей, готовых взять своё здоровье в свои руки.

Если вы когда-нибудь до последних пары дней слышали словосочетание «дообученный ChatGPT», скорее всего вас вводили в заблуждение. Дообученных ChatGPT не существовало в природе, разве что в недрах самих Open AI. Под «дообученными GhatGPT» могли понимать одно из двух. Либо дообученные опенсорсные аналоги ChatGPT вроде LlaMA, либо речь шла о «дообучении» настоящего ChatGPT через prompt engineering.

Настоящее дообучение — это берутся исходники (веса) модели и подвергаются тому же процессу благодаря которому они появились на свет, то есть обучению. Но в этот раз обучение во-первых идёт очень недолго, а во-вторых оно идёт, как правило, на узкоспециализированных данных. Берётся, например, универсальная языковая модель, обученная на миллионах разных книг и ей для дообучения скармливают, скажем, пару десятков книг только по юриспруденции. На выходе получается модифицированная модель, которая будет хорошо отвечать на юридические вопросы. При этом она не забудет остальные знания. То есть дообученная модель лучше базовой в «своей» области и может быть несколько хуже во всём остальном. Соответственно, чтобы дообучить модель, вам прежде всего нужны её исходники. Ну и доступ к вычислительным мощностям, которые потянут этот процесс. Исходники ChatGPT в открытый доступ никогда не выкладывали, уже поэтому никто кроме Open AI не мог его дообучать. Вычислительные ресурсы для дообучения ChatGPT в мире есть много у кого, но не у простых смертных и не у мелких организаций. Однако без доступа к исходникам это не имеет значения.

Prompt engineering это более простая вещь. Она никак не изменяет саму модель. Просто перед каждым запросом в ChatGPT дописывается что-то вроде «отвечай на следующий вопрос так, как будто ты профессиональный адвокат, вот тебе контекст xxx». При этом контекст xxx, который туда можно передать, ограничен максимальной длинной запроса. Даже одна книга по юриспруденции в него не поместится, например. Никаких новых знаний кроме как переданных через сам запрос в виде контекста xxx у ChatGPT не появляется. От того, что вы ему скажите «отвечай как адвокат», изменится его манера общения, но не информация которую он знает.

Что касается LLaMA, это аналог ChatGPT с открытыми исходниками. LlaMA не сильно хуже ChatGPT несмотря на то, что у LlaMa в 5-15 раз меньше параметров. И её действительно много кто дообучал и продолжает дообучать под разные задачи. Но когда я говорю «не сильно хуже», я имею ввиду базовый ChatGPT основанный на прошлогодней GPT-3.5. Современный доступный по платной подписке ChatGPT Plus основан на GPT-4, которая вышла в начале этого года, и она пока не по зубам никому. Куда там LlaMA, даже Bard и Claude, флагманские модели от Deepmind и Anthropic не ровня GPT-4. За возможность сделать дообученный GPT-4 многие бы, наверное, были готовы заплатить большие деньги… и такая возможность внезапно появилась!

Open AI запустили сервис Custom Models, который как раз и позволяет сделать дообученный GPT-4. Исходники, конечно, вам никто не даст. Но они выделят инженеров и проведут дообучение сами. С вас только данные. И денежка… цена вопроса — 2-3 миллиона долларов. И ждать результата придётся несколько месяцев.

А теперь самое интересное. AI-исследователь из Nvidia опубликовал пост, в котором справедливо отмечает, что это на самом деле очень выгодное предложение. Потому что самостоятельно сделать свой аналог на базе LlaMA-2 с учётом найма инженеров и аренды ресурсов скорее всего выйдет не дешевле, а по результатам GPT-4 по прежнему впереди всех. Понятно, что не у всех есть 2-3 миллиона долларов, но вы задумывались насколько много людей и организаций, у которых они всё-таки есть? И вы представляете на что способен дообученный GPT-4? На медицинских или юридических знаниях, например. Мне кажется такая модель молниеносно принесёт ценности больше чем на 3 миллиона долларов.

Прокомментирую две самые обсуждаемые новости последних дней. Начну с менее важной.

На президентских выборах в Аргентине впервые в истории победил либертарианец Хавьер Милей. В своей предвыборной кампании он делал эпатажные заявления, вроде обещаний закрыть половину министерств, перевести Аргентину на американский доллар и сжечь Центробанк. Уже после победы на выборах он подтвердил что через 3 недели закроет Министерство Женщин, Гендеров и Разнообразия (да, в Аргентине есть такое), а также приватизировать государственные медиа компании.

По поводу победы Милея я хочу сказать три вещи. Во-первых, у его победы есть одна безусловно позитивная сторона. А именно: надоевшие всем прежние элиты лишились главного поста в стране демократическим путём. Абсолютно несистемный кандидат пришёл к власти через победу на честных выборах. Сам факт что в стране такое возможно это очень круто для Аргентины вне зависимости от того как кто относится конкретно к Милею.

Во-вторых, система, очевидно, будет изо всех сил саботировать деятельность несистемного президента. Мы это уже видели в США, когда многие предвыборные обещания, вроде постройки стены на границе с Мексикой, Трамп не смог сдержать в силу того, что их претворение в жизнь требовало поддержки Конгресса, а Конгресс даже при большинстве республиканцев не всегда поддерживал решения президента. Я плохо разбираюсь в государственном устройстве Аргентины, но не сомневаюсь, что в её аппарате найдутся механизмы сдержек и противовесов, которые не позволят Милею единолично претворять в жизнь радикальные решения.

В-третьих, СМИ очень любят приписывать существующие в моменте проблемы и успехи действующей власти, но на самом деле экономические и инфраструктурные изменения обладают большой инерцией и зачастую новый президент вынужден отвечать за последствия решений принятых при прошлой администрации. Оценивать деятельность Милея надо будет ближе к концу его срока, если, конечно, он вообще досидит до конца срока. Смаковать его победы и провалы в ближайший год я точно не вижу смысла.

Теперь к более важной новости. Непонятные события происходят в компании Open AI, лидере на рынке искусственного интеллекта. Сперва совет директоров с максимально враждебными формулировками уволил CEO Сэма Альтмана. Но внезапно большая часть сотрудников поддержала бывшего СЕО и стала требовать возвращения Альмана и отставки уже самого совета директоров, уволившего его. Затем вмешался главный спонсор Open AI, компания Microsoft. На сегодняшний день похоже что Альтман всё же переходит из Open AI непосредственно в Microsoft и значительная часть сотрудников переходят вместе с ним.

Я, как и видимо все, понятия не имею чем вызвана эта внезапная чехарда на гребне успеха. Но меня она откровенно пугает. Open AI была некоммерческой организацией которая декларировала миссию создания безопасного Искусственного Интеллекта. Насколько Open AI в реальности соответствовали своей миссии это другой разговор. Но Microsoft выглядит как компания с гораздо большими ресурсами и гораздо меньшим количеством ограничений. Они планируют потратить более 50 миллиардов долларов в 2024 на создание датацентров для обучения ИИ. И теперь у них есть компетентный СЕО и его команда, создавшие лучший на сегодняшний день ИИ GPT-4.

При этом ходят правдоподобные слухи, что причиной попытки увольнения Альтмана стал как раз слишком стремительный прогресс, достигнутый в их новой ещё не опубликованной модели, который напугал главу разработки Илью Суцкевера. Так это или нет мы теперь вряд ли узнаем.

В России и некоторых странах бывшего СССР Рождество празднуют 7 января, говоря что это «наше», «православное» Рождество, а 25 декабря это «католическое» Рождество. У меня в родне все считали себя православными (хотя реальных верующих почти не было) и праздновали Рождество 7 января, не говоря у ж том, что в России это целый государственный праздник. Поэтому большую часть жизни я по привычке считал что «моё» Рождество 7го января.

Однако в России основным праздником для большинства людей является всё-таки Новый Год, а не Рождество. Рождество большое значение имеет только для верующих которые ходят в церковь. Для меня как для атеиста Новый Год тоже всегда был гораздо важнее.

Но недавно я окончательно осознал и осмыслил, что во-первых, 25 декабря это не «католическое» Рождество. 25 декабря Рождество празднует подавляющее большинство христиан: католики, протестанты и не менее половины православных, включая Константинопольскую Церковь, считающуюся первой среди равных у православных.

Во-вторых, спор о дате Рождества это как ни странно спор не религиозный. Старый Юлианский календарь, по которому считает дату РПЦ, не является священным и вообще не имеет отношения к религии. Он лишь был общепринятым в момент её распространения. Потом большая часть мира, включая христианские конфессии, благополучно перешла на более совершенные календари — либо Григорианский, либо Новоюлианский. Они более точно отсчитывают количество полных оборотов Земли вокруг Солнца в днях. Споров о дне когда родился Иисус Христос среди христиан нет! Вопрос исключительно в том, сколько полных оборотов совершила Земля вокруг Солнца с того дня и спор этот не теологический, а исключительно научный, астрономический, а значит на него есть правильный ответ. Для меня в тех вопросах где есть пересечения, наука имеет однозначный приоритет перед традицией.

В-третьих, Рождество которое мир празднует 25 декабря гораздо больше похоже на российский Новый Год, то есть на светский праздник, нежели на религиозный. К этому дню приурочены всевозможные распродажи, люди к нему украшают свои дома не имеющей никакой отношения к религии символикой, и т. п. Я как атеист в гораздо большей степени чувствую себя своим среди людей, которые празднуют Рождество 25 декабря. Поэтому могу теперь точно сказать что «моё» Рождество это то, которое сегодня, а не то, которое через две недели. Хотя в полной мере ни то, ни другое, конечно, не являются «моими» праздниками. Но на сегодняшнем я менее чужой.

Поэтому всех, кому религия не запрещает сегодня праздновать, поздравляю с Рождеством!