Сходили в кино на фильм The Creator (Создатель). Заинтересовала главным образом тематика (конфликт человечества и искусственного интеллекта). Высоких ожиданий у меня не было, поскольку любой фильм, показывающий войну человечества против ИИ, для меня по умолчанию hopepunk, а не hard sci-fi. Тем не менее в 2023 году на фоне обсуждений в парламентах о необходимости регулирования ИИ и появления массового интереса к тематике угрозы со стороны ИИ, я ожидал от фильма чуть более глубокого и технически грамотного погружения в тему чем обычно.

Увы, фильм оказался глупым боевиком с невразумительным сюжетом и безграмотной до уровня комичности технической частью. Удивительно, что в 2023 году на фоне повышенного интереса к теме ИИ на экраны выходит претендующая на серьёзность картина и оказывается при этом содержательно даже большей туфтой чем чисто развлекательные зрелища тридцатилетней давности вроде «Терминатора».

На сегодняшний день лучший фильм про ИИ с большим отрывом из всего что я видел это Transcendence (Превосходство), 2014. Это единственный фильм который более-менее раскрывает серьёзность тематики. На втором месте для меня идёт Ex Machina (Из Машины), тоже 2014. Он тоже достаточно аккуратный технически, но акцентирует внимание на второстепенной проблеме в рамках тематики. Зато он красиво сделан. Всё остальное что я видел это уже чисто развлекательные фильмы без особых претензий (что ни в коем случае не делает фильмы плохими), лучшим из которых я считаю I, Robot (Я, Робот) 2004 года.

«Создатель» же, увы, далеко за пределами того, что я мог бы порекомендовать к просмотру вне зависимости от критериев. Похвалить в нём могу разве что красивые виды Юго-Восточной Азии в стиле киберпанка, но одновременно придётся поругать чрезмерно стереотипную репрезентацию тамошних народов. В остальном — слабый боевик, ужасная фантастика, приторная притча.

Сегодня увидел ролик, в котором бывший кыргызский криминальный авторитет сделал заявление, что он давно живёт по закону и не имеет никакого криминального статуса. Это не первый подобный ролик за последние дни, а началось всё с недавнего убийства известного криминального авторитета при задержании. Сразу скажу, что трогать тему борьбы с криминалом в Кыргызстане я не буду — я в ней совершенно не разбираюсь. Я хочу рассказать, как в мою картину мира однажды попала туфта и оставалась незамеченной двадцать лет, пока я сегодня не поймал себя на замешательстве во время просмотра того ролика.

В замешательство меня привела фраза, крутящаяся где-то на задворках сознания: «вор в законе не может отказаться от своего статуса». У меня возникло странное ощущение будто я вижу нечто невозможное. А потом я спохватился: откуда я знаю, что вор в законе не может отказаться от статуса? Вернее даже не так. Почему эта информация помечена у меня в голове как настолько достоверная, что я испытываю замешательство глядя на видео?

Я никогда не изучал криминальную культуру. Но живя в России не знать о ней было невозможно. В конце 90х и начале 00х самыми культовыми были шоу про бандитов (Брат, Бригада, Бандитский Петербург, и т. п). В физматшколе где я учился был короткий период, когда все пацаны в соседних блоках общежития повально учились «говорить по фене», изучали воровские понятия и травили истории про знакомых зэков. Большинство всё это делало скорее в виде отыгрыша, но для некоторых тема была сакральной. В интернете тюремная тема была одной из самых популярных на Дваче. С культурой «АУЕ» я в реальной жизни не сталкивался, но в интернете про неё читал, потому что писали про неё везде.

Эти источники нельзя назвать достоверными. Они не то чтобы не имели связи с реальностью. Но реальность скучная. Даже в криминальной хронике показывают не всё подряд, а выбирают самое интересное. Кино, сериалы, истории в интернете должны захватывать внимание. Даже если они достоверны, они выбирают самое необычное из достоверного. А гораздо чаще это просто вымысел по мотивам.

Но вымысел тоже может быть разным. Я часто слышал об опасности романтизации бандитов, мол, криминал становится привлекательным для молодёжи. Но на мой взгляд, эти разговоры скрыли более масштабную проблему. Я не помню, чтобы криминал показывали как что-то прямо-таки привлекательное для нормального человека. Даже от знакомых фанатов бандитского жанра я улавливал только желание держаться от этого всего подальше. Но что криминал идеализировали и показывали интереснее и человечнее, чем он есть на самом деле — чистая правда. И на мой взгляд это был бессознательный запрос самого общества.

Людям некомфортно жить с осознанием, что, с одной стороны кругом полно реальных отморозков, а с другой, каждый может сесть в тюрьму ни за что («от сумы и от тюрьмы не зарекайся»). Кто-то откровенно бежит от реальности, но многие начинают реальность аккуратно принаряжать. Например, они знают что тюрьма это ужас, но они начинают верить, что если знать и принимать тюремную культуру и понятия, то якобы там можно жить. Знают, что бандиты это отморозки, но программируют себя, что бандиты тоже люди.

Как я не старался фильтровать поток эскапистской брехни из массовой культуры, какая-то часть в меня проникла. Я не видел в жизни ни одного вора в законе, но я почему-то свято верил, что у воров в законе есть кодекс который нельзя нарушить, иначе они потеряют власть и влияние в преступном мире. Поразмыслив минуту, я понял, что в реальном преступном мире подчиняются тому, у кого есть силовой ресурс, деньги и связи. Кто может сделать так, чтобы не подчинившегося нашли насмерть забитым арматурой в гараже. И тем, кто может так сделать, подчиняться будут вне зависимости от того какие слова они произнесут на камеру.

Кстати, этот же феномен, я убеждён, долгое время был причиной одновременно и популярности Навального, и того, почему его не трогали. Но об этом напишу в другой раз.

Недавно, комментируя в Твиттере кадры опустевшего Степанакерта, я написал, что это, безусловно, трагедия, однако трагедия эта стоит не очень высоко в иерархии трагедий, поскольку практически все жители остались живы, а сам город не был разрушен. Если вдруг кто забыл или не знает контекст, Азербайджан вернул себе контроль над собственной международно признанной территорией, на которой ранее находилась непризнанная Нагорно-Карабахская Республика со столицей в Степанакерте — и на фоне восстановления Азербайджаном контроля над своей территорией, 100+ тысяч армян, проживавших на ней, покинули свои дома и эвакуировались в Армению. Некоторых людей задела моя формулировка «иерархия трагедий». Некоторые упрекнули меня в том, что я вообще смею подходить с линейкой к чужим страданиям.

Глядя на происходящее в Газе, которую сейчас сравнивают с землёй вместе с жителями, которые не могут никуда эвакуироваться, потому что этому сознательно препятствуют, я внезапно задумался: представьте, если в Степанакерте было бы также. Нашёлся ли бы хоть один человек, который посмел бы заявить сейчас, что это была бы не большая и не меньшая трагедия чем то, что случилось в Степанакерте в реальности, а просто другая? Что их нельзя сравнивать, что нет какой-то очевидной шкалы по которой один сценарий однозначно хуже другого?

Я признаю, у меня есть линейка человеческих страданий —и я абсолютно убеждён, что она есть и у каждого из вас. Это не что-то, чего стоит стесняться. Трагедии не равны друг другу, а страдания одних вполне можно соразмерить со страданиями других.

В заключение посоветую любимый текст на эту тему от Элиезера Юдковского.

Пришла в голову идея. Сейчас все соцсети пытаются бороться с ботами. Получается это с переменным успехом, насколько я могу судить. С одной стороны, очевидный спам про криптовалюту в комментариях встречаю постоянно. С другой стороны, аккаунты, с которых этот спам рассылается, оперативно удаляются. Я плохо понимаю по какой причине спам-аккаунты не блокируются превентивно, ведь очевидный спам без труда должен распознаваться несложными алгоритмами или нейросетями. Возможно я банально недооцениваю ресурсоёмкость предварительной проверки всех без исключения сообщений. Но так или иначе, спам быстро удаляется. Вероятно это происходит благодаря жалобам. Это создаёт равновесие Нэша, при котором спам существует и весь спам — максимально тупой.

Почему владельцы ботов не пытаются сделать свой спам менее очевидным? Потому, что если он будет менее очевидным, но всё ещё достаточно очевидным чтобы собирать жалобы, то улучшение ботов это ресурсы, потраченные впустую. Смысл вкладываться в более продвинутых ботов, если их всё равно блокируют примерно с той же скоростью? К тому же, я уверен, что помимо жалоб от пользователей есть и другие механизмы выявления ботов по их активности. Наверняка штучно существуют умные боты, способные обходить все проверки. Но в определённый момент становится выгоднее нанять живых людей, готовых работать за копейки («фабрики троллей»), чем всерьёз пытаться выиграть алгоритмическую гонку вооружений против соцсетей.

Теперь к моей идее. Что если сделать соцсеть на принципиально других принципах: уравнять в правах людей и ИИ, то есть буквально разрешить ботов, но при этом ввести ценз по качеству сообщений. Тогда живые люди с «фабрик троллей» будут нещадно удаляться, если они не будут стараться, а будут писать однотипные тупые сообщения по методичке. А умные ИИ-боты удаляться наоборот не будут, если они пишут интересно и собирают лайки как от людей, так и от других умных ботов. Каким образом, на каких принципах и какими техническими средствами реализовать ценз это нетривиальная и увлекательная задача, но мне пока интереснее понять, может ли вообще соцсеть, построенная на озвученных принципах, быть востребованной? Мне кажется —да.

Вчера, 21 октября, движение Pause AI провело первые протесты в нескольких городах США, Европы и Израиля в преддверье AI Safety Summit который стартует 1го ноября в Британии. Протесты, конечно, микроскопические по масштабу и совершенно незаметные в информационном поле, кроме как для людей вроде меня, кто плотно следит за темой AI Safety. Основное требование — ввести жёсткие ограничения против компаний, разрабатывающих ИИ, чтобы предотвратить появление «суперинтеллекта» (ИИ превосходящего людей). Очень любопытно, чем закончится сам саммит. Судя по заявленным темам, лейтмотивом должна быть как раз международная кооперация для обеспечения безопасности от рисков связанных с ИИ. Пока непонятно кто приедет на саммит вообще, и будут ли на нём китайцы в частности. Но по крайней мере саммит организован на уровне премьер-министра Британии, Риши Сунак будет участвовать лично, значит к проблеме относятся серьёзно.

Любопытно, что параллельно активность развивается и на противоположном фланге. На днях Марк Андриссен опубликовал манифест движения Эффективного Акселерационизма (e/acc). Эти ребята наоборот выступают за как можно более быстрое развитие технологий. По их мнению чем скорее мы создадим искусственный суперинтеллект, тем скорее мы будем жить в техноутопии. Соответственно к идеям о том, что развитие ИИ нужно замедлять, а то и вовсе останавливать, эти ребята относятся максимально плохо.

Два движения, две противоположные точки зрения, и обе мне абсолютно понятны и по-своему близки. С одной стороны, я максимально серьёзно отношусь к угрозе создания искусственного сверхинтеллекта не согласованного по ценностям с человечеством, что практически гарантированно закончится нашим вымиранием. Я не до конца убеждён в том, что человечеству в принципе по силам создать сверхинтеллект в ближайшем будущем. Я не уверен, что наблюдаемый сегодня стремительный прогресс в ИИ и факторы стоящие за этим прогрессом, масштабируются до сверхинтеллекта. В чём я однако вполне убеждён, так это в том, что если всё же человечеству по силам создать сверхинтеллект в ближайшем будущем, то двигаясь тем путём, которым оно двигается сейчас, оно непременно создаст именно сверхинтеллект не совместимый с собственным выживанием. Сделать безопасный сверхинтеллект это отдельная и скорее всего значительно более сложная задача, чем просто сделать сверхинтеллект. И в условиях гонки «кто создаст сверхинтеллект первым», решение задачи безопасности гарантировано опоздает.

С другой стороны, я отдаю себе отчёт в том, что создание сверхинтеллекта это единственный реалистичный шанс увидеть светлое трансгуманистическое будущее своими глазами. Мы живём в захватывающее время, когда научные и технологические прорывы в разных областях происходят чаще чем когда-либо в истории, но всё же темпы этих открытий, и особенно — темпы внедрения этих открытий в повседневную жизнь, слишком медленные. Слишком медленные чтобы лично мы дожили до технологий вроде омоложения и победы над болезнями. Эти технологии из современности уже абсолютно точно не выглядят недостижимыми в принципе, но нас от них отделяет слишком много Нобелевских Премий, чтобы ожидать их появления на нашем веку. Чтобы достичь их в ближайшие десятилетия, нужно каким-то образом на порядки увеличить количество учёных и лабораторий прямо сейчас. Понятно, что им физически неоткуда взяться, если речь идёт о людях. Единственное, что может всё перевернуть, это искусственный интеллект. Его, в отличие от людей, можно копировать и тиражировать сколько угодно. Не говоря уж о том, что он может быть умнее нас и думать в тысячи раз быстрее нас. Только ИИ может оказаться по плечу уместить в ближайшие десятилетия прогресс, на который у человечества «своим ходом» ушли бы столетия.

Поэтому лично я по-своему симпатизирую и Pause AI, и e/acc.

С тех пор как Россия напала на Украину, замечаю, что любая дополнительная горячая точка на планете создаёт массовый психоз насчёт Третьей Мировой. Сейчас он активизировался в связи с конфликтом в Газе. Илон Маск сегодня выступил на дискуссии с говорящим названием «Where is Israel-Hamas war headed? Could this lead to WW3?». При всём уважении к заслугам Маска, он известный трус и паникёр. Но таких как он очень много. Я искренне рад за человечество: мы впервые за свою историю вырастили поколение привыкшее к миру настолько, что два и более локальных конфликта кажутся ему без пяти минут мировой войной.

Я совершенно не разделяю психоза. Для меня важнее не номинальное количество конфликтов и их участников, а задействованные ресурсы. Если бы вместо Второй Мировой война была бы только между Германией и СССР, это все равно была бы крупнейшая и самая кровавая война в истории, хотя мировой она бы не называлась.

Признаюсь, в 2022 году у меня были опасения, что российское вторжение в Украину может привести к чему-то большему. Я боялся что отсутствие военных успехов может сподвигнуть Россию применить ядерное оружие, а его применение, в свою очередь, спровоцировать ответ со стороны НАТО. Вместе с тем, сегодня очевидно, что российско-украинская война перешла в войну на истощение, на решительные успехи Россия уже не рассчитывает, а Украине не дают их добиваться дозируя поставки вооружений. Применение Россией ядерного оружия теперь считаю маловероятным, как и прямое участие других стран в войне.

Что касается Ближнего Востока, на бумаге война Израиля при поддержке союзников (прежде всего США) против всего арабского или исламского мира звучит впечатляюще. На практике ничего подобного, конечно же, не будет. Во-первых, с высокой вероятностью, никакие другие страны в войну Израиля против ХАМАС не вступят вообще. На словах разумеется все исламские страны поддерживают народ Палестины, но на деле ни одна страна не выразила, например, готовность разместить у себя палестинских беженцев, даже детей. Египет так и вовсе дал понять, что если беженцы из Газы прорвут бетонную стену и побегут искать убежище в Египте, армия Египта откроет огонь. Не по Израилю, а по бегущим беженцам. Всевозможные выражения солидарности и митинги в поддержку стоят не больше чем озабоченность ООН.

Во-вторых, единство арабского и тем более исламского мира против Израиля существует только на словах. Один из главных лидеров исламского мира, владелица священных городов Мекки и Медины — Саудовская Аравия, Израилю точно не враг. Важнейший логистический проект мирового масштаба, коридор Индия—Европа (IMEC), который одним анонсом заставил Италию выйти из конкурирующего китайского Belt and Road, проходит как раз через Саудовскую Аравию и Израиль.

Главный непримиримый враг Израиля в регионе — Иран, а если быть точным, то иранская мафия под названием Корпус Стражей Исламской Революции, подмявшая под себя всю экономику и внешнюю политику Ирана. И ХАМАС, и Хезболла это вассалы КСИР. Нюанс в том, что все эти организации — шииты, и суннитским аравийским монархиям они точно такие же враги, как и Израилю. Верю ли я в возможность войны Израиля против Ирана (КСИР)? Да, и я думаю на Ближнем Востоке этой войны много кто хочет и ждёт, вот только болеть страны региона будут против обеих сторон, а помогать не будут ни одной. США же уже пообещали помощь Израилю в случае вступления Ирана в войну, и я не сомневаюсь, что в случае войны Иран потерпит поражение.

Все остальные гипотетические горячие точки на планете на мой взгляд не стоят внимания, кроме Тайваня. Но война за Тайвань, если она вообще состоится, по своей природе будет ограниченной морской войной, и закончится она либо убедительной победой Китая, либо столь же убедительной демонстрацией его слабости. В обоих сценариях она быстро закончится переговорами и миром, разница будет только в условиях этого мира. В обмен ядерными ударами или высадку иностранных войск на материковый Китай я не верю ни при каких обстоятельствах.

В позапрошлый вторник прошла встреча ИИ-клуба ololo, основателем которого я являюсь, по теме "ИИ и Сознание". Одним из спикеров был я сам, другим — Александра Латышкова, нейробиолог и мой учитель по машинному обучению. Принципиальная политика ИИ-клуба — не вести записи и трансляции встреч. Смысл клуба — в создании ИРЛ-сообщества людей, которым интересен ИИ. Суть именно в реальной составляющей, в личном присутствии и личном знакомстве. В интернете материалов, мероприятий, сообществ и всего остального про ИИ и без нас полным полно.

Тем не менее, это не значит, что из клуба ничего нельзя выносить наружу. Наоборот, чем больше и чем в более широком кругу затронутые на встречах клуба темы будут обсуждаться, тем с моей точки зрения лучше. В частности тема "ИИ и Сознание" вызвала большой интерес. Поэтому я наконец собрался и опубликовал у себя в блоге статью, которая резюмирует мои взгляды на тему и включает в себя почти всё что я говорил на встрече и что лично я вынес из выступления Александры. Сюда свой пост дублировать не буду, потому что он слишком длинный.

На вчерашней встрече ИИ-клуба обсуждали тему «ИИ в Медицине», спикером был доктор Эркин Джаманбаев. Эркин — уважаемый и известный в Кыргызстане человек, строгий приверженец доказательной медицины, при этом он хорошо разбирается и в традиционной. Много лет работал как в Кыргызстане, так и за границей, сейчас занимает должности в европейской клинике и в канадской консалтинговой фирме. Ему 59 лет.

Когда я шёл на встречу, я не понятия не имел о чём конкретно будет говорить доктор Эркин, насколько хорошо он знаком с темой Искусственного Интеллекта и настроен ли он скептично или оптимистично по отношению к использованию ИИ в медицине. Но у меня почему-то были ожидания, что главный посыл его выступления будет в том, что ИИ живого врача никогда не заменит. С кучей примеров из практики почему это так. Я морально готовился, что мне придётся оппонировать и говорить о том, что не стоит недооценивать ИИ. Что даже если сегодняшний ИИ имеет серьёзные ограничения, будущий ИИ сможет их преодолеть. Хотя кто я такой чтобы спорить с уважаемым врачом?

Так вот, реальность разбила мои ожидания вдребезги. Сказать что я сильно удивлён это ничего не сказать. Доктор Эркин оказался гораздо более радикальным ИИ-энтузиастом чем я сам. Он утверждал не что ИИ не сможет заменить живых врачей, а наоборот, что сможет. Более того, что уже может. И гораздо большее количество врачебных специальностей чем я смел предполагать. Включая даже хирургов, включая даже традиционную медицину.

По мнению доктор Эркина, три главные причины почему мы ещё не видим массово ИИ-врачей или роботов-врачей в реальности, это этика, бюрократия и мощнейшее медицинское лобби. Под этикой имеется ввиду стандартная проблема: если из-за ошибки ИИ-врача умрёт пациент, кого сажать в тюрьму? ИИ не посадишь, разработчиков целая куча, и как установить чья конкретно вина? И даже если ИИ совершает врачебные ошибки в миллион раз реже людей, пока этический вопрос что делать с ответственностью не решён, ИИ без человека работать не будет. Точно такая же проблема стоит, например, перед беспилотными автомобилями.

С бюрократией и медицинским лобби тоже всё понятно. Медицина одна из самых зарегулированных областей, внедрить что-то новое, тем более принципиальное новое, требует согласований на несколько десятилетий. Ну а с учётом того, что врач — одна из самых высокооплачиваемых профессий на Западе и одна из профессий откуда чаще всего идут в политику, лишаться денег и власти, отдавая свою профессию роботам и ИИ никто, понятно, торопиться не будет. А наоборот будет сопротивляться всем имеющимся колоссальным ресурсом.

Но технологически будущее уже наступило. ИИ уже лучше человека в медицине. И оговорок к этому утверждению гораздо меньше чем я предполагал. Кто я такой чтобы спорить с уважаемым врачом?

Вывод из всего этого такой, что на B2G сегмент сейчас надежды нет совсем (пытаться протолкнуть ИИ в клиники через правительство дохлый номер). На B2B сегмент надежды тоже мало (предлагать ИИ-системы конкретным клиникам, чтобы они их использовали под свою ответственность). Но есть надежда на B2C сегмент. Делать сервисы непосредственно для людей, готовых взять своё здоровье в свои руки.

Если вы когда-нибудь до последних пары дней слышали словосочетание «дообученный ChatGPT», скорее всего вас вводили в заблуждение. Дообученных ChatGPT не существовало в природе, разве что в недрах самих Open AI. Под «дообученными GhatGPT» могли понимать одно из двух. Либо дообученные опенсорсные аналоги ChatGPT вроде LlaMA, либо речь шла о «дообучении» настоящего ChatGPT через prompt engineering.

Настоящее дообучение — это берутся исходники (веса) модели и подвергаются тому же процессу благодаря которому они появились на свет, то есть обучению. Но в этот раз обучение во-первых идёт очень недолго, а во-вторых оно идёт, как правило, на узкоспециализированных данных. Берётся, например, универсальная языковая модель, обученная на миллионах разных книг и ей для дообучения скармливают, скажем, пару десятков книг только по юриспруденции. На выходе получается модифицированная модель, которая будет хорошо отвечать на юридические вопросы. При этом она не забудет остальные знания. То есть дообученная модель лучше базовой в «своей» области и может быть несколько хуже во всём остальном. Соответственно, чтобы дообучить модель, вам прежде всего нужны её исходники. Ну и доступ к вычислительным мощностям, которые потянут этот процесс. Исходники ChatGPT в открытый доступ никогда не выкладывали, уже поэтому никто кроме Open AI не мог его дообучать. Вычислительные ресурсы для дообучения ChatGPT в мире есть много у кого, но не у простых смертных и не у мелких организаций. Однако без доступа к исходникам это не имеет значения.

Prompt engineering это более простая вещь. Она никак не изменяет саму модель. Просто перед каждым запросом в ChatGPT дописывается что-то вроде «отвечай на следующий вопрос так, как будто ты профессиональный адвокат, вот тебе контекст xxx». При этом контекст xxx, который туда можно передать, ограничен максимальной длинной запроса. Даже одна книга по юриспруденции в него не поместится, например. Никаких новых знаний кроме как переданных через сам запрос в виде контекста xxx у ChatGPT не появляется. От того, что вы ему скажите «отвечай как адвокат», изменится его манера общения, но не информация которую он знает.

Что касается LLaMA, это аналог ChatGPT с открытыми исходниками. LlaMA не сильно хуже ChatGPT несмотря на то, что у LlaMa в 5-15 раз меньше параметров. И её действительно много кто дообучал и продолжает дообучать под разные задачи. Но когда я говорю «не сильно хуже», я имею ввиду базовый ChatGPT основанный на прошлогодней GPT-3.5. Современный доступный по платной подписке ChatGPT Plus основан на GPT-4, которая вышла в начале этого года, и она пока не по зубам никому. Куда там LlaMA, даже Bard и Claude, флагманские модели от Deepmind и Anthropic не ровня GPT-4. За возможность сделать дообученный GPT-4 многие бы, наверное, были готовы заплатить большие деньги… и такая возможность внезапно появилась!

Open AI запустили сервис Custom Models, который как раз и позволяет сделать дообученный GPT-4. Исходники, конечно, вам никто не даст. Но они выделят инженеров и проведут дообучение сами. С вас только данные. И денежка… цена вопроса — 2-3 миллиона долларов. И ждать результата придётся несколько месяцев.

А теперь самое интересное. AI-исследователь из Nvidia опубликовал пост, в котором справедливо отмечает, что это на самом деле очень выгодное предложение. Потому что самостоятельно сделать свой аналог на базе LlaMA-2 с учётом найма инженеров и аренды ресурсов скорее всего выйдет не дешевле, а по результатам GPT-4 по прежнему впереди всех. Понятно, что не у всех есть 2-3 миллиона долларов, но вы задумывались насколько много людей и организаций, у которых они всё-таки есть? И вы представляете на что способен дообученный GPT-4? На медицинских или юридических знаниях, например. Мне кажется такая модель молниеносно принесёт ценности больше чем на 3 миллиона долларов.

Прокомментирую две самые обсуждаемые новости последних дней. Начну с менее важной.

На президентских выборах в Аргентине впервые в истории победил либертарианец Хавьер Милей. В своей предвыборной кампании он делал эпатажные заявления, вроде обещаний закрыть половину министерств, перевести Аргентину на американский доллар и сжечь Центробанк. Уже после победы на выборах он подтвердил что через 3 недели закроет Министерство Женщин, Гендеров и Разнообразия (да, в Аргентине есть такое), а также приватизировать государственные медиа компании.

По поводу победы Милея я хочу сказать три вещи. Во-первых, у его победы есть одна безусловно позитивная сторона. А именно: надоевшие всем прежние элиты лишились главного поста в стране демократическим путём. Абсолютно несистемный кандидат пришёл к власти через победу на честных выборах. Сам факт что в стране такое возможно это очень круто для Аргентины вне зависимости от того как кто относится конкретно к Милею.

Во-вторых, система, очевидно, будет изо всех сил саботировать деятельность несистемного президента. Мы это уже видели в США, когда многие предвыборные обещания, вроде постройки стены на границе с Мексикой, Трамп не смог сдержать в силу того, что их претворение в жизнь требовало поддержки Конгресса, а Конгресс даже при большинстве республиканцев не всегда поддерживал решения президента. Я плохо разбираюсь в государственном устройстве Аргентины, но не сомневаюсь, что в её аппарате найдутся механизмы сдержек и противовесов, которые не позволят Милею единолично претворять в жизнь радикальные решения.

В-третьих, СМИ очень любят приписывать существующие в моменте проблемы и успехи действующей власти, но на самом деле экономические и инфраструктурные изменения обладают большой инерцией и зачастую новый президент вынужден отвечать за последствия решений принятых при прошлой администрации. Оценивать деятельность Милея надо будет ближе к концу его срока, если, конечно, он вообще досидит до конца срока. Смаковать его победы и провалы в ближайший год я точно не вижу смысла.

Теперь к более важной новости. Непонятные события происходят в компании Open AI, лидере на рынке искусственного интеллекта. Сперва совет директоров с максимально враждебными формулировками уволил CEO Сэма Альтмана. Но внезапно большая часть сотрудников поддержала бывшего СЕО и стала требовать возвращения Альмана и отставки уже самого совета директоров, уволившего его. Затем вмешался главный спонсор Open AI, компания Microsoft. На сегодняшний день похоже что Альтман всё же переходит из Open AI непосредственно в Microsoft и значительная часть сотрудников переходят вместе с ним.

Я, как и видимо все, понятия не имею чем вызвана эта внезапная чехарда на гребне успеха. Но меня она откровенно пугает. Open AI была некоммерческой организацией которая декларировала миссию создания безопасного Искусственного Интеллекта. Насколько Open AI в реальности соответствовали своей миссии это другой разговор. Но Microsoft выглядит как компания с гораздо большими ресурсами и гораздо меньшим количеством ограничений. Они планируют потратить более 50 миллиардов долларов в 2024 на создание датацентров для обучения ИИ. И теперь у них есть компетентный СЕО и его команда, создавшие лучший на сегодняшний день ИИ GPT-4.

При этом ходят правдоподобные слухи, что причиной попытки увольнения Альтмана стал как раз слишком стремительный прогресс, достигнутый в их новой ещё не опубликованной модели, который напугал главу разработки Илью Суцкевера. Так это или нет мы теперь вряд ли узнаем.

В России и некоторых странах бывшего СССР Рождество празднуют 7 января, говоря что это «наше», «православное» Рождество, а 25 декабря это «католическое» Рождество. У меня в родне все считали себя православными (хотя реальных верующих почти не было) и праздновали Рождество 7 января, не говоря у ж том, что в России это целый государственный праздник. Поэтому большую часть жизни я по привычке считал что «моё» Рождество 7го января.

Однако в России основным праздником для большинства людей является всё-таки Новый Год, а не Рождество. Рождество большое значение имеет только для верующих которые ходят в церковь. Для меня как для атеиста Новый Год тоже всегда был гораздо важнее.

Но недавно я окончательно осознал и осмыслил, что во-первых, 25 декабря это не «католическое» Рождество. 25 декабря Рождество празднует подавляющее большинство христиан: католики, протестанты и не менее половины православных, включая Константинопольскую Церковь, считающуюся первой среди равных у православных.

Во-вторых, спор о дате Рождества это как ни странно спор не религиозный. Старый Юлианский календарь, по которому считает дату РПЦ, не является священным и вообще не имеет отношения к религии. Он лишь был общепринятым в момент её распространения. Потом большая часть мира, включая христианские конфессии, благополучно перешла на более совершенные календари — либо Григорианский, либо Новоюлианский. Они более точно отсчитывают количество полных оборотов Земли вокруг Солнца в днях. Споров о дне когда родился Иисус Христос среди христиан нет! Вопрос исключительно в том, сколько полных оборотов совершила Земля вокруг Солнца с того дня и спор этот не теологический, а исключительно научный, астрономический, а значит на него есть правильный ответ. Для меня в тех вопросах где есть пересечения, наука имеет однозначный приоритет перед традицией.

В-третьих, Рождество которое мир празднует 25 декабря гораздо больше похоже на российский Новый Год, то есть на светский праздник, нежели на религиозный. К этому дню приурочены всевозможные распродажи, люди к нему украшают свои дома не имеющей никакой отношения к религии символикой, и т. п. Я как атеист в гораздо большей степени чувствую себя своим среди людей, которые празднуют Рождество 25 декабря. Поэтому могу теперь точно сказать что «моё» Рождество это то, которое сегодня, а не то, которое через две недели. Хотя в полной мере ни то, ни другое, конечно, не являются «моими» праздниками. Но на сегодняшнем я менее чужой.

Поэтому всех, кому религия не запрещает сегодня праздновать, поздравляю с Рождеством!

Увидел две новости про допинг в спорте. Во-первых, сооснователь PayPal Питер Тиль присоединился к финансированию Enhanced Games, это подобие Олимпийских Игр, но с узаконенным допингом. Во-вторых, у российской фигуристки Камилы Валиевой забрали золотую медаль Олимпийских Игр 2022 за допинг. Воспользуюсь поводом и поделюсь своими мыслями насчёт допинга и большого спорта в целом.

Начну с Enhanced Games. В вакууме идея небезынтересная, но в реальной жизни, увы, бестолковая. В спорте с узаконенным допингом я вижу один позитивный момент. Гонка вооружений в фармакологии без ограничений на скрытность гипотетически может привести к появлению новых препаратов и процедур, повышающих на время человеческие возможности. Они были бы полезны не только в спорте, но как минимум ещё для солдат и спасателей. Не говоря уж о том, что их создание потребует развития науки, а оно в свою очередь может привести к появлению новых лекарств или новых видов терапии.

В реальности, однако, это не сработает. Никто не будет заниматься наукой и создавать новые препараты ради каких-то Enhanced Games. Даже если на настоящих Олимпийских Играх внезапно разрешат допинг, я сомневаюсь что это окажет сколько-нибудь заметное влияние на развитие фармакологии. Это мизерный спрос. К тому же этот спрос и так есть — со стороны военных. Чтобы реально ускорить развитие фармакологии, нужно вливать туда кратно больше ресурсов, строить новые лаборатории, готовить в разы больше специалистов, а для всего этого нужно глобально переписывать приоритеты человечества в целом. Боюсь, спорту в целом это не по зубам, чего уж говорить про одно маргинальное спортивное мероприятие.

Поэтому Enhanced Games, если их вообще проведут, в чем я сомневаюсь, принесут ровно ноль новых знаний. Будут задействованы старые препараты. Новых рекордов, скорее всего, тоже не будет, поскольку лучшие спортсмены, очевидно, откажутся участвовать в этом шоу. Деньги будут потрачены, публика останется разочарована, возможно спортсмены получат проблемы со здоровьем. В лучшем случае будет не очень много вреда, но выгод не вижу никаких.

Теперь насчёт допинга в обычных соревнованиях. Я убеждён, что практически все спортсмены всех стран, выигрывающие главные соревнования, используют фармакологию. Но есть три важных нюанса. Во-первых, не вся фармакология нелегальна. За то, какие препараты будут запрещены, спортивные федерации стран ведут дипломатические баталии. И от исхода этих баталий напрямую зависят результаты страны. Например, исторически популярный в России мельдоний был запрещён в 2016 году. А «лекарства от астмы», которые используют норвежские лыжники, до сих пор не запрещены. Во-вторых, новые препараты могут вообще не обнаруживаться существующими тестами, а даже если будут обнаружены, они не попадут под ограничения, пока не привлекут к себе достаточно внимания.

В-третьих, даже когда спортсмен попадается на допинге, он заявляет, что допинг попал в его организм случайно. Исход судебного разбирательства, как и в обычных судах, зависит от квалификации адвоката, то есть от веса, «рукопожатости» и дипломатических усилий родной федерации спорта и чиновников.

Кому-то это может показаться несправедливым. Но я наоборот доволен существующей системой! Дело в том, что спорт высоких достижений играет в современном мире вполне конкретную роль — роль суррогата войны. Это один из немногих общественно приемлемых аттракционов коллективного самоутверждения за счёт других. Вслух произносятся дежурные фразы «спорт вне политики» и про «спортивный дух», но все прекрасно понимают, что спорт высоких достижений это и есть политика —и именно за это мы его и любим.

И совершенно логично, что спорт высоких достижений это соревнование не только и не столько спортсменов. Это соревнование стран на уровне систем: от системы подготовки спортсменов, до фармакологии и дипломатического прикрытия. Для суррогата войны всё так и должно быть.

Сегодня напомнили про один неприятный и уже подзабытый публикой фильм «Немыслимое» 2010 года. Фильм в своё время наделал шума из-за своего содержания: террорист заложил 3 атомные бомбы в трёх американских городах, суровый чернокожий агент пытается с помощью пыток выбить из террориста информацию где заложены эти бомбы, главная героиня, тоже агент, которая должна играть роль «хорошего полицейского», даже в такой ситуации заботится о законности, морали, и сильно сопротивляется применению всё более чудовищных пыток.

Главный вопрос фильма — насколько далеко морально оправдано выходить за рамки закона и этики по отношению к отдельным людям, если это может спасти очень много жизней? В 2010 фильм был особенно актуален на фоне расследования о пыточных тюрьмах ФБР вроде широко известной Абу Грейб. Некоторые восприняли фильм как откровенную агитку, обеляющую ФБР на фоне скандалов с секретными пыточными тюрьмами.

Мне фильм очень нравится и агиткой я его не считаю. Во-первых, потому что даже если признать, что фильм оправдывает пытки — он их оправдывает только в исключительной ситуации, когда они могут спасти очень много жизней, ситуации, которая в реальной жизни скорее всего не встречается, и которая к происходящему в Абу Грейб садизму в любом случае не имеет никакого отношения.

Во-вторых, я вообще не считаю, что фильм пытки оправдывает. Сам по себе фильм не даёт никакого ответа кто в нём прав, а кто нет. Даже концовки есть две. Кому сопереживать и кого считать морально правым решает зритель. Но самое главное, фильм не только и не столько про пытки и их оправдание. Он затрагивает ещё одну тему, которая очень актуальна и в наши дни. Дальше будут спойлеры.

Террорист из фильма — американец, разочаровавшийся в войнах США на Ближнем Востоке и принявший ислам. Он утверждает что заложил три атомные бомбы в американских городах и требует вывести войска из всех исламских стран. Под пытками он раскалывается где заложил три бомбы и ФБР их обезвреживает, но подозревает, что может быть ещё и четвёртая.

Чернокожий агент собирается пытать на глазах террориста его жену и детей, чтобы выбить из него где заложена последняя бомба. Жена погибает, но из-за действий главной героини террорист во-первых понимает, что пытать детей она не даст, а во-вторых получает возможность покончить с собой, что собственно и делает, перед смертью попросив героиню позаботится о его детях. При этом в расширенной версии четвёртая бомба действительно существует и в итоге взрывается.

Таким образом, за моральной дилеммой, можно ли пытать безвинных детей чтобы выбить из террориста признание, которое может спасти миллионы жизней, в фильме спрятан ещё более провокационный моральный вопрос: а не заслуживает ли Америка со своими войнами и со своими пыточными тюрьмами того, чтобы террорист взорвал в ней атомную бомбу?

Главная героиня видит в террористе человека, проявляет к нему эмпатию и мешает его пытать, в конечном итоге давая ему добиться своих целей. И ей явно руководит именно эмпатия и дискомфорт от страданий человека на её глазах, а вовсе не абстрактная приверженность законности и соблюдению прав. И именно эта тематика, если абстрагироваться от гротескности атомных бомб и пыток детей на глазах у родителей, делает, на мой взгляд, фильм супер актуальным в наши дни. Тематика опасности и уместности эмпатии к врагам. Особенно к таким, которые заведомо не проявляют эмпатию к тебе.

На мой взгляд, враги которые желают тебе уничтожения эмпатии не заслуживают ни при каких обстоятельствах. Поэтому мне очень понравился герой Сэмюэля Л. Джексона и очень не понравилась героиня Кэрри-Энн Мосс в этом фильме. И меня пугает, что очень много зрителей восприняли всё наоборот.

Увидел новость о запрете в РФ покупки рекламы у «иногентов». Новость обсуждать смысла нет: очередное закручивание гаек и затыкание неугодных голосов. Тем не менее, вызванные новостью разговоры о том, что многим независимым ютуберам, блогерам и прочим контент-мейкерам придётся закрыться, заставили меня задуматься. Если абстрагироваться от закручивания гаек и рассмотреть запрет на покупку рекламы сам по себе, изменит он мою жизнь к лучшему или к худшему? Если представить себе мир, в котором покупка любой рекламы у любых контент-мейкеров запрещена вообще, хотел бы я жить в таком мире?

К удивлению, прихожу к выводу что да, хотел бы. В современном мире контента слишком много, потому что его создание из удовлетворения потребности превратилось в самоцель. Нам кажется что мы сами выбираем что потреблять, но выбираем мы из того что мы видим. Все кто пробиваются к нам даже через сарафанное радио, не говоря уж об алгоритмах, прошли сито из множества внешних по отношению к нам эвристик. Одна из этих эвристик это качество продакшена и количество контента от конкретного мейкера.

Максим Кац в одном из недавних видео сокрушался как вышеупомянутый закон ударит по его каналу. Рассказывал, что у него на канале трудоустроено уже несколько десятков человек, есть своя студия, которая выпускает по ролику в день, и как много денег всё это стоит. Я понимаю зачем это Кацу, но я не понимаю зачем это мне.

Я следил за деятельностью Максима со времён когда он был известен только в покерном сообществе и делал свою первую листовку для муниципальных выборов. Я читал его текстовый блог в Живом Журнале и меня вполне устраивал этот формат. Максим публиковался не каждый день. Он публиковался по мере того, как у него появлялось что сказать. Почти всегда это были его личные мнения по вопросам которые ему интересны и в которых он более-менее компетентен. Это было интересно читать.

Если хочется делать именно видео, современный iPhone замечательно снимает. Да, iPhone снимает хуже чем профессионал в студии. Но я же смотрю не ради качества картинки! Это даже не 80 на 20, это 99 на 1. Если Кац сократит бюджет на производство в 100 раз, мои впечатления от контента ухудшатся может быть на 1%. Но проблема не только в качестве видео. Проблема в качестве самого контента.

Команда канала подготавливает для него тексты и сюжеты, которые он зачитывает с суфлёра. Общую редакционную политику канала он определяет сам, но всё что он говорит на видео уже давно не его собственные мысли. Он говорящая голова, озвучивающая коллективное творчество своей команды, об интересах и компетентности которой я ничего не знаю. К Максиму у меня был кредит доверия, он мне был интересен как человек и как деятель. У меня нет доверия к его команде.

Более того, ни один человек и даже ни одна команда не способны генерировать интересные мысли каждый день по расписанию. Для канала выгодно иметь предсказуемый график выхода видео, подсаживать зрителя на контент. Но для зрителя выгодно смотреть только то, что ему действительно интересно, а не заводить себе вредные потребительские привычки. Поэтому я буду рад, если его медиа конвейер разорится и перестанет работать.

Кто вообще останется в мире без рекламы? Во-первых, останутся те, кому зрители готовы донатить напрямую. Конкуренция за непосредственные донаты зрителей это самая прямая, честная и эффективная форма конкуренции. Во-вторых, останутся те, кто готов делать контент себе в убыток, то есть те, кому нужна трибуна чтобы поделиться чем-то субъективно достаточно важным, чтобы самостоятельно заплатить за это временем и ресурсами.

Количество контента сократится в разы, возможно в десятки раз, но и того что останется хватит на всех за глаза. Креативная экономика пострадает, но для меня креативная экономика не священная корова. Она для меня важна настолько, насколько она генерирует ценность, а не прибыль и рабочие места.

Посмотрел свежее интервью главы Open AI Сэма Альтмана на канале Лекса Фридмана.

Пара высказываний Альтмана у меня прямо сильно отозвались внутри. Очень важный для меня момент на 41:02:

«Люди продолжат делать крутые вещи. А общество найдёт способ вознаграждать тех, кто их делает. Мы так устроены. Мы хотим творить, мы хотим быть полезными. Это никуда не денется».

Фраза прозвучала в контексте разговора о вознаграждении авторов контента, на котором обучается ИИ. Сэм ясно дал понять, что его не сильно заботит нарушает ли обучение ИИ существующие законы об авторском праве, но он согласен с тем, что авторы контента должны в том или ином виде получать компенсацию за его использование, и убеждён, что со временем так и будет. Однако что вероятно это потребует перехода к какой-то иной модели взаимоотношений.

По сути Сэм признает, что сегодня ИИ обучается на чужой интеллектуальной собственности, что фактически это пиратство, и что сегодня авторы не получают за это компенсацию. При этом Сэм явно не считает это большой проблемой и уж тем более поводом останавливать обучение ИИ до завершения юридических разборок.

Фактически Сэм заявляет, что существующие законы об авторском праве устарели и не подходят к новой реальности, и что сейчас главная задача это завершение построения этой самой новой реальности, а вопросы компенсаций авторам должны решаться уже в ней. Авторы не исчезнут, а общество найдёт устраивающую всех модель вознаграждения.

Я поражён насколько идеи Сэма Альтмана соответствуют моим собственным убеждениям. Я тоже открыто пропагандирую одновременно пиратство и донаты непосредственно авторам, и тоже считаю, что существующая модель копирайта это тормоз как для креативной экономики, так и для прогресса в целом. Готовлю отдельный пост об этом.

Ещё один очень близкий мне момент на 1:20:16:

«Я считаю когда-то реклама была необходима для того чтобы интернет существовал и развивался, но сегодня [интернет] это зрелая индустрия, мир стал богаче... Я хочу чтобы люди знали что ответы которые они получают от ChatGPT не находятся под влиянием рекламодателей… Мне не нравится чувство которое я испытываю когда пользуюсь сервисами, существующими благодаря деньгам рекламодателей… Я думаю мы можем построить бизнес-модель способную оплачивать наши вычислительные мощности без рекламы».

Высказывания Сэма созвучны моему прошлому посту. Тоже считаю, что реклама должна исчезнуть как явление, во всяком случае что информация которую мы потребляем должна быть полностью очищена от влияния рекламодателей.

Другие интересные, на мой взгляд, тезисы из интервью:

• Ресурсные ограничения для тренировки ИИ в порядке важности по мнению Сэма: энергия > физические дата центры > чипы. Я думал всё с точностью да наоборот.

• Нам кажется что каждый новый продукт Open AI это резкий скачок по сравнению с прошлым (GPT-4 и ChatGPT, например), но на самом деле они стараются чтобы улучшения были постепенными, а не резкими. То есть то, что с нашей точки зрения огромные качественные скачки, с их точки зрения таковыми не являются.

• Ни ChatGPT, ни GPT-4 по мнению Сэма не являются важными вехами, потому они на самом деле никак не изменили мир или экономику, а в лучшем случае изменили ожидания людей. Сэм рассчитывает создать системы которые более заметно повлияют на экономику. Причём это будет ещё не AGI. AGI же по мнению Сэма это ИИ способный заметно повлиять на скорость научного прогресса. Это по его мнению более сложная задача чем повлиять на экономику. Но он рассчитывает что и она будет достигнута к концу этого десятилетия.

Очень неприятная для меня новость: из компании Stability AI уходит основатель и бессменный CEO Эмад Мостак. Почему это важно и почему я считаю это очень плохо? Stability AI главным образом известны благодаря своей модели Stable Diffusion (далее SD). Летом 2022 SD 1.4 стала одной из трёх text-to-image моделей (наряду с Midjourney v3 и DALL-E 2 от Open AI) которые взорвали интернет и попали в СМИ, потому что тогда впервые в человеческой истории ИИ научился рисовать сносные картинки по текстовому запросу. Главное отличие SD от упомянутых конкурентов в том, что SD была open source моделью. Её веса выложили в открытый доступ и любой владелец приличной игровой видеокарты мог во-первых скачать и запускать модель у себя на ПК, а во-вторых дообучать её на своих данных.

Благодаря весам в свободном доступе SD очень быстро обзавелась огромной экосистемой. Зайдите на сайт civitai и вы увидите библиотеку из сотен моделей на базе SD под самые разные задачи, от рисования порнографии, до рисования персонажей из игры Genshin Impact. Все их создала не сама компания Stabilty AI, но независимое сообщество продвинутых пользователей SD. Оно же создало удобные веб-интерфейсы для использования SD и всего что с ней связано.

Базовая модель SD со временем заметно отстала от конкурентов вроде Midjourney, Open AI и Ideogram как по качеству генерируемых картинок, так и по «интеллекту», то есть пониманию запросов. Однако если рассматривать всю экосистему SD как единое целое, она превосходит по возможностям любую другую картиночную модель, и самое главное, по прежнему только SD можно свободно скачать и запускать у себя на ПК, не покупая никаких подписок.

Поскольку Stability AI все свои модели выкладывали в свободный доступ, было непонятно на чём они зарабатывают или собираются зарабатывать деньги. По сути компания существовала на инвестиции, которые ей удалось привлечь в самом начале. Почти все были уверены что долго это продолжаться не может и летом прошлого года Блумберг написал, что у компании большие проблемы и из неё уходят ключевые люди. Если бы Stability AI закрылась тогда, это было бы печально, но предсказуемо.

Однако к большому удивлению многих, включая меня, Stability AI не только остались на плаву, но и начали одну за другой выкладывать одни из лучших в своём классе модели: Stable Audio (музыка из текста), Stable Video 1.1 (видео из текста), TripoSR (3d модели по 2d картинке), StableLM 2 1.6B (миниатюрная версия ChatGPT). Но для меня самой приятной неожиданностью стал анонс Stable Diffusion 3 — новой версии SD, которая судя по research paper и примерам от тестировщиков, получивших ранний доступ, прямо из коробки будет вероятно лучшей картиночной моделью на рынке (я сравнивал в Твиттере генерации SD3 с генерациями Ideogram 1.0, вышедшей месяц назад). Самое главное — SD3 как и раньше обещали выложить в свободный доступ и она должна была запускаться на лучших из обычных видеокарт, вроде RTX 3090 за 1000$, а не только на специализированных GPU, стоящих десятки тысяч долларов.

Доступ к SD3 уже есть у избранных тестировщиков, модель, очевидно, готова к релизу, все ждали её буквально со дня на день… Но в свете сегодняшней новости, теперь всё, увы, под очень большим вопросом. Я мало что знал об Эмаде Мостаке. Репутация у него противоречивая. Не уверен что он был хорошим CEO. В чём, однако, я уверен на 100% — Эмад Мостак был абсолютистом опенсорса и децентрализации. Делать ИИ доступным для всех было его миссией, в которую он верил и которой придерживался. Ни разу он не дал поводов в этом усомниться. И вот в свете того что его, судя по всему, выпнули, похоже Stability AI, поняв, что у них впервые с 2022 года в руках модель, которая из коробки конкурентоспособна с лучшими платными моделями конкурентов, решили не дарить её всему миру, а попробовать заработать на ней деньги. Очень сильно надеюсь, что я ошибаюсь.

Вы когда-нибудь задумывались какие ограничения накладывает скорость света на цивилизацию? Скорость света в вакууме приблизительно равна 300 тысяч километров в секунду. Ни материя, ни информация не могут перемещаться быстрее скорости света — это один из краеугольных камней современных научных представлений о мире. Это одно из тех ограничений, которые по нашим представлениям не могут быть преодолены никогда вообще, вне зависимости что изобретут в будущем и как далеко уйдёт научный прогресс. Но что это ограничение значит для всех нас?

Обычно когда говорят о скорости света, первое что приходит на ум это межзвёздные перелёты. 300к километров это большое расстояние в масштабах Земли. Длинна экватора всего 40к километров, свет преодолевает это расстояние чуть больше чем за 1/10 секунды. В масштабах космоса, однако, 300к километров это очень мало. До ближайшей звезды — 40 триллионов километров. Даже со скоростью света лететь до неё 4 года. А в известной нам вселенной есть места до которых свету лететь миллиарды лет. Но на самом деле и без дальнего космоса скорость света нас много где ограничивает.

Возьмём обычный ПК. Представьте себе два вычислительных ядра размещённых на расстоянии в 10 см друг от друга на печатной плате. 3 ГГц — вполне рядовая тактовая частота для современного процессора. Эта цифра значит, что за одну секунду процессор совершает 3 миллиарда тактов работы или что один такт работы совершается за трёхмиллиардную долю секунды. Предположим ядра хотят обменяться данными друг с другом. За 1/(3*10^9) сек свет пролетает как раз 10 см.

То есть уже сегодня на реальных расстояниях в пределах печатной платы максимально возможная в природе скорость обмена данными уже сопоставима или даже ниже, чем скорость рабочих операций. И это уже накладывает реальные ограничения на архитектуру и производительность процессоров. Мы не можем размещать быструю память далеко от ядер, иначе процессор будет дольше гонять данные в пространстве со скоростью света, чем обрабатывать их внутри себя. И поэтому мы не делаем гигантские процессоры: в них нет и видимо никогда не будет смысла.

Рассмотрели пример из микромира, теперь пример из макромира. Вы играете в компьютерную игру по интернету. Игровой сервер в Германии, а вы в Кыргызстане. Расстояние по проводам от Бишкека до Берлина (они идут через Казахстан и Россию) в районе 10 тысяч километров. Свет проходит это расстояние за 0.03 сек. То есть 30 миллисекунд это минимально возможная задержка в одну сторону В две стороны уже 60 мс. Вы кликнули мышкой, совершили действие в игре, оно пришло на сервер, было там мгновенно обработано и на ваш ПК сервер выслал результат действия, который вы видите на своём экране. Между нажатием и результатом не может быть меньше 60 мс. В реальности я вижу цифры в районе 100-120 мс в играх. Вдумайтесь насколько это близко к теоретически возможному пределу! И да, поверьте, есть много игр в которых задержка 100 мс вполне ощущается и заметно влияет на игровой процесс и на результаты.

С задержкой в лишнюю секунду уже не очень комфортно разговаривать по телефону. Разговоры с Луной всегда будут такими: до неё 300к километров. В компьютерные игры колонисты на Луне смогут играть только друг с другом, но не с друзьями на Земле: задержка в секунду уже абсолютно невыносима. До Марса в среднем 280 миллионов километров, поэтому между Землёй и Марсом никогда не будет не только созвонов, но даже чатов! Задержка — 12 минут. Представьте насколько изолированным марсианское сообщество будет от земного.

Напоследок представьте виртуальную реальность с полным погружением. Какая задержка зрительных, слуховых и особенно тактильных ощущений для вас не испортит эффект присутствия? Я думаю максимум — десятки миллисекунд. Поэтому на самом деле одно из главных обещаний виртуальной реальности — возможность быть рядом и делать что-то вместе в реальном времени с человеком на другом конце Земли — несбыточно. В лучшем случае с человеком из соседней страны такое будет возможно.

Приглашаю своих подписчиков из Бишкека 29 марта в 19:00 в ololoOrmonKhan на встречу, посвящённую истории аниме и косплей сообщества в Кыргызстане, которую будут проводить мои друзья.

В прошлом году основатель сети коворкингов ololo Данияр Аманалиев, человек которого я очень уважаю, призвал развивать в рамках ololo клубное движение. Я сам одним из первых стал участником этого движения, мой ИИ-клуб появился вторым после книжного клуба. Идея клубов в том, что во-первых, людям важны горизонтальные связи и объединения, а во-вторых, многие проживают всю свою жизнь в окружении, которое они не выбирают: среди родственников, однокурсников и коллег. Идея в том, чтобы дать людям возможность присоединиться к сообществам, которые они выберут сами и где они смогут найти знакомых по своим интересам.

Мне почти сразу пришла в голову мысль, что было бы здорово, если в ololo появился бы клуб аниме и манги. Во-первых, я сам очень люблю их, это одно из моих главных увлечений. Во-вторых я вижу что аниме и манга очень популярны в Бишкеке, особенно среди подростков и молодых людей. Косплей фестивалей каждый год проходит несколько штук, аниме магазинов кругом полно. В какой-то момент в ololo появился киноклуб в котором пару раз крутили аниме и я спросил у основателя насколько оно пользовалось спросом. Оказалось спрос был очень большой, что и основателя киноклуба натолкнуло на мысль, что аниме нужно по уму в отдельный клуб выносить.

У некоторых может возникнуть вопрос: зачем нужен аниме клуб, если аниме можно смотреть и дома, а обсуждать в интернете. Ответов есть несколько, но самый главный лично для меня — клуб это прежде всего сообщество людей в реальной жизни. Я уже проходил через это со своим клубом по Искусственному Интеллекту. Ведь по ИИ тоже полно и обучающих материалов, и сообществ, и мероприятий в онлайне. Но не стоит недооценивать важность знакомства, личного присутствия и совместного времяпровождения. Интернет общение это хорошо, но встречи в реальной жизни оно полностью никогда не заменит.

Оставалось только найти организаторов. К сожалению, у меня самого не было возможности полноценно заниматься организацией ещё одного клуба. Я начал спрашивать друзей и знакомых кому это может быть интересно и к счастью нашёлся человек, который согласился попробовать взять организацию в свои руки, за что я ему очень благодарен. Я очень надеюсь что встреча 29 марта станет лишь первой в череде регулярных мероприятий по аниме и всему что с ним связано. Поэтому приду сам и всех зову!

Регистрируйтесь по ссылке.

Сегодня хочу поговорить об эвтаназии. У меня очень неконвенциональное отношение к добровольному уходу из жизни. С одной стороны, я уважаю естественное право человека умереть если он этого по-настоящему хочет. Любого человека, не только безнадёжно больного или страдающего. Естественным я право умереть называю потому, что любой физически здоровый человек почти всегда может покончить с собой, если он вдруг этого пожелает. Обществу невероятно сложно спасать от смерти тех, кто её активно ищет.

Когда-то я верил что все люди в глубине души хотят жить вечно, что если предложить им на выбор умереть или прожить ещё один день — они всегда выберут второе. Тех кто по каким-то причинам хотел умереть я считал психически нездоровыми, которых надо лечить и не давать им убить себя. Потом мои взгляды начали плыть.

Сперва я стал делать исключения для тяжело больных, не желающих обременять родственников. Потом я признал, что самоубийство может быть политическим жестом или свидетельством искренности и силы чувств, веры или убеждений. Потом меня заинтересовал прецедент, когда человек выбрал эвтаназию чтобы заморозить свой мозг до того, как его необратимо разрушит нейродегенеративное заболевание, с надеждой, что когда-нибудь наука будущего сможет его оживить.

В какой-то момент я пришёл к непростому для себя выводу, что бывают люди которые хотят умереть и это действительно проистекает из их искренних глубинных установок и картины мира. Что для них это не болезнь, это часть того, кем они являются. И тогда я решил, что максимум что должно брать на себя общество — проверять искренность. Телефоны доверия и программы предотвращения суицида это благо, потому что большинство самоубийц передумают умирать, если дать им время разобраться в себе. Но небольшой процент не передумает. И этот процент мы останавливать не должны, это их право. Среди безнадёжно больных этот процент, наверное, заметный.

И тут мы подходим к вопросу об эвтаназии. Есть люди, которые хотят, но физически не могут покончить с собой, например, парализованные. А ещё есть люди, которые не хотят создавать никому проблем своим уходом из жизни. Если мы признаём право людей на добровольный уход из жизни, перед нами встаёт вопрос о социально приемлемом механизме реализации этого права. Эвтаназия, то есть ассистированный суицид, выглядит разумным решением. Поэтому вроде бы её легализация это очевидный шаг.

Проблема в том, что на практике никак не получается легализовать добровольный уход из жизни и при этом не сделать его ожидаемым. После легализации эвтаназии, рано или поздно её начинают предлагать. Валидной причиной для эвтаназии становится бедность. Появляется реклама эвтаназии. Родственникам терминальных больных начинают делать намёки врачи и страховые компании, родственники начинают давить на самих больных. Создаются социальные ожидания, что порядочный человек должен выбрать «добровольный» уход из жизни.

К сожалению, Окно Овертона работает как часы. Раньше в развитых странах дебаты шли вокруг того, нужно ли вообще легализовывать эвтаназию. Потом полемика сдвинулась на обсуждение этичных границ её применимости. Эти границы все время только расширяются. Легализуется уже эвтаназия детей. До сегодняшнего дня я, по крайней мере, видел универсальный консенсус, что социальное давление на пациентов является проблемой с которой необходимо бороться. Сегодня я был шокирован, увидев в британском Таймс статью, автор которой признаёт, что давление на безнадёжных больных поторопить свою смерть обязательно будет и что это хорошо. Оригинал статьи доступен только по платной подписке, но к счастью есть способ обойти пэйволл.

Выбирая из двух зол — мир где эвтаназия полностью нелегальна, и мир где её активно предлагают и ждут от людей, что они её выберут — я однозначно предпочитаю первое. На сегодняшний день я, увы, противник легализации эвтаназии. В теории я должен быть её сторонником, но теория, к сожалению, разбивается об практику.

Совершенно неожиданно для меня ИИ достиг огромного прогресса в аудио. Сперва я стал массово встречать творчество в духе «известная песня, спетая совершенно другим голосом и в другом жанре», сгенерированное Suno AI. Например, песня «Бетономелашка» группы Кувалда, но в жанре аниме-опенинга. Меня сильно удивило насколько правдоподобно звучит Suno AI — если заранее не знать, что это ИИ, я бы подумал что это какие-то тиктокеры развлекаются, записывая смешные каверы.

Suno это прямо очень большой шаг вперёд по сравнению со всем, что было до него, но я ни разу не слышал от него песен или композиций, которые хотелось бы включить второй раз. Мемные и вирусные песни — да, музыка, которую хочется слушать — пока нет.

Затем пару недель назад вышла модель Stable Audio 2.0 от Stability AI. По сравнению с Suno в ней ничего впечатляющего нет, но фоновую музыку (так называемый мьюзак) она генерирует вполне сносно. Stabilty запустили сайт на котором работает что-то вроде круглосуточного радио, вся музыка на котором генерируется Stable Audio на ходу. Что в Stable Audio 2.0 по-настоящему прорывное так это её мизерные требования к вычислительным мощностям. Как я узнал, она требует всего 5 Гб видеопамяти, то есть она могла бы стать «народной». К сожалению, это чуть ли не единственная модель Stability AI, которую они по какой-то причине не выкладывают в открытый доступ. Если они хотят на ней зарабатывать, я не думаю, что у них это получится, потому что она всё же уступает и Suno, и ещё сильнее — следующему конкуренту.

Буквально несколько дней назад вышел прямой конкурент Suno под названием Udio и вот эта модель впечатлила меня прямо сильно. Она умеет генерировать музыку практически в любых жанрах, а также сама пишет тексты. Я первым делом попросил её сгенерировать песню о том, что Udio лучше чем Suno в жанре тяжелого рока и она сгенерировала очень прилично звучащий 30-секундный отрывок с вполне неплохим текстом. Под впечатлением я пошёл изучать чужие генерации и понял, что я вполне комфортно могу слушать всё подряд как плейлист по жанрам.

Иерархию музыкальных нейросетей относительно человеческого творчества я бы выразил так. Stable Audio 2.0 делает сносный мьюзак — то есть фоновое музыкальное заполнение, которое не отвлекает и не режет уши, но которое не захочется слушать просто так. Suno на хорошем человеческом уровне делает музыкальный контент в котором музыка не главное. То есть какие-нибудь смешные или тематические песни, где фишка в тексте или в сочетании текста и жанра. Но в чисто музыкальном смысле Suno пока в лучшем случае на уровне посредственного человеческого творчества.

Udio же уже на уровне добротного человеческого творчества. Не выдающегося, но именно добротного. Возьмите неплохой, но не самый лучший альбом неплохой, но не самой лучшей рок или поп группы. На нём скорее всего будет одна-две песни которые можно назвать хорошими, а остальные просто можно слушать. Вот Udio, на мой взгляд, ещё не умеет делать хиты или композиции, которые можно было бы назвать прямо хорошими, но он уже умеет делать композиции, которые вполне сошли бы за проходные у хороших коллективов.

С нетерпением жду, что будет дальше!