Я пообщался немного с ChatGPT. Это самая новая нейросеть, способная создавать тексты на множестве языков, включая английский и русский (хотя Россию, конечно же, заканселили, доступ к сети я получил через фейковый индонезийский номер).

В первые секунды можно подумать, что наконец-то появился ИИ, способный пройти тест Тьюринга. Сеть очень хорошо и стройно создаёт связные тексты по запрашиваемой теме, ограниченно удерживает контекст, редко ошибается в словоформах (реже, чем среднестатистический человек, по моим личным оценкам). С учётом того, что не любой _человек_ может пройти тест Тьюринга, это очень хороший показатель.

И всё-таки, следует понимать, что GPT это такой конструктор текстов на основе существующих данных. Она не может принимать решения и не может создавать новое знание. Её нельзя попросить придумать решение проблемы, если такого решения ещё не существует, и поэтому оно не могло попасть в обучающую выборку. Такой ИИ не мыслит и не имеет сознания. В основном тексты получаются стройными и аккуратными, но иногда нейросеть допускает нелепейшую ошибку, и ты понимаешь, что вот оно: испытуемый в китайской комнате неверно выбрал кубик с очередной буквой. Тексты всё ещё пишут десять миллионов обезьян, но мы надрессировали их делать так, чтобы нам почти всегда нравился результат.

Так что, с практической точки зрения GPT это такая база знаний, которая работает на уровень ниже, чем гугл: ты вводишь запрос, и она не приводит тебе готовый составленный человеком текст, а составляет свой текст на основе примеров миллиардов готовых текстов. Это не интеллект и не панацея от всех проблем. И ещё надо иметь ввиду, что это база знаний "для детей" — она как правило не даёт развёрнутые точные ответы, а описывает мир крупными мазками в общих чертах. Это интересно для поверхностного понимания, чтобы просто знать, как что устроено, но бесполезно для какой-то профессиональной деятельности. Человек способен проанализировать, кто и по какой причине задаёт ему вопрос, и ответить соответственно. Нейросеть же просто приводит довольно очевидные вещи: например, я попросил её составить инструкцию для полётов на FPV-дроне (есть на скринах), и, хотя формально всё верно, пользы во фразах "Будьте внимательны, нажимайте газ для взлёта" не слишком много. Если бы человек попросил такую инструкцию у меня, я бы ответил совсем иначе. И, разумеется, ошибки в деталях: так, отвечая на вопрос "Как в игре Монополия выйти из тюрьмы?", GPT сказала про бросок кубиков, но не уточнила, что выпасть должен дубль, а это ключевой момент.

Тем не менее, даже с учётом оговорок такая база знаний сложна, важна, и у неё есть области применения. К сожалению, в человеческой жизни и работе необходимость составлять тексты встречается чертовски часто: от юриспруденции до бизнес-аналитики. И в этом GPT очень хороша: в интернете уже есть истории, как с её помощью составляли какую-то бюрократическую заявку в Германии, и прокатило. Недавно была новость, что GPT получила зачёт по текстовой части на ЕГЭ. На Хабре вышла статья о том, как GPT сформировала довольно разумные требования к разработке программного обеспечения, которые хоть сейчас пиши в User Story.

Тут есть хорошая новость и плохая...

Хорошая в том, что с человека снимется работа по составлению текстов там, где она "тупая". Где текст просто должен соответствовать формальным признакам и выглядеть правдоподобно, вот как в бюрократии, например, или в ЕГЭ.

Плохая в том, что там, где нужна экспертиза, люди могут не хотеть или не уметь проверять сеть на ошибки. Сайт вопросами по программированию StackOverflow официально запретил у себя ответы, созданные GPT, ровно с такой формулировкой: в деталях эти ответы часто ошибаются, но люди ленятся проверять. Автор статьи на Хабре говорит то же самое: если вы, как специалист, в голове уже представляете конечный результат, то нейросетка просто выступит вашим ассистентом и будет как бы за вас набирать буквы, но экспертизу за вас она не проведёт, план и решение задачи не придумает. А проверить уже готовый текст иногда сложнее, чем написать с нуля свой. И, конечно же, способность создавать такие тексты позволит выдавать себя за специалиста, например, при выполнении тестового задания.

И всё-таки, такой конструктор текстов выглядит интересно. Он полезнее, чем нейросети для картинок, потому что результат его работы существенно проще отредактировать, и потому что тексты вообще лучше поддаются формализации и управлению машиной. Надеюсь, такие штуки в будущем заменят людей, которые на работе занимаются бесполезной ерундой вроде бюрократии.

Отредактировал немного картинку, которая гуляет по интернетам.

Dwarf Fortress это такой симулятор, в котором примитивнейшая графика, но при этом в мире игры обсчитывается чуть ли не масса каждой травинки, и это влияет на всё происходящее. Был такой научпоп-факт, что если из мира убрать муравьёв, то всё погибнет. Вот в Dwarf Fortress вполне возможны такие случаи. В сети есть история, как в одной крепости стали погибать коты, потому что они вылизывали свою шерсть, а она была пропитана пивом из-за того, что они ходили по пивным лужам.

Я сам не играю из-за слишком уж абстрактной графики и высокого порога вхождения. Но сама идея крутая и увлекает тысячи игроков на сотни часов.

Так вот, разработчики 20 лет делают мега-задротную игру для мега-задротов. Иронично, что они сами выглядят при этом как супер стереотипные задроты. И я уверен, что они совершенно счастливы, и тот факт, что они заработали миллионы баксов, лишь совсем небольшая составляющая этого счастья.

#games

На крупнейшем сайте для художников ArtStation сегодня был цифровой протест: люди выкладывали у себя картинки против нейросетей, генерирующих графику.

Посыл в основном был: "На наших работах обучили нейросети без нашего разрешения, теперь они копируют наши стили". Но, конечно, напряжение вызвано тем, что люди боятся потерять работу и вообще стать невостребованными. Мнения об этом расходятся. Сам я вам писал, что не доволен результатами от нейросетей, и, на мой взгляд, художников они не заменят в ближайшие годы. Но вот, допустим, Лебедев считает, что очень скоро заменят.

В чатиках, где я сегодня это обсуждал, мнения тоже разделились. На одном полюсе было такое: "Отъём профессий у людей машинами это неизбежная стихия, под которую нужно адаптироваться. Мир жесток, подстройся или сдохни". На другом полюсе такое: "Отъём профессий у людей машинами это очень плохо, и нам, как обществу, нужно придумать, что с этим делать, иначе всем конец".

Я думаю, независимо от отъёма профессий, нас ждёт деградация и кризис арт-отрасли. Всё просто: часть заказчиков и других потребителей будут довольствоваться результатами от нейросетей вместо того, чтобы нанимать/смотреть художника. Причём, для некоторых это будет нормально, им на самом деле не нужна более, хм, контролируемая картинка. А для некоторых это будет связано с плохим пониманием необходимого качества результата. Будет снижаться средний доход художника (как прямой от заказов, так и косвенный от просмотра его работ обычными людьми), рынок заполнят более дешёвые иллюстрации.

В какой-то момент, возможно, значительной выборкой для дообучения нейросетей станут картинки от других нейросетей, это, вероятнее всего, скачкообразно ухудшит качество. Вслед за картинками — видео, музыка. Хотя ладно, деградация музыки уже давно идёт. Ну хоть тексты умерли не из-за нейросетей, а пали героями в неравной битве с вертикальными видео для деток!

А художников жаль.

#web

Сайты "Комитета" (VC, DTF) обновили дизайн лайков и дизлайков. Раньше это была цифра с двумя стрелками-кнопками, как на Reddit, Хабре и Пикабу. Стрелка вверх добавляла посту или комментарию плюс, а стрелка вниз — минус. Сумма всех плюсов и минусов выводилась или зелёным, если она положительная, или красным с минусом, если отрицательная.

Сейчас лайк сделали отдельной кнопкой слева, дизлайк — отдельной кнопкой справа, с другим дизайном. А счётчик показывает всем только лайки, а дизлайки только автору.

Спорный тут и дизайн, и само решение. Дизайн понятно, почему: кнопки абсолютно разных стилей и в разных местах отвечают за принципиально похожие действия. Пользователи DTF уже вовсю стебутся комментами "Я скачал твой пост" (потому что кнопка дизлайка похожа на скачивание).

Но куда хуже то, что дизлайки отображаются только автору. Они при таких условиях нафиг не нужны. Автор может просто игнорировать этот счётчик. Раньше, если какой-то человек сморозил чушь, толпа его массово минусует, и все это видят, и он сам знает, что все видят. С полным ртом минусов очень сложно как-то оправдываться и продолжать отстаивать свою точку зрения. Ещё и добавлялось удобство сканирования для читателей: комменты с минусами можно специально пропускать, или, допустим, специально останавливаться на них ради горячей дискуссии.

У этой системы, разумеется, был серьёзный косяк: минусы получали не только те, кто говорил неверное или глупое мнение, но и те, кто говорил непопулярное мнение. Например, на VC лучше было не писать комментарии в поддержку России, даже если по смыслу тезис верный и просто передаёт какой-то факт, вроде "Россия одна из лучших в мире в области атомной энергетики". Это сводило обсуждения к тому, что люди либо молчали, либо подстраивались под принятую в сообществе идеологию, что могло, например, создавать ложные впечатления относительно количества поддерживающих ту или иную точку зрения, да и в целом не всегда способствовало образованию интересных обсуждений.

Тем не менее, на мой взгляд, полное сокрытие дизлайков при наличии самой кнопки дизлайка — решение, которое берёт худшее от всех альтернатив. Сам по себе институт дизлайка остаётся (а, значит, остаётся выражение негатива), при этом с коллективной ответственности за негатив ("Мудаки меня травят, ну и фиг с ними, стадо баранов!") идёт перенос на личную ответственность за негатив ("Вася Иванов меня травит, найду козла и начищу ему харю!"). Причём, ещё и для пользователей от этого нет никакого толка: теперь кто угодно может писать что угодно, и в худшем случае публично получит за это ноль лайков и всё.

Впрочем, в "Комитете" совершенно явный управленческий кризис (как и много где сейчас). Удивительно, что сайты хоть как-то ещё поддерживаются и даже вносятся изменения.

#web

Виджет часов и погоды на телефоне настроен так, чтобы включать второй блок часов и погоды в путешествиях. Например, ты выехал в другой часовой пояс и другой климат, но все еще хочешь иногда смотреть на погоду и время в своем родном городе. Это прикольно.

Но конкретно мой виджет от Huawei сделан с ошибкой, он включает вторые часы, даже если ты просто перешёл в другой микрорайон. Видимо, у него в коде нет информации о разрешении, с которым позиционный модуль докладывает о смене "региона" пребывания.

В итоге выходишь из дома, а телефон тебе такой СЧАСТЛИВОГО ПУТЕШЕСТВИЯ ЧЕЛОВЕК, ВОТ ТЕБЕ ПОГОДА И ВРЕМЯ В ТВОЕМ НОВОМ ЧАСОВОМ ПОЯСЕ, СЧАСТЛИВО ПОНЕЖИТЬСЯ В АБСОЛЮТНО ДРУГОМ КЛИМАТЕ, И ВООБЩЕ ТЫ МОЛОДЕЦ ТАК ЧАСТО ПУТЕШЕСТВУЕШЬ, СЕЙЧАС ЕЩЕ РОУМИНГ ВКЛЮЧУ, СМОТРИ НЕ СЛОВИ ДЖЕТЛАГ.

Я всегда был уверен, что системы рекомендаций работают так плохо, потому что это слишком сложная задача. Владельцы площадок бьются с алгоритмами, машинным обучением, деревьями решений и взвешенными суммами, но получается всё равно херня, и человеку могут рекомендовать нерелевантный бред (и, что ещё хуже — не рекомендовать интересный для него контент).

Кажется, хорошо работают только рекомендации на Ютубе, но этому есть объяснение: контент на Ютубе более длительный и дорогой. Его сложнее производить, он выходит реже. Качественный ролик на Ютубе не будет говном практически независимо от темы, на которую он снят. А ещё меньшее число объёмных роликов проще кластеризовать и можно предлагать пользователю в небольших количествах.

Но если мы откроем YouTube Shorts (это очередной аналог тиктока с короткими вертикальными видео), то заметим, что качество рекомендаций упало сразу на два порядка: какие-то тупые попсовые шутки, "удивительные" факты из жизни, завлекающие отрывки из фильмов "код смотри в телеграм-канале", озвучка анекдотов и прочий мусор. Алгоритмы уже совсем не справляются с тем, чтобы предложить что-то годное, не говоря уже о релевантности конкретно мне, хотя история моих просмотров и вкусов Ютубу, очевидно, известна.

Тем не менее, иногда разработчики могут не только не уметь, но и не хотеть писать нормальные рекомендации. Вот ВК предложил мне BadComedian в блоке "Интересные авторы". Оставим в стороне, что Бэдкомендиан это ютубер, и у него в ВК в лучшем случае будут репосты ссылок на Ютуб. Но мне предлагают не паблик, а личную страницу.... на которой не было записей с сентября 2021 года. Нет совершенно никакого смысла быть подписанным на личную страницу Бэдкомедиана сейчас. Кажется, единственный критерий, на котором основывались эти рекомендации: общее число подписчиков.

Как должны работать рекомендации на самом деле? Алгоритмически я бы оценивал частоту постов (кстати, чрезмерно частые это тоже плохо, должно работать в минус), оценивал бы, является пост просто публикацией внешней ссылки на другой ресурс, является ли репостом паблика, и смотрел бы, сколько прошло времени с последней записи на странице автора. Наверное, в качестве коэффициента с небольшим весом можно добавить ещё объём контента в посте и активность людей (лайки + комментарии). Причём, делается это достаточно просто, никакой ML не нужен. Даже такая оценка, не берущая в расчёт тематику страницы, всё равно лучше, чем "Просто покажем людей, на которых когда-то подписалось куча народу, и им до сих пор лень отписаться после прекращения активности автора".

По крайней мере теперь меня не удивляет, что хвалёные Клипы постоянно подсовывают мне какой-то подростковый шлак вместо крутых видео с полётами на FPV-квадрокоптерах. YouTube Shorts по крайней мере пару раз такие вещи предлагал, а вот Клипы вообще ни разу (станицу Клипов я не открываю, разумеется, но в ленте новостей встречаются блоки с автовоспроизведением).

Кстати, на скрине есть второй автор — Стас "Ай как просто". Его банят на Ютубе за критику западной модели текущих событий, и он пишет: "Буду создавать каналы-однодневки, куда деваться". То есть у него даже мысли не возникает, что какая-то ещё площадка может служить его целям. Ну с таким отношением других площадок к рекомендациям — понятно.

#web

Марта Уэллс: "Отказ всех систем", "Искусственное состояние" и другие книги серии, я закончил на "Сетевой эффект" (больше на русском нет).

Очень странные впечатления: серия получила кучу престижных наград, и о ней много положительных отзывов, но персонально про себя я бы сказал, что мне скорее не понравилось, и рекомендовать бы не стал. Хотя и бросить желания не было.

Далёкое будущее, корпоративная антиутопия (мегакорпорации стали де-факто государствами), аугментация, человечество давно расселилось по другим мирам. Главный герой — искусственно созданный киборг, предоставляемый в аренду страховой компанией для защиты людей, например, в условиях работы на незаселённых планетах с потенциально враждебной фауной. Повествование ведётся от его лица. Изначально в этих киборгов встраивают специальный управляющий модуль, который причиняет боль органической части при неповиновении и других нарушениях (то есть фактически он раб). Но именно главный герой этот модуль взламывает, получает свободу воли, и не нападает на людей, как можно было бы подумать, а пытается интегрироваться в человеческое общество.

Завязка довольно банальная. К тому же, каких-то уникальных идей или необычных поворотов в сюжете особо нет. Повествование строится вокруг эмоций, исследования взаимоотношений (как людей между собой, так и людей с машинами и машин между собой). Поскольку события передаются от первого лица, мы "слышим" мысли героя, и они, на мой субъективный взгляд, переполнены эмоциями, зачастую противоречащими последующим действиям и решениям. У меня даже есть полушутливая гипотеза, что автор-женщина просто перенесла на бумагу образ мышления женщин.

По сюжету обычно происходит какая-то беда, из которой главный герой всех спасает, но попутно кто-то ещё и спасает его. Впрочем, не сказать, что это как-то скучно или избито — сами истории вполне захватывающие, следить за развитием интересно. И всё-таки, это какая-то нестандартная фантастика. Основные события как бы понижены в значимости: герой не сталкивается с по-настоящему серьёзными внешними трудностями, он легко взламывает абсолютно все внешние системы, выдерживает десятки попаданий из ракетницы, а между миссиями может полностью восстанавливаться в супер продвинутом роботизированном космическом корабле, с которым дружит.

Автор явно хотела рассказать об эмоциональном становлении, поиске себя, доверии и контакте с другими, но почему-то выбрала для этого сеттинг войны киборгов в космосе. Имеет право, и, возможно, у неё даже получилось хорошо, просто эта книга совсем не для меня, и конкретно мои ожидания скорее не оправдались.

#fiction

Поставили индукционную плиту. Технология существует уже очень давно, но дошли почему-то до неё только сейчас (а зря, нужно было раньше).

Во-первых, работает на магии. Даже диплом технического вуза не позволяет мне полностью избавиться от вау-эффекта, когда ты ставишь посуду на плиту, никакая конфорка под ней не зажигается, но при этом сама посуда совершенно магически начинает нагреваться целиком.

Во-вторых, когда ты видишь, как трёхлитровая кастрюля воды доходит до кипения за 5 минут, а не за 20, то хочется очень громко крикнуть голосом Джесси Пинкмана: "Science, bitch!".

Вообще, больше всего поражают как раз вещи, которые ломают привычные представления. Смартфон сложнее, чем индукционная плита, но маленькая коробочка с экраном у меня была ещё в глубоком детстве — тетрис. И не сказать, что смартфон нарушил какой-то обыденный паттерн из устройства мира вокруг — та же коробочка, чуть более цветная.

А вот плита совсем другое дело. Она работает не так, как обычная. Да, есть микроволновка, у неё похожий принцип, но там продукт лежит внутри, а ситуация "Положить вещь в закрытый ящик, и она там нагреется" — довольно привычна. Плита же на индукции воспринимается, как что-то из космоса. Очень круто, советую всем, у кого, как у и нас, годами не доходили руки апгрейднуться.

#life

Положил себе под ёлку подарки.

It's alive!

Любопытно наблюдать, как видеокарты растут с каждым поколением. Когда-то видеокарта занимала одну секцию на задней панели корпуса, потом две, сейчас вот три. Еще в комплекте и с корпусом и с видеокартой идет дополнительная поддержка для свисающего края (на фото не видно, но она там есть).

Понятно, что и по размерам и по цене видеокарта это давно уже 60-70% от всего компьютера. Техника эволюционирует в соответствии с потребностями людей, и вот так оказалось, что выводить красивую картинку (кодировать видео, выполнять параллельные вычисления итд) мы хотим чаще всего.

Windows 11 при установке в какой-то момент блокирует продвижение дальше, пока не подключишься к интернету, и нет никаких штатных опций от этого отказаться. При этом, например, в моем случае подключиться можно было только после установки драйверов на материнку, которые, разумеется, нельзя поставить, пока не завершится установка винды. К счастью, в интернете есть инструкция, рассказывающая о последовательности нажатий клавиш и ввода команд, позволяющих этот блок преодолеть и продолжить установку Windows. И ведь какой-то менеджер там у них это придумал. До чего нужно ненавидеть своих пользователей.

Рад, что решил взять Full Tower, а не Midi, хотя говорят, дескать, это не модно :) Некоторые компоненты было очень тяжело впихнуть, не из-за того, что они не влезали, а потому что трудно подлезть. Ну и для всех проводов за задней стенкой место нашлось едва-едва. Но корпус очень удобный, многие вещи продуманы хорошо, есть посадочные гнезда для всего необходимого.

Первый мой системник без HDD и с водяным охлаждением. Пока ничего не пробовал, переношу данные. Ну, в добрый путь.

Мне тут показали очень крутую математическую модель свободного рынка, основанную на научной работе аж 2002 года. Называется Yard-sale model и показывает, почему свободный рынок тяготеет к тому, чтобы создавать небольшое количество сверхбогатых людей, оставляя основную массу относительно бедными.

Фокус в том, что получение дохода это в общем случае риск: вложение денег или эквивалента денег в обмен на возможность их преумножить. Модель базируется на постулате, что люди готовы рисковать в среднем лишь некоторым процентом своего текущего имущества, и как только одни становятся чуть богаче других (не важно, случайно ли, или потому что они, например, умнее), то их способности по риску тоже возрастают, что мгновенно разбалансирует систему: в случае "выигрыша" более бедный человек получает меньше в абсолютных числах, в случае "проигрыша" богатый теряет меньше в относительных числах. Это приводит к лавинообразному росту разрыва между богатыми и бедными.

Мысль не новая: богатые богатеют, бедные беднеют, об этом уже столетиями говорят. Но важная черта конкретно этой модели в том, что она не предполагает, будто бы богатые каким-то образом воруют деньги, эксплуатируют бедных или что там ещё приписывают. В рамках Yard-sale model само по себе устройство свободного рынка органически и неизбежно приводит к такому разрыву, даже если все его участники полностью равны и в своих способностях и в уровне везения.

По ссылке упрощённое объяснение модели с интересными симуляциями, в которых можно понажимать кнопки и посмотреть, к каким результатам это приводит.

Любопытно, что там же и приводится способ борьбы с такой проблемой: если брать со всех "налог", пропорциональный объёму имущества, и поровну раздавать его участникам заново, то степень разрыва значительно уменьшается. Даже если брать совершенно незначительную долю, например половину процента, на большом количестве повторений отличие в разрыве между бедными и богатыми колоссальное.

Да, это выглядит как какой-то своеобразный коммунизм с госрегулированием, и, разумеется, реальный мир устроен сложнее. Но это всё-таки некоторый дополнительный аргумент в спорах с фанатами капитализма и свободного рынка.