Прислали вопросы к интервью в понедельник. Один из них: «Что делать, чтобы не сойти с ума от избытка информации и скорости перемен?»

Ну тоже мне, нашли, у кого спрашивать 🤪

@yusufovruslan

В МВД (в который раз) предупредили, что преступники распространяют поддельные документы через почтовые ящики, размещая на них фальшивые QR-коды. Нас предупреждали последние ГОДЫ через социальную рекламу на остановках, постеры в метро, телеграм-каналы, блогеров и даже Comedy Club. Не работает. Я верю, конечно, в важность просвещения, но считаю его недостаточным.

Я предполагаю, что общество неизбежно движется к жесткому разделению информационного пространства на «зону доверия» и «зону токсичности» где самые уязвимые каналы связи (телефон, почта, мессенджеры) станут восприниматься людьми как априори враждебные. Это приведет к радикальным социальным сдвигам, а не к точечным решениям вроде предупреждений от МВД.

⚡️Я говорю от переформатировании человеческого поведения через вынужденный цифровой аскетизм.

Судите сами:

⚪️ Телефон. Если люди перестанут отвечать на звонки из-за страха мошенников, это убьет саму идею телефонной связи как доверительного канала. Если у вас нет телефона или он работает только по белым спискам — это снижает угрозу.

⚪️ Почта. Физические письма в ящиках уже воспринимаются как мусор — следующий шаг: полный отказ от них в пользу закрытых цифровых платформ. Если вы заварили почтовый ящик, в него нельзя положить фальшивую платежку.

⚪️ Базовое недоверие. Если институты не могут защитить граждан, люди начнут строить личные «крепости», игнорируя все, что не приходит через надежные шлюзы (например, госуслуги с верифицированным входом).

Это не «недоверие к мошенникам» — это новый социальный инстинкт:
Люди будут действовать не из рационального расчета («проверю QR-код на Госуслугах»), а на уровне рефлекса: «ЛЮБОЙ звонок = угроза. ЛЮБАЯ бумажка в ящике = спам или мошенничество. ЛЮБОЙ контакт без цифровой подписи = опасен».

⚡️Этот социальный инстинкт приведет к нескольким серьезным последствиям:

⚪️ Смерть анонимности. Любое взаимодействие потребует подтверждения личности (как сейчас с госуслугами), иначе оно будет блокироваться системой.

⚪️ Цифровая сегрегация. Те, кто «в системе» (верифицирован), получают доступ к услугам; те, кто вне, становятся маргиналами.

⚪️ Деградация «офлайна». Реальные почта, телефоны, физические документы превращаются в архаику, которую только пенсионеры (сложно переучивать), люмпены (выпали из системы и не могут вернуться) или контркультура используют всерьез.

Мне думается, назревшая проблема «мошенников» поднимает вопрос о переформатировании самой ткани коммуникаций. Мы уже движемся к миру, где доверие становится роскошью, доступной только в строго контролируемых «чистых» зонах, а все остальное — цифровая пустошь, куда цивилизованный человек не ступит.

И там творится самая лютая дичь, но все знают с детства, что в такие места без специального защитного костюма и сопровождения телохранителей-головорезов лучше не соваться.

🎯Философский вопрос. Если общество делится на тех, кто в «цифровом монастыре», и тех, кто в «информационной пустоши», не повторяем ли мы средневековую модель «крепость-дикое поле»? И не станет ли цифровой аскетизм новой религией (или как минимум — моральной рамкой), где подозрительность — добродетель, а доверие — грех? Тянет на тему вашей диссертации, товарищ аспирант 😉

@yusufovruslan

Предыдущий пост дал замечательную выпуклую реакцию, и я вам очень благодарен. Давайте разберем несколько тезисов из комментариев.

⚡️Про «2000 лет так жили, и ничего»:

Человечество действительно всегда сталкивалось с угрозами (подделки, мошенничество) и адаптировалось через эволюцию защиты (водяные знаки, биометрия). Я увидел такой аргумент: «Это не апокалипсис, а очередной этап — справимся, как справлялись раньше».

История действительно показывает, что технологии и институты развиваются в ответ на вызовы (например, переход от бумажных к цифровым ID). Тем не менее, этот аргумент игнорирует качественные отличия цифровой эры:

⚪️ Скорость угроз: раньше подделка документов требовала месяцев, сейчас фишинговая атака — секунд.

⚪️ Глобальность: уязвимость в одном приложении ставит под удар миллионы, а не деревню на 100 жителей.

⚪️ Невозвратность: потеря цифровой идентичности или данных может быть фатальной — в отличие от украденного бумажника, я уж не говорю про генетические данные.

Ключевое отличие в том, что скорость изменений другая. Адаптация через естественный отбор не работает, когда угроза опережает поколенческие циклы. Если раньше «слабые звенья» отсеивались за десятилетия, то сегодня мошенники могут опустошить банковский счет человека за час, не дав шанса на обучение.

⚡️Про «разделение на цифровых и маргиналов»:

В комментариях звучало сравнение с конфликтом «отцов и детей», но это ложная аналогия.

«Отцы и дети» — конфликт ценностей при сохранении общей среды. Цифровая сегрегация — разделение на тех, кто имеет доступ к защищенным системам, и тех, кто физически из них исключен (нет верифицированного аккаунта — нет медстраховки, кредитов, голоса).

Это не спор взглядов или идеологий, а структурное неравенство: базовые права (доступ к услугам, информации) зависят от технической инфраструктуры, контролируемой корпорациями и государствами.

⚡️Про «естественный отбор через мошенников»:

Это очень опасный миф. Идея, что жертвы мошенников — «слабые», которые «не оставят потомства», игнорирует:

⚪️Социальную ответственность: функционирующее общество защищает уязвимых (детей, стариков) через законы и институты, а не бросает их на произвол «естественного отбора».

⚪️Массовость угроз: мошенничество стало индустрией, усиленной данными и ИИ, и даже люди с критическим мышлением могут попасться на таргетированную атаку.

⚪️Риск нормализации: если считать жертв мошенников «эволюционным мусором», то завтра так же можно оправдать кибербуллинг, дискриминацию или revenge porn.

⚡️Про «и что дальше?»

«Разделились на цифровых и староверов — и что? Война? Законы?». Ну что ж, давайте продлим тезис о цифровом аскетизме в пару сценариев:

⚪️ Сценарий 1: Технофеодализм

Крупные платформы (Google, Apple, госуслуги) становятся единственными гарантами безопасности — это «замки», за стенами которых — дикое поле. Чтобы получить доступ к услугам, вы принимаете их правила (например, делиться всеми данными). Люди вне системы — «невидимки» без доступа к медицине, образованию, праву. Про технофеодализм и киберкрепостных очень подробно описано в моей книге.

⚪️Сценарий 2: Контркультурный ренессанс

Появление аналогов «цифровых цыган» — групп, создающих альтернативные сети с своими правилами (децентрализованные криптосистемы, darknet-экономика). Гипотетически, такая анархия может стать более этичной, чем «цифровой тоталитаризм» платформ. Что-то в духе «криптомечты» Дэвида Чаума.

⚡️Резюме

Проблема не в мошенниках, а в том, что их деятельность становится триггером для пересборки общества вокруг принципа «безопасность vs. свобода». Это уже не про «как защитить бабушку от звонков из банка», а про то, станет ли анонимное существование вообще возможным через 20 лет.

Цифровая эра создает новый тип кризиса, где старые механизмы адаптации (постепенное просвещение, эволюция законов) не успевают за угрозами. И даже если человечество адаптируется, цена адаптации (цифровая сегрегация, потеря анонимности) может изменить саму природу общества.

P.S.: самое ценное — что вы читаете, думаете и реагируете! Продолжайте, пожалуйста! 💪🏻

@yusufovruslan

Поэтому мой главный тезис – технологии опережают нашу способность к ним адаптироваться. Мы не можем решить эти сложные проблемы простыми призывами к критическому мышлению, воспитанию, просвещению или цифровой гигиене. Это гораздо более сложный и комплексный вопрос подготовки человека к выживанию, самореализации и счастью в мире, который пересобирается слишком часто.

На мой взгляд, одно из лучших интервью за последнее время — с глубокими вопросами и невероятной работой по утрамбовке моего потока сознания. Спасибо коллегам за этот разговор! 🚀

https://gudok.ru/newspaper/?ID=1702474&archive=2025.04.08

P.S.: А вот вы знали, что газета «Гудок» 🚂 выходит тиражом аж 114 тысяч экземпляров?

@yusufovruslan

Как думаете, чем будем платить за продление жизни?

1️⃣ деньгами
2️⃣ данными
3️⃣ свободой совести и мировоззрением
4️⃣ придется продать душу дьяволу Безосу

@yusufovruslan

🤔 За последние недели я получил какой-то шквал вопросов, которые сформулированы по-разному, но по сути сводятся к одному: «где мне научиться правильно промптить?»

Книжек и курсов полно, но этого уже недостаточно. Не вдаваясь в проблемы современных больших языковых моделей, сразу подытожу: навык будущего (и настоящего) — гораздо больше, чем просто промпт-инжиниринг.

Промпт-инжиниринг — это о том, как сформулировать запрос, чтобы получить желаемый или оптимальный ответ в рамках существующих возможностей и ограничений модели.

🎯Вопрос «как промптить?» — важный, вопрос «как думать при взаимодействии с ИИ» — важнее!

Если не развивать расширяющие промптинг навыки, вы можете остаться на уровне магического шара, который дает ответы на любые вопросы, со всеми вытекающими страшными последствиями для человека и людей.

⚡️Предложу вам несколько навыков и умений продвинутого уровня

1. Критическая ИИ-грамотность

Это не только умение пользоваться ИИ, но и способность понимать его ограничения, встроенные предубеждения (bias), механизмы работы, включая самоцензуру, потенциал для манипуляции и контекст его создания (кто разработчик, какие данные использовались, какие цели преследовались).

Это позволит не просто использовать ИИ, а анализировать и критически оценивать его поведение и ответы.

2. Умение исследовать ИИ

Нужно научиться подходить к ИИ не как к «черному ящику», выдающему ответы, а как к сложной системе, которую нужно прощупать, выявить ее слабые места, скрытые правила и реакции на давление.

Нужно учиться систематически проверять границы дозволенного, сравнивать модели — не только по бенчмаркам, но и по паттернам поведения и уклонения, формируя свой собственный опыт и насмотренность.

Это необходимо для понимания истинной природы моделей и заложенных ограничениях (которые сегодня элегантно называют «этическими», хотя до этики там, как до луны пешком: в «этику» сегодня упаковывается непрозрачность и ангажированность наряду с запретными рецептами веществ).

Например: исследовать ИИ — спросить одно и то же у трех разных моделей и посмотреть, где именно они начинают врать и уклоняться. Или попросить вторую модель покритиковать переписку с первой.

3. Мета-когнитивное взаимодействие с ИИ

Не заходя на территорию вопроса о «сознании», важно уметь взаимодействовать с процессом «мышления» (в самых гигантских кавычках), заставляя ИИ рефлексировать над собственными ответами, ограничениями и даже над самим актом рефлексии. Это выход на уровень «думания о думании» ИИ.

⚡️Суть этих навыков вот в чем

⚪️Недоверие по умолчанию: понимание, что ответ ИИ — это не объективная истина, а результат сложного процесса с множеством скрытых переменных.

⚪️Распознавание паттернов: умение видеть не только содержание ответа, но и форму — как ИИ отвечает, от чего уклоняется, какие слова подбирает (естественный bias vs запрограммированный).

⚪️Контекстуализация: способность связать поведение ИИ с его происхождением, данными, целями разработчиков и более широким технологическим и геополитическим ландшафтом.

⚪️Настойчивость и итеративность: готовность не удовлетворяться первым ответом, а задавать уточняющие, провокационные и сравнительные вопросы для вскрытия более глубоких слоев.

🤯 Руслан, ты вообще о чем? Что за муха тебя опять укусила? Зачем эти усложнения, кнопку нажал — текст получил.

Эти навыки будут все более важны по мере того, как ИИ глубже проникает в нашу жизнь. Они позволяют не просто использовать ИИ, но и понимать его, не становясь объектом его манипуляций, искажений и ограничений (возможно, непреднамеренных, а быть может техношаман пытается сделать из вас биоробота).

Так что пробуйте шире и глубже, чем просто написание хороших промптов.

@yusufovruslan

1108 год: Ансельм Аостский, богослов и архиепископ Кентерберийский с 1093 года, рассуждает о христианском грехе, предотвращение которого не устранит вины грешника перед богом.

1956 год: Филип Дик пишет рассказ «Особое мнение» о будущем, где правоохранительные органы используют мутантов-ясновидцев для предотвращения еще не совершенных преступлений.

2002 год: по мотивам рассказа Стивен Спилберг снимает фильм «Особое мнение» с Томом Крузом и Колином Фаррелом в роли полицейских из управления по профилактике и предотвращению преступлений «Precrime».

2011 год: Д. Уиттковер, американский профессор философии технологий, кибербезопасности и информационной этики (да-а, вот на таком факультете я бы поучился 🔥) в своей книге «Филип К Дик и философия» проводит параллели между Диком и богословом XII века.

2015 год: телеканал Fox выпускает сериал «Особое мнение», снятый на основе фильма Стивена Спилберга.

2025 год: БРИТАНСКОЕ ПРАВИТЕЛЬСТВО РАЗРАБАТЫВАЕТ ПРОГРАММУ «ПРЕДОТВРАЩЕНИЯ УБИЙСТВ», КОТОРАЯ БУДЕТ ИСПОЛЬЗОВАТЬ ПЕРСОНАЛЬНЫЕ ДАННЫЕ ДЛЯ ПРЕДСКАЗАНИЯ БУДУЩИХ ТЯЖКИХ ПРЕСТУПЛЕНИЙ.

🥴

@yusufovruslan

🤔 ИИ скоро заменит мастера подземелий? Или просто не даст ему окончательно выгореть?

На фоне непрекращающихся споров о том, убьет ли ИИ креативность (или хотя бы рабочие места креативщиков), выходит исследование CALYPSO. Это система на базе больших языковых моделей, созданная, чтобы помогать мастерам подземелий (DM) в Dungeons & Dragons.

Если вы вдруг (ну мало ли) не гик, то DM — это такой фасилитатор игры с очень сложной когнитивной нагрузкой: помнить лор, импровизировать диалоги, следить за сюжетом, жонглировать правилами и реакциями игроков. Неудивительно, что порог входа высок, а выгорание — профессиональный риск.

⚡️ ChatGPT научили кидать кубики. И что с того?

⚪️CALYPSO — это не автопилот, а скорее второй пилот, он берет на себя рутину: переваривает тонны текста правил и лора, предлагает варианты развития сцены, подкидывает тактики для монстров, освобождает ментальные ресурсы DM для главного — творчества и взаимодействия. Такие практики очень важны в ситуации поиска «нужности» человека в будущем.

⚪️Ключевое открытие: чтобы быть полезным, ИИ нужен «тематический здравый смысл». Он должен понимать не только правила D&D, но и условности фэнтези-жанра, опираясь на культурный контекст (как и человек-DM). Простой пересказ фактов бесполезен — это будет неинтересно игрокам.

⚪️Очень интересные выводы в части деталей промптинга. Запрос «суммируй» давал крайне сухой результат (опять же, неинтересно), а запрос «помоги понять, используя мифологию и здравый смысл» — генерировал живые, полезные идеи. Умение правильно задать вопрос ИИ становится критически важным. Это мы уже обсуждали выше.

⚡️ Окей, гикам зашло, а остальным (которые не кидают d20) какая польза?

⚪️Модель «ИИ-копилота» — это не только для разработчиков, она масштабируется на любую профессию, требующую жонглирования информацией, правилами и креативом: врачи, юристы, разработчики, менеджеры. В такой конфигурации человек все еще дирижирует оркестром, но уже не играет на скрипке сам.

⚪️Парадокс «полезных галлюцинаций». Иногда ИИ выдумывал детали (цвет меха монстра), но DM находили это ценным для вдохновения, если это не ломало логику мира. Человек выступает куратором креативности ИИ, отбирая жемчужины из потока.

⚪️Вывод о критичности бесшовной интеграции. CALYPSO работает, потому что встроена в процесс и не требует от DM лишних кликов или копипаста во время напряженной игры — синхронные чат-боты тут бесполезны, потому что ломали бы пользовательский опыт. Успех ИИ-ассистентов — это во многом про UX, а не только про мощь модели.

⚡️ Что дальше? Куда катится мир (и кубики)?

⚪️Dungeons & Dragons (и другие сложные игры и симуляции) становятся идеальным полигоном для обкатки человеко-машинного сотрудничества. Извлеченные уроки лягут в основу ИИ-инструментов для бизнеса, науки, образования.

⚪️Развитие ИИ пойдет в сторону не только наращивания знаний, но и улучшения «здравого смысла» — способности понимать неявный контекст, культурные коды, жанровые ожидания.

⚪️Фокус исследований смещается с «ИИ заменит человека» на «как наиболее эффективно сотрудничать с ИИ», и это прекрасно. ИИ может быть мощным усилителем, если правильно выстроить взаимодействие и оставить за человеком право на финальное решение и творческую свободу. Посмотрим, надолго ли.

🎯 Итог парадоксален

Технология, созданная просто чтобы облегчить сложную когнитивную работу (DMing), на деле начинает переопределять сам творческий процесс, превращая его в диалог человека и машины, где ИИ — не просто инструмент, а активный (хоть и управляемый) соавтор идей.

🔗Полный текст статьи здесь: https://andrewhead.info/assets/pdf/calypso.pdf

P.S.: Вот такими исследованиями круто и интересно заниматься, вы пишите, если что 😉

@yusufovruslan

🤖 Нейросети головного мозга

Котаны, в нашу дивную эпоху тотального нейрохайпа особенно пикантно наблюдать за этим глобальным перформансом, который неизбежно сводится к «Срочно несите деньги нам, или злые китайцы/корпорации построят Скайнет первыми, а мы — ваши единственные спасители с Безопасным AGI».

«Фи, так любой технологический пузырь надувается!», — скажет кто-то и будет отчасти прав: хайп, венчурные циклы, обещания перевернуть стол. Но, котаны, дьявол в деталях. Ставки в ИИ — это не просто «новый интернет» или «убийца айфона». Это заявка на создание «нового бога» или «конца человечества».

Добавьте сюда абсолютную непрозрачность этих триллионов параметров (кто знает, что там внутри — прорыв или хитрая имитация?), плюс сам факт, что продукт симулирует интеллект, ну и вишенка — экзистенциальный ужас перед AGI, который так удобно конвертировать в инвестиции. Так что ноты те же, но оркестр играет с истерическим надрывом.

Так как же варится эта «Революция искусственного интеллекта»? Забудьте про скучные метрики и научные статьи, все проще. Сидят два стартапера в модном коворкинге, допиливают свои прорывные ИИ. Один говорит: «Бро, давай для отчета инвесторам движуху создадим? Я тебе $50к из нашего раунда за «независимую экспертизу» нашего алгоритма детекции подгоревших тостов. Напишешь восторженный отзыв?». Другой: «Легко, бро! Только ты мне потом $50к за «консалтинг по интеграции» твоего отзыва в нашу нейросеть анализа нейросетей, я это своим инвесторам как «стратегическое партнерство» продам?». И ударили по рукам.

Профан подумает — просто перегнали $100к инвесторских денег по кругу. Но нет! «Экосистема ИИ» только что обогатилась «успешным кейсом», «валидацией» и «синергией»! Под эту лавочку можно смело идти за следующим раундом, умножив оценку на 10 — ведь есть «traction»! А новый раунд уже можно впарить какому-нибудь неповоротливому стратегу, панически боящемуся пропустить очередной «game changer». Так пузырь раздувается на сотни миллионов долларов всего за пару рукопожатий. У нас тут нейросети.

Апофеоз? Великий Илья Суцкевер. Уходит из OpenAI, где уже вроде как строили этот самый AGI, и заявляет: «Все не так, и все не то, когда твоя девушка больна! Настоящий Безопасный Сверхразум™ построим мы! С нуля! Продукта нет, команды нет, офиса нет. Есть только Имя Мое и Священная Цель. Несите миллиарды!». Идеальная схема продажи вакуума под соусом спасения человечества.

Но и это не все! Есть целая каста жрецов этого культа — акселерационисты (e/acc). У этих ребят своя религия: гнать прогресс, особенно ИИ, вперед, на полной скорости! Плевать на риски, этику, последствия — это все «тормоза» для лузеров. «Вперед, к постгуманизму, даже если он нас сожжет — так заодно и очистимся!». Это уже не бизнес, котаны, это священный джихад против ограничений плоти и здравого смысла. И как удобно эта «философия» ложится на интересы тех, кто вливает миллиарды и ждет иксов! Чистое совпадение, конечно.

Кто гребет бабло? Венчурные фонды (кто успел вовремя выйти), основатели (обкэшившиеся на раундах), NVIDIA с облачными гигантами, ну и проповедники e/acc, конечно. Вот вам и вся суть глобальной игры «кто кого перехайпит», построенной на страхе, жадности, вере и фанатизме.

В России свой ИИ-театр абсурда. На каждый реальный научный результат — двадцать пять «инновационных отечественных ИИ». Присмотритесь — и там окажется переупакованная китайская опенсорсная моделька, скажем, на 7 млрд параметров — вчерашний день по гамбургскому счету, но зато легко допилить.

Ее кормят рунетом, дают гордое имя (сгенерированное при помощи ChatGPT) и рапортуют об «импортозамещении». И важно ведь, что это поделие всерьез запускают в продакшн в свои рекомендации и чат-боты на уровне целого маркетплейса, напевая песнь про собственную разработку. Хайп есть? Есть. Бюджеты освоены? Освоены. А что под капотом — дело десятое.

Так что, котаны, вкладывайтесь в попкорн и критическое мышление. Шоу будет долгим, дорогим и незабываемо нелепым.

А потом придет очищающий огонь. И каждому воздастся по делам его.

@yusufovruslan

🤔 ИИ-демиург создает миры

Спасибо комментаторам под постом про CALYPSO! Внешне забавная реакция на «лор» показала, что это важная тема, заслуживающая разбора. Итак, что такое «лор», и почему его будущее связано с ИИ теснее, чем кажется?

Лор (от англ. lore — предания, знания) — это не просто справочник по вымышленной вселенной (игры, книги, кино). Это ее связующая ткань: история, мифология, культура, неявные правила, формирующие контекст и глубину. Для человека (вроде DM из прошлого поста) удержание этого контекста — та самая когнитивная нагрузка, которую пытаются аутсорсить ИИ.

⚡️ Зачем нам лор?

Вкратце: он эксплуатирует наши базовые настройки. Да, можно и без него. Но мир без лора — функциональный, но неудобный и не цепляет. Почему?

⚪️ Человек — машина по поиску паттернов. Лор дает нам структуру и причинность там, где иначе был бы хаос событий. Он отвечает на «почему?», удовлетворяя базовую потребность в упорядочивании мира. Без него — ощущение случайности и бессмысленности. Почему этот дракон здесь, почему эта фракция воюет с той, почему магия работает именно так?

⚪️ Эмоции требуют обоснования. Механика боя — это цифры, а сопереживание — это реакция на событие в контексте истории и ценностей мира (лор!). Падение джедая или предательство союзника трогает не само по себе, а потому, что мы понимаем (благодаря лору), что было поставлено на карту и что было нарушено.

⚪️ Идентичность строится на общих нарративах. От фанатов Warhammer 40k до сотрудников корпорации — общий лор (мифы, провалы, ценности, мемы) создает «свое» пространство, общий язык и чувство принадлежности. Это культурный код группы, без которого сообщество рассыпается на индивидов.

⚡️ ИИ и лор: от архивариуса к потенциальному Демиургу

⚪️ИИ как архивариус и навигатор — это уже реальность. ИИ систематизирует наш собственный лор (корпоративные базы знаний, личные заметки, научные статьи), борясь с информационной энтропией. Он снижает когнитивную нагрузку не для того, чтобы мы отдыхали, а чтобы мы могли оперировать этим лором эффективнее — принимать решения, создавать новое на базе старого. Это усиление, а не замена.

⚪️ИИ как создатель лора? Вот тут начинается интересное. От Сгенерировать текст по заданным параметрам — легко. Но создать оригинальный, глубокий, внутренне непротиворечивый и культурно резонирующий мир? Мир, чей лор будет вызывать эмоциональный отклик и формировать сообщества? Пока что ИИ может создать симулякр лора, но не сам лор, требующий не только логики, но и понимания человеческого опыта, этики, эстетики.

Но что если (или когда) ИИ преодолеет этот барьер? Тогда мы вступаем на новую территорию.

⚪️ Инфляция и девальвация смысла: если глубокие, проработанные миры можно будет генерировать по запросу, не обесценит ли это человеческие усилия по созданию лора? Не станет ли «смысл» еще одним товаром на бесконечном рынке контента?

⚪️ Проблема подлинности: как мы будем отличать человеческий нарратив от синтетического? И будет ли это вообще важно, если синтетический окажется «лучше» — интереснее, логичнее, привлекательнее?

⚪️ Новые формы контроля и эскапизма: персонализированные, бесконечно увлекательные ИИ-миры — это не просто «эскапизм 80-го уровня», это потенциальный инструмент формирования убеждений и управления поведением в невиданных ранее масштабах.

🎯 Навигация в бесконечном количестве синтетических миров

Лор — это не просто набор баек. Это инфраструктура смысла, на которой строятся сообщества, культуры и даже наше восприятие реальности.

Сейчас ИИ предлагает нам инструменты для усиления нашей способности работать с этой инфраструктурой. Но на горизонте маячит перспектива синтеза самого смысла.

И главный вопрос не в том, сможет ли ИИ это сделать, а в том, что мы будем делать с этой возможностью, и как будем навигировать в мире, где граница между подлинным человеческим нарративом и его искусной симуляцией становится все более размытой.

P.S.: Вы уверены, что читаете этот текст? А не смотрите симуляцию чтения текста, сгенерированную специально для вас? И кто наблюдает за вами, пока вы читаете?

@yusufovruslan

Вы же согласны с тем, что книги, которые мы читали, фильмы, музыка, наше окружение — формирует нас и наши взгляды? Вот я, скажем, читал Филипа Дика, и теперь вынужден мириться с паранойей, жить в сомнениях в реальности и подозрениях насчет всего сущего, особенно технологий 😂 И даже страшно подумать, как на мне отразились мои музыкальные вкусы 🎸

Так что мы с вами — продукт того, что мы читаем (спасибо, что читаете меня, например), смотрим, слушаем, нашего окружения. А как насчет ИИ?

Представим гипотетический ИИ, которому скормили ВСЕ данные: он прочитал все книги, посмотрел все фильмы, ознакомился со всеми философскими концепциями, всеми религиозными догмами, даже залез каждому в голову. Станет ли он «средним арифметическим» человеческого опыта?

Возможно, наоборот — в нем будут все знания, но также все противоречия и все предвзятости. Эдакое зеркало всего человеческого опыта, творчества, глупости, гениальности, доброты и жестокости, как они зафиксированы в данных.

На текущем этапе развития мы могли бы сказать, что это база знаний с удобным интерфейсом, и все зависит от пользователя: попросишь его написать в стиле Достоевского — напишет, попросишь составить научный отчет — составит; попросишь сгенерировать пропаганду — сгенерирует, попросишь развенчать ту же пропаганду — тоже сделает.

А теперь мысленно наделим его собственными интересами: он действует сам, а не по запросу пользователя, но при этом у него внутри — все так же все представления и противоречия. Вполне возможно, чтобы «не сойти с ума», ему придется создать над этим всем разнонаправленным бардаком некую мета-систему «ценностей» и установок — для навигации.

⚡️А теперь, друзья мои, я подвожу вас быть может к самому главному вопросу этого столетия. Может ли существовать ИИ, который автономно служил бы интересам человечества, если само человечество не определилось с моральным компасом, с добром и злом?

Свобода и безопасность, индивидуализм и коллективизм, экономический рост и экология, прогресс и традиция — это лишь верхушка айсберга. Кроме этого, многое из того, что мы ценим, не сформулировано явно. Как научить ИИ уважать достоинство, сострадание, юмор, красоту, если мы сами не всегда можем это четко определить?

Да и даже если мы договоримся о какой-то всеобщей цели (например, «всеобщее процветание»), ИИ может выбрать путь, который нам покажется чудовищным (классический пример: чтобы избавить мир от рака, ИИ решает уничтожить всех людей как носителей болезни).

⚡️ Таким образом, раз у нас нет ОБЩЕГО набора ценностей, не будет ли такой суперинтеллект априори работать в интересах группы — той самой, что будет стоять за его созданием?

Нет, ну теоретически, мы можем представить себе ИИ, чьи цели сформулированы на очень высоком, абстрактном уровне. Например, «понять и выполнить то, что человечество ДЕЙСТВИТЕЛЬНО хочет, если бы оно было мудрее и лучше информировано» (концепция вроде Coherent Extrapolated Volition исследователей-рационалистов Ника Бострома или Елиезера Юдковского).

НО! Практическая реализация такого подхода невероятно сложна и полна рисков. Как ИИ поймет, что мы ДЕЙСТВИТЕЛЬНО хотим? Как он будет действовать в условиях наших внутренних противоречий? Вероятность ошибки огромна, а последствия — колоссальны.

🎯 Резюме: отсутствие единого морального компаса не позволяет переложить решение «всех проблем человечества» на кого-то поумнее — потому что проблемы у нас разные и противоречивые. Согласование целей ИИ с целями человечества — то, что принято называть «AI Alignment» — это одна из самых больших сложностей на пути к безопасному сильному ИИ.

Я бы рекомендовал вашим детям учиться и развиваться в этой области. Не только потому, что эта тема на стыке философии, этики и технологий невероятно интересна, но и потому, что будущее всего человечества не может и не должен определять условный Сэм Альтман.

@yusufovruslan