📌 Дайджест Сигналов бытия, Неделя 6

В аудио – подкаст о том, какие материалы выходили на этой неделе
Доступна скорость 2х

Будущее совместной работы и мышления
- Офис – это машина для совместной работы, и её прототип – индейская землянка
- Co-thinking: мы думаем не только головой, но и досками, стенами и вещами вокруг

Будущее с ИИ – честное и не очень 😁
- Y Combinator поставили физические стенды с ИИ-аватарами, и люди стояли в очереди по второму разу
- Чем ИИ здорового человека отличается от влажных корпоративных фантазий
- А если перестать ценить слова и начать жить в теле?

Фантастика как способ думать
- Каталог фантастики: что придумали, что сбылось и как этим играть
- Проверяем старые прогнозы: Чёрное зеркало, первый сезон

Будущее образования
- Разучились воображать общее будущее – это не личный косяк, а состояние цивилизации

Разбираем отчёты
- McKinsey выпустили 250-годовой отчёт Америки, и вайб у него – дека для инвесторов
- Символизм в этом отчёте: а где, собственно, люди?

〰️ Сигналы бытия

Харари и ИИ

Я не люблю Харари, потому как от него как будто веет нелюбовью к человечеству, но он распространяет определенное облако тегов. Напомню, что Харари буквально с первой книги говорит нам, что "Люди живут не на истине, а на общих историях, и тот, кто контролирует историю, контролирует вид"

Давайте посмотрим, что сказал на Гала ужине журналисту Тому Паркеру

(1) Когнитивная революция

- Люди приобретают способность создавать и использовать сложный язык, и что это стало основой всего остального, что мы делали – все большие структуры основаны на языке (государства, церкви на своде законов живут)

- Теперь что-то новое осваивает язык (ИИ), появится нечто, что владеет словами лучше нас (и сможет взять контроль над нашей операционной системой)

- Возможно, искусственный интеллект – это не машина, которая учится языку, а сам язык, освобождающийся от зависимости от этих животных, от этих обезьян

[вот это именно то, о чем я говорю, когда говорю о нелюбви к людям; есть целая плеяда ученых и прочих умных людей, которые почему-то считают признаком исключительности ума объявить, как человек, вообще-то, не является венцом эволюции, это просто пыль, понимаешь, на ботинках прогресса]

(2) Землетряс демократИИ

– У нас нет ни одного примера крупномасштабной демократии до появления современных информационных технологий – сначала печатных газет, затем радио, телевидения и интернета [руку к лицу устала прикладывать, пока читала это]

- Каждый раз, когда происходят серьезные изменения в этих информационных технологиях, происходит землетрясение в здании, построенном на этом фундаменте, а именно в демократии

(3) ИИ как агент, а не инструмент

- ИИ – это агент, иначе никакого смысла не было вкладывать в это деньги

- Долину глючит, оттуда звучат противоположные наративы: одни говорят, что создают бога, и он будет нашим рабом. И это не имеет смысла. Если это бог, он не может оставаться рабом. А если это раб, это значит, что у него нет божественных способностей

- Мир захватят ИИ-бюрократы, а не роботы-убийцы, потому что ИИ – bureaucratic native. Мы управляем миром благодаря этим бюрократическим сетям, и у нас это плохо получается

(4) Правосубъектность

- Мы жили в мире, где правосубъектность была у людей и корпораций (юр лиц), но это все чушь, потому что корпорации – тоже люди, люди принимали решения. Теперь может быть не так

- Аргентина объявила о намерении предоставить ИИ статус юридического лица – то они смогут создавать функционирующие нечеловеческие корпорации (non-human corporations)

- Лиса заберется в курятник – мы не сможем так знать законы, как ИИ, и если они обретут правосубъектность, с учетом их мощи – захватят бюрократически власть

- В соц сетях ИИ уже функционируют как люди (боты)

(5) Редакторы теперь – алгоритмы

- СМИ тоже были бюрократическими системами. Контроль над "полосами" = власть. Теперь это уже ИИ

(ранее Харари говорил, что сдвиги в расстановке сил происходят среди тех, кто контролирует энергетику, производство и данные)

(6) Гонка вооружений в области ИИ: Новый тип империи

- C появлением ИИ, две страны могут фактически контролировать всю инфраструктуру, на которой всё работает:

нельзя было перенести сельхоз земли к Риму в Римской империи, нельзя было перенести месторождения в Британскую империю (но производста – можно было), зато можно сконцентрировать всю мировую информацию и весь код, управляющий всем, в одной или двух странах

#Cognitive_Revolution #non_human_corporations #imperial_hub #huge_bureaucratic_networks #bureaucratic_native #imperial_concentration_of_power #Legal_Personhood #power_loop #AI_Arms_Race #superintelligence

〰️ Сигналы бытия

Харари и ИИ
Часть 2

(7) Kill Switch – беспрецедентная власть ИИ над суверенитетом

- Можно создать систему, где всё работает на инфраструктуре ИИ по всему миру, но в имперском центре есть «выключатель» – римляне продавали мечи готам и готы могли потом сражаться этими мечами с римлянами (современный пример – Старлинк, который может быть для кого-то выключен)

- Единственный выбор – стать ли вам покорным вассалом империи или остаться полностью вне расы, как варвары [тут прямо Звездными войнами повеяло, не так ли?]

(8) Правда, вымысел и пределы человеческого понимания

- Правда – дорогая, вымысел – дешев. Правда сложна, а люди не любят сложных историй. Вымысел может быть бесконечно прост

- Есть много вещей, которые люди на самом деле НЕ хотят знать о себе, о своей стране, о своей группе, о чем угодно, а вымысел можно делать приятным

- Человечество пробовало создавать институты борьбы за истину – журналистика, наука

- Люди думают, что ИИ расскажет нам правду о мире. Этого не произойдет. Он создаст гораздо более сложный мир, в котором познать истину будет гораздо труднее

(9) От каменного века до ИИ: парадокс прогресса

- Наши достижения в знаниях также приводят к созданию все более сложных систем, которые затрудняют понимание нашей жизни

- Мы гораздо хуже понимаем свою жизнь, потому что она больше не подчинена только животным и растениям, как у какого-то охотника-собирателя

- ИИ, вероятно, доведет это до крайности – раскроет некоторые истины, которые нам неизвестны, но создаст гораздо более сложные системы управления, которые большинство людей практически не смогут понять

- ИИ усложнит финансовую систему настолько, что люди перестанут ее понимать

(10) Сила слов — и её пределы

- Если мышление – это просто упорядочивание слов, упорядочивание языковых символов – например, «все люди смертны, Сократ – человек, следовательно, Сократ смертен». Если в этом и заключается суть мышления, то ИИ возьмет на себя даже само мышление

- А если мышление заключается не в упорядочивании слов, а в чувствах, связанных с этими словами? Вы можете произнести одно и то же предложение дважды и почувствовать совершенно разные вещи. Тогда если ИИ сможет чувствовать, он возьмет на себя и это мышление

- Если ИИ вам скажет "Я люблю тебя", а вы попросите его убедить вас, он может сделать это лучше кого-либо, потому что читал все на свете книги – от Шекспира до психологии

(12) Революция мудрости

- Революция ИИ заключается в том, чтобы сделать интеллект очень дешевым и доступным. Интеллект – это способность решать проблемы

- Теперь, в мире, где интеллект стал очень дешевым и доступным, вы можете решить любую задачу. В чем же узкое место? Узким местом становится вопрос: «Хорошо, что я хочу решить? Я могу получить все, что захочу – чего я хочу?»

- Интеллект – это Джинн из сказки. Нужна мудрость, чтобы понять, что именно вам нужно решить

#bodyguards_of_lies #Paradox_of_Progress #AI_boyfriends #AI_girlfriends #material_substrate #safe_intelligence

〰️ Сигналы бытия

Благодаря ИИ мы постоянно узнаем, что мир переполнен простыми людьми, все как-то нелепо косячат :))

ПвК уличили в публикации четырёх экспертно-аналитических отчётов об ИИ, которые были переполнены ссылками-глюками, выдуманными утверждениями и тп, аж фреймворк нагалюцинировали

Прелесть!

〰️ Сигналы бытия