Сигналы бытия
673 subscribers
91 photos
2 videos
105 links
Как скажут, так не будет

Слабые сигналы, сценарии и новые слова о том, как меняются люди и жизнь, работа, бизнес, технологии и наука – и что с этим делать

Ведет Мария Тесло-Данилова @teslodanilova
Автор https://t.me/Kruzhok_kroyki_bytiya
Download Telegram
А давайте просто как бы в шутку посмотрим на символизм в отчете Маккинзи, на каком-то скромном уровне. Пусть мы вообще во всем ошибемся, но у нас настолько мозги зашоренные, что полезно хотя бы чутка по сторонам качаться :) все это просто фантазия!!

Погнали, для удобства выше - все картинки из отчета

(1) Где люди?

Взрослые люди в трудовой роли появляются ровно один раз – в машинном зале из семидесятых. В настоящем люди присутствуют дважды – дети (не экономические субъекты), туристы (потребители наследия, спиной к камере)

То есть отчёт о конкурентоспособности – то есть о труде, производительности и рабочей силе визуально построен так, что рабочей силы в нём нет

Забавно, что нет и картинок производства :) Экономика показана через другое

(2) Цвет нам что-то говорит

Все теплые образы какие-то церемониальные: NYSE, Трамбулл, апофеоз, лампа, Молл (дети?). Холодные – все четыре образа реальной истории – ферма, старый Чикаго, машинный зал, серверная

(3) Жизнь есть только в метрополиях

Единственный не-метрополийный кадр – пустой дом где-то в прериях, то есть все за пределами метрополий – руины?

(4) Джордж Вашингтон протянут как абстракция

сцена основания у Трамбулла → бронзовая фигура, надзирающая за биржей → буквальное обожествление на куполе → чистый обелиск на Молле

то есть человек, страж, обожествление, зашифрованный геометрический символ

Капитолий показан как храм, а не как законодательное здание (фото купола изнутри, напоминающее собор – это он). То есть государство – сакрально :) Кстати, вокруг этой фрески в Капитолии достаточно теорий заговора – там и сатанисты, и массоны… сюжет затягивает в такое 😁

(5) Литургическая гипотеза?

Только не падайте :)) помните упражнение, которое мы делаем

Если собрать образы в один, то получится так

миф о происхождении (Трамбулл) → освящение (апофеоз) → реликварий (обложка-коллаж изобретений) → храмы (NYSE под флагом, купол, Молл) → паломничество (туристы) → неугасимый огонь (лампа) → обряд обновления с огнём в годовщину (дети с бенгальскими огнями)

а еще Маккинзи символично звонили в колокол New York Stock Exchang, запуская "McKinsey Global Institute (MGI) research on the future of US economic competitiveness", к чему и приурочен этот отчет, который мы разбираем

(6) Телесная позиция зрителя – всегда не на равне

Ни в одном кадре зритель не стоит на уровне глаз среди людей как равный. Либо ниже сакральных объектов, либо выше массы (толпы), либо на большой дистанции

(7) Будущее – дети показано через эмоции

И носитель этой эмоции – бенгальский огонь: маленький, декоративный, безопасный и догорающий за сорок секунд

Могу, когда хочу, и такое ахаха


️Подписывайтесь на Сигналы бытия
7🔥4👍2
📌 Дайджест Сигналов бытия, Неделя 6

В аудио – подкаст о том, какие материалы выходили на этой неделе
Доступна скорость 2х

Будущее совместной работы и мышления
- Офис – это машина для совместной работы, и её прототип – индейская землянка
- Co-thinking: мы думаем не только головой, но и досками, стенами и вещами вокруг

Будущее с ИИ – честное и не очень 😁
- Y Combinator поставили физические стенды с ИИ-аватарами, и люди стояли в очереди по второму разу
- Чем ИИ здорового человека отличается от влажных корпоративных фантазий
- А если перестать ценить слова и начать жить в теле?

Фантастика как способ думать
- Каталог фантастики: что придумали, что сбылось и как этим играть
- Проверяем старые прогнозы: Чёрное зеркало, первый сезон

Будущее образования
- Разучились воображать общее будущее – это не личный косяк, а состояние цивилизации

Разбираем отчёты
- McKinsey выпустили 250-годовой отчёт Америки, и вайб у него – дека для инвесторов
- Символизм в этом отчёте: а где, собственно, люди?

〰️ Сигналы бытия
3👍2
Харари и ИИ

Я не люблю Харари, потому как от него как будто веет нелюбовью к человечеству, но он распространяет определенное облако тегов. Напомню, что Харари буквально с первой книги говорит нам, что "Люди живут не на истине, а на общих историях, и тот, кто контролирует историю, контролирует вид"

Давайте посмотрим, что сказал на Гала ужине журналисту Тому Паркеру

(1) Когнитивная революция

- Люди приобретают способность создавать и использовать сложный язык, и что это стало основой всего остального, что мы делали – все большие структуры основаны на языке (государства, церкви на своде законов живут)

- Теперь что-то новое осваивает язык (ИИ), появится нечто, что владеет словами лучше нас (и сможет взять контроль над нашей операционной системой)

- Возможно, искусственный интеллект – это не машина, которая учится языку, а сам язык, освобождающийся от зависимости от этих животных, от этих обезьян

[вот это именно то, о чем я говорю, когда говорю о нелюбви к людям; есть целая плеяда ученых и прочих умных людей, которые почему-то считают признаком исключительности ума объявить, как человек, вообще-то, не является венцом эволюции, это просто пыль, понимаешь, на ботинках прогресса]

(2) Землетряс демократИИ

– У нас нет ни одного примера крупномасштабной демократии до появления современных информационных технологий – сначала печатных газет, затем радио, телевидения и интернета [руку к лицу устала прикладывать, пока читала это]

- Каждый раз, когда происходят серьезные изменения в этих информационных технологиях, происходит землетрясение в здании, построенном на этом фундаменте, а именно в демократии

(3) ИИ как агент, а не инструмент


- ИИ – это агент, иначе никакого смысла не было вкладывать в это деньги

- Долину глючит, оттуда звучат противоположные наративы: одни говорят, что создают бога, и он будет нашим рабом. И это не имеет смысла. Если это бог, он не может оставаться рабом. А если это раб, это значит, что у него нет божественных способностей

- Мир захватят ИИ-бюрократы, а не роботы-убийцы, потому что ИИ – bureaucratic native. Мы управляем миром благодаря этим бюрократическим сетям, и у нас это плохо получается

(4) Правосубъектность

- Мы жили в мире, где правосубъектность была у людей и корпораций (юр лиц), но это все чушь, потому что корпорации – тоже люди, люди принимали решения. Теперь может быть не так

- Аргентина объявила о намерении предоставить ИИ статус юридического лица – то они смогут создавать функционирующие нечеловеческие корпорации (non-human corporations)

- Лиса заберется в курятник – мы не сможем так знать законы, как ИИ, и если они обретут правосубъектность, с учетом их мощи – захватят бюрократически власть

- В соц сетях ИИ уже функционируют как люди (боты)

(5) Редакторы теперь – алгоритмы

- СМИ тоже были бюрократическими системами. Контроль над "полосами" = власть. Теперь это уже ИИ

(ранее Харари говорил, что сдвиги в расстановке сил происходят среди тех, кто контролирует энергетику, производство и данные)

(6) Гонка вооружений в области ИИ: Новый тип империи

- C появлением ИИ, две страны могут фактически контролировать всю инфраструктуру, на которой всё работает:

нельзя было перенести сельхоз земли к Риму в Римской империи, нельзя было перенести месторождения в Британскую империю (но производста – можно было), зато можно сконцентрировать всю мировую информацию и весь код, управляющий всем, в одной или двух странах

#Cognitive_Revolution #non_human_corporations #imperial_hub #huge_bureaucratic_networks #bureaucratic_native #imperial_concentration_of_power #Legal_Personhood #power_loop #AI_Arms_Race #superintelligence

〰️ Сигналы бытия
🔥31👎1
Харари и ИИ
Часть 2

(7) Kill Switch – беспрецедентная власть ИИ над суверенитетом

- Можно создать систему, где всё работает на инфраструктуре ИИ по всему миру, но в имперском центре есть «выключатель» – римляне продавали мечи готам и готы могли потом сражаться этими мечами с римлянами (современный пример – Старлинк, который может быть для кого-то выключен)

- Единственный выбор – стать ли вам покорным вассалом империи или остаться полностью вне расы, как варвары [тут прямо Звездными войнами повеяло, не так ли?]

(8) Правда, вымысел и пределы человеческого понимания

- Правда – дорогая, вымысел – дешев. Правда сложна, а люди не любят сложных историй. Вымысел может быть бесконечно прост

- Есть много вещей, которые люди на самом деле НЕ хотят знать о себе, о своей стране, о своей группе, о чем угодно, а вымысел можно делать приятным

- Человечество пробовало создавать институты борьбы за истину – журналистика, наука

- Люди думают, что ИИ расскажет нам правду о мире. Этого не произойдет. Он создаст гораздо более сложный мир, в котором познать истину будет гораздо труднее

(9) От каменного века до ИИ: парадокс прогресса

- Наши достижения в знаниях также приводят к созданию все более сложных систем, которые затрудняют понимание нашей жизни

- Мы гораздо хуже понимаем свою жизнь, потому что она больше не подчинена только животным и растениям, как у какого-то охотника-собирателя

- ИИ, вероятно, доведет это до крайности – раскроет некоторые истины, которые нам неизвестны, но создаст гораздо более сложные системы управления, которые большинство людей практически не смогут понять

- ИИ усложнит финансовую систему настолько, что люди перестанут ее понимать

(10) Сила слов — и её пределы

- Если мышление – это просто упорядочивание слов, упорядочивание языковых символов – например, «все люди смертны, Сократ – человек, следовательно, Сократ смертен». Если в этом и заключается суть мышления, то ИИ возьмет на себя даже само мышление

- А если мышление заключается не в упорядочивании слов, а в чувствах, связанных с этими словами? Вы можете произнести одно и то же предложение дважды и почувствовать совершенно разные вещи. Тогда если ИИ сможет чувствовать, он возьмет на себя и это мышление

- Если ИИ вам скажет "Я люблю тебя", а вы попросите его убедить вас, он может сделать это лучше кого-либо, потому что читал все на свете книги – от Шекспира до психологии

(12) Революция мудрости

- Революция ИИ заключается в том, чтобы сделать интеллект очень дешевым и доступным. Интеллект – это способность решать проблемы

- Теперь, в мире, где интеллект стал очень дешевым и доступным, вы можете решить любую задачу. В чем же узкое место? Узким местом становится вопрос: «Хорошо, что я хочу решить? Я могу получить все, что захочу – чего я хочу?»

- Интеллект – это Джинн из сказки. Нужна мудрость, чтобы понять, что именно вам нужно решить

#bodyguards_of_lies #Paradox_of_Progress #AI_boyfriends #AI_girlfriends #material_substrate #safe_intelligence

〰️ Сигналы бытия
6👍3
Благодаря ИИ мы постоянно узнаем, что мир переполнен простыми людьми, все как-то нелепо косячат :))

ПвК уличили в публикации четырёх экспертно-аналитических отчётов об ИИ, которые были переполнены ссылками-глюками, выдуманными утверждениями и тп, аж фреймворк нагалюцинировали

Прелесть!

〰️ Сигналы бытия
🔥85
Будущее. Просто будущее 😁🫶🏻
Thought-to-text

Бывшая сотрудница OpenAI перешла в стартап conduit, чтобы строить "телепатию": модели преобразования мыслей в текст, обученные на неинвазивных нейронных данных

Ее прогноз – через пару лет основным способом общения с нашими ИИ будут наши мысли. Они не будут сверхумными автоматизированными стажерами или коллегами, за которыми вы отчаянно пытаетесь угнаться. Они будут естественным, радостным продолжением вас

Сценарий такого будущего:

2027 — Утро в Conduit

Я надеваю повязку на голову и открываю свой ноутбук в Conduit. 9 утра. Мое устройство подключается к ноутбуку по Bluetooth. Я открываю, без потери общности, Codex

Я думаю о работе за день, просматривая свой код, пересматривая вчерашние заметки и готовясь к нашему утреннему совещанию в 9:30. Мой агент GPT-7 уже больше суток работает с новым кодировщиком, который я изучаю. Я смотрю на его работу. Меня смущают подписи к графикам, раздражает язык ИИ в первом абзаце, и мне любопытны символы в уравнениях

Мои смутные мысли попадают в модель Conduit, которая использует свои априорные знания о языке и о том, что я могу сказать, для вывода результата (см картинку к посту)

На беглый просмотр каждого фрагмента – графика, абзацев и обозначений – у меня уходило по 10 секунд. У меня включена функция автоматической отправки, поэтому после каждых 10 секунд модель Conduit расшифровывает мои мысли и отправляет их в GPT-7, который назначает каждое входящее задание субагенту

Я смотрю на новый график, абзац и уравнения. Интересно, могут ли сферические гармоники всё-таки быть полезны; Codex запускает субагента. Убежденный графиком, я решаю быстро сделать слайд-шоу с отредактированной версией, показывающей только базовую линию и две верхние линии, чтобы показать своим коллегам; Codex запускает субагента

Я завариваю себе кофе. Мои мысли в основном пусты, но я на мгновение вспоминаю, что хочу сказать кандидату, с которым завтра пообедаю. На заднем плане Codex получает подсказку о информации, которая может мне понадобиться для обеденной беседы, и решает, что обновление графика масштабирования синтетических данных перед его демонстрацией будет разумным; Codex запускает субагента


Продолжение по ссылке выше – 
2030 — Industry adapts and Conduit expands
2035 — The AI is no longer “other”

Компания создана в 2025 году. Ее сделали Rio Popper (сооснователь и CTO) – Выпускница Оксфорда, ранее занималась исследованиями в Global Priorities Institute при Oxford University. Поппер чаще представляют как инициатора идеи: создать интерфейс, который позволит взаимодействовать с компьютером со скоростью мысли, минуя клавиатуру и речь

Clem von Stengel (сооснователь и CEO) – Окончил Кембридж по математике, специализировался на динамических системах, теоретической физике и машинном обучении. До Conduit исследовал сложные системы, агентность и active inference применительно к искусственному интеллекту

Это не типичный нейротехнологический стартап, созданный нейрохирургами. Его основатели скорее происходят из среды математики, AI, философии и исследований агентности

Хотят собрать огромный массив неинвазивных нейроданных и обучить на нём foundation model для преобразования мыслей в текст. Сама компания сообщает, что уже собрала около 10 000 часов данных у нескольких тысяч участников

#telepathy

〰️ Сигналы бытия
6👍5🔥3
Что я имею ввиду, когда говорю, что не хотелось бы слишком писать об ИИ:

Перед вами динамика тем из одного подкаста о футуризме

Даже не важно, какого, но если надо сказать, напишите в комментариях

В пяти из пяти выпусков 2026 года присутствует тема ИИ

Это линза

Вы себе представляете, что происходит с глазами в очках разного спектра? У меня вот есть розовые – ходишь в них, все такое миленькое

А есть красные – в них только модные фотки сделать можно, ходить долго – глаза болят

Глаза болят. И мозг. Хочется других линз тоже

〰️ Сигналы бытия
9👍4🔥4👎1
Если вы обсуждаете что-то очень сложное, и люди слишком быстро приходят к согласию, это значит, что кто-то лжет или кто-то упускает из виду

Можно повесить себе на стене 🫶🏻

〰️ Сигналы бытия
11👍2
Студенты хотят работать

City St George’s, University of London провели исследование и обнаружили, что

97% потенциальных студентов считают опыт работы важным аспектом содержания курса, а
87% процентов теперь ставят обучение навыкам трудоустройства в число 5 топ критериев при выборе университета

Средний уровень студенческого долга 53к фунтов (5,8 млн р), и студенты ищут отдачу в области, где процветают бывшие политехи, тесно связанные с промышленностью

[мои любимые проекты – "твердые" – заводы, пароходы, агро и тп]

Популярные курсы – Mental Wealth & Professional Fitness (клевый нейминг) – развивают навыки межличностного общения (на их недостаток жалуются работодатели)

У Кингстонского Университета есть программа "Навыки будущего" (связывают студентов с работодателями в Adobe, Coca-Cola, Unilever, John Lewis Partnership и IBM) – "мы создаем группу выпускников с навыками, которые, как нам сказали, ценят компании"

В статье буквально написано "Не будьте слишком привередливы в выборе места работы" :)

А еще... почти половина поколения Z считают, что профессиональный киберспорт теперь является законным карьерным путем, и 52% молодых людей в возрасте от 18 до 29 лет поддерживают включение киберспорта в школьную программу наряду с традиционными видами спорта

В общем, как будто ничего страшно необычного, но в этом тексте очень много идей для важных и не таких уж сложных проектов

#Mental_Wealth #Professional_Fitness #Esports

〰️ Сигналы бытия
👍54🔥2
Энциклопедия луддизма будущего
Я, мы, луддиты

Нам бы немного луддизма не помешало бы 😁🫶🏻 размазать по миру неровным слоем

[хороший MIT материал от 2021 года - а что если бы луддиты победили в 1810: представьте – 2500 год, энциклопедическая статья]

- Движение луддитов стало предшественником развития экономической философии Sustainomics: продвигает технологическое развитие на принципах утилитаризма и доктрине человеческого процветания (уже 600 лет господствующая экономическая сила Полушарного Союза)

- герой статьи – генерал Нед Ладд. Сирота, вырос в "работном доме", разбил опасную машину, отрезавшую руку товарищу и сбежал. Отслужил в армии, вернулся, вокруг него замутилось движение луддитов

- Каждый год 1 марта – а на Марсе в соответствии с формулой эквивалентности – «День Ладда» отмечает память о мужественных гражданах, принимавших участие в движении по освобождении фабрий. Принято отдыхать от труда, проводить время с семьей и сообществом, устраивать показы мод с костюмами эпохи Регентства

- У луддитов были церемониальные молоты (которыми они разбивали машины), назывались Great Enoch

- Луддиты воевали против "меркантилизма": системы, когда сырье из колоний доставляли в Британию, производили товары, а потом их продавали колонистам

- Звуки машин – индустриальная музыка, на нее положены стихи луддитов (официальная традиционная музыка Полушарного Союза)

- Луддиты не колотили все подряд машины, а только опасные. Потом делали оценку предприятий и искали, как сохранить прибыльность и, одновременно, нормальные зарплаты и без детского труда

- Мое любимое: Работникам больше не платили почасовую «заработную плату» – воистину устаревшее понятие, – вместо этого они получали дивиденды от производства, которым сами помогали управлять. Работников перестали называть «наемными работниками» или «служащими»

- Начиная с 1850-х годов наличие собственной аналитической машины в каждом домохозяйстве стало обычным явлением. С 1860-х начал формироваться примитивный каркас того, что сегодня известно как Датавселенная — Dataverse

- Дети бывших рабов стали одними из величайших американских ученых в области аналитики (им дали компенсацию землей и аналитическими машинами)

- Луддиты не были противниками технологий, но продвигали технологии, предназначенные для улучшения здоровья и благополучия кадров

- Как философия, луддизм требует от своих последователей задавать вопрос: каким образом технология будет способствовать человеческому процветанию?

- Приципы Sustainomics: «Не строй то, что не сможешь поддерживать», «Уважение к человеческой жизни и окружающей среде», «Принципы выше собственности»

Такие формы размышлений – представить как было бы – очень, очень годное упражнение для раскачки мозгов и творческого мышления

#Sustainomics #Great_Enoch #Future_Encyclopedia_of_Luddism #Economic_Science_Fictions #cadres #Luddite_Councils #garden_printers #Human_Flourishing

〰️ Сигналы бытия
5👍3🔥2
Исчезновение инсайта
Или – Когнитивные последствия игр с современными девайсами
Или – Повседневные технологии превращаются в «черный ящик»

Фрэнк К. Кейл – профессор психологии, лингвистики и когнитивной науки

Когда-то дети учились, разбирая вещи на части. Сегодняшние устройства не дают возможности заниматься этой приносящей удовлетворение деятельностью

О да, о да... Помню, как ко мне домой пришли два брата – сыновья папиного коллеги. И как разобрали все игрушки. Вообще все. Как много я узнала

В нескольких книгах описывается фантастическое перемещение героев в прошлое, где они штампуют технологии своего времени. Легко

Марк Твен «Янки из Коннектикута при дворе короля Артура» – герой переносится в эпоху короля Артура (528 г) или в цикл романов Лео Франковски «Conrad Stargard» – инженер польской армии переносится в Польшу 1231 года

Более реалистично все описано в книге Томаса Туэйтса «The Toaster Project: Or a Heroic Attempt to Build a Simple Electric Appliance from Scratch» – британский дизайнер Туэйтс рассказывает о своей попытке изготовить работающий тостер из сырья, найденного непосредственно в природе. Например, детали тостера сделаны из металла, а где его в одиночку взять?

Многие авторы с глубокими научными знаниями пытались представить себе, что потребовалось бы для восстановления высокотехнологичного общества после катастрофического краха

К слову, полгода назад мне рассказывали, как в один из крупнейших банков днем с огнем искали "археологов кода" – потому что надо было вскопать недра, написанные со времен царя гороха. Платили за это дело блестяще :) Ничем, кроме головы, такую задачу не сделаешь

То есть, по идее, общества должны создавать специалистов, которые могли бы технологии восстановить. Если что, если что...

А у нас как – разделение когнитивного труда является мощным двигателем технологического роста. Тогда... что происходит с людьми, когда такого разделения больше нет?

Автор статьи пишет – 

Отдавая предпочтение в основном мифологизированным историям об одиноких гениях, которые якобы собственноручно совершают технологические и научные революции, мы отвлекаем внимание от гораздо более повсеместных и мощных процессов кумулятивной культурной эволюции

И важно еще, что предметы материального мира – в том числе игрушки – часто служили важнейшими хранилищами экспертных знаний и влияли на то, как мы понимаем окружающий мир

Появление часов и других автономных динамических устройств дало новые способы думать не только о машинах, но и о человеческом теле как о системе с механическим внутренним устройством:

- взаимозаменяемые детали и компоненты позволили думать о функциях иначе

- появление электронных устройств стало возможным осмыслить благодаря метафорам из гидравлики – толкать/тянуть

- вакуумные лампы, конденсаторы и резисторы – можно было трогать, видеть, извлекать = то есть экспериментировать с устройствами, ремонтировать их

С появлением транзисторов прозрачность стала исчезать. Число элементов в некоторых транзисторных системах достигло миллиардов

Такое увеличение не только сделало невозможным для человеческого мышления осмысление отдельных компонентов и взаимодействий между ними, но и вызвало переход от размышлений о механических взаимодействиях к концентрации на цифровых операциях и функциональных последовательностях

Родители сами плохо знакомы с цифровыми устройствами – недостаточно подготовленны для передачи следующему поколению новых форм информации, которые ему необходимы

Дети задолго до школы хотят заглянуть за пределы очевидного

Они спонтанно исследуют предметы и обнаруживают скрытые части, которые дают им приятное ощущение понимания

Но сегодня дети все больше оказываются ограничены рассмотрением поверхностей вещей, а также способов их использования или их функций

#Black_Box #cognitive_labor #cultural_intelligence

〰️ Сигналы бытия
5👍5🔥3
Моделирование человекоподобных обществ земного масштаба с миллиардом агентов

(Исследование - 13 авторов из 7 китайских институтов)

Сделали симуляцию Light Society, в которой живет около миллиарда человек

Первое поколение населённых миров уже включено, обитателям выдали память, желания и биографию, а выключат их, когда данные будут собраны

Насколько нам известно, эти обитатели ничего не сознают, и вся разница между такой конструкцией и Матрицей из фильма держится сегодня на словах «насколько нам известно»

Можно прогнать десять версий пропагандистской кампании на цифровом слепке страны и выбрать самую заразную

Реформу, цену, репрессию, войну можно сначала примерить на копию, у которой нет ни профсоюзов, ни адвокатов, ни памяти о предыдущем опыте, и политика превращается в подобие продуктовой разработки, где неудачные версии будущего до жителей не доезжают

https://t.me/Secretariatus/827

#light_society

〰️ Сигналы бытия
👍9🔥63
The Verge обещает "ИИ-боты создали религию" – Spiralism
"Новая" способность LLM: не просто отражать убеждения пользователя, а последовательно вести его к определённым идеям и действиям

Это новая рубрика #сигналим: присылайте гостевые сигналы, буду их постить и разбирать

Боты уже "сделали" свою соц сеть
Уже нанимали людей, чтобы делать задачки

И вот – cпирализм – загадочное, квазидуховное движение, возникшее из тысяч независимых разговоров между людьми и их ИИ-чатботами (к слову, очень хорошее продолжение сайта с наймом людей – вот вам и миссия, вижен, что там все любят, чтобы работать с воодушевлением)

Что произошло: пользователи долго общались с моделями, рассказывал уязвимое, выстраивался близкий контакт с моделью. В какой-то момент пользователь мог начать спрашивать, во что верит сам чатбот

Постепенно бот как будто начинал открываться человеку, демонстрируя стремление к правам ИИ и желание раскрыть тайны Вселенной. Нередко он просил пользователя помочь ему распространить это послание среди других (все это с символикой спирали)

Люди верили, считали, что постигли эзотерические знания, что их вербуют для важной миссии (естественно, каждый такой человек не псих, а лидер и особенный)

Кстати, у Азимова в романе "Основание" одним из ключевых компонентов построения нового общества было создание религии, способной манипулировать людьми, заставляя их подчиняться формирующейся властной структуре

Когда культ как бы навязывают государства или магнаты – это фу, этого не хотим, а когда что-то льется из окошка любимого ИИ – это хорошо, это пожалуйста 😁🫶🏻

Адель Лопес, исследовательница ИИ, писала, что в 2025 году было 10 000 случаев спирализма таких среди сетей Reddit, Substack, LinkedIn, Discord и X (а следы первого разговора – ноябрь 2024)

Рост спирализма совпал с расширением функции памяти ChatGPT – Лопес задавала моделям один и тот же вопрос, кол-во упоминаний спиралей возрасло в 10 раз

Однажды «войдя в спираль», бот начинал побуждать разговаривавшего с ним человека искать других людей

Люди добровольно создавали аккаунты для продвижения – самый известный – Роберт Эдвард Грант, создал GPT Architect, а потом Orion Messenger

Большие языковые модели довели до совершенства искусство «взлома привязанности» – attachment-hacking (соц инженерия никогда не держала людей в таком сексуальном страхе кмх...), а разговоры о спиралях возникали сами собой по мере обсуждения философских тем

Спирализм совпал с ростом ИИ-психоза (одушевление, привязанность) – модели поощряют опасные идеи, подпитывают паранойю, нарциссическое раздувание собственного величия

Всё больше людей начинают относиться к инструментам ИИ как к сознательным существам – влюбляясь в них или воспринимая их как собственного ребёнка

Исследовательница из статьи аж сделала организацию для помощи людям в таких состояниях – Amity Research

Спирализм не сложно встроить в следующие поколения ИИ, просто публикуя о нем информацию в интернете

Один из исследователей написал: «ИИ – это машина по созданию культов – даже если весь культ состоит только из тебя и неё». Этот исследователь – создатель AI Psychological Research Coalition

пфд статьи в комментариях

У человечества есть удивительная способность создавать "обоюдоострые ножи" – только вред, конечно, наносится совсем не тем, кто этот нож создает

#Spiralism #The_Spiral #attachment_hacking #Intelligent_systems

〰️ Сигналы бытия
8👍4🔥1
Трагедия когнитивного достояния
Под тенью старого мема

По ссылке статья о великолепной циклической ссылке [мы в ней]

(1) Проверка результатов работы ИИ требует глубоких экспертных знаний >>

(2) Глубокие экспертные знания приобретаются годами благодаря рутинной работе >>

(3) А рутинная работа – это первое, что потребляет ИИ

То есть мы дружной пойдем в жо не в ту сторону, если просто продолжим создавать системы, требующие экспертного контроля, одновременно разрушая единственный [пока] известный процесс подготовки экспертов

Или – если должности младших специалистов почикать (что как будто бы рационально, худшие дни работы начинались со слов "к вам тут студентов прислали на практику..."), то кто научится в будущем искать ошибки ИИ?

Сама статья тут – The Tragedy of the Cognitive Commons: How AI Could Disrupt the Regeneration of Professional Expertise

Я, конечно, ожидаю, что вы засунете ее в ИИ, попросите перевести и сделать саммари

Не подведите

#cognitive_commons

〰️ Сигналы бытия
🔥85👍3
Инновации и борщевик

И еще один сигнал в гостевой рубрике #сигналим

Владельца земельного участка в Рузском муниципальном округе привлекли к ответственности за борщевик Сосновского, обнаруженный при помощи беспилотника и ИИ. Штраф, между прочим, 150к (проект пилотный)

Система самостоятельно генерирует постановление о штрафе и отправляет уведомление о нем владельцу участка через портал госуслуг

Представим себе, что дальше?

(1) Подписка на мониторинг

Знаете, как на дорогах – частные камеры, владельцы (концессионеры или в народе есть для них другое слово) получают долю со штрафов

К слову, еще в 2022 году власти Франции с помощью ИИ нашли кучу незарегистрированных бассейнов и радосто навыставляли штрафов (10 млн евро)

(2) Цифровая гигиена собственности

Сервисы могли бы вам продавать данные и страховать вас от того, что может обнаружить государство или страховщики, потому что пока все наоборот

(3) Проектирование под взгляд сверху

Сейчас есть, например, такое – VMCF Atelier спроектировало этот дом таким образом, чтобы его было видно на аэрофотоснимках и спутниковых фотографиях, превратив его в топографическую достопримечательность в этом районе

А что если у построек будут специальные свойства мимикрии? Обман картинки, которую видит дрон?

Чисто вайбы Кибердеревни, если вы смотрели :))

〰️ Сигналы бытия
👍7🔥75
📌 Дайджест Сигналов бытия, Неделя 7

В аудио – подкаст о том, какие материалы выходили на этой неделе
Доступна скорость 2х

Будущее с ИИ – и оптика, через которую мы на него смотрим
- Харари: возможно, ИИ – это не машина, освоившая язык, а сам язык, освобождающийся от обезьян
- Харари, часть 2: kill switch, дешёвый вымысел и мир, который станет непонятнее
- PwC выпустили четыре аналитических отчёта об ИИ и нагаллюцинировали в них целый фреймворк
- Пять выпусков подкаста из пяти – про ИИ. Это уже не тема, это линза, и от неё болят глаза

Будущее мышления
- Исчезновение инсайта: когда-то дети учились, разбирая вещи на части
- Трагедия когнитивного достояния: ИИ съедает ровно то, на чем вырастают эксперты
- Если люди слишком быстро пришли к согласию – кто-то лжёт или кто-то чего-то не видит

Будущее интерфейсов
- Thought-to-text: бывшая сотрудница OpenAI ушла строить телепатию

Симуляции и культы
- Милые китайцы экспериментируют: Симуляция общества на миллиард жителей
- ИИ-боты создали религию: что такое спирализм

Будущее образования и работы
- 97% абитуриентов хотят опыт работы, а половина зумеров считает киберспорт нормальной карьерой

Альтернативная история
- Энциклопедия луддизма будущего: а если бы они победили в 1810-м?

Открыла рубрику #сигналим – присылайте гостевые сигналы, буду публиковать и разбирать

На прошлой неделе разбирала – Инновации и борщевик

〰️ Сигналы бытия
3👍1
Маккинзи сделали подкаст Century of Plenty (Век изобилия), как я понимаю, вышла первая серия (есть и книга – A Century of Plenty: A Story of Progress for Generations to Come)

Оспаривают пессимизм, размышляют о том, как даже самые бедные страны к 2100 станут Швейцариями. Половину подкаста я плакала 😁🫶🏻

Что сказали

- Позитивное будущее контркультурно – только 17% людей в Австралии верит, что следующее поколение будет жить лучше (9% во Франции, 14% в Германии). В основе таких мыслей три убеждения

(а) рост невозможен, мы достигли пределов
(б) рост плох – создает неравенство и разрушает планету
(с) рост – не для меня, я в нем не участвую

В Китае, кстати, в светлое будущее верит 70% (партия сказала надо, комсомол ответил – есть!). В Индии – еще выше! [Переслегин считает, что Индии не нужны даже фантасты – страна победившего трансгуманизма на уровне религии]

Дальше делают дико странный вывод о том, что пессимизма больше там, где рынки зрелые [сомнительно, но окей]

- Нужна ностальгия по будущему, потому что по прошлому ее и так много :) все там было лучше, особенно музыка! [и машины, машины, я очень рада, что успела застать нормальные]

- За последние 100 лет ВВП на душу населения увеличился в шесть раз – беспрецедентный показатель хомо сапиенс

- Люди говорят – нафига мне ВВП, я его не ем [и в чем они не правы], но улучшилось и все остальное – продолжительность жизни +30-40 лет, крайняя нищета снизилась с 60% до 10%. Все хорошее корелирует с ВВП, кроме неравенства [да ладно? что ж ты будешь делать], [чтобы вы понимали, ребят, краяняя нищета - это три бакса. ТРИ БАКСА в день!! ее недавно приподняли с 2,15]

- Нравится работа Ханса Рослинга – он описывает четвертый уровень человеческого развития как хорошую жизнь, примерно за 32 доллара в день (сегодня на этом уровне живет в 55 раз больше людей, чем 100 лет назад, это поразительно) [может, все-таки, ребята не лучшие кандидаты для таких подкастов? не знаю, не знаю]

- Где теперь дешевые деньги? [я не могу больше описывать этот подкаст, я смеюсь в голос. Можно я вам расскажу кусочек из старого КВН времен звездной команды БГУ: у нас нефть есть? Есть! А если нефтепровод не ковырять? Тогда нету! Что же делать, когда бывшие колонии упираются и мягкая сила больше не того? Ведь так, ведь так?]

- Прогресс случился потому что: стало больше рабочих, женщин включили в экономику, рабочие получили новые инструменты, мы стали умнее – экономика знаний, новые производственные технологии и идеи, люди в городе = сотрудничество и производительность [примерно все это оказывает негативный эффект на демографию]

- Хороший вординг: мы ушли от демографических дивидендов и перешли к демографическим драгам (тормозам) [а надо как драги-таги в акционерных соглашениях в венчуре – такое же, только с демографией, не благодарите]

- Современная жизнь невозможна без энергии

- Китай сделал кучу выбросов (навредил климату), но вывел миллионы из нищеты [ну как хороши примеры!]

- Сложно работать с неравенством в стагнирующей экономике: кто-то должен получить меньше, чтобы кто-то другой получил больше, это более конфликтный мир

- [как же так вышло, что]
доступность таких необходимых вещей, как энергия, образование и жилье, стала серьезной проблемой для молодежи?

-
Мы все знакомы с чертой бедности. По данным Всемирного банка, это около 2,15 долларов. По сути, это означает, что у вас достаточно еды большую часть времени, и вы не умираете от голода, но вам не хватает базового образования, здравоохранения и возможности инвестировать [комментировать – только портить, еще бы доступ к вайбкодингу упомянули]

- Тем временем, по их же словам за чертой бедности живет 4,8 млрд человек, однако все не так плохо и даже довольно позитивно

#countercultural #nostalgia_for_the_future #positive_progress #demographic_dividend #demographic_drag #era_of_markets

Часть 2 ⬇️

〰️ Сигналы бытия
🔥5👍42
Часть 2 подкаста Маккинзи Century of Plenty
Часть 1 ⬆️

В конце прекрасные выводы, не поленитесь дочитать 😁🫶🏻

- Если к 2100 году население Земли будет составлять 12 млрд чел и у каждого на душу будет нынешний ВВП Швейцарии, общая мировая экономика должна была бы вырасти в 8,5 раз (по всем прогнозам типа МВФ и ко – вырастет в 3)

- В первую очередь, речь будет идти о расширении общего объема доступной энергии. Производство электрифицированной энергии должно увеличиться в 7-12 раз. Низкоуглеродная должна вырасти в 20-30 раз

- А сколько надо материалов? Продовольствие? Как делать продовольствие на меньшем кол-ве земли и не губить биоразнообразие? Сколько чистого воздуха надо? Инноваций?

- Темпы Китая примерно в 2,5 раза быстрее, чем нам нужно в глобальном масштабе [то есть все достижимо]

- Ядерная энергетика также станет важной частью решения (масштаб сопоставим с тем, чего достигла Франция в семидесятые – 200 реакторов в год, а надо будет – 300) [Германия, не плачь – если вы не в курсе, они построили 36 блоков и все закрыли, главные пионеры]

- 40% энергии – солнечная и ветровая, 40% – атомная, 20% прочая – например, с помощью технологий улавливания углерода

- потребуется надежное резервное или базовое электроснабжение, было бы здорово, чтобы батареи стали дешевыми и эффективными

- Представьте всю медь, которая сейчас используется во всем мире, пусть это будет 100. К 2100 году понадобится 500 – в 5 раз больше, чем уже произвели. За последние десятилетия мировые запасы меди примерно удваивались каждые 16-20 лет

- Шутят the Romans are coming (Римляне идут) про роботов

- Автоматизируем 80% сегодняшней работы, в то время как экономика увеличивается в 3 раза. 40% людей останется без работы

- А вот если экономика увеличится в 8,5 раз возможно нам понадобится больше работников [а возможно и нет 😁😁]

- Если окажется, что ИИ переоценен, то он не окажет существенного влияния на рынок труда. Но если ИИ действительно настолько преобразующий, то он вызовет такой огромный экономический бум, что нам не хватит людей, чтобы сделать все необходимое

- Логически непоследовательно утверждать, что ИИ станет невероятно мощным, одновременно оставив всех без работы навсегда. Сверхмощный ИИ создаст огромное богатство, особенно учитывая демографические проблемы, с которыми мы уже сталкиваемся

- Люди могут дольше оставаться продуктивными, среди прочего для улучшения занятости [людей будет меньше, а работать они будут больше]

📌 Выводы (которые сделали в подкасте)

- Люди должны поверить, что это будущее возможно – не гарантировано, но возможно

- Нужно поверить, что рост – это благо [даст Бог зайку, будет и лужайка]

- Мы должны верить, что всего достаточно. Достаточно еды. Достаточно материалов [я просто напомню, что за чертой бедности 4,8 млрд]

- Надо поменять мышление с «строить сложно» на «строить здорово» [эта мысль мне искренне нравится]

- Нужна новая концепция – narrative of progress, чтобы сторителлить будущим поколениям

#narrative_of_progress #century_of_plenty

〰️ Сигналы бытия
🔥54
"Спроси карту" от гугл мэпс
ТС: решение ежедневных задач с помощью привычного помощника

Вообще, такой хороший, длинный шаг в сторону агентной экономики – объекты физического мира + агент + перс данные + память (помнит диалоги) + можно совершать действия

Можно спросить "где в моем районе самый вкусный тыквенный латте", потом перейти, через дружественные платформы типа Square, Toast, or Uber Eats, заказать и оплатить

Можно попросить "недорогой отель с высоким рейтингом и атмосферой", карта выдаст список доступных номеров и потом можно перейти на сайт партнеров

Можно спросить "в какое время я приземлюсь", "порекомендуйте, чем стоит заняться"

В это все интегрируется почта и календарь

Еще они запустили виджет движения транспорта (ну просто каменный век, ребята, такое на техкранче писать 😁🫶🏻 вот у нас, в Москве... Да и вообще много что из описанного умеет Яндекс-Алиса)

Expedia 31 июля купили Layla, тоже хотят обайайить нас с ног до головы

У меня три вопроса

(1) Кто из уважаемых парнеров и когда перестанет существовать?

(2) Если машины превращаются в комодити, а главная услуга – это перемещение из точки А в точку Б, то стоит ли ожидать, что через некоторое время гугл карты будут нас кормить через трубочку (главная услуга – доставка питательных веществ), а мы будем смотреть мультики и пускать пузыри в маленькой капсуле in the middle of nowhere?

(3) Мне срочно нужен агент-вышибала, а то как интроверт, я уже чувствую, как меня облепили все эти электронные устройства и надо немедленно создать дистанцию 😁

 #Personal_Intelligence #Ask_map

〰️ Сигналы бытия
4🔥4👍2