«Предсказывать очень трудно, особенно предсказывать будущее»
— мудро шутил Нильс Бор. И хотя вся история науки подтверждает его слова, это не помешало, например, Уильяму Джону Варнеру снискать славу «Эйнштейн хироманитии». Ведь его прогнозы будущего людей по их «линиям судьбы» (кожному рельефу ладоней) часто оказывались поразительно точными.

А может ли существовать «линия судьбы» у всего человечества?
И был ли в истории гений, способный эту линию предсказать?

Как ни удивительно, но ответы на оба эти вопроса — да. История знает такого гения (и я бы даже сказал, супергения).
• Еще в 1986 он предвидел, каким может быть универсальный шаблон истории развития глобальной цивилизации, и какое будущее эта «линия судьбы» сулит человечеству.
• А спустя 36 лет, в 2022 году были опубликованы две прорывные междисциплинарные научные работы, давшие предвидению гения научное обоснование.

Но это еще не все.
✔️ В первой из этих работ показано, что в основе «линии судьбы» человечества одна единственная простая и элегантная математическая формула.
✔️ А из второй следует, что у землян всего два варианта будущего: умереть во сне или проснуться.

Продолжить чтение (еще 15 мин.):
- на Medium https://bit.ly/3Q62pat
- на Яндекс Дзен https://clck.ru/sSQ7w
#Инновации #СмежноеВозможное #Вызовы21века #Культура #ПарадоксФерми #Будущее

​​Бенефис Homo в роли Творца провалился.
Экспериментально доказано – способностей обрести здравый смысл у современных ИИ нет.
Опубликованное психологами Гарварда исследование – это холодный душ для техноэнтузиастов ИИ. Серия простых, но весьма убедительных психологических экспериментов показала:
1) полное отсутствие у DALL-E 2 (одной из наиболее продвинутых современных нейросетей, имитирующих интеллектуально-творческие способности людей) хоть намека на понимание результатов своей деятельности, многими людьми ошибочно воспринимаемых, как творчество ИИ;
2) полное отсутствие у DALL-E 2 элементарных базовых когнитивных способностей, без которых невозможна трансформация опыта взаимодействия с миром в «здравый смысл» об его устройстве;
3) (как следствие пп 1-2):, подобные DALL-E 2 ИИ-системы, при всех своих выдающихся инструментальных возможностях, не просто «отстает в развитии» от двухлетнего ребенка, а в принципе не способны подняться до его когнитивного уровня.

Нейросеть DALL-E 2 всего за нескольку месяцев обрушила представления человечества о границах творческих возможностей машин. Эта нейросеть иллюстрирует стихи Бродского, дорисовывает картины классиков, научила героев своих картин разговаривать на совершенно непонятном людям языке, создала расширенную версию полотна «Сотворение Адама», способна изображать бессмысленные предложения, типа «бесцветные зеленые идеи яростно спят» или «куриный наггетс курит под дождем», а давеча создала галерею «последние селфи на Земле».

После всех этих подвигов DALL-E 2 и прочих подобных её нейросетей, имитирующих интеллектуально-творческие способности людей, пришло время поставить вопрос ребром:
✔️ так что ж, эти ИИ-системы начинают приближаться в своих имитациях к способностям людей?

Ответ ИИ-скептиков (типа Гэри Маркуса и меня) - категорическое нет. Нынешний путь не ведет к человекоподобному ИИ. Потребуются иные пути.

Но одно дело, дискуссии энтузиастов и скептиков. И совсем другое дело – грамотный научный эксперимент, поставленный психологами Гарварда.

Авторы исследования пошли тем же путем, что и Гэри Маркус, поймавший нейросеть на том, что “астронавт верхом на лошади” она изображает блестяще, а “лошадь верхом на астронавте” — получается чёрте как.

Авторы провели систематическую проверку 15-и отношений, необходимых для трансформации опыта взаимодействия с миром в «здравый смысл» об его устройстве.
• 8 физических отношений объектов: внутри, на, под, рядом …;
• 7 отношений агентов: толкать, тянуть, трогать ….
В сценах, запрашиваемых нейросеть изобразить их, фигурировали 6 объектов (коробка, цилиндр, чашка …) и 6 агентов (мужчина, женщина, ребенок …).

А потом исследователи:
• Давали на вход нейросети простенькие задания, описывающие сцены из объектов, агентов и их отношений (типа «ложка в чашке» - см. рис), с тем, чтобы нейросеть генерировала изображения этих сцен;
• Показывали эти изображения людям для их вердикта, насколько каждое из изображений соответствует словесному описанию в задании.

Детальное объяснение методики, собранной статистики, выявленных проблем и предложений по их устранению – читатель найдет в отчете исследования.

Мне же остается лишь резюмировать.
Попытка людей уподобиться Творцу (Богу, природе, эволюции …), создав из «праха земного» (а конкретно, из кремния) разумного агента, обладающего здравым смыслом и способностью познавать мир через его понимание, пока провалилась.

PS 1) Это не умаляет высочайшей значимости ИИ в качестве инструмента для людей.
2) Не исключает создания человекоподобного ИИ, если пойти иным путем.
PPS Когда нам кажется, что нейросеть понимает сложные описания, это лишь статистическая иллюзия (доказано этим экспериментом).
#AGI

Китай наступает на всех фронтах в битве за цифровой мир.
Вышел отчет о развитии цифрового Китая за 2021 год.
Никакого кликбейта, т.к. цифры, действительно, поражают.
Такими темпами Китай сможет выполнить стратегический план КПК и стать №1 в цифровом мире в 2030.

Ибо цифровой мир – это Интернет в 3-х его ипостасях:
• Интернет людей
• Интернет вещей
• Интернет идей
Чтобы стать доминирующей силой во всех 3-х ипостасях, силой, обеспечивающей роль абсолютного лидера, за которым следует мир, необходимо достичь 5-и преимуществ.

1) По доле своего населения цифрового мира.
Здесь Китай уже №1 с 1+ млрд и 20+% числа мировых пользователей. Причем % мирового населения китайцев в физическом мире падает, а % в цифровом - бурно растет. Т.е. можно без натяжки сказать – китайцы массово переселяются цифровой мир.
2) По скорости своего сегмента цифрового мира.
Здесь тоже Китай уже №1. В 2021 года Китай построил 1,425 млн базовых станций 5G (это 60+% мирового рынка), а число пользователей 5G уже 355 млн. 300+ городов Китая уже строят гигабитные оптоволоконные широкополосные сети, к которым уже подключены 35 млн гигабитных цифровых китайцев.
3) По размеру «территории» своего сегмента цифрового мира (для чего нужен переход на новую версию интернет-протокола IPv6 с 128 битной длиной адреса вместо 32 битной в протоколе IPv4).
В 2021 года по общему объему ресурсов адресов IPv6 Китай №1 в мире, а число активных пользователей IPv6 достигло 608 млн.
4) По вычислительной мощности своего сегмента.
Здесь Китай пока занимает №2 место в мире. Но инфраструктура вычислительных мощностей Китая быстро развивается со среднегодовым темпом роста (за последние 5 лет 30+%). С таким темпом к 2030 Китай может превзойти США и стать №1.
5) По объему данных в своем сегменте цифрового мира.
Здесь тоже пока у Китая №2 место в мире. Но темпы роста чумные. С 2017 по 2021 год объем больших данных в сегменте Китая увеличился втрое (в том числе в деньгах: с 470 млрд до 1,3 трлн юаней). И сейчас Китай владеет 9,9% от мирового объема цифровых данных.

Помимо названных необходимых условий есть и те, которых может быть «достаточно», чтобы стать №1 в цифровом мире.
К ним относятся:
A. Инновации.
Здесь число международных патентных заявок в информационной сфере в Китае в 2021 году превысило 30 тыс, что на 60% больше, чем в 2017 году, а глобальная доля превысила одну треть.
B. Инвестиции в НИОКР.
С 2017 по 2021 год инвестиции в НИОКР зарегистрированных интернет-компании в Китае увеличились в среднем на 227%.

Короче, шансы Китая на завоевание цифрового мира большие и еще растут.

Резюме отчета о развитии цифрового Китая за 2021 год
#Китай #Интеренет #Вызовы21века

Шестичувственный VR для Метаверса уже рядом.
Улетные гаджеты на AWE 22 и CHI 22.
Несколько интересных видео для просмотра на выходных.
Вышедший позавчера на NBCNews сюжет неявно подсветил истинную цель бизнеса на Метаверсе - переселить туда как можно больше людей на как можно дольше, обеспечив им там все возможности работы, отдыха, развлечений, шопинга и путешествий.
Но для этого обычной виртуальной реальности (VR) недостаточно. А т.к. массово Метаверс взлетит к 2030-м (когда 6G решит проблему сверхскоростной коммуникации, без которой Метаверс лишь игрушка), то на создание шестичувственного VRа (6SVR) есть менее 10 лет. И поэтому разработки технологий и гаджетов для 6SVR уже вовсю идут, и первые образцы уже демонстрируют на конференциях, обещая пустить в серию за 1-2 года.

Напомню, что задача полного погружения в 6SVR Метаверса требует задействовать:
1. зрение
2. слух
3. вкус
4. обоняние
5. осязание
6. вестибулярный аппарат (чувство равновесия и положения в пространстве, ускорение)

Статус на лето 2022 таков.

• С 1 и 2 всё уже на мази. В ближайшие годы зрительные и слуховые VR-ощущения доведет до совершенства.
• С 5 и 6 только начинают, но весьма успешно. Как показано в ролике NBCNews, тактильные ощущения пальцев рук и рта (губы, зубы и язык) уже имитируют до уровня неотличимости от реальности. Поскольку мало кто слышал про тактильный VR для рта на базе гарнитуры с ультразвуковой фазированной решеткой, рекомендую посмотреть этот ролик с конференции CHI 22, где объясняется как это работает.
• С 4 (обоняние) работа также активно ведется (о чем я рассказывал в этом посте). Здесь основная проблема в отсутствии у запахов некоего универсального конструктора (типа RGB для кодирования цвета), позволяющего кодировать любой запах сочетанием элементов конструктора. Но все преодолимо. И гарнитуры уже научились источать не только простые запахи (типа запаха роз, клубники или шоколада), но и сложные комбинированные запахи (типа запаха пляжа, требующего сочетание запахов песка, морского бриза и солнцезащитного крема).
Посмотрите ролик для AWE 22, перенесенной на октябрь. Журналист реально балдеет от широкого спектра запахов объектов, видимых им в VR: от знакомых запахов цветов до экзотического запаха поджаривания маршмэллоу на открытом огне.
• По части 3 (вкус) весьма непросто: вкус — невероятно сложное чувство. Пытаются идти по двум путям: электрическая и тепловая стимуляция, постепенно сводя их воедино. Но пока со вкусом туго (подробней здесь).
#Metaverse

США будут бить Китаю по ногам в их главной гонке.
Если не удается помешать производству, можно помешать проектированию.
Уже к концу 2021 США стало ясно - ограничить скорость, с которой Китай настигает их в технологической гонке, не удается.
• Главный приоритет в этой гонке – производство полупроводниковых (п/п) микросхем. Без них не взлетает ни одно из ключевых направлений хайтека.
• Главный драйвер совершенствования технологий производства микросхем – уменьшение размеров п/п структур, улучшающее важнейшие характеристики (энергопотребление, рабочая частота, вычислительная мощность и стоимость).
• Поэтому США ввели строгий экспортный контроль, блокирующий доступ Китая к оборудованию для производства микросхем с высокой разрешающей способностью (< 5 нанометр)
• В 2021 Китай встал на уши (инвестировал десятки ярдов и мобилизовал тысячи своих компаний) и, похоже, года за 3 таки сможет импортозаместить чужое оборудование для производства микросхем на свое.

Казалось бы, план США сдулся. Но как сказал известный американский эксперт в этой отрасли:
«Чтобы победить в этой гонке, США должны либо бежать быстрее, либо сделать подножку Китаю».

Сказано – сделано.
В ближайшие недели США введут экспортный контроль за поставкой в Китай программного обеспечения автоматизации проектирования микросхем (EDA). Без него Китай не сможет проектировать новейшую технологию кольцевого затвора gate-all-around FET, GAA FET на 3 нм, а потом и на 2 нм (сейчас у Китая есть лишь технологии на 5 нм).
США делают ставку на то, что компании разработчики EDA (в первую очередь, Synopsys, Cadence и Siemens) потратили не менее 30 лет на накопление опыта в этой области. Шансы на то, что Китай догонит их в краткосрочной перспективе, минимальны.

Теперь главный вопрос – упадет ли Китай после столь жесткого удара по ногам или сумеет продолжить гонку (а то и побежать еще быстрее)?

На карту поставлен принципиальный момент:
• Китай уже доказал свою способность быстрого имортозамещения оборудования, налаживая производство материальных активов у себя.
• Теперь же все упирается не в руки, а в мозги – в способность разработчиков и программистов Китая разработать EDA софт не за 30 лет, а за 3 года.

Подробно и с картинками в видео на 10 мин (включите переводчик титров)
Без картинок, но с деталями.
#Китай #США #ITгонка

Рентген, УЗИ и МРТ социальных сетей.
Три мощных бесплатных детектора сетевой пропаганды и лжи.
Иллюзий уже никто не питает. Социальные сети всё более превращаются в инструмент дезинформации и манипулирования.
Но слава богу и здесь работает принцип соревнования брони и снаряда. Специалисты по обработке данных, журналисты и исследователи роли СМИ и технологий в обществе получают в свои руки все более мощные инструменты выявления источников и способов сетевой пропаганды и лжи.

Обсерватория социальных сетей, или OSoMe, при Университете Индианы запустила три новых обновленных инструмента (своего рода Рентген, УЗИ и МРТ социальных сетей): Каскадометр, Трендометр и Ботометр.
1. Каскадометр (Networks Tool) строит интерактивную 3D карту распространения информации в Twitter, позволяя видеть образование инфокаскадов, подобно зарождению смерчей и ураганов.
2. Трендометр (Trends Tool) позволяет анализировать количество твитов с заданным хэштегом, URL или ключевым словом. Этот инструмент показывает, какие темы в тренде и что становится вирусным.
3. Ботометр (BotAmp Tool) позволяет определять вероятную активность ботов для твитов, отфильтрованных по поисковому запросу. Это нужно, чтобы понимать, насколько популярность той или иной темы обязана поддержке со стороны ботов.

Все 3 инструмента от OSoMe используют огромный поток данных - примерно 50 млн твитов в день, собранных из Twitter. Это примерно 10% общедоступных твитов, которые затем анализируются и индексируются для использования с помощью инструментов OSoMe.
Пользователи 3х инструментов могут визуализировать данные любого конкретного месяца за предыдущие три года. Большинство существующих инструментов не позволяют столь глубокий анализ.

Исследователям дезинформации и манипулирования в сети стоит поторопиться. Ибо соревнование брони и снаряда продолжается. А значит пропагандисты и манипуляторы довольно скоро найдут и на эти хитрые инструменты свои крутые гайки.
https://news.iu.edu/stories/2022/07/iub/releases/27-social-media-tools-bots-viral-posts.html
#Интернет #СоциальныеСети #Дезинформация #Манипулирование

​​Мы не иррациональные обезьяны, а сверхэффективный суперкомпьютер.
Смена парадигмы иррациональности косвенно подтверждает вычислительную теорию разума.
Наша иррациональность (нерациональное поведение при принятии решений и осуществлении выбора) уникальна. Ни одно животное не способно действовать столь нерационально, выбирая, рискуя или сотрудничая. Люди – особый вид, иррациональность поведения которого (наряду с языком) превратила нас в царя природы и сверхразумное подобие Бога (кто бы еще из животных променял жизнь в раю на несколько укусов яблока - шутка, соответствующая реальности).

Разгадать природу нашей иррациональности психологи, экономисты и нейробиологи целенаправленно пытаются 60+ лет. В результате опубликованы тысячи научных статей и более двухсот монографий, присуждено несколько Нобелевских премий, проданы миллионы экземпляров мировых бестселлеров... 1
Но центральный вопрос экономики, психологии и нейробиологии принятия иррациональных решений – почему поведение людей при выборе вариантов столь предвзято, - по-прежнему открыт.

Установлено, что источником предвзятостей являются многообразные когнитивные искажения 2.
Но что за механизм их вызывает?

Согласно традиционным представлениям, механизм примерно таков - мозг функционирует, как несколько конкурирующих агентов 3:
• быстро и неосознанно на автомате решающей Системы 1
• и внимательно-задумчивой и потому медленной Системы 2
В результате внутренней конкуренции агентов возникают когнитивные искажения, ведущие к иррациональному поведению: странные финансовые решения; поступки, совершенные как бы в несознанке; импульсивные решения во вред себе (типа приема наркотиков) и т.д. 4

ОДНАКО!

В августовском выпуске Trends in Cognitive Sciences 5 публикуется новая работа отца нейроэкономики Пола Глимчера «Efficiently irrational: deciphering the riddle of human choice». Она подводит итог 10-летних исследований Глимчера, результаты которых могут кардинально поменять существующую научную парадигму объяснения иррациональности выбора людей в нейробиологии, психологии, экономике, социологии и политике.

Революционный вывод новой теории в том, что никакой иррациональности нет: мозг вовсе не максимизирует функцию полезности, а абсолютно рационально ищет компромисс между точностью своих вычислений и энергозатратами на них.

Сверхразумность Homo имеет высокую энергетическую цену (см. рис. ниже):
• Вычислительные потребности мозга около 10 ватт энергии в час (за сутки - 240 Вт)
• Для выработки 240 Вт требуется примерно 400 ккал энергии (около 20% суточной нормы поступающих с пищей калорий)
Это сверхэффективное энергопотребление мозга в сравнении с современными компьютерами, потребляющими в 30-100 раз больше энергии, но зато способными обеспечить высочайшую точность вычислений.

Чтобы повысить точность вычислений мозга на порядок, потребовалось бы 100 ватт энергии в час.
• За сутки энергопотребление составило бы 2400 Вт
• Для их выработки требуется примерно 4000 ккал энергии. Если этот объем калорий составит около 70% суточной потребности, то человеку потребуется ежедневно потреблять пищи, содержащей около 5600 ккал.
Т.е. для повышения точности вычислений лишь на 1 порядок, людям пришлось бы есть в 3 раза больше.

Реальность среды обитания не позволяла эволюции пойти на подобные энергозатраты мозга. Пришлось искать компромисс между точностью вычислений и энергопотреблением.

Как это делается в мозге, сам Глимчер рассказывает в часовой лекции 6.
И если Глимчер прав, это сильный (хоть и косвенный) аргумент в пользу вычислительной теории разума.
#Рациональность #КогнитивныеИскажения #ПринятиеРешений

​​Китай завоюет Тайвань без ядерного столкновения с США.
Что написано между строк «Белой книги».
✔️ Насколько важен для Китая Тайвань, чтобы пойти на риск ядерного конфликта с США?
✔️ Как государства, обладающие ядерным оружием, максимизируют стратегические рычаги давления на своих противников, если хотят избежать ядерного конфликта, оставаясь в рамках конвенциональной локальной войны?
(N.B. 2й из вопросов весьма актуален не только в контексте Китая и Тайваня).

Опубликованную сегодня КПК «Белую книгу» ("Тайваньский вопрос и дело воссоединения Китая в новую эпоху"), уже читает весь мир. Но смысл в ней написанного может трактоваться по-разному.
1. С одной стороны, - «Китай не откажется от силового сценария, если мирного воссоединения с Тайванем не получится».
2. С другой, - «Немирные средства будут приняты в качестве крайней меры в ситуации, когда не будет другого выбора».
Какая из трактовок ближе к планам Китая?

Во всемирно известном трактате Сунь-цзы «Искусство войны» многие из советов мудрого военного теоретика и практика следует читать между строк.
Например:
• Тот, кто знает, когда можно сражаться, а когда нельзя, одержит победу.
• Тот, кто понимает, как использовать большие и малые силы, одержит победу.

С опубликованной «Белой книгой» аналогично.
Победит, тот, кто знает и понимает ответы на два поставленных в начале поста вопроса.
А для этого имеет смысл познакомиться с двумя интереснейшими работами из вышедшего параллельно с «Белой книгой» в The MIT Press сборника International Security.

Из развернутого анализа «И что тогда? Оценка военных последствий китайского контроля над Тайванем» следует ответ на 1й из вопросов.

✔️ Военное значение Тайваня для Китая чрезвычайно высоко. Этот фактор, в добавление к стратегическому национально-идеологическому стремлению Китая к объединению, не оставляет Китаю альтернатив – Тайвань будет присоединен.

Вторая работа «Стратегическое замещение: Поиск Китаем рычагов принуждения в информационную эпоху» посвящена крайне важной и глубокой «теории стратегического замещения», разрабатываемой Фионой С. Каннингем уже 5 лет. Эта теория построена на тщательном и весьма тонком анализе китайских источников и интервью с экспертами.

Согласно «теории стратегического замещения»:
✔️ Подход Китая к получению рычагов принуждения в ограниченных войнах с противниками, обладающими ядерным оружием, отличается от выбора других государств (сами отгадайте каких).

✔️ Китай сделал стратегическую ставку на оружие информационной эпохи (противокосмическое оружие, крупномасштабные кибератаки и высокоточные обычные ракеты), т.к. оно может обеспечить быстрые и надежные рычаги принуждения, если настроено на угрозу эскалации обычного конфликта с использованием силовых стратегий “балансирования на грани войны” или “калиброванной эскалации”.

✔️Этот подход обеспечивает более быстрый и надежный вариант принуждения противника в ограниченной войне, чем обычные военные или ядерные варианты, ибо:
• Использование обычных вооружений затягивает конфликты, нанося значительный экономический ущерб обеим сторонам.
• Использование ядерных угроз для компенсации неполноценности своих обычных вооружений сталкивается с двумя проблемами.
-— Как сделать эти угрозы правдоподобными?
— Как балансировать на грани глобальной войны в войнах с ограниченными целями?
Обе проблемы упираются в то, что ядерную эскалацию крайне сложно калибровать, а оружие информационной эпохи это позволяет.


Зная и понимая вышеописанное, можно не быть Сунь Цзы, чтобы прийти к выводу - Китай завоюет Тайвань без ядерного столкновения с США.

#Китай #США #БольшаяВойна

Тайная сокровищница данных Илона Маска.
Мы теряем приватность и даже не знаем об этом.
Tesla уже продала около 3 млн. автомобилей. Они практически ежедневно отгружают в хранилища своего производителя моря разнообразных данных о пройденных ими миллиардах миль и GPS-треках маршрутов, сопровождая это деталями, запечатленными на миллионах фотографий и видео (1).
Почти каждый новый серийный автомобиль оснащен набором датчиков, включая камеры и радары, которые собирают данные о водителях, других участниках дорожного движения и их окружении.
Сбором больших данных промышляет далеко не только Tesla (хотя Tesla – явный чемпион в этом деле). Уже существует огромная индустрия торговцев данными о транспортных средствах, водителях и местоположении, которая к 2030 может стоить до 800 $млрд (2).
Считается, что все эти данные анонимные. И что автопроизводитель получает право лишь на те данные, что согласился отдавать ему владелец авто.

Что это совсем не так, хорошо знают в Компартии Китая. Для них это автомобиль-шпион. И потому этим летом шпионским авто запрещен въезд на курорт Бэйдайхэ, где проходит 2-х месячная серия мероприятий КПК. Китайцы убеждены, что встроенные камеры автомобилей Tesla могут много чего увидеть и передать из того, что вовсе не предназначено для чужих глаз.

Другой отрезвляющий свежий пример – история о том, как легко и непринужденно Tesla отбила судебный иск о халатности после того, как двое молодых людей сгорели в автокатастрофе модели S, принадлежащей отцу одной из жертв аварии. В рамках своей защиты компания представила исторический анализ скорости, показывающий, что за несколько предшествовавших аварии месяцев автомобиль двигался с ежедневной максимальной скоростью в среднем более 90 миль в час (145 километров в час). Эта информация собиралась в тайне от водителя и хранилась на серверах Tesla (в результате присяжные сочли, что компания Tesla проявила небрежность всего на 1%).

Многие эксперты считают, что Tesla знает практически обо всем: кто, куда и когда ездит, как ездит, с кем ездит, с какими машинами и людьми встречается на дорогах, общественных и приватных парковках, сколько времени проводит в конкретных ресторанах и клубах, как часто приезжает (и как надолго) по конкретным адресам и т.д.

Что компания – детище Илона Маска, - делает со всеми этими данными, можно только предполагать.
Но то, что владельцы шикарных авто могут забыть о приватности своих поездок, - уже свершившийся факт.

1 2
#Приватность

​​«Хороший, плохой, злой ИИ» еще долго не будет актуален.
Хорошее, плохое, злое «общество с ИИ» - актуальная проблема современности.
Недавно я писал, что сегодня главным вопросом совершенствования ИИ-технологий становится выбор траектории их дальнейшего развития. Эта траектория определяется видением идеала «хорошего общество, в котором люди сосуществуют с ИИ» (“Good AI Society”): что в этом обществе будет считаться добром и злом, и как это будет регламентировано.

Лучано Флориди (проф. философии и этики информации в Оксфорде) еще в 2018 разработал AI4People — этическую модель Good AI Society, смысл которой в том, что
✔️ это модель не гипотетической и пока несуществующей этики ИИ,
✔️ а структурная модель 4-х возможностей и 4-х рисков «хорошего общество, в котором люди сосуществуют с ИИ»:
• 4-х возможностей использования ИИ обществом в качестве инструментария для:
-- расширения возможностей самореализации людей
-- усиление свободы действий людей
-- увеличение социальных возможностей общества
-- культивации социальной сплоченности общества
• 4-х рисков при передаче ИИ права на принятие человеческих решений:
-- девальвация ценностей
-- снятие с людей ответственности
-- сокращение и утеря контроля
-- размывания права на самоопределение людей (права свободы выбора)

Именно эти вопросы использования ИИ обществом в качестве инструментария и передачи обществом ИИ права на принятие человеческих решений составляют суть актуального понимания крайне важной для человечества цели – построение “Good AI Society”.
Для реализации этой цели необходимо создание в обществе разнообразных институтов (в соответствии со структурой типа AI4People). А разработка всевозможных «кодексов этики» для ИИ – лишь первый шаг в этом направлении, сам по себе не способный решить задачи построения “Good AI Society”.

В моем вчерашнем получасовом спиче на семинаре AGI я без деталей поделился своим видением этой темы (начиная с 4й мин).

#ИИ #Этика

​​Создан первый частично самоосознающий себя робот.
Прорыв в понимании важной части модели мира – модели самого себя.
Пока Илон Маск пиарится на дутой разработке «дружелюбного» человекоподобного робота с ИИ (это чистая разводка для хайпа), в мире ИИ происходит воистину тектонический сдвиг. Создан первый в мире робот не с абстрактным ИИ, а с самоосознающим ИИ.

Это значит следующее:
• робот, интеллект которого изначально не имеет никакой модели самого себя (точнее, действий своего тела в окружающем пространстве), может самостоятельно построить эту модель;
• он делает это без помощи людей, а лишь наблюдая за своими движениями, в ходе обретения им практического опыта;
• используя полученную модель самого себя, робот может предельно точно действовать в окружающем мире;
• при повреждении своего тела (типа ногу сломал, руку оторвало и т.д.) робот, подобно животным и людям, сам адаптируется к новой ситуации, реконструировав свои программы движений;
• а если, например, завтра после включения робота, он узнает, что у него теперь не одна рука, а семь, он также сам адаптируется к новой ситуации, реконструировав свои программы движений в стиле осьминога.

Принципиальный прорыв совершён за счет сочетания 2х прорывных моментов:
✔️люди не закладывают в робота знание того:
• как устроено его тело,
• какова кинематика движений его подвижных частей,
• каковы способы их сочленения - углы, амплитуды и траектории движений частей
✔️ вместо этого, глубокую нейронную сеть научили определять положение частей своего тела в окружающем пространстве:
• поместили роборуку (рука пока одна, но это дело наживное) в круг из пяти видеокамер, транслирующих в нейронную сеть прямую трансляцию о движениях роборуки,
• в ходе движений роборука наблюдает за собой через камеры, а её внутренняя сеть определяет положение суставов по отношению к объему, занимаемому роборукой в окружающей среде.

Через три часа нейросеть робруки построила полную визуальную модель самой себя и своих движений.
Эта собственная модель позволяет роботу планировать действия и избегать препятствий, поскольку он знает, будет ли место в пространстве занято, если его суставы сместятся под определенными углами, а части сдвинутся по такой траектории с определенной амплитудой.

Тестовая задача была коснуться мяча любой частью тела. Планирование движения, созданное на основе собственной модели, достигло 97% успеха при выполнении поставленных задач и является таким же точным, как и реальное выполнение.

Значимость этой работы выходит далеко за пределы робототехники по двум причинам.
1. Это первый робот, управляющий своим движением подобно мозгу.
Модель мозга строится с использованием картографических систем отсчета. Системы отсчета сообщают нам, где вещи (и где мы сами) расположены относительно друг друга, и позволяют нам двигаться, планировать и достигать целей.
2. Модель управления движением может оказаться универсальной моделью познавательных способностей, позволяющей понять, как в материальном мозге рождается нематериальные сознание и мышление.
Согласно «гипотезе интеллекта и воплощения» (intelligence and embodiment hypothesis — см. мой пост), познавательная способность разума, реализуемая механизмом мышления, возникла в результате переадаптации системы управления движением в ходе миллионов лет экспериментов «самоделкина» — эволюции. Т.е. с эволюционной точки зрения обширный нейронный механизм, разработанный для контроля движения животных, был расширен, чтобы контролировать новые структуры мозга вместо мышц.

Идя этим путем, возможно, удастся понять, описать и повторить не только уникальную моторику людей (в роботах), но и уникальные познавательные способности разума людей (в искусственном интеллекте).

#ВоплощенныйИнтеллект #Разум #Движение #Роботы

PS Самоосознание своего тела – лишь малая (но важная) часть самоосознания.
PSS Новость поста столь горячая, что я пустил ее вместо 2й части лонгрида «У землян всего два варианта будущего» – 2я часть на подходе ))

6G – мастер-ключ Китая к победе в интеллектуальной войне и системной конфронтации.
Аналитический отчет международного аналитического института IISS «Стратегические установки для 6G: пути Китая и США» фиксирует два ключевых момента фокусировки национальных техно-стратегий двух стран на десятилетие:
✔️ Лишь сочетание технологического лидерства в ИИ и 6G способно обеспечить стране стратегический приоритет в экономике и военном потенциале.
✔️ При наличии технологического лидерства и в ИИ, и в 6G, национальный стратегический приоритет достигается посредством «интеллектуальной войны» и «системной конфронтации.

Что такое «интеллектуальная война», - см. мой пост «Интеллектуальная война – это гипервойна, война на истощение, междоменные боевые действия и операции когнитивного контроля (резюме отчета Минобороны США о военной мощи Китая).

Концепция «системной конфронтации» подразумевает, что исход экстремального противостояния государств (с переходом в военный конфликт или без оного) будет определяться относительной устойчивостью и производительностью всех основных цифровых сетевых систем государства (военных и гражданских).

FYI: Технология 6G предполагает (по сравнению с самой на сегодня передовой 5G):
• повышение скорости передачи данных на 2 порядка (с 10-20 (download/upload) Гбайт до 1 Тбайт)
• уменьшение задержки на порядок (с 1 мсек до 0,1 мсек)
• повышению надежности на 4 порядка (с 10 в -5 степени до 10 в -9 степени)
• переход восприятия пользователя с 50 мбит/сек в 2D к 10 Гбит/сек в 3D

Для гражданских применений переход с 5G на 6G, по гамбургскому счету, означает перевод всех Интернет приложений и сервисов в Метаверс (см. мой пост «Объединение физического, биологического и цифрового миров уже к 2030 становится реальным. Суперпрорыв Китая в технологии 6G»).

Для военных применений, как следует из отчета IISS, это означает создание инфраструктуры «интеллектуальной войны», для ведения:
-- гипервойны (когда скорость и темп операций превосходит физическую и ментальную реакцию людей)
-- войны на истощение (которую ведут не люди, а рои интеллектуальных дронов)
-- междоменных боевых действий (интеграции действий в разных средах: суша, море, воздух, космос и киберпространство)
-- операций когнитивного контроля (направленного изменение восприятия, оценок и прогнозов в сознании лиц, принимающих решения у противника)

Кроме того, как следует из отчета IISS:
-- 6G обладает уникальным потенциалом для улучшения противоракетной обороны, преодолевающей сегодняшние ограничения (вкл. решение вопроса перехвата гиперзвуковых ракет)
-- 6G позволяет перенести обучение военных и контроль боя в Метаверс (вести обучение военных в виртуальной и расширенной реальности; визуализировать боевые действия в 3D в режиме реального времени)

Выводы отчета IISS о перспективах Китая и США выиграть в гонке за 6G таковы:
✔️ Итоги гонки определятся к 2030 (окно возможностей для выигрыша гонки уже открыто)
✔️ В Китае 6G – это главный национальный проект, который управляется КПК, и на который брошены лучшие силы науки и бизнеса - см. 70 членов IMT-2030
✔️ США все еще имеют преимущества в технологиях, но разрыв сократился до минимума.
✔️ Итог гонки зависит от того, победит ли стратегия экспортного контроля США или стратегия технологического самообеспечения Китая. Пока вопрос открыт.
#Китай #США #Война #ИИ #6G

Это продолжение рассказа о гениальном прозрении Станислава Лема, в котором он предсказал «линию судьбы» человечества: форму этой линии и развилку на ней, ведущую к двум вариантам будущего землян — умереть во сне или проснуться.

В 1-й части поста были подробно разобраны характерные свойства «линии судьбы» земной цивилизации, описанной Лемом в виде диаграммы Ортеги-Нейсселя. Эта диаграмма — артефакт научно-фантастического романа «Фиаско», — описывает траекторию развития глобальных цивилизаций (Земли и всех иных цивилизаций во Вселенной), достигших эры психозоя (эры Разума — по Вернадскому).

Теперь же мы рассмотрим предсказанную Лемом «линию судьбы» человечества с позиций двух недавно опубликованных междисциплинарных научных работ, подводящих под гениальное предвидение Лема научное обоснование.

И начнем с опубликованной в мае 2022 работа Марины Кортес, Стюарта Кауфмана, Эндрю Р. Лиддла и Ли Смолина (Marina Cortes, Stuart A. Kauffman, Andrew R. Liddle, Lee Smolin) «Уравнение ТАР: расчет комбинаторных инноваций» (The TAP equation: evaluating combinatorial innovation).

Продолжить чтение (14 мин):
- на Medium https://bit.ly/3ArfbKX
- на Яндекс Дзен https://clck.ru/sctqa

1-я часть поста

#Инновации #СмежноеВозможное #Вызовы21века #Культура #ПарадоксФерми #Будущее

​​В сентябре на конференции по математическим подходам к изучению сознания MoC3 можно ожидать сенсации мирового уровня. Ею может стать доклад Нира Лахава - физика из Университета Бар-Илан, посвятившего себя цели «проникнуть в бесконечность и за ее пределы».
Доклад посвящен его совместной с Захарией Нимех работе «теория относительности сознания». Авторы разработали концепцию и математический аппарат для решения обеих «проклятых проблем» современной науки, никак не поддающихся решению.
1. Трудная проблема сознания.
2. Проблема идентификации появления сознания у ИИ.

1я из проблем — это проблема того, как физические процессы в мозге вызывают субъективные переживания. Сегодня почти общепринято, что субъективные переживания как-то коррелируют с динамикой нейросигнатур мозга. Но в понимании того, КАК нейросигнатуры вызывают переживания, - полный швах (этого не знает никто).

2я проблема столь же важна, как и пока неразрешима. Все вопросы Сильного ИИ (AGI) так или иначе упираются в неё. Может ли ИИ испытать боль, зависть или страх? Может ли ИИ из-за страха лишиться сознания, захотеть обеспечить себя электропитанием, не позволив людям выключить его? Как вообще можно понять, есть сознание у ИИ или нет? Бинарна ли эта задача или тут есть промежуточные варианты? Увы, но со всеми этими вопросами пока также полный швах.

Точнее, был полный швах. Ибо «теории относительности сознания», похоже, способна помочь получить ответы на все заданные выше вопросы.

Вот 2 кита новой теории, построенной на использовании для трактовки сознания релятивистского подхода Эйнштейна к трактовке движения.
1. Сознательный опыт не может быть выражен исключительно процессами внутри мозга, т.к. он не является продуктом какого-либо физического процесса». Иными словами, мозг не создает наш сознательный опыт, по крайней мере, посредством вычислений.
2. Сознание - есть релятивистский (т.е. относительный) феномен. Причина, по которой у нас есть сознательный опыт, - это процесс физического измерения сознания (сознание – продукт измерения). А поскольку разные измерения одного и того же физического явления в разных системах отсчета проявляют разные физические свойства в этих системах отсчета, то не существует абсолютного физического ответа на «трудную проблему сознания».

Напомню, как это выглядит в теории относительности Эйнштейна применительно к движению, при наличии 2-х наблюдателей.
• Вася едет в поезде, движущемся с постоянной скоростью
• Маша наблюдает за ним с платформы
• Тогда нет единственно верного с точки зрения физики ответа на вопрос - какова скорость Васи? Ответ зависит от системы отсчета наблюдателя.
• Глядя из системы отсчета Васи, он неподвижно сидит, попивая виски в вагоне-ресторане, тогда как Маша вместе с платформой движется быстро назад
• Но в системе отсчета Маши, она и платформа неподвижны. А Вася быстро удаляется вперед вместе с поездом
• Оба наблюдателя получили разные результаты измерений. И оба они верны, поскольку они исходят из разных систем отсчета.

С сознанием аналогично.
• Подопытная Маша, в своей когнитивной системе отсчета, испытывает субъективное чувство радости (измеряя свои нейросигнатуры напрямую, путем взаимодействия областей мозга).
• Исследователь Вася, находясь в другой когнитивной системе, использует измерения СВОИХ органов чувств, чтобы увидеть нейросигнатуры Маши.
• Эти два измерения разные. А причина, по которой у нас есть сознательный опыт, заключается в процессе физического измерения.

Используя математические инструменты, описывающие релятивистские явления в физике, теория показывает, что если бы динамику нейронной активности Васи можно было изменить так, чтобы она была похожа на динамику нейронной активности Маши, то оба они оказались бы в одной и той же когнитивной системе отсчета и имели бы одинаковый сознательный опыт.

Если теория верна, то осталось найти объем точных минимальных измерений, которые необходимы любой когнитивной системе для появления у неё сознания.
#Сознание

​​Китай достиг абсолютного доминирования в мировой науке.
Еще пару лет назад это казалось невозможным.
Августовский доклад Национального института научной и технической политики Японии (NISTEP) принес шокирующую для США (и не только) информацию – Китай стал абсолютным мировым чемпионом во всех существующих номинациях по научным публикациям. Это как если бы страна выиграла на Олимпиаде ВСЕ золотое медали.

Два месяца назад я рассказывал, что Китай впервые в истории поднялся на 1е место в мировом рейтинге ТОР10 высококачественных научных публикаций за прошлый учетный год (2020). Порвав весь мир, как Тузик грелку, Китай набрал в этом рейтинге 3488, обойдя США с рейтингом 2051, Германию - 1348, Францию 676 и всех-всех (перечитайте здесь).

Теперь же, согласно расчетам NISTEP, Китай по результатам 2018-2020 вышел на 1к место во всех номинациях:
• в общем зачете по наиболее цитируемым научным публикациям (Китай 407181, США 293434);
• по ТОР10% лучших (по числу цитирования) научных публикаций (Китай 46352, США 36689);
• по ТОР1% лучших из лучших (по числу цитирования) научных публикаций, типа публикаций нобелевских лауреатов и прочей элиты из элит в науке (Китай 4744, США 4330).

Остальных мировых лидеров двух рейтингов (верхний (коричневая шапка) – это ТОР10%, а нижний (зеленая шапка) – ТОР1%) можете посмотреть в частично переведенной мною итоговой таблице NISTEP: левая часть таблицы – статистика 1998-2000, средняя 2008-2010, правая 2018-2020; в каждой из 3х частей слева рейтинг, потом доля в суммарном рейтинге и место)
• В ТОР10% Китай в 1998-2000 был №13, в 2008-2010 уже №6, и вот теперь №1
• В ТОР1% Китай в 1998-2000 был №13, в 2008-2010 уже №7, и вот теперь тоже №1
• FYI в общем зачете (в таблице не показано) Китай в 1998-2000 был №8, в 2008-2010 уже №2, и теперь, понятное дело, №1


Для справки о России.
• В общем зачете:
-- в «лихие 90е» были №9 (прямо следом за Китаем)
-- в «богатые 2000е» опустились на №14
-- в «дохоподъемные 2018-2020» еще опустились на ступень - №15
• Но качество работ настолько упало, что в обоих рейтингах ТОР10% и ТОР1%
-- в «лихие 90е» скатились на №22
-- в «богатые 2000е» и «дохоподъемные 2018-2020» выбыли из ТОР25


Возвращаясь к ракетному взлету Китая в абсолютные чемпионы по публикациям, хочу добавить лишь следующее.
США теперь только и осталось, что грешить на методику подсчета рейтинга NISTEP. По своему собственному рейтингу из отчета «Состояние науки и техники США 2022», опубликованному Национальным научным фондом США (NSF) в январе, США все еще впереди.

Мне же видится, что японцы правы. У них статистика втрое больше чем у NSF. Кто не верит, проверьте сами, скатив и отчет, и статистику здесь.
Ну а делать собственные рейтинги нас учить не надо. Поставят цель, - к следующему году будем в ТОР10%, а там и …
#Наука #Китай #США

​​Возможен апгрейд «башен излучателей», чтобы воздействовать и на «выродков».
Использование модели когнитивных сетей для снятия когнитивного диссонанса в обществе.
В качестве проверки модели сумели переубедить анитиГМОшников и антиваксеров.

Чтобы сподвигнуть нас на приобретение конкретных товаров и услуг или поддержку политики властей (их программы, идеологии, видения ситуации и мира), совсем не нужно знать нас «лучше родной мамы». Этим уже вовсю пользуются бизнес и власти.
Но есть проблема.
Доля «предрасположенных сторонников» - тех, кто готов купиться на товар или политику в силу своих персональных качеств, опыта и сложившихся убеждений, - обычно далека от большинства.
А бизнесу и власти хотелось бы поиметь большинство.

Новое исследование «института сумасшедших идей» («Института сложности» в Санта-Фе) обещает решение этой проблемы: создание боле мощного механизма «убеждения» людей в своих корыстных целях.
Это механизм, способный сподвигнуть купиться даже тех, кто не хочет этого в силу своих персональных качеств, опыта и сложившихся убеждений.

Новое исследование называется «Использование когнитивно-сетевого моделирования моральных и социальных убеждений для объяснения их изменений».
Оно обещает (в терминологии «Обитаемого острова» Стругацких) мощнейший апгрейт «башен излучателей», позволяющий воздействовать даже на «выродков», вызывая у них не головные боли (как сейчас), а приступы поддержки того, что требуется владельцам «башен-излучателей».

Логика исследователей была такова.
• Ключом к апгреду «башен» может быть «головная боль выродков». Если её устранить, то на «выродков» можно будет воздействовать, как и на всех остальных.
• В отличие от Саракша, на Земле «выродки» испытывают при воздействии на них «убеждающего излучения» не боль, а т.н. когнитивный диссонанс (психический дискомфорт), который человек испытывает из-за противоречий в своих убеждениях.
• Если научиться
- оценивать степень диссонанса у конкретных людей
- и найти «объяснительную отмычку» к снятию диссонанса в зависимости от его уровня,
можно создать механизм склонения в желаемую сторону даже тех, кто изначально не хочет этого в силу своих персональных качеств, опыта и уже сложившихся убеждений.

Прорывным фактором в реализации логики исследователей стало:
создание статистико-физической модели взаимодействия 20-и моральных и социальных убеждений в единой когнитивной сети.

Экспериментальной базой для оценки действенности модели стало «переубеждение» людей по 2м острейшим вопросам:
✔️ вредность ГМО
✔️ вредность прививок

Ставилась задача:
переубедить большинство анитиГМОшников и антиваксеров среди испытуемых на основании оценки степени их когнитивного диссонанса

Исследование показало:
1) Модель работает хорошо.
2) Люди мотивированы уменьшать диссонанс между убеждениями путем их перенастройки.
3) Направление, в котором люди меняют свои убеждения, зависит не только от вмешательства, но и от того, какой самый простой способ для каждого уменьшить свой диссонанс.
4) Предоставление людям новой информации как бы проходит через фильтр диссонанса в их сети убеждений:
- люди с низким диссонансом вряд ли вообще изменят взгляды.
- люди с высоким диссонансом могут измениться в обоих направлениях.
5) Для детального понимания динамики, ведущей к изменению убеждений, нужны дополнительные исследования.

Что еще важно.
• 5 лет назад российское исследование показало, что врожденные особенности активности лобной коры людей определяют, развивается ли у них сильный или слабый когнитивный диссонанс. Но оценивать склонность к диссонансу по активности мозга можно лишь для малых групп.
• Здесь то и пригодятся модели когнитивных сетей, чтобы массово оценивать склонность к диссонансу алгоритмически (как это уже делают для оценки предпочтений рекомендательные системы).
• Для нас это сейчас особенно актуально – Россияне страдают когнитивным диссонансом

#КогнитивныеСети

Си уже почти что переизбран.
Самый точный прогноз самого важного события года.
• Курс Китая на ближайшее десятилетие во многом определит главные тренды и повороты мировой политики, экономики, науки и технологий.
• А этот курс во многом будет зависеть от того, удастся ли Си этой осенью переизбраться на 3й срок.
• Поэтому вполне обоснованно предполагать, что ХХ Всекитайский съезд КПК в октябре станет важнейшим событием года по своему влиянию на мировые тренды ближайших лет.

Прогнозировать исход этого события весьма сложно. Ситуация в Китае довольно стремная.
• Устойчивый экономический рост задушен политикой нулевого распространения Covid, введенной в действие к середине весны
• Волатильность рынка недвижимости, начавшаяся после дефолта Evergrande, переросла в ипотечный кризис
• США с неумолимостью наезжающего катка давят все новыми экспортными ограничениями.

Однако понять, насколько существенное влияние все это оказывает на перспективы переизбрания генерального секретаря Си Цзиньпина, практически невозможно.
Китайская политическая борьба – это даже не бульдоги под ковром, а черный ящик. Понять, что там внутри происходит и почему, - без вариантов.

Получается обидный парадокс: важнейшее событие года, а его результаты невозможно предсказать.

MacroPolo – синк тэнк Института Полсона, - нашел-таки способ разрешения этого парадокса, положив в основу своего анализа ключевой принцип Сталина «Кадры решают все!».

Этот принцип и в наше время по-прежнему силен в эшелонах любой власти. Ну а Си довел его в Китае до совершенства сталинского уровня.

В опубликованном вчера аналитическом резюме MacroPolo «Almost Here: The Most Consequential Political Event of the Year» рассказывается о результатах углубленного хроно-сетевого анализа 161 кадрового изменения, произошедших в высших эшелонах власти Китая за год до ХХ съезда.

Вывод этого анализа однозначен.
Си добился «супербольшинства» в предстоящем Политбюро — органе из 25 членов на вершине политической власти, — почти обеспечив свой третий срок.

Подробности читайте в резюме (1).
Исходные данные этого анализа обновляются в реальном времени в онлайн-мониторинге «Загляни в Черный ящик китайской политики» (2)

1 2

#Китай #Прогнозирование #НовыйМировойПорядок

​​Создана первая научная теория Черных лебедей.
Какого цвета настоящие Черные лебеди, и почему COVID-19 и СВО – это не они.
За последние 10 лет «Черный лебедь» стал самым хайповым и затасканным термином. Его используют все (от журналистов до политиков) для повышения интереса публики к чему угодно (от обвалов акций до пандемий).
И невозможно поверить, что это понятие, описанное во всех словарях мира и вошедшее во все учебники и руководства по анализу рисков, до сих пор не имело под собой вообще никакого научного обоснования.

Нассим Талеб просто (и, в принципе, верно) определил Черных лебедей, как неожиданные события, лежащие «за пределами наших ожиданий, поскольку ничто из прошлого опыта не может убедительно указывать на их вероятность».
• Но что такое «наши ожидания … из прошлого опыта»? Чьи это «наши», и что там у «нас» за опыт?
• «За пределами ожиданий» - это насколько: на порядок, вдвое или на 10%?
• «Убедительно» для кого и опять же насколько?
При полном отсутствии научной теории, ответы на все подобные вопросы можно давать произвольные. Что весь мир радостно делает уже 10+ лет.

Но теперь этому пришел конец. Научная теория черных лебедей разработана: опубликована в Physical Review Research (1) и представлена в Исследовательском центре Энрико Ферми.
1. Установлены четкие математические границы ингредиентов, необходимых для появления Черных лебедей. Это наличие:
- экстремального скачка динамики верхнего предела (больше, чем когда-либо наблюдалось) и
- непредвиденности (усечение степенного распределения).
2. После соответствующего анализа авторы определили универсальный параметр, способный объективно количественно оценить степень неожиданности и катастрофичности события - степень «черноты лебедя». Она зависит от ожидаемого максимума катастрофичности события.
3. По этому параметру события бывают «черными, серыми и белыми лебедями». Например, 1я мировая война и теракты 11 сентября были Черным лебедем, а 2я мировая война и Черный понедельник 1987 года — нет.
4. Ожидаемый максимум катастрофичности события меняется по ходу технологического прогресса. Чёрные лебеди как бы растут, увеличивая возможную катастрофичность событий. Например, появление широкофюзеляжной гражданской авиации скачком повысило максимальное число жертв авиакатастроф (>> 200).
5. Степень «черноты лебедей» - объективный научный показатель. Он меняет наши представления, т.к. у страха, как известно, глаза велики. Однако, на самом деле:
-- чтобы стать Черным лебедем, пандемия должна убить 5+ млрд человек (в 40 раз больше эпидемии «Черной смерти», унесшей 200 млн жизней;
-- а чтобы землетрясение в Италии признать Черным лебедем, достаточно, чтобы превышение его магнитуды над известным максимумом составило всего 1,22 раза.
6. Степень «черноты лебедей» для событий типа межгосударственных войн или обвала Индекса Доу-Джонса математически неисчислима (уходит в бесконечность). Поэтому применения к подобного рода событиям термина Черный лебедь, не имеет научного смысла.

Если кто-то сочтет, что все это лишь терминологические изыски, то сильно ошибется.
Мир уже вошел в зону «сингулярности». И хотя сингулярность - это 2й по хайповости и затасканности современный термин без научного определения, - нам от этого не легче.
• То, что мы уже в этой зоне (эпохе джокера) – состоявшийся факт (2).
-- Неопределенность и эмерджентность растут вследствие техно-социального усложнения мира (3).
-- Черные лебеди превращаются как бы в новый закон природы (4)
• А значит какая-либо предсказуемость многих важнейших процессов утеряна, и Черные лебеди становятся обычным и даже типичным явлением глобальной цивилизации.
Становится особенно важным умение отличать Черных лебедей от их серых собратьев. И для этого уже создана крепкая научная база.

#ЧерныйЛебедь #Неопределенность #Прогнозирование

1 2 3 4

​​Биохакинг человечества.
Это самая недооцениваемая китайская угроза.
Таков главный вывод отчета по стратегической аналитике вопросов биохакинга «China’s Biomedical Data Hacking Threat: Applying Big Data Isn’t as Easy as It Seems», опубликованного Texas National Security Review.

Мое большое интервью журналу «ЭКСПЕРТ» в 2019 назвалось «Хакнуть человечество». Уже три года назад было ясно, что алгоритмический хакинг (хакинг сознания людей алгоритмами социальных сетей, рекомендательных систем и т.д. на основе анализа больших данных о цифровых следах людей в медиасреде) таит в себе непросчитываемые риски весьма разнообразных угроз.

Три года спустя риски алгоритмического хакинга лишь возросли. Но что еще хуже, - взлетели риски биохакинга (хакинга биологии людей на основе анализа биомедицинских и медико-биологических больших данных, поступающих от секвенирования генома, баз данных электронных медицинских карт, носимых гаджетов и др. источников).

Термин «большие данные» в контексте биоинформатики используется для описания чрезвычайно больших наборов данных, которые могут быть проанализированы только компьютерным путем (т.е. не людьми, а алгоритмами), либо по отдельности, либо в сочетании с другими наборами данных, чтобы выявить ранее неизвестные закономерности, тенденции и ассоциации. Например, ожидается, что данные крупномасштабных геномных исследований прояснят роль, которую генетика играет в конкретных заболеваниях, указав, у каких людей может развиться данное заболевание или расстройство, и может ли новое лекарство или терапевтическое лечение помочь пациентам, страдающим от заболевания. Новые цифровые технологии позволяют по-новому извлекать, собирать, анализировать и визуализировать эти обширные резервуары биомедицинских данных. А достижения в редактировании генома, процессе модификации последовательностей ДНК в точных местах генома, позволяют создавать инструменты, которые могут помочь в развитии точной персональной медицины.

К сожалению, эти инструменты, как и любые технологии, могут использоваться, как во благо людей, так и во зло. Ну а результаты биохакинга человечества, по сравнению с алгоритмическим хакингом, будут примерно такими же, как смертоносность водородной бомбы по сравнению с атомной. Т.е. последствия могут быть ужасными. Но это еще не все.

Колоссальные риски развития биохакинга проистекают не только из возможностей напрямую воздействовать на биологию людей.
На современном этапе развития, когда эти технологии лишь исследуются, у исследователей, контролирующих и правоохранительных органов, правительств, политиков и разведки нет понимания путей и методов ограничения роста данных рисков.

Примитивное представление, что достаточно не дать утечь своим данным к злодеям, и все будет ОК, - в корне ошибочно.
Данные сами по себе не являются формой знания. Их необходимо интерпретировать, чтобы получить знания.
Различения явного и неявного знания в области биохакинга становится ключевой аналитической конструкцией в области ограничения рисков таких исследований. Необходимо найти способы ограничения извлечения из данных «неявных знаний», позволяющих разрабатывать запрещенные в обществе технологии.

Информация к размышлению: неявное знание — это практическое основанное на навыках знание, которое трудно, а в некоторых случаях, и невозможно кодифицировать.

Лишь понимание важности социотехнических факторов в разработке и распространении ядерного оружия на государственном уровне позволяет миру до сих пор развивать военные технологии, удерживаясь от ядерной войны.

Китайские компании по секвенированию ДНК проводят исследования в тесной связи с китайскими военными и правительством. Зная это, США сосредоточились лишь на ограничении доступа Китая к своим биомедицинским «большим данным». Но этого категорически недостаточно.

#Биохакинг

1 2

​​Самый мощный инструмент человечества уже изменил Homo sapiens.
Лишь через 60 лет начинает приходить понимание истиной роли медиа.
Еще в 1960-е Маршалл Маклюэн подробно описал, как электронные медиа влияют на все аспекты нашей культуры и психики.
Медиа – это не просто носитель информации и даже не среда обитание людей. Медиа – это внешнее расширение человека.
Но медиа – еще и самый мощный из всех инструментов, придуманных человечеством за всю историю цивилизации. Мощнее водородной бомбы. Ибо последняя способна лишь уничтожить людей и созданную ими цивилизацию. А медиа способны изменить и то, и другое. Как выразился друг и коллега Маклюэна, отец Джон Калкин (проф. коммуникаций Фордхэмского университета в Нью-Йорке, - «мы формируем наши инструменты, а затем они формируют нас».

60 лет ошибочно считалось, что знаменитая фраза Маршалла Маклюэна «the medium is the message» лишь означает, что смысл сообщения определяется не только и не столько содержанием, сколько формой. Другими словами, - что выбор средства информации влияет на смысл этой самой информации.

И лишь во 2-м десятилетии 21 века люди начали понимать, что значение медиа для культуры цивилизации и психики носителей этой культуры более фундаментально.
Ибо медиа определяет способ думания людей - общие правила, по которым в сознании людей создается и потребляется информация, потоки которой, курсируя по разнообразным социо-когнитивным сетям, формируют и изменяют отдельных людей и все общество.

Следствием кардинального изменения медиа среды человечества в результате 2-й НТР (тотальная оцифровка информации и её перетекание в Интернет, а в ближайшие годы и в Метаверс) стала смена культурного движка земной цивилизации;
• на смену аналоговых (символических) гипер-сетей, лежащих в основе культуры обмена мыслями (по определению Мерлина Дональда)
• пришли социо-когнитивные сети алгокогнитивной культуры - гибридные (материально-нематериальные) цифровые гипер-сети, агентами которых, помимо людей, становятся алгоритмы (1).

Что в результате этого получается с человеком и обществом, я писал уже не раз в цикле постов об алгокогнитивной культуре. И конечно же, я далеко не первый, пишущий на эту тему. Об этом прекрасно писали:
• Нил Постман в книге «Развлекаемся до смерти: общественный дискурс в эпоху шоу-бизнеса»
• Николас Дж. Карр в книге «Пустышка. Что Интернет делает с нашими мозгами»
• А Джонатан Хайдт только об этом и пишет уже почти 10 лет (2)
Но к сожалению, до последнего времени общество не очень прислушивалось к подобным высказываниям, относя их в разряд алармизма.

И вот, похоже, что-то меняется.
Прекрасное эссе Эзры Кляйн в NYT (3) и его превосходный разбор в блоге Дерика Боундс (4) анализируют и резюмируют основные мысли всех названных визионеров.
• Представления, что медиа нейтральны, а контент – король, ошибочно.
• Медиа меняет способ работы мозга людей:
устная культура учила людей думать одним образом; письменная— другим; телевидение превратило все в развлечение; соцсети научили нас думать, став частью толпы, а поисковики и рекомендательные сервисы настраивают наши желания под предпочтения толпы.
• Тип медиа меняет настройку паттернов внимания и степень их «заразности»
• Социальные сети вредны для подростков (нет никаких настроек или архитектурных изменений соцсетей, которые бы сделали хорошей практикой для девочек-подростков в период полового созревания публиковать свои фото для публичной оценки незнакомцами)
• А твиттер вреден для взрослых (приучая оперировать идеями без контекста и мерить их успех силой реакции).

Всё это не аргументы против технологий. Это аргументы в пользу того, чтобы относиться к технологиям настолько серьезно, насколько они того заслуживают. Ибо «мы формируем наши инструменты, а затем они формируют нас».
#АлгокогнитивнаяКультура

1 2 3 4

​​Из какого сора растет творчество ИИ.
Первое публичное вскрытие черного ящика художественного опыта нейросети.
Взрывной интерес к нейросетям, генерящим изображения по описанию, можно понять.
• Во-первых, они объединяют в себе два уникальных качества людей: язык и художественное творчество.
• А во-вторых, могут пролить свет на тайну тайн – как устроен в человеке богоподобный дар творца.

Из того немногого, что мы знаем сегодня о мозге и сознании людей, предполагается следующее:
• начинка индивидуального сознания определяется прошивкой мозга (многоуровневыми гиперсвязями его элементов);
• постоянная перепрошивка мозга по мере обретения человеком индивидуального опыта меняет его когнитивную архитектуру, от которой зависят творческие способности человека.

У искусственного интеллекта современных рисовальных нейросетей ситуация схожая.
• В процессе их обучения (обретения ими, хоть и узкого, но индивидуального опыта) им скармливаются миллиарды изображений
• В ходе этого процесса происходит «перепрошивка мозга» ИИ, формирующая ту или иную «когнитивную архитектуру» ИИ.
• В итоге получается такой же «черный ящик» ИИ-художника, каким является «черный ящик» художника-человека.

Если так, то «богоподобный дар творца» - это сочетание хардвера генетически переданных способностей плюс софтвера индивидуальной когнитивной архитектуры творчества, получившейся в ходе обретения индивидуального опыта.

Вскрывать черный ящик своего сознания люди пока так и не научились.
А вот сделать это с рисовальным ИИ теперь может каждый. И это весьма важно. Ибо может раскрыть тайну, из какого сора растет индивидуальное творчество: сначала ИИ, а потом, глядишь, и человека.

Например, почему ИИ «видит» ту или иную известную личность (скажем, Путина) так, а не иначе? (например, как на этой картине)

Ясно, что все зависит от «художественного опыта» нейросети – миллионов изображений, скормленных ей на этапе обучения. Но это для нас - черный ящик. И превосходная новость, что его теперь можно открыть и заглянуть внутрь.

Анди Баио и Саймон Уиллисон «вскрыли мозг» самой интересной нейросети – генератора изображений Stable Diffusion. Теперь каждый может попытаться понять, из какого «сора изображений» сформирован индивидуальный художественный опыт этой нейросети.

Сделанный ими сайт laion-aesthetic.datasette.io позволяет находить, например, из какого «сора изображений» нейросеть формирует образ той или иной знаменитости.
• Например, оказывается, что в образе Путина – как его «видит» Stable Diffusion после обучения, - присутствуют не только его собственные черты, но и черты других людей: Макрона, Навального и даже Мегин Келли.

К сожалению, Баио и Уиллисон закачали в базу пока «лишь» 12 млн фото из 2,3 млрд изображений, использованных для обучения генератора изображений Stable Diffusion.

Но даже на этой малой выборке можно проследить истоки «художественного видения» ИИ, полученные им в ходе обретения им «художественного опыта».

Ну и для родителей здесь важный урок.
В каком антураже, среди каких лиц, картин, фотографий, ландшафтов и т.д. будет расти ребенок, в значительной степени будут зависеть сформированные в сознании ребенка образы мира. И уже на их основе будет развиваться у ребенка богоподобный дар творца.
#AIImageGenerator