​​Четверо дышат в затылок Си, а 5й – может стать китайским Горбачевым.
Первый в истории ИИ-прогноз смены расклада сил во власти.
По влиянию на будущее планеты Китай еще не 1й, но уже и не 2й. А каким будет это влияние, решится в конце года на 20-м съезде КПК.
Сейчас эксперты и разведки мира ломают голову, прогнозируя новый расклад сил.
1) С №1 все ясно – им останется Си.
2) Но от того, кто войдет в Политбюро (25 чел) и его Постоянный комитет (7), будет зависеть очень многое (Си крайне редко самостоятельно принимает решения).
3) Кроме того, как показывает история, один из №№2-5 сменит Си (и кто знает, как скоро).

Прогнозов нового расклада сил много. Но все они противоречивы и малоубедительны. Ибо ни один экспертно-аналитический центр не в силах учесть мириады фактов, сложнейших сетевых взаимосвязей кандидатов и динамики социо-политического контекста, не говоря уж о схватках бульдогов под ковром.

Первая в истории попытка учесть всё это предпринята в Центре международных исследований им. С. Раджаратнама Наньянского университета в Сингапуре. Впервые подобный прогноз сделан на основе анализа Больших данных с помощью машинного обучения.

Оригинальная ансамблевая модель синтезирует результаты 6и алгоритмов машинного обучения в единую многоуровневую модель, максимизируя общую точность прогнозирования. Модель учитывает 250+ факторов биографии, карьеры, контекста продвижений, сетевые взаимосвязи, фракционную конкуренции и др. Учитывается все особые механизмы отбора: правило «семь вверх, восемь вниз» (кандидаты в возрасте 68 лет и старше должны уйти в отставку с должностей национального уровня), разнообразные квоты (1 женщина, 2 слота военным) и множество хитросплетений персональных отношений.


Модель обучали на результатах предыдущих пленумов ЦК КПК. После обучения точность предсказаний составила 72% (что сильно лучше экспертных прогнозов).

Модель предсказывает много чего интересного:
1) Получены проранжированные по вероятности списки членов нового Политбюро и его Постоянного комитета.
2) Известны №№2-5: те, - кто с большой вероятностью, сменит Си:
- Ли Си (1956, член ПБ ЦК КПК 19 созыва)
- Ли Цян (1959, глава Шанхайского горкома КПК с 2017 года, кандидат в члены ЦК 18 созыва, скакнул в ПБ из кандидатов в кандидатов в ЦК)
- Чэнь Миньэр (1960, член ПБ ЦК КПК 19 созыва)
- Цай Ци (1955, глава Пекинского горкома КПК с 2017, до переезда в Пекин был активным микроблогером с более чем 10ю млн подписчиков, он стал членом ПБ минуя членство в ЦК, и подобного не было с 1992).

Особые шансы у Ху Чуньхуа (1963) – приглядитесь к этой фотографии (2): этот человек может стать китайским Горбачевым со всеми вытекающими последствиями.
Ху - самый молодой член 18го и 19го Политбюро. Он из китайского комсомола. После завершения службы в Коммунистическом союзе молодежи он работал во многих бедных провинциях, включая Тибет, Хэбэй и Внутреннюю Монголию (а опыт работы в слаборазвитых регионах считается особо важным для карьерного роста чиновника).

Подробней читайте здесь (1).

#Китай #МашинноеОбучение #Прогнозирование
1 2

Изменился критерий гениальности.
Ярчайший пример кардинальных изменений мира в цифровую эпоху.
Переломные вехи календарно не круглые. Например, 21 век начался лишь после 9/11, а период стопмодерна, запустивший историю вспять к архаике, будут отсчитывать от 2/24.
Переход цивилизации в эпоху цифровой постнауки обсуждается не первый год. Но теперь, уже вполне обоснованно, его можно датировать 6/17. В этот день в Big Think вышло эссе «Эйнштейна 21 века» Альберта-Ласло Барабаши «Why Einstein is a “peerless genius” and Hawking is an “ordinary genius”» (1). Гениальный создатель новой междисциплинарной Science Of Success ставит точку в вопросе о смене критерия гениальности в эпоху цифровой постнауки. В новой эпохе, где царят четыре всадника - большие данные, сетевые законы, самоорганизация и случайность, - новые гении будут иными.

Сопоставив историю публикаций 6 млн ученых, влияние их открытий и мировую известность, Барабаши установил единственный железобетонно надежный критерий определения «уровня гениальности» в эпоху цифровой постнауки.
Теперь это:
• не цитируемость научных статей;
• не научные премии (вкл. Нобелевку);
• не уровень признания коллег по цеху;
• не оригинальность, новизна или практическая значимость открытий.
Единственный сверхточный критерий определения гениев в эпоху цифровой постнауки - количество языков, на которые переведена страница ученого в Википедии.

Открытая Барабаши 5 лет назад «формула гениальности» оказалась обескураживающе проста (2).
✔️ В цифросетевом мире не только экономика, но и успех, в основном, зависит «от впечатлений» — т.е. не от продуктивности автора и качества его продукта или достижений, а от их (автора и продукта) коллективного восприятия обществом.

Между успехом и достижением огромная разница. Успех — это вовсе не то, что думает большинство. Талант никак не гарантирует успеха. И продуктивность работы ученого тоже. Но при наличии таланта, настойчивости и удачной случайности любой может его достичь.

Например, признанный гений среди гениев - Эйнштейн прославился не благодаря теории относительности, а теория относительности прославилась благодаря Эйнштейну. Ибо Эйнштейн приобрел свой культовый статус по счастливой случайности (3). А потом понеслось: снежный ком популярности превратил его в одну из самых известных интеллектуальных икон.

Уже в 20 веке ярлык гения, главным образом, отражал общественное признание, выходящее далеко за рамки научного сообщества, в котором он или она работает. Это не значит, что называемые гениями ученые не оказали выдающегося влияния на науку. И тем не менее, метрики, которые наука до настоящего время использует для измерения производительности ученых, редко предсказывают это более широкое влияние.

Анализ Барабаши показал.
• Большинство исследований того, что делает кого-то гением, предвзяты из-за отсутствия контрольной группы.
• Поскольку эти исследования сосредотачиваются лишь на признанных гениях, они игнорируют непризнанную когорту людей, работающих в той же творческой области. Без сбора данных о малоизвестных гениях, эти исследования, как бы тестируют лекарство без «группы плацебо».
• Когда же к анализу добавляется «группа плацебо», то выясняется, что в наступившей эпохе цифровой постнауки, единственный валидный критерий – это не индекс Хирша, а «индекс Вики» (количество языков, на которые переведена страница ученого в Википедии).

По «индексу Вики» Альберт Эйнштейн – «гений высшего качества».
А вот «отец черных дыр» Стивен Хокинг на эту категорию не тянет. Он – «обычный гений», ставший им из-за популярности мема «черная дыра».
Но и «индекс Вики», увы, не совершенен. Кто, например, знает Ренату Каллош, заслуживающую статуса гений куда более чем Хокинг? Увы, но в этом вина Вики.

По тэгу #ScienceOfSuccess еще много малоизвестного интересного.
1 2 3

​​Главный критерий ваших успехов («индекс Вики» не только про гениальность).
Как изменился мир за 8 лет перехода в цифру.
В качестве постскриптума ко вчерашнему посту про «индекс Вики», два интересных дополнения.
1. «Индекс Вики» не только про гениальность, но и про любой сверхуспех
По состоянию на сегодня:
Тройка самых известных музыкантов (за всю историю человечества)
• Фредди Меркьюри, Боб Марли, Майкл Джексон (Леннон лишь 6й, Маккартни 13й, а за ним 14й - Моцарт)
Тройка самых известных писателей (за всю историю человечества)
• Гомер, Шекспир, Данте (наш чемпион — Достоевский - 5й в мировом списке, Пушкин 37й, Гоголь 81й, Горький 89й, а Солженицин 100й)
Тройка абсолютных чемпионов по известности (за всю историю человечества)
• Мухаммед, Ньютон, Христос (абсолютный чемпион от России — Иммануил Кант — 39й, подробней ниже)
А теперь взгляните на список чемпионов среди медийных супер-звезд, родившихся после 1980 г.
• Султан Кёсен (турецкий фермер, в настоящее время — самый высокий человек в мире), Пэрис Хилтон (полагаю, знаете, кто это), Наташа Кампуш (австрийская телеведущая и писательница, известная своим похищением в 1998, провела в плену более восьми лет).
Их слава (вкл. Пэрис Хилтон) явно перевешивает их достижения.
Но это парадоксальное несоответствие славы и достижений отражают глубокие социальные законы успешности в цифровом мире.
А теперь приз в студию!
Среди медийных супер-звёзд представитель России поднялся на наивысшую ступень среди всех существующих категорий мировых знаменитостей: Анна Чапман - №5.
Здравствуй, стопмодерн эпохи цифровой посткультуры!

2. Как изменился мир за 8 лет перехода в цифру
Казалось бы, что такое 8 лет против 6000 лет.
Взгляните, как всего за 8 лет изменились взгляды человечества на самых знаменитых людей мира за всю 6000-летнюю историю существования цивилизации (1).

Фантастический взлет Пророка Мухаммеда и Чингисхана впечатляет и озадачивает.
А вот взлет Ньютона не очень удивляет, с учетом того, что сегодня самый знаменитый землянин, родившийся за последние полвека - Илон Маск.

Подробней в шикарном проекте Pantheon (2)
#ScienceOfSuccess

1 2

Интернет стал 2й потенциально катастрофической ошибкой США.
Исправить её уже невозможно, и остается лишь минимизировать последствия.
В 20 веке США допустили две потенциально катастрофические ошибки. Создав две самые мощные в истории цивилизации технологии, США не сумели удержать их под своим контролем. В результате каждая из них теперь может нанести колоссальный глобальный вред всему человечеству.
Эти технологии - ядерное оружие и Интернет.

В США опубликован беспрецедентно откровенный и жесткий 100-страничный доклад Независимой целевой рабочей группы Совета по международным отношениям (CFR) «Confronting Reality in Cyberspace: Foreign Policy for a Fragmented Internet», в эпиграф которого вынесен один из его ключевых выводов:
«Утопическое видение открытой, надежной и безопасной глобальной сети не осуществилось и вряд ли когда-либо уже осуществится. Сегодня Интернет все менее свободен, все более фрагментирован и все менее безопасен»
Пока отчет есть в открытом доступе, весьма рекомендую познакомиться хотя бы с Executive Summary. Я же, как обычно на этом канале, поделюсь «сухим остатком» своего видения выводов группы экспертов во главе с очень мною ценимым Адамом Сигалом.

1. Интернет - в значительной степени является детищем США. Технологии в его основе выросли из федеральных исследовательских проектов, а американский бизнес внедрял эти инновации, коммерциализуя и распространяя по миру эти технологии.
2. Базовая структура Интернета строилась под американские ценности — опора на частный сектор и техническое сообщество, относительно легкий нормативный надзор, защита свободы слова и поощрение свободного потока информации.
3. Но ценности ценностями, а главной целью создания Интернета было обслуживание стратегических, экономических, политических и внешнеполитических интересов США.
4. Однако, получился грандиозный облом, повторивший катастрофическую историю атомной бомбы. Развитие и распространение технологий Интернета вышло из-под контроля
5. В итоге развитие Интернета кардинально сменило траекторию на противоположную:
-- утопическому видению Интернета, как открытой, надежной и безопасной глобальной сети не было суждено материализоваться;
-- зато материализовался худший из сценариев: внутри среды инфосоциальных коммуникаций и глобальной кооперации родился монстр. Это крайне сложно контролируемое фрагментированное киберпространство, ставшее (а) средой культивации и безграничного каскадирования дезинформации; (б) проводником и усилителем преступных действий на уровне от индивидуалов до оргпреступности и авторитарных режимов; (в) рассадником взломов и кибератак, способных обрушить любой из элементов физической реальности цивилизации (мировую экономику, политику, социальные институты).
6. Очень скоро (с развитием технологий ИИ и Интернета вещей (IoT)) риски еще более возрастут. И потому нужно срочно предпринимать действия, способные хоть как-то их ограничить.
7. США – это страна, породившая монстра и не удержавшая его под контролем. Кроме того, США – это единственная супердержава, сохраняющая остатки демократических идеалов. И поэтому именно на США лежит обязанность позаботиться о глобальных рисках, которые привнес в нашу реальность Интернет.

Что и как предлагается в этой связи делать, читайте в отчете.
https://www.cfr.org/report/confronting-reality-in-cyberspace?utm_campaign=tf-cyber&utm_medium=social_earned&utm_source=tfr
#Интернет

Пентагон уязвим перед высокотехнологичным автономным оружием Китая.
Главная угроза нацбезопасности США – безразличие топов Силиконовой долины.
Основатель Oculus Палмер Лаки в среду взорвал инфобомбу на конференции FORTUNE Brainstorm Tech 2022. Он открыто и без обиняков рассказал, «что не дает ему спать по ночам».
А не спится Лаки потому, что он переживает из-за следующего.
1. Победа в современной войне (вкл. ядерную) определяется превосходством в военных хайтек-технологиях.
2. Власти Китая это поняли и жестко мобилизовали свой Хайтек на достижение абсолютного преимущества в данной области.
3. США же пока не способны сделать подобное и, более того, - они просто бессильны побороть безразличие топов Силиконовой долины к безопасности своей страны.

В своем выступлении Палмер Лаки безжалостно прошелся:
• по наивному инфантилизму боссов технологических компаний (типа бывшей “Мордокниги”), которые «используют свои несметные богатства и лучшие в мире таланты, в основном, для создания технических игрушек и социальных приложений, игнорируя серьезные приложения для защиты демократий от агрессоров и автократов»;
• по безграничной жадности боссов технологических компаний (типа “Надкушенного яблока”): «Это крупнейшая компания в стране, одна из самых влиятельных компаний в мире, более могущественная, чем большинство стран. . . . — сказал Лаки, - [Но] они никогда не могли позволить себе сделать хоть что-то, что расстроило бы КПК, потому что, если это произойдет [с] 95%-ми их производства в Китае, они станут компанией стоимостью 2 трлн. долларов, бизнес которой может быть уничтожен одним росчерком пера."

Боссы Хайтека США боятся потерять доступ к китайским рынкам, китайскому капиталу и китайскому производству. Из-за этого Пентагон не получает стратегического преимущества от наличия в своих границах крупнейшего в мире мозгового центра технических инноваций — Силиконовой долины.

Сам Палмер Лаки старается это исправить, организуя сотрудничество Силиконовой долины и Пентагона. Продав в 2014 свою компанию виртуальной реальности Oculus «Мордокниге», он мог бы запросто использовать вырученные средства для создания ИИ компании, стригущей легкие деньги на чат-ботах или рекомендациях фильмов. Вместо этого он сделал нечто куда более сложное: он основал компанию Anduril , которая делает системы защиты дронов с ИИ для армии США и её союзников.
Подробней
Контекст
#США #Китай #Технологии #АвтономноеОружие

​​Страх и отвращение помешают контактам с иным разумом.
Поразительный вывод 1го семинара Фонда Эйнштейна.
В Берлине прошел семинар исследовательской инициативы Фонда Эйнштейна "Изучение инаковости на Земле и за ее пределами" (1). Проблема “инаковости” - сложности понимания между разными типами разумами – это важная междисциплинарная проблема на стыке естественных, социальных и гуманитарных наук, поставленная 7 лет назад на симпозиуме по астробиологии и обществу "Влияние открытия жизни за пределами Земли" (2).

Это не гипотетическая проблема, а серьезное практическое препятствие на пути понимания основ общности существующих на земле 4х разных типов разума, а значит и самого понятия - разум (3).

Если же вдруг появится возможность контакта с инопланетянами (а шансы этого современной наукой не считаются нулевыми, и не исключено, что подобное может произойти в любой момент), проблема инаковости вмиг превратится в главную экзистенциальную проблему землян. Так что лучше уж подготовиться.

Люди так и не научились решать проблему инаковости за все время существования нашего вида. Племена, расы, народы, культуры, - все также видят мир через призму «мы и они» / «они против нас».
И это только среди людей. Если же рассмотреть наших собратьев на Земле, инаковость станет еще большей проблемой. Почему одни животные нас отталкивают, а других хочется приласкать?

Например, медведь гораздо опасней для человека, чем тарантул.
• Но игрушечный плюшевый мишка (правда, без зубов и когтей) — нам мил и пригож.
• А пауки занимают одно из первых мест среди самых страшных и отвратительных существ на Земле.

Сразу несколько докладов на симпозиуме (2) высветили большую проблему.
Контакты с внеземным разумом могут сильно осложниться (и вообще пойти не туда) из-за врожденных и непреодолимых чувств страха и отвращения друг к другу.

Эта реальная и весьма вероятная проблема.
Ибо:
1. Чувства страха и отвращения – очень сильные факторы формирования видов.
Будет не сильным преувеличением сказать, что человек – это «боязливая обезьяна» (4) с крайне развитым чувством брезгливого отвращения (5).
2. Эволюция формирует чувства страха и отвращения настолько хитро, что понять сложное переплетение их оснований весьма непросто (6). Например, мы ежеминутно сглатываем слюну, не испытывая ничего подобного на отвращение. А попробуйте наплевать полстакана и заставить себя выпить это.
3. Довольно вероятно, что эволюция непредсказуема из-за не-эргодичности биологических форм жизни и потому зависит от пути. Следовательно, если прокрутить историю Земли еще раз, то многое в видообразовании получится совсем по-другому – и в том числе, носитель самого развитого интеллекта (7). Что уж тогда говорить о результатах эволюции на других планетах.

С учетом всего сказанного, участники семинара по инаковости пришли к поразительному выводу.
Для облегчения взаимодействия и сглаживания проблемы инаковости при контактах с представителями иного разума следует использовать «нейтральных» роботов.
Иначе врожденный страх и отвращение не оставят людям шансов для понимания инопланетян, подобно тому, как у нас не сложилось взаимопонимание с акулами и членистоногими.
Лучше не рассчитывать, что инопланетяне будут похожи на кроликов или бабочек – чемпионов по небоязни и неотвращению людей к инаковости (6). И кто кого будет потом держать в зоопарке, - большой вопрос (8).

#Эволюция #HomoSapiens #Разум #Спесишизм
1 2 3 4 5 6 7 8

​​Искусственное увеличение интеллекта для самовыражения творца.
Создан 1й генератор цифровых культур Метавселенной.
Пять лет назад я написал для своего канала программный пост «Для чего нужны компьютеры, и как это связано с увеличением интеллекта человека» (2). В нем говорилось о перспективах альтернативного «третьего пути» развития ИИ - «Искусственное увеличение интеллекта (Artificial Intelligence Augmentation – AIA). Движение по поэтому пути способно изменить человечество, помогая людям изобретать новые когнитивные технологии, расширяющие диапазон человеческой мысли.

И вот спустя 5 лет я рад сообщить своим читателям, что началось!
Первым полноценным инструментом AIA стал инструментарий генеративной модели Make-A-Scene от Meta (1).

Он позволяет:
• не просто генерировать изображение по текстовому заданию (подобно DALL-E от OpenAI и Imagen от Google)
• а вдобавок к этому, еще и устанавливать направление и рамки полета творческой фантазии ИИ, путем дополнения текстового описания эскизом, сделанным человеком – творцом.

Этот колоссальный техно-прорыв легко представить и трудно переоценить. Перефразируя Армстронга, -
это один маленький шаг для Meta (1), но гигантский скачок для всего человечества.

Возможность посредством эскиза установить направление и рамки полета творческой фантазии ИИ превращает генеративную модель:
• из забавного инструмента случайной генерации изображений исключительно на основе статистики скормленных модели при обучении изображений
• в подлинный инструмент творца, полагающегося не на случайность, а на свой замысел, и определяющего для ИИ направление движения в пространстве творческого поиска творца.
Т.е. модель будет воспроизводить не просто то, на чем она учится, а то, куда её направит креативность человека.

Примеры можете вообразить сами. И сами удостоверитесь, что эскиз играет роль не просто ограничителя творчества ИИ. Эскиз придает смысл творчеству ИИ, следуя замыслу творца.
В результате этого, нарисованная ИИ иллюстрация для частушки
«Сидит Заяц на заборе в алюминевых штанах, а кому какое дело что ширинка на болтах»
будет уже не забавной феерией бессмыслицы из зайца, забора, ширинки и болтов, а задуманным автором зайцем, сидящем не где попало, а где надо на заборе, с правильным числом болтов на нужном месте у зайца.

Но это только присказка. А сказка вот в чем.
ИИ уровня Make-A-Scene станет теперь главным инструментом порождения цифровых изобразительных культур Метаверса.

Ведь теперь ИИ способен:
• не просто стилизовать рисунки под стиль Ван Гога, Кандинского или Малевича;
• а использовать любые стили при реализации творческого полета художников, дизайнеров и архитекторов миров Метавселенной;
• и даже (это трудно представить, но попробуйте) создавать новые оригинальные стили, развивая паттерны эстетического содержания наборов эскизов.

Это важно:

(1) Суд признал экстремистской и запретил в России деятельность корпорации по реализации социальных сетей.

Посмотрите на рисунки в (2): Make-A-Scene на такое способен, а DALL-E от OpenAI и Imagen от Google – нет.

Подробней:
- популярно про Make-A-Scene (3)
- научно (4)
- толковое видео (5)

2 3 4 5

#AIA #Metaverse

​​Глобальный лидер будет один.
ИИ подрывает шансы мира на двуполярность.
Лучано Флориди – всемирно известный профессор Оксфорда и Болоньи, создатель «Философии информации» и термина «инфорги», параллельно с научной работой консультирующий IT-гигантов , - опубликовал (совместно с Эмми Хайн) результаты фундаментального исследования «ИИ с американскими ценностями и китайскими особенностями: сравнительный анализ политики американского и китайского правительств в области ИИ».

Сегодня для экспертов и политиков очевидно, что мировым технологическим лидером станет лидер в ИИ-технологиях. Эти технологии – А) «новое электричество» (универсальное решение) задач автоматизации интеллектуальной работы, и Б) «золотой ключик» к заветной двери, за которой кроется решение многих нерешаемых проблем человечества.

В начале 3ей декады 21 в. главным вопросом совершенствования ИИ-технологий становится выбор траектории их дальнейшего развития. Эта траектория определяется видением идеала «хорошего общество, в котором люди сосуществуют с ИИ» (“Good AI Society”).
Без такого видения невозможно не только решать, но и даже корректно ставить важнейшие вопросы развития ИИ: этика и надежность ИИ, доверие к нему, границы передачи ему прав при принятии решений, всевозможные аспекты сосуществования людей и алгоритмов, границы невмешательства ИИ в персональную жизнь людей и т.д.

И вот тут-то человечество оказывается перед выбором. Дело в том, что в мире существуют два разных видения “Good AI Society” государством и обществом: видение США и видение Китая (их колоссальный отрыв в области ИИ-технологий делает весьма проблематичным для всех других принципиально повлиять на формирование видения “Good AI Society”).

Эти два видения (США и Китая) объединяет лишь одно – стремление достичь глобального лидерства в ИИ, позволяющего сохранять политическую власть и доминирование как внутри страны, так и на международном уровне.

Во всем же остальном имеется масса базовых расхождений, обусловленных разными системами ценностей:
• Для США – это индивидуальная протестантская трудовая этика, делающая акцент на ответственности и правах личности и потому всячески противящаяся любым использованиям ИИ, грозящих нарушением прав человека и размыванию границ его ответственности.
• А для Китая – это лежащая в основе стратегии развития Китая конфуцианская этика, делающая акцент не на личности, а на обществе, и в результате этого готовая смирится с нарушением прав отдельных людей, осуществляемых на пользу обществу.

Столь разные этические системы США и Китая ведут к во многом противоположным видениям “Good AI Society”.
• Китайское видение – это гармонизация прорывных последствий развития ИИ в целях сохранения социальной стабильности и поддержки авторитарного руководства страны.
• Видение же США делает неприемлемым для общества развитие ИИ-технологий поддержки авторитарного режима, даже если это способствует сохранению социальной стабильности (напр. технологии социальных рейтингов).

Чтобы понять, насколько разными (качественно и количественно) являются видения “Good AI Society” у Китая и США, Флориди и Хайн с помощью арсенала методов обработки естественного языка проанализировали национальный корпус политических документов, определяющих и регламентирующих развитие ИИ в этих странах. Доказательная основа политических различий видения “Good AI Society” двух государств и обществ была получена путем частотного, сентимент и диахронного (изменение во времени) анализов текста.

Моя интерпретация выводов.
1) Факторы, формирующие философию технологий и стратегию ИИ в США и Китае, отличаются радикально, что ведет к принципиально разному видению “Good AI Society”.
2) Есть единственный способ сведения 2х видений развития ИИ – признание США и Китаем плюрализма ценностей и поворот к совместной разработке ИИ как общечеловеческого проекта.
3) П. 2 – утопия, и победитель в конкуренции будет лишь один.

https://link.springer.com/article/10.1007/s00146-022-01499-8#Abs1
#ИИ #НовыйМировойПорядок #Китай #США

​​Все под наблюдением и счастливы этим.
Перспективы распространения китайской ИИтократии по миру.
1) Даже в самом Китае мало кто осознаёт, насколько тотальной там стала ИИ-слежка (алгоритмическое видеонаблюдение с распознаванием лиц) за различными аспектами поведения людей.
По данным People Think Tank (аналитический центр при официальном медиа ЦК КПК «Жэньминь жибао») на июнь 2022 (1):
• ИИ-слежка в «умных городах» Китая работает практически повсеместно 24х7: от наблюдения за поведением учащихся в классах до наблюдения в общественных туалетах для контроля экономии использования туалетной бумаги.
• Охват населения ИИ-слежкой почти 100%-ный.
99,3% сталкиваются с распознаванием их лица в тех или иных сценариях (51,8% при регистрации в отелях и общественных зданиях, 47% на транспорте, 43,9% при контроле доступа и проверке посещаемости на работе и учебе, 33,5% при контроле входа и выхода в жилые дома …)
• Большинство считает, что так и надо.
Таких 70%, и лишь 30% от этого не в восторге. При этом 67% признают, что власти злоупотребляют ИИ-слежкой, а 44.6% считают, что «распознавание лиц само по себе нарушает неприкосновенность их частной жизни и заставляет чувствовать, что за ними наблюдают».

2) ИИ и автократия взаимно усиливают друг друга в результате симбиоза ИИ и тотального наблюдения.
Это подозревали давно, но доказательств не было.
Теперь они есть в результате исследования профессоров Ноама Юхтмана (Лондонская школа экономики) и Дэвида Янга (Гарвардский университет) и их коллег (2, 3).
Анализ обширной базы данных о китайских фирмах, работающих в области ИИ, их контрактов на госзакупки для ИИ-слежки и данных о силе и динамике социальных волнений по всему Китаю в течение последнего десятилетия показал следующее.
Инновации в области ИИ-слежки и автократия могут взаимно усиливать друг друга, когда:
✔️ новые технологии укрепляют власть автократа;
✔️ а спрос автократа на технологию стимулирует дальнейшие ИИ-инновации за пределами областей, приносящих автократу непосредственную пользу;
✔️ с ИИ-слежкой именно так и получается из-за больших данных, доступ к которым получает бизнес с разрешения властей; в результате этого симбиоза и власть, и бизнес в шоколаде, ибо положительная обратная связь между усилением тотального контроля и развития ИИ-технологий устраивает и тех, и других.

Подробней - завтра от самих авторов исследования в рамках онлайн-семинара «Симбиоз ИИ и тотального наблюдения в Китае» проекта Центра стратегических международных исследований и Стэнфордского центра изучения экономики и институтов Китая (4).

3) Что может помешать распространению опыта китайской ИИтократии по миру?
Только активное противостояние со стороны общества.
США может спасти индивидуальная протестантская трудовая этика, делающая акцент на ответственности и правах личности и потому всячески противящаяся любым использованиям ИИ, грозящих нарушением прав человека и размыванию границ его ответственности (5).
На что надеяться социумам, делающим акцент не на личности, а на обществе, и в результате этого готовым смирится с нарушением прав отдельных людей, осуществляемых (как убеждает пропаганда) на пользу обществу, - остается загадкой.

#Китай #ИИтократия #НадзорныйКапитализм #БольшойБрат
1 2 3 4 5

Ошибки ИИ хуже преступлений.
Когда они неподконтрольны и неисправимы.
Это главная современная проблема человечества при использовании ИИ.
Как только ИИ перестает быть инструментом (повышающим скорость и эффективность решений людей) и автоматизирует (полностью берет на себя) выполнение каких-то функций, люди оказываются в ловушке. Большинство ошибок современных автономных ИИ систем практически неподконтрольны и неисправимы.

Представьте, что банкоматы время от времени не выдают вам деньги, а лишь списывают с вашего счета средства с пометкой о якобы произошедшей выдаче наличных. При этом реальных способов опротестовать этот ужас и вернуть свои деньги нет.

Если это пока не происходит, то лишь потому, что банкоматами пока что не управляет ИИ, принимающий решения о выдаче наличных.
А вот решения о штрафах на дорогах система уже принимает самостоятельно. И результат известен любому водителю. Можно, конечно, судиться. Но кто пробовал, знает, насколько это бесперспективно.

Практически всюду, где люди переложили на ИИ ответственность за принятия решений (автоматизировали этот процесс), подобное происходит налево и направо.
• Более 20 000 случаев ложных обвинений людей алгоритмом MIDAS в мошенничестве с пособиями по безработице.
• А вот пример работы алгоритма RealPage, отвечающего на проверку надежности потенциальных арендаторов:
- кража со взломом и домашнее насилие в Миннесоте;
- продажа метамфетамина и уклонение от залога в Кентукки;
- вождение без страховки в Арканзасе;
- в еще хулиганство, кража, ложь полицейскому, множество обвинений в наркотиках и какие-то «неуточненные преступления».
И вся эта 100%ная ложь и ахинея – результат работы алгоритма RealPage, отказавшего в аренде Саманте Джонсон. А таких как она - ошибочно оклеветанных алгоритмом, - тысячи.
• Людей арестовывают по ложному совпадению распознавания лиц.
• Люди теряю критический доступ к медицинским пособиям.
• Алгоритмы распределения больничных коек ставят в очереди здоровых пациентов выше больных.
• ИИ неправильно распределяют рецепты, неправильно интерпретируют медицинские снимки, неправильно ставят диагнозы …
Проблема не в том, что ИИ системы ошибаются. Все системы могут ошибаться.
Проблема в том, что по большинству протоколов внедрения и эксплуатации ИИ систем, их ошибки остаются практически неподконтрольными и неисправимыми.

✔️Именно функциональность ИИ систем - сегодня главная проблема политики в области ИИ.
✔️Именно функциональность ИИ систем должна быть первым шагом в защите конкретных людей и всего общества от алгоритмического вреда при их внедрении.
✔️Сегодняшние главные приоритеты при внедрении ИИ - справедливость, подотчетность и прозрачность, - являются вторичными приоритетами.
✔️Главным приоритетом внедрения ИИ должна быть его функциональность.

Подробней в одном из центральных докладов крупнейшей международной организации в IT «Ассоциация вычислительной техники (ACM)», посвященной справедливости, подотчетности и прозрачности ИИ.

Хотя бы взгляните на перечень из 207 ссылок этого исследования, отсылающего к вопиющим примерам ошибочных решений алгоритмов ИИ, которые люди годами пытаются опротестовать по суду.
https://doi.org/10.1145/3531146.3533158
#ИИ

«Предсказывать очень трудно, особенно предсказывать будущее»
— мудро шутил Нильс Бор. И хотя вся история науки подтверждает его слова, это не помешало, например, Уильяму Джону Варнеру снискать славу «Эйнштейн хироманитии». Ведь его прогнозы будущего людей по их «линиям судьбы» (кожному рельефу ладоней) часто оказывались поразительно точными.

А может ли существовать «линия судьбы» у всего человечества?
И был ли в истории гений, способный эту линию предсказать?

Как ни удивительно, но ответы на оба эти вопроса — да. История знает такого гения (и я бы даже сказал, супергения).
• Еще в 1986 он предвидел, каким может быть универсальный шаблон истории развития глобальной цивилизации, и какое будущее эта «линия судьбы» сулит человечеству.
• А спустя 36 лет, в 2022 году были опубликованы две прорывные междисциплинарные научные работы, давшие предвидению гения научное обоснование.

Но это еще не все.
✔️ В первой из этих работ показано, что в основе «линии судьбы» человечества одна единственная простая и элегантная математическая формула.
✔️ А из второй следует, что у землян всего два варианта будущего: умереть во сне или проснуться.

Продолжить чтение (еще 15 мин.):
- на Medium https://bit.ly/3Q62pat
- на Яндекс Дзен https://clck.ru/sSQ7w
#Инновации #СмежноеВозможное #Вызовы21века #Культура #ПарадоксФерми #Будущее

​​Бенефис Homo в роли Творца провалился.
Экспериментально доказано – способностей обрести здравый смысл у современных ИИ нет.
Опубликованное психологами Гарварда исследование – это холодный душ для техноэнтузиастов ИИ. Серия простых, но весьма убедительных психологических экспериментов показала:
1) полное отсутствие у DALL-E 2 (одной из наиболее продвинутых современных нейросетей, имитирующих интеллектуально-творческие способности людей) хоть намека на понимание результатов своей деятельности, многими людьми ошибочно воспринимаемых, как творчество ИИ;
2) полное отсутствие у DALL-E 2 элементарных базовых когнитивных способностей, без которых невозможна трансформация опыта взаимодействия с миром в «здравый смысл» об его устройстве;
3) (как следствие пп 1-2):, подобные DALL-E 2 ИИ-системы, при всех своих выдающихся инструментальных возможностях, не просто «отстает в развитии» от двухлетнего ребенка, а в принципе не способны подняться до его когнитивного уровня.

Нейросеть DALL-E 2 всего за нескольку месяцев обрушила представления человечества о границах творческих возможностей машин. Эта нейросеть иллюстрирует стихи Бродского, дорисовывает картины классиков, научила героев своих картин разговаривать на совершенно непонятном людям языке, создала расширенную версию полотна «Сотворение Адама», способна изображать бессмысленные предложения, типа «бесцветные зеленые идеи яростно спят» или «куриный наггетс курит под дождем», а давеча создала галерею «последние селфи на Земле».

После всех этих подвигов DALL-E 2 и прочих подобных её нейросетей, имитирующих интеллектуально-творческие способности людей, пришло время поставить вопрос ребром:
✔️ так что ж, эти ИИ-системы начинают приближаться в своих имитациях к способностям людей?

Ответ ИИ-скептиков (типа Гэри Маркуса и меня) - категорическое нет. Нынешний путь не ведет к человекоподобному ИИ. Потребуются иные пути.

Но одно дело, дискуссии энтузиастов и скептиков. И совсем другое дело – грамотный научный эксперимент, поставленный психологами Гарварда.

Авторы исследования пошли тем же путем, что и Гэри Маркус, поймавший нейросеть на том, что “астронавт верхом на лошади” она изображает блестяще, а “лошадь верхом на астронавте” — получается чёрте как.

Авторы провели систематическую проверку 15-и отношений, необходимых для трансформации опыта взаимодействия с миром в «здравый смысл» об его устройстве.
• 8 физических отношений объектов: внутри, на, под, рядом …;
• 7 отношений агентов: толкать, тянуть, трогать ….
В сценах, запрашиваемых нейросеть изобразить их, фигурировали 6 объектов (коробка, цилиндр, чашка …) и 6 агентов (мужчина, женщина, ребенок …).

А потом исследователи:
• Давали на вход нейросети простенькие задания, описывающие сцены из объектов, агентов и их отношений (типа «ложка в чашке» - см. рис), с тем, чтобы нейросеть генерировала изображения этих сцен;
• Показывали эти изображения людям для их вердикта, насколько каждое из изображений соответствует словесному описанию в задании.

Детальное объяснение методики, собранной статистики, выявленных проблем и предложений по их устранению – читатель найдет в отчете исследования.

Мне же остается лишь резюмировать.
Попытка людей уподобиться Творцу (Богу, природе, эволюции …), создав из «праха земного» (а конкретно, из кремния) разумного агента, обладающего здравым смыслом и способностью познавать мир через его понимание, пока провалилась.

PS 1) Это не умаляет высочайшей значимости ИИ в качестве инструмента для людей.
2) Не исключает создания человекоподобного ИИ, если пойти иным путем.
PPS Когда нам кажется, что нейросеть понимает сложные описания, это лишь статистическая иллюзия (доказано этим экспериментом).
#AGI

Китай наступает на всех фронтах в битве за цифровой мир.
Вышел отчет о развитии цифрового Китая за 2021 год.
Никакого кликбейта, т.к. цифры, действительно, поражают.
Такими темпами Китай сможет выполнить стратегический план КПК и стать №1 в цифровом мире в 2030.

Ибо цифровой мир – это Интернет в 3-х его ипостасях:
• Интернет людей
• Интернет вещей
• Интернет идей
Чтобы стать доминирующей силой во всех 3-х ипостасях, силой, обеспечивающей роль абсолютного лидера, за которым следует мир, необходимо достичь 5-и преимуществ.

1) По доле своего населения цифрового мира.
Здесь Китай уже №1 с 1+ млрд и 20+% числа мировых пользователей. Причем % мирового населения китайцев в физическом мире падает, а % в цифровом - бурно растет. Т.е. можно без натяжки сказать – китайцы массово переселяются цифровой мир.
2) По скорости своего сегмента цифрового мира.
Здесь тоже Китай уже №1. В 2021 года Китай построил 1,425 млн базовых станций 5G (это 60+% мирового рынка), а число пользователей 5G уже 355 млн. 300+ городов Китая уже строят гигабитные оптоволоконные широкополосные сети, к которым уже подключены 35 млн гигабитных цифровых китайцев.
3) По размеру «территории» своего сегмента цифрового мира (для чего нужен переход на новую версию интернет-протокола IPv6 с 128 битной длиной адреса вместо 32 битной в протоколе IPv4).
В 2021 года по общему объему ресурсов адресов IPv6 Китай №1 в мире, а число активных пользователей IPv6 достигло 608 млн.
4) По вычислительной мощности своего сегмента.
Здесь Китай пока занимает №2 место в мире. Но инфраструктура вычислительных мощностей Китая быстро развивается со среднегодовым темпом роста (за последние 5 лет 30+%). С таким темпом к 2030 Китай может превзойти США и стать №1.
5) По объему данных в своем сегменте цифрового мира.
Здесь тоже пока у Китая №2 место в мире. Но темпы роста чумные. С 2017 по 2021 год объем больших данных в сегменте Китая увеличился втрое (в том числе в деньгах: с 470 млрд до 1,3 трлн юаней). И сейчас Китай владеет 9,9% от мирового объема цифровых данных.

Помимо названных необходимых условий есть и те, которых может быть «достаточно», чтобы стать №1 в цифровом мире.
К ним относятся:
A. Инновации.
Здесь число международных патентных заявок в информационной сфере в Китае в 2021 году превысило 30 тыс, что на 60% больше, чем в 2017 году, а глобальная доля превысила одну треть.
B. Инвестиции в НИОКР.
С 2017 по 2021 год инвестиции в НИОКР зарегистрированных интернет-компании в Китае увеличились в среднем на 227%.

Короче, шансы Китая на завоевание цифрового мира большие и еще растут.

Резюме отчета о развитии цифрового Китая за 2021 год
#Китай #Интеренет #Вызовы21века

Шестичувственный VR для Метаверса уже рядом.
Улетные гаджеты на AWE 22 и CHI 22.
Несколько интересных видео для просмотра на выходных.
Вышедший позавчера на NBCNews сюжет неявно подсветил истинную цель бизнеса на Метаверсе - переселить туда как можно больше людей на как можно дольше, обеспечив им там все возможности работы, отдыха, развлечений, шопинга и путешествий.
Но для этого обычной виртуальной реальности (VR) недостаточно. А т.к. массово Метаверс взлетит к 2030-м (когда 6G решит проблему сверхскоростной коммуникации, без которой Метаверс лишь игрушка), то на создание шестичувственного VRа (6SVR) есть менее 10 лет. И поэтому разработки технологий и гаджетов для 6SVR уже вовсю идут, и первые образцы уже демонстрируют на конференциях, обещая пустить в серию за 1-2 года.

Напомню, что задача полного погружения в 6SVR Метаверса требует задействовать:
1. зрение
2. слух
3. вкус
4. обоняние
5. осязание
6. вестибулярный аппарат (чувство равновесия и положения в пространстве, ускорение)

Статус на лето 2022 таков.

• С 1 и 2 всё уже на мази. В ближайшие годы зрительные и слуховые VR-ощущения доведет до совершенства.
• С 5 и 6 только начинают, но весьма успешно. Как показано в ролике NBCNews, тактильные ощущения пальцев рук и рта (губы, зубы и язык) уже имитируют до уровня неотличимости от реальности. Поскольку мало кто слышал про тактильный VR для рта на базе гарнитуры с ультразвуковой фазированной решеткой, рекомендую посмотреть этот ролик с конференции CHI 22, где объясняется как это работает.
• С 4 (обоняние) работа также активно ведется (о чем я рассказывал в этом посте). Здесь основная проблема в отсутствии у запахов некоего универсального конструктора (типа RGB для кодирования цвета), позволяющего кодировать любой запах сочетанием элементов конструктора. Но все преодолимо. И гарнитуры уже научились источать не только простые запахи (типа запаха роз, клубники или шоколада), но и сложные комбинированные запахи (типа запаха пляжа, требующего сочетание запахов песка, морского бриза и солнцезащитного крема).
Посмотрите ролик для AWE 22, перенесенной на октябрь. Журналист реально балдеет от широкого спектра запахов объектов, видимых им в VR: от знакомых запахов цветов до экзотического запаха поджаривания маршмэллоу на открытом огне.
• По части 3 (вкус) весьма непросто: вкус — невероятно сложное чувство. Пытаются идти по двум путям: электрическая и тепловая стимуляция, постепенно сводя их воедино. Но пока со вкусом туго (подробней здесь).
#Metaverse

США будут бить Китаю по ногам в их главной гонке.
Если не удается помешать производству, можно помешать проектированию.
Уже к концу 2021 США стало ясно - ограничить скорость, с которой Китай настигает их в технологической гонке, не удается.
• Главный приоритет в этой гонке – производство полупроводниковых (п/п) микросхем. Без них не взлетает ни одно из ключевых направлений хайтека.
• Главный драйвер совершенствования технологий производства микросхем – уменьшение размеров п/п структур, улучшающее важнейшие характеристики (энергопотребление, рабочая частота, вычислительная мощность и стоимость).
• Поэтому США ввели строгий экспортный контроль, блокирующий доступ Китая к оборудованию для производства микросхем с высокой разрешающей способностью (< 5 нанометр)
• В 2021 Китай встал на уши (инвестировал десятки ярдов и мобилизовал тысячи своих компаний) и, похоже, года за 3 таки сможет импортозаместить чужое оборудование для производства микросхем на свое.

Казалось бы, план США сдулся. Но как сказал известный американский эксперт в этой отрасли:
«Чтобы победить в этой гонке, США должны либо бежать быстрее, либо сделать подножку Китаю».

Сказано – сделано.
В ближайшие недели США введут экспортный контроль за поставкой в Китай программного обеспечения автоматизации проектирования микросхем (EDA). Без него Китай не сможет проектировать новейшую технологию кольцевого затвора gate-all-around FET, GAA FET на 3 нм, а потом и на 2 нм (сейчас у Китая есть лишь технологии на 5 нм).
США делают ставку на то, что компании разработчики EDA (в первую очередь, Synopsys, Cadence и Siemens) потратили не менее 30 лет на накопление опыта в этой области. Шансы на то, что Китай догонит их в краткосрочной перспективе, минимальны.

Теперь главный вопрос – упадет ли Китай после столь жесткого удара по ногам или сумеет продолжить гонку (а то и побежать еще быстрее)?

На карту поставлен принципиальный момент:
• Китай уже доказал свою способность быстрого имортозамещения оборудования, налаживая производство материальных активов у себя.
• Теперь же все упирается не в руки, а в мозги – в способность разработчиков и программистов Китая разработать EDA софт не за 30 лет, а за 3 года.

Подробно и с картинками в видео на 10 мин (включите переводчик титров)
Без картинок, но с деталями.
#Китай #США #ITгонка

Рентген, УЗИ и МРТ социальных сетей.
Три мощных бесплатных детектора сетевой пропаганды и лжи.
Иллюзий уже никто не питает. Социальные сети всё более превращаются в инструмент дезинформации и манипулирования.
Но слава богу и здесь работает принцип соревнования брони и снаряда. Специалисты по обработке данных, журналисты и исследователи роли СМИ и технологий в обществе получают в свои руки все более мощные инструменты выявления источников и способов сетевой пропаганды и лжи.

Обсерватория социальных сетей, или OSoMe, при Университете Индианы запустила три новых обновленных инструмента (своего рода Рентген, УЗИ и МРТ социальных сетей): Каскадометр, Трендометр и Ботометр.
1. Каскадометр (Networks Tool) строит интерактивную 3D карту распространения информации в Twitter, позволяя видеть образование инфокаскадов, подобно зарождению смерчей и ураганов.
2. Трендометр (Trends Tool) позволяет анализировать количество твитов с заданным хэштегом, URL или ключевым словом. Этот инструмент показывает, какие темы в тренде и что становится вирусным.
3. Ботометр (BotAmp Tool) позволяет определять вероятную активность ботов для твитов, отфильтрованных по поисковому запросу. Это нужно, чтобы понимать, насколько популярность той или иной темы обязана поддержке со стороны ботов.

Все 3 инструмента от OSoMe используют огромный поток данных - примерно 50 млн твитов в день, собранных из Twitter. Это примерно 10% общедоступных твитов, которые затем анализируются и индексируются для использования с помощью инструментов OSoMe.
Пользователи 3х инструментов могут визуализировать данные любого конкретного месяца за предыдущие три года. Большинство существующих инструментов не позволяют столь глубокий анализ.

Исследователям дезинформации и манипулирования в сети стоит поторопиться. Ибо соревнование брони и снаряда продолжается. А значит пропагандисты и манипуляторы довольно скоро найдут и на эти хитрые инструменты свои крутые гайки.
https://news.iu.edu/stories/2022/07/iub/releases/27-social-media-tools-bots-viral-posts.html
#Интернет #СоциальныеСети #Дезинформация #Манипулирование

​​Мы не иррациональные обезьяны, а сверхэффективный суперкомпьютер.
Смена парадигмы иррациональности косвенно подтверждает вычислительную теорию разума.
Наша иррациональность (нерациональное поведение при принятии решений и осуществлении выбора) уникальна. Ни одно животное не способно действовать столь нерационально, выбирая, рискуя или сотрудничая. Люди – особый вид, иррациональность поведения которого (наряду с языком) превратила нас в царя природы и сверхразумное подобие Бога (кто бы еще из животных променял жизнь в раю на несколько укусов яблока - шутка, соответствующая реальности).

Разгадать природу нашей иррациональности психологи, экономисты и нейробиологи целенаправленно пытаются 60+ лет. В результате опубликованы тысячи научных статей и более двухсот монографий, присуждено несколько Нобелевских премий, проданы миллионы экземпляров мировых бестселлеров... 1
Но центральный вопрос экономики, психологии и нейробиологии принятия иррациональных решений – почему поведение людей при выборе вариантов столь предвзято, - по-прежнему открыт.

Установлено, что источником предвзятостей являются многообразные когнитивные искажения 2.
Но что за механизм их вызывает?

Согласно традиционным представлениям, механизм примерно таков - мозг функционирует, как несколько конкурирующих агентов 3:
• быстро и неосознанно на автомате решающей Системы 1
• и внимательно-задумчивой и потому медленной Системы 2
В результате внутренней конкуренции агентов возникают когнитивные искажения, ведущие к иррациональному поведению: странные финансовые решения; поступки, совершенные как бы в несознанке; импульсивные решения во вред себе (типа приема наркотиков) и т.д. 4

ОДНАКО!

В августовском выпуске Trends in Cognitive Sciences 5 публикуется новая работа отца нейроэкономики Пола Глимчера «Efficiently irrational: deciphering the riddle of human choice». Она подводит итог 10-летних исследований Глимчера, результаты которых могут кардинально поменять существующую научную парадигму объяснения иррациональности выбора людей в нейробиологии, психологии, экономике, социологии и политике.

Революционный вывод новой теории в том, что никакой иррациональности нет: мозг вовсе не максимизирует функцию полезности, а абсолютно рационально ищет компромисс между точностью своих вычислений и энергозатратами на них.

Сверхразумность Homo имеет высокую энергетическую цену (см. рис. ниже):
• Вычислительные потребности мозга около 10 ватт энергии в час (за сутки - 240 Вт)
• Для выработки 240 Вт требуется примерно 400 ккал энергии (около 20% суточной нормы поступающих с пищей калорий)
Это сверхэффективное энергопотребление мозга в сравнении с современными компьютерами, потребляющими в 30-100 раз больше энергии, но зато способными обеспечить высочайшую точность вычислений.

Чтобы повысить точность вычислений мозга на порядок, потребовалось бы 100 ватт энергии в час.
• За сутки энергопотребление составило бы 2400 Вт
• Для их выработки требуется примерно 4000 ккал энергии. Если этот объем калорий составит около 70% суточной потребности, то человеку потребуется ежедневно потреблять пищи, содержащей около 5600 ккал.
Т.е. для повышения точности вычислений лишь на 1 порядок, людям пришлось бы есть в 3 раза больше.

Реальность среды обитания не позволяла эволюции пойти на подобные энергозатраты мозга. Пришлось искать компромисс между точностью вычислений и энергопотреблением.

Как это делается в мозге, сам Глимчер рассказывает в часовой лекции 6.
И если Глимчер прав, это сильный (хоть и косвенный) аргумент в пользу вычислительной теории разума.
#Рациональность #КогнитивныеИскажения #ПринятиеРешений

​​Китай завоюет Тайвань без ядерного столкновения с США.
Что написано между строк «Белой книги».
✔️ Насколько важен для Китая Тайвань, чтобы пойти на риск ядерного конфликта с США?
✔️ Как государства, обладающие ядерным оружием, максимизируют стратегические рычаги давления на своих противников, если хотят избежать ядерного конфликта, оставаясь в рамках конвенциональной локальной войны?
(N.B. 2й из вопросов весьма актуален не только в контексте Китая и Тайваня).

Опубликованную сегодня КПК «Белую книгу» ("Тайваньский вопрос и дело воссоединения Китая в новую эпоху"), уже читает весь мир. Но смысл в ней написанного может трактоваться по-разному.
1. С одной стороны, - «Китай не откажется от силового сценария, если мирного воссоединения с Тайванем не получится».
2. С другой, - «Немирные средства будут приняты в качестве крайней меры в ситуации, когда не будет другого выбора».
Какая из трактовок ближе к планам Китая?

Во всемирно известном трактате Сунь-цзы «Искусство войны» многие из советов мудрого военного теоретика и практика следует читать между строк.
Например:
• Тот, кто знает, когда можно сражаться, а когда нельзя, одержит победу.
• Тот, кто понимает, как использовать большие и малые силы, одержит победу.

С опубликованной «Белой книгой» аналогично.
Победит, тот, кто знает и понимает ответы на два поставленных в начале поста вопроса.
А для этого имеет смысл познакомиться с двумя интереснейшими работами из вышедшего параллельно с «Белой книгой» в The MIT Press сборника International Security.

Из развернутого анализа «И что тогда? Оценка военных последствий китайского контроля над Тайванем» следует ответ на 1й из вопросов.

✔️ Военное значение Тайваня для Китая чрезвычайно высоко. Этот фактор, в добавление к стратегическому национально-идеологическому стремлению Китая к объединению, не оставляет Китаю альтернатив – Тайвань будет присоединен.

Вторая работа «Стратегическое замещение: Поиск Китаем рычагов принуждения в информационную эпоху» посвящена крайне важной и глубокой «теории стратегического замещения», разрабатываемой Фионой С. Каннингем уже 5 лет. Эта теория построена на тщательном и весьма тонком анализе китайских источников и интервью с экспертами.

Согласно «теории стратегического замещения»:
✔️ Подход Китая к получению рычагов принуждения в ограниченных войнах с противниками, обладающими ядерным оружием, отличается от выбора других государств (сами отгадайте каких).

✔️ Китай сделал стратегическую ставку на оружие информационной эпохи (противокосмическое оружие, крупномасштабные кибератаки и высокоточные обычные ракеты), т.к. оно может обеспечить быстрые и надежные рычаги принуждения, если настроено на угрозу эскалации обычного конфликта с использованием силовых стратегий “балансирования на грани войны” или “калиброванной эскалации”.

✔️Этот подход обеспечивает более быстрый и надежный вариант принуждения противника в ограниченной войне, чем обычные военные или ядерные варианты, ибо:
• Использование обычных вооружений затягивает конфликты, нанося значительный экономический ущерб обеим сторонам.
• Использование ядерных угроз для компенсации неполноценности своих обычных вооружений сталкивается с двумя проблемами.
-— Как сделать эти угрозы правдоподобными?
— Как балансировать на грани глобальной войны в войнах с ограниченными целями?
Обе проблемы упираются в то, что ядерную эскалацию крайне сложно калибровать, а оружие информационной эпохи это позволяет.


Зная и понимая вышеописанное, можно не быть Сунь Цзы, чтобы прийти к выводу - Китай завоюет Тайвань без ядерного столкновения с США.

#Китай #США #БольшаяВойна

Тайная сокровищница данных Илона Маска.
Мы теряем приватность и даже не знаем об этом.
Tesla уже продала около 3 млн. автомобилей. Они практически ежедневно отгружают в хранилища своего производителя моря разнообразных данных о пройденных ими миллиардах миль и GPS-треках маршрутов, сопровождая это деталями, запечатленными на миллионах фотографий и видео (1).
Почти каждый новый серийный автомобиль оснащен набором датчиков, включая камеры и радары, которые собирают данные о водителях, других участниках дорожного движения и их окружении.
Сбором больших данных промышляет далеко не только Tesla (хотя Tesla – явный чемпион в этом деле). Уже существует огромная индустрия торговцев данными о транспортных средствах, водителях и местоположении, которая к 2030 может стоить до 800 $млрд (2).
Считается, что все эти данные анонимные. И что автопроизводитель получает право лишь на те данные, что согласился отдавать ему владелец авто.

Что это совсем не так, хорошо знают в Компартии Китая. Для них это автомобиль-шпион. И потому этим летом шпионским авто запрещен въезд на курорт Бэйдайхэ, где проходит 2-х месячная серия мероприятий КПК. Китайцы убеждены, что встроенные камеры автомобилей Tesla могут много чего увидеть и передать из того, что вовсе не предназначено для чужих глаз.

Другой отрезвляющий свежий пример – история о том, как легко и непринужденно Tesla отбила судебный иск о халатности после того, как двое молодых людей сгорели в автокатастрофе модели S, принадлежащей отцу одной из жертв аварии. В рамках своей защиты компания представила исторический анализ скорости, показывающий, что за несколько предшествовавших аварии месяцев автомобиль двигался с ежедневной максимальной скоростью в среднем более 90 миль в час (145 километров в час). Эта информация собиралась в тайне от водителя и хранилась на серверах Tesla (в результате присяжные сочли, что компания Tesla проявила небрежность всего на 1%).

Многие эксперты считают, что Tesla знает практически обо всем: кто, куда и когда ездит, как ездит, с кем ездит, с какими машинами и людьми встречается на дорогах, общественных и приватных парковках, сколько времени проводит в конкретных ресторанах и клубах, как часто приезжает (и как надолго) по конкретным адресам и т.д.

Что компания – детище Илона Маска, - делает со всеми этими данными, можно только предполагать.
Но то, что владельцы шикарных авто могут забыть о приватности своих поездок, - уже свершившийся факт.

1 2
#Приватность

​​«Хороший, плохой, злой ИИ» еще долго не будет актуален.
Хорошее, плохое, злое «общество с ИИ» - актуальная проблема современности.
Недавно я писал, что сегодня главным вопросом совершенствования ИИ-технологий становится выбор траектории их дальнейшего развития. Эта траектория определяется видением идеала «хорошего общество, в котором люди сосуществуют с ИИ» (“Good AI Society”): что в этом обществе будет считаться добром и злом, и как это будет регламентировано.

Лучано Флориди (проф. философии и этики информации в Оксфорде) еще в 2018 разработал AI4People — этическую модель Good AI Society, смысл которой в том, что
✔️ это модель не гипотетической и пока несуществующей этики ИИ,
✔️ а структурная модель 4-х возможностей и 4-х рисков «хорошего общество, в котором люди сосуществуют с ИИ»:
• 4-х возможностей использования ИИ обществом в качестве инструментария для:
-- расширения возможностей самореализации людей
-- усиление свободы действий людей
-- увеличение социальных возможностей общества
-- культивации социальной сплоченности общества
• 4-х рисков при передаче ИИ права на принятие человеческих решений:
-- девальвация ценностей
-- снятие с людей ответственности
-- сокращение и утеря контроля
-- размывания права на самоопределение людей (права свободы выбора)

Именно эти вопросы использования ИИ обществом в качестве инструментария и передачи обществом ИИ права на принятие человеческих решений составляют суть актуального понимания крайне важной для человечества цели – построение “Good AI Society”.
Для реализации этой цели необходимо создание в обществе разнообразных институтов (в соответствии со структурой типа AI4People). А разработка всевозможных «кодексов этики» для ИИ – лишь первый шаг в этом направлении, сам по себе не способный решить задачи построения “Good AI Society”.

В моем вчерашнем получасовом спиче на семинаре AGI я без деталей поделился своим видением этой темы (начиная с 4й мин).

#ИИ #Этика

​​Создан первый частично самоосознающий себя робот.
Прорыв в понимании важной части модели мира – модели самого себя.
Пока Илон Маск пиарится на дутой разработке «дружелюбного» человекоподобного робота с ИИ (это чистая разводка для хайпа), в мире ИИ происходит воистину тектонический сдвиг. Создан первый в мире робот не с абстрактным ИИ, а с самоосознающим ИИ.

Это значит следующее:
• робот, интеллект которого изначально не имеет никакой модели самого себя (точнее, действий своего тела в окружающем пространстве), может самостоятельно построить эту модель;
• он делает это без помощи людей, а лишь наблюдая за своими движениями, в ходе обретения им практического опыта;
• используя полученную модель самого себя, робот может предельно точно действовать в окружающем мире;
• при повреждении своего тела (типа ногу сломал, руку оторвало и т.д.) робот, подобно животным и людям, сам адаптируется к новой ситуации, реконструировав свои программы движений;
• а если, например, завтра после включения робота, он узнает, что у него теперь не одна рука, а семь, он также сам адаптируется к новой ситуации, реконструировав свои программы движений в стиле осьминога.

Принципиальный прорыв совершён за счет сочетания 2х прорывных моментов:
✔️люди не закладывают в робота знание того:
• как устроено его тело,
• какова кинематика движений его подвижных частей,
• каковы способы их сочленения - углы, амплитуды и траектории движений частей
✔️ вместо этого, глубокую нейронную сеть научили определять положение частей своего тела в окружающем пространстве:
• поместили роборуку (рука пока одна, но это дело наживное) в круг из пяти видеокамер, транслирующих в нейронную сеть прямую трансляцию о движениях роборуки,
• в ходе движений роборука наблюдает за собой через камеры, а её внутренняя сеть определяет положение суставов по отношению к объему, занимаемому роборукой в окружающей среде.

Через три часа нейросеть робруки построила полную визуальную модель самой себя и своих движений.
Эта собственная модель позволяет роботу планировать действия и избегать препятствий, поскольку он знает, будет ли место в пространстве занято, если его суставы сместятся под определенными углами, а части сдвинутся по такой траектории с определенной амплитудой.

Тестовая задача была коснуться мяча любой частью тела. Планирование движения, созданное на основе собственной модели, достигло 97% успеха при выполнении поставленных задач и является таким же точным, как и реальное выполнение.

Значимость этой работы выходит далеко за пределы робототехники по двум причинам.
1. Это первый робот, управляющий своим движением подобно мозгу.
Модель мозга строится с использованием картографических систем отсчета. Системы отсчета сообщают нам, где вещи (и где мы сами) расположены относительно друг друга, и позволяют нам двигаться, планировать и достигать целей.
2. Модель управления движением может оказаться универсальной моделью познавательных способностей, позволяющей понять, как в материальном мозге рождается нематериальные сознание и мышление.
Согласно «гипотезе интеллекта и воплощения» (intelligence and embodiment hypothesis — см. мой пост), познавательная способность разума, реализуемая механизмом мышления, возникла в результате переадаптации системы управления движением в ходе миллионов лет экспериментов «самоделкина» — эволюции. Т.е. с эволюционной точки зрения обширный нейронный механизм, разработанный для контроля движения животных, был расширен, чтобы контролировать новые структуры мозга вместо мышц.

Идя этим путем, возможно, удастся понять, описать и повторить не только уникальную моторику людей (в роботах), но и уникальные познавательные способности разума людей (в искусственном интеллекте).

#ВоплощенныйИнтеллект #Разум #Движение #Роботы

PS Самоосознание своего тела – лишь малая (но важная) часть самоосознания.
PSS Новость поста столь горячая, что я пустил ее вместо 2й части лонгрида «У землян всего два варианта будущего» – 2я часть на подходе ))