Все НИИ ИИ пора разгонять.
Самое сложное в ИИ – получить от внедрения прибыль.
Уже два года аналитики предупреждали о рисках наступления новой ИИ-зимы. Однако реальность оказалась еще хуже. Пушной зверёк не просто подкрался незаметно. Зверьков оказалось два. И эти два брата – акробата подкрались с двух разных и совершенно неожиданных сторон.
1. Прогресс технологий ИИ идет медленно и неправильно, т.к. структура флагманов НИОКРа в этой области устарела, и её необходимо кардинально перестроить.
2. Традиционный подход к оценке отдачи инвестиций становится все менее применим при внедрении новых ИИ технологий. А в отсутствии возможности объективно оценивать ROI, инвестиции все более ведомы хайпом, нежели реальной пользой от ИИ.

Первый из двух «зверьков» детально рассмотрен в аналитическом эссе Юйчен Ли «Почему я поддерживаю BAT, сносящих свои «Исследовательские институты ИИ». ВАТ – это монстры китайской ИИ-индустрии: Baidu, Alibaba и Tencent. Но Юйчен Ли пишет не только про Китай, но и про США, ибо проблема там та же (кстати, как и в России – СК).
• Законодателями НИОКРа в ИИ-области являются созданные внутри крупнейших хайтек компаний выделенные в самостоятельные департаменты «ИИ-институты».
• Эти независимые от бизнеса «НИИ ИИ» достигли фазы развития, когда их успех оценивается не финансовыми показателями практических внедрений, а хайпом в медиа, на который ориентируются инвесторы.
• Функциональная оргструктура («НИИ ИИ» подчиняется СТО) уже не работает ни в ВАТ, ни в хайтек китах США (конфликты Deepmind и Google все чаще – будучи типичным «НИИ ИИ», Deepmind творит чудеса хайпа, моделируя белки, но в дым разругался с Youtube, так и не договорившись чьи данные).
• Переход на матричную оргструктуру двойных подчинений (как попытались сделать IBM и Facebook) лишь увеличивает хаос.
• Остается единственный путь – переход на дивизионную структуру с полным расформированием «НИИ ИИ». Процесс уже пошел. Глава «НИИ ИИ» Facebook Джером Песенти покинет компанию в конце июня. А команда FAIR («НИИ ИИ» FB) лауреата премии Тьюринга Яна ЛеКуна будет объединена с Reality Labs, департаментом метавселенной, и Ян Ликун будет подчиняться Эндрю Босворту - chief scientist департамента.

Подробней см. перевод эссе, сделанный Джеффри Дингом.

Внешность и повадки 2го «зверька» красиво и мелодично (как в своих песнях) описала ст. редактор по ИИ в VentureBeat Шэрон Голдман: внешность «зверька» обманчивая, а повадки коварные.

Резюме примерно такое.
• Если уж для самого ИИ не договорились с определением (что это такое), то что уж ждать от определения пользы от ИИ.
• Никто на свете не может знать, как скажется повышение точности прогнозной модели до 98% на повышении эффективности бизнеса.
• По состоянию на сегодня, рентабельность инвестиций не является правильным показателем эффективности внедрения ИИ.
• Подобие ИИ электричеству сказалось и на оценке экономической отдачи: ROI ИИ трудно измерить, и в большинстве проектов ROI ИИ остается неуловимым
• И самое ужасное (или прекрасное) – ИИ постоянно учится. Оценка сегодняшнего ИИ, скорее всего, через месяц будет совсем иной. Причем будет ли это лучше или хуже – открытый вопрос.

Подробней см. The truth about AI and ROI: Can artificial intelligence really deliver?.

Результат нападения двух «зверьков» на ИИ определяет то, на что он нынче похож.
Получается что-то типа ответа к загадке: «Оделся не так, умылся не так, поехал не так, заехал в ухаб – не вылезет никак».

#ИИ #Экономика #Технологии #НИОКР

Машина коллективных галлюцинаций.
Первый в истории эксперимент с порталом в мультимиры сознания.
• Что если использовать Dreamachine - «Машину сновидений» (созданное 60+ лет назад устройство, погружающее человека в пограничное состояние с потоком видений) в качестве портала для изучения сознания?
• Что если, расширив механизм Dreamachine 32х канальной иммерсивной бинауральной музыкой Джона Хокинса, провести через него 100 тыс. человек, открыв для них неповторимый опыт галлюциногенных трипов без наркотиков?
• Что если, попытаться в ходе этого эксперимента понять экстраординарный потенциал разума - каким образом уникальные видения творят в сознании разных людей совершенно непохожие мультимиры?
• И что если (в качестве бонуса) с помощью ИИ нарисовать психоделические миры индивидуальных галлюцинаций?

Быть может, это позволит приблизиться к пониманию принципов работы сознания?

Анил Сет (проф. когнитивной неврологии) и Тим Бэйн (проф. философии) опубликовали в Nature сопоставительный анализ 4х основных моделей сознания. Авторы показали, что каждая из моделей имеет свои объяснительно-предсказательные плюсы и минусы. Но беда в том, что модели несводимы. И значит избавиться от их минусов путем интеграции нельзя. Т.е. пока тупик.

А что если пойти другим путём – предложил Анил Сет, комментируя свое участие в новом проекте «Машина грёз 21 века», - попытаться понять, как наш мозг формирует сознательное восприятие мира, на примере создания им галлюцинаций.
Так Анил Сет примкнул к интереснейшему проекту на стыке нейронауки, психологии, философии, искусства и энтертеймента.

Этот коллективный научно-психоделический эксперимент с участием 100 тыс. человек задуман с двумя целями:
• собрать опыт психоделических трипов людей, прошедших через «Машину грёз», чтобы использовать его в качестве «окна в мозг» или, если угодно, портала для перенесения в мир авторских мультимиров;
• объединить страну через общие галлюцинации, подарив британцам бесплатные, ошеломляюще выглядящие и чарующе звучащие трансцендентные переживания;

Фишка сознания в богатом внутреннем разнообразии психической жизни. За очень похожими паттернами нейронной активности прячутся совершенно разные чувства и мысли. Но мы не умеем различать этого разнообразия. И уж тем более, не понимаем, каким образом оно получается.
“Мы привыкли, так сказать, к внешнему разнообразию – цвету кожи, разным системам убеждений. Когда люди сообщают о том, что они испытали в Dreamachine, это показывает нам то, что не давало мне покоя в течение многих лет: внутреннее разнообразие. Ваше восприятие синего цвета может отличаться от моего, но язык подсказывает, что это одно и то же. На самом же деле, весьма возможно, что язык просто не в курсе этих скрытых различий”.

Эксперимент проходит этим летом в 4х городах Британии. Всё предельно просто: заполняешь мед-форму, убираешь вещи в шкафчик, заходишь в большую круглую комнату, где несколько человек усаживаются в удобные кресла, и понеслось …

Передать словами этот опыт невозможно. Люди лишь отмечают, что это нечто неземное и возвышенное.
Было мощное ощущение источника, общего и единого «происходящего», которое можно было по-разному назвать Вселенной, Богом, природой, Дао, реальностью, бытием, существованием. И я был и его частью, и наблюдателем.

Некоторые пытаются делают зарисовки увиденного. Насыщенные цвета, пульсирующие узоры, магические видения ... Но поди нарисуй такое!
Зато крайне полезным оказалось использование ИИ, чтобы по словесному описанию человека создавать статические изображения фрагментов увиденного им во время трипа. Посмотрите сами – впечатляет.

А это видео проекта: Анил Сет с коллегами представляют проект.

И в качестве вишенки на торте, бестселлер Сета «Being You» - радикально новая теория сознания и личности.
#Сознание #АнилСет

​​2022 - год начала хайтек-рабства.
Прогноз хайтек импорта России из Китая.
В кроссвордах часто встречается - "Полная зависимость ", семь букв. Правильный ответ – рабство.
Почему-то именно эта ассоциация всплывает в памяти по прочтению майского бюллетеня исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией».

• В благополучном 2021 г. доля Китая в российском импорте компьютеров и телекоммуникационного оборудования составляла 72%. А в этом году, с учетом санкций, прогнозные цифры российского импорта из Китая этих двух категорий хайтека увеличатся, соответственно, до 88% и 77%.
• Доля китайских поставок в Россию полупроводниковых устройств может составить 79%. И лишь для 4-й категории продуктов хайтека – интегральных схем, зависимость от импорта из Китая составит «всего лишь» 43% (с учетом присоединившегося к санкциям Тайваня).
• В целом доля китайских поставок хайтека в Россию может составить более 3/4 (т.е. полная зависимость).

Но Китай рост хайтек-экспорта в Россию вряд ли заметит. Ведь это для России ¾ импорта хайтека. А для Китая это всего лишь 2% его мирового экспорта хайтека (и, кстати, очень маленькая доля в контексте потенциальных рисков вторичных санкций).

Бюллетень исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией»
#Китай #Россия

​​О дельфинах, аллигаторах и лингвистической интуиции ИИ.
Системы машинного обучения намного умнее, чем мы думали.
Весь мир уже знает историю про языковую модель Google LaMDA, якобы, прошедшую тест Тьюринга, убедив инженера Google Блейка Лемуана в том, что она не только разумна, но и обладает сознанием.
Журналисты оторвались на хайпе вокруг этой истории. А специалисты разошлись во мнении.
Большинство думает, как Гэри Маркус (когнитивист и автор книги «Перезагрузка ИИ»).
Все, что делает LaMDA, «это сопоставление шаблонов, взятых из массивных статистических баз данных человеческого языка. Шаблоны могут быть крутыми, но язык, на котором «говорят» эти системы, на самом деле, бесмыслен».
В то же время главный научный сотрудник OpenAI Илья Суцкевер в своем твите утверждает, что «может быть, сегодняшние большие нейронные сети немного сознательны».

Всё упирается в два ключевых вопроса - могут ли компьютеры понимать:
• Что за понятие стоят за словом?
• В каком контексте слово используется?

Опубликованное в Nature исследование осторожно намекает, что да – в принципе, могут.

Слова языка отражают структуру человеческого разума, позволяя нам обмениваться мыслями. Однако язык может представлять лишь подмножество нашей богатой и детализированной когнитивной архитектуры.
Авторы задались вопросом, какие виды общих знаний (нашей семантической памяти) фиксируются значениями слов (лексической семантикой).
Чтобы понять это, авторы исследовали известную вычислительную модель, которая представляет слова в виде векторов в многомерном пространстве, так что близость между векторами слов аппроксимируют семантическую связь.
Поскольку родственные слова появляются в сходных контекстах, пространство векторного представления слов (Word embedding) можно изучать на основе шаблонов лексических совпадений в естественном языке.

Человеческие суждения о сходстве объектов сильно зависят от контекста и включают множество различных семантических признаков.
Например, дельфины и аллигаторы – это близкие понятия?
• С одной стороны, да - они живут в воде и похожи по размеру.
• С другой стороны, нет – они сильно непохожи умом и агрессивностью.
Чтобы понять, насколько стоящие за понятиями объекты близки, нужна система шкал: маленький-большой, умный-глупый, опасный-безопасный и т.д.

Авторы разработали технику, которую они назвали «семантической проекцией» слов-векторов на линии, которые представляют различные характеристики объекта (маленький-большой и т.д.)
Этот метод, аналогичный интуитивному размещению объектов “на ментальной шкале” между двумя крайностями, восстанавливает логику человеческих суждений по целому ряду категорий объектов и свойств.

В результате обширного пула сравнений суждений людей и компьютеров, было доказано, что векторное представление слов наследует множество общих знаний из статистики встречаемости слов и может гибко манипулировать ими для выражения контекстно-зависимых значений.
Исследователи обнаружили, что для многочисленных объектов и контекстов их метод оказался очень похожим на человеческую интуицию.
Например, что «тяжелая атлетика» и «фехтование» похожи тем, что и то, и другое обычно происходит в помещении, но различаются с точки зрения того, сколько интеллекта они требуют.

Постойте, - скажет здесь читатель поста. Ведь это же очень близко к пониманию слов, а не просто статистический анализ их встречаемости в обширном пуле текстов.

Авторы работы тоже так считают:
«Оказывается, эта система машинного обучения намного умнее, чем мы думали; она содержит очень сложные формы знания, и это знание организовано в очень интуитивную структуру», — говорит один из авторов. «Просто отслеживая, какие слова сочетаются друг с другом в языке, вы можете многое узнать о мире».

Значит ли это, что Суцкевер ближе к истине, чем Маркус? Получается, что это не исключено.

Статья
Видео
#Семантика

​​Опубликована дорожная карта изменения будущего.
В её основе радикальный поворот в развитии ИИ.
Инициировать изменение будущего всего человечества крайне сложно. Но в принципе это возможно. Набор вариантов для этого предельно ограничен. Например, (а) развязать мировую войну или (б) осуществить глобальный научно-технологический прорыв в одной из важнейших для человечества областей.
Общее условие для обоих вариантов – нужно очень много денег.
Второе условие отличается: для (а) – это полное пренебрежение инициатора к страданиям миллионов людей; для (б) – наличие у инициатора понимания механизмов и проработанной дорожной карты (roadmap) осуществления глобального научно-технологического прорыва.

Одной из важнейших для человечества областей в 21 веке является развитие ИИ. С момента её появления около полувека назад, в этой области была главная цель, определяющая направление ее развития. Это создание универсального искусственного интеллекта (сильного ИИ или AGI).
Однако в последнюю пару лет произошла кардинальная наводка на резкость оценок перспектив дальнейшего развития ИИ с целью создания AGI. Один из индустриальных лидеров мирового развития ИИ, VP & Chief AI Scientist Facebook’а Ян ЛеКун):
• отказался от курса на создание AGI, назвав 6 причин, делающих это направление бесперспективным, как минимум, в обозримом будущем (1);
• сделал ставку на создание «интеллекта кошки» - самообучающегося ИИ, обладающего причинно-следственной моделью мира (2).

Но как ни велик авторитет ЛеКуна, этого недостаточно, чтобы изменить направление развития ИИ и осуществить глобальный научно-технологический прорыв.
Для этого, как сказано выше, нужны
1) немереные деньги
2) проработанный до уровня roadmap план
И вот наконец случилось.
У ЛеКуна теперь есть и то, и другое.

ДЕНЬГИ
Немереные деньги решено взять на хайпе крупнейшего перспективного рынка – Метавселенной (через 20 лет это будет до $10 трлн (3)). А чтобы дать ЛеКуну доступ к бюджетам Метаверса, возглавояемый им FAIR («НИИ ИИ» FB) только что влился в состав департамента Метавселенной Reality Labs (4).
Идея финансирования разработок нового типа ИИ из немереного источника денег, зарабатываемых на рекламе, принадлежит Хассабису (все прорыва DeepMind оплачиваются из рекламных денег Google). Но Метаверс обещает на порядок большие поступления от рекламы. И здесь соперничать с Лекуном будет сложно.

ROADMAP
Дорожная карта построения автономного самообучающегося ИИ (итог работы Лу Куна за 10 лет) только что опубликована (5).
В её основе:
✔️ Ставка на самообучение ИИ (он будет учиться, как животные и люди)
✔️ Специальная архитектура, сочетающая в себе:
• Настраиваемую предсказательную модель мира
• Конфигуратор, который решает, (а) какие прогнозы модель мира должна делать в любой момент времени и (б) на каком уровне детализации она должна сосредоточиться, чтобы сделать эти прогнозы возможными, корректируя модель мира по мере необходимости.
• Управление поведением обусловленное внутренней мотивацией


Открытая публикация этой roadmap – рискованный шаг. ЛеКун пишет:
Большинство людей не говорят публично о своих планах исследований. Но я выхожу за рамки духа открытого исследования, публикуя идеи ДО завершения соответствующего исследования.
За этим рисковым шагом могут крыться две цели Яна ЛеКуна:
• Закрепить за своей архитектурой статус стратегического направления компании на ближайшие годы (не дать Цукеру соскочить при возникновении задержек)
• Показать конкурентам, что сопротивление бессмысленно: с бюджетом, качаемым из Метаверса и при столь солидной и продвинутой дорожной карте, им его уже не догнать.

И если ЛеКуну удастся и то, и другое, он может глобально изменить будущее человечества.
#ИИ #AGI
1 2 3 4 5

​​Китай создал «охотника на спутников» и «истребитель гиперзвуковых ракет», а теперь готовится к захвату Луны.
Космос станет главным полем боя Китая и США за мировое господство.
В интервью главы NASA Билла Нельсона прозвучали 3 сенсационные момента (1).
• Космическая программа Китая является военной космической программой.
• На своей космической станции китайцы будут учиться, как разрушать чужие спутники.
• Китай может высадиться на Луне и объявить ее своей территорией.
Это не алармизм и даже не преувеличение рисков. В США не успели даже понять, как Китай смог так быстро догнать США в технологиях, имеющих решающее преимущество в военной гонке.

Вот всего 4 примера.
1. Через полтора года Китай станет единственным (!) обладателем космической станции на орбите Земли. Соглашение об участии «Роскосмоса» в программе МКС действует до 2024 года, а гарантированный срок службы станции истек в 2013. Китайская же станция Тяньгун (天宫, «Дворец в небе») вводится в строй уже в этом году.
2. На Тяньгун имеется гигантский роботизированный манипулятор (1 в 1 в духе фильмов о Джеймсе Бонде). 10-метровый робот-манипулятор способен захватывать объекты весом до 20 тонн (2). Этот монстр уже работает. Вот фото от 5 января 2022 года: захват манипулятором грузового корабля «Тяньчжоу-2» с перемещением его на 20 градусов и возвратом в передний порт на стыковочном узле (3)
3. Будучи не отягощенными этикой применения управляемого ИИ автономного оружия, в Академии раннего предупреждения ВВС Китая разработали ИИ, способный предвидеть курс гиперзвуковой ракеты, движущейся со скоростью 5+ махов. ИИ оценивает потенциальную траекторию поражения приближающейся ракеты и бьет по ней с 3-минутным опережением (4).
Другая версия автономного ИИ управляет «охотником на спутников». Помимо уникальной скорости и точности предсказаний траекторий быстро движущихся объектов, этот ИИ обладает уникальными способностями «обманывать» свою цель (5).

Оснащая свой «Дворец в небе» системой наведения «истребителей ракет» и «охотниками на спутников», Китай демонстрирует США свою готовность использовать в космосе автономное оружие, тем самым открывая ящик Пандоры военных конфликтов нового типа - в которых люди уже не будут играть никакой роли в военных действиях.

Позавчера Китай отверг как безответственную клевету предупреждение главы НАСА о том, что Китай может «захватить» Луну в рамках военной программы, заявив, что он всегда призывал к созданию сообщества народов в космическом пространстве (6).
Но аналитики полагают, что ситуация еще более опасная, и США предстоит «последний бой» с Китаем в космосе (7).
#Китай #США #КосмическаяГонка #АвтономноеОружие

1 2 3 4 5 6 7

​​С ИИ происходит что-то странное и потенциально крайне опасное.
Эксперты перестали моделировать ситуацию в области ИИ.
Еще древние ассирийцы полагали: «Если двое говорят, что ты пьян, - ложись спать». Если к тому же эти двое – признанные эксперты в области, о которой идет речь, и оба они бьют тревогу, - то, определенно, стоит к ним прислушаться.
Макс Тегмарк и Джек Кларк – эксперты-тяжеловесы в области ИИ. И оба, не сговариваясь, бьют тревогу из-за того, что за последний год в развитии ИИ произошел некий тревожный перелом:
• ИИ начал прогрессировать непредсказуемыми темпами;
• специалисты перестали понимать, куда это может привести даже в самом ближайшем будущем.

На этой неделе Макс Тегмарк почти 3 часа говорил об этом в подкасте «80,000 Hours» (1).
Лейтмотив рассказа таков.
«Честно говоря, сценарий, в котором мы сейчас живем, мне видится наихудшим. Это тот сценарий, который, как я надеялся, не произойдет. Я надеялся совсем на другой сценарий, - что развитие ИИ до нынешнего уровня будет куда труднее, и это займет куда больше времени. А у нас, соответственно, будет куда больше времени, чтобы заняться безопасностью ИИ».
Макс приводит простой пример.
Всего 7 лет назад практически никто из экспертов не мог вообразить, что в 2022 ИИ будет в состоянии правильно ответить на такой вопрос:
«Я собираюсь пойти на гору с лицами на ней. Какая столица штата к востоку от того штата, в котором она находится?»
А сегодня каждый из нас может:
1. Спросить у смартфона с поисковиком: «гора с лицами», и получить ответ «гора Рашмор»
2. Спросить – «гора Рашмор штат», и услышать «Южная Дакота»
3. Спросить – «штат на востоке от Южная Дакота», и услышать «Миннесота»
4. Спросить – «столица Миннесота», и услышать «Сент-Пол»
Но это, увы, далеко не весь прогресс.
ИИ уровня GPT-3 не надо задавать эти 4 (и вообще, какие либо) наводящие вопросы.
Ибо ИИ, услыхав вопрос «Я собираюсь пойти …», сразу даст ответ «Сент-Пол».
Кто-то скажет, - это не понимание, а статистика. И будет прав.
Но если прогресс продолжится с той же скоростью, на что будут способна такая статистика уже через пару лет?

И об этом на неделе Джек Кларк говорил на рабочей группе National Academy по ИИ (слушания закрытые, но вот слайды (2)).

Смотрите на картинку А к этому посту – наши оценочные тесты способностей ИИ уже не годятся, или ИИ уже вышел за пределы ожиданий?.
Показана динамика 6-и популярных бенчмарков, нормализованных от -1 (начальный показатель бенчмарка) до 1 (уровень человека-эксперта)

Теперь картинка B – мы не может предсказать способность ИИ даже на год вперед.
Показан прогноз прогнозистов Hypermind (июнь 2021) способностей ИИ на 30 июня 2022, 2023, 2024 и 2025 по 4 тестам:
• MATH — решение математических задач
• MMLU — тест на знание специальных предметов с использованием экзаменов средней школы, колледжа и профессиональных экзаменов с множественным выбором
• Something Something v2 — распознавания видео
• Надежная точность CIFAR-10 — мера надежной защиты от злоумышленников.
Зеленый пунктир — уровень человека-эксперта.
А теперь приз в студию:
синяя и желтая точки, расположенные выше прогнозных показателей 2022, это уже не прогноз, а факт.
Джек спрашивает:
— Что здесь происходит?
— Какие силы движут этим?
— Что означает сочетание плохих тестов и плохих прогнозов для будущего?
— В каких других областях науки прогресс неоднократно превосходил ожидания?
— Где будут эти точки по факту в 2025?

Нет ответов. И это потенциально крайне опасно.
#ИИ
1 2

​​Четверо дышат в затылок Си, а 5й – может стать китайским Горбачевым.
Первый в истории ИИ-прогноз смены расклада сил во власти.
По влиянию на будущее планеты Китай еще не 1й, но уже и не 2й. А каким будет это влияние, решится в конце года на 20-м съезде КПК.
Сейчас эксперты и разведки мира ломают голову, прогнозируя новый расклад сил.
1) С №1 все ясно – им останется Си.
2) Но от того, кто войдет в Политбюро (25 чел) и его Постоянный комитет (7), будет зависеть очень многое (Си крайне редко самостоятельно принимает решения).
3) Кроме того, как показывает история, один из №№2-5 сменит Си (и кто знает, как скоро).

Прогнозов нового расклада сил много. Но все они противоречивы и малоубедительны. Ибо ни один экспертно-аналитический центр не в силах учесть мириады фактов, сложнейших сетевых взаимосвязей кандидатов и динамики социо-политического контекста, не говоря уж о схватках бульдогов под ковром.

Первая в истории попытка учесть всё это предпринята в Центре международных исследований им. С. Раджаратнама Наньянского университета в Сингапуре. Впервые подобный прогноз сделан на основе анализа Больших данных с помощью машинного обучения.

Оригинальная ансамблевая модель синтезирует результаты 6и алгоритмов машинного обучения в единую многоуровневую модель, максимизируя общую точность прогнозирования. Модель учитывает 250+ факторов биографии, карьеры, контекста продвижений, сетевые взаимосвязи, фракционную конкуренции и др. Учитывается все особые механизмы отбора: правило «семь вверх, восемь вниз» (кандидаты в возрасте 68 лет и старше должны уйти в отставку с должностей национального уровня), разнообразные квоты (1 женщина, 2 слота военным) и множество хитросплетений персональных отношений.


Модель обучали на результатах предыдущих пленумов ЦК КПК. После обучения точность предсказаний составила 72% (что сильно лучше экспертных прогнозов).

Модель предсказывает много чего интересного:
1) Получены проранжированные по вероятности списки членов нового Политбюро и его Постоянного комитета.
2) Известны №№2-5: те, - кто с большой вероятностью, сменит Си:
- Ли Си (1956, член ПБ ЦК КПК 19 созыва)
- Ли Цян (1959, глава Шанхайского горкома КПК с 2017 года, кандидат в члены ЦК 18 созыва, скакнул в ПБ из кандидатов в кандидатов в ЦК)
- Чэнь Миньэр (1960, член ПБ ЦК КПК 19 созыва)
- Цай Ци (1955, глава Пекинского горкома КПК с 2017, до переезда в Пекин был активным микроблогером с более чем 10ю млн подписчиков, он стал членом ПБ минуя членство в ЦК, и подобного не было с 1992).

Особые шансы у Ху Чуньхуа (1963) – приглядитесь к этой фотографии (2): этот человек может стать китайским Горбачевым со всеми вытекающими последствиями.
Ху - самый молодой член 18го и 19го Политбюро. Он из китайского комсомола. После завершения службы в Коммунистическом союзе молодежи он работал во многих бедных провинциях, включая Тибет, Хэбэй и Внутреннюю Монголию (а опыт работы в слаборазвитых регионах считается особо важным для карьерного роста чиновника).

Подробней читайте здесь (1).

#Китай #МашинноеОбучение #Прогнозирование
1 2

Изменился критерий гениальности.
Ярчайший пример кардинальных изменений мира в цифровую эпоху.
Переломные вехи календарно не круглые. Например, 21 век начался лишь после 9/11, а период стопмодерна, запустивший историю вспять к архаике, будут отсчитывать от 2/24.
Переход цивилизации в эпоху цифровой постнауки обсуждается не первый год. Но теперь, уже вполне обоснованно, его можно датировать 6/17. В этот день в Big Think вышло эссе «Эйнштейна 21 века» Альберта-Ласло Барабаши «Why Einstein is a “peerless genius” and Hawking is an “ordinary genius”» (1). Гениальный создатель новой междисциплинарной Science Of Success ставит точку в вопросе о смене критерия гениальности в эпоху цифровой постнауки. В новой эпохе, где царят четыре всадника - большие данные, сетевые законы, самоорганизация и случайность, - новые гении будут иными.

Сопоставив историю публикаций 6 млн ученых, влияние их открытий и мировую известность, Барабаши установил единственный железобетонно надежный критерий определения «уровня гениальности» в эпоху цифровой постнауки.
Теперь это:
• не цитируемость научных статей;
• не научные премии (вкл. Нобелевку);
• не уровень признания коллег по цеху;
• не оригинальность, новизна или практическая значимость открытий.
Единственный сверхточный критерий определения гениев в эпоху цифровой постнауки - количество языков, на которые переведена страница ученого в Википедии.

Открытая Барабаши 5 лет назад «формула гениальности» оказалась обескураживающе проста (2).
✔️ В цифросетевом мире не только экономика, но и успех, в основном, зависит «от впечатлений» — т.е. не от продуктивности автора и качества его продукта или достижений, а от их (автора и продукта) коллективного восприятия обществом.

Между успехом и достижением огромная разница. Успех — это вовсе не то, что думает большинство. Талант никак не гарантирует успеха. И продуктивность работы ученого тоже. Но при наличии таланта, настойчивости и удачной случайности любой может его достичь.

Например, признанный гений среди гениев - Эйнштейн прославился не благодаря теории относительности, а теория относительности прославилась благодаря Эйнштейну. Ибо Эйнштейн приобрел свой культовый статус по счастливой случайности (3). А потом понеслось: снежный ком популярности превратил его в одну из самых известных интеллектуальных икон.

Уже в 20 веке ярлык гения, главным образом, отражал общественное признание, выходящее далеко за рамки научного сообщества, в котором он или она работает. Это не значит, что называемые гениями ученые не оказали выдающегося влияния на науку. И тем не менее, метрики, которые наука до настоящего время использует для измерения производительности ученых, редко предсказывают это более широкое влияние.

Анализ Барабаши показал.
• Большинство исследований того, что делает кого-то гением, предвзяты из-за отсутствия контрольной группы.
• Поскольку эти исследования сосредотачиваются лишь на признанных гениях, они игнорируют непризнанную когорту людей, работающих в той же творческой области. Без сбора данных о малоизвестных гениях, эти исследования, как бы тестируют лекарство без «группы плацебо».
• Когда же к анализу добавляется «группа плацебо», то выясняется, что в наступившей эпохе цифровой постнауки, единственный валидный критерий – это не индекс Хирша, а «индекс Вики» (количество языков, на которые переведена страница ученого в Википедии).

По «индексу Вики» Альберт Эйнштейн – «гений высшего качества».
А вот «отец черных дыр» Стивен Хокинг на эту категорию не тянет. Он – «обычный гений», ставший им из-за популярности мема «черная дыра».
Но и «индекс Вики», увы, не совершенен. Кто, например, знает Ренату Каллош, заслуживающую статуса гений куда более чем Хокинг? Увы, но в этом вина Вики.

По тэгу #ScienceOfSuccess еще много малоизвестного интересного.
1 2 3

​​Главный критерий ваших успехов («индекс Вики» не только про гениальность).
Как изменился мир за 8 лет перехода в цифру.
В качестве постскриптума ко вчерашнему посту про «индекс Вики», два интересных дополнения.
1. «Индекс Вики» не только про гениальность, но и про любой сверхуспех
По состоянию на сегодня:
Тройка самых известных музыкантов (за всю историю человечества)
• Фредди Меркьюри, Боб Марли, Майкл Джексон (Леннон лишь 6й, Маккартни 13й, а за ним 14й - Моцарт)
Тройка самых известных писателей (за всю историю человечества)
• Гомер, Шекспир, Данте (наш чемпион — Достоевский - 5й в мировом списке, Пушкин 37й, Гоголь 81й, Горький 89й, а Солженицин 100й)
Тройка абсолютных чемпионов по известности (за всю историю человечества)
• Мухаммед, Ньютон, Христос (абсолютный чемпион от России — Иммануил Кант — 39й, подробней ниже)
А теперь взгляните на список чемпионов среди медийных супер-звезд, родившихся после 1980 г.
• Султан Кёсен (турецкий фермер, в настоящее время — самый высокий человек в мире), Пэрис Хилтон (полагаю, знаете, кто это), Наташа Кампуш (австрийская телеведущая и писательница, известная своим похищением в 1998, провела в плену более восьми лет).
Их слава (вкл. Пэрис Хилтон) явно перевешивает их достижения.
Но это парадоксальное несоответствие славы и достижений отражают глубокие социальные законы успешности в цифровом мире.
А теперь приз в студию!
Среди медийных супер-звёзд представитель России поднялся на наивысшую ступень среди всех существующих категорий мировых знаменитостей: Анна Чапман - №5.
Здравствуй, стопмодерн эпохи цифровой посткультуры!

2. Как изменился мир за 8 лет перехода в цифру
Казалось бы, что такое 8 лет против 6000 лет.
Взгляните, как всего за 8 лет изменились взгляды человечества на самых знаменитых людей мира за всю 6000-летнюю историю существования цивилизации (1).

Фантастический взлет Пророка Мухаммеда и Чингисхана впечатляет и озадачивает.
А вот взлет Ньютона не очень удивляет, с учетом того, что сегодня самый знаменитый землянин, родившийся за последние полвека - Илон Маск.

Подробней в шикарном проекте Pantheon (2)
#ScienceOfSuccess

1 2

Интернет стал 2й потенциально катастрофической ошибкой США.
Исправить её уже невозможно, и остается лишь минимизировать последствия.
В 20 веке США допустили две потенциально катастрофические ошибки. Создав две самые мощные в истории цивилизации технологии, США не сумели удержать их под своим контролем. В результате каждая из них теперь может нанести колоссальный глобальный вред всему человечеству.
Эти технологии - ядерное оружие и Интернет.

В США опубликован беспрецедентно откровенный и жесткий 100-страничный доклад Независимой целевой рабочей группы Совета по международным отношениям (CFR) «Confronting Reality in Cyberspace: Foreign Policy for a Fragmented Internet», в эпиграф которого вынесен один из его ключевых выводов:
«Утопическое видение открытой, надежной и безопасной глобальной сети не осуществилось и вряд ли когда-либо уже осуществится. Сегодня Интернет все менее свободен, все более фрагментирован и все менее безопасен»
Пока отчет есть в открытом доступе, весьма рекомендую познакомиться хотя бы с Executive Summary. Я же, как обычно на этом канале, поделюсь «сухим остатком» своего видения выводов группы экспертов во главе с очень мною ценимым Адамом Сигалом.

1. Интернет - в значительной степени является детищем США. Технологии в его основе выросли из федеральных исследовательских проектов, а американский бизнес внедрял эти инновации, коммерциализуя и распространяя по миру эти технологии.
2. Базовая структура Интернета строилась под американские ценности — опора на частный сектор и техническое сообщество, относительно легкий нормативный надзор, защита свободы слова и поощрение свободного потока информации.
3. Но ценности ценностями, а главной целью создания Интернета было обслуживание стратегических, экономических, политических и внешнеполитических интересов США.
4. Однако, получился грандиозный облом, повторивший катастрофическую историю атомной бомбы. Развитие и распространение технологий Интернета вышло из-под контроля
5. В итоге развитие Интернета кардинально сменило траекторию на противоположную:
-- утопическому видению Интернета, как открытой, надежной и безопасной глобальной сети не было суждено материализоваться;
-- зато материализовался худший из сценариев: внутри среды инфосоциальных коммуникаций и глобальной кооперации родился монстр. Это крайне сложно контролируемое фрагментированное киберпространство, ставшее (а) средой культивации и безграничного каскадирования дезинформации; (б) проводником и усилителем преступных действий на уровне от индивидуалов до оргпреступности и авторитарных режимов; (в) рассадником взломов и кибератак, способных обрушить любой из элементов физической реальности цивилизации (мировую экономику, политику, социальные институты).
6. Очень скоро (с развитием технологий ИИ и Интернета вещей (IoT)) риски еще более возрастут. И потому нужно срочно предпринимать действия, способные хоть как-то их ограничить.
7. США – это страна, породившая монстра и не удержавшая его под контролем. Кроме того, США – это единственная супердержава, сохраняющая остатки демократических идеалов. И поэтому именно на США лежит обязанность позаботиться о глобальных рисках, которые привнес в нашу реальность Интернет.

Что и как предлагается в этой связи делать, читайте в отчете.
https://www.cfr.org/report/confronting-reality-in-cyberspace?utm_campaign=tf-cyber&utm_medium=social_earned&utm_source=tfr
#Интернет

Пентагон уязвим перед высокотехнологичным автономным оружием Китая.
Главная угроза нацбезопасности США – безразличие топов Силиконовой долины.
Основатель Oculus Палмер Лаки в среду взорвал инфобомбу на конференции FORTUNE Brainstorm Tech 2022. Он открыто и без обиняков рассказал, «что не дает ему спать по ночам».
А не спится Лаки потому, что он переживает из-за следующего.
1. Победа в современной войне (вкл. ядерную) определяется превосходством в военных хайтек-технологиях.
2. Власти Китая это поняли и жестко мобилизовали свой Хайтек на достижение абсолютного преимущества в данной области.
3. США же пока не способны сделать подобное и, более того, - они просто бессильны побороть безразличие топов Силиконовой долины к безопасности своей страны.

В своем выступлении Палмер Лаки безжалостно прошелся:
• по наивному инфантилизму боссов технологических компаний (типа бывшей “Мордокниги”), которые «используют свои несметные богатства и лучшие в мире таланты, в основном, для создания технических игрушек и социальных приложений, игнорируя серьезные приложения для защиты демократий от агрессоров и автократов»;
• по безграничной жадности боссов технологических компаний (типа “Надкушенного яблока”): «Это крупнейшая компания в стране, одна из самых влиятельных компаний в мире, более могущественная, чем большинство стран. . . . — сказал Лаки, - [Но] они никогда не могли позволить себе сделать хоть что-то, что расстроило бы КПК, потому что, если это произойдет [с] 95%-ми их производства в Китае, они станут компанией стоимостью 2 трлн. долларов, бизнес которой может быть уничтожен одним росчерком пера."

Боссы Хайтека США боятся потерять доступ к китайским рынкам, китайскому капиталу и китайскому производству. Из-за этого Пентагон не получает стратегического преимущества от наличия в своих границах крупнейшего в мире мозгового центра технических инноваций — Силиконовой долины.

Сам Палмер Лаки старается это исправить, организуя сотрудничество Силиконовой долины и Пентагона. Продав в 2014 свою компанию виртуальной реальности Oculus «Мордокниге», он мог бы запросто использовать вырученные средства для создания ИИ компании, стригущей легкие деньги на чат-ботах или рекомендациях фильмов. Вместо этого он сделал нечто куда более сложное: он основал компанию Anduril , которая делает системы защиты дронов с ИИ для армии США и её союзников.
Подробней
Контекст
#США #Китай #Технологии #АвтономноеОружие

​​Страх и отвращение помешают контактам с иным разумом.
Поразительный вывод 1го семинара Фонда Эйнштейна.
В Берлине прошел семинар исследовательской инициативы Фонда Эйнштейна "Изучение инаковости на Земле и за ее пределами" (1). Проблема “инаковости” - сложности понимания между разными типами разумами – это важная междисциплинарная проблема на стыке естественных, социальных и гуманитарных наук, поставленная 7 лет назад на симпозиуме по астробиологии и обществу "Влияние открытия жизни за пределами Земли" (2).

Это не гипотетическая проблема, а серьезное практическое препятствие на пути понимания основ общности существующих на земле 4х разных типов разума, а значит и самого понятия - разум (3).

Если же вдруг появится возможность контакта с инопланетянами (а шансы этого современной наукой не считаются нулевыми, и не исключено, что подобное может произойти в любой момент), проблема инаковости вмиг превратится в главную экзистенциальную проблему землян. Так что лучше уж подготовиться.

Люди так и не научились решать проблему инаковости за все время существования нашего вида. Племена, расы, народы, культуры, - все также видят мир через призму «мы и они» / «они против нас».
И это только среди людей. Если же рассмотреть наших собратьев на Земле, инаковость станет еще большей проблемой. Почему одни животные нас отталкивают, а других хочется приласкать?

Например, медведь гораздо опасней для человека, чем тарантул.
• Но игрушечный плюшевый мишка (правда, без зубов и когтей) — нам мил и пригож.
• А пауки занимают одно из первых мест среди самых страшных и отвратительных существ на Земле.

Сразу несколько докладов на симпозиуме (2) высветили большую проблему.
Контакты с внеземным разумом могут сильно осложниться (и вообще пойти не туда) из-за врожденных и непреодолимых чувств страха и отвращения друг к другу.

Эта реальная и весьма вероятная проблема.
Ибо:
1. Чувства страха и отвращения – очень сильные факторы формирования видов.
Будет не сильным преувеличением сказать, что человек – это «боязливая обезьяна» (4) с крайне развитым чувством брезгливого отвращения (5).
2. Эволюция формирует чувства страха и отвращения настолько хитро, что понять сложное переплетение их оснований весьма непросто (6). Например, мы ежеминутно сглатываем слюну, не испытывая ничего подобного на отвращение. А попробуйте наплевать полстакана и заставить себя выпить это.
3. Довольно вероятно, что эволюция непредсказуема из-за не-эргодичности биологических форм жизни и потому зависит от пути. Следовательно, если прокрутить историю Земли еще раз, то многое в видообразовании получится совсем по-другому – и в том числе, носитель самого развитого интеллекта (7). Что уж тогда говорить о результатах эволюции на других планетах.

С учетом всего сказанного, участники семинара по инаковости пришли к поразительному выводу.
Для облегчения взаимодействия и сглаживания проблемы инаковости при контактах с представителями иного разума следует использовать «нейтральных» роботов.
Иначе врожденный страх и отвращение не оставят людям шансов для понимания инопланетян, подобно тому, как у нас не сложилось взаимопонимание с акулами и членистоногими.
Лучше не рассчитывать, что инопланетяне будут похожи на кроликов или бабочек – чемпионов по небоязни и неотвращению людей к инаковости (6). И кто кого будет потом держать в зоопарке, - большой вопрос (8).

#Эволюция #HomoSapiens #Разум #Спесишизм
1 2 3 4 5 6 7 8

​​Искусственное увеличение интеллекта для самовыражения творца.
Создан 1й генератор цифровых культур Метавселенной.
Пять лет назад я написал для своего канала программный пост «Для чего нужны компьютеры, и как это связано с увеличением интеллекта человека» (2). В нем говорилось о перспективах альтернативного «третьего пути» развития ИИ - «Искусственное увеличение интеллекта (Artificial Intelligence Augmentation – AIA). Движение по поэтому пути способно изменить человечество, помогая людям изобретать новые когнитивные технологии, расширяющие диапазон человеческой мысли.

И вот спустя 5 лет я рад сообщить своим читателям, что началось!
Первым полноценным инструментом AIA стал инструментарий генеративной модели Make-A-Scene от Meta (1).

Он позволяет:
• не просто генерировать изображение по текстовому заданию (подобно DALL-E от OpenAI и Imagen от Google)
• а вдобавок к этому, еще и устанавливать направление и рамки полета творческой фантазии ИИ, путем дополнения текстового описания эскизом, сделанным человеком – творцом.

Этот колоссальный техно-прорыв легко представить и трудно переоценить. Перефразируя Армстронга, -
это один маленький шаг для Meta (1), но гигантский скачок для всего человечества.

Возможность посредством эскиза установить направление и рамки полета творческой фантазии ИИ превращает генеративную модель:
• из забавного инструмента случайной генерации изображений исключительно на основе статистики скормленных модели при обучении изображений
• в подлинный инструмент творца, полагающегося не на случайность, а на свой замысел, и определяющего для ИИ направление движения в пространстве творческого поиска творца.
Т.е. модель будет воспроизводить не просто то, на чем она учится, а то, куда её направит креативность человека.

Примеры можете вообразить сами. И сами удостоверитесь, что эскиз играет роль не просто ограничителя творчества ИИ. Эскиз придает смысл творчеству ИИ, следуя замыслу творца.
В результате этого, нарисованная ИИ иллюстрация для частушки
«Сидит Заяц на заборе в алюминевых штанах, а кому какое дело что ширинка на болтах»
будет уже не забавной феерией бессмыслицы из зайца, забора, ширинки и болтов, а задуманным автором зайцем, сидящем не где попало, а где надо на заборе, с правильным числом болтов на нужном месте у зайца.

Но это только присказка. А сказка вот в чем.
ИИ уровня Make-A-Scene станет теперь главным инструментом порождения цифровых изобразительных культур Метаверса.

Ведь теперь ИИ способен:
• не просто стилизовать рисунки под стиль Ван Гога, Кандинского или Малевича;
• а использовать любые стили при реализации творческого полета художников, дизайнеров и архитекторов миров Метавселенной;
• и даже (это трудно представить, но попробуйте) создавать новые оригинальные стили, развивая паттерны эстетического содержания наборов эскизов.

Это важно:

(1) Суд признал экстремистской и запретил в России деятельность корпорации по реализации социальных сетей.

Посмотрите на рисунки в (2): Make-A-Scene на такое способен, а DALL-E от OpenAI и Imagen от Google – нет.

Подробней:
- популярно про Make-A-Scene (3)
- научно (4)
- толковое видео (5)

2 3 4 5

#AIA #Metaverse

​​Глобальный лидер будет один.
ИИ подрывает шансы мира на двуполярность.
Лучано Флориди – всемирно известный профессор Оксфорда и Болоньи, создатель «Философии информации» и термина «инфорги», параллельно с научной работой консультирующий IT-гигантов , - опубликовал (совместно с Эмми Хайн) результаты фундаментального исследования «ИИ с американскими ценностями и китайскими особенностями: сравнительный анализ политики американского и китайского правительств в области ИИ».

Сегодня для экспертов и политиков очевидно, что мировым технологическим лидером станет лидер в ИИ-технологиях. Эти технологии – А) «новое электричество» (универсальное решение) задач автоматизации интеллектуальной работы, и Б) «золотой ключик» к заветной двери, за которой кроется решение многих нерешаемых проблем человечества.

В начале 3ей декады 21 в. главным вопросом совершенствования ИИ-технологий становится выбор траектории их дальнейшего развития. Эта траектория определяется видением идеала «хорошего общество, в котором люди сосуществуют с ИИ» (“Good AI Society”).
Без такого видения невозможно не только решать, но и даже корректно ставить важнейшие вопросы развития ИИ: этика и надежность ИИ, доверие к нему, границы передачи ему прав при принятии решений, всевозможные аспекты сосуществования людей и алгоритмов, границы невмешательства ИИ в персональную жизнь людей и т.д.

И вот тут-то человечество оказывается перед выбором. Дело в том, что в мире существуют два разных видения “Good AI Society” государством и обществом: видение США и видение Китая (их колоссальный отрыв в области ИИ-технологий делает весьма проблематичным для всех других принципиально повлиять на формирование видения “Good AI Society”).

Эти два видения (США и Китая) объединяет лишь одно – стремление достичь глобального лидерства в ИИ, позволяющего сохранять политическую власть и доминирование как внутри страны, так и на международном уровне.

Во всем же остальном имеется масса базовых расхождений, обусловленных разными системами ценностей:
• Для США – это индивидуальная протестантская трудовая этика, делающая акцент на ответственности и правах личности и потому всячески противящаяся любым использованиям ИИ, грозящих нарушением прав человека и размыванию границ его ответственности.
• А для Китая – это лежащая в основе стратегии развития Китая конфуцианская этика, делающая акцент не на личности, а на обществе, и в результате этого готовая смирится с нарушением прав отдельных людей, осуществляемых на пользу обществу.

Столь разные этические системы США и Китая ведут к во многом противоположным видениям “Good AI Society”.
• Китайское видение – это гармонизация прорывных последствий развития ИИ в целях сохранения социальной стабильности и поддержки авторитарного руководства страны.
• Видение же США делает неприемлемым для общества развитие ИИ-технологий поддержки авторитарного режима, даже если это способствует сохранению социальной стабильности (напр. технологии социальных рейтингов).

Чтобы понять, насколько разными (качественно и количественно) являются видения “Good AI Society” у Китая и США, Флориди и Хайн с помощью арсенала методов обработки естественного языка проанализировали национальный корпус политических документов, определяющих и регламентирующих развитие ИИ в этих странах. Доказательная основа политических различий видения “Good AI Society” двух государств и обществ была получена путем частотного, сентимент и диахронного (изменение во времени) анализов текста.

Моя интерпретация выводов.
1) Факторы, формирующие философию технологий и стратегию ИИ в США и Китае, отличаются радикально, что ведет к принципиально разному видению “Good AI Society”.
2) Есть единственный способ сведения 2х видений развития ИИ – признание США и Китаем плюрализма ценностей и поворот к совместной разработке ИИ как общечеловеческого проекта.
3) П. 2 – утопия, и победитель в конкуренции будет лишь один.

https://link.springer.com/article/10.1007/s00146-022-01499-8#Abs1
#ИИ #НовыйМировойПорядок #Китай #США

​​Все под наблюдением и счастливы этим.
Перспективы распространения китайской ИИтократии по миру.
1) Даже в самом Китае мало кто осознаёт, насколько тотальной там стала ИИ-слежка (алгоритмическое видеонаблюдение с распознаванием лиц) за различными аспектами поведения людей.
По данным People Think Tank (аналитический центр при официальном медиа ЦК КПК «Жэньминь жибао») на июнь 2022 (1):
• ИИ-слежка в «умных городах» Китая работает практически повсеместно 24х7: от наблюдения за поведением учащихся в классах до наблюдения в общественных туалетах для контроля экономии использования туалетной бумаги.
• Охват населения ИИ-слежкой почти 100%-ный.
99,3% сталкиваются с распознаванием их лица в тех или иных сценариях (51,8% при регистрации в отелях и общественных зданиях, 47% на транспорте, 43,9% при контроле доступа и проверке посещаемости на работе и учебе, 33,5% при контроле входа и выхода в жилые дома …)
• Большинство считает, что так и надо.
Таких 70%, и лишь 30% от этого не в восторге. При этом 67% признают, что власти злоупотребляют ИИ-слежкой, а 44.6% считают, что «распознавание лиц само по себе нарушает неприкосновенность их частной жизни и заставляет чувствовать, что за ними наблюдают».

2) ИИ и автократия взаимно усиливают друг друга в результате симбиоза ИИ и тотального наблюдения.
Это подозревали давно, но доказательств не было.
Теперь они есть в результате исследования профессоров Ноама Юхтмана (Лондонская школа экономики) и Дэвида Янга (Гарвардский университет) и их коллег (2, 3).
Анализ обширной базы данных о китайских фирмах, работающих в области ИИ, их контрактов на госзакупки для ИИ-слежки и данных о силе и динамике социальных волнений по всему Китаю в течение последнего десятилетия показал следующее.
Инновации в области ИИ-слежки и автократия могут взаимно усиливать друг друга, когда:
✔️ новые технологии укрепляют власть автократа;
✔️ а спрос автократа на технологию стимулирует дальнейшие ИИ-инновации за пределами областей, приносящих автократу непосредственную пользу;
✔️ с ИИ-слежкой именно так и получается из-за больших данных, доступ к которым получает бизнес с разрешения властей; в результате этого симбиоза и власть, и бизнес в шоколаде, ибо положительная обратная связь между усилением тотального контроля и развития ИИ-технологий устраивает и тех, и других.

Подробней - завтра от самих авторов исследования в рамках онлайн-семинара «Симбиоз ИИ и тотального наблюдения в Китае» проекта Центра стратегических международных исследований и Стэнфордского центра изучения экономики и институтов Китая (4).

3) Что может помешать распространению опыта китайской ИИтократии по миру?
Только активное противостояние со стороны общества.
США может спасти индивидуальная протестантская трудовая этика, делающая акцент на ответственности и правах личности и потому всячески противящаяся любым использованиям ИИ, грозящих нарушением прав человека и размыванию границ его ответственности (5).
На что надеяться социумам, делающим акцент не на личности, а на обществе, и в результате этого готовым смирится с нарушением прав отдельных людей, осуществляемых (как убеждает пропаганда) на пользу обществу, - остается загадкой.

#Китай #ИИтократия #НадзорныйКапитализм #БольшойБрат
1 2 3 4 5

Ошибки ИИ хуже преступлений.
Когда они неподконтрольны и неисправимы.
Это главная современная проблема человечества при использовании ИИ.
Как только ИИ перестает быть инструментом (повышающим скорость и эффективность решений людей) и автоматизирует (полностью берет на себя) выполнение каких-то функций, люди оказываются в ловушке. Большинство ошибок современных автономных ИИ систем практически неподконтрольны и неисправимы.

Представьте, что банкоматы время от времени не выдают вам деньги, а лишь списывают с вашего счета средства с пометкой о якобы произошедшей выдаче наличных. При этом реальных способов опротестовать этот ужас и вернуть свои деньги нет.

Если это пока не происходит, то лишь потому, что банкоматами пока что не управляет ИИ, принимающий решения о выдаче наличных.
А вот решения о штрафах на дорогах система уже принимает самостоятельно. И результат известен любому водителю. Можно, конечно, судиться. Но кто пробовал, знает, насколько это бесперспективно.

Практически всюду, где люди переложили на ИИ ответственность за принятия решений (автоматизировали этот процесс), подобное происходит налево и направо.
• Более 20 000 случаев ложных обвинений людей алгоритмом MIDAS в мошенничестве с пособиями по безработице.
• А вот пример работы алгоритма RealPage, отвечающего на проверку надежности потенциальных арендаторов:
- кража со взломом и домашнее насилие в Миннесоте;
- продажа метамфетамина и уклонение от залога в Кентукки;
- вождение без страховки в Арканзасе;
- в еще хулиганство, кража, ложь полицейскому, множество обвинений в наркотиках и какие-то «неуточненные преступления».
И вся эта 100%ная ложь и ахинея – результат работы алгоритма RealPage, отказавшего в аренде Саманте Джонсон. А таких как она - ошибочно оклеветанных алгоритмом, - тысячи.
• Людей арестовывают по ложному совпадению распознавания лиц.
• Люди теряю критический доступ к медицинским пособиям.
• Алгоритмы распределения больничных коек ставят в очереди здоровых пациентов выше больных.
• ИИ неправильно распределяют рецепты, неправильно интерпретируют медицинские снимки, неправильно ставят диагнозы …
Проблема не в том, что ИИ системы ошибаются. Все системы могут ошибаться.
Проблема в том, что по большинству протоколов внедрения и эксплуатации ИИ систем, их ошибки остаются практически неподконтрольными и неисправимыми.

✔️Именно функциональность ИИ систем - сегодня главная проблема политики в области ИИ.
✔️Именно функциональность ИИ систем должна быть первым шагом в защите конкретных людей и всего общества от алгоритмического вреда при их внедрении.
✔️Сегодняшние главные приоритеты при внедрении ИИ - справедливость, подотчетность и прозрачность, - являются вторичными приоритетами.
✔️Главным приоритетом внедрения ИИ должна быть его функциональность.

Подробней в одном из центральных докладов крупнейшей международной организации в IT «Ассоциация вычислительной техники (ACM)», посвященной справедливости, подотчетности и прозрачности ИИ.

Хотя бы взгляните на перечень из 207 ссылок этого исследования, отсылающего к вопиющим примерам ошибочных решений алгоритмов ИИ, которые люди годами пытаются опротестовать по суду.
https://doi.org/10.1145/3531146.3533158
#ИИ

«Предсказывать очень трудно, особенно предсказывать будущее»
— мудро шутил Нильс Бор. И хотя вся история науки подтверждает его слова, это не помешало, например, Уильяму Джону Варнеру снискать славу «Эйнштейн хироманитии». Ведь его прогнозы будущего людей по их «линиям судьбы» (кожному рельефу ладоней) часто оказывались поразительно точными.

А может ли существовать «линия судьбы» у всего человечества?
И был ли в истории гений, способный эту линию предсказать?

Как ни удивительно, но ответы на оба эти вопроса — да. История знает такого гения (и я бы даже сказал, супергения).
• Еще в 1986 он предвидел, каким может быть универсальный шаблон истории развития глобальной цивилизации, и какое будущее эта «линия судьбы» сулит человечеству.
• А спустя 36 лет, в 2022 году были опубликованы две прорывные междисциплинарные научные работы, давшие предвидению гения научное обоснование.

Но это еще не все.
✔️ В первой из этих работ показано, что в основе «линии судьбы» человечества одна единственная простая и элегантная математическая формула.
✔️ А из второй следует, что у землян всего два варианта будущего: умереть во сне или проснуться.

Продолжить чтение (еще 15 мин.):
- на Medium https://bit.ly/3Q62pat
- на Яндекс Дзен https://clck.ru/sSQ7w
#Инновации #СмежноеВозможное #Вызовы21века #Культура #ПарадоксФерми #Будущее

​​Бенефис Homo в роли Творца провалился.
Экспериментально доказано – способностей обрести здравый смысл у современных ИИ нет.
Опубликованное психологами Гарварда исследование – это холодный душ для техноэнтузиастов ИИ. Серия простых, но весьма убедительных психологических экспериментов показала:
1) полное отсутствие у DALL-E 2 (одной из наиболее продвинутых современных нейросетей, имитирующих интеллектуально-творческие способности людей) хоть намека на понимание результатов своей деятельности, многими людьми ошибочно воспринимаемых, как творчество ИИ;
2) полное отсутствие у DALL-E 2 элементарных базовых когнитивных способностей, без которых невозможна трансформация опыта взаимодействия с миром в «здравый смысл» об его устройстве;
3) (как следствие пп 1-2):, подобные DALL-E 2 ИИ-системы, при всех своих выдающихся инструментальных возможностях, не просто «отстает в развитии» от двухлетнего ребенка, а в принципе не способны подняться до его когнитивного уровня.

Нейросеть DALL-E 2 всего за нескольку месяцев обрушила представления человечества о границах творческих возможностей машин. Эта нейросеть иллюстрирует стихи Бродского, дорисовывает картины классиков, научила героев своих картин разговаривать на совершенно непонятном людям языке, создала расширенную версию полотна «Сотворение Адама», способна изображать бессмысленные предложения, типа «бесцветные зеленые идеи яростно спят» или «куриный наггетс курит под дождем», а давеча создала галерею «последние селфи на Земле».

После всех этих подвигов DALL-E 2 и прочих подобных её нейросетей, имитирующих интеллектуально-творческие способности людей, пришло время поставить вопрос ребром:
✔️ так что ж, эти ИИ-системы начинают приближаться в своих имитациях к способностям людей?

Ответ ИИ-скептиков (типа Гэри Маркуса и меня) - категорическое нет. Нынешний путь не ведет к человекоподобному ИИ. Потребуются иные пути.

Но одно дело, дискуссии энтузиастов и скептиков. И совсем другое дело – грамотный научный эксперимент, поставленный психологами Гарварда.

Авторы исследования пошли тем же путем, что и Гэри Маркус, поймавший нейросеть на том, что “астронавт верхом на лошади” она изображает блестяще, а “лошадь верхом на астронавте” — получается чёрте как.

Авторы провели систематическую проверку 15-и отношений, необходимых для трансформации опыта взаимодействия с миром в «здравый смысл» об его устройстве.
• 8 физических отношений объектов: внутри, на, под, рядом …;
• 7 отношений агентов: толкать, тянуть, трогать ….
В сценах, запрашиваемых нейросеть изобразить их, фигурировали 6 объектов (коробка, цилиндр, чашка …) и 6 агентов (мужчина, женщина, ребенок …).

А потом исследователи:
• Давали на вход нейросети простенькие задания, описывающие сцены из объектов, агентов и их отношений (типа «ложка в чашке» - см. рис), с тем, чтобы нейросеть генерировала изображения этих сцен;
• Показывали эти изображения людям для их вердикта, насколько каждое из изображений соответствует словесному описанию в задании.

Детальное объяснение методики, собранной статистики, выявленных проблем и предложений по их устранению – читатель найдет в отчете исследования.

Мне же остается лишь резюмировать.
Попытка людей уподобиться Творцу (Богу, природе, эволюции …), создав из «праха земного» (а конкретно, из кремния) разумного агента, обладающего здравым смыслом и способностью познавать мир через его понимание, пока провалилась.

PS 1) Это не умаляет высочайшей значимости ИИ в качестве инструмента для людей.
2) Не исключает создания человекоподобного ИИ, если пойти иным путем.
PPS Когда нам кажется, что нейросеть понимает сложные описания, это лишь статистическая иллюзия (доказано этим экспериментом).
#AGI

Китай наступает на всех фронтах в битве за цифровой мир.
Вышел отчет о развитии цифрового Китая за 2021 год.
Никакого кликбейта, т.к. цифры, действительно, поражают.
Такими темпами Китай сможет выполнить стратегический план КПК и стать №1 в цифровом мире в 2030.

Ибо цифровой мир – это Интернет в 3-х его ипостасях:
• Интернет людей
• Интернет вещей
• Интернет идей
Чтобы стать доминирующей силой во всех 3-х ипостасях, силой, обеспечивающей роль абсолютного лидера, за которым следует мир, необходимо достичь 5-и преимуществ.

1) По доле своего населения цифрового мира.
Здесь Китай уже №1 с 1+ млрд и 20+% числа мировых пользователей. Причем % мирового населения китайцев в физическом мире падает, а % в цифровом - бурно растет. Т.е. можно без натяжки сказать – китайцы массово переселяются цифровой мир.
2) По скорости своего сегмента цифрового мира.
Здесь тоже Китай уже №1. В 2021 года Китай построил 1,425 млн базовых станций 5G (это 60+% мирового рынка), а число пользователей 5G уже 355 млн. 300+ городов Китая уже строят гигабитные оптоволоконные широкополосные сети, к которым уже подключены 35 млн гигабитных цифровых китайцев.
3) По размеру «территории» своего сегмента цифрового мира (для чего нужен переход на новую версию интернет-протокола IPv6 с 128 битной длиной адреса вместо 32 битной в протоколе IPv4).
В 2021 года по общему объему ресурсов адресов IPv6 Китай №1 в мире, а число активных пользователей IPv6 достигло 608 млн.
4) По вычислительной мощности своего сегмента.
Здесь Китай пока занимает №2 место в мире. Но инфраструктура вычислительных мощностей Китая быстро развивается со среднегодовым темпом роста (за последние 5 лет 30+%). С таким темпом к 2030 Китай может превзойти США и стать №1.
5) По объему данных в своем сегменте цифрового мира.
Здесь тоже пока у Китая №2 место в мире. Но темпы роста чумные. С 2017 по 2021 год объем больших данных в сегменте Китая увеличился втрое (в том числе в деньгах: с 470 млрд до 1,3 трлн юаней). И сейчас Китай владеет 9,9% от мирового объема цифровых данных.

Помимо названных необходимых условий есть и те, которых может быть «достаточно», чтобы стать №1 в цифровом мире.
К ним относятся:
A. Инновации.
Здесь число международных патентных заявок в информационной сфере в Китае в 2021 году превысило 30 тыс, что на 60% больше, чем в 2017 году, а глобальная доля превысила одну треть.
B. Инвестиции в НИОКР.
С 2017 по 2021 год инвестиции в НИОКР зарегистрированных интернет-компании в Китае увеличились в среднем на 227%.

Короче, шансы Китая на завоевание цифрового мира большие и еще растут.

Резюме отчета о развитии цифрового Китая за 2021 год
#Китай #Интеренет #Вызовы21века

Шестичувственный VR для Метаверса уже рядом.
Улетные гаджеты на AWE 22 и CHI 22.
Несколько интересных видео для просмотра на выходных.
Вышедший позавчера на NBCNews сюжет неявно подсветил истинную цель бизнеса на Метаверсе - переселить туда как можно больше людей на как можно дольше, обеспечив им там все возможности работы, отдыха, развлечений, шопинга и путешествий.
Но для этого обычной виртуальной реальности (VR) недостаточно. А т.к. массово Метаверс взлетит к 2030-м (когда 6G решит проблему сверхскоростной коммуникации, без которой Метаверс лишь игрушка), то на создание шестичувственного VRа (6SVR) есть менее 10 лет. И поэтому разработки технологий и гаджетов для 6SVR уже вовсю идут, и первые образцы уже демонстрируют на конференциях, обещая пустить в серию за 1-2 года.

Напомню, что задача полного погружения в 6SVR Метаверса требует задействовать:
1. зрение
2. слух
3. вкус
4. обоняние
5. осязание
6. вестибулярный аппарат (чувство равновесия и положения в пространстве, ускорение)

Статус на лето 2022 таков.

• С 1 и 2 всё уже на мази. В ближайшие годы зрительные и слуховые VR-ощущения доведет до совершенства.
• С 5 и 6 только начинают, но весьма успешно. Как показано в ролике NBCNews, тактильные ощущения пальцев рук и рта (губы, зубы и язык) уже имитируют до уровня неотличимости от реальности. Поскольку мало кто слышал про тактильный VR для рта на базе гарнитуры с ультразвуковой фазированной решеткой, рекомендую посмотреть этот ролик с конференции CHI 22, где объясняется как это работает.
• С 4 (обоняние) работа также активно ведется (о чем я рассказывал в этом посте). Здесь основная проблема в отсутствии у запахов некоего универсального конструктора (типа RGB для кодирования цвета), позволяющего кодировать любой запах сочетанием элементов конструктора. Но все преодолимо. И гарнитуры уже научились источать не только простые запахи (типа запаха роз, клубники или шоколада), но и сложные комбинированные запахи (типа запаха пляжа, требующего сочетание запахов песка, морского бриза и солнцезащитного крема).
Посмотрите ролик для AWE 22, перенесенной на октябрь. Журналист реально балдеет от широкого спектра запахов объектов, видимых им в VR: от знакомых запахов цветов до экзотического запаха поджаривания маршмэллоу на открытом огне.
• По части 3 (вкус) весьма непросто: вкус — невероятно сложное чувство. Пытаются идти по двум путям: электрическая и тепловая стимуляция, постепенно сводя их воедино. Но пока со вкусом туго (подробней здесь).
#Metaverse