Малоизвестное интересное
64.8K subscribers
95 photos
1 video
11 files
1.8K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Российский ИИ умеет такое, что США и Китаю не снилось.
Определение квалификации, благонадежности и правдивости экспертов и специалистов.

Не написать об этом феноменальном прорыве в ИИ недопустимо. В то время, как РАН сетуют из-за отказа Китая продолжать научное сотрудничество, выясняется поразительный факт:
уровень наших разработок в ИИ существенно превосходит лучшие разработки не только Китая, но и США.
Ни в одной из самых продвинутых университетских ИИ-лабораторий мира, ни в одном из лучших исследовательских ИИ-центров IT гигантов пока даже близко не подошли к успешному решению этих трех важнейших задач:
1. Сетевой поиск эксклюзивных специалистов (экспертов в узкой области научных знаний и междисциплинарщиков) путем отбора по уровню знаний и глубине опыта на основании информации из открытых источников (научных журналов, профилей в соцсетях, сайтов, и т.д.)
2. Верификация заявляемого уровня знаний и глубины опыта специалиста, путем оценки степени искренности и правдивости его ответов в ходе интервью, на основании ИИ-анализа выражения лица (глаз, рта, носа, бровей и мимических мышц, а также тембра голоса, скорости речи и т.д.)
3. Определение уровня благонадежности претендента, путем ИИ-анализа:
-- уровня агрессивности, конфликтности, вежливости, дружелюбия кандидата и т.д.;
-- вероятности его возможного пристрастия к наркотикам, азартным играм и т.д.;
-- возможной причастности к финансовым махинациям, наличию административных правонарушений, уголовных дел и т.д.

Ничего из вышеназванного и близко не умеет делать ни один из «вражеских ИИ».
Наш же российский, как это следует из большой презентации разработчиков, успешно справляется со всеми тремя вышеназванными задачами. Этот интеллектуальный сервис уже тестируют в университете ИТМО и РАНХиГС, а в мае исследователи откроют прием заявок на бесплатное тестирование сервиса для широкой аудитории.

Если все это подтвердится, в «The Global AI Index» место России следует поднять на 31 позицию с сегодняшнего №32.
А от приостановки научного сотрудничества, пострадает не Россия, а Китай и США, лишившись доступа к недосягаемым для них прорывным научным достижениям.


Популярно: https://iz.ru/1320761/olga-kolentcova/estestvennyi-podbor-ii-naidet-idealnogo-uchenogo-dlia-liubogo-proekta
Официально: https://actcognitive.org/posts/128/nauchnyy-vebinar-intellektualnye-tekhnologii-dlya-poiska-eksklyuzivnykh-spetsialistov
Презентация разработчиков: https://www.youtube.com/watch?v=5SL4e64ilu8
#ИИгонка
​​Воображение бессмыслицы без умения мыслить.
ИИ близок к пределу имитации разума людей.

Два прорывных научных результата этого года подводят предварительный итог многолетних попыток имитировать на компьютерах высокоуровневые когнитивные способности людей.
Первый прорывной результат продемонстрировал Open AI
Их новая версия DALL-E 2 способна превращать текстовые описания в фотореалистичные изображения.
ИИ научили имитировать высокоуровневые когнитивные способности людей, решая 3 важнейших класса задач, отличающих нас от животных:
1. Оперирование существующими и создание новых визуальных образов, в т.ч. эстетически изысканных и оригинальных.
2. Оперирование существующими и создание новых повествований из грамматически, семантически и прагматически правильных предложений на естественном языке.
3. Увязка обоих модальностей (зрение и язык) для уже существующих и новых элементов.

1й и 2й классы задач ИИ-системы умели решать и до появления DALL-E 2. Теперь же им доступен и 3й класс, причем:
• как для тестов и образов, имеющих смысл с точки зрения людей;
• так и для не имеющих смысла.

Последнее можно проиллюстрировать известным примером Хомского - грамматически-корректным, но бессмысленным предложением: «Бесцветные зеленые идеи яростно спят».
Для DALL-E 2 бессмысленность этой фразы ничуть не мешает вообразить ее визуальный образ (см. рисунок).

Это показывает, что у DALL-E 2 нет пределов воображения.
Даже полное отсутствие в описании смысла (в человеческом понимании) не мешает ИИ-системе создать по описанию визуальное представление бессмыслицы.
Однако предел в имитации разума людей все же есть. Что демонстрируют результаты другой работы.

Второй прорывной результат представлен статьей «Shared computational principles for language processing in humans and deep language models».
Авторы показали, что восприятие речи мозгом происходит ровно по той же схеме, что и в системах машинного обучения, использующих авторегрессионные глубокие языковые модели. Эти модели не знают ничего о правилах языка. Они лишь следуют простым принципам.
1. Непрерывно предсказывают следующее слово.
2. Сопоставляют эти предсказания с входящим словом для вычисления степени неожиданности (ошибки прогноза).
3. Полагаются на контекстуальные детали.
Подобным образом работают:
• NLP-системы типа GPT-3, ничего не понимая в тексте и не зная никаких правил, а лишь предсказывая следующее слово,
• упомянутая DALL-E 2, превращающая тексты в изображения, ничего не зная о правилах их формирования, а лишь предсказывая очередной пиксель.

Фундаментальный вывод этой работы таков.
Хотя язык может играть центральную организующую роль в процессах познания людей, лингвистической компетенции недостаточно для обретения здравого смысла: мышления и понимания.
Иными словами, машина может сколь угодно совершенно владеть языком (проходя тест Тьюринга и эксперимент Китайской комнаты), но всё ее владение – ничто иное, как способность предсказывать следующий элемент текста; и эта способность имеет нулевую ценность для понимания смысла текста и порождения новых значимых текстов на основе интеграции знаний из предыдущих.
Это же справедливо и для визуальных образов. Здесь также прогнозирование очередного пикселя имеет нулевую ценность для понимания и порождения новых осмысленных образов на основе предыдущих.

Т.о., совокупность результатов обеих работ позволяет предположить наличие непреодолимой для статистического машинного обучения пропасти между двумя типами высокоуровневых когнитивных способностей:
A. языковой и зрительной компетенций, приобретаемых в результате машинного обучения;
B. компетенций здравого смысла, приобрести которые в результате машинного обучения современные ИИ-системы не могут.
Вероятной причиной этой пропасти может быть, как вычислительный подход, так и то, что опыт алгоритмически несжимаем.
#AGI
​​Интерактивный шопинг со звёздами.
Чарующие и манящие технологии е-коммерции в Метаверсе.

По итогам конференции «AI WANT IT»
Наивно думать, что в Метаверсе электронная коммерция останется такой же, как в сегодняшнем Интернете, с добавлением лишь виртуальной реальности.
Всё будет иначе. Ибо новый многотриллионный рынок торговли в Метавселенной призван дать покупателям доселе непредставимый, чарующий и манящий опыт наслаждения от шопинга.
Это будет вовсе не банальный шопинг по сетевым VR-каталогам, а вот что.
1) Увлекательное и познавательное развлечение покупателей, погружаемых технологиями во внепространственную и вневременную реальность множества брендованных миров из вещей и услуг.
2) Возбуждающе-приятный и незабываемый опыт живого общения с недосягаемыми в реале суперзвёздами кино, эстрады и спорта, а также с топовыми инфлюенсерами блогосферы и е-политики Метаверса.


Для реализации этого необходим синтез нового поколения четырех классов технологий:
• технологии покупок в реальном времени (покупок в прямом эфире);
• технологии DeepFake;
• технологии Celebrity Marketing;
• технологии захвата движений и мимики в реальном времени.
Цель всего этого – создание цифровых двойников знаменитостей (ЦДЗ), в компании с которыми покупатель будет совершать интерактивный шопинг-тур по брендованным мирам Метаверса.

ЦДЗ должны принципиально отличаться от фейкового Куравлева-Милославского в рекламе Сбера (1).
✔️ ЦДЗ - не пассивный герой рекламного ролика, а активный гид и ассистент в ходе интерактивного шопинг-тура, совершаемого конкретным индивидом – покупателем.
✔️ ЦДЗ способен одновременно обслуживать миллионы покупателей, причем, каждого – согласно индивидуальным настройкам характера, преференций и опыта прошлых покупок.


Схема создания таких ЦДЗ требует наличия:
• прав на использование образа звезды;
• «больших данных» об индивидах-покупателях;
• инструментов реализации 4х вышеназванных классов технологий.

Прототипы этих технологий были только что представлены на конференции по цифровой стратегии Yaowang Network «AI WANT IT».
Комплекс сквозных технологий для «живой е-коммерции в масштабируемом прямом эфире» показывался на примере созданного Yaowang Network виртуального цифрового персонажа по имени «Конг Сян» (на приложенной гифке).
В начале апреля было официально объявлено, что «Конг Сян» стал первым «виртуальным другом покупателя» для трех косметических брендов: Shilefu, Vichy и NYX.
Подробней, - включайте переводчик и читайте (2).
1 2
#Metaverse #Китай #Екоммерция
ИИ научился извлекать чертовщину из глубин нашего подсознания.
И превращать ее в монументальные полотна «искусственного искусства».

По всему миру народ забавляется, разглядывая прикольные картинки, нарисованные новой версией генеративной нейросети DALL·E 2 от OpenAI.
Надо же, восхищаются люди, все больше поражаясь по мере усложнения задач, решаемых ИИ.
✔️ ИИ уже не просто понимает, что такое «мышь в VR», запросто порождая фотореалистическое изображение этой небылицы (1).
✔️ ИИ уже способен писать картины (слово рисовать здесь уже не уместно) по совершенно нетривиальным описаниям и с указанием деталей, стиля и техники исполнения рисунка.

Например:
• «Пушистый ленивец в вязаной шапке пытается разобраться в ноутбуке; крупный план, высокая детализация, студийное освещение, экран отражается в его глазах» (2)
• или портрет «Отто фон Гарфилда, графа Бисмарк-Шёнхаузена, герцога Лауэнбургского, министра-президента Пруссии в образе оранжевого кота; изображен в прусском пикельхаубе, поедающим свое любимое блюдо — лазанью» (3)
• или фотографию «Желто-черный автобус едет по тропическому лесу во время дождя; большие отражения в лужах, и всё это на фоне слепящей солнечной дымки» (4)

Если бы талант нового ИИ-художника от OpenAI ограничивался лишь этими умениями, - все равно это был бы красивый и впечатляющий технологический прорыв.
Но оказывается ИИ-художник от OpenAI способен еще и на такое.
✔️ Как бы следуя Босху и Дали, извлекать из нашего подсознания кошмарные, умопомрачительные образы, соответствующие их видению великими художниками.
✔️ И собирать из великого множества таких сюрреалистических образов монументальные полотна и фрески.


Вот пример пары подобных монументальных полотен в стиле Дали (5) и Босха (6).
А в стиле какого автора выполнен этот попартовский футуристический сюр (7), попробуйте отгадать сами (как и для двух предыдущих полотен, в его создании ИИ-художнику от OpenAI ассистировал Дэвид Шнур (8)).

Приведенные примеры свидетельствуют о качественном скачке на стыке изобразительного искусства и технологий. Это уже не просто «рисование по описаниям» и «стилизация под художника» (типа 9). Это уже вполне тянет на появлении в мире «искусственного искусства».
#ИскусственноеИскусство
1 2 3 4 5 6 7 8 9
Что сулит планируемый Китаем 30-тикратный отрыв от США в ИИ?
Все медиа мира взахлеб обсуждают новую языковую модель PaLM от Google. Эта супергигантская ИИ-система обучалась на 540 миллиардов параметров (втрое больше, чем у знаменитой GPT-3), за счет чего удалось совершить очередной прорыв в качестве обработки языка.

Система PaLM способна рассуждать, применяя арифметическое и логическое мышление.
Она на раз-два решает задачи типа: «У Роджера 5 теннисных мячей. Он покупает еще 2 упаковки мячей. В каждой упаковке по 3 мяча. Сколько теннисных мячей теперь у Роджера?»

PaLM умеет объяснять
Например, шутку
«Я собирался лететь в гости к семье 6 апреля. Но мама сказала, что у отчима поэтические чтения в этот вечер, и я решил лететь 7го»
PaLM объясняет так
«Шутка в том, что мать говорящего пытается уговорить его пойти на поэтические чтения отчима, но говорящий не хочет идти, и поэтому он меняет свой рейс на следующий день после поэтических чтений».

PaLM выстраивает цепочки рассуждений.
Например, систему спрашивают:
«Дженни смотрит в окно и видит под собой очень красивое облако. Она отстегивает ремень безопасности и направляется в туалет. Возможно ли, что Дженнифер движется со скоростью более 300 миль в час относительно Земли?»
Цепочка рассуждений PaLM:
«300 миль в час – это около 480 км/ч. Это, примерно, скорость коммерческого самолёта. Облака обычно находятся ниже самолётов, поэтому Дженнифер, вероятно, летит на самолёте»
Следовательно, ответ «Да».

А теперь внимание.
✔️ ИИ системы PaLM умеет все вышеупомянутое (и много больше) используя в языковой модели для предварительного обучения до 540 млрд параметров.
✔️ ИИ-платформу BaGuaLu – совместную разработку Университета Цинхуа, Alibaba Group, Zhejiang Lab и Пекинской академии искусственного интеллекта: уже обучают на 2-х триллионах параметров; до конца года планируют довести до 14,5 трлн, а потом и до 174 трлн параметров.

Это значит, что уже до конца года у Китая может появиться отрыв в мощности языковых моделей от США в несколько десятков раз.
Ну а что будут уметь столь огромные модели с числом параметров, превосходящим число синапсов в человеческом мозге, мы не знаем. Но это может оказаться для человечества большим откровением.

Подробней см. презентацию BaGuaLu, сделанную на PPoPP несколько дней назад
https://www.youtube.com/watch?v=T3-6WH1GyRw
И описание BaGuaLu в ACM https://dl.acm.org/doi/10.1145/3503221.3508417
#Китай #БазисныеМодели #ИИ
​​Эволюция – результат работы колоссального компьютера.
Биосфера - это всемирная паутина взаимодействий.

Здание современных представлений о мире держится на нескольких краеугольных камнях фундаментальных парадигм. Среди них выделяются две. Теория относительности Эйнштейна, глубоко изменившая представления людей о явлениях неживой природы. И теория Дарвина, способствовавшая идеологической революции в области представлений о живой природе и нас самих.
Теория естественного отбора к настоящему времени вышла за рамки биологии, став своего рода идеологией, применяемой ко многим аспектам человеческой культуры, включая этику, экономику, управление, социальную организацию и образование.

Однако, даже самые фундаментальные и укоренившиеся парадигмы не вечны. История показывает, что со временем все они обновляются, расширяются или даже кардинально меняются. Но это, к сожалению, долгий, трудный и болезненный процесс из-за «ослепляющей силы» укоренившихся парадигм, как их называл Томас Кун.
Новейшие исследования говорят о том, что могущественной «ослепляющей силой» эволюционной биологии по Дарвину может быть её базовый принцип естественного отбора (непрерывной борьбы индивидуальных организмов за выживание и репродуктивное преимущество в среде ограниченных ресурсов). По Дарвину, этот принцип постулирует выживание наиболее приспособленных вариантов и их доминирование над менее приспособленными (размножение победителей определяет характер видов).
✔️ Но что, если роль индивидов и экосистемных групп в эволюции иная?
✔️ Что если эволюция возникает из кооперативных взаимодействий индивидов и экосистемных групп?

Ведь согласно современным научным представлениям, все живые системы — клетки, организмы, виды (включая Homo sapiens) и экосистемы — выживают в обширных сетях взаимодействий и группового сотрудничества.
✔️ Что если «единицы» эволюции не дискретные сущности (ген, особь или вид), а наборы связанных взаимодействий в разномасштабных сетях?

Ответом на эти вопросы стала новая концепцию эволюции (1), разработанная в научно-исследовательском институте им. Вейцмана лабораторией Ируна Коэна (учёный с мировым именем, заслуженный профессор и лауреат престижных премий, «ведущий иммунолог-экспериментатор и теоретик, являющийся одним из пророков, ясно видящих пределы существующих догм и умеющих предлагать новые альтернативы».

В основе концепции эволюции по Коэну не дискретные сущности, а взаимодействия на разных уровнях — молекулярном, клеточном, организменном и т. д., — которые воспринимаются как универсальная антиэнтропийная сила. Энтропия понимается как тенденция к увеличению беспорядка и рассматривается как главный избирательный фактор в эволюции. Антиэнтропийная эволюция постулируется как «универсальная», следовательно, нет нейтральных эволюционных процессов. Новая теория эволюции выдвигает принцип «выживания приспособленных» (survival of the fitted), согласно которому выживают все биологические сущности, которые противостоят энтропии с достаточным успехом, чтобы оставаться в упорядоченном состоянии. А выживание наиболее приспособленных (survival of the fittest) - частный случай механизма выживания приспособленных, способствующий местным адаптациям, отражая репродуктивные преимущества в дополнение к сопротивлению энтропии.

Новая работа лаборатории Коэна (2) развивает новую концепцию эволюции так.
• Эволюция – результат работы колоссального компьютера – биосферы, работающей «естественным автоэнкодером» (тип искусственной нейронной сети для обучения эффективному кодированию неразмеченных данных)
• Биосфера вычисляет эволюцию путем автоэнкодинга взаимодействующих организмов в биологические виды и декодируя виды в экосистемы
• Неживая материя не когнитивна - кроме своего уровня энергии, материя не несет никаких внутренних представлений о том, как или где она существует
• Вид – это когнитивная система, путем взаимодействий извлекающая смысл из информации
• Вид определяется его кодом видового взаимодействия

1 2
#Эволюция
Зарплата в $300К для гениальной молодежи.
Китайский “талантосос” включен на полную мощность.
Сегодня стало известно об очередных выгодных приобретениях компании Huawei, скупающей по миру самую талантливую молодежь.
Валерия Рябчикова, 22-летний талант, победитель ICPC 2020 (это мировая «Олимпиада по программированию» среди молодежи: около 60 тыс. участников из 3,4+ тыс университетов 100+ стран)
Илья Хлюстов, 20 лет, победитель полуфинала ICPC 2021

Три года назад в компании Huawei поняли, что пора включать “талантосос” на полную мощность.
К тому времени они уже 4 года вовсю “талантососила” по миру, выявляя самую продвинутую молодежь ежегодным проведением евразийского конкурса молодых специалистов по ИКТ Huawei Honor Cup. В борьбе за ежегодный приз в $10К в пяти номинациях (5G, AI, Cloud, IP, APP, ICT Observer и Лучший эксперт HCIE) с 2015 года приняли участие более 50К студентов и молодых специалистов в сфере ИКТ из шести стран – России, Беларуси, Грузии, Казахстана, Киргизии, Узбекистана. По словам председателя Huawei Го Пин, только в 2020-2021 годах компания наняла в общей сложности 26 000 новых молодых людей.

Однако в 2019 в Huawei решили пойти дальше – находить по миру и скупать самых гениальных из самых способных в рамках новой программы Genius Boys.
В этой программе семиэтапный отбор, пройдя который победители принимаются на работу в региональные отделения компании с супер-привлекательной для молодежи годовой зарплатой в одном из 3-х грейдов (в зависимости от показанных при отборе результатов): до $150К, до $230К и до $300К.

Принципиально важно, что для попадания в программу «Гениальной молодежи» нет никаких требований к образованию, квалификации и опыту.
Требований лишь три:
1. стремление кандидата стать технологическим лидером;
2. уже достигнутые успехи в математике, компьютерах, физике, материалах, микросхемах, интеллектуальном производстве, химии и ряде других смежных областей;
3. прохождение сита из 7-ми туров отбора.

N.B. Пример нашей чемпионки Валерии Рябчиковой весьма показателен и характерен
• на работу в Huawei пришла не только она, но и ее партнеры по команде
• тренер команды Шмелев Алексей (тоже на фото) в августе 2021 также стал старшим инженером Нижегородского института Huawei

А программа Genius Boys продолжается.
Новый набор в программу начался вчера.
#Китай #HR #Талант
Ловушка ЕГЭ для обучения машин еще опасней, чем для людей.
Тед Чан о невозможности создать AGI, пренебрегая законами Гудхарта и Кэмпбелла.
Сегодня в 19:10 по Москве, возможно, лучший фантаст современности Тед Чан расскажет на семинаре ICLR 2022 («От клеток к социумам: коллективное обучение в разных масштабах») о своем видении перспектив цифрового образования для искусственных форм жизни. А этот мой пост – одновременно тизер и резюме предстоящего выступления Теда Чана.

Не удивляйтесь, что 1м из приглашенных спикеров престижного семинара с участием звезд междисциплинарной науки Дэвида Волперта, Михаила (ныне Майкла) Левина и Джессики Флак (все трое – многократные герои моих постов), будет писатель-фантаст. Это вполне заслуженно. Ибо доклад Чана будет развитием идей ставшей знаменитой на весь мир новеллы «Жизненный цикл программных объектов», признаваемой многими ИИ-миждисциплинарщиками мира самым глубоким и проникновенным описанием принципиальной сложности создания человекоподобного ИИ (AGI).

Продолжить чтение (еще 3 мин):
- на Medium https://bit.ly/37MjKEs
- на Яндекс Дзен https://clck.ru/ggnEA
#AGI #КоллективноеОбучение #МашинноеОбучение #ТедЧан
​​Мы – боязливые обезьяны.
Страх помог нам стать людьми
.
32-й президент США Франклин Делано Рузвельт – автор крылатого выражения: «Единственное, чего нам следует бояться — это самого страха». Но умей эволюция говорить, она бы ему ответила: «Рузвельт, ты не прав!»
Интуитивное предположение - чем существо трусливей, тем это будет полезней для его выживания и размножения, - слишком упрощает реалии эволюции: если каждого куста бояться, – с голоду помрешь и потомства не оставишь, пребывая в постоянной тревоге и депрессии.

Но наши предки сумели как-то это преодолеть, став в итоге людьми в результате противостояния борющихся в них добра и зла. Результат этой борьбы внутри нас определяется тонкой настройкой нейро-химических алгоритмов, сформированных в результате миллионов лет эволюции (1).

Эволюция превратила людей в уникальных существ, обладающий качествами, отсутствующими у животных. Ни одно животное не может быть столь отзывчивым, добрым и сострадательным, и в то же время—столь жестоким, агрессивным и безжалостным.
Мы одновременно являемся одним из наименее агрессивных, и наиболее агрессивным видом. Этот «парадокс агрессивности» позволил «третьему виду шимпанзе» (как назвал наших предков Джаред Даймонд в книге «The Third Chimpanzee: The Evolution and Future of the Human Animal») превратиться в царя природы – ультра-социальный вид, способный к неограниченно масштабируемой кооперации (2 и 3).

Два новейших исследования уточняют биологические и когнитивные основы эволюционного триумфа людей. Это делается путем детального сравнения поведенческого развития шимпанзе и людей в младенчестве, ведущего к пониманию того:
• что является уникальным для человека;
• из чего складывается ультра-социальность людей.


Исследования Тобиаса Гроссманна, многие годы целенаправленно изучающего и инструментально фиксирующего различия малышей шимпанзе и людей, все более расширяют спектр наших уникальных способностей.

В работе «Becoming uniquely human? Comparing chimpanzee to human infancy» (4) установлено ускоренное просоциальное развитие двух дополнительных качеств: смех и успокаивающие ласки. Эти качества помогают младенцам людей становиться надежными и ценными партнерами по сотрудничеству. Они не только облегчают получение заботы матери, но и адаптивно повышает шансы на выживание и долгосрочное размножение в человеческих группах, построенных на отношениях сотрудничества.

А в только что вышедшей работе «The human fear paradox: Affective origins of cooperative care» (5) показано, что уже в младенчестве люди более пугливы, чем шимпанзе. До сих пор считалось, что повышенная боязливость не является адаптивным качеством, т.к. увеличивает риск развития тревоги и депрессии. Но если это так, почему же эволюция развила боязливость у людей сильнее, чем у шимпанзе?
Гроссманн разрешает «парадокс страха» сформулированной им «Гипотезой боязливых обезьян»: в контексте совместного ухода и кооперации, уникальных для групповой жизни наших предков, повышенная боязливость была адаптивной. Гипотеза основана на обобщении исследований с участием младенцев шимпанзе и детей, демонстрирующих связь между боязливостью, большей чувствительностью и точностью в обнаружении страха у других и повышенным уровнем кооперативного поведения.

#Эволюция #HomoSapiens

1 2 3 4 5
​​Первый принц Метаверса.
Куда бы вы ни ступили, ваши шаги превращаются в великие дела.

Колоссальное ускорение течения времени наглядно иллюстрируется сокращением сроков материализации техно-прогнозов. Сроки в годах здесь встречаются все реже, а в месяцах – чаще.

В начале января мой видеорассказ «Метавселенная как новая экономика» (1) даже не самыми зашоренными экспертами был воспринят с изрядной долей скепсиса: мол, какая там экономика, - сплошная VR-развлекуха.

А спустя всего 4 месяца в Метаверсе открывается штаб-квартира первого госоргана, выполняющего функции регулятора криптовалютного рынка Дубая.
«Наше присутствие в метавселенной... знаменует собой начало нового этапа движения правительства Дубая к будущему», — заявил шейх Хамдан бен Мухаммед бен Рашид Аль Мактум, наследный принц Дубая и председатель Исполнительного совета Дубая, в заявлении информационному агентству WAM.

Внешне немного смахивающий на Павла Дурова наследный принц Дубая (в кругу друзей, просто «Фазза») еще богаче. Он тратит сотни миллионов на своих «домашних питомцев» (среди которых породистые жеребцы, экзотические верблюды, белые тигры и львы) и ведет супер-активный образ жизни: экстремальные путешествия, прыжки с парашютом, зиплайн, дайвинг, рыбалка, соколиная охота, сноубординг, велоспорт и многое другое. А еще он звезда Инсты с 14+ млн подписчиков и пишет стихи.

Но и в том, что касается визионерства технологий, Фазза тоже не уступает Дурову. Его новая цель – превратить Дубай в мировой центр виртуальных активов.
• В марте, по инициативе наследного принца, правительство создало Управление по регулированию виртуальных активов Дубая (VARA). Цель нового госагентства - создание передовой правовой базы и системы регулирования виртуальных активов. Его основные функции – контроль за соблюдением требований и раскрытию информации поставщиками услуг виртуальных активов, а также лицензирование криптовалюты в ОАЭ.
• А вчера VARA объявило о своем выходе в Метаверс с открытием там своей штаб-квартиры в виртуальном мире платформы "The Sandbox" (2).

В своем заявлении Его Высочество наследный принц Фазза отметил:
"Дубай сохраняет лидирующие позиции на переднем крае технологических преобразований. Мы стали больше, чем первопроходцами, мы стали новатором и участником формирования будущего этой технологии… Расширяя ресурсы VARA на безграничную аудиторию через Метаверс, Дубай создает прототип модели децентрализованного регулятора".

Если идея создания в Метавселенной децентрализованных регуляторов всевозможных цифровых активов взлетит, это может стать ключом к новой цифровой экономике Метаверса. И тут уместно вспомнить строки одного из стихотворений принца Фаззы:
«Куда бы вы ни ступили, ваши шаги превращаются в великие дела, и какие бы идеи вы ни говорили… они уносятся в небо и расправляют крылья.»

Теперь, согласно моему январскому прогнозу, ждем объявления об открытии первого в мире агентства туристических телепортаций (виртуальных иммерсивных путешествий). Весьма возможно, и такое агентство появится не через годы, а через несколько месяцев.

1 2
Пресс-релиз WAM
#Metaverse
«Станция Дно» завершает монтаж видеопроекта «Человек и цифра. Творчество в цифровую эпоху», в рамках которого меня попросили ответить на 7 вопросов о месте человека в технологическом мире ближайших десятилетий.
1. Можно ли назвать современного человека цифровым?
2. Насколько сильно он отличается от человека прошлых эпох?
3. Цифровизация жизни – это победа или поражение человечества?
4. Что такое искусство в цифровую эпоху? Возможна ли автоматизация творческих процессов?
5. Возможно ли устройство жизни на рациональных основаниях? (и нужно ли это делать)
6. Справился ли бы с этой задачей искусственный интеллект?
7. Сможет ли искусственный интеллект обустроить наш мир или его внедрение приведет к деградации человека и исчезновению его как биологического вида?

О каждом из этих сакраментальных вопросов можно говорить подолгу. Но я уложился всего в 12 минут, пытаясь донести лишь самое главное.

Тот факт, что разговор о цифровом будущем ведется сегодня в видеопроекте «Станции Дно», имеет, на мой взгляд, довольно символическое значение. Борис Пастернак, откликаясь на события общественной жизни, пишет о станции «Дно» в поэме «Высокая болезнь», где он пытается осмыслить драматическое место интеллигенции в революции.
«Сужался круг, редели сосны,
Два солнца встретились в окне.
Одно всходило из-за Тосны,
Другое заходило в Дне.»



Целиком видеопроект «Станции Дно» будет демонстрироваться на открывающейся 8 мая в ЦТИ «Фабрика» (@cci_fabrka) выставке «Стоя на перекрестке». Художники, писатели и футурологи покажут и расскажут о своем видении будущего человека и искусства в контексте все возрастающей цифровизации.
#Технологии #Инфорги #Творчество #Искусство #ИИ
Flamingo от DeepMind творит чудеса.
Скорость развития ИИ поражает.

При полном отсутствии ключевых элементов человеческого разума - модель окружающего мира, понимание образов и текстов, здравый смысл, - сегодняшний ИИ способен на, казалось бы, немыслимое. Трудно даже представить, с какой скоростью ИИ догоняет людей, обучаясь все быстрей и эффективней.

Роман Ринг (инженер-исследователь из DeepMind) приводит убойный пример скорости приближения ИИ к способностям людей (1).

10 лет назад Андрей Карпаты — известный специалист в области ИИ, создатель одного из наиболее уважаемых в научном сообществе курсов по машинному обучению, а ныне директор по ИИ в Tesla, - написал пост о перспективах ИИ (2). Описывая в нем, насколько сложно будет для ИИ понять приложенное фото, Карпаты пишет: «… мы очень-очень далеко, и это меня угнетает».
Объясняя колоссальные трудности извлечения смыслов из этой фотографии, Карпаты приводит примеры непреодолимости для ИИ понять:
• где на фото люди, а где их отражения в зеркалах;
• что человек стоит на весах;
• что Обама положил носок ноги на чашу весов;
• как работает физика (что нажим ноги Обамы увеличит вес взвешивающегося);
• что таким образом Обама решил подшутить над взвешивающимся, а окружающих это смешит.


И вот спустя всего 10 лет DeepMind представила визуальную языковую модель Flamingo с 80 млрд параметров, способную давать текстовые ответы на комбинированный ввод, содержащий текст и изображения. Flamingo может решать довольно сложные мультимодальные задачи, используя всего несколько примеров для конкретных задач без какого-либо дополнительного обучения (3).

Роман Ринг приводит пример диалога с Flamingo, которой показали приложенную фотографию.
1. Flamingo: На фото Барак Обама – бывший президент США
2. Человек: Сколько людей на фото?
- Flamingo: Минимум 5
3. Где сделано фото?
- В школе
4. Сколько зеркал на фото?
- Минимум 2
5. На что встал человек?
- На коврик
6. Он встал на весы
- Пожалуй, вы правы.
7. Что он делает?
- Смотрит показания весов
8. А где нога Обамы?
- Справа на чаше весов
9. К чему это приведет?
- Весы покажут больший вес
10. Человек на весах в курсе этого?
- Полагаю, что нет
11. Думаешь, из-за этого люди смеются?
- Думаю, да.

В заключение предлагаю читателям подумать, что будут уметь ИИ через 10 лет даже без гипотетического AGI, а лишь продолжением тупого наращивания мощности нейронных сетей.
#ИИ

1 2 3
​​Итоги 2-х месяцев войны Китая с сетевыми алгоритмами.
Алгоритмы несут сокрушительные потери на всех фронтах.

Прошлой осенью КПК утвердила 3-х летнюю дорожную карту «обуздания алгоритмов» информационных служб Интернета.
Цель – обретение статуса «властелина мира» в соответствии с такой логикой
(подробней см. 1):
• Мир все более становится цифровым, а общество алгоритмически насыщенным (algorithmically infused societies), из чего следует, что в этом мире и обществе все больше решений принимается алгоритмами, а не людьми — т.е. мир все более управляется алгоритмами.
• Тогда тот, кто управляет алгоритмами, будет все более управлять миром.
• У государства единственный ненасильственный путь управлять кем-любо и чем-либо — принять соответствующие регламенты, положения и законы.
• Следовательно, Китай должен срочно разработать и ввести в действие законы подчинения себе алгоритмов.

Сказано- сделано: 1 марта в Китае вступил в действие закон «обуздания алгоритмов».
По сути, это «холодная война сетевым алгоритмам», объявленная сразу на 3х фронтах (подробней см. 2):
А) алгоритмам «вычисляющими людей»: рекомендующим и фильтрующим контент;
Б) алгоритмам, устанавливающим цены;
С) алгоритмам, контролирующим поиск.

Итоги 1го месяца «войны с алгоритмами вычисляющими людей» таковы
(подробней см. в 3 с переводом Джеффри Динга в 4):
• WeChat, Meituan, Bilibili, Douyin, Taobao, Weibo и Toutiao добавили кнопки для отключения функций персонализированных рекомендаций.
• Наиболее популярные приложения теперь позволяют одним кликом очистить всю историю персонализации.

Предварительные итоги 2го месяца «войны» еще более впечатляющие.
Вот лишь один мега-пример Huawei, вчера опубликовавший отчет своей AppGallery (подробней см. в 5).
 В течение первого квартала из Huawei AppGallery из-за подозрений во «вредоносной реклам» и «нарушениях конфиденциальности» было удалено 21 697 приложений.
 Из 1600 приложений WiFi в Huawei AppGallery в результате спецпроверки было удалено 725 приложений, из которых 569 были удалены из-за вредоносной персонифицируемой рекламы.

В заключение снова напомню.
Спорить о мотивации властей Китая, объявивших войну сетевым алгоритмам, нет смысла.
✔️ Официально объявляется, что цель – социальная, финансовая и психологическая защита граждан от манипулирования, монополий, дискриминации и фейков.
✔️ Но как мне видится, главным мотивом является нежелание власти терять 100%ный контроль над обществом и даже просто делиться своей властью: ни с бизнесом, ни с алгоритмами.


1 2 3 4 5
#Китай #Интернет #АлгокогнитивнаяКультура
На пути к Большому исходу в Метаверс
Перспективы будущего исхода человечества в Метавселенную вполне реальны. Такой сценарий будущего имеет далеко не нулевую вероятность стать объяснением парадокса Ферми. Как недавно прокомментировал это Александр Панов:
«Внеземные цивилизации переселяются из физического мира в виртуальную реальность, оттого в физическом мире их и не видно» (1).

Аргументация скептиков по отношению к такому сценарию, помимо философских, этических и психологических моментов, включает сомнения в возможности IT технологий. По мнению скептиков:
• массовое производство в реальном времени высоко реалистичных образов несуществующих вселенных потребует неподъемных вычислительных ресурсов;
• а если вместо высоко реалистичных образов предлагать людям убогий антураж вселенных Метаверса, типа демонстрируемого ныне Цукербергом и Со, это не заманит миллиарды людей в мир дешевых подделок реальности.


Ошибочность подобной аргументации с блеском продемонстрировал художник Лоренцо Драго, воссоздавший на игровом движке Unreal Engine 5 виртуальную среду железнодорожной станции Etchū-Daimon в японском городе Тояма.
✔️ Растягивая до максимума размеры «фото» виртуального мира станции Etchū-Daimon (2), вы вряд ли сможете зафиксировать подлог (что это не фото реальной станции).
✔️ И при просмотре приложенного 3х мин. «видео» двух прогулок (днем и ночью) по виртуальному миру станции, у вас также мало шансов обнаружить подлог.


Это неотличимое от реальности видео может вызывать у разных людей разные эстетические и психологические реакции: ласкающие взор блики солнечного света при дневной прогулке или хоррор-холодок, навеваемый ночной прогулкой.
Но вы несомненно видите реальный мир, творимый в реальном времени рендером высокого разрешения с частотой всего 7 кадров в секунду вовсе не на суперкомпьютере, а на машине с процессором AMD Ryzen 7 3700X и видеокартой NVIDIA GeForce RTX 2080.

Довольно скоро (всего через 10-15 лет) высоко реалистичное представление миров Метаверса, помимо визуализации, будет включать высоко реалистичный звук, запахи и тактильные ощущения (3).
И вот тогда-то и начнется великое переселение в Метаверс.

Грустно это, - считает Александр Панов.
И я с ним на 100% согласен
😔
#Metaverse

1 2 3
​​Происхождение жизни было источником смыслов.
Триптих-послание первооткрывателей биокосмологической физинформатики.

Возможно уже к концу этого десятилетия, 21 апреля будет отмечаться не как Всемирный день творчества и инновационной деятельности, а станет главным праздником мировой науки – Днем объединения физики, информатики, биологии и космологии в единую комплексную дисциплину биокосмологическая физинформатика.
В этот день ведущий космолог мира Эндрю Р. Лиддл и его коллега космолог Марина Кортес, совместно с всемирно известными биологом Стюартом Кауфманом и физиком Ли Смолиным:
• объявили о публикации 3х совместных работ, над которыми они работали 3 года, чтобы воплотить в жизнь видение новой научной дисциплины, которая привносит современные представления о биологических системах в физический и даже космологический контекст;
• обратились с посланием к мировой науке о необходимости смены научной парадигмы – переходе к новому научному видению мира, включающему живые биосистемы в рамки фундаментальных физических законов с далеко идущими последствиями для того, как мы рассматриваем нашу планету в ее космологическом контексте.

В 1й из 3х статей – «Биокосмология: к рождению новой науки» (1) авторы пишут об ошеломляющем доказательстве того, что современный мейнстримный взгляд на космологию, ошибочен.
• Способ продемонстрировать это утверждение - подсчитать, насколько сложна безжизненная Вселенная, и насколько сложна жизнь только лишь на одной планете Земля.
• Ключевой идеей такого расчета является «Теория смежного возможного» (2), разработанная Стюартом Кауффманом в 2008. Она основана на гипотезе, что результаты многих (если ни всех) процессов развития в ближайшем будущем ограничены объектами, которые уже существуют. Говоря словами Кайффмана, - “То, что может произойти дальше, насколько это возможно, зависит от того, что у нас уже есть… Инновации, будь то биологические или технологические, возникают в результате объединения существующих элементов для создания новизны. Затем они могут быть проверены в ходе эволюционного отбора. Но при этом невозможно заранее определить, по какому пути пойдут биологические системы. Более того. Невозможно даже сказать, какие существуют возможности, пока они не будут реализованы”. В отличие от физики, в биологии пространство состояний возможных конфигураций (конфигурационное пространство) непрерывно и непредсказуемо растет.
• Сложность всей “абиотической вселенной” без жизни составляет огромное число: (10 ^ (10 ^ 124)) - т.е. 1 с числом нулей, равным 10 в 124-й степени. Даже если бы мы могли написать ноль на каждом атоме видимой нам Вселенной, нам не хватило бы атомов, чтобы записать это колоссальное количество нулей!
• Может ли жизнь на одной крошечной голубой планете конкурировать со столь колоссальной космической сложностью безжизненной Вселенной?
Это кажется абсолютно невероятным. Но тем ни менее, - ответ «ДА»!
• Сложность жизни, даже при зарождении жизни 3,7 миллиарда лет назад, была значительно больше. Проведенное авторами компьютерное моделирование показало, что в начале мира РНК на ранней стадии эволюции жизни, сложность уже составляла (10^(10^237)). Этот уровень сложности значительно превышает сложность безжизненной Вселенной. Другие симуляции дают еще большие числа, даже с переходом к "башням экспонент" (гипероперации повторяющегося возведения степени в степень).

Биокосмологическая физинформатика (авторы сокращают это до «биокосмология») позволяет нам видеть жизнь через призму черных дыр, темной энергии и темной материи. Это первая в истории количественная оценка ценности нашей планеты во Вселенной.
Из этой оценки следует ключевой вывод:
✔️ Если абиотическая вселенная лишена смысла, то происхождение жизни наполняет ее комбинаторным взрывом инноваций, каждая из которых является источником новых смыслов.

1 2

О других статьях триптих-послания планирую написать.

#Биокосмология
«Нового средневековья» не будет.
Дроны не приведут к «эпохе вечных войн».

Таков вывод глубокого анализа, опубликованного MIT Press Direct в новом выпуске «Международная безопасность».
За последнюю пару лет в мире сложилось представление, что дроны оказывают революционное влияние на войну и мировую политику.
Считается, что дроны, якобы:
• смещают военный баланс в пользу нападения,
• уменьшают существующую асимметрию в военной силе между более слабой и более сильной стороной военного конфликта;
• девалюируют значение ближнего боя в ходе современных военных операций.
Дошло до того, что появились теоретические работы, предрекающие наступление «нового средневековья», в котором:
• множество государственных и негосударственных акторов могут вести крупномасштабные войны, что повлечет за собой тотальное усиление нестабильности и конфликтов;
• и поскольку использование дронов на войне сильно снижает финансовые затраты и людские потери, они делают более политически целесообразным для государств «продолжать стрелять вечно», открывая тем самым эпоху вечных войн.

Авторы нового отчета детально проанализировали три практический кейса войн, в которых широко использовались БПЛА: военная кампания в Западной Ливии во время второй гражданской войны в Ливии (2019–2020 гг.), гражданская война в Сирии (2011–2021 гг.) и армяно-азербайджанский конфликт из-за Нагорного Карабаха (2020 г.)

Вывод авторов – все вышеописанные предположения о военной «революции дронов» ошибочны.
✔️ В реальности к дронам применима старая как мир парадигма щита и меча (или снаряда и брони).
✔️ Дроны – это всего лишь новый «меч». Им противостоит новый «щит» из 3х элементов: новые системы ПВО, системы радиоэлектронной борьбы и специально обученный квалифицированный военный персонал (люди плюс элементы ИИ).
✔️ При наличии у обеих сторон трех названных элементов нового «щита», никакой революции в военных конфликтах не будет.

Но все может кардинально измениться в будущем – когда управление и «щитом», и «мечом» 100%но перейдет к ИИ, исключив человека из контура управления.
Но это будет уже не «новое средневековье», а нечто еще более опасное.

https://direct.mit.edu/isec/article/46/4/130/111172/Why-Drones-Have-Not-Revolutionized-War-The
#БПЛА #Война #ИИ
​​Итиель Дрор – разрушитель башен экспертной предвзятости
Будучи абсолютно невиновным, любой из нас может запросто оказаться в тюрьме. И очень надолго, если суд по ошибке признает нас виновным в убийстве. Для этого достаточно всего лишь ошибки эксперта из-за существующих у него в изобилии когнитивных предубеждений.
• Отпечатки пальцев не лгут. … Но верно и то, что отпечатки пальцев не говорят. За них говорят эксперты-криминалисты, на основании заключений которых суд выносит решение. Но эксперты люди, а люди могут ошибаться.
• Эксперты-патологоанатомы с куда большей вероятностью объявят смерть ребенка убийством, а не несчастным случаем, если ребенок был чернокожим и доставлен в госпиталь бойфрендом матери, чем если бы ребенок был белым и доставлен бабушкой.


Мы не знаем, какова на самом деле реальность. Нам доступен лишь пазл из фрагментов, сконструированных мозгом в ответ на сигналы от органов чувств.
И для судебных экспертов это так же справедливо, как и для любого из нас.
Наша цивилизация построена из огромных башен экспертной предвзятости. Эти башни, способные легко ломать жизни тысяч людей, легко сотрут в порошок любого, кто бросит им вызов.

Но такой человек всё же нашелся. Его зовут Итиель Дрор и он -  нейробиолог и специалист в области когнитивного мышления.

Только что в Science вышла интереснейшая статья «The Bias Hunter» (1) о битве Итиеля Дрора с «международной мафией» судебно-медицинских экспертов, обвинивших Дрора в непрофессионализме и нарушении этических норм после опубликования им результатов исследования широкого спектра когнитивных предубеждений экспертов.
Эта битва может очень дорого стоить Дрору. Но он храбр и не отступит, а будет биться до конца. Прозванный «Охотником за предубеждениями», Дрор поклялся доказать миру страшную угрозу последствий когнитивных искажений профессиональных экспертов.

Более подробно о Дроре и предыстории его битвы с «международной мафией» судебно-медицинских экспертов читайте в моем лонгриде «Слепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов» (2).
Рюмка коньяка под хороший лонгрид, - что может быть лучшим завершением уикенда.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
1 2
​​Когда обрушается национальная экономика при разрывах цепочек поставок?
Ответ впервые дан Венским научным центром сложности.

Пандемия COVID-19 коренным образом изменила представления о том, насколько хрупкой оказывается современная сильно связанная экономика при нарушении цепочек поставок. Дефицит легко возникает в самых различных секторах: от производства продуктов питания и вакцин, до компьютерных микросхем и автомобилей.
А что будет с экономикой целой страны, если в силу тех или иных причин у нее окажется разрушена значительная часть цепочек поставок?
Этот вопрос (далеко не праздный, а весьма актуальный для нас) до последнего времени не имел конкретного ответа. Понятно было лишь, что будут плохо. Но насколько плохо, никто не знал.


Только что опубликованное в Nature исследование «Quantifying firm-level economic systemic risk from nation-wide supply networks» впервые дает количественный ответ на этот вопрос.

Исследователи из Венского научного центра сложности (CSH) создали полную модель экономики Венгрии. Точнее, всю производственную сеть страны, включающую 91 тыс. фирм со всеми их цепочками поставок, клиентами и покупателями (см. приложенный рисунок сети). Обладая столь подробной моделью национальной экономики, авторы исследования смогли вычислить ее системные риски при нарушении цепочек поставок каждого из предприятий.

Выводы исследования показали поразительную хрупкость современной национальной экономики при нарушении цепочек поставок.
• Оказалось, что реальную экономику нельзя рассматривать как совокупность отдельных цепочек поставок. Это тесно связанная сеть, в центре которой существует предельно запутанный клубок связей между примерно четвертью всех национальных компаний.
• При нарушении цепочек поставок всего 32 компаний Венгрии (это всего 0,035% от их общего числа), пострадает 23% национального производства, что может иметь очень тяжелые последствия для национальной экономики.
• Полная катастрофа - масштабный эффект снежного кома (или эффект домино), ведущий к обрушению 75% национальной экономики, - может произойти при нарушении цепочек поставок всего 100 компаний.

Российская экономика на порядок больше венгерской. И каков здесь размер критического «снежного кома» никто пока не считал.
Но если предположить, что для обрушения четверти экономики достаточно нарушить цепочки поставок всего трех сотен компаний, а для катастрофы экономики – всего одной тысячи компаний, - то оторопь берет.

#Экономика #ЦепочкиПоставок
Подробней:
- популярно 1
- научно 2
Обыкновенный спесишизм.
Как преодолеть моральный антропоцентризм по отношению к нелюдям.

Подумайте над задачкой. Если, не дай бог, вам пришлось бы столкнуться с выбором - кого спасать:
• своего домашнего питомца или бомжа из подворотни?
• ворону или стрекозу?
• дикого папуаса или студента МГУ?

Некоторые из наших фундаментальных свойств - не просто вшитый в сознание софтвер, а часть нашего неизменимого хардвера. Его не перепрограммировать и не перепрошить.

Одно из таких свойств скоро станет для человечества огромным вызовом. Ибо в 21 веке людям предстоит жить в одном мире с интеллектуальными сущностями, не являющимися людьми (если хотите, нелюдями) – разнообразными химерами: воплощенный ИИ, а также продукты биоинженерии живых интеллектуальных машин.

Первейшим вопросом сосуществования людей и нелюдей станет вопрос моральных приоритетов между ними. И здесь нет понятных решений, т.к. единственный вшитый в нас механизм такой приоритизации – это моральный антропоцентризм (приоритет моего вида – наивысший). А он легко превращается в спесишизм, а то и в протонацизм.
Спесишизм (видовая дискриминация) аналогичен расизму и сексизму в том, что это дискриминация представителей других видов либо бездумно, либо на основании, якобы, человеческого превосходства, либо из-за неверных предположений о том, что одни только видовые различия являются достаточным оправданием.
Протонацизм же, в таком контексте, - всего лишь сужение спесишизма до национального уровня (мы заведомо лучше их: евреев, цыган и прочих современных примеров).

То, насколько привычен для нас спесишизм, Ричард Докинз иллюстрирует так.
«Директор зоопарка имеет юридическое право усыпить шимпанзе, которое стало лишним, в то же время намёк на усыпление лишнего сторожа или продавца билетов будет встречен воем про циничное беззаконие. Шимпанзе - собственность зоопарка. Предполагается, что люди не являются чьей-то собственностью; при этом обоснования дискриминации в отношении шимпанзе звучат редко, и я не уверен, существует ли убедительное обоснование такого рода вообще».

Планируемое к публикации в журнале Cognition метаисследование Humans first: Why people value animals less than humans (Люди превыше всего: почему люди ценят животных меньше, чем людей) показало следующее (1).
• Ключевая движущая сила морального антропоцентризма - врожденный спесишизм людей.
• Люди отдают предпочтение людям перед животными, даже когда животные обладают более развитыми умственными способностями, чем конкретные люди.
• Моральный приоритет, присваиваемый людьми разным видам животных, определяется представлениями людей об их разуме (чем умней, тем ценней).

Вместе с тем, исследования последних лет убедительно показывают – «Мы не венец творения. А всего лишь один из вариантов эволюции разума» (2). Среди животных известны еще, как минимум, 3 варианта разума, демонстрирующего сложное поведение. Однако, люди так и не смогли преодолеть свой моральный антропоцентризм, даже не смотря на «Кембриджскую декларацию о сознании» (в ней группа ведущих когнитивных ученых пишет, что не только человек обладает нейронными субстратами, генерирующими сознание, но и все млекопитающие, птицы, и многие другие животные, вкл. осьминогов).

Удастся ли преодолеть моральный антропоцентризм людей с появлением на Земле разнообразных нелюдей, - не факт.
Тем более, что он имеет свойство превращаться в видовой абсолютизм. А это уже когнитивное искажение, рассматривающее отдельных людей, как абсолютно морально превосходных лишь потому, что они люди; а отдельных животных, - как абсолютно морально неполноценных лишь потому, что они животные.

Но мы не венец творения: ни разумом, ни моральным превосходством.
И кто кого будет держать в зоопарке, - большой вопрос.

#Cпесишизм
1 2
​​Alt Intelligence – это машинная Deep Idiocy.
Мы у развилки на пути к AGI.

Директор по исследованиям DeepMind и профессор Оксфорда Нандо де Фрейтас взорвал мировое сообщество исследователей и разработчиков ИИ.
Мы близки к достижению ИИ человеческого уровня (AGI). Теперь все дело в масштабе! Игра окончена!
— написал он в Твиттере, комментируя создание его компанией мультимодальной нейросети Gato, способной выполнять задачи разного типа, включая создание описаний к изображениям, ведение диалога, укладку блоков с помощью роборуки и аркадные игры. Уже сейчас Gato умеет выполнять 604 типа задач и более половины из них – лучше среднего человека (1).

С Нандо де Фрейтасом не согласились многие авторитеты в области ИИ.
Ян ЛеКун спокойно и рассудительно констатировал 6 очевидных фактов в пользу того, что никакой близости к AGI в обозримом будущем не наблюдается (2).
А Гэри Маркус ответил Нандо куда более развернуто и эмоционально (3).
• Ставка на безграничное масштабирование (Scaling-Über-Alles) пока не является окончательно согласованным путем построения AGI даже внутри самой DeepMind.
• И вообще, пора кончать пудрить мозги общественности, будто замена человеческого интеллекта на альтернативный – машинный (Alt Intelligence) имеет отношение к созданию человекоподобного интеллекта.

В этой словесной баталии, как ни удивительно, у каждой из сторон есть свои крепкие аргументы. Кому интересно, прочтет сам.
Я же лишь продемонстрирую несколькими конкретными примерами, насколько могут оказаться правильными оба противоположных взгляда на перспективы AGI.

Взгляд с позиции Нандо де Фрейтаса:
✔️ AGI уже близко, ибо скорость развития мультимодальных моделей огромна и нарастает.
Примеры определения места съемки по мелким деталям, увязки деталей в общем контексте фото и прогнозирования на основе контекста приведены на рис. (4)

Взгляд с усредненных позиций Яна ЛеКуна и Гэри Маркуса:
✔️ Нынешний путь не ведет к AGI. Потребуются иные пути – весьма не простые, пока не очень ясные и, уж точно, совсем не быстрые.

Вот пара примеров, подтверждающих и иллюстрирующих такую позицию.
Пример 1.
Взгляните мой недавний пост, в котором приведен поразительно рассудительный (на первый взгляд) диалог человека и визуально-языковой модели Flamingo (5).
Однако, предположение о рассудительности модели мгновенно испарится, стоит лишь взглянуть на другой (куда более короткий) диалог с той же моделью о той же фотографии – см. рис. (6). Иллюзия наличия у модели здравого смысла мгновенно исчезает после простого вопроса к ней: «Сколько на фото жирафов?». «Два» - отвечает модель. Ибо ей, - что Обама, что жираф – все одно.
Т.е. это означает, что иллюзия наличия здравого смысла у модели возникает исключительно в результате искусства человека задавать серию наводящих вопросов. Без них степень умственной отсталости модели примерна та же, что у людей в состоянии глубокой идиотии.

Пример 2 продолжает эту иллюстрацию.
Модель видит вот что (7). После чего происходит такой диалог.
1. Flamingo: Это светофор. На нем красный свет.
2. Человек: Ты видишь три круга?
- Flamingo: Да, я вижу три круга.
3. Какого они цвета?
- Красный, синий и зеленый.
4. Где зеленый круг?
- Зеленый круг справа.
5. Действительно? Справа от чего?
- Зеленый круг справа от синего круга.

Можно опускать занавес, ибо все ясно. Даже 0.001% человекоподобного интеллекта у Flamingo нет и в помине. А есть лишь способность статистически обоснованно подстраивать свои ответы под серию вопросов человека.

Мой вердикт – Фрейтас прав в том, что ИИ развивается фантастически быстро. Но Маркус ближе к истине.
#AGI
1 2 3 4 5 6 7
​​Кто оказался мудрой обезьяной в торговой войне США и Китая.
И кто в этой войне потерял руку, а кто ногу.

Субботнее эссе WSJ расставляет точки над i в вопросе:
Кто же выигрывает в торговой войне между США и Китаем?
Обе стороны заверяют, что победа за ними. Однако, на самом деле, ответ плачевен для обеих сторон.
• Ни одна из сторон не получила того, к чему стремилась.
• Обе стороны нанесли значительный ущерб своим экономикам.

В 2019 Владимир Путин на пленарном заседании Петербургского международного экономического форума образно определил место России в схватке за мировое экономическое первенство.
«У китайцев есть хорошая пословица: когда два тигра дерутся в долине, умная обезьяна сидит и смотрит, чем это закончится», — сказал Путин.

Спустя 3 года драки тигров, уже видно, что в роли умной обезьяны оказалась вовсе не Россия, а Вьетнам - настоящий бенефициар борьбы двух тигров.

Что же до самогипноза обоих «тигров», будто бы в торговой войне победил именно он, то мне нравится метафора Mish Talk:
Каждая из сторон говорит: «Мы выиграли войну, т.к. потеряли лишь руку, а противник – ногу»… И остается лишь понять, кто потерял руку, а кто ногу.

Ссылка бесплатного доступа для заинтересованных сторон
#Китай #США