​​Между шашечками и ехать Китай выбирает второе.
Опубликованы результаты 1го этапа создания в Китае «объяснимого ИИ».
В США и Китае инвестируются огромные средства в попытки решить проблему «черного ящика ИИ» путем создания ИИ, способного объяснять свои решения (XAI - Explainable AI).

В США лучшие силы от DARPA до Google уже несколько лет палят миллиарды на проекты «объяснимого ИИ». И пока тщетно, т.к. эти «объяснения» не сможет понять ни одни человек (ИИ принимает решения совершенно иным образом, чем люди).

Китай начал свой проект XAI позже. Но он учитывает все грабли, на которые уже наступили американцы. И по деньгам на свой проект китайцы, похоже, уже опережают США.

Поэтому так интересны выводы опубликованного вчера первого отчета по китайскому XAI «Концепция и практика открытия алгоритмов черного ящика», резюмирующего 1й этап совместных работ Tencent Research Institute, Tencent Tianyan Laboratory, Tencent Youtu, Tencent AI Lab.

Ключевой идеей 1го этапа стал послойный анализ алгоритмов ИИ, вскрываемых как матрёшка (Layer-by-layer analysis of "matryoshka-doll-style").

Результат, увы, не сильно вдохновляющий.
Авторы отчета в поэтическом стиле сформулировали его так.
«Откройте черный ящик и он станет белым ящиком. Но в белом ящике появится много-много черных ящиков, и потому создание объяснимого ИИ — это долгий путь».
Как говорил Том Сойер в похожей ситуации – здесь работы лет на 300.

Но самое плохое не это.
Авторы отчета пришли к выводу, что существующие алгоритмы не могут достичь одновременно высокого уровня эффективности и интерпретируемости.
Получается, - либо шашечки, либо ехать.

А значит нужны принципиально иные алгоритмы. Какие? Пока не известно.
А раз так, заключают прагматичные китайцы, - на объяснимость придется пока забить, ибо эффективность важнее в гонке за звание ИИ-супердержавы №1.

Подробней https://www.leiphone.com/category/academic/6L54BorYRiXyqA6c.html
#XAI #Китай

Темная материя интеллекта кошки.
2,5-часовое интервью главного конструктора ИИ в Meta проф. Яна Лекуна.
Это отличное интервью нет смысла пересказывать или ужимать до сухого остатка.
Мне больше всего понравилась та часть, где он говорит о том, какой интеллект мы пытаемся воспроизвести?
Обычно думают, что мы пытаемся воспроизвести высокоуровневые процессы человеческого познания. Но на самом деле, мы пока даже не замахиваемся на воспроизведение интеллекта кошки.
Самые продвинутый современный ИИ не обладает здравым смыслом, имеющимся у любой кошки.
Как же кошки учатся?
• Очевидно, что они не производят в своем мозге сложных рассуждений и логических выкладок.
• Но у них точно есть причинно-следственная модель мира, которой они пользуются в повседневной жизни.
• Также у них есть фантастически эффективная интуитивная модель физики мира и динамики движений своего тела в окружающей среде.
И все это работает лишь на 800 млн нейронов!
Мы же пока даже близко не подошли к возможности воспроизвести подобные вещи.

И поэтому следует сказать так.
Давайте даже не заморачиваться с попытками воспроизведения высокоуровневого познания, типа долгосрочного планирования и логических рассуждений людей, пока мы не воспроизведем интеллект кошки.
Этот фрагмент https://youtu.be/iug8FAl0B1U?t=220

Полное видео интервью https://www.youtube.com/watch?v=SGzMElJ11Cc
0:00 - Введение
0:36 - Самообучение
10:55 – Зрение vs язык
16:46 - Статистика
22:33 - Три проблемы машинного обучения
28:22 - Шахматы
36:25 - Животные и интеллект
46:09 - Увеличение данных
1:07:29 - Мультимодальное обучение
1:19:18 - Сознание
1:24:03 - Внутренние идеи против усвоенных идей
1:28:15 - Страх смерти
1:36:07 - Искусственный интеллект
1:49:56 - Исследование искусственного интеллекта в Facebook
2:06:34 – Конференция NeurIPS
2:22:46 - Сложность
2:31:11 - Музыка
2:36:06 - Советы для молодежи
#ИИ

​​Конец техноутопии роботакси.
Истинный недостаток беспилотных автомобилей не в технологии.
Подзаголовок повторяет название новой статьи FT о том, что главный и пока непреодолимый роадблок для роботакси – не технологии, а экономика. Экспериментов и хайпа будет еще много. Но практический выход будет почти нулевой.
• Ибо кому нужен бизнес, не приносящий прибыли.
• И кто вызовет себе роботакси, если цена по сравнению с сегодняшними Uber или Яндекс-такси будет выше, ждать машину придется дольше, а уговорить «водителя» ехать быстрее, когда опаздываешь на самолёт, будет невозможно.

Результаты исследования экономики автономных такси в Сан-Франциско, опубликованные исследователями MIT и Гарварда еще в 2020 (1), более года пытались опровергнуть. Не удалось, - оказалось всё верно. В результате в январе 2022 шарахнули уже из орудия большого калибра, рассказав об отчете, развенчавшем техноутопию роботакси в FT (2).

Эта история страшно поучительная. Т.к. сдувает дымовую завесу хайпа, оставляя на обозрение голые телеса очередного технологического короля – роботакси. Статья наглядно показывает, что во главе угла технопрогресса – вовсе не технологии, а прибыль.

В 2014 году тогдашний генеральный директор Uber Трэвис Каланик сказал, что перспектива беспилотных автомобилей представляет собой экзистенциальный вызов для Uber. На водителей-людей приходится две трети стоимости поездки на Uber, рассуждал он. И «когда в машине не будет другого чувака, стоимость поездки на Uber куда угодно будет дешевле».

Ошибка Каланика была в том, что экономика сложнее, чем он думал. А гиг-экономика работает вообще не так – по другим бизнес-моделям.
Тот же Uber ежемесячно обслуживает почти 100 млн человек в более чем 10 000 городов, и при этом у Uber нет ни одной своей машины. Все водители работают по контракту, и Uber платит им только тогда, когда они перевозят пассажиров. Например, если водитель ждет в аэропорту - это не проблема Uber. Всё что нужно Uber - это сложный софт, позволяющий максимально быстро и точно сопоставлять потребности желающих ехать и готовых предоставить им эту услугу водителей. И принципиально важно, что Uber никто не штрафует, если готовых отвезти дядю Васю водителей окажется слишком много или слишком мало.

Роботакси теряет все эти преимущества. Но главные потери
• деньги, вложенные в избыточное число авто,
• или потеря клиентов, если автомобилей «здесь и сейчас» у вас оказалось меньше, чем нужно.

И потом, беспилотный не означает работающий совсем без людей. Ведь кто-то должен выполнять кучу функций, помимо вождения: помыть, заправить, обслужить, проверить, отогнать хулиганящего подростка в конце концов …

Авторы отчета на цифрах показывают, что «роботакси заменяет всего один набор затрат (затраты на человека-водителя), ведя к общей неэффективности».

Конечно же это не значит общий бан самоуправляемым авто.
К тракторам на полях и грузовикам на оборудованных трассах это не относится. Но с роботакси – одной из самых хайповых техноутопий начала 21 века, - получится как с техноутопией «летающих автомобилей» в 20 веке по ставшему крылатым выражению Питера Тиля про Twitter: «Мы хотели летающие автомобили, а вместо этого получили 140 знаков».

И не так давно я об этом писал (3):
«Зарождающийся рынок беспилотных автомобилей вовлек в работу сотни компаний. Однако в ближайшее десятилетие беспилотники будут перевозить только большие грузы, пиццу и подъезжать к клиенту по каршеринговому заказу. В то, что беспилотники когда-нибудь заменят личный транспорт, пока не верит никто».
1 2 3
#БеспилотныеАвто

Мозг самооптимизируется по Принципу свободной энергии.
Японское открытие вписывает новую статью в «конституцию биоматематики».
Мы точно знаем, что организация работы нейронных сетей мозга так или иначе построена на самоорганизации сетей. Ибо мозг живой. А всё живое (пардон за каламбур) живет путем той или иной самоорганизации. Но что это за самоорганизация, и каков её принцип, - оставалось великой тайной до января 2022.

Но видно не зря я еще два года назад назвал Принцип свободной энергии (ПСЭ) «конституцией биоматематики». Открытие, сделанное в японском Центре исследований мозга RIKEN, показало, что нейронные сети самооптимизируются на основе этого единого принципы организации жизни и разума (1).

ПСЭ является попыткой объяснить структуру и функции мозга, предполагая, что любые адаптивные изменения в мозге минимизируют свободную энергию (т.е. ошибку предсказаний его предиктивной модели). Алгоритмически ПСЭ следует концепции машинного обучения, называемой байесовским выводом.

Этот вывод задает способ расчета вероятности события, когда становится доступной новая информация (т. е. новый сенсорный ввод). Агент принимает решения на основе новых поступающих сенсорных данных, с учетом опыта своих прошлых решений и полученных во их исполнение результатов.

Японские исследователи поставили перед искусственной нейронной сетью задачу научиться проходить лабиринт. В результате они обнаружили, что сеть самоорганизуется, изменяя силу своих нейронных связей и связывая прошлые решения с будущими результатами. При этом сеть смогла пройти лабиринт методом проб и ошибок статистически оптимальным образом.

Понять физический смысл открытия проще всего на физической аналогии.
• Для жизни энергия превыше всего.
• Биологическая оптимизация — это естественный процесс, который делает тела и поведение максимально энергоэффективными.
• Понятный поведенческий пример – увязка аллюров (паттернов походки) у лошади (или собаки, кошки …) со скоростью движения. Для каждого аллюра — шага, рыси или галопа — животные выбирают определенную, наиболее энергоэффективную для этого паттерна скорость
• FYI Во время движения шагом расход энергии в 5-6 раз выше, чем в состоянии относительного покоя, а при резвой рыси – расход энергии в 60 и более раз выше.
Затраты энергии сначала увеличиваются (см. рис. (2)) — по мере увеличения скорости в каждом стиле «походки», а затем, при смене паттерна походки с шага на рысь, а также с рыси на галоп, — уменьшаются. Каждый переход снижает количество затрачиваемых усилий: медленная рысь требует меньше усилий, чем быстрый шаг; а медленный галоп метаболически дешевле быстрой рыси. Причем каждый паттерн походки использует одно и то же отношение энергии к расстоянию (примерно 300 джоулей на метр).

Аналогичным образом нейронные сети мозга оптимизированы для обеспечения эффективного управления поведением и передачей информации, сохраняя при этом способность адаптироваться и перестраиваться в меняющихся условиях путем следованию ПСЭ – т.е. минимизируя сюрпризы в предсказаниях своей модели.

Это исследование предлагает универсальное правило для описания того, как мозг самооптимизируется.
«Наша теория может значительно снизить сложность проектирования самообучающегося нейроморфного оборудования для выполнения различных типов задач, что будет важно для ИИ следующего поколения» , — сказал ведущий автор исследования Такуя Исомура.

Так что, моим читателям есть смысл перечитать мой лонгрид «Конституция биоматематики. Основной принцип жизни и разума» (https://bit.ly/3UW9P1t)

1 2
#ПринципСвободнойЭнергии

У нас два тела (минимум).
Эпохальный прорыв японцев требует кардинального пересмотра научных представлений.
Современная наука отрицает существование физических структур, которые можно было бы отождествить с «тонкими телами» - «психодуховными» составляющими всех живых существ. Согласно же учениям йоги, суфизма, каббалы и тибетского буддизма, люди состоят не только из физической формы материи, но и «жизненной энергии», существующей вокруг тела наподобие матрёшек, каждая из которых имеет своё нефизическое (метафизическое) значение. Например, в индуизме тонкое тело (sukshma sharira) определяется как триада из пранического, ментального тела и тела сознания.

В то же время, современные научные представления о «предсказывающем разуме» (predictive mind) не только не отрицают, но и на 95% подтверждают наличие у нас в мозге модели окружающего мира и своего тела. Последняя модель, представляющая собой «тело в сознании», служит для мозга единственным источником знаний о собственном физическом теле и единственным посредником для действий с ним.

В 2022 сделан важный шаг к сближению представлений науки и не признавашихся ею представлений о «тонких телах» живых существ. Новое прорывное исследование проф. Кадзумичи Мацумия из Высшей школы информационных наук Университета Тохоку экспериментально подтвердило, что в сознании существует не одно, а несколько "тел".

В исследовании был разработан метод экспериментальной фиксации "тела в сознании" с использованием технологии виртуальной реальности.

Дело в том, что для обеспечения точного управления моторикой тела в модели "тела в сознании" имеется специальная «карта нашего тела». Нарушения в этой «карте» приводят к двигательным дисфункциям. И потому восстановление карты "тела в сознании" является ключом к преодолению двигательной дисфункции (без починки «карты» не поможет починка органа).

В течение столетия считалось, что «карта тела» применима ко всем типам двигательных действий. Проф. Мацумия поставил это под вопрос. Он решил проверить с помощью виртуальной реальности, как работает карта тела при выполнении двух различных двигательных действий: указание на предмет глазами или рукой, а также при их совместном указании.

Оказалось, что когда мы направляем движения глаз и рук на одну и ту же часть тела, эти два движения управляются разными “картами тела”, как будто существуют два "тела в сознании". И это эпохальный результат, который требует принципиального пересмотра общепринятой концепции "тела в сознании".

Этот прорыв сулит вот что.
• С практической стороны, будет способствовать развитию новых методов диагностики двигательных дисфункций и разработке более эффективных методик реабилитации.
• С точки зрения развития теории сознания, таит в себе фантастический и пока еще плохо представимый потенциал.

И кто знает, может наше умение летать во сне – это третий, спрятанный от нас тип двигательной активности, который можно активировать, если осознать свое «третье тело». А осознав, полетим: если не в физическом мире, так в метавселенной (и без каких-либо устройств управления полетом, а с помощью лишь ощущений своего «третьего тела», - так же, как «первое тело» бегает, прыгает, плавает и ездит на велосипеде).

#Сознание #Тело

​​Россия на карте мира ИИ.
Место и перспектива трёх стран в мировой ИИ-гонке.
Еще пару лет назад был смысл в применении разнообразных рейтингов для оценки положения стран в мировой ИИ-гонке (см. (1)). Теперь это уже не так. Практические успехи глубокого обучения (основное направление развития современных ИИ-систем) привели к тому, что на это направлении развития ИИ теперь приходятся 95%+ всех денег и талантов. А это значит, что как минимум на ближайшую декаду, лидеры глубокого обучения будут лидерами мировой ИИ-гонки.

А в глубоком обучении, - как в беге. Выигрывает тот, у кого лучше физическая подготовка. Конечно, есть и другие факторы (спортивный дух, настрой, воля к победе, техника …). Но без исключительно хорошей физической подготовки в гонке не выиграть.

Эквивалентом физической подготовки в современном глубоком обучении является вычислительная мощность компьютера, на котором обучаются модели со все большим числом параметров. В крупнейшей на сегодня языковой модели transformer от Microsoft число параметров составляет 530 млрд. Насколько круто возросли требования к вычислительной мощности для таких моделей видно из этого графика (2).

В результате вычислительная мощность стала главным показателем потенциала роста величины и сложности новых все более совершенных моделей глубокого обучения. И это относится как к бизнесу компаний БигТеха, так и к академическим исследовательским центрам, а также к каждой стране в целом.

Для оценки вычислительной мощности для такого рода задач обучения сверхбольших моделей создан специальный тест HPL-AI (3). Но по этому тесту пока что оценена производительность лишь 19 высокопроизводительных вычислительных комплексов мира. Поэтому для более широкого и полного сравнения самых высокопроизводительных систем для ИИ пока продолжают использовать показатель скорости вычислений с плавающей точкой (Flop/s), как это принято в рейтинге ТОР500 (4).

И по этой оценке карта мира ИИ выглядит так, как на приложенном к посту рисунке.
Совокупная вычислительная мощность каждой из стран соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующие вычислительной мощности отдельных высокопроизводительных систем.
• Россия обведена красным пунктиром (7 систем, самая мощная из них у Яндекса – 21,5 петафлопс (10^15 Flop/s)
• Китай обведен синим пунктиром (173 системы, самая мощная – 93 петафлопс – на 26% превышает производительность всех российских систем в ТОР500).
• США обведены желтым пунктиром (149 систем, самая мощная – 149 петафлопс –в 2 раза превышает производительность всех российских систем в ТОР500).

Таково сегодняшнее место России на карте мира ИИ.

А теперь о перспективе.
На этом рисунке (5) вычислительная мощность трёх новых суперкомпьютерных систем соответствует площади трёх прямоугольников:
• Желтый – это Китай: 25 января с.г. SenseTime запустил Artificial Intelligence Data Centre (AIDC) нового поколения SenseCore; его вычислительная мощность 3740 петафлопс (в 51 раз превышает производительность всех российских систем в ТОР500)
• Синий – это США: к 2023 году Facebook (Meta) доведет вычислительную мощность своего AI supercomputer RSC до 4900 петафлопс (в 67 раз превышает производительность всех российских систем в ТОР500)
• Красный – это Россия: к 2026 планируется создать суперкомпьютер на разрабатываемых сейчас отечественных процессорах «Эльбрус-32С» производительностью в 100 петафлопс.

#ИИ #HPC #Россия #Китай #США
1 2 3 4 5

​​Ловушка Тьюринга.
Попав в неё, мир с полпути повернул обратно.
«Сказали мне, что эта дорога меня приведёт к океану смерти,
и я с полпути повернул обратно.
С тех пор все тянутся передо мною кривые глухие окольные тропы»
Братья Стругацкие «За миллиард лет до конца света»

Драматический разворот технологического прогресса на кривой окольный путь стал результатом «ловушки Тьюринга». 70 лет назад великий математик предложил тест определения разумности машины, настолько хорошо имитирующей ответы человека, что их невозможно отличить от человеческих.

С тех пор создание человекоподобного искусственного интеллекта (HLAI) неявно или явно было целью тысяч исследователей, инженеров и предпринимателей. Преимущества HLAI виделись в повышении производительности за счет автоматизации и улучшении понимания нашего собственного разума.

Однако, попав в «ловушку Тьюринга», люди стали использовать ИИ для автоматизации, а не для аугментации - увеличения, усиления, приращение возможностей человека при решении стоящих перед ним задач.

Итогом разворота от аугментации к автоматизации при решении интеллектуальных задач стала замена человеческого труда машинным. В результате чего работники теряют свою роль в производстве добавленной стоимости, не могут более претендовать на свою долю в ней и становятся все более зависимыми от тех, кто контролирует технологии.

Пагубным последствиям сосредоточения внимания на HLAI посвящено эссе профессора Стэнфордского университета Эрика Бриньолфссона «Ловушка Тьюринга: Перспективы и опасности человекоподобного искусственного интеллекта» (1). Эссе будет опубликовано в весеннем выпуске журнала Американской академии искусств и наук Dædalus.

Распространенное заблуждение состоит в том, - пишет Бриньолфссон, - что все или большинство инноваций, повышающих производительность, относятся к первой категории: автоматизации. Однако вторая категория, аугментация, была гораздо более важной на протяжении большей части последних двух столетий.

Но к сожалению, технологи, бизнесмены и политики в настоящее время ведут мир к полной автоматизации, а не к аугментации, - продолжает Бриньолфссон. Технологи делают это из-за технических прецедентов, а бизнесмены - из-за стимулов к снижению эксплуатационных расходов за счет автоматизации. Политики же делают это из-за более низких налогов на прирост капитала по сравнению с налогами на прибыль, которые стимулируют деловых людей инвестировать в автоматизацию.

Только представьте, насколько слабой и ограниченной была бы наша технология, если бы инженеры прошлого нацелились просто на воспроизведение человеческих уровней восприятия, срабатывания и познания - пишет Бриньолфссон.
Дополнение людей возможностями ИИ может открыть бесконечные границы в деятельности и познании людей. В истории цивилизации люди создавали большую ценность за счет новых товаров и услуг, а не просто предлагали более дешевые версии существующих товаров.

Но что еще более важно, именно аугментация интеллектуальной деятельности формирует путь к более справедливым социально-экономическим результатам. Тогда как тотальная автоматизация интеллектуальной деятельности лишает людей возможности участвовать в экономике и ведет к беспрецедентному росту неравенству.

О том, что технологический прогресс идет не тем курсом, а ИИ ведет не просто к безработице, а к экономической стагнации, я писал 2,5 года назад (2) в рассказе о новой работе Дарона Аджемоглу.

✔️ Технологический прогресс идет не тем курсом. Мейнстрим ИИ, с его ставкой на автоматизацию - это не тот тип ИИ, что нужен бизнесу, правительствам, да и вообще людям
✔️ Альтернативный ИИ должен:
- не заменять, а дополнять и расширять интеллектуальные возможности людей, выступая во вспомогательной роли для человека, а не для его замены;
- открывать и создавать новые классы полезных и нужных людям задач.

1 2
#ИИ

​​Мир погубят не ИИ системы, а интересы их владельцев.
Чтобы выжить, цивилизации нужно менять свои экономические стимулы.
Со мной повторилась история, о которой Остап Бендер рассказывал так.
“Слушайте, что я накропал вчера ночью при колеблющемся свете электрической лампы: «Я помню чудное мгновенье, передо мной явилась ты, как мимолетное виденье, как гений чистой красоты». Правда, хорошо? Талантливо? И только на рассвете, когда дописаны были последние строки, я вспомнил, что этот стих уже написал А. Пушкин. Такой удар со стороны классика! А?”

Вот и я, давно собираясь компактно упаковать ключевую мыслью о перспективах цивилизации с распространением ИИ, вчера прочел ее прекрасно упакованной в Твиттере Джека Кларка.
И поскольку к сказанному ни убавить, ни прибавить, - то просто процитирую.

«ИИ системы решают задачи математических олимпиад, соревнуются с людьми в чемпионатах по программированию, ускоряют науку, предсказывая структуры белка, пишут стихи и художественную литературу, которые нравятся людям, и революционизируют нашу способность отслеживать изменение климата.

Но также ИИ системы значительно усиливают возможности государств по слежке за своими гражданами, учатся взламывать любую защиту в системах компьютерной безопасности, управляют уникально эффективными дронами-убийцами, идеально подделывают фото и видео, значительно упрощая массовое производство дешевой дезинформации.

Дело в том, что каждое положительное использование ИИ имеет двойное назначение, порождая и отрицательную возможность его использования. И в соответствии со структурой экономических стимулов современной цивилизации, весьма вероятно, что ИИ будет иметь больше негативных применений, чем позитивных. А поскольку развитие ИИ систем требует все больше и больше капитала, большинство таких систем будет пытаться максимизировать выгоду для их владельцев путем глобального применения».
https://twitter.com/jackclarkSF
#ИИ

​​ИИ превратит нас в Джеймса Бонда.
Разработана система предиктивного процессинга мозга автогонщика.
Сюжет нового Weekend Video вселяет большие надежды, что мир всё же сможет выбраться из «ловушки Тьюринга». Для этого нужен разворот от использования ИИ, в основном, для автоматизации, на его применение для аугментации - увеличения, усиления, приращение возможностей человека при решении стоящих перед ним задач.

Вот интереснейший и достойнейший пример.
Вместо бесконечного хайпа самоуправляемых авто в будущем, уже сейчас использовать алгоритмы для превращения людей в суперпрофессиональных гонщиков.

Чтобы избегать аварий на мокрой и скользкой трассе, профессиональные гонщики и каскадеры используют дрифт - управляемый занос на максимально возможных для удержания на трассе скорости и угле к траектории. Этот захватывающий для наблюдателя трюк – жемчужина всех автопогонь Джеймса Бонда, героев «Форсажей» и т.п., - требует от водителя (а) немыслимой для мозга обычных людей скорости моделирования движения авто и (б) недоступной для непрофессионалов скорости физического управления автомобилем.

Необходимо предельно быстро:
• смоделировать все силы, действующие на авто в данный момент;
• смоделировать все возможные варианты изменения ситуации в ближайшие десятые доли секунды (изменение сцепления с дорогой, возникновение на пути препятствий и т.д.);
• смоделировать результаты всех возможных сценариев управляющих воздействий с помощью руля, дроссельной заслонки, переключения сцепления и торможения отдельными колесами;
• выбрать оптимальный сценарий и воплотить его сверхбыстрым образом.
И все это нужно сделать не более чем за 20-ю долю секунды.

Гонщики и каскадеры так могут (завораживающее 3х мин зрелище)
А обычные люди нет. И за это приходится платить тысячами жизней.

В ходе спецпроекта Исследовательского института Toyota (TRI) были разработаны:
✔️ «система предиктивного процессинга мозга автогонщика» - модель нелинейного предиктивного контроля NMPC (это усовершенствование MPC);
✔️ усовершенствованная подвеска и системы управления двигателем, трансмиссией и оборудованием безопасности, позволяющие «системе предиктивного процессинга мозга автогонщика» управлять авто в критических ситуациях на уровне спецификации Formula Drift.

В результате обретения людьми сверхспособностей вождения авто, буду сохранены тысячи жизней. Так, идя по пути аугментации, технологии могут помочь «усилить возможности человека на дороге», в том числе в экстремальных ситуациях. И это прекрасный пример благородной задачи, которую можно решать с помощью ИИ.
#ИИ

Найден способ перенастройки соцсетей на правду.
Станут ли ФБ и ВК строить очистные сооружения при закачке ими мусора в мировой океан информации.
Фейки, деза и теории заговора затапливают глобальную сеть. Это грозит превращением главной медиасреды человечества в океан интеллектуального отстоя. Мелкие вкрапления правдивой и качественной информации останутся в этом океане наподобие островов погибших кораблей, найти и добраться до которых смогут немногие.

• Главными местами сброса инфоотстоя в мировой океан информации стали соцсети.
• А движками процесса закачки фейков, дезы и теорий заговора являются алгоритмы ранжирования.

По воле разработчиков, работающих на приумножение доходов владельцев соцсетей, алгоритмы ранжирования ежеминутно реструктурируют приоритеты доступа пользователей к информации, руководствуясь одной целью - максимизация вовлеченности пользователей, которым скармливается наиболее популярная (востребуемая) информация.
В результате такой работы алгоритмов, мировой океан информации будет безнадежно отравлен фейками, дезой и теориями заговора. Такова уж человеческая натура, что именно такой сорт информации наиболее востребован массовым пользователем, повышая также и его вовлеченность.

Как остановить процесс отравления мирового океана сетевой информации?
Ответ очевиден. Заставить алгоритмы ранжирования работать не только на повышение доходов владельцев платформ.

Понятное дело, что совсем забить на интересы владельцев нет вариантов. Но можно попытаться хотя бы ограничить их интересы, путем мониторинга «уровня загрязнения» принадлежащих им отдельных морей (конкретных платформ соцсетей).
1. Но как определить уровень загрязнения сточной информацией в конкретном море?
2. И можно ли путем мониторинга уровня загрязнения стимулировать владельцев морей не затапливать их одной грязью фейков, дезы и теорий заговора?

Новое исследование «Разнообразие политической аудитории и достоверность новостей в алгоритмическом ранжировании» отвечает на оба вопроса. Междисциплинарная группа ученых - компьютерщиков, физиков и социологов из Университета Южной Флориды нашла решение, обеспечивающее доступ пользователей социальных сетей к более надежным источникам новостей.

Как показал большой эксперимент (выборка в 7 тыс сетевых пользователей и почти 4 тыс источников новостей) индикатором уровня загрязнения информации в конкретной соцсети является разнообразие пристрастий пользователей.
Чем больше разнообразие пристрастий пользователей соцсети, тем сильнее стимулы алгоритмов продвигать более правдивый и качественный контент.

Авторы исследования отмечают, что платформы соцсетей легко смогут включать разнообразие аудитории в свои собственные алгоритмы рекомендаций, потому что меры разнообразия могут быть получены из данных о вовлеченности, а платформы уже регистрируют этот тип данных всякий раз, когда пользователи нажимают «нравится» или делятся чем-либо в ленте новостей.

Что ж, первый способ построения «очистных сооружений», ограничивающих закачку мусора в мировой океан информации, найден.
Но захотят ли его применить владельцы соцсетей?
И сможет ли общество добиться этого от них?

#СоциальныеСети #СоциальныеМедиа #ФейковыеНовости #Вызовы21века

​​США попытаются не допустить своего разгрома Китаем.
Управление наукой в Китае эффективней чем в США
Три новых документа наглядно иллюстрируют написанное в заголовке.
1) Выполненный DigiChina перевод «14-го пятилетнего плана национальной информатизации Китая», обнародованный Центральной комиссией по кибербезопасности и информатизации Китая (1).
Вот как в этом плане выглядит сводная таблицу целей информатизации на пятилетку (2).
Запланированные темпы поражают.
Например, к 2025:
• Рост доли покрытия сетями 5G увеличится с 15% до 56%
• Число новых высокотехнологичных предприятий увеличится с 275 тыс до 450 тыс
• Число патентов на IT технологии нового поколения (в расчете на 10 тыс населения) увеличится с 2,7 до 5,2
• Доля крупных промышленных предприятий, использующих облачные технологии увеличится с 13,1% до 30%
• Число онлайн пользователей госуслуг увеличится с 400 млн до 800 млн.
Подобные темпы недостижимы ни для одной из развитых стран мира.
Секрет Китая, позволяющий ему показывать такое, детально анализируется во втором документе.

2) Опубликованный вчера отчет China Aerospace Studies Institute озаглавленный «China’s Model of Science: Rationale, Players, Issues» (3)
Этот 90 страничный отчет резюмируется диаграммой, вынесенной на его обложку (её перевод приложен к настоящему посту).

Стратегия развития науки и технологий Китая направлена на Фундаментальные Исследования на основе реальных потребностей практики (понятным на Западе примером таких работ служат работы Луи Пастера).

Китай фокусирует свои финансовые и человеческие ресурсы:
• не на фундаментальные исследования (типа исследований Нильса Бора),
• не на прикладные исследования (типа работ Томаса Эдисона),
- а на Use-inspired Basic Research.

Отчет открывается упоминанием переписки Президента США Рузвельта с его советником по науке и технологиям Вэниваром Бушем в 1944 году. В этой переписке сформировалась «новая научная политика» объединения государства, университетов и бизнеса, позволившая США за 10 лет стать сверхдержавой №1.

Сегодня с аналогичным призывом к Администрации президента США о необходимости объединения государства, университетов и бизнеса написан третий из документов, про которые рассказывает этот пост.

3) Документ, озаглавленный «Возрождение партнерства Пентагона и Силиконовой долины», - это, по своей сути, обращение к правительству США Майка Брауна — директора отдела оборонных инноваций. (4)
Браун пишет о вызове со стороны Китая и России:
«Чтобы справиться с растущими проблемами, связанными с асимметричной и кибервойной, нам необходимо работать вместе — Пентагону, академическим кругам и промышленности — как мы это делали более 60 лет назад, чтобы построить Силиконовую долину и сегодняшнее технологическое лидерство нашей страны.

О том, что Китай обходит США в технологической гонке, и что единственный вариант для США переломить ситуацию – воссоздать «Инновационный треугольник Вэнивара Буша», - я подробно писал еще три (!) года назад (почитайте, - там много интересного (5)).

Похоже, до США начинает доходить, что иного способа не слить гонку за мировое лидерство Китаю уже в ближайшее десятилетие у них нет.

И это относится не только к США, но и ко всем другим странам, желающим видеть себя в клубе сверхдержав 21 века.

1 2 3 4 5
#Китай #США #ИИгонка

​​Революция революций в науке.
Синтез биологии, физики и машинного обучения объясняют феном жизни.
То, о чем так долго говорили междисциплинарщики, свершилось. Фундаментальный научный прорыв в понимании механизма функционирования Вселенной, а также возникновения и эволюции в ней жизни может стать величайшим поворотом представлений людей о мире и о своем месте в нем.
Понять качественный характер и несопоставимость масштаба с предыдущими научными революциями позволяют такие три характеристики этой «революции революций».
1. Новая фундаментальная теория дает ответ на один из самых сложных вопросов всей науки – каков механизм происхождение сложности и долговременной памяти из простых фундаментальных физических законов?
Ответ в том, что существует единый для физики и биологии принцип возникновения сложности: в её основе - конфликты между взаимодействиями на разных уровнях, которые ведут к т.н. фрустрированным состояниям материи.
2. Новая теория, описывающая рост сложности на основе фрустрации - это общефизическая, а не сугубо биологическая закономерность, неотвратимо ведущая к «движимой конфликтами эволюции»:
a. при соблюдении некоторых весьма общих условий репликации цифровых носителей информации, возникает жизнь, которая потом развивается по законам эволюции;
b. конфликты (фрустрации) приводят к самоорганизованной критичности и ведут к т.н. «большим переходам» в эволюции.
3. По сути, новая фундаментальная теория - это «теории эволюции как обучения», в которой различие между живыми и неживыми системами, каким бы важным оно ни было, можно рассматривать как различие в типе и степени оптимизации, так что все эволюционные явления могут быть описаны в одних и тех же формальных рамках теории обучения.

Авторы скромно пишут, что «представленный здесь (1, 2) анализ, является лишь наброском теории эволюции как обучения», и что «детали и последствия, в том числе непосредственно проверяемые, еще предстоит проработать».

Однако, звездный состав авторского коллектива заставляет отнестись к научным перспективам «теории эволюции как обучения» чрезвычайно серьезно.

Трое из четырех авторов, работают над этой темой уже 5 лет.
1. Евгений Кунин - одним из самых активных и влиятельных современных биологов, вед. науч. сотр. Института здравоохранения США, член Национальной академии наук США, член Американской академии искусств и наук, иностранный член РАН.
2. Михаил Кацнельсон — выдающийся советский и российский физик-теоретик, профессор Университета Радбауда, Лауреат премии Ленинского комсомола, почётный доктор Уппсальского университета (Швеция), рыцарь ордена Нидерландского льва, лауреат премии Спинозы.
3. Юрий Вольф - вед. науч. сотр. Лаборатории Кунина в Национальном центре биотехнологической информации при Институте здравоохранения США.

Год назад к ним присоединился Виталий Ванчурин — профессор физики Университета Миннесоты в Дулуте. В 2020 в статье «Мир как нейронная сеть» (3) Ванчурин попытался доказать, что Вселенная работает как космологическая нейронная сеть. Основная идея статьи обманчиво проста: каждое наблюдаемое явление во всей Вселенной можно смоделировать с помощью нейронной сети. А это означает, что сама Вселенная может быть нейронной сетью.

В результате объединения образовалась критическая масса междисциплинарности (биология, физика, машинное обучение) и бесшабашной креативности (девиз Ванчурина – фраза Эйнштейна «Воображение важнее, чем знания»).

За год (среди прочих) были опубликованы статьи:
• об эмерджентной квантовости нейросетей (4)
• о самоорганизованной критичности в нейросетях (5)
• о движимой конфликтами эволюции (6)

На подходе эмерджентная квантовость сознания
#сложность #эволюция #жизнь
1 2 3 4 5 6

Биткоин, как путь к спасению.
Станет ли криптовалюта новой религией.
Решительность властей разных стран запретить или взять под контроль криптовалюты будет лишь нарастать. Любое государство не хочет (1) делиться монопольным правом на эмиссию и (2) позволять всем подряд бесконтрольные финансовые операции. Но только ли в этих двух факторах видится властям опасность криптовалют?

Третий фактор чрезвычайной опасности криптовалют для государства лишь только начинает осознаваться.
Это превращение криптовалют в идеологическую базу для новых и вовсе не маргинальных религий.

О том, что эпоха Интернета, начавшая переход человечества от Антропоцена к Новацену, уже в первой половине 21 века приведет к возникновению новых киберрелигий, еще в 2004 предсказали Лорн Л. Доусон и Дуглас Э. Коуэн в книге «Религия онлайн: Поиск веры в Интернете».
И уже к концу 2-го десятилетия этого века начали активно обсуждаться две новые идеи интеллектуальной культуры и практик, вполне претендующие на превращение в новые киберрелигии.
• Кибертеизм, развивающийся от представлений Ника Бострома о реальности, как о компьютерной симуляции, к представлениям Марка Цукерберга о Метаверсе, как объединении физической, биологической и цифровой реальностей.
• Датаизм, развивающийся от представлений Дэвида Брукса к идеям Юваля Харари и провозглашающий, что Вселенная состоит из потоков данных, а ценность всякого явления или сущности определяется их вкладом во вселенский процессинг этих потоков.

Третьей новой киберрелигии – кибермилинаризму и прочим разновидностям формирующейся религии криптовалют, - посвящено эссе Джозефа Лейкока (доцент кафедры религиоведения Техасского университета, специалист по новым религиозным движениям, пересечению религии и массовой культуры и автор нескольких любопытных бестселлеров) «Почему люди называют Биткойн религией?». Это интересное и полезное чтение на выходных (всего 5-10 мин), изобилующее массой гиперссылок, многие из которых мастриды для желающих разобраться в теме.

В частности, автор пишет и о связи между Биткоином и милленаризмом - верой в грядущее коллективное спасение для избранной группы людей.
В христианстве тысячелетние ожидания связаны с возвращением Иисуса и окончательным судом над живыми и мертвыми. Некоторые биткойнеры верят в неизбежную грядущую «гипербиткойнизацию», при которой биткоин станет единственной действительной валютой на свете. Когда это произойдет, «биткойнеры» (верующие в биткоин и инвестировавшие в эту криптовалюту) будут спасены, в то время как «некойнеры» (так и не уверовавшие в криптовалюту), потеряют все.

На мой взгляд, шансы на широкое распространение религии кибермилинаризма, уж точно не меньше, чем у кибертеизма Цукерберга или датаизма Харари.
И хотя эссе Джозефа Лейкока допускает разные сценарии, но оно хорошо наводит на резкость в данном вопросе. И главное - оно позволяет понять, почему Биткоин стал таким привлекательным для стольких людей, что было бы невозможно, если бы Биткоин рассматривался лишь как чисто экономическое явление.
#Религия #Криптовалюта

Метаверс не про VR, а про сверхспособности.
Его главное предназначение – превращение людей в техноангелов.
Хайп метаверса, в основном, раскручивается вокруг разнообразных аспектов бытия аватаров людей в виртуальной реальность (VR): от совершенствования технологий виртуальных совещаний аватаров до соблюдения приватного пространства и предотвращения харассмента между ними.

Однако VR – это всего лишь один из механизмов мультиверса, выполняющий функции совмещения цифровой и сенсомоторной реальностей людей. Механизм важный, но далеко не единственный и, к сожалению, заслоняющий понимание истинной роли метаверса, как нового класса медиасреды ближайшего будущего.

Ибо главным отличием нового класса медиасреды будут ее возможности расширения способностей людей, вплоть до обретения ими сверхспособностей. Это превратит людей, по определению Михаила Эпштейна, в «техноангелов» или «чело-вестников», способных существовать не только в биосфере, но и в ноосфере, и обладающих способностью перешагивать границы пространства и времени, пребывая там в форме чистой информации, которая может свободно менять свой материальный носитель.

Один из первых примеров, как это уже пытаются делать, я приводил в прошлом Weekend Video.

Видео этого уикенда продолжает тему разработки механизмов обретения людьми сверхспособностей за счет синтеза трёх реальностей: физической, биологической и цифровой.
Но в новом примере показано, что число реальностей мультиверса более трёх, поскольку каждая из них, в свою очередь, состоит из нескольких дополняющих друг друга реальностей 2-го и более порядков.
В частности:
• биологическая реальность распадается на сенсомоторную и ментальную реальности;
• сенсомоторная на реальности афферентных (сенсорных) и эфферентных (моторных) механизмов;
• ментальная реальность – на когнитивную и моральную реальности и т.д.

Проиллюстрирую это анонсированным 9 февраля Sony AI совместно с Polyphony Digital и Sony Interactive Entertainment (SIE) прорывным проектом — Gran Turismo Sophy (GT Sophy).

GT Sophy – это ИИ-агент, обладающий сверхчеловеческими способностями, позволяющими ему побеждать лучших в мире киберспортивных пилотов Gran Turismo – виртуальные автогонки для игровых консолей компании Sony.

Автогонки требуют от пилота гораздо больше, чем просто умение водить машину очень быстро. Управление автомобилем, безусловно, важно, но не менее важны тактика, стратегия и довольно расплывчатое понятие этики автогонок.
• Про тактику и стратегию, полагаю, объяснять не нужно. И уж поверьте, агрессивно обгонять при первой возможности, - это совсем не то, что нужно для победы. А вот умение вовремя пропустить противника вперед, чтобы обогнать его позже, не вылетев с трассы на следующем повороте, - это как раз то, без чего победы не видать.
• Этика – не менее важное оружие. Можно забить на нее, ставя соперников при обгоне в тяжелейшие ситуации, когда избежать аварии им предельно сложно. Но это довольно быстро вернется к вам сторицей, когда вам устроят «коробочку», обиженные вами на предыдущих кругах гонщики.

GT Sophy все это умеет на сверхчеловеческом уровне. И если соревнование в июле Sophy проиграла топовым пилотам - людям 86:70 (хотя уже тогда была сильнее 95% киберспортсменов мира), то уже в октябре выиграла с двукратным преимуществом 104:52.

Обязательно посмотрите обе гонки: 1-я (1) и 2-я (2) – адреналин зашкаливает.

Цель проекта (3), по словам старшего ВП – не заменить людей ИИ-агентом, а обогатить их игровой опыт, дав им небывалые способности.

Пока Sophy еще не готова к соревнованиям на реальной машине на реальной трассе против людей, что включает в себя гораздо больше переменных, чем может имитировать игра Playstation.
Но:
1. Глубина имитации растет: уже в марте появятся тактильные ощущения и 3D звук
2. Разрабатывается система предиктивного процессинга типа NMPC (4)

1 2 3 4
#Metaverse #ИИ

Как получается, что профессиональные эксперты, привлекаемые обществом при выработке важных и ответственных решений, дают диаметрально противоположные заключения?
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.

Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.

✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?

В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.

А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.

Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века

​​Опубликован список самых влиятельных ученых мира в области ИИ в 2022 году.
Сверхдержава пока одна – США. И один кандидат на это звание – Китай.
Список 2 тыс. самых влиятельных ученых мира в области ИИ (по состоянию на январь 2022) составлен Zhipu AI Research и опубликован Университетом Цинхуа.
Список AI 2000 сформирован из 100 самых влиятельных ученых в каждой из 20 подобластей ИИ. В список вошли ученые из 43 стран мира.

✔️ ИИ сверхдержава - США (1146 топовых ученых - это 57%).
✔️ Китай нагоняет, но пока отстает аж в 5 раз (232 топовых ученых - это 12%).

Однако важно вот что.
Китайцы составляют более 30% среди ведущих мировых групп специалистов по ИИ, и их число продолжает расти. Среди них 63% китайцев работают за границей (49% в США) и только 37% работают в Китае, а остальные – в более чем в десяти странах мира, таких как Сингапур, Великобритания, Канада и Австралия. Т.е. в США работает на 12% больше талантливых китайских специалистов по ИИ, чем в самом Китае. Следовательно, в области глобального ИИ лучшие китайские ученые составляют большую силу.

Список самых влиятельных ученых мира в области ИИ в 2022 году по месту их работы выглядит так.
Как видите:
• Google всех рвет (у них 181 топовый ученый)
• Из 20-ки лучших 16 (и все 10 лучших) - представители США
• 2 представителя Китая (университет Цинхуа и Alibaba, соответственно, 13-е и 20-е места с 20 и 14 учеными), по 1 из Канады и Сингапура.

Детали см. в отчете https://static.aminer.cn/misc/pdf/AI200022.pdf

P.S. Про Россию можно сказать ставшей крылатой фразой – «нас там нет».
#ИИ #Китай #США

​​Шансы России в ИИ-гонке не хуже Китая.
Но нужна стратегия типа ИИ-ГОЭЛРО плюс ИИ-Ликбез.
«Начиная с механизации в 18 веке (1я промышленная революция), потом электрификации в 19 веке (2я промышленная революция) и затем информатизации в 20 веке (3я промышленная революция), - гигантские волны прорывных технологических инноваций...коренным образом меняли траекторию развития истории человечества...Сегодня мы переживаем еще более колоссальную по масштабу волну технологической революции и промышленной трансформации»
— Председатель КНР Си Цзиньпин
Искусственный интеллект - это новое электричество
— Эндрю Ын, ведущий исследователь ИИ и соучредитель Google Brain

Парадокс в том, что смысл ставшей крылатой фразы Ына мало кто понимает. А без понимания этого, высказывание Си – просто затасканная банальность.
Смысл сказанного Ыном в том, что прогресс в области ИИ (представляющего собой спектр Технологий Общего Назначения - ТОН) имеет совершенно иную траекторию, чем прогресс в области Технологических Продуктов и Услуг (ТПУ).

Разные траектории прогресса ТПУ и ТОН определяются разными (1) механизмами получения преимуществ от технологий и разными (2) сроками получения экономической отдачи.
• В ТПУ: ключевой механизм – монополия на инновацию, а получение экономической отдачи начинается прямо на начальной стадии внедрения.
• В ТОН: ключевой механизм – широта проникновения, а получение экономической отдачи отсрочено на позднюю стадию внедрения.

Разные траектории прогресса ТПУ и ТОН требуют совершенно разных национальных стратегий, направленных на вхождение страны в группу мировых технолидеров. И эти стратегии должны предусматривать абсолютно разную институциональную поддержку государства и бизнеса.
Для ТПУ:
• стратегия направлена на углубление технологического уровня ТПУ, обеспечивающего лидерство на мировом уровне;
• а институциональная поддержка ориентирована на помощь конкретной индустрии – производителю ТПУ в удержании ею лидирующих (а в идеале, монопольных) позиций на международном рынке.
Для ТОН:
• стратегия направлена на расширение сфер применения ТОН в различных индустриях;
• а институциональная поддержка – на стимулирование как можно более широкого применения ТОН как можно большим числом индустрий.

Отсюда следуют три вывода:
1. В отличие от ТПУ, для ТОН не принципиально важно быть в числе мировых лидеров по R&D, числу статей и патентов и даже по числу топовых ученых и инженеров, создающих и совершенствующих ТОН.
2. Самым важным для прогресса ТОН является:
(А) совершенствование инфраструктуры и оргподдержки, стимулирующих создание инновационных цепочек взаимодополняющих применений ТОН в большинстве секторов экономики;
(Б) обеспечение большого пула инженерных специалистов среднего и нижнего уровня, необходимых для внедрения и поддержки ТОН в самых разнообразных применениях широкого спектра индустрий;
(В) ориентация не на замену людей, а на расширение их возможностей.
Пояснение п. (А). Точно так же, как инфраструктура и оргмероприятия при внедрении беспроводной телеграфии отличались от оных при внедрении городского электроосвещения, пути внедрения для различных приложений ИИ будут сильно отличаться.
Пояснение п. (Б). Аналогично возникновению в ходе электрификации всей страны целой армии инженеров и техников-электриков в разных профессиональных ипостасях и во всех отраслях от авиации до колхозов, для прогресса ИИ потребуется армия специалистов из сотен тысяч ИИ-инженеров, на каждого из которых будет приходиться по 10+ ИИ-ПТУшников.

США изначально были и остаются лучше других стран подготовлены к прогрессу ИИ, как ТОН.
Руководство Китая в явном виде ориентирует национальную стратегию, как стратегию ТОН.
В России это, как мне видится, совсем не так.
Но страна в состоянии присоединиться к ИИ-гонке в группе лидеров. Для этого нужно менять стратегию, - что-то типа интегрированной стратегии ИИ-ГОЭЛРО плюс ИИ-Ликбез.

См. также 1 2 3
#ИИгонка #Китай #США #Россия

Прорыв в расшифровке кода разума.
Установлено - разум кодируется телом и эмоциями.
2я половина 20го века ознаменована выдающимся триумфом человеческого разума – расшифровка «кода жизни» (генетического кода).
В 1й половине 21 века ожидается следующий «криптографический» прорыв –расшифровка «кода самого разума», шифрующего в мозге представления о мире – его объектах и событиях.

Способность идентифицировать отдельные объекты и события в общей таксономии представлений о мире (например, «дерево», «собака», «лошадь» или «визит к зубному врачу») является фундаментальным аспектом разума. Эта способность позволяет нам быстро получать доступ к большому количеству информации, относящейся к знакомому нам объекту или событию, и использовать ее для управления своим поведением.

Но как эта информация представлена в мозге, наука до сих пор не знает. Расшифровка этого «кода разума» позволит совершить колоссальный скачок в нейронауке, когнитивных науках и создании ИИ.

Новое исследование неврологов и биомедицинских инженеров Medical College of Wisconsin (1) позволяет науке вплотную подойти к расшифровке «кода разума». Авторы исследования использовали функциональную МРТ для анализа паттернов активности мозга, соответствующих сотням знакомых понятий, и количественно охарактеризовали информационную структуру этих паттернов.

Результаты исследования показывают, что концептуальные знания хранятся в виде паттернов нейронной активности, которые кодируют сенсомоторную и аффективную информацию о каждом понятии, вопреки давней идее о том, что представления понятий не зависят от сенсомоторного опыта.

Переводя это на понятный язык, можно сказать так.
Представления об объектах и событиях, кодируемых в мозге «кодом разума», представляют собой набор из двух типов воспоминаний о прошлом опыте:
1. воспоминания о наших сенсорных ощущениях и двигательных реакций на них (сенсомоторная информация), связанных с формированием в нашем опыте представлений о конкретном событии или объекте;
2. воспоминания о наших эмоциях (аффективной информации), испытанных нами в ходе восприятия конкретных сенсорных ощущений и двигательных реакций (см. п.1).

Это значит, что «кода разума» записан с использованием двух «алфавитов» (типа букв и цифр): алфавит тела (для записи сенсомоторной информации) и алфавит чувств (для записи аффективной информации).

Из чего, как мне видится, можно сделать следующий вывод.
Разум, не обладающий телом и чувствами, невозможен. По крайней мере, - биологический разум, типа разума человека, дельфина, ворона и осьминога.
(подробней см. (2))

1 2
#Разум

NVIDIA бросает вызов Meta и Google
Ставка в этой борьбе – лидерство в Метаверсе и ИИ.
Вы не пожалеете, посмотрев хоть 20 сек нового WEEKEND VIDEO о том, что такое Omniverse от NVIDIA.
Неотличимые от реальности, чарующие и пленяющие взор предметы неповторимой красоты: светящийся изнутри нефритовый тигр, маслянистая желтовато-зеленая мякоть авокадо, зыбучий песок дзен-сада, игра отражений и всплесков воды бассена …
Всей этой красоты нет в физическом мире. Но она есть в Омниверсе – 4х мерной пространственно-временной виртуальной вселенной, творимой художниками, исследователями, дизайнерами и инженерами на открытой расширяемой платформе Omniverse от NVIDIA.

Далее в этом видео калейдоскоп разнообразных образов и явлений Омниверса: от антикварной мебели и бегающих животных, до эпицентра торнадо и галактического ветра.
У всех этих образов и явлений одно общее свойство.
Являясь образами и явлениями VR-среды, они физически точно моделируются в реальном времени.
Физическая точность симуляции означает, что в ней выполняются все важные аспекты физики:
• то, как вещи выглядят в физическом мире — это физика взаимодействия света с материей;
• и то как вещи взаимодействуют друг с другом — это физика твердого тела, физики мягкого тела и гидродинамика.
Такая физическая точность Омниверса в корне отличает его от примитивного наполнения Мультиверса, как его понимают в Meta или Baidu.

Вы, наверное, уже видели убогие обрубки аватаров людей (дабы не было за что хватать и харасить), тусующихся на социальной VR-платформе Horizon от Meta и будто скопированных из видеоигр прошлого нелепых человечков Метавселенной по-китайски Xirang от Baidu.

Цель физической точности симуляции – далеко не только в привлекательности и достоверности 4-х мерной картинки.
Главная цель точности моделирования физического мира – возможность обретения людьми сверхспособностей в объединенном физически-цифровом мире, и в первую очередь способности телепортации.

Об этом открытым текстом сказал третьего дня вице-президент по Omniverse и технологиям моделирования NVIDIA Рев Лебаредиан в развернутом интервью IEEE Spectrum (1):
«Because we believe that if you can simulate the real world closely enough, then you gain superpowers… First, you get teleportation.»
О механизмах обретения в Мультиверсе сверхспособностей и, в частности, телепортации, я подробно рассказывал в январе в своем видео-интервью (2). Тогда некоторым это показалось завиральным. Теперь о том же публично сказал отвечающий за Omniverse ВП NVIDIA. И это реальный вызов концепции позиционирования Метаверса, предлагаемой Цукербергом.

Противостояние подходов Meta и NVIDIA определит будущее Метаверса на десятилетие:
1) точная VR-симуляция для объединения физического и цифрового миров в целях обретения людьми сверспособностей
или
2) условная VR-симуляция упрощенной копии реального мира для перевода в такой Мультиверс социальных медиа, е-торговли и е-развлечений.

1-е много сложней и затратней. И как ни могуча NVIDIA, но победить Meta в этой борьбе может не сдюжить.
Единственное, что может позволить это сделать NVIDIA – их сумасшедший по наглости трюк. NVIDIA бросает вызов еще и Google. Суть вызова в опровержении тезиса «данные – это новая нефть».

• Что если данные из физического мира перестанут быть первостепенным ресурсом для обучения ИИ?
• Что если удастся заменить данные физического мира на данные, полученные в Омниверсе?

Об этом и рассказывает Лебаредиан в интервью (1).
Получается, что:
✔️ к 2030 ¾ данных будут синтетическими - не из физического мира (3)
✔️ этим также удастся побороть предвзятость ИИ из-за предвзятости данных

Так что, если Meta и Google не объединятся, NVIDIA может испортить бизнес обоим.

1 2 3
#Metaverse #ИИ

​​ИИ превращается в ящик Пандоры с неисчислимой стаей Черных лебедей внутри.
Два жутких отчета о рисках «злонамеренного ИИ», снизить которые может лишь институциональная защита.
Обобщить выводы двух новых отчетов авторитетных исследовательских организаций, можно примерно так.

А) Масштабирование (увеличение размера) больших генеративных моделей ИИ (также называемых «базисные модели) - типа CLIP, Ernie 3.0 Titan, FLAN, Gopher, GPT-3, HyperClova, Jurassic-1-Jumbo, Megatron Turing NLG, LaMDA, Pan Gu, Yuan 1.0 и пр.), - неостановимо.
(1) Этот путь уже доказал свою эффективность для решения все более сложных задач.
(2) Он экономически выгодней любых иных путей.
Т.о. используемые в ИИ размеры моделей будут неуклонно расти.

Б) Последствием роста больших генеративных моделей ИИ является непредсказуемость рисков его применения. С увеличением размера моделей ИИ буквально превращается в ящик Пандоры, в котором обитает неисчислимое множество Черных лебедей – серьёзных, «злонамеренных» последствий действий ИИ, которые заранее невозможно предсказать.
Например:
-- ИИ самоуправляемого авто может начать максимизировать безопасность своих пассажиров за счет снижения безопасности пассажиров чужих авто
-- ИИ, управляющий балансировкой нагрузки электросетей, может максимизировать удовлетворение потребностей одного класса потребителей за счет другого.
N.B. Кавычки означают, что никаких намерений у ИИ конечно нет, а «злонамеренность» получается просто по факту.

В) Поскольку предсказать Черных лебедей «злонамеренности» ИИ невозможно, остается лишь строить универсальную систему защиты, способную понизить потенциальный урон.

Г) Цивилизация придумала лишь две универсальные системы защиты от злонамеренных действий интеллектуальных агентов (людей): мораль и закон.
-- Мораль в случае ИИ не подходит, ибо это не живой продукт эволюции, а машина, у которой нет базы для существования морали.
-- А вот система регулирующих ИИ законов, устанавливаемых соответствующими институтами, а другими институтами контролируемая, - может помочь.

Д) В частности, для регулирования самого перспективного из существующих ИИ – систем на основе обучения с подкреплением (Reinforcement Learning), - необходимо срочно создать институт нормативных «отчетов о вознаграждениях». Эти отчеты для ИИ-агентов будут подобны комбинации отчетов, существующих у людей – типа интеграции финансовой декларации человека с его психометрической оценкой и личным делом.

Е) Забить на ящик Пандоры с Черными лебедями для человечества себе дороже.
-- Системы обучения с подкреплением будут действовать на все более длительных временных горизонтах, принимая все более независимые решения, напрямую манипулируя реальностью и меняя ее в соответствии со своими неизвестными людям критериями.
-- ИИ-системы глубокого обучения – это «усилители культуры», которые повторяют и усиливают когнитивные искажения, мемы и идеологию людей, в скрытой форме содержащиеся в наборах данных, на которых ИИ обучался. Но поскольку эффект масштабирования ИИ несоизмеримо сильнее даже самых влиятельных лидеров мнений, интеллектуальная слепота, предвзятость и зашоренность людей будут катастрофически расти.

• 1й отчет Predictability and Surprise in Large Generative Models опубликовала компания Anthropic, являющейся на сегодня лидером в исследованиях потенциала и рисков масштабирования ИИ.

• 2й отчет Choices, Risks, and Reward Reports: Charting Public Policy for Reinforcement Learning Systems выпущен CLTC (Центр долгосрочной кибербезопасности Беркли).

О рисках базисных моделей также см. мой пост
#БазисныеМодели #РискиИИ