Малоизвестное интересное
65.6K subscribers
102 photos
1 video
11 files
1.81K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
​​Открыт универсальный закон мобильности людей.
Это очередной шаг к созданию науки типа психоистории Азимова.

Принято считать, что большинство процессов в жизни общества не могут описываться строгими математическими законами. Уж больно непредсказуемы и парадоксальны мысли людей, равно как их поведение, решения и поступки.
Но это ошибочное представление. Жизнь социумов и целых цивилизаций описывается столь же изящными и лаконичными формулами, как и знаменитая физическая формула Эйнштейна, описывающая эквивалентность массы и энергии.

В своих постах я уже несколько лет рассказываю об открытии множества формул, описывающих динамику разнообразных жизненных процессов. Например, формулы, описывающие рост биологических существ и социумов больших городов: «формула жизни», «формула городов», «формула выборов» и т.д. (подробно см. в 1 и 2)
Буквально за последние 5 лет казавшаяся сначала сумасшедшей идея, что масштабирование эволюции жизни сложных систем (экосистемы, рынки, города, предприятия, электорат, IT- и медиа-сети, инновации, потребление электричества, темп жизни и т.д.) описывается тем же степенным законом, что и масштабирование роста живых организмов.

Новый прорыв, совершенный группой исследователей «института сумасшедших идей» (Институт сложности в Санта-Фе (SFI)), MIT и ETH Zürich, открывает еще более сумасшедший закон – «Универсальный закон мобильности людей». Этот закон, описывающий универсальную схему, следуя которой люди перемещаются между городам, будет иметь решающее значение не только для городского планирования, но и для борьбы с пандемиями (ибо такие перемещения стали главным фактором развития пандемий 3).

В новой статье, опубликованной в Nature (за пейволом 4, в обход 5) , рассматривались данные о мобильных телефонах в городах по всему миру в период с 2006 по 2013 год, включая Бостон в США, Сингапур, Абиджан в Кот-д'Ивуаре, Дакар в Сенегале и два города в Португалии.

«Универсальный закон мобильности людей» - это «формула обратных квадратов». Он определяет, что количество приезжих посетителей любого городского местоположения масштабируется как обратный квадрат расстояния от дома (конкретного приезжего) и частоты посещений (этого места тем же приезжим).

Подобно гравитационному притяжению большой планеты, красивая городская площадь с интересными музеями и отличными магазинами привлекает относительно больше посетителей из более отдаленных мест (хотя и реже), чем тех, кто приезжает из близлежащих мест. Их относительное число предсказуемо определяется формулой обратных квадратов.

Другим удивительным следствием этого нового закона является то, что одно и то же количество людей посещает конкретное место, независимо от того, приезжают ли они, скажем, из другого города на расстоянии 100 километров три раза в год или из другого города на расстояния 30 километров 10 раз в год.

«Все проблемы, с которыми мы сталкиваемся, и особенно изменение климата, возникают в городах, потому что там живут люди», - сказал Джефри Уэст (ведущий автор этой работы, с 2007 возглавляющий в SFI исследования в области науки о городах. «Это значит, что понимание городов и того, как люди перемещаются в них, помогает решать фундаментальные вопросы о будущем жизни на планете».

Посмотрите, как работает «Универсальный закон мобильности людей» в жизни, на этом одноминутном видео 6.
Более полную картину работы закона можно увидеть на анимационной инфографике 7

Источники:
1
2
3
4
5
6
7
#Сложность #Города
Политических противников будут гнобить в соцсетях, а не просто гневаться на них.
Установлено, что социосетевой хейт – ключевой фактор роста инфодемий ненависти.

Таков вывод нового исследования Кембриджского университета об «извращенных» стимулах современной социальной медиасреды.
Происходящее на наших глазах вытеснение «нормального» коронавируса вариантом «дельта» - убедительный и понятный пример того, что вирус с бОльшим R0 агрессивней и опасней вируса с меньшим значением индекса репродукции.
Эта же закономерность справедлива не только для пандемий, но и для инфодемий. И в том числе, для инфодемий ненависти.

Продолжить чтение (еще на 3 мин)
- на Medium https://bit.ly/3h6tF8g
- на Яндекс Дзен https://clck.ru/VjUSR

#Поляризация #Раскол #Соцсети #СоциальныеМедиа #АлгокогнитивнаяКультура
Кажется, что мир сходит с ума: убыстрилось время, уплотнились события, люди ведут себя странно. Будто на Земле происходит какой-то глобальный «фазовый переход». По одной из версий, его причиной может быть вхождение цивилизационных процессов в зону эволюционной сингулярности, где они становятся абсолютно непредсказуемы. Эта непредсказуемость проявляется на всех уровнях: отношения между государствами, баталии внутри обществ, непонимание между индивидами. Скорость и тотальность изменений таковы, как будто меняется траектория развития цивилизации и даже сам носитель культуры - Homo sapiens.

Точно ответить, так ли это, и почему все это происходит, наука не в состоянии — нет прецедентов, такого никогда не было. Можно лишь пытаться строить более или менее аргументированные эвристические гипотезы.


Мое большое интервью Марине Токаревой – попытка собрать из нескольких эвристических гипотез одну по возможности стройную картину мира, способную прояснить причины и механизмы происходящих в нем колоссальных перемен и нарастающей непредсказуемости, а также помогающую оценить возможные сценарии ближайших перспектив.

В 1-й половине разговора мы успели поговорить о многом.
• О теории когнитивной эволюции человека, в которой Мерлин Дональд еще четверть века назад предсказал «фазовый переход», который изменит траекторию эволюции людей.
• О дегуманизации глобальной медиа-среды человечества – переходе управления гиперсетями коллективного разума от людей к алгоритмам.
• О новом бытии, в котором нет абсолютных истин.
• Об алгокогнитивной культуре, в которой волны инфодемий одновременно накрывают страны и континенты, подобно гигантскому радиоактивному облаку.
• О механизмах социальных медиа, разделяющих и поляризующих любое общество на два непримиримых племени.
• О начавшемся переходе жизни на Земле от Антропоцена к Новацену.
• О Джеймсе Лавлоке, что в 1942 нянчил младенца Стивена Хокинга, в 1974 стал Членом Лондонского королевского общества, а в 2019 отметил свое столетие бестселлером «Новацен».
• О том, зачем, по гипотезе Лавлока, машинному супер-интеллекту и в Новацене придется сохранить людей на Земле.

Читайте 1-ю часть интервью (12 мин):
- на Medium https://bit.ly/3gXR3WL
- на Яндекс Дзен https://clck.ru/VmHKy

#УскорениеЭволюции #БудущееHomo #АлгокогнитивнаяКультура #Поляризация
Эволюционный переключатель добра и зла.
Что нужно, чтоб он снова в нас переключился.
Кант прав: «моральный закон во мне», а вовсе не интеллект является поразительным и непостижимым свойством, выделившим людей из мира животных.
Пока не известно, что за переключатель перевел эволюционную траекторию наших далеких предков на путь эволюции, делающий нас людьми (а заодно и потенциально-сверхразумным видом). Свою версию этого я изложил в неопубликованной книге «SAPIENTISSIMUS — Альтернативное будущее человечества. Как борьба добра и зла внутри нас делает нас людьми» (желающие могут познакомиться с этой моей версией по опубликованным первым двум частям книги [1, 2]).

По моей гипотезе, достаточно было, чтобы эволюция (или креативность придуманного мною в развитие идей Артура Кларка руководителя проекта «Черный монолит») смогла найти простое и эффективное решение «парадокса добра».

Суть этого решения (словами придуманного мною руководителя) была такова.
«Суть “парадокса добра” в том, что воплощающие его особи будут одновременно одним из наименее и наиболее агрессивных видов. Наименее агрессивны они будут по отношению к «своим». А наиболее агрессивны, — по отношению к «чужим». В отличие от большинства животных, в своих повседневных отношениях с ближайшим окружением («своими») они будут терпимы, доброжелательны, дружелюбны и неагрессивны. Но в то же время, они будут предельно агрессивны ко всем “чужим”, существенно чаще и эффективней, чем другие виды, убивая «чужих». Причем делая это с куда большей жестокостью и изобретательностью».

Такого решения парадокса в пользу «добра», по аргументированной в моих текстах эвристической гипотезе, могло быть достаточно, чтобы сработала «эволюционная стрелка», переводя траекторию эволюции на другой путь.

Но возможна ли новая «эволюционная стрелка» в результате иного решение «парадокса добра» - на сей раз, в пользу «зла»?
Полагаю, что да. Более того, по моим представлениям, человечество вплотную к ней приблизилось.

Новое переключение «стрелки» теперь не потребует тюнинга настроек внутренней и внешней агрессии людей. Да это и невозможно уже, согласно открытой Акопом Назаретяном гипотезы техно-гуманитарного баланса (чем выше мощь производственных и боевых технологий, тем более совершенные механизмы культурной регуляции необходимы для сохранения общества [3]). Так что теперь открутить агрессию может оказаться себе дороже, - люди просто уничтожат цивилизацию.

Однако, новое решение «парадокса добра» (на сей раз, в пользу «зла») оказывается возможным, в связи с кардинальной заменой медийной среды обитания людей.

В новой алгокогнитивной культуре:
✔️ главной эволюционной ценностью, обеспечивающей выживание и воспроизводство, становятся не деньги и власть, а «число подписчиков»; конвертация этого показателя в деньги и власть представляет собой чисто технический вопрос (хоть для видеоблогера, хоть для президента сверхдержавы);
✔️ преодолению кантовского «морального закона во мне» способствует тотальная геймификация жизни молодежи – перенос эмоционально-деятельностных аспектов их жизни в «онлайф» виртуальных игр и социальных медиа.


Результат совместного действия двух названных факторов на решение «парадокса добра и зла» в пользу последнего вы можете увидеть в только вышедшей 8 мин. короткометражке студии DUST «Счастливая охота»: чтобы набрать 50 миллионов подписчиков, популярный видеоблогер ведет трансляцию с далекой планеты, пытаясь побить рекорд 4х последовательных убийств зараженных поселенцев. И ему это удается, хотя и далеко не самым приятным способом.
https://www.youtube.com/watch?v=HQkdddJ-2uY

Внимание: это не для слабонервных 18+.

Фильм не уступает лучшим сериям «Черного зеркала». И как заметил один из рецензентов:
«Автор привел убедительные аргументы в пользу отмены стримеров, YouTube, Интернета, да и людей, как вида».

[1] http://bit.ly/32oeizi
[2] https://bit.ly/3vyPxBv
[3] http://temnyjles.narod.ru/Nzrtn/Kriz.htm
#БудущееHomo
Позавчера DigiChina (Cyber Policy Center при Стэнфордском университете) выложил в сеть полный аннотированный перевод с китайского важнейшего нового «Закона о безопасности данных» (1), вступающего в силу 1 сентября.

Этот закон повлияет не только на развитие цифрового авторитаризма Китая. Его важнейшим следствием станет проведение, по сути, национализации больших данных, собираемых в Китае технологическими гигантами: как китайскими, так и иностранными.
Но что еще важнее, - этот закон станет образцом для подражания, когда Запад, не желая проиграть конкурентную борьбу Китаю, начнет национализацию своих больших данных (о чем я писал еще 3 года назад, предупреждая о грядущей ИИ-национализации (2)).

Мой развернуты комментарий по этой теме можно посмотреть в новом интервью «Китай - Сверхдержава Искусственного Интеллекта» на канале Дмитрия Солодина – премьера завтра в 19:00 по мск.

Будут обсуждаться два ключевых вопроса:
🟢Какое супер-оружие есть у Китая и почему его уже не догнать?
🟢Как Китай станет единственной сверхдержавой к 2049 году?

Данное интервью – продолжение моего разговора с Дмитрием Солодиным "Китай станет Единственной Сверхдержавой?", уже собравшего в Youtube 344К просмотров и 10К лайков.


Ссылки на источники: 1, 2

См. также по теме: 3, 4, 5

И еще три десятка постов с тэгом #Китай
Наблюдая за чередой кажущихся необратимыми изменений, привносимых в мир пандемией, невозможно не впечатлиться их колоссальной скоростью и тотальностью. Но более всего поражает, говоря словами д.ф.-м.н. Александра Панова, «переход от 4-х миллиардов лет в основном стихийной неуправляемой эволюции (типа по Дарвину и Назаретяну) к ... не знаю к чему, но того уж больше не будет». На наших глазах как будто меняется траектория развития цивилизации и даже сам носитель культуры - Homo sapiens.

Что стоит за этими тектоническими изменениями, академическая наука, к сожалению, ответить не может:
• нет прецедентов, - ведь подобного никогда не было;
• ни одну из гипотез невозможно проверить повторимым результатом экспериментов;
• да и вообще, все это не вписывается в границы современных академических дисциплин.

Остается уповать на трансдисциплинарный подход, учитывающий также то, что может лежать между дисциплинами, «поперек» дисциплинарных границ и даже вне каких-либо границ современной науки.

А пока подобных исследований нет, можно лишь пытаться строить более или менее аргументированные эвристические гипотезы, облекая их для простоты восприятия читателями в доступную научно-популярную форму.

Что и было мною сделано в интервью Марине Токаревой. Объединив несколько весьма перспективных, но малоизвестных эвристических гипотез, я попытался на основе их синтеза представить, по возможности, стройную картину происходящего. Насколько она способна прояснить причины и механизмы наблюдаемых в мире колоссальных перемен, и помогает ли она при оценке возможные сценариев будущего, судить читателям.

Во 2-й части интервью разговор шёл о следующем.
• Алгоритмы способны менять свойства личности и даже нашу биологию.
• Эксперимент академика Беляева по тысячекратному ускорению эволюции.
• Можно ли за 300 лет изменить природу людей.
• Разделится ли человечество на два новых вида, типа «морлоков» и «элоев».
• Почему о вышеназванном в России так мало пишут.
• Как изменится соотношение добра и зла, да и сама природа этих понятий.
• Почему Илон Маск хочет улететь на Марс.
• Чем занимается загоризонтная наука.
• О синтеллектуальном краудсорсинге.
• Почему лет через 300 Карла Фристона будут помнить в одном ряду с Ньютоном и Эйнштейном.

Обо все об этом читайте (12 мин):
- на Medium https://bit.ly/3qOB6VW
- на Яндекс Дзен https://clck.ru/VuJr5

#УскорениеЭволюции #БудущееHomo #АлгокогнитивнаяКультура
​​Будущее уже наступило.
ИИ не должен быть революционным, чтобы изменить войну.

На разработку, производство и эксплуатацию самого грандиозного вооружения человечества - ядерного и термоядерного оружия, - тратятся колоссальные деньги. И при этом оно практически никак не изменило масштаб и характер (способы массовых убийств людей) войн.
На разработку, производство и эксплуатацию автомата АК-47 тратятся сравнительно мизерные средства. И при этом автомат Калашникова в корне поменял и масштаб, и способ массового убийства людей на войне.
Похожая история скоро произойдет с оружием на основе технологий ИИ.
• Война кардинально измениться.
• Но изменят ее не автономные танки с истребителями, не роботы-суперсолдаты и не суперинтеллект систем управления глобальным боем.
• Применение «обычного» ИИ изменит характер войн и тип воюющих сторон:
-- война переместится в города;
-- и воевать будут, в основном, не государства, а негосударственные субъекты в обличие мелких и средних военизированных формирований.

Новую прекрасную работу Джека Макдональда «Что если военный ИИ ждет облом?» следует прочесть не только военным. Ибо она способна стать отрезвляющим душем после опьяняющего чтения техно-сказок про чудо-возможности ИИ близкого будущего: всякие там сильные, сверхсильные и недосягаемо сильные ИИ.

Джек Макдональд – междисциплинарный военный эксперт факультета военных исследований Королевского колледжа Лондона и автор 2-х книг о взаимосвязях между этикой, законом, технологиями убийств и войной.

В своем новом эссе Макдональд анализирует причины растущего скептицизма по поводу «военной ИИ революции» все еще ожидаемой в ближайшем будущем.

Не будет никакой «военной ИИ революции», - пишет Макдональд.
• Военные, в отличие от гражданских, плохо ведутся на обещания обновленного функционала, дизайна, набора приложений и т.п.
• В новом дивном мире, где цена человеческой жизни скакнула на несколько порядков, воюющим сторонам нужно уметь: найти, распознать и убить любую цель: хоть в стоге сена, хоть на дискотеке, хоть на оживленной улице. Быстро, без шума и пыли.
• А вместо суперинтеллектуального и полностью автономного оружия, военным нужен обычный дрон с хорошим летным ресурсом и достаточным количеством взрывчатки, чтобы взорвать что-угодно, масштаба башен-близнецов.

Для пулеметов с распознаванием лиц и спутниковым наведением (типа того, что убил иранского физика-ядерщика Мохсена Фахризаде), для умных пуль типа «стрельнул в сторону противника и забыл», для роя хорошо упакованных взрывчаткой дронов, и много для чего еще – не нужен сильный сверхсильный и недосягаемо сильный ИИ. Все технологии уже есть. Осталось лишь решить оргвопросы на стыке законов и морали.

Но ведь решили же проблему самонаводящихся ракет. Никому сегодня не приходит в голову возмущаться этим «автономным оружием» и требовать его запрета. Считается, что это всего лишь автоматизации. Так почему бы не распространить «процесс автоматизации» на индивидуальное стрелковое оружие и дроны, способные на самостоятельный поиск, распознавание и уничтожение целей.

И второй важный момент, о котором пишет Макдональд.
Современный ИИ на основе машинного обучения – это быль и реальность сегодняшнего дня. Этот уже существующий ИИ способен принципиально иначе поменять суть военного противостояния сторон, чем гипотетический сильный ИИ далекого будущего.
• Сильный ИИ может позволить наиболее технологически развитым государствам уйти в отрыв от более слабых в технологиях государств и тем самым получить военное преимущество.
• «Обычный» ИИ в ближайшие годы позволит негосударственным субъектам успешно вести ограниченные по масштабу войны с любой сверхдержавой, сея хаос в ее самых уязвимых и ценных местах – больших городах.

Так что почитайте Макдональда. Очень отрезвляющее и одновременно ужасающее чтение.
https://jackmcdonald.org/book/2021/06/what-if-military-ai-sucks/

#Война #ИИ #AGI #БПЛА #ГибридныеКонфликты
Также по теме можно вспомнить еще кое какие мои посты с тэгами:
#ГибридныеКонфликты #AWS #БольшаяВойна
Разум - это физическая конструкция или «форма» души?
Без ответа на этот вопрос все исследования AGI бесперспективны.

По гамбургскому счету, общепризнанного ответа на этот вопрос у науки нет. И как показал первый профессиональный батл двух признанных специалистов:
• у обеих позиций есть крепкие аргументы;
• но этих аргументов категорически недостаточно для научного признания позиции истинной;
• скорее всего, однозначный ответ на этот вопрос станет возможен лишь в иной мировоззренческой парадигме, синтезирующей материализм и томизм.

Следовательно, продолжение дискуссий в рамках каждой из двух изолированных парадигм:
✔️ материализма: разум - это чисто физическая конструкция, и когда мы поймем, как работает нейронная машинерия мозга, мы сможем смоделировать в ИИ нового поколения не только интеллект (вычислительный аппарат мозга), но и разум;
✔️ или томизма: душа - это «форма» тела (разница между живым телом и мертвым, включающая в себя материальный элемент (эмоции) и нематериальный (рассуждения и моральный выбор)); следовательно, моделирование лишь интеллекта и материального элемента не позволит воспроизвести разум;
- бессмысленно, ибо вопрос нерешаем.

Прекрасной иллюстрацией такого вывода является батл
• доктора медицины, нейробиолога и профессора нейрохирургии с 40-летней практикой Майкла Эгнора
• с профессором философии Королевского колледжа в Лондоне, а также Кембриджского и Нью-Йоркского университетов Дэвидом Папино.

Поразительно, но философ - теоретик Папино, занимающийся проблемой разума и сознания всю жизнь и написавший про это дюжину книг, считается одним из лучших в мире защитников материалистической парадигмы. А практика - нейрохирурга Эгнора весь его 40-летний опыт убедил в обратном, - что Бог существует, и что разум реален.

Проф. Папино уверен, что так называемый «объяснительный пробел» - это просто проявление интуитивного убеждения в истинности дуализма. Дело не в том, что идентичность разума и мозга трудно объяснить - в них просто трудно поверить.

А проф. Эгнор утверждает, что дуализм - это вовсе не заблуждение, а факт: разум - это не тот же тип сущностей, что и мозг. Осознание этого факта помогает нам понять, почему люди с расщепленным мозгом или только половиной мозга могут вести нормальную психическую жизнь и почему люди с массивным и необратимым повреждением мозга могут оставаться в сознании. Так что дуалистический подход в вопросах разума - это не просто интуитивный выбор. Этот подход основан на экспериментальных доказательствах. Независимо от того, считаем ли мы дуализм жуткой химерой, мы можем наблюдать его в экспериментах.

По сути, этот часовой батл подводит черту под бесконечными дискуссиями по данному вопросу.
Все сказано, и дальше нужно «либо крестик снять, либо трусы надеть»:
• признать бесполезность гипотез на основе лишь одной из противоположных парадигм;
• или признать поражение человеческого разума в понимании работы этого разума.


Впрочем, послушайте сами этот часовой батл.

А поскольку оба профессора текстуют будь здоров, как непросто, дам также ссылки на размеченные и аннотированные стенографические брифы пяти раундов батла.

Видео батла (1 час 5 мин)
Брифы 5-и раундов: 1, 2, 3, 4, 5

#Мозг #Разум #Сознание #AGI
Если принять за аксиому, что механизм мышления - результат эволюционной переадаптации механизма движения (о чем я неоднократно писал), то смею предположить, что от методики быстрой моторной адаптации RMA до аналогичной методики «быстрой мыслительной адаптации (RTA)», - как от Земли до центра Млечного Пути (27700 световых лет). Ибо комбинаторика разнообразия характеристик взаимодействия агента с 3-х мерной средой при движении – ничто (бесконечно малая величина), по сравнению с разнообразием взаимодействий агента с бесконечномерной средой мышления.
Если это так, то для практической реализации RTA потребуется «всего лишь» понять, как (продолжая метафору) на несколько порядков превысить скорость света.
Однако, эволюции это все же удалось. Как – непонятно. Но полагаю, путь типа RMA не переносим с движения на мышление.
Совместная разработка университетов Беркли, Карнеги Мелон и Facebook AI — алгоритм адаптации движения для четвероногих роботов. Невозможно создать алгоритм движения для такого робота, который будет учитывать все возможные параметры окружения — силу трения, угол наклона, сцепление с поверхностью и так далее. В реальном мире перед роботом всегда будут появляться новые, неучтенные ранее обстоятельства. Поэтому исследователи разработали технологию, позволяющую роботу идти по любой поверхности, постоянно подстраиваясь под окружение. Параллельно работают два алгоритма: один — базовый алгоритм движения, второй — анализирует изменения поверхности по данным с акселерометров и гироскопов и сообщает первому, как надо адаптироваться. Например, при движении по песку надо приложить больше усилий, чтобы поднять ногу. Интересно, что алгоритм обучен вообще без визуальных данных — робот не "смотрит" под ноги, он буквально идет наощупь и подстраивается под каждое изменение трассы.

The system was trained entirely in simulation, in a virtual version of the real world where the robot’s small brain (everything runs locally on the on-board limited compute unit) learned to maximize forward motion with minimum energy and avoid falling by immediately observing and responding to data coming in from its (virtual) joints, accelerometers, and other physical sensors.

The robot was able to walk on sand, mud, hiking trails, tall grass and a dirt pile without a single failure in all our trials. The robot successfully walked down stairs along a hiking trail in 70% of the trials. It successfully navigated a cement pile and a pile of pebbles in 80% of the trials despite never seeing the unstable or sinking ground, obstructive vegetation or stairs during training. It also maintained its height with a high success rate when moving with a 12kg payload that amounted to 100% of its body weight.

Видео, пейпер.
Возможно ли, чтобы несменяемость лидера при тоталитарном режиме математически описывалась той же зависимостью, что и несменяемость лидерства Гарвардского и Стэнфордского университетов среди лучших в университетских рейтингах?
Совсем недавно считалось, что универсальных законов, описывающих физические, биологические и социальные процессы, быть не может, т.к. физические объекты - мертвые, биологические – живые, а социальные – мало того, что живые, но еще и с норовом свободной воли тысяч и миллионов участников).

Развитие науки показывает, что это не так:
• универсальные законы существуют;
• они формулируются даже проще, чем великий в своей простоте физический закон Е=mс^2;
• но понять эту простоту (почему совершенно разные сложные системы описываются одинаковыми формулами), увы, совсем непросто.

Вот прекрасный пример.
✔️ Открыта формула несменяемости любых лидеров.
✔️ По сути, это новый универсальной закон динамики ранжирования всего.
Продолжить чтение (еще на 3 мин)
- на Medium https://bit.ly/3wAx310
- на Яндекс Дзен https://clck.ru/W674N
#Рейтинги #Открытость #УниверсальныйЗакон
Ящик Пандоры: от антипандемийного Большого Брата к биоалгоритмическому
Выступая сегодня на площадке клуба «Валдай» в ходе дискуссии «Мутация вируса и мировой опыт ревакцинации: права человека и общества», я посчитал важным сказать о следующем.

При стратегическом анализе перспектив обычно рассматриваются три сценария: наилучший, максимально вероятный и наихудший. И поэтому при анализе перспектив развития пандемии COVID-19 было бы большой ошибкой пренебрегать последним из трёх сценариев. А он, в моем понимании, таков.

Локдаун, вакцинация, самодисциплина дистанцирования, а также попытки достижения популяционного иммунитета пока не в состоянии решить проблему остановки пандемии.
• Локдаун – необходимы большое мужество и решимость властей (а это в дефиците).
• Вакцинация – необходимы высокие уровни доверия к вакцинации и к властям (и то и другое в дефиците), а обязательная вакцинация может еще более усугубить ситуацию.
• Самодисциплина дистанцирования – необходимы высокие уровни самодисциплины и доверия к властям (и то и другое в дефиците).
• Попытки достижения популяционного иммунитета в ситуации быстрой мутации вируса не выглядят результативными.

Какие еще меры существуют?
По сути, лишь одна - контроль над развитием пандемии:
• быстрое обнаружение (сейчас – это домашние антигенные тесты; а в ближайшем будущем - носимые онлайн тестеры);
• мониторинг нераспространения (уже сейчас это устройства контроля контактов на базе смартфонов или автономных носимых устройств)

С большой вероятностью, и то, и другое будет внедрено, поскольку:
• другие методы не смогут решить проблему остановки пандеми;
• это не просто очередная пандемия, а также инфодемия страха и паники;
• эта пандемия далеко не последняя, и дальше будет лишь хуже из-за неуклонного роста глобальной связанности мира.

В этом сценарии
• ведущую роль в ограничении пандемий станет играть «Антипандемийный ББ»;
• т.к. «Антипандемийный ББ» на практике объединит средства онлайн-биомониторинга со средствами персонального слежения, тем самым будет открыт ящик Пандоры «Биоалгоритмического ББ» (для ограничения иных рисков, чем пандемии)

Что делать
• понять, что вероятность такого сценария достаточно высока;
• понять, что последствия «Биоалгоритмического ББ» будут масштабней и серьезней всех известных проблем прав человека и прав общества в целом;
• не теряя времени, необходимо начать разработку принципов, регламентов и политик соблюдения прав человека и прав общества в условиях «Биоалгоритмического ББ».

Выводы
• Влияние пандемии на права человека может быть беспрецедентным.
• Все это будет развиваться очень быстро (несколько лет, а не десятилетий)

#Эпидемия
Почему люди и машины сильны в совершенно разной деятельности: ИИ неимоверно силен в шахматах, Го, прочих играх и матанализе …, тогда как люди куда сильней в понимании языка, невербальных коммуникациях, креативности и т.д.?
Правильно ответить на этот вопрос можно лишь поняв тонкости и изыски эволюции.
Помните об алгоритмической несжимаемости опыта? Так вот, к эволюционному опыту это 100%-но применимо. Он также алгоритмически несжимаем. И потому он либо есть (у человеческого разума), либо его нет (у машинного).

Поняв это, мы сможем ответить на фантастически интересный спектр крайне любопытных вопросов:
• почему мы учимся одним вещам легко и без формальных инструкций (например, как говорить и понимать разговорный язык), а другим - с трудом и после формального обучения (например, читать и писать);
• зачем в самцов (извините, вкл. людей) вмонтирован эффект Кулиджа - постепенное снижение склонности самца к спариванию с одной и той же самкой в сочетании с повышенным сексуальным интересом к новым самкам;
• почему у самок (извините, вкл. людей) более сильная иммунная система, чем у самцов, и почему конструкция тела самок ближе к инженерному оптимуму для выживания;
• зачем нам такое чувство, как тревога;
• почему кайф после часа на беговой дорожке так быстро испаряется;
• почему сенсорные переживания в состоянии бодрствования и сна различаются;
• почему родители и дети часто имеют противоречивые предпочтения при выборе сексуальных партнеров;
• почему личностные различия наследуются;
• почему психопатия не была отфильтрована в человеческих популяциях;
• что заставляет нас жаждать еды, которая вредна для нас;
• почему подавление лихорадки может быть вредным;
• откуда в нас предвзятое отношение и избегание людей с ограниченными физическими возможностями.
• и т.д. и т.п.


Ибо все вопросы о том, почему мы такие (как и вопрос о различиях интеллекта человека и машины), не имеют смысла, кроме как в свете эволюции. Без теории эволюции наше понимание человеческого разума - во всей его удивительной сложности и очаровательных причудах, - будет весьма несовершенно.

Ответы на все вышеперчисленные вопросы рассыпаны в полусотне интереснейших научных статей. Как всеми ими поделиться с читателями?
Меня часто спрашивают об источниках «малоизвестного интересного». Мой секрет прост – главное, знать нужных людей.

Например, для ответа на все вышеназванный вопросы, достаточно знать человека по имени Лайт Аль-Шаваф из Университета Колорадо, чтобы не пропустить его новый пост «Эволюция объясняет загадочные аспекты человеческого разума» на Psychology Today.
https://www.psychologytoday.com/us/blog/six-impossible-things-breakfast/202107/evolution-explains-puzzling-aspects-the-human-mind
И обратите внимание на 3 ссылки в начале поста, отсылающие к трём предыдущим постам этой серии:
• «Семь ключевых заблуждений об эволюционной психологии»
• «"Почему" - это не то же самое, что "Как": Уровни анализа и научный прогресс в психологии»
• «Эволюционная психология: предсказательно мощная наука или просто сборник сказок?».


В каждом из этих постов вы найдете еще по полусотне полезнейших ссылок. Итого их у вас станет примерно две сотни. Классное чтиво на отпуск – лучше любого детектива 👍😉

#ЭволюционнаяПсихология #Разум
Китай вводит монополию на кибероружие.
Киберразведка и кибервоенные Китая теперь уйдут в отрыв от США.

Кибершпионаж и кибертерроризм в ближайшее десятилетие будет главным проявлением расширения кибервойн между США, Китаем и, возможно, Россией.
Локальных кибервойн будет много, и они будут чрезвычайно разнообразны. Но в основе всех их будет гонка в превосходстве своего кибероружия над противником.

В отличие от «гонки брони и снарядов» обычных войн, в кибервойнах - это гонка противников, один из которых пытается обнаружить и исправить свои уязвимости (бреши в кибербезопасности), а другой стремится обнаружить и использовать эти уязвимости первого.
Успех в такой гонке, как в перестрелках американских вестернов, - у тех, кто стреляет быстрее. Однако кардинальное отличие в том, что одна из сторон может не знать, что другая уже стреляет.

Т.о. знание об обнаружении новых уязвимостей становится дороже золота. А способность скрыть это знание от противника – дороже платины.

Разведка и военные используют эти знания в своих целях с незапамятных времен. Как только «государственные хакеры» находят какие-либо новые уязвимости в ПО, они, не ставя в известность об этом производителей ПО, начинают использовать их в своих целях.

Особую ценность здесь имеют «уязвимости нулевого дня» - программные уязвимости, для которых не было опубликовано никаких изменений или исправлений, - и потому их эксплойты (программы, использующие конкретные уязвимости) полезны в кибероперациях. При этом средняя продолжительность жизни «уязвимостей нулевого дня» около 5-7 лет. А время для разработки полностью работающего эксплойта – всего 3-4 недели. Ну и понятно, что разведка и правохранительные органы здесь гуляют по буфету по полной.

Однако, в США в 2017 при Обаме под давлением правозащитников и общественности был принят «регламент для сокрытия уязвимостей в ПО для разведки и кибервойн». Он описывает, как должен осуществляться отбор уязвимостей для дальнейшего использования в интересах правоохранительных и силовых ведомств. Им, конечно же, не запрещается продолжать гулять по буфету. Но их обязали ежегодно представлять общественности отчеты об использовании уязвимостей, включая несекретные резюме кейсов.

Ну а теперь, собственно, ударная новость.

Компартия Китая смотрела – смотрела на всю эту демократию и решила:
✔️ знание новых уязвимостей – самое ценное кибероружие;
✔️ и потому государство должно обладать монополией на него.


В Китае просто и четко: сказано – сделано. Администрация киберпространства Китая разработала новые правила (закон) по раскрытию уязвимостей, которые вступят в силу с 1 сентября.
Согласно этому закону:
✔️ Как только кто-либо обнаружит любую новую уязвимость, он обязан в течение 48 часов сообщить об этом со всеми известными техническими подробностями Администрации киберпространства Китая.
✔️ Исследователям безопасности не разрешается публиковать сведения о новых уязвимостях.
✔️ Запрещается продажа информации об «уязвимостях нулевого дня».
✔️ Исследователям также запрещен обмен данными с зарубежными организациями (за исключением производителя ПО).


Короче говоря: любой специалист в Китае должен сообщить о найденной уязвимости правительству, а власти сами решат, как и когда ее исправить (или пока не исправлять).

Т.о. пока правительство США заигрывает с общественностью, пытаясь и прозрачность соблюсти, и контроль над уязвимостями сохранить, КПК решила вопрос радикально, объявив государство монопольным регулятором всей информации о новых уязвимостях.

Подробней читайте здесь.

N.B. Аналогичные правила скоро введут и другие страны.
В Китае же они вступят в силу в тот же день 1 сентября, когда там начнется ИИ-национализация, которая должна стать важнейшим элементом «Великой стратегии Китая по смене американского миропорядка»

#Китай #США #Кибербезопасность #ИИнационализация
Люди могут научиться «видеть» ушами, подобно дельфинам.
Эксперимент подтвердил реальность гипер-ускоренной эволюции людей.

Речь идет об апгрейте (перепрошивке) мозга взрослого человека в результате специального обучения.
Прорывной экспериментальный результат, опубликованный вчера в NeuroImage коллективом под руководством профессора Амира Амеди - директора-основателя «Института мозга, познания и технологий», - это практическое подтверждение двух просто фантастических возможностей.
▪️ Применение специальных технологий обучения позволяет осуществить гипер-ускоренную эволюцию сенсорного мозга человека (в ходе естественной эволюции новые способности формируются у животных в течение сотен тысяч лет, а в лаборатории их можно сформировать после относительно короткого обучения).
▪️ В результате специального обучения, у взрослого человека можно развить даже такие сенсорные способности, что немыслимы для людей: например, научить людей, подобно летучим мышам и дельфинам, извлекать информацию о геометрических формах из сложных звуков.


Об этом прорыве нужно, конечно, написать лонгрид. Но пока совсем коротко об этом открытии.

После 15 лет обучения, слепой от рождения пятидесятилетний мужчина под кодовым именем МаМе теперь может «видеть» ушами (т.е. на слух).
МаМе прошел обширную подготовку по использованию устройства визуальной сенсорной замены под названием EyeMusic - это приложение и мини-камера, которая передает цвета, формы и расположение объектов путем преобразования изображений в «звуковые ландшафты», которые мозг может интерпретировать визуально. В «звуковых ландшафтах» музыкальные ноты (высота звука) и время представляются, соответственно, по осям Y и X - звуки более высокого тона обозначают более отдаленное местоположение, а порядок звуков во времени соответствует расположению слева направо.

Исследователи обнаружили, что в результате обучения нейронные цепи в мозге МаМе сформировали т.н. топографические карты - тип организации мозга, который, как считалось ранее, возникает лишь в младенчестве.
Из этого следуют два открытия.
✔️ Апгрейт (перепрошивка) мозга возможен не только в период младенчества и раннего детства (как считалось ранее), но и у взрослых людей.
✔️ В ходе перепрошивки можно поменять «специализацию» сенсорных областей; например, часть мозга, которая специализируется на обработке изображений, приспособить (как у летучих мышей и дельфинов) к извлечению геометрической информации о формах из звуков (естественной эволюции дельфинов на это потребовались сотни тысяч лет, после того, как 50 млн лет назад они стали уходить с суши в воду и начали повторную адаптацию к новой для них водной среде).


Это открытие – важнейшее экспериментальное подтверждение:

✔️ способности мозга приобретать специализацию, меняя прошивку на протяжении всей жизни человека;
✔️ возможности прижизненного (в рамках одного поколения) формирования новых «когнитивных гаджетов» людей при их адаптации к новой медийной среде алгокогнитивной культуры.


Подробней:
популярно 1, 2, 3
научно 4

#ПерепрошивкаМозга #УскорениеЭволюции #КогнитивныеГаджеты
​​Правительство приступает к опасному и неэтичному эксперименту.
Призываем его приостановить планы снижения уровня ограничений с 19 июля.

Про кого это? Конечно же, про Великобританию. Но и не только.
“Правительству следует отложить полное повторное открытие до тех пор, пока всем, включая подростков, не будет предложена вакцинация и уровень вакцинации не будет высоким…
Массовое заражение - это не вариант: мы должны делать больше, чтобы защитить нашу молодёжь.”


С такими призывами к правительству Великобритании обратились через журнал THE LANCET полтора десятка членов Independent SAGE (1).

Вариант «Дельта» особо страшен тем, что может оставить множество людей с последствиями в виде «длительного COVID-19». При этом непривитые молодые люди не меньше, чем их родители, подвержены риску долговременных симптомов «длительного COVID-19»: изнуряющая усталость, одышка, боли в груди, трудности со сном и проблемы с памятью и концентрацией, часто называемые «затуманивание разума».
«Дельта-всплеск может оставить сотни тысяч с длинным Ковидом» - пишет Guardian, цитируя авторов нового исследования (2).

Только что опубликованное первое в мире исследование, в котором изучаются многомесячные данные с носимых гаджетов (3), показывает длительное физиологическое воздействие вируса COVID-19, которое в среднем длится от 2 до 3 месяцев.

Сильнее всего бьет по сердцу. Сначала наблюдается брадикардия, за которой следует длительная тахикардия, которая не возвращается к исходному уровню в среднем до 79 дней после появления симптомов. При этом у молодых примерно так же, как и у старших.

Ссылки: 1, 2, 3

На графике приведено изменение пульса покоя у лиц с положительным и отрицательным тестом на ковид в течение 140 дней.
#Эпидемия
Как далеко до человекоподобного ИИ?
Самый наглядный и понятный ответ.

Баталии вокруг этого вопроса упираются в очевидное противоречие.
✔️ С одной стороны, сложился своего рода консенсус, что появление человекоподобного – «сильного ИИ» не за горами. Спорят лишь о конкретных сроках (через 15, 25, 35 или больше лет) и бюджетах на его создание.
✔️ С другой стороны, пока нет ни малейшего понимания, как «сильный ИИ» может быть устроен. Ибо про единственный пример такого интеллекта – человеческий, - не известно почти ничего. Говоря в компьютерной парадигме, мы в принципе не понимаем, как на «аппаратуре» мозга работают «программы» разума. Более того, даже о базовых вещах (без которых компьютерная парадигма теряет смысл - типа физики работы «процессора» и устройства «памяти» мозгового «компьютера»), у нас нет представлений, достаточных для их материализации в какой-либо машине.

Если даже профильные специалисты по ИИ не в состоянии хотя бы на словах разрешить это противоречие, то что говорить о неспециалистах. Ведь понимать, как далеко до появления человекоподобного ИИ, важно буквально для всех. Ибо это коснется каждого, когда (как убеждают эксперты) люди начнут одну за другой терять профессии: от социальных работников до продавцов, от преподавателей до врачей …

Так когда этого ждать? Через 15, 25, 35 или больше лет?

Самый простой и наглядный способ каждому самому прийти к ответу на этот вопрос – сравнить Софию и Тома, посмотрев 2 коротких занятных ролика и прочтя мой комментарий к ним:
- на Medium https://bit.ly/2UxyJLI
- на Яндекс Дзен https://clck.ru/WJGwJ
#AGI
Через неделю планирую рассказать о «человеке в мире будущего» на одноименном международном форуме. Говорить об этом буду в контексте, почти не обсуждаемом сегодня, но, по моему мнению, - самом важном:
о фазовом переходе Homo sapiens, в ходе которого из-за смены типа культуры у людей уже начали меняться базовые основы духовности – понимание того, что такое «истина», «добро», «зло» и «красота»; как и на что эти понятия будут меняться я и собираюсь рассказать.

Ну а чтобы долго не рекламировать самого себя, просто сделаю форвард анонса с канала форума.
Регистрируйтесь, если хотите посмотреть и послушать. Обещаю, будет интересно о самом что ни на есть малоизвестном.
Forwarded from REFORUM
​​«Технологии и духовность» — тема, которую обсудим с Сергеем Кареловым, экспертом в области междисциплинарных исследований и стратегической аналитики, автором Telegram-канала «Малоизвестное интересное».

🌐 Сергей говорит, что 5-6 тысяч лет назад человечество совершило гигантский скачок в своём развитии. С появлением письменности фактически изменился способ мышления человечества  —  появилась внешняя память. Человеческая культура и интеллект  —  это коллективный феномен, и с появлением письменности он перестал умещаться в головах людей.

Чтобы сохранить управляемость и возможность масштабирования коллективной деятельности, был создан феномен Больших Богов, которые неусыпно наблюдают и которых нельзя обмануть. Такие боги появились в Древнем Египте и Месопотамии. Это были морализующие боги, которые поменяли представление о главном  —  о том, что есть добро и что есть зло.

Сейчас человечество снова совершает глобальный прыжок в развитии, создавая всё новые технологии — мы стоим на пороге IV Промышленной революции.

⚡️ Какие «Боги» появятся в нашем будущем и появятся ли вообще? Какие моральные устои ждут наше общество? «Большой Брат» как продолжение «Больших Богов»?

Регистрируйтесь на ReForum по ссылке. Поговорим о будущем духовности:

▫️ Что такое «духовность» в современном мире, и как она проявляется в эпоху Digital
▫️ Как технологии меняют понятия «истина», «добро» и «зло» и понятие «красота»
▫️ Какие появляются новые формы духовности, и зачем нам стремиться понять происходящее.

О спикере ⤵️

Сергей Карелов работает в области IT более 30 лет, он кандидат технических наук. Занимался моделированием ядерных реакторов, руководил подразделениями крупных вычислительных центров, работал на позициях топ-менеджера в «Интерквадро», IBM, Silicon Graphics (SGI), с 2001 года — независимый эксперт-консультант по IT-бизнесу, с 2004 — председатель Совета Лиги независимых экспертов ЛИНЭКС. Сергей — основатель и CTO компании Witology.
​​Миру срочно нужен психотерапевт.
Уникальный анализ культуромики когнитивных искажений с 1855 по 2019.

Скоро будут официально опубликованы результаты уникального по объему и важности исследования «Исторические языковые записи свидетельствуют о всплеске когнитивных искажений в последние десятилетия».
Наблюдаемое в 21 веке ускорение мировых процессов все чаще заставляет использовать метафору «фазового перехода», переживаемого человечеством. И хотя академическая наука не в состоянии подтвердить или опровергнуть наличие какого-либо «фазового перехода» (напр., вхождения земной цивилизации в зону эволюционной сингулярности), практических свидетельств этого становится все больше.

На сей раз весьма убедительное свидетельство пришло из исследования культурно-лингвистической динамики (культуромики). Это новая научная область и новый метод исследований культурных и социальных процессов с помощью статистического анализа употребления слов и словосочетаний в огромных текстовых массивах. Исследования по культуромике выполняются на базе Google ngrams - хранилища всех сочетаний слов для каждого года длиной от 1 до 5 на 8 языках.

Логика данного исследования такова.
1) Ключевым фактором, позволившим нам стать теми, кто мы есть сегодня, является язык. Прогресс земной цивилизации сопровождается непрерывным и ускоряющимся ростом сложности и разнообразия используемых языков.
2) Все важные изменения в коллективной психологии людей так или иначе проявляются в их языке в ответ на разные культурные и социально-экономические вызовы.
3) Т.о., анализ культуромики позволяет отследить и оценить изменения в коллективной психологии людей.

Предметом исследования стал поиск и анализ исторических следов когнитивных искажений - паттернов мышления, связанных с такими психологическими расстройствами, как депрессия и тревога.

Поиск и анализ проводился в более чем 14 млн. книг, опубликованных с 1855 по 2019 на английском, испанском и немецком языках.

В результате анализа был выявлен ярко выраженный паттерн “хоккейной клюшки”: за последние два десятилетия текстовые индикаторы когнитивных искажений поднялись значительно выше исторических уровней (включая 1-ю и 2-ю мировые войны) после снижения или стабилизации на протяжении большей части 20-го века.

Эти результаты указывают на возможность того, что недавние социально-экономические изменения, новые технологии и социальные сети вызвали беспрецедентный рост когнитивных искажений, способствующих росту депрессии и тревоги во всех развитых обществах.

Пояснение
Люди, страдающие депрессией и тревогой, склонны к росту когнитивных искажений, в результате чего они думают о себе, мире и будущем чрезмерно негативными и неточными способами. Эти искажения связаны с заметными изменениями в настроении, поведении и речи.
Такие когнитивные искажения, например, проявляются, когда:
• люди называют себя негативными, абсолютистскими терминами (типа, “я неудачник”);
• говоря о будущем, люди впадают в крайности (типа, “моя встреча будет полной катастрофой”);
• люди делают необоснованные предположения о чьем-то душевном состоянии или мыслях (типа, “все будут думать, что я псих”).

В исследовании рассмотрели 12 типов таких когнитивных искажений: от черно-белого мышления и катастрофизации до «ясновидения» и «телепатии».

Для каждого типа когнитивных искажений существуют свои лингвистические шаблоны. Напр., в английском языке для «катастрофизации» - это will fail, will go wrong, will end, will be impossible, will not happen, will be terrible, will be horrible, will be a catastrophe, will be a disaster, will never end, will not end.

Исследователи нивелировали альтернативные влияния: учли изменения языков, объемов публикуемых текстов и семантические сдвиги.

Вывод однозначный – миру срочно нужен психотерапевт.
Из-за чего?
Скорее всего, из-за смены медиа-среды, стимулирующей поляризацию "мы-против-них".


P.S. Канал уходит в небольшой отпуск. Счастливо!

#КогнитивныеИскажения #Язык
​​Обнаружен непреодолимый риск использования ИИ в медицине.
Обладающий недоступным для людей знанием ИИ потенциально опасен.

Посмотрите на рисунок с примерами различных медицинский изображений.
Сможете по ним определить расовую принадлежность пациента?
Увы, но даже самый опытный рентгенолог на Земле не в состоянии это сделать. А ИИ делает это запросто.
Из этого, казалось бы, не страшного факта (ведь никто не заморачивается от того, что ИИ, например, лучше людей играет в шахматы) можно прийти к выводу о серьезной опасности использования ИИ в задачах медицинской визуализации.
Логика здесь такова.

1) Распознавание медицинских изображений при принятии диагностических и лечебных решений – это одна из самых массовых и перспективных областей прикладного использования систем машинного обучения (далее ИИ).

2) Попытки использования ИИ для принятия решений в широком спектре применений, основанных на суждениях о людях (напр., социальные, кадровые, финансовые, полицейские системы оценки людей), столкнулись с серьезной проблемой расовой предвзятости ИИ, обусловленной данными, на которых эти ИИ учили.

3) В контексте 1 и 2, новое авторитетное совместное исследование 15 медицинских центров США, Канады, Австралии и Тайваня вызывает шок и потрясение.
Его выводы таковы:

– ИИ запросто учится распознавать расовую принадлежность пациентов практически по любым медицинским изображениям, и это прямой путь для воспроизведения или усугубления расовой дискриминации в медицинской практике;

– эксперты - люди не понимают, как ИИ это делают, ибо просто физически не видят на изображениях каких-либо маркеров национальной принадлежности; из чего следует, что человеческий надзор за такими ИИ для распознавания и смягчения данной проблемы имеет (мягко говоря) ограниченное применение, а по сути – человеческий надзор здесь невозможен;

– это создает огромный риск для развертываний практически всех (!) моделей ИИ в области медицинской визуализации: если ИИ «тайно» полагался на свою способность определять расовую принадлежность для принятия медицинских решений, но при этом некорректно (предвзято) провел классификацию (например, чернокожих пациентов), клинические рентгенологи (которые, как правило, не имеют доступа к расовой демографической информации) не смогут это увидеть и исправить.

Результаты данного исследования в общем контексте прикладного использования ИИ для принятия решений звучат почти как приговор:

Любой ИИ, обладающий недоступным для людей знанием, потенциально чрезвычайно опасен и потому не должен использоваться при принятии ответственных решений.

Но ведь именно в таких, недоступных нам знаниях и заключается наивысшая ценность ИИ. В противном случае, ИИ превратится просто в «интеллектуальный экскаватор», облегчающий людям процесс «интеллектуального копания» в проблемах при принятии решений.
И по этой причине, обнаруженным риском, скорее всего, пренебрегут, забив на непредсказуемые последствия.

https://arxiv.org/abs/2107.10356
#ИИ #МашинноеОбучение #ГлобальныеРиски