Наблюдая за чередой кажущихся необратимыми изменений, привносимых в мир пандемией, невозможно не впечатлиться их колоссальной скоростью и тотальностью. Но более всего поражает, говоря словами д.ф.-м.н. Александра Панова, «переход от 4-х миллиардов лет в основном стихийной неуправляемой эволюции (типа по Дарвину и Назаретяну) к ... не знаю к чему, но того уж больше не будет». На наших глазах как будто меняется траектория развития цивилизации и даже сам носитель культуры - Homo sapiens.

Что стоит за этими тектоническими изменениями, академическая наука, к сожалению, ответить не может:
• нет прецедентов, - ведь подобного никогда не было;
• ни одну из гипотез невозможно проверить повторимым результатом экспериментов;
• да и вообще, все это не вписывается в границы современных академических дисциплин.

Остается уповать на трансдисциплинарный подход, учитывающий также то, что может лежать между дисциплинами, «поперек» дисциплинарных границ и даже вне каких-либо границ современной науки.

А пока подобных исследований нет, можно лишь пытаться строить более или менее аргументированные эвристические гипотезы, облекая их для простоты восприятия читателями в доступную научно-популярную форму.

Что и было мною сделано в интервью Марине Токаревой. Объединив несколько весьма перспективных, но малоизвестных эвристических гипотез, я попытался на основе их синтеза представить, по возможности, стройную картину происходящего. Насколько она способна прояснить причины и механизмы наблюдаемых в мире колоссальных перемен, и помогает ли она при оценке возможные сценариев будущего, судить читателям.

Во 2-й части интервью разговор шёл о следующем.
• Алгоритмы способны менять свойства личности и даже нашу биологию.
• Эксперимент академика Беляева по тысячекратному ускорению эволюции.
• Можно ли за 300 лет изменить природу людей.
• Разделится ли человечество на два новых вида, типа «морлоков» и «элоев».
• Почему о вышеназванном в России так мало пишут.
• Как изменится соотношение добра и зла, да и сама природа этих понятий.
• Почему Илон Маск хочет улететь на Марс.
• Чем занимается загоризонтная наука.
• О синтеллектуальном краудсорсинге.
• Почему лет через 300 Карла Фристона будут помнить в одном ряду с Ньютоном и Эйнштейном.

Обо все об этом читайте (12 мин):
- на Medium https://bit.ly/3qOB6VW
- на Яндекс Дзен https://clck.ru/VuJr5

#УскорениеЭволюции #БудущееHomo #АлгокогнитивнаяКультура

​​Будущее уже наступило.
ИИ не должен быть революционным, чтобы изменить войну.
На разработку, производство и эксплуатацию самого грандиозного вооружения человечества - ядерного и термоядерного оружия, - тратятся колоссальные деньги. И при этом оно практически никак не изменило масштаб и характер (способы массовых убийств людей) войн.
На разработку, производство и эксплуатацию автомата АК-47 тратятся сравнительно мизерные средства. И при этом автомат Калашникова в корне поменял и масштаб, и способ массового убийства людей на войне.
Похожая история скоро произойдет с оружием на основе технологий ИИ.
• Война кардинально измениться.
• Но изменят ее не автономные танки с истребителями, не роботы-суперсолдаты и не суперинтеллект систем управления глобальным боем.
• Применение «обычного» ИИ изменит характер войн и тип воюющих сторон:
-- война переместится в города;
-- и воевать будут, в основном, не государства, а негосударственные субъекты в обличие мелких и средних военизированных формирований.

Новую прекрасную работу Джека Макдональда «Что если военный ИИ ждет облом?» следует прочесть не только военным. Ибо она способна стать отрезвляющим душем после опьяняющего чтения техно-сказок про чудо-возможности ИИ близкого будущего: всякие там сильные, сверхсильные и недосягаемо сильные ИИ.

Джек Макдональд – междисциплинарный военный эксперт факультета военных исследований Королевского колледжа Лондона и автор 2-х книг о взаимосвязях между этикой, законом, технологиями убийств и войной.

В своем новом эссе Макдональд анализирует причины растущего скептицизма по поводу «военной ИИ революции» все еще ожидаемой в ближайшем будущем.

Не будет никакой «военной ИИ революции», - пишет Макдональд.
• Военные, в отличие от гражданских, плохо ведутся на обещания обновленного функционала, дизайна, набора приложений и т.п.
• В новом дивном мире, где цена человеческой жизни скакнула на несколько порядков, воюющим сторонам нужно уметь: найти, распознать и убить любую цель: хоть в стоге сена, хоть на дискотеке, хоть на оживленной улице. Быстро, без шума и пыли.
• А вместо суперинтеллектуального и полностью автономного оружия, военным нужен обычный дрон с хорошим летным ресурсом и достаточным количеством взрывчатки, чтобы взорвать что-угодно, масштаба башен-близнецов.

Для пулеметов с распознаванием лиц и спутниковым наведением (типа того, что убил иранского физика-ядерщика Мохсена Фахризаде), для умных пуль типа «стрельнул в сторону противника и забыл», для роя хорошо упакованных взрывчаткой дронов, и много для чего еще – не нужен сильный сверхсильный и недосягаемо сильный ИИ. Все технологии уже есть. Осталось лишь решить оргвопросы на стыке законов и морали.

Но ведь решили же проблему самонаводящихся ракет. Никому сегодня не приходит в голову возмущаться этим «автономным оружием» и требовать его запрета. Считается, что это всего лишь автоматизации. Так почему бы не распространить «процесс автоматизации» на индивидуальное стрелковое оружие и дроны, способные на самостоятельный поиск, распознавание и уничтожение целей.

И второй важный момент, о котором пишет Макдональд.
Современный ИИ на основе машинного обучения – это быль и реальность сегодняшнего дня. Этот уже существующий ИИ способен принципиально иначе поменять суть военного противостояния сторон, чем гипотетический сильный ИИ далекого будущего.
• Сильный ИИ может позволить наиболее технологически развитым государствам уйти в отрыв от более слабых в технологиях государств и тем самым получить военное преимущество.
• «Обычный» ИИ в ближайшие годы позволит негосударственным субъектам успешно вести ограниченные по масштабу войны с любой сверхдержавой, сея хаос в ее самых уязвимых и ценных местах – больших городах.

Так что почитайте Макдональда. Очень отрезвляющее и одновременно ужасающее чтение.
https://jackmcdonald.org/book/2021/06/what-if-military-ai-sucks/

#Война #ИИ #AGI #БПЛА #ГибридныеКонфликты
Также по теме можно вспомнить еще кое какие мои посты с тэгами:
#ГибридныеКонфликты #AWS #БольшаяВойна

Разум - это физическая конструкция или «форма» души?
Без ответа на этот вопрос все исследования AGI бесперспективны.
По гамбургскому счету, общепризнанного ответа на этот вопрос у науки нет. И как показал первый профессиональный батл двух признанных специалистов:
• у обеих позиций есть крепкие аргументы;
• но этих аргументов категорически недостаточно для научного признания позиции истинной;
• скорее всего, однозначный ответ на этот вопрос станет возможен лишь в иной мировоззренческой парадигме, синтезирующей материализм и томизм.

Следовательно, продолжение дискуссий в рамках каждой из двух изолированных парадигм:
✔️ материализма: разум - это чисто физическая конструкция, и когда мы поймем, как работает нейронная машинерия мозга, мы сможем смоделировать в ИИ нового поколения не только интеллект (вычислительный аппарат мозга), но и разум;
✔️ или томизма: душа - это «форма» тела (разница между живым телом и мертвым, включающая в себя материальный элемент (эмоции) и нематериальный (рассуждения и моральный выбор)); следовательно, моделирование лишь интеллекта и материального элемента не позволит воспроизвести разум;
- бессмысленно, ибо вопрос нерешаем.

Прекрасной иллюстрацией такого вывода является батл
• доктора медицины, нейробиолога и профессора нейрохирургии с 40-летней практикой Майкла Эгнора
• с профессором философии Королевского колледжа в Лондоне, а также Кембриджского и Нью-Йоркского университетов Дэвидом Папино.

Поразительно, но философ - теоретик Папино, занимающийся проблемой разума и сознания всю жизнь и написавший про это дюжину книг, считается одним из лучших в мире защитников материалистической парадигмы. А практика - нейрохирурга Эгнора весь его 40-летний опыт убедил в обратном, - что Бог существует, и что разум реален.

Проф. Папино уверен, что так называемый «объяснительный пробел» - это просто проявление интуитивного убеждения в истинности дуализма. Дело не в том, что идентичность разума и мозга трудно объяснить - в них просто трудно поверить.

А проф. Эгнор утверждает, что дуализм - это вовсе не заблуждение, а факт: разум - это не тот же тип сущностей, что и мозг. Осознание этого факта помогает нам понять, почему люди с расщепленным мозгом или только половиной мозга могут вести нормальную психическую жизнь и почему люди с массивным и необратимым повреждением мозга могут оставаться в сознании. Так что дуалистический подход в вопросах разума - это не просто интуитивный выбор. Этот подход основан на экспериментальных доказательствах. Независимо от того, считаем ли мы дуализм жуткой химерой, мы можем наблюдать его в экспериментах.

По сути, этот часовой батл подводит черту под бесконечными дискуссиями по данному вопросу.
Все сказано, и дальше нужно «либо крестик снять, либо трусы надеть»:
• признать бесполезность гипотез на основе лишь одной из противоположных парадигм;
• или признать поражение человеческого разума в понимании работы этого разума.

Впрочем, послушайте сами этот часовой батл.

А поскольку оба профессора текстуют будь здоров, как непросто, дам также ссылки на размеченные и аннотированные стенографические брифы пяти раундов батла.

Видео батла (1 час 5 мин)
Брифы 5-и раундов: 1, 2, 3, 4, 5

#Мозг #Разум #Сознание #AGI

Если принять за аксиому, что механизм мышления - результат эволюционной переадаптации механизма движения (о чем я неоднократно писал), то смею предположить, что от методики быстрой моторной адаптации RMA до аналогичной методики «быстрой мыслительной адаптации (RTA)», - как от Земли до центра Млечного Пути (27700 световых лет). Ибо комбинаторика разнообразия характеристик взаимодействия агента с 3-х мерной средой при движении – ничто (бесконечно малая величина), по сравнению с разнообразием взаимодействий агента с бесконечномерной средой мышления.
Если это так, то для практической реализации RTA потребуется «всего лишь» понять, как (продолжая метафору) на несколько порядков превысить скорость света.
Однако, эволюции это все же удалось. Как – непонятно. Но полагаю, путь типа RMA не переносим с движения на мышление.

Совместная разработка университетов Беркли, Карнеги Мелон и Facebook AI — алгоритм адаптации движения для четвероногих роботов. Невозможно создать алгоритм движения для такого робота, который будет учитывать все возможные параметры окружения — силу трения, угол наклона, сцепление с поверхностью и так далее. В реальном мире перед роботом всегда будут появляться новые, неучтенные ранее обстоятельства. Поэтому исследователи разработали технологию, позволяющую роботу идти по любой поверхности, постоянно подстраиваясь под окружение. Параллельно работают два алгоритма: один — базовый алгоритм движения, второй — анализирует изменения поверхности по данным с акселерометров и гироскопов и сообщает первому, как надо адаптироваться. Например, при движении по песку надо приложить больше усилий, чтобы поднять ногу. Интересно, что алгоритм обучен вообще без визуальных данных — робот не "смотрит" под ноги, он буквально идет наощупь и подстраивается под каждое изменение трассы.

The system was trained entirely in simulation, in a virtual version of the real world where the robot’s small brain (everything runs locally on the on-board limited compute unit) learned to maximize forward motion with minimum energy and avoid falling by immediately observing and responding to data coming in from its (virtual) joints, accelerometers, and other physical sensors.

The robot was able to walk on sand, mud, hiking trails, tall grass and a dirt pile without a single failure in all our trials. The robot successfully walked down stairs along a hiking trail in 70% of the trials. It successfully navigated a cement pile and a pile of pebbles in 80% of the trials despite never seeing the unstable or sinking ground, obstructive vegetation or stairs during training. It also maintained its height with a high success rate when moving with a 12kg payload that amounted to 100% of its body weight.

Видео, пейпер.

Возможно ли, чтобы несменяемость лидера при тоталитарном режиме математически описывалась той же зависимостью, что и несменяемость лидерства Гарвардского и Стэнфордского университетов среди лучших в университетских рейтингах?
Совсем недавно считалось, что универсальных законов, описывающих физические, биологические и социальные процессы, быть не может, т.к. физические объекты - мертвые, биологические – живые, а социальные – мало того, что живые, но еще и с норовом свободной воли тысяч и миллионов участников).

Развитие науки показывает, что это не так:
• универсальные законы существуют;
• они формулируются даже проще, чем великий в своей простоте физический закон Е=mс^2;
• но понять эту простоту (почему совершенно разные сложные системы описываются одинаковыми формулами), увы, совсем непросто.

Вот прекрасный пример.
✔️ Открыта формула несменяемости любых лидеров.
✔️ По сути, это новый универсальной закон динамики ранжирования всего.
Продолжить чтение (еще на 3 мин)
- на Medium https://bit.ly/3wAx310
- на Яндекс Дзен https://clck.ru/W674N
#Рейтинги #Открытость #УниверсальныйЗакон

Ящик Пандоры: от антипандемийного Большого Брата к биоалгоритмическому
Выступая сегодня на площадке клуба «Валдай» в ходе дискуссии «Мутация вируса и мировой опыт ревакцинации: права человека и общества», я посчитал важным сказать о следующем.

При стратегическом анализе перспектив обычно рассматриваются три сценария: наилучший, максимально вероятный и наихудший. И поэтому при анализе перспектив развития пандемии COVID-19 было бы большой ошибкой пренебрегать последним из трёх сценариев. А он, в моем понимании, таков.

Локдаун, вакцинация, самодисциплина дистанцирования, а также попытки достижения популяционного иммунитета пока не в состоянии решить проблему остановки пандемии.
• Локдаун – необходимы большое мужество и решимость властей (а это в дефиците).
• Вакцинация – необходимы высокие уровни доверия к вакцинации и к властям (и то и другое в дефиците), а обязательная вакцинация может еще более усугубить ситуацию.
• Самодисциплина дистанцирования – необходимы высокие уровни самодисциплины и доверия к властям (и то и другое в дефиците).
• Попытки достижения популяционного иммунитета в ситуации быстрой мутации вируса не выглядят результативными.

Какие еще меры существуют?
По сути, лишь одна - контроль над развитием пандемии:
• быстрое обнаружение (сейчас – это домашние антигенные тесты; а в ближайшем будущем - носимые онлайн тестеры);
• мониторинг нераспространения (уже сейчас это устройства контроля контактов на базе смартфонов или автономных носимых устройств)

С большой вероятностью, и то, и другое будет внедрено, поскольку:
• другие методы не смогут решить проблему остановки пандеми;
• это не просто очередная пандемия, а также инфодемия страха и паники;
• эта пандемия далеко не последняя, и дальше будет лишь хуже из-за неуклонного роста глобальной связанности мира.

В этом сценарии
• ведущую роль в ограничении пандемий станет играть «Антипандемийный ББ»;
• т.к. «Антипандемийный ББ» на практике объединит средства онлайн-биомониторинга со средствами персонального слежения, тем самым будет открыт ящик Пандоры «Биоалгоритмического ББ» (для ограничения иных рисков, чем пандемии)

Что делать
• понять, что вероятность такого сценария достаточно высока;
• понять, что последствия «Биоалгоритмического ББ» будут масштабней и серьезней всех известных проблем прав человека и прав общества в целом;
• не теряя времени, необходимо начать разработку принципов, регламентов и политик соблюдения прав человека и прав общества в условиях «Биоалгоритмического ББ».

Выводы
• Влияние пандемии на права человека может быть беспрецедентным.
• Все это будет развиваться очень быстро (несколько лет, а не десятилетий)

#Эпидемия

Почему люди и машины сильны в совершенно разной деятельности: ИИ неимоверно силен в шахматах, Го, прочих играх и матанализе …, тогда как люди куда сильней в понимании языка, невербальных коммуникациях, креативности и т.д.?
Правильно ответить на этот вопрос можно лишь поняв тонкости и изыски эволюции.
Помните об алгоритмической несжимаемости опыта? Так вот, к эволюционному опыту это 100%-но применимо. Он также алгоритмически несжимаем. И потому он либо есть (у человеческого разума), либо его нет (у машинного).

Поняв это, мы сможем ответить на фантастически интересный спектр крайне любопытных вопросов:
• почему мы учимся одним вещам легко и без формальных инструкций (например, как говорить и понимать разговорный язык), а другим - с трудом и после формального обучения (например, читать и писать);
• зачем в самцов (извините, вкл. людей) вмонтирован эффект Кулиджа - постепенное снижение склонности самца к спариванию с одной и той же самкой в сочетании с повышенным сексуальным интересом к новым самкам;
• почему у самок (извините, вкл. людей) более сильная иммунная система, чем у самцов, и почему конструкция тела самок ближе к инженерному оптимуму для выживания;
• зачем нам такое чувство, как тревога;
• почему кайф после часа на беговой дорожке так быстро испаряется;
• почему сенсорные переживания в состоянии бодрствования и сна различаются;
• почему родители и дети часто имеют противоречивые предпочтения при выборе сексуальных партнеров;
• почему личностные различия наследуются;
• почему психопатия не была отфильтрована в человеческих популяциях;
• что заставляет нас жаждать еды, которая вредна для нас;
• почему подавление лихорадки может быть вредным;
• откуда в нас предвзятое отношение и избегание людей с ограниченными физическими возможностями.
• и т.д. и т.п.

Ибо все вопросы о том, почему мы такие (как и вопрос о различиях интеллекта человека и машины), не имеют смысла, кроме как в свете эволюции. Без теории эволюции наше понимание человеческого разума - во всей его удивительной сложности и очаровательных причудах, - будет весьма несовершенно.

Ответы на все вышеперчисленные вопросы рассыпаны в полусотне интереснейших научных статей. Как всеми ими поделиться с читателями?
Меня часто спрашивают об источниках «малоизвестного интересного». Мой секрет прост – главное, знать нужных людей.

Например, для ответа на все вышеназванный вопросы, достаточно знать человека по имени Лайт Аль-Шаваф из Университета Колорадо, чтобы не пропустить его новый пост «Эволюция объясняет загадочные аспекты человеческого разума» на Psychology Today.
https://www.psychologytoday.com/us/blog/six-impossible-things-breakfast/202107/evolution-explains-puzzling-aspects-the-human-mind
И обратите внимание на 3 ссылки в начале поста, отсылающие к трём предыдущим постам этой серии:
• «Семь ключевых заблуждений об эволюционной психологии»
• «"Почему" - это не то же самое, что "Как": Уровни анализа и научный прогресс в психологии»
• «Эволюционная психология: предсказательно мощная наука или просто сборник сказок?».

В каждом из этих постов вы найдете еще по полусотне полезнейших ссылок. Итого их у вас станет примерно две сотни. Классное чтиво на отпуск – лучше любого детектива 👍😉

#ЭволюционнаяПсихология #Разум

Китай вводит монополию на кибероружие.
Киберразведка и кибервоенные Китая теперь уйдут в отрыв от США.
Кибершпионаж и кибертерроризм в ближайшее десятилетие будет главным проявлением расширения кибервойн между США, Китаем и, возможно, Россией.
Локальных кибервойн будет много, и они будут чрезвычайно разнообразны. Но в основе всех их будет гонка в превосходстве своего кибероружия над противником.

В отличие от «гонки брони и снарядов» обычных войн, в кибервойнах - это гонка противников, один из которых пытается обнаружить и исправить свои уязвимости (бреши в кибербезопасности), а другой стремится обнаружить и использовать эти уязвимости первого.
Успех в такой гонке, как в перестрелках американских вестернов, - у тех, кто стреляет быстрее. Однако кардинальное отличие в том, что одна из сторон может не знать, что другая уже стреляет.

Т.о. знание об обнаружении новых уязвимостей становится дороже золота. А способность скрыть это знание от противника – дороже платины.

Разведка и военные используют эти знания в своих целях с незапамятных времен. Как только «государственные хакеры» находят какие-либо новые уязвимости в ПО, они, не ставя в известность об этом производителей ПО, начинают использовать их в своих целях.

Особую ценность здесь имеют «уязвимости нулевого дня» - программные уязвимости, для которых не было опубликовано никаких изменений или исправлений, - и потому их эксплойты (программы, использующие конкретные уязвимости) полезны в кибероперациях. При этом средняя продолжительность жизни «уязвимостей нулевого дня» около 5-7 лет. А время для разработки полностью работающего эксплойта – всего 3-4 недели. Ну и понятно, что разведка и правохранительные органы здесь гуляют по буфету по полной.

Однако, в США в 2017 при Обаме под давлением правозащитников и общественности был принят «регламент для сокрытия уязвимостей в ПО для разведки и кибервойн». Он описывает, как должен осуществляться отбор уязвимостей для дальнейшего использования в интересах правоохранительных и силовых ведомств. Им, конечно же, не запрещается продолжать гулять по буфету. Но их обязали ежегодно представлять общественности отчеты об использовании уязвимостей, включая несекретные резюме кейсов.

Ну а теперь, собственно, ударная новость.

Компартия Китая смотрела – смотрела на всю эту демократию и решила:
✔️ знание новых уязвимостей – самое ценное кибероружие;
✔️ и потому государство должно обладать монополией на него.

В Китае просто и четко: сказано – сделано. Администрация киберпространства Китая разработала новые правила (закон) по раскрытию уязвимостей, которые вступят в силу с 1 сентября.
Согласно этому закону:
✔️ Как только кто-либо обнаружит любую новую уязвимость, он обязан в течение 48 часов сообщить об этом со всеми известными техническими подробностями Администрации киберпространства Китая.
✔️ Исследователям безопасности не разрешается публиковать сведения о новых уязвимостях.
✔️ Запрещается продажа информации об «уязвимостях нулевого дня».
✔️ Исследователям также запрещен обмен данными с зарубежными организациями (за исключением производителя ПО).

Короче говоря: любой специалист в Китае должен сообщить о найденной уязвимости правительству, а власти сами решат, как и когда ее исправить (или пока не исправлять).

Т.о. пока правительство США заигрывает с общественностью, пытаясь и прозрачность соблюсти, и контроль над уязвимостями сохранить, КПК решила вопрос радикально, объявив государство монопольным регулятором всей информации о новых уязвимостях.

Подробней читайте здесь.

N.B. Аналогичные правила скоро введут и другие страны.
В Китае же они вступят в силу в тот же день 1 сентября, когда там начнется ИИ-национализация, которая должна стать важнейшим элементом «Великой стратегии Китая по смене американского миропорядка»

#Китай #США #Кибербезопасность #ИИнационализация

Люди могут научиться «видеть» ушами, подобно дельфинам.
Эксперимент подтвердил реальность гипер-ускоренной эволюции людей.
Речь идет об апгрейте (перепрошивке) мозга взрослого человека в результате специального обучения.
Прорывной экспериментальный результат, опубликованный вчера в NeuroImage коллективом под руководством профессора Амира Амеди - директора-основателя «Института мозга, познания и технологий», - это практическое подтверждение двух просто фантастических возможностей.
▪️ Применение специальных технологий обучения позволяет осуществить гипер-ускоренную эволюцию сенсорного мозга человека (в ходе естественной эволюции новые способности формируются у животных в течение сотен тысяч лет, а в лаборатории их можно сформировать после относительно короткого обучения).
▪️ В результате специального обучения, у взрослого человека можно развить даже такие сенсорные способности, что немыслимы для людей: например, научить людей, подобно летучим мышам и дельфинам, извлекать информацию о геометрических формах из сложных звуков.

Об этом прорыве нужно, конечно, написать лонгрид. Но пока совсем коротко об этом открытии.

После 15 лет обучения, слепой от рождения пятидесятилетний мужчина под кодовым именем МаМе теперь может «видеть» ушами (т.е. на слух).
МаМе прошел обширную подготовку по использованию устройства визуальной сенсорной замены под названием EyeMusic - это приложение и мини-камера, которая передает цвета, формы и расположение объектов путем преобразования изображений в «звуковые ландшафты», которые мозг может интерпретировать визуально. В «звуковых ландшафтах» музыкальные ноты (высота звука) и время представляются, соответственно, по осям Y и X - звуки более высокого тона обозначают более отдаленное местоположение, а порядок звуков во времени соответствует расположению слева направо.

Исследователи обнаружили, что в результате обучения нейронные цепи в мозге МаМе сформировали т.н. топографические карты - тип организации мозга, который, как считалось ранее, возникает лишь в младенчестве.
Из этого следуют два открытия.
✔️ Апгрейт (перепрошивка) мозга возможен не только в период младенчества и раннего детства (как считалось ранее), но и у взрослых людей.
✔️ В ходе перепрошивки можно поменять «специализацию» сенсорных областей; например, часть мозга, которая специализируется на обработке изображений, приспособить (как у летучих мышей и дельфинов) к извлечению геометрической информации о формах из звуков (естественной эволюции дельфинов на это потребовались сотни тысяч лет, после того, как 50 млн лет назад они стали уходить с суши в воду и начали повторную адаптацию к новой для них водной среде).

Это открытие – важнейшее экспериментальное подтверждение:

✔️ способности мозга приобретать специализацию, меняя прошивку на протяжении всей жизни человека;
✔️ возможности прижизненного (в рамках одного поколения) формирования новых «когнитивных гаджетов» людей при их адаптации к новой медийной среде алгокогнитивной культуры.

Подробней:
➖ популярно 1, 2, 3
➖ научно 4

#ПерепрошивкаМозга #УскорениеЭволюции #КогнитивныеГаджеты

​​Правительство приступает к опасному и неэтичному эксперименту.
Призываем его приостановить планы снижения уровня ограничений с 19 июля.
Про кого это? Конечно же, про Великобританию. Но и не только.
“Правительству следует отложить полное повторное открытие до тех пор, пока всем, включая подростков, не будет предложена вакцинация и уровень вакцинации не будет высоким…
Массовое заражение - это не вариант: мы должны делать больше, чтобы защитить нашу молодёжь.”

С такими призывами к правительству Великобритании обратились через журнал THE LANCET полтора десятка членов Independent SAGE (1).

Вариант «Дельта» особо страшен тем, что может оставить множество людей с последствиями в виде «длительного COVID-19». При этом непривитые молодые люди не меньше, чем их родители, подвержены риску долговременных симптомов «длительного COVID-19»: изнуряющая усталость, одышка, боли в груди, трудности со сном и проблемы с памятью и концентрацией, часто называемые «затуманивание разума».
«Дельта-всплеск может оставить сотни тысяч с длинным Ковидом» - пишет Guardian, цитируя авторов нового исследования (2).

Только что опубликованное первое в мире исследование, в котором изучаются многомесячные данные с носимых гаджетов (3), показывает длительное физиологическое воздействие вируса COVID-19, которое в среднем длится от 2 до 3 месяцев.

Сильнее всего бьет по сердцу. Сначала наблюдается брадикардия, за которой следует длительная тахикардия, которая не возвращается к исходному уровню в среднем до 79 дней после появления симптомов. При этом у молодых примерно так же, как и у старших.

Ссылки: 1, 2, 3

На графике приведено изменение пульса покоя у лиц с положительным и отрицательным тестом на ковид в течение 140 дней.
#Эпидемия

Как далеко до человекоподобного ИИ?
Самый наглядный и понятный ответ.
Баталии вокруг этого вопроса упираются в очевидное противоречие.
✔️ С одной стороны, сложился своего рода консенсус, что появление человекоподобного – «сильного ИИ» не за горами. Спорят лишь о конкретных сроках (через 15, 25, 35 или больше лет) и бюджетах на его создание.
✔️ С другой стороны, пока нет ни малейшего понимания, как «сильный ИИ» может быть устроен. Ибо про единственный пример такого интеллекта – человеческий, - не известно почти ничего. Говоря в компьютерной парадигме, мы в принципе не понимаем, как на «аппаратуре» мозга работают «программы» разума. Более того, даже о базовых вещах (без которых компьютерная парадигма теряет смысл - типа физики работы «процессора» и устройства «памяти» мозгового «компьютера»), у нас нет представлений, достаточных для их материализации в какой-либо машине.

Если даже профильные специалисты по ИИ не в состоянии хотя бы на словах разрешить это противоречие, то что говорить о неспециалистах. Ведь понимать, как далеко до появления человекоподобного ИИ, важно буквально для всех. Ибо это коснется каждого, когда (как убеждают эксперты) люди начнут одну за другой терять профессии: от социальных работников до продавцов, от преподавателей до врачей …

Так когда этого ждать? Через 15, 25, 35 или больше лет?

Самый простой и наглядный способ каждому самому прийти к ответу на этот вопрос – сравнить Софию и Тома, посмотрев 2 коротких занятных ролика и прочтя мой комментарий к ним:
- на Medium https://bit.ly/2UxyJLI
- на Яндекс Дзен https://clck.ru/WJGwJ
#AGI

Через неделю планирую рассказать о «человеке в мире будущего» на одноименном международном форуме. Говорить об этом буду в контексте, почти не обсуждаемом сегодня, но, по моему мнению, - самом важном:
о фазовом переходе Homo sapiens, в ходе которого из-за смены типа культуры у людей уже начали меняться базовые основы духовности – понимание того, что такое «истина», «добро», «зло» и «красота»; как и на что эти понятия будут меняться я и собираюсь рассказать.

Ну а чтобы долго не рекламировать самого себя, просто сделаю форвард анонса с канала форума.
Регистрируйтесь, если хотите посмотреть и послушать. Обещаю, будет интересно о самом что ни на есть малоизвестном.

​​«Технологии и духовность» — тема, которую обсудим с Сергеем Кареловым, экспертом в области междисциплинарных исследований и стратегической аналитики, автором Telegram-канала «Малоизвестное интересное».

🌐 Сергей говорит, что 5-6 тысяч лет назад человечество совершило гигантский скачок в своём развитии. С появлением письменности фактически изменился способ мышления человечества  —  появилась внешняя память. Человеческая культура и интеллект  —  это коллективный феномен, и с появлением письменности он перестал умещаться в головах людей.

Чтобы сохранить управляемость и возможность масштабирования коллективной деятельности, был создан феномен Больших Богов, которые неусыпно наблюдают и которых нельзя обмануть. Такие боги появились в Древнем Египте и Месопотамии. Это были морализующие боги, которые поменяли представление о главном  —  о том, что есть добро и что есть зло.

Сейчас человечество снова совершает глобальный прыжок в развитии, создавая всё новые технологии — мы стоим на пороге IV Промышленной революции.

⚡️ Какие «Боги» появятся в нашем будущем и появятся ли вообще? Какие моральные устои ждут наше общество? «Большой Брат» как продолжение «Больших Богов»?

Регистрируйтесь на ReForum по ссылке. Поговорим о будущем духовности:

▫️ Что такое «духовность» в современном мире, и как она проявляется в эпоху Digital
▫️ Как технологии меняют понятия «истина», «добро» и «зло» и понятие «красота»
▫️ Какие появляются новые формы духовности, и зачем нам стремиться понять происходящее.

О спикере ⤵️

Сергей Карелов работает в области IT более 30 лет, он кандидат технических наук. Занимался моделированием ядерных реакторов, руководил подразделениями крупных вычислительных центров, работал на позициях топ-менеджера в «Интерквадро», IBM, Silicon Graphics (SGI), с 2001 года — независимый эксперт-консультант по IT-бизнесу, с 2004 — председатель Совета Лиги независимых экспертов ЛИНЭКС. Сергей — основатель и CTO компании Witology.

​​Миру срочно нужен психотерапевт.
Уникальный анализ культуромики когнитивных искажений с 1855 по 2019.
Скоро будут официально опубликованы результаты уникального по объему и важности исследования «Исторические языковые записи свидетельствуют о всплеске когнитивных искажений в последние десятилетия».
Наблюдаемое в 21 веке ускорение мировых процессов все чаще заставляет использовать метафору «фазового перехода», переживаемого человечеством. И хотя академическая наука не в состоянии подтвердить или опровергнуть наличие какого-либо «фазового перехода» (напр., вхождения земной цивилизации в зону эволюционной сингулярности), практических свидетельств этого становится все больше.

На сей раз весьма убедительное свидетельство пришло из исследования культурно-лингвистической динамики (культуромики). Это новая научная область и новый метод исследований культурных и социальных процессов с помощью статистического анализа употребления слов и словосочетаний в огромных текстовых массивах. Исследования по культуромике выполняются на базе Google ngrams - хранилища всех сочетаний слов для каждого года длиной от 1 до 5 на 8 языках.

Логика данного исследования такова.
1) Ключевым фактором, позволившим нам стать теми, кто мы есть сегодня, является язык. Прогресс земной цивилизации сопровождается непрерывным и ускоряющимся ростом сложности и разнообразия используемых языков.
2) Все важные изменения в коллективной психологии людей так или иначе проявляются в их языке в ответ на разные культурные и социально-экономические вызовы.
3) Т.о., анализ культуромики позволяет отследить и оценить изменения в коллективной психологии людей.

Предметом исследования стал поиск и анализ исторических следов когнитивных искажений - паттернов мышления, связанных с такими психологическими расстройствами, как депрессия и тревога.

Поиск и анализ проводился в более чем 14 млн. книг, опубликованных с 1855 по 2019 на английском, испанском и немецком языках.

В результате анализа был выявлен ярко выраженный паттерн “хоккейной клюшки”: за последние два десятилетия текстовые индикаторы когнитивных искажений поднялись значительно выше исторических уровней (включая 1-ю и 2-ю мировые войны) после снижения или стабилизации на протяжении большей части 20-го века.

Эти результаты указывают на возможность того, что недавние социально-экономические изменения, новые технологии и социальные сети вызвали беспрецедентный рост когнитивных искажений, способствующих росту депрессии и тревоги во всех развитых обществах.

Пояснение
Люди, страдающие депрессией и тревогой, склонны к росту когнитивных искажений, в результате чего они думают о себе, мире и будущем чрезмерно негативными и неточными способами. Эти искажения связаны с заметными изменениями в настроении, поведении и речи.
Такие когнитивные искажения, например, проявляются, когда:
• люди называют себя негативными, абсолютистскими терминами (типа, “я неудачник”);
• говоря о будущем, люди впадают в крайности (типа, “моя встреча будет полной катастрофой”);
• люди делают необоснованные предположения о чьем-то душевном состоянии или мыслях (типа, “все будут думать, что я псих”).

В исследовании рассмотрели 12 типов таких когнитивных искажений: от черно-белого мышления и катастрофизации до «ясновидения» и «телепатии».

Для каждого типа когнитивных искажений существуют свои лингвистические шаблоны. Напр., в английском языке для «катастрофизации» - это will fail, will go wrong, will end, will be impossible, will not happen, will be terrible, will be horrible, will be a catastrophe, will be a disaster, will never end, will not end.

Исследователи нивелировали альтернативные влияния: учли изменения языков, объемов публикуемых текстов и семантические сдвиги.

Вывод однозначный – миру срочно нужен психотерапевт.
Из-за чего?
Скорее всего, из-за смены медиа-среды, стимулирующей поляризацию "мы-против-них".

P.S. Канал уходит в небольшой отпуск. Счастливо!

#КогнитивныеИскажения #Язык

​​Обнаружен непреодолимый риск использования ИИ в медицине.
Обладающий недоступным для людей знанием ИИ потенциально опасен.
Посмотрите на рисунок с примерами различных медицинский изображений.
Сможете по ним определить расовую принадлежность пациента?
Увы, но даже самый опытный рентгенолог на Земле не в состоянии это сделать. А ИИ делает это запросто.
Из этого, казалось бы, не страшного факта (ведь никто не заморачивается от того, что ИИ, например, лучше людей играет в шахматы) можно прийти к выводу о серьезной опасности использования ИИ в задачах медицинской визуализации.
Логика здесь такова.

1) Распознавание медицинских изображений при принятии диагностических и лечебных решений – это одна из самых массовых и перспективных областей прикладного использования систем машинного обучения (далее ИИ).

2) Попытки использования ИИ для принятия решений в широком спектре применений, основанных на суждениях о людях (напр., социальные, кадровые, финансовые, полицейские системы оценки людей), столкнулись с серьезной проблемой расовой предвзятости ИИ, обусловленной данными, на которых эти ИИ учили.

3) В контексте 1 и 2, новое авторитетное совместное исследование 15 медицинских центров США, Канады, Австралии и Тайваня вызывает шок и потрясение.
Его выводы таковы:

– ИИ запросто учится распознавать расовую принадлежность пациентов практически по любым медицинским изображениям, и это прямой путь для воспроизведения или усугубления расовой дискриминации в медицинской практике;

– эксперты - люди не понимают, как ИИ это делают, ибо просто физически не видят на изображениях каких-либо маркеров национальной принадлежности; из чего следует, что человеческий надзор за такими ИИ для распознавания и смягчения данной проблемы имеет (мягко говоря) ограниченное применение, а по сути – человеческий надзор здесь невозможен;

– это создает огромный риск для развертываний практически всех (!) моделей ИИ в области медицинской визуализации: если ИИ «тайно» полагался на свою способность определять расовую принадлежность для принятия медицинских решений, но при этом некорректно (предвзято) провел классификацию (например, чернокожих пациентов), клинические рентгенологи (которые, как правило, не имеют доступа к расовой демографической информации) не смогут это увидеть и исправить.

Результаты данного исследования в общем контексте прикладного использования ИИ для принятия решений звучат почти как приговор:

Любой ИИ, обладающий недоступным для людей знанием, потенциально чрезвычайно опасен и потому не должен использоваться при принятии ответственных решений.

Но ведь именно в таких, недоступных нам знаниях и заключается наивысшая ценность ИИ. В противном случае, ИИ превратится просто в «интеллектуальный экскаватор», облегчающий людям процесс «интеллектуального копания» в проблемах при принятии решений.
И по этой причине, обнаруженным риском, скорее всего, пренебрегут, забив на непредсказуемые последствия.

https://arxiv.org/abs/2107.10356
#ИИ #МашинноеОбучение #ГлобальныеРиски

​​Фиаско ИИ против COVID-19.
За 1,5 года созданы сотни ИИ-инструментов. Ни один не помог.
Согласно победным реляциям в медиа:
- «ИИ на треть сокращает время для диагностики COVID-19 на КТ-снимках»,
- «ИИ успешно прогнозирует риск ухудшения состояния заболевших COVID в приемных отделениях стационаров»,
- «ИИ научился диагностировать коронавирус по кашлю» и т.д.

Согласно научным отчетам и статьям об исследованиях, опубликованных в рецензируемых изданиях:
✔️ ИИ-инструменты практически не оказали никакого влияния в борьбе COVID-19 – отчет The Alan Turing Institute (1)
✔️ Ни один из сотен ИИ-инструментов прогнозирования COVID-19 не пригоден для клинического использования - ревю в British Medical Journal (2)
✔️ Ни одна из ИИ-моделей для обнаружения и прогнозирования COVID-19 с помощью рентгенограмм грудной клетки и компьютерной томографии не подходит для клинического использования из-за методологических недостатков и / или лежащих в основе систематических ошибок - ревю в Nature Machine Intelligence (3).
✔️ Эта пандемия стала большим испытанием для медицинского ИИ, и он не прошел это испытание. Вместо этого, пандемия привлекла внимание к сущностным проблемам медицинского ИИ, на которые мы уже не первый год закрываем глаза - MIT TechnologyReview (4)

Что пошло не так

1. Низкое качество данных (вкл. «наборы данных Франкенштейна» - когда данные из нескольких источников могут содержать дубликаты и тестирование ведется на тех же данных, на которых ИИ-инструмент был обучен)
Например:
А) Данные сканирования грудной клетки детей, у которых не было ковида, в качестве примеров того, как выглядят случаи не-ковида.
Однако, в результате ИИ научился определять не ковид, а детей.
Б) Данные сканирования включали пациентов в лежачем положении (с большей вероятностью эти пациенты были серьезно больны).
В результате ИИ научился неправильно предсказывать серьезность риска коронавируса, исходя из положения человека (а если пациент стоял, то серьезность поражение лёгких ИИ просто игнорировал).
В. ИИ научился ориентироваться на шрифт текста, используемый разными больницами для маркировки сканированных изображений.
В результате шрифты из больниц с более серьезной нагрузкой стали предикторами риска заражения коронавирусом.

2. Предвзятость инкорпорации (предвзятость вследствие маркировки данных)
Например:
Медицинские снимки помечаются в соответствии с тем, как их идентифицировал рентгенолог.
Результат этого включает любые предубеждения конкретных врачей, выдавая это в наборе данных за истину (надо было бы маркировать медицинское сканирование результатом теста ПЦР, а не мнением одного врача, но кто ж это делает).

3. У исследователей нет никаких стимулов делиться информацией (данными и моделями) – примеры см. в источниках.

4. Почти все ИИ-инструменты разрабатываются либо исследователями ИИ, которым не хватает медицинских знаний для выявления недостатков в данных, либо медиками, которым не хватает математических навыков, чтобы компенсировать эти недостатки – примеры см. в источниках.

Общий итог
Фиаско ИИ против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – используемые ИИ-инструменты должны объяснять логику, лежащую в основе их решений (5).
И это, увы, приближает новую «зиму ИИ».

Источники:
1, 2, 3, 4, 5
Фото В. Новикова. Пресс-служба Мэра и Правительства Москвы

#ИИ #МашинноеОбучение #Медицина

​​Pax Americana больше нет, а шансы Pax Sinica растут.
Три новых мастер-класса Китая для всего мира.
В мае прошлого года я писал — “Pax Americana больше нет, а Pax Sinica уже не будет: результатом пандемии может стать тотальная анархия”. Тогда, в начале пандемии такой сценарий казался мне весьма вероятным.
Спустя 15 месяцев становится все более очевидным, что тот прогноз подтвердится лишь на две трети.
• Мир, действительно, становится все более нефункциональным и хаотичным.
• Pax Americana, на самом деле, сыпется на глазах .
• Однако, прогноз — Pax Sinica уже не будет, — не сбывается. Китай не только устоял, но и окреп.
Кризис не обрушил основу национальной мощи Китая — единый и нерушимый политико-экономический курс и общепризнанное лидерство компартии Китая.
Более того. Китай превращается в мировую сверхдержаву №1.
Ибо ключевая роль такой сверхдержавы –
не только технологическое и экономическое лидерство, но и создание для мира системы цивилизационных образцов для подражания.
Будучи перенятыми, эти цивилизационные образцы формируют новые отношения государств, обществ и индивидов. Системность таких образцов характеризует их согласованность и, в идеале, синергию. А универсальность образцов делает их привлекательными, как для демократических (во всем диапазоне демократий), так и для авторитарных и даже тоталитарных стран (также во всем диапазоне).
Вот эти три новых мастер-класса Китая для всего мира.
Национализация данных.
Регулятивный авторитаризм.
Промышленная политика.
Посмотрим на них повнимательнее.
Дочитать (еще 4 мин.)
- на Medium https://bit.ly/3jqJIz1
- на Яндекс Дзен https://clck.ru/WdBWN
#Китай #США #Сверхдержавы

Инструменты с лицензией на убийство.
Что общего у медицинского ИИ с автономным оружием.
Мои посты о неудачах медицинского ИИ вызвали два типа реакций (в духе стакан наполовину пуст или полон).
— Стакан наполовину пуст:
«В начале пандемии казалось, что пробил звездный час искусственного интеллекта в медицине. Но внезапно выясняется, что все не так просто, и пока еще человек, которого сначала долго учили медицине, а потом он еще много лет практиковался в своем деле, все еще лучше ИИ, которого обучил за пару месяцев непонятно кто на первых попавшихся данных».
— Стакан наполовину полон:
«Машинное обучение ещё не созрело для использования непрофессионалами, а хорошие специалисты по машинному обучению просто пока не работают над задачами про COVID».
И то, и другое верно.
Но такая трактовка вопроса о рисках медицинского ИИ - лишь вершина айсберга, закрывающего собой главную проблему: отсутствие консенсуса в ответах на следующие два вопроса.
✔️ Медицинский ИИ – это лишь инструмент врача или он может сам принимать важные решения?
✔️ Можно ли принимать важные решения, не обладая пониманием, а лишь из анализа статистики?

Сравним два кейса: медицинский ИИ и автономное оружие.
Дочитать (еще 3 мин.)
- на Medium https://bit.ly/3xsmqNY
- на Яндекс Дзен https://clck.ru/WeAnN
#ИИ #МашинноеОбучение #Медицина

​​Технологии уже позволяют визуализацию не только мыслей, но и души.
Отсюда один шаг до технологического изменения духовности.
Знаменитый философ, математик, астроном, врач и большой знаток греческой науки Куста ибн Лука еще в 9-ом веке описал механизм протекания в мозге трех ипостасей мышления: процессов запоминания, воображения и рассуждения. Объясняя этот механизм, автор описывает роль отверстия (т.н. «церебрального водопровода») между двумя полостями головного мозга, закрываемого чем-то вроде клапана, который Куста ибн Лука описывает как «частицу вещества мозга, похожую на червя» (так его потом и назвали в нейроанатомии - Vermis).

И вот спустя 12 веков, рядом с «церебральным водопроводом» в т.н. «околоводопроводном сером веществе» (так называют периакведуктальное серое вещество среднего мозга) обнаружили мозговой контур, функционально сильно смахивающий на душу.

Согласно новому исследованию «A neural circuit for spirituality and religiosity derived from patients with brain lesions», духовность индуцируется в нас контуром нейрональной гиперсети мозга, модулирующей боль, страх, альтруизм и бескорыстную любовь.

Инновационная изощренность эволюции позволила создать удивительный коктейль из смеси простейших чувств боли, страха, альтруизма и любви. Этим коктейлем питаются самые сложные и абстрактные чувства Homo sapiens – ценностные чувства истины, добра и красоты.

Воздействие на эти ценностные чувства становятся заветной целью технологий 21 века.
Цена вопроса здесь колоссальная, поскольку:
• краткосрочные воздействия позволяют дарить людям духовные переживания On Demand,
• а долгосрочные – позволяют трансформировать культурные основы цивилизации.

Об этом был мой рассказ на ReForum, который теперь можно посмотреть в сети:
«Технологии и духовность»

Две важные ссылки, о которых я упоминаю в своем выступлении:
- фантастическая короткометражка «Счастливая охота»
- рассказ Фредерика Барретта и Жана-Пьера Шанже об измененных состояниях человеческого разума

Ссылки на исследование «A neural circuit for spirituality and religiosity derived from patients with brain lesions»: популярно и научно
#Духовность

Попытки понять механизмы разума будто упираются в стену. Десятки интригующих гипотез. Но экспериментально, по гамбургскому счету, не удается проверить ни одной.
И вот вдруг получилось нечто совсем уж крышесрывательное. Причем эксперименты основаны на теории, все чаще называемой «теорией относительности когнитивных наук».

Базовая идея проста – сравнить, «показания» мозга в штатном и нештатном режимах. Известно, - что у пьяного на языке, то у трезвого на уме. И если мы не в состоянии понять «показания» мозга в штатном («трезвом») режиме, попробуем снять с него «показания» в нештатном («пьяном») режиме измененных состояний разума: в процессе психоделических трипов в иные миры и медитативных погружений в бездну подсознания.
Ну а потом, сравнивая эти «показания», выявить ключевые элементы базового механизма конструирования мозгом индивидуальной реальности, единого для обычных и измененных состояний разума.

Два новых исследования, о которых пойдет речь, дают ответы на важнейшие вопросы.
• Почему человек —  не компьютер с вычислительным процессором мозга, а творец собственной реальности посредством мыследействий.
• Как, чтобы не захлебнуться в деталях, мозг просеивает шум, выборочно запоминая только самое важное.
• Что за «переломные моменты» позволяют разуму находить компромисс между порядком и хаосом.
• Какова роль фракталов и энтропии в базовом механизме конструирования мозгом реальности.
• Как специфика мозговых процессов в ходе медитативных «погружений» и психоделических «улётов» позволяет объяснить механизм восприятия мира.
• Как выпасть из времени, отключить свободу воли и испытать озарение

Читайте 1-ю часть рассказа обо всем этом (11 мин. чтения)
- на Medium https://bit.ly/2X5BrsF
- на Яндекс Дзен https://clck.ru/WiKTv
#Восприятие #Медитация #Психоделики #ПринципСвободнойЭнергии #ПрогнозирующийМозг