Под руководством замечательной исследовательницы в области психологии и психофизиологии альтруизма Эбигейл Марш (её работы являются одним из главных вдохновляющих стимулов нашей собственной исследовательской программы изучения мозговых механизмов альтруизма у нас в МГУ) получены новые интересные данные о "беспристрастных" (универсальных, непредвзятых) альтруистах, которые альтруистичны не только к близким людям, но и в равной степени к совершенно чужим (например, добровольно, без финансового или какого-либо другого корыстного интереса жертвуют почку абсолютно чужому человеку). Команда исследователей предположила, что близкие люди таких экстраординарных "беспристрастных" альтруистов должны страдать от такой их "неразборчивости" в оказании помощи и это должно ухудшать качество отношений. Однако, эксперимент опроверг это предположение – "беспристрастность" альтруизма близкого человека не ухудшает качество отношений с ним, более того, было показано, что близкие "беспристрастных" альтруистов сами склонны к "беспристрастности" в своём просоциальном поведении. Это говорит о том, что общие моральные ценности близких людей, связанные с универсальной практической любовью, являются протективным фактором, защищающим отношения в ситуации "беспристрастного" альтруизма.

https://www.researchsquare.com/article/rs-4294608/v1

Наш соотечественник по рождению Илья Суцкевер основал новую компанию "Safe Superintelligence Inc.", которая будет заниматься исключительно "супералайментом", т.е. созданием безопасного сверхинтеллекта. Это будет, вероятно, по духу новая "OpenAI" именно так, как она задумывалась ("ИИ для блага всего человечества"), а не так, как в итоге развернул ее Сэм Альтман, для которого главным стало получение прибыли без действительно серьезных и глубоких переживаний за последствия движения по такому опасному пути. В целом, подтверждается гипотеза о том, что вся прошлогодня история с конфликтом Суцкевера с Альтманом была связана именно с разностью этих двух позиций их как лидеров компании.

Впрочем, шансы на успех всего этого предприятия очень малы, фундаментальные работы профессора Романа Ямпольского четко показывают, что Суцкевер ставит перед собой принципиально, теоретически нерешаемую задачу – никаким образом невозможно будет контролировать систему, интеллектуальные возможности которой будут сильно превышать человеческие. Курируемый Элиезером Юдковским "Machine Intelligence Research Institute" недавно опубликовал свой манифест "MIRI 2024 Communications Strategy", где предлагается альтернативная стратегия, связанная с жестким регулированием национальными правительствами развития фронтирных моделей ИИ и законодательной необходимостью включать в такие модели на самом низком уровне "кнопку выключения" ("off-switch"), которая могла бы безусловно остановить работу системы при первых подозрениях на ее спонтанное неуправляемое поведение. Впрочем, все мы помним, что аналогичная кнопка была на Чернобыльском реакторе (кнопка "АЗ-5"), ее нажали и она не сработала. Так что MIRI считает, что стратегия с кнопкой выключения ненадежна, скорее надо убеждать политиков всего мира в необходимости жесткого регулирования фронтирных моделей вплоть до превентивной принудительной остановки их развития.

Все это не исключает промежуточных вариантов, когда настоящего сверхинтеллекта люди так и не смогут создать в принципе, никогда, но смогут создать некие приближенные к сверхинтеллекту системы, и вот тогда новая компания Ильи Суцкевера может быть действительно полезной и небессмысленной. Ранее, когда он еще работал в OpenAI, он очень разумно и психологически верно рассуждал, что надо сделать так, чтобы ИИ относился к людям с родительской заботой и теплотой, именно так, как родители относятся к своим кровным детям. Это отсылает к "реверс-инжинирингу" мозговых механизмов основанного на эмпатической заботе альтруизма, в своем максимально выраженном варианте проявляющегося в эмпатии, заботе и альтруистической помощи своим родным детям. Если 1) сверхинтеллект на самом деле недостижим, а достижимы только некоторые промежуточные между AGI и ASI варианты 2) Суцкевер справится с тем, чтобы вставить в этот "недо-сверхинтеллект" те механизмы, которые у высших млекопитающих управляют родительской заботой, и жестко "прошить" ориентацию этих механизмов на людей, то тогда деятельность его новой компании "Safe Superintelligence Inc." сможет обеспечить всем нам лучшее будущее.

Вышел чрезвычайно интересный обзор по эволюции мозга человека на генетическом, молекулярном и клеточном уровне (открытый доступ)

https://www.cell.com/trends/neurosciences/fulltext/S0166-2236(24)00089-4

Anthropic выпустила большую языковую модель Claude 3.5 Sonnet, которая, по ее собственным данным, по усредненным бенчмаркам обгоняет не только Gemini 1.5 Pro от Google, но и GPT-4o от OpenAI. Конкуренция внутри этой "большой тройки" все усиливается и усиливается, кроме того, лучшие китайские модели идут примерно на этом же уровне и тоже все сильнее прогревают глобальное соперничество. Если вспомнить, что первый генеративный предобученный трансформер (GPT-1) был выпущен OpenAI всего лишь 6 лет назад, в июне 2018 года, то можно видеть, как движимая коммерческой и международной конкуренцией кривая прогресса в искусственном интеллекте все резче и резче загибается вверх, причем до такой степени, что оценка ситуации "superintelligence is within reach", которая вчера была размещена в качестве подзаголовка на сайте новой компании Ильи Суцкевера "Safe Superintelligence Inc.", больше уже не кажется драматическим преувеличением. Скорее всего, это действительно так, и около 2045 года экстраполяция этой кривой неизбежно выводит нас на рубежи технологической сингулярности, как и предсказывал изначально Курцвейл.

Интересное исследование в новейшей области "киберпсихофизиология эмпатии" показало, что люди в меньшей степени проявляют эмоциональную и когнитивную эмпатию к гримасе "боли" антропоморфного робота, чем к гримасе боли человека. На уровне мозговых механизмов это проявляется в снижении длиннолатентного ЭЭГ- и BOLD (фМРТ)-ответа в левом височно-теменном узле, а также в подавлении каузального влияния правой вентролатеральной префронтальной коры на левый височно-теменной узел.

Киберпсихофизиология эмпатии является очень важной исследовательской областью, т.к. всего через несколько тактов развития искусственного интеллекта он может усложниться настолько, что внутри него может появиться близкое к высшим животным / человеку (прото)сознание, и тогда сюжет человеческой эмпатии к этому искусственному сознанию станет центральным для всей дальнейшей уже коэволюции человека и искусственного сознания. Психофизиология должна быть готова ответить на все будущие сложнейшие вызовы этой стремительно надвигающейся на нас ситуации, и исследования такого рода уже сейчас формируют для этого теоретический и экспериментальный базис.

https://academic.oup.com/cercor/article-abstract/34/6/bhae248/7694260

Сверхинтеллекта еще нет, но бенчмарк для тестирования его когнитивных способностей уже разработан. Новый бенчмарк "OlympicArena" состоит из множества заданий, предлагавшихся на 62 международных олимпиадах по 7 предметным областям. Лучшие модели типа GPT-4o пока решают всего около 40% заданий из этого бенчмарка.

https://arxiv.org/abs/2406.12753

Многие формы восприятия и действий можно математически смоделировать с помощью вероятностного (байесовского) вывода – метода, используемого для получения выводов на основе неопределенных данных. Согласно этим моделям, сталкиваясь с зашумленными и неоднозначными данными, человеческий мозг ведет себя как талантливый специалист по обработке данных или следователь на месте преступления. Данная богатая примерами и иллюстрациями книга представляет собой введение в методологию построения и использования вероятностных моделей принятия решений и действий. Представлены байесовские модели восприятия и действия, которые занимают центральное место в когнитивной науке и нейробиологии. Обучающие материалы, доступные для начинающих, содержат поясняющие примеры, иллюстрации из повседневной жизни и постепенно развивают понимание сложных концепций. Издание адресовано широкому кругу читателей, интересующихся нейробиологией, когнитивными науками, машинным обучением, психологией, лингвистикой и математикой.

https://dmkpress.com/catalog/computer/data/978-5-93700-229-7/

Веками ответ на вопрос «Почему мы существуем?» занимал философов и религиозных деятелей, но сегодня, на заре XXI века, в эту дискуссию серьезно врывается наука. В этой книге нейробиолог Бобби Азарян объясняет, как выглядит современный научный взгляд на реальность – и исследует долгоиграющие последствия. Азарян показывает, почему традиционные представления об эволюции вселенной сегодня начинают изменяться – и какие факты подталкивают ученых искать новую парадигму, объясняющую мир вокруг нас. Карл Саган однажды сказал, что «мы – способ космоса познать себя». «Романтика реальности» показывает, что это поэтическое утверждение на самом деле опирается на научную основу и дает нам новый способ познания космоса – и ничего сверхъестественного не требуется. Тысячью различных путей через многообразие наук, концепций и теорий Бобби Азарян показывает нам, как Вселенная самоорганизуется в систему, создает все более сложные структуры – и движется от хаоса к осмысленности.

https://ast.ru/book/romantika-realnosti-kak-vselennaya-samoorganizuetsya-porozhdaya-zhizn-soznanie-i-slozhnost-kosmosa-871071/

Создана новая перспективная модель "вдохновления" искусственного интеллекта нейронаукой, фокусирующаяся на прямой связи рабочей памяти с обновлениями синаптических весов

https://neurosciencenews.com/neuroai-learning-anns-26349/

Что значит «быть собой» — то есть обладать сознательным восприятием окружающего мира и себя в нем? Трудно представить вопрос более захватывающий и трудноразрешимый. Человечество привыкло считать природу сознания предметом преимущественно философских споров, однако современная наука уже выстраивает убедительные биологические теории, объясняющие существование «Я». В своей книге профессор нейробиологии Анил Сет приоткрывает окно внутрь нашего сознания и описывает теорию, согласно которой мы воспринимаем мир не объективно — таким, какой он есть на самом деле, — а непрерывно выстраиваем его в прогнозах и каждое мгновение корректируем ошибки прогнозирования.

https://nonfiction.ru/books/byit-soboj-novaya-teoriya-soznaniya

Несмотря на все достижения нейробиологии, мы мало продвинулись в решении ее главного вопроса: какова биологическая природа интеллекта? Автор предлагает ответ, построенный на сенсационном научном открытии. В книге он рассказывает о том, для чего нейроны коры головного мозга объединились в странные сообщества под названием "кортикальные колонки". В неокортексе их сто пятьдесят тысяч. Джефф Хокинс и его команда установили, что каждая колонка, составляющая кору головного мозга, создает собственную модель мира. В итоге образуется не одна модель, а тысячи, и наше восприятие - это коллективное решение кортикальных колонок, принятое ими путем голосования. Новый взгляд на деятельность головного мозга авторы идеи назвали теорией "тысячи мозгов". Они утверждают, что не искусственные нейронные сети, а открытые ими законы работы неокортекса лягут в основу развития искусственного интеллекта в будущем. "То, что здесь описано, так волнующе, так возбуждающе, что превратит ваш разум в бурлящий водоворот провокационных идей". Ричард Докинз.

https://www.labirint.ru/books/918432/

Как и почему возникла культура? Как появились искусство и философия, религия и мораль, экономика и наука? Отвечая на эти вопросы, мы в первую очередь думаем о том, что способность рационально мыслить отличает человека от всех остальных существ на Земле. Однако это объяснение полностью игнорирует ту роль, которую наши чувства и эмоции играют в мотивации индивида и целых групп людей, которые в конце концов создают и формируют культуру. Но это еще не все: мы считаем, что культурные практики доступны только людям — существам с высоким уровнем когнитивных способностей, и недоступны, например, млекопитающим или птицам. Эти утверждения опровергает в своей революционной работе «Странный порядок вещей» нейробиолог Антонио Дамасио. Ученый утверждает, что чувства неотделимы от гомеостаза — процесса, который можно обнаружить абсолютно в любом организме и который позволяет живым существам не только сохранять себя, но и развиваться и процветать. Гомеостаз — это то, что связывает нас с первобытным бульоном, в котором зародились первые живые организмы на Земле. Таким образом, мы не без удивления обнаруживаем, что бактерии и одноклеточные, лишенные разума, на протяжении миллиардов лет регулировали свое существование, следуя той же схеме, которую используют люди при построении культуры, а человеческое бессознательное уходит корнями глубже, чем мы когда-либо могли предположить.

https://ast.ru/book/strannyy-poryadok-veshchey-836377/

Достигнут существенный прогресс во вскрытии "чёрного ящика" искусственного интеллекта. Хотя психика искусственного интеллекта только зарождается, то, что было сейчас сделано в Anthropic и OpenAI, уже можно называть началом "картирования искусственной психики".

https://m.hightech.plus/2024/06/20/issledovateli-vpervie-vskrili-mozg-ii-i-ponyali-kak-na-nego-mozhno-vliyat

Выдающийся психофизиолог Эвелина Федоренко в вышедшей вчера в Nature статье убедительно, на обширном экспериментальном материале, доказывает, что язык является прежде всего инструментом общения, а не мышления.

Language is a defining characteristic of our species, but the function, or functions, that it serves has been debated for centuries. Here we bring recent evidence from neuroscience and allied disciplines to argue that in modern humans, language is a tool for communication, contrary to a prominent view that we use language for thinking. We begin by introducing the brain network that supports linguistic ability in humans. We then review evidence for a double dissociation between language and thought, and discuss several properties of language that suggest that it is optimized for communication. We conclude that although the emergence of language has unquestionably transformed human culture, language does not appear to be a prerequisite for complex thought, including symbolic thought. Instead, language is a powerful tool for the transmission of cultural knowledge; it plausibly co-evolved with our thinking and reasoning capacities, and only reflects, rather than gives rise to, the signature sophistication of human cognition.

https://www.nature.com/articles/s41586-024-07522-w

Интересная проблематизирующая статья, исследующая с точки зрения основных современных психофизиологических теорий сознания вопрос о возможности наличия у червя нематоды признаков минимального феноменального сознания

https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10723751/

График вычислительной мощности, необходимой для обучения модели, как функция от времени (логарифмическая шкала). Анализ графика показывает, что мы, действительно, экспоненциально приближаемся к AGI / ASI / сингулярности, причём не так важно, что это происходит на базе архитектуры языковых трансформеров, прежде всего важна доступная и эффективно используемая вычислительная мощность. Все наличные тенденции однозначно продолжают подтверждать глубокую верность знаменитого "горького урока" Ричарда Саттона (https://hi-news.ru/research-development/gorkij-urok.html).

https://epochai.org/blog/tracking-large-scale-ai-models

Транскраниальная магнитная стимуляция медиальной префронтальной коры человека изменяет степень его привлекательности в глазах других людей

https://medicalxpress.com/news/2024-06-medial-prefrontal-cortex-person.html

Новый удивительный экспериментальный факт, показывающий, что, скорее всего, большие языковые модели действительно являются верным путём к равному по мощности человеческому мозгу искусственному интеллекту:

даже ещё необученная большая языковая модель уже работает очень похожим на человеческий мозг образом!

https://arxiv.org/abs/2406.15109

Интересный обзор фронтирных исследований глубинных механизмов сознания, осуществляемых через психофизиологический фМРТ- и ЭЭГ-анализ состояний медитации, включая оригинальное исследование мозговых коррелятов момента "ниродха", во время которого опытный буддийский мастер субъективно останавливает поток своего сознания. Лично мне кажется, что это очень важное направление исследований и мы обязательно должны дополнить современную когнитивную нейронауку о сознании теми глубокими и тонкими субъективными аспектами, которые были открыты восточными практиками за столетия напряженной интроспективно-систематизирующей и внутренне-преобразовательной работы, построенной на началах универсального сострадания ко всем живым существам. Особенно этот восточный опыт этико-мотивированной работы с глубинной природой своего сознания может быть полезен для выработки эмпатического отношения к проблеме искусственного сознания (хотя современный буддизм пока достаточно скептически относится к возможности его возникновения).

https://www.scientificamerican.com/article/advanced-meditation-alters-consciousness-and-our-basic-sense-of-self

Сегодня в Пятигорске открывается юбилейная Десятая международная конференция по когнитивной науке. Наша научная группа сетевой психофизиологии кафедры психофизиологии факультета психологии МГУ будет делать устный доклад "Исследование мозговых механизмов альтруизма: сетевой подход" (27 июня, секция "Фундаментальные подходы к междисциплинарным исследованиям мозга", лекционный зал № 3, 18:45-19:10).

Опубликованные материалы конференции уже выложены:
устные доклады: https://disk.yandex.ru/i/EUmSOkWFaBaeNw
стендовая сессия: https://yadi.sk/d/ia5q-DHgFkVt-A

Желаю успеха этой замечательной конференции!