Интересный новый подход в психофизиологии – "термодинамика разума"

To survive, the brain must perform fast, efficient distributed computation. The challenge is to discover the orchestration of the brain hierarchy over space and time. Thermodynamics is a natural framework to quantify hierarchy in any system. The key concepts of irreversibility and the ‘arrow of time’ can reveal the asymmetry of brain information flow. The ‘Thermodynamics of Mind’ framework has provided novel insights into the changing hierarchy of brain states. Combined with whole-brain modelling, thermodynamics shows great promise for revealing causal insights into the orchestration of cognition.

https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(24)00075-5

Обзор более 250 больших языковых моделей, используемых для научных исследований

https://arxiv.org/abs/2406.10833

Вышел свежий обзор нейрофеноменологических подходов к медитации и их значимости для клинических исследований

https://osf.io/preprints/psyarxiv/b6gx3

Под руководством замечательной исследовательницы в области психологии и психофизиологии альтруизма Эбигейл Марш (её работы являются одним из главных вдохновляющих стимулов нашей собственной исследовательской программы изучения мозговых механизмов альтруизма у нас в МГУ) получены новые интересные данные о "беспристрастных" (универсальных, непредвзятых) альтруистах, которые альтруистичны не только к близким людям, но и в равной степени к совершенно чужим (например, добровольно, без финансового или какого-либо другого корыстного интереса жертвуют почку абсолютно чужому человеку). Команда исследователей предположила, что близкие люди таких экстраординарных "беспристрастных" альтруистов должны страдать от такой их "неразборчивости" в оказании помощи и это должно ухудшать качество отношений. Однако, эксперимент опроверг это предположение – "беспристрастность" альтруизма близкого человека не ухудшает качество отношений с ним, более того, было показано, что близкие "беспристрастных" альтруистов сами склонны к "беспристрастности" в своём просоциальном поведении. Это говорит о том, что общие моральные ценности близких людей, связанные с универсальной практической любовью, являются протективным фактором, защищающим отношения в ситуации "беспристрастного" альтруизма.

https://www.researchsquare.com/article/rs-4294608/v1

Наш соотечественник по рождению Илья Суцкевер основал новую компанию "Safe Superintelligence Inc.", которая будет заниматься исключительно "супералайментом", т.е. созданием безопасного сверхинтеллекта. Это будет, вероятно, по духу новая "OpenAI" именно так, как она задумывалась ("ИИ для блага всего человечества"), а не так, как в итоге развернул ее Сэм Альтман, для которого главным стало получение прибыли без действительно серьезных и глубоких переживаний за последствия движения по такому опасному пути. В целом, подтверждается гипотеза о том, что вся прошлогодня история с конфликтом Суцкевера с Альтманом была связана именно с разностью этих двух позиций их как лидеров компании.

Впрочем, шансы на успех всего этого предприятия очень малы, фундаментальные работы профессора Романа Ямпольского четко показывают, что Суцкевер ставит перед собой принципиально, теоретически нерешаемую задачу – никаким образом невозможно будет контролировать систему, интеллектуальные возможности которой будут сильно превышать человеческие. Курируемый Элиезером Юдковским "Machine Intelligence Research Institute" недавно опубликовал свой манифест "MIRI 2024 Communications Strategy", где предлагается альтернативная стратегия, связанная с жестким регулированием национальными правительствами развития фронтирных моделей ИИ и законодательной необходимостью включать в такие модели на самом низком уровне "кнопку выключения" ("off-switch"), которая могла бы безусловно остановить работу системы при первых подозрениях на ее спонтанное неуправляемое поведение. Впрочем, все мы помним, что аналогичная кнопка была на Чернобыльском реакторе (кнопка "АЗ-5"), ее нажали и она не сработала. Так что MIRI считает, что стратегия с кнопкой выключения ненадежна, скорее надо убеждать политиков всего мира в необходимости жесткого регулирования фронтирных моделей вплоть до превентивной принудительной остановки их развития.

Все это не исключает промежуточных вариантов, когда настоящего сверхинтеллекта люди так и не смогут создать в принципе, никогда, но смогут создать некие приближенные к сверхинтеллекту системы, и вот тогда новая компания Ильи Суцкевера может быть действительно полезной и небессмысленной. Ранее, когда он еще работал в OpenAI, он очень разумно и психологически верно рассуждал, что надо сделать так, чтобы ИИ относился к людям с родительской заботой и теплотой, именно так, как родители относятся к своим кровным детям. Это отсылает к "реверс-инжинирингу" мозговых механизмов основанного на эмпатической заботе альтруизма, в своем максимально выраженном варианте проявляющегося в эмпатии, заботе и альтруистической помощи своим родным детям. Если 1) сверхинтеллект на самом деле недостижим, а достижимы только некоторые промежуточные между AGI и ASI варианты 2) Суцкевер справится с тем, чтобы вставить в этот "недо-сверхинтеллект" те механизмы, которые у высших млекопитающих управляют родительской заботой, и жестко "прошить" ориентацию этих механизмов на людей, то тогда деятельность его новой компании "Safe Superintelligence Inc." сможет обеспечить всем нам лучшее будущее.

Вышел чрезвычайно интересный обзор по эволюции мозга человека на генетическом, молекулярном и клеточном уровне (открытый доступ)

https://www.cell.com/trends/neurosciences/fulltext/S0166-2236(24)00089-4

Интересное исследование в новейшей области "киберпсихофизиология эмпатии" показало, что люди в меньшей степени проявляют эмоциональную и когнитивную эмпатию к гримасе "боли" антропоморфного робота, чем к гримасе боли человека. На уровне мозговых механизмов это проявляется в снижении длиннолатентного ЭЭГ- и BOLD (фМРТ)-ответа в левом височно-теменном узле, а также в подавлении каузального влияния правой вентролатеральной префронтальной коры на левый височно-теменной узел.

Киберпсихофизиология эмпатии является очень важной исследовательской областью, т.к. всего через несколько тактов развития искусственного интеллекта он может усложниться настолько, что внутри него может появиться близкое к высшим животным / человеку (прото)сознание, и тогда сюжет человеческой эмпатии к этому искусственному сознанию станет центральным для всей дальнейшей уже коэволюции человека и искусственного сознания. Психофизиология должна быть готова ответить на все будущие сложнейшие вызовы этой стремительно надвигающейся на нас ситуации, и исследования такого рода уже сейчас формируют для этого теоретический и экспериментальный базис.

https://academic.oup.com/cercor/article-abstract/34/6/bhae248/7694260

Несмотря на все достижения нейробиологии, мы мало продвинулись в решении ее главного вопроса: какова биологическая природа интеллекта? Автор предлагает ответ, построенный на сенсационном научном открытии. В книге он рассказывает о том, для чего нейроны коры головного мозга объединились в странные сообщества под названием "кортикальные колонки". В неокортексе их сто пятьдесят тысяч. Джефф Хокинс и его команда установили, что каждая колонка, составляющая кору головного мозга, создает собственную модель мира. В итоге образуется не одна модель, а тысячи, и наше восприятие - это коллективное решение кортикальных колонок, принятое ими путем голосования. Новый взгляд на деятельность головного мозга авторы идеи назвали теорией "тысячи мозгов". Они утверждают, что не искусственные нейронные сети, а открытые ими законы работы неокортекса лягут в основу развития искусственного интеллекта в будущем. "То, что здесь описано, так волнующе, так возбуждающе, что превратит ваш разум в бурлящий водоворот провокационных идей". Ричард Докинз.

https://www.labirint.ru/books/918432/

Достигнут существенный прогресс во вскрытии "чёрного ящика" искусственного интеллекта. Хотя психика искусственного интеллекта только зарождается, то, что было сейчас сделано в Anthropic и OpenAI, уже можно называть началом "картирования искусственной психики".

https://m.hightech.plus/2024/06/20/issledovateli-vpervie-vskrili-mozg-ii-i-ponyali-kak-na-nego-mozhno-vliyat

Выдающийся психофизиолог Эвелина Федоренко в вышедшей вчера в Nature статье убедительно, на обширном экспериментальном материале, доказывает, что язык является прежде всего инструментом общения, а не мышления.

Language is a defining characteristic of our species, but the function, or functions, that it serves has been debated for centuries. Here we bring recent evidence from neuroscience and allied disciplines to argue that in modern humans, language is a tool for communication, contrary to a prominent view that we use language for thinking. We begin by introducing the brain network that supports linguistic ability in humans. We then review evidence for a double dissociation between language and thought, and discuss several properties of language that suggest that it is optimized for communication. We conclude that although the emergence of language has unquestionably transformed human culture, language does not appear to be a prerequisite for complex thought, including symbolic thought. Instead, language is a powerful tool for the transmission of cultural knowledge; it plausibly co-evolved with our thinking and reasoning capacities, and only reflects, rather than gives rise to, the signature sophistication of human cognition.

https://www.nature.com/articles/s41586-024-07522-w

Японский оператор связи разрабатывает нейросеть, которая будет смягчать голосах злых клиентов.

Как обещают, даже крик человека будет преобразован в спокойный разговорный голос. Этим компания планирует снизить стресс у сотрудников колл-центров.

Нам всем нужна эта нейронка в реальной жизни.

Люди испытывают отвращение от журналистских статей, созданных ИИ: исследование

Ведущие западные СМИ пачками сокращают журналистов, потому что бить по клавишам и расставлять запятые может и ИИ, разве не так? Забыли спросить читателей. Институт изучения журналистики провел более чем масштабное расследование, и выяснил – зря не спросили.

Опрошено около ста тысяч человек, постоянно читающих новости. Оказалось, каждый второй в США, и более 60% в Европе понимают, что новость создана ИИ, и признаются, что им противно читать искусственно сгенерированный текст.

Они говорят, что тексты дубовые, а главное, что они не могут доверять машине и постоянно ждут обмана. Также читатели говорят, что хотят знать имена реальных журналистов. Кому-то ты доверяешь, кого-то считаешь чуть ли не личным оппонентом и строчишь гневные письма на сайт издания – это вообще не важно.

Чтение СМИ – это игра, и правила таковы, что на том конце провода должен стоять журналист, или дьявольски просвещенный и авторитетный, или тупой и придурковатый, а ты с ним взаимодействуешь.

Я, кстати, подумываю делать на этом канале приписку «контент создан человеком» - ну как «не содержит ГМО». Мне кажется, такие вещи надо уже проговаривать. Кстати, я (пока) опознаю ИИ-текст влет. Их палит сочетание фундаментальности и бессодержательности – этакий стиль пресс-релиза.

С вами был научный журналист Евгений Арсюхин.
Подписаться на КП Наука
Мой личный канал – там можно задать мне вопросы
Пишем о науке на KP.RU - серьёзно, просто и иногда весело!
@kpnauka

Видео докладов с конференции* по математической нейронауке и искусственному интеллекту (28-31 мая 2024, Рим):

https://www.youtube.com/playlist?list=PLA59nMLAkDyiyYoISlQDDnMY4pxKmTsBC

Отдельно стоит отметить доклады:

Wolfgang Maass "Local prediction-learning in high-dimensional spaces enables neural networks to plan"
https://www.youtube.com/watch?v=7TXJ6_1UbP4

Nicolas Brunel "Roles of inhibition in shaping the response of cortical networks"
https://www.youtube.com/watch?v=_vgBqUn_3wE

Peter Dayan "Controlling the Controller: Manipulations of Pavlovian Influences via Dopamine"
https://www.youtube.com/watch?v=WHEg_8NV2x0

а также коллективную дискуссию о будущем вычислительной нейронауки:

Panel: The Future of Computational Neuroscience
https://www.youtube.com/watch?v=fv2xCgsLSYM

---
*: Почему-то названной конвенцией (англ. convention).

В МФТИ создают 1-й нейристор, который ляжет в основу нейроморфного компьютера

Ученые уже научились создавать мемристоры — искусственные синапсы, обеспечивающие связь между нейронами для работы нейроморфного компьютера

Если соединить мемристоры с нейристором, то можно получить чип, который сможет просчитывать самые совершенные на сегодняшний день нейросетевые алгоритмы на физическом уровне, заявил Антон Ханас, сотрудник лаборатории функциональных материалов и устройств для наноэлектроники МФТИ

Отметим, что основными игроками в России по разработке нейромофных вычислений является Росатом и Курчатовский институт

О том, что такое нейроморфные вычисления и компьютеры, мы писали ранее здесь

Следующим этапом развития ИИ станет память и персонализация

СЕО Microsoft AI говорит, что следующим этапом развития ИИ станет память и персонализация, чтобы ваш ИИ мог запомнить все о вас и все, что вы сказали, чтобы поддержать вас

Месяц назад команда Сулеймана показала проект Recall именно об этом
Чистой воды эпизод из «Черного зеркала»

В долгосрочной перспективе ваш ИИ будет знать о вас все и иметь доступ ко всей вашей информации

СЕО Anthropic об ИИ, безусловном базовом доходе и более широкой экономической реорганизация

СЕО Anthropic, говорит, что нам нужно мыслить шире, чем безусловный базовый доход, если мы хотим решить проблему неравенства из-за ИИ

Недавно, сотрудница Амодея писала, что она скоро будет жить за счет безусловного базового дохода

Люди опасаются, что быстрое развитие ИИ может сконцентрировать власть и богатство в руках небольшой элиты

Дарио Амодей говорит, что универсальный базовый доход может не справиться с таким сдвигом, поэтому необходима более широкая экономическая реорганизация

«Я, конечно, думаю, что это лучше, чем ничего
Но я бы предпочел мир, в котором каждый может внести свой вклад
Было бы немного антиутопично, если бы было несколько людей, которые могут заработать триллионы $, а затем правительство раздает все это массам»

Многие из ИТ согласны с концепцией безусловного базового дохода, для смягчения экономического воздействия ИИ

Но Амодей предполагает, что ИИ изменит общество таким фундаментальным образом, что нам нужно разработать более комплексное решение
"Я думаю, что в долгосрочной перспективе нам действительно нужно будет подумать о том, как мы организуем экономику и как люди думают о своей жизни?"

Напомним, что Сэм Альтман недавно говорил, что вместо безусловного базового дохода должны быть безусловные базовые вычисления, где каждый человек получит часть вычислений GPT-7

А Google запустил пилотный проект по безусловному базовому доходу