Культурно-историческая возрастная психология (Джером Брунер) вдохновляет "воспитание" в искусственном интеллекте социокультурных способностей

https://www.frontiersin.org/journals/neurorobotics/articles/10.3389/fnbot.2024.1396359/full

Свежий обзор различий в психофизиологических механизмах когнитивных процессов на разных пространственных масштабах – от отдельных нейронов до общемозговых сетей

https://www.cell.com/trends/cognitive-sciences/abstract/S1364-6613(24)00252-3

Утром во вторник, еще до начала выборов, я писал о чувстве вступления в фазу финального предсингулярного сверхускорения научно-технического прогресса и Большой Истории / Глобальной эволюции в целом. Результаты вторничных выборов полностью подтверждают это ощущение – новая избранная администрация для повышения конкурентоспособности обещает дерегулировать развитие ИИ и отменить ограничивающие развитие ИИ акты уходящей администрации. На глобальном уровне это вызовет эффект домино – все другие игроки, чтобы не отстать, тоже будут вынуждены использовать более рисковые, но более конкурентоспособные стратегии развития ИИ, т.е. не вводить регулирование. Все это может существенно ускорить создание сверхинтеллекта и технологическую сингулярность по сравнению с альтернативной ситуацией – когда все международные игроки кооперируются, синхронно вводят жесткую регуляцию развития ИИ и договариваются совместно стараться не допустить создания сверхинтеллекта и перехвата им контроля у человечества. Т.е. человечество продолжает максимально рисково идти ва-банк, презрев самосохранение ради невероятных возможностей развития, которые потенциально (с неизвестной вероятностью) может принести нам или нашим постчеловеческим преемникам создание сверхинтеллекта (победа над старением, всеобщее изобилие, доминирование творческого компонента в жизни и т.д. и т.п., недавно и глава OpenAI Сэм Альтман, и глава Anthropic Дарио Амодеи по очереди очень оптимистично высказались об этом). Причем складывается ощущение, что если новая администрация после январской инаугурации действительно начнет систематически дерегулировать ИИ (что не факт, возможно, они одумаются, ранее Маск, который теперь будет советником по ИИ, высказывался за регулирование и даже в марте 2023 года, после выхода GPT-4, подписывал знаменитое коллективное письмо о необходимости полугодового моратория), то это станет точкой невозврата – далее уже по целому комплексу причин вводить жесткое регулирование будет поздно, неэффективно, и ситуация станет развиваться в режиме неконтролируемого схода снежной лавины в горах, что, собственно, и является метафорой старта сингулярности. Т.к. новая администрация с ее настроем на дерегуляцию будет у власти целых четыре года (которые, судя по всему, станут во всех смыслах ключевыми), то я бы сильно сдвинул вниз свой личный прогноз по достижению сверхинтеллекта и началу сингулярности таким образом: 2030 год – оптимистичная оценка снизу, 2035 год – самая вероятная оценка, 2040 год – консервативная оценка сверху. В проекции психологии и когнитивной нейронауки это означает, что осталось, скорее всего, всего около 10-15 лет, чтобы постараться успеть «вдохновить» на самом низком и «нестираемом» уровне архитектуру будущего искусственного сверхразума архитектурой психологических и мозговых механизмов просоциального, мотивированного эмпатией, состраданием и другими морально-этическими ценностями поведения человека, и этим повысить шансы на позитивный для людей исход перехода эволюции интеллекта и сознания на следующий (постсингулярный) уровень.

9 ноября исполняется 124 года со дня рождения Блюмы Вульфовны Зейгарник – основателя отечественной патопсихологической школы, ученицы Курта Левина и Льва Семёновича Выготского, одного из создателей факультета психологии МГУ, выдающейся исследовательницы и совершенно замечательной личности

К нейроморфизации искусственного интеллекта:

Yuki Kamitani. "Brain-to-AI and Brain-to-Brain Functional Alignments". Presentation at a meeting of JSPS Transformative Research Area (A) "Unified theory of prediction and action" at Kyoto University (2024.11.7)

https://speakerdeck.com/ykamit/brain-to-ai-and-brain-to-brain-functional-alignments

В продолжение рефлексии нарастающих «предсингулярных вайбов» (https://t.me/andrey_kiselnikov/1086, https://t.me/andrey_kiselnikov/1092)

Позавчера было опубликовано новое видеоинтервью с главой OpenAI Сэмом Альтманом, где он сообщает, что, возможно, создания AGI надо ожидать уже в 2025 году и утверждает, что никаких принципиально новых идей для этого не нужно, только более творческое использование уже существующих идей. Скорее всего, он имеет ввиду, что в 2025 году будет выпущен или следующий продукт линейки «o1», или GPT-5, или продукт, объединяющий «старую» GPT-линейку и «новую» o1. Ранее он говорил, что ASI (следующий уровень после AGI) может быть создан уже «через несколько тысяч дней».

Лично я раньше думал, что путь от AGI к ASI будет чрезвычайно скор, возможно, всего несколько секунд (см. знаменитые дебаты о рекурсивном «взрыве интеллекта», hard vs soft takeoff и проч.), но теперь я думаю, глядя на реальный процесс создания AGI, что этот путь может занять 5-10 лет, что хорошо бьется с прогнозом Альтмана. Это будет связано с тем, что AGI по интеллекту будет приближаться к нобелевским лауреатам (даже текущая OpenAI o1 уже пытается наступать на пятки кандидатам наук), но вот как ему будет сделать шаг дальше и стать умнее самого умного человека, причем желательно во всех сферах сразу? Скорее всего, не будет другого способа, кроме того, который уже изобрели люди – науки, причем науки, включающей фундаментальную физику (особенно ее) и все другие дисциплины. Но физика требует не просто теоретической работы, но и обязательно экспериментальной проверки на мегаустановках типа Большого адронного коллайдера и проч., для психологии / когнитивной нейронауки это сотни тысяч трудоемких экспериментов на фМРТ-сканерах и других приборах. Тут полная аналогия – Homo Sapiens изобрел науку как способ ускорить свою когнитивную эволюцию, как способ саморазвития, и это сработало (современные люди – это сверхинтеллект относительно первых людей, причем мозг развился не так сильно, как комплекс мозг + культура [в т.ч. наука]), и у AGI как нашего детища и вероятного преемника тоже не будет другого способа ускорить свою когнитивную эволюцию и саморазвиться до уровня ASI. Вероятно, именно это и станет главным «бутылочным горлышком» начинающейся сингулярности – необходимость проводить миллионы экспериментов в натурных, а не виртуальных условиях, и здесь люди, можно надеяться, все-таки смогут, если захотят (хотя все идет к тому, что не захотят) все остановить и не дать AGI тех физических ресурсов, которые будут необходимы для развертывания совершенно невиданной по масштабам экспериментальной научной работы, перед которой померкнет все, что мы видели до этого. Некоторые думают, что AGI будет так силен, что сможет провести все эти эксперименты виртуально, в виртуальных сэмулированных лабораториях, но мне кажется, что для этого просто не хватит вычислительной мощности (например, для квантовой химии и физики можно сказать, что даже если мы обратим всю материю Вселенной в фантастический «компьютрониум», т.е. максимально выжмем из всей Вселенной все ее вычислительные возможности, то мы все равно не сумеем промоделировать все явления на самом нижнем – квантовом – уровне). Конечно, многие вещи AGI сумеет открыть «на кончике пера» и в полностью виртуальных специализированных лабораториях (в т.ч. по психологии / когнитивной нейронауке), но я сомневаюсь, что этого хватит для ASI, или надо будет очень много лет, чтобы дойти до ASI таким «нефизическим» путем, без создания лабораторий на физическом уровне.

Также надо отметить, что будет очень тонкая грань между двумя углами зрения на происходящие события – или «люди с помощью AGI развивают науку и приближают свой «золотой век», где будет побеждено старение, настанет всеобщее изобилие и т.д.», или «AGI с помощью людей развивает себя до ASI с помощью ускорения научного прогресса». Кто на самом деле будет субъектом сингулярности – люди, AGI, AGI как инструмент людей, люди как инструмент AGI, партнерство людей и AGI? Все это странно звучащие вопросы неожиданно могут стать вопросами ближайшего будущего, и все сильнее разливающиеся в ноосфере «предсингулярные вайбы» сигнализируют об этом.

P.S. Есть еще один вероятный сценарий, гораздо более быстрый, чем «AGI через несколько лет и ASI через 5-10 лет с помощью новой научной революции». Продолжим аналогию когнитивной эволюции от первых людей до современных людей. Мы знаем, что мозг на уровне сложности коннектома развился мало, и в основном развитие шло через накопление и трансляцию культуры (вспомним Выготского), в т.ч науки как части культуры. Т.е. в ходе когнитивной эволюции людей шло развитие «софта», а не «харда», мозг как «хард», конечно, в какой-то степени развивался (вспомним и идеи «гено-культурный коэволюции» и проч.), но культура, в т.ч. наука, была безусловным драйвером этой когнитивной эволюции. Отметим, что до Homo sapiens мозг претерпел огромную эволюцию по структурной сложности – по числу нейронов и связей, по сложности их упаковки, по нейрохимии медиаторов и т.д., от мозга ланцетника до мозга первого человека был пройден гигантский путь. Теперь представим в рамках мысленного эксперимента, что мы берем мозг современного человека и усиливаем его на базовом структурно-функциональном уровне примерно настолько же, насколько эволюция усилила мозг при развитии от ланцетника до первого человека. В таком мозге, радикально улучшенном на «хардверном», а не «культурно-софтверном» («выготскианском)» уровне, скорее всего, будут более мощные перцептивные функции, функции внимания, ассоциативные функции, сильнее базовая память (долговременная и оперативная), более мощные способности к вербальному и невербальному мышлению, и, в целом, более мощный базовый интеллект и базовое сознание. Теперь предположим, что все дети начали рождаться с такой «улучшенной» версией мозга и погружаются в стандартную наличную человеческую культуру уже в таком варианте. Скорее всего, в этом случае мы увидели бы невероятное ускорение интеллектуальной эволюции человечества, так как такие дети, быстро интериоризировав достигнутый культурный, в т.ч. научный, уровень, сразу начали бы двигать этот уровень дальше гораздо быстрее, чем это происходит сейчас. Вероятно, это «улучшенное» поколение создало бы науку принципиально, качественно нового уровня, возможно, они даже создали бы такие формы исследовательской деятельности, для которых уже не так нужны реальные лаборатории в реальном физическом мире – и вот тут мы и подходим к сути проводимой мной аналогии.

Создавая AGI, мы, фактически, с некоторой точностью создаем (методом реверс-инжиниринга по когнитивным следам нашей деятельности, т.е. не создаем, а, фактически, реконструируем по следам) «цифровой слепок» с интериоризировавшего культуру мозга человека. AGI будет обобщенным «цифровым мозгом» всего человечества, и в нем будут течь информационные процессы, изоморфные информационным процессам в оснащенном культурой биологическом мозге человека (причем если функционализм верен, то такой изоморфности хватит для воспроизводства не только интеллекта – это уже почти достигнуто, но и сознания человека, и вот тут продолжаются самые горячие дебаты). Фактически, AGI будет реконструкцией «общечеловеческого» интеллекта (и сознания?), но уже на силиконовом носителе. Выше я писал, что такому AGI, для того чтобы «улучшиться» до уровня ASI, придется развернуть масштабную научно-исследовательскую деятельность, в т.ч. обязательно создавать не виртуальные, а реальные лаборатории в реальном физическом мире. НО – это в случае, когда на «хардверном» уровне этот AGI остается именно таким, каким мы его создали – равным по базовой мощности человеческому мозгу. Теперь представим, что этот ранний AGI на порядки промасштабировал свою базовую архитектуру – увеличил число своих искусственных нейронов, связей и слоев, именно так, как в моем мысленном примере, когда появилось новое поколение детей с базово улучшенным мозгом. И если в случае с человеческими детьми такое, конечно, сделать невозможно, это остается чисто мысленным экспериментом, то в случае с ранним AGI это технически вполне может быть возможно – число искусственных нейронов, связей и слоев ограничено только вычислительными мощностями, а не объемом черепа, наличными кислородом и глюкозой, старением и проч., как в случае реального мозга. В итоге, возможно, после такого структурного «самоулучшения» раннего AGI он сможет развернуть такие научные исследования, для которых и не понадобятся реальные лаборатории в реальном физическом мире, или он создаст вообще качественно новые типы исследовательской деятельности, которые соотносятся с нашей текущей наукой примерно так, как текущая наука – с завязыванием узелков древними людьми (из «Этюдов по истории поведения» Выготского и Лурии).

Резюмируя, можно сказать, что если это вдруг произойдет, то путь от AGI до ASI может занять гораздо меньше, чем 5-10 лет, однако, я бы оценивал такую вероятность как достаточно низкую (но которую, тем не менее, обязательно надо учитывать и не сбрасывать со счетов, т.к. ставки здесь максимально высоки).

Дмитрий Антонович Сахаров (Сухарев) – выдающийся нейробиолог и поэт
01.11.1930 – 11.11.2024

Реализация алгоритма обратного распространения ошибки на нейроморфном процессоре Loihi

https://www.nature.com/articles/s41467-024-53827-9

Этические аспекты использования инвазивных нейроинтерфейсов для улучшения когнитивного функционирования

https://journals.plos.org/plosbiology/article?id=10.1371%2Fjournal.pbio.3002899

Симультанная регистрация электрофизиологического и BOLD (фМРТ)-сигнала от нескольких зон мозга находящейся в покое крысы показала, что пространственная организация электрофизиологического сигнала хорошо "бьётся" с BOLD-сигналом, а вот временная – плохо, что говорит о том, что в генерации BOLD-сигнала участвует какой-то "невидимый" для электрофизиологии скрытый фактор

https://neurosciencenews.com/rsfmri-brain-mapping-28015

Продолжается исследование "эфаптических" полевых эффектов в мозге и их возможного вклада в механизмы поведения, психики и сознания

https://www.scientificamerican.com/article/consciousness-might-hide-in-our-brains-electric-fields

Akyürek et al. (2024). The Surprising Effectiveness of Test-Time Training for Abstract Reasoning.

ekinakyurek.github.io/papers/ttt.pdf

Искусственный интеллект догнал среднего человека по специально разработанному тесту на абстрактное мышление (знаменитый бенчмарк "ARC" – Abstraction and Reasoning Corpus, придуманный известным скептиком относительно способности больших языковых моделей по-настоящему рассуждать Франсуа Шолле) – и ИИ, и средний человек набирают около 60%, однако некоторые люди набирают под 100%.

Это ещё не AGI, но сам факт достижения такого выдающегося результата указывает на ускоряющееся (вероятно, предсингулярное) движение к AGI / ASI (раньше добиться уровня среднего человека на этом бенчмарке не удавалось). Этот результат повышает вероятность создания AGI в ближайшие годы и ASI / сингулярности в 2030-е.

Альтернативный нейротех: от глии до искусственного интеллекта

https://naked-science.ru/article/column/glii-do-iskusstvennogo-in

Нейроны памяти вспоминают конкретные эпизоды жизни благодаря общению с соседним астроцитами

https://m.nkj.ru/news/52262/

Сегодня я прочитал последнюю лекцию части «Физиология высшей нервной деятельности» общего курса «Физиология высшей нервной деятельности и сенсорных систем» для студентов второго курса факультета психологии МГУ, дальше часть «Физиология сенсорных систем» будет читать заведующий кафедрой психофизиологии Александр Михайлович Черноризов.

Давая итоговый обзор идейной эволюции павловской линии в нейронауке, я рассказал о трагически упущенном историческом шансе создать именно в нашей стране, первыми в мире, когнитивную нейронауку, развив ее из поздних версий павловской нейрофизиологии, синтезированных с кибернетикой. Сейчас есть возможность все-таки реализовать этот потенциал и продолжить павловскую линию уже на уровне современной когнитивной нейронауки, и я вижу это следующим образом.

В целом в эволюции павловских идей в проекции механизмов психики можно выделить школу векторной психофизиологии Евгения Николаевича Соколова («концептуальная рефлекторная дуга», «векторное кодирование информации в мозге», «сферическая модель сенсорных, когнитивных и моторных процессов») и Петра Кузьмича Анохина («теория функциональных систем», «системная психофизиология»). Соколов, оттолкнувших от проблемы связи восприятия и условного рефлекса, стал творчески развивать Павлова, создавая сложные многомерные геометрические модели сенсорных, а также когнитивных и моторных процессов, причем для доказательства своих идей в 50-е-90-е годы он сумел провести в МГУ на кафедре психофизиологии психфака и кафедре высшей нервной деятельности биофака очень масштабные исследования на уровне отдельных нейронов как простых, так и сложных нервных систем (работы А.М. Черноризова, Г.Г. Аракелова, Н.Н. Даниловой, Т.Н. Греченко, В.Б. Полянского, А.В. Латанова, Е.Д. Шехтер и мн.др.). Т.к. условный рефлекс – это механизм пластичности поведения, то Соколов, в контексте постановки проблемы «связь восприятия и условного рефлекса», сразу вышел на механизмы обучения и памяти, и быстро стал ведущим ученым в мире в области пластичности поведения на нейронном уровне (за что был в 1975 году избран академиком Национальной академии наук США). Соколов мыслил сложными геометрическими моделями, и всегда старался с помощью своей универсальной «сферической» геометрической модели описать не только мозговые механизмы сенсорных, когнитивных и моторных процессов самих по себе, но и мозговые механизмы пластичности этих процессов в ходе научения, понимая его в павловском ключе. В целом, Соколов в большей степени работал на «низком» системном уровне отдельных нейронов и в меньшей степени затрагивал «верхний» системный уровень, который стал фокусом исследования второй основной павловской линии – линии Петра Кузьмича Анохина.

Сегодня я рассказал студентам историю о том, как Петр Кузьмич юношей первый раз побывал на лекции Павлова в Петрограде, очень вдохновился и после долгих колебаний, преодолев страх, решился постучаться к нему в кабинет после лекции и попросился в его научную группу. С этого момент он стал его близким учеником и главным реформатором его учения на «верхнем» системном уровне. Анохин творческим образом смог нащупать «точки роста» павловской нейрофизиологии на этом уровне и стал размышлять в направлении целостной организации мозговых процессов, анализировать вклад внутренней активности в генез поведенческого акта, изучать опережающее отражение и обратные связи как механизм регуляции поведения. Все это привело к эволюционированию системных аспектов павловской нейрофизиологию в «теорию функциональных систем», которую далее в приложении к психологии под маркой «системная психофизиология» стали очень активно и творчески развивать В.Б. Швырков, Ю.И. Александров и К.В. Анохин (внук Петра Кузьмича).

Сегодня, описывая механизмы формирования классических и оперантных условных рефлексов на уровне отдельных нейронов, я рассказал о развиваемом Юрием Иосифовичем Александровым в Институте психологии РАН в рамках «системной психофизиологии» понимании нейрона не как пассивного «информационного винтика», а как активного субъекта, реализующего свои метаболические потребности с помощью «поведения» – изменения частоты генерации спайков (см. главу «Системная психофизиология» в учебнике по психофизиологии под его редакцией). Константин Владимирович Анохин развивает сейчас в Институте перспективных исследований мозга МГУ гиперсетевую концепцию разума, которая претендует на то, чтобы стать новой интегральной концепцией в когнитивной нейронауке, идейно продолжающей линию И.П. Павлова – П.К. Анохина.

Я вижу интересные перспективы синтеза этих двух павловских линий – линии Е.Н. Соколова и линии П.К. Анохина – К.В. Анохина – в контексте современной когнитивной нейронауки. В то время как Е.Н. Соколов фокусировался на более локальных и простых процессах, и его сферическая модель по своей природе более «жесткая» и «метрическая», то К.В. Анохин, работая с сетями и графами, фокусируется на более глобальных и сложных процессах, и его модель гораздо более «гибкая» и «неметрическая». Необходимо, как мне кажется, одновременно в процессе синтеза идти и «снизу вверх», и «сверху вниз»: двигаясь «снизу вверх» от более простых процессов к более сложным, надо искать грань, где перестает работать жестко метрическая сферическая модель и начинает лучше работать метрически более «мягкая» теория графов / гиперграфов, а двигаясь «сверху внизу», надо искать грань, где графы как бы «замерзают», становятся жестко «распластанными» по поверхности соколовской многомерной сферы, в результате чего описание в виде графов становится лишним, избыточным. Если идти предлагаемым мной путем, то можно будет одновременно непротиворечиво использовать на комплементарных системных уровнях и всю мощь развитого Соколовым геометрического моделирования, и всю мощь математического аппарата опирающейся на теорию графов современной сетевой нейронауки (аналогичные идеи, но с другого, «языкового», «захода» высказывались незадолго до смерти одним из самых талантливых учеников Соколова, его ближайшим последователем, соавтором сферической модели, профессором нашей кафедры психофизиологии Чингизом Абильфазовичем Измайловым, см. статью 2005 года Измайлов Ч.А., Черноризов А.М. Язык восприятия и мозг).

Сегодня, завершая свой курс, я подчеркнул самое, с моей точки зрения, главное – смогут ли модели, созданные / создаваемые в павловской линии в нейронауках (сферическая модель Е.Н. Соколова – Ч.А. Измайлова – А.М. Черноризова, модель функциональной системы П.К. Анохина – В.Б. Швыркова – Ю.И. Александрова, гиперсетевая модель К.В. Анохина) "вдохновить" архитектуру искусственного интеллекта так, чтобы созданный на основании этой архитектуры искусственный агент не только вел бы себя внешне человекоподобным образом, не только имел бы внутреннюю организацию, функционально изоморфную реальному мозгу, но и обладал бы на субъективно-феноменальном уровне искусственным психикой и сознанием? Это ключевой момент, и тут мой прогноз, скорее, отрицательный (это касается не только перечисленных нейрокогнитивных архитектур, «выросших» в павловской традиции, а касается вообще любых нейрокогнитивных архитектур), подробнее со ссылкой на знаменитый «горький урок» Ричарда Саттона я писал об этом ранее, см. https://t.me/andrey_kiselnikov/672 , https://t.me/andrey_kiselnikov/673. Также этот «горький урок» Ричарда Саттона полностью подтверждается недавним успешным созданием на базе большой языковой модели универсальной модели психики «Кентавр», а также особенно тем, что внутренние представления «Кентавра» после файнтюнинга множеством данных психологических экспериментов "автоматически", а не в результате имплементирования "сверху-вниз" какой-нибудь высокоуровневой психологической теории / модели / архитектуры, становятся мозгоподобными, см. https://t.me/andrey_kiselnikov/1083.

Я благодарю всех студентов второго курса факультета психологии МГУ за живой интерес к тематике физиологии высшей нервной деятельности и желаю продуктивно использовать все полученные знания для изучения следующих курсов (физиология сенсорных систем, психофизиология), а также для становления экспертности в вопросах «нейроморфизации» и «психологизации» искусственного интеллекта. Удачи! )

Сегодня на 77-м году жизни от нас ушел кандидат психологических наук, доцент кафедры психофизиологии факультета психологии МГУ Сергей Александрович Исайчев. Сергей Александрович был замечательным человеком и выдающимся исследователем и преподавателем, основателем направления "Практическая психофизиология" на факультете психологии МГУ.

Прощание с Сергеем Александровичем состоится 18 ноября, о месте и времени будет сообщено дополнительно.

Мы глубоко скорбим, светлая память дорогому Сергею Александровичу!