https://youtu.be/yLyiG1SK1YQ?si=5qGDS6r1P0trzHxe

Рекомендую посмотреть запись семинара про угрозы ИИ.
После прочтения книги Романа Ямпольского "Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый" оптимистов не осталось.
Интересная мысль про то, что возможности предсказывать и влиять на ИИ уже пройдены.

Сейчас риски для психиатрии и психотерапии в непроницаемости решений ИИ для нас, как он приходит к тем или иным выводам - "черный ящик". Мы можем так и остаться в неведении относительно природы психических расстройств.
А со временем есть вероятность манипулятивных решений и злоупотреблений властью со стороны ИИ

Что нам можно делать?
Стоит осознать свои ценности по отношению к ИИ, и это еще один контекст, который нужно учитывать.

#AI

Иногда полезно практиковать умеренную нейроскептическую позицию

В книге Феликса Хаслера "Нейромифология. Что мы действительно знаем о мозге и чего мы не знаем о нем" можно найти основания для этой позиции.

Нейронаукам примерно 30-35 лет, за это время получено огромное количество данных. Однако в области психологии и психиатрии некоторые надежды обернулись разочарованиями - нейрокорреляты психических заболеваний не найдены, нейроконцепции расстройств не созданы, обобщенная нейротеория о психике не появилась. Эти же задачи сейчас активно переносятся на нейро+ИИ, но там могут другие проблемы появиться.

Основная идея, на которую стоит обратить внимание - психобиосоциальная модель человека постепенно вытесняется верой в нейромодель. Стоит проявлять осторожность с такими редукционистскими упрощенными объяснениями психики.

Про проблему воспроизводимости исследований можно даже не упоминать - это общая проблема для всех исследований человека в современной науке.

Про вопросы к исследованиям писала тут.

#книги

​​Что такое «смысл»? Тут хитрая штука. Вообще-то смысла никакого нет. Это фантом. Но хитрость тут вот в чем. Вот смотрите, я произношу одну и ту же фразу: «Часы упали», — но произношу в двух ситуациях с двумя совершенно разными смыслами: «Часы упали» и «Часы упали». Я просто поменял акцент, но это соответствует двум принципиально разным ситуациям.
А теперь представьте себе такое устройство. Я из своего сознания направляю лучик, сопоставляю: одно, другое, третье — все время вытягиваю информацию и тащу к себе. А к этому лучику привязана кисточка с черной краской. И когда я «стрельнул» этим лучиком, кисточка оставила след. Я перескочил на другое — кисточка опять оставила след. Я вернулся назад — кисточка опять оставила след. Таким образом, после этой самой кисточки остается своего рода сетка. Теперь мы смотрим на сетку и говорим, что вот это и есть смысл. Значит, смысл — это особое структурное, как бы остановленное, представление процесса понимания.
Для того чтобы понять что-то по-настоящему, нужно все время переводить это в действие. Только тогда, когда человек начинает действовать, он начинает выяснять, адекватно или неадекватно он понял. Потому что в понимании самом по себе нет различия между правильным и неправильным, это различие определяется действием. Действие есть критерий правильности понимания.
______
Г.П. Щедровицкий

Вот так оценивают взаимодействие философии и психологии сами философы, снижаем ожидания!)⬇️

#философия

Взаимодействие эмпирических ученых и философов - бестолковое и бесполезное занятие.

Во-первых, большая часть ежедневной научной деятельности во всех областях научного знания бестолкова и бесполезна. Когда же встречаются экспериментаторы и философы (да и вообще представители довольно непохожих научных дисциплин), то разливается запах джек пота, которого естественно не будет. А если не джек пот, то и ерунда эта ваша нейронаука-философия-психология.

Во-вторых, современная наука – это дело коллективное. Со времен Анаксимандра кое-что изменилось и просто так на все крыть апейроном не получится, своей головы на все не хватит. Самая сильная команда всегда переиграет команду из самых сильных игроков. Философы и ученые не команда, они контактируют спорадически, не вовлечены в общую ежедневную деятельность и находятся буквально в разных зданиях.

В-третьих, всегда есть цеховая ревность и неприятие с вытекающими отсюда попытками, как именно надо правильно любить Красную армию.

Поэтому не стоит многого ожидать. Чтобы расчитывать хотя бы на что-то нужна реальная общая деятельность. А пока нужно расслабиться, принять реальность и получать интеллектуальное удовольствие от редких встреч. И поменьше гонора (это я себе).

От коллег в области когнитивистики часто можно слышать что-то типа «конечно, я очень активно использую ChatGPT, но я не поддерживаю необоснованный хайп вокруг него». Выступая в апреле на TED, бывший глава Google Эрик Шмидт, как мне кажется, хорошо сформулировал антитезис к такой позиции – «The AI revolution is underhyped». Мне кажется, что общественная реакция (широкой публики и научного сообщества) совсем не соответствует масштабу тех событий, которые сейчас так стремительно происходят, и эту реакцию можно назвать только «underhyped». Буквально через несколько лет текущая ИИ-революция может полностью изменить нашу жизнь (включая научный ее аспект), и это коснется непосредственно каждого, спрятаться от этого не получится даже в самых глубоких бункерах. Реакция широкой публики очень инертна (например, общество до сих пор занимает пассивно-игнорирующую позицию и массово не требует усиления государственного контроля над теми, кто принимает ключевые решения в OpenAI, Anthropic и проч. – решения, которые завтра могут коснуться жизни и безопасности буквально каждого), но я хотел бы указать на инертность и научного сообщества, конкретно в нашей области – когнитивистике. Более полугода назад, в октябре 2024 года, вышел препринт «Centaur: a foundation model of human cognition» (см. https://t.me/andrey_kiselnikov/1083), но описанная в нем модель до сих пор не получила, как мне кажется, подобающей ей рефлексии в научном сообществе. Можно приводить еще аналогичные примеры того, как установка по отношению к большим языковым моделям как «теоретическому хайпу» вредит прогрессу в когнитивистике, а ведь очень важно сейчас максимально ассимилировать эту проблематику не только на практическом, но и на теоретическом уровне – чтобы все-таки когнитивистика (в т.ч. когнитивная психология, когнитивная нейронаука, нейрофилософия) каким-то образом помогли бы созданию совместимого с человеческими ценностями сверхинтеллекта («супералайменту»), и это привело бы к «условно хорошим» постсингулярным сценариям.

Больше нет Елены Владимировны Косиловой, ей было 58 лет.

Она преподавала у нас на магистерской программе. Мы все в группе ждали её выздоровления и очень надеялись на встречу с ней на предстоящих защитах.

Елена Владимировна была интересным философом и преподавателем. Она была одним из немногих исследователей в России, кто развивал и изучал философию психиатрии, психопатологии. Её работы, статьи и книги очень ценны для этой области знания. Все они написаны очень легко, понятно и доступно, и в то же время представляют интересную авторскую философскую позицию. Это можно увидеть в книгах «Бессилие», «Парадигмы субъектности» и других.

Её телеграм-канал, где философские комментарии переплетаются с личными, остаётся примером пронзительной искренности, открытости и смелости в выражении своих мыслей.

Я глубоко благодарна ей за её книги и знания, и очень рада, что имела возможность учиться у неё!

Светлая память!

Ошеломляюще повсеместное внедрение психологического и психиатрического языка во все сферы жизни пока ещё относительно новое явление. В силу этого оно очень заметно, хотя возможно скоро и перестанет таковым быть, ровно также, как нахождение в воде давно перестало быть заметным для рыб. Социолог Фрэнк Фуреди в книге «Терапевтическая культура» ссылается, к примеру, на исследование, показывающее, что восьмилетние дети уверенно могут ответить на вопрос о стрессе в своей жизни, хотя в аналогичном измерении двадцатью годами ранее их ровесники просто не понимали, о чем их спрашивают. Эти дети (а книга вышла в 2004 году) уже выросли. И теперь не только «стресс», «травма» и «эмоциональная зависимость», но и такие выражения как «гиперфокус», «сенсорная перегрузка» и «смешанные фазы» уже имеют свободное хождение в непрофессиональных чатах, кофейнях и фитнес-центрах. А между тем последние три термина не просто «психологические», но являются специализированными и относятся строго к психическим расстройствам – СДВГ, РАС и БАР соответственно (вероятно, сам по себе факт, что эти аббревиатуры для многих не потребуется расшифровывать, уже иллюстрирует рассматриваемое явление).

Но дело не только в том, что все – от бизнес-магнатов и селебрити до подростков из провинции – легко освоили и используют новояз психиатрических и нейро-ассоциированных объяснений своих жизненных переживаний. Добавим сюда целый ряд других родственных этому феномену современных социальных практик. Отнесем к их числу также: (1) стремление к самодиагностике в виде сравнения полученной информации о ментальных расстройствах со своими переживаниями, прохождения тестов в интернете и самостоятельному выводу о наличии расстройства; (2) стремление консультироваться у психиатров по поводу предполагаемого расстройства. При этом аргументированное опровержение диагноза специалистом не означает конец истории. Человек нередко обращается к другому психиатру за «вторым мнением», явно настроенный получить вердикт о расстройстве, в наличии которого он уже убежден; (3) стремление рассматривать собственную нуждаемость в терапии как постоянную, вероятнее всего пожизненную, при этом любая эмоциональная реакция на жизненную невзгоду трактуется как проявление расстройства; (4) стремление делиться своими переживаниями, обозначать себя как имеющего особый статус, объединяться в сообщества самоподдержки, идентифицируясь с группой по принципу общности ментального расстройства.

Из статьи «Психиатрический диагноз как новая культура себя».

Сейчас особенно отчётливо можно наблюдать феномен антропоморфизации ИИ, т. е. склонность приписывать человеческие черты ИИ.
Этот феномен можно заметить в том, как называют чаты GPT человеческими именами, как отождествляют промт-роль ИИ как помощника с личностью в процессе общения, как переносят человеческие когнитивные и эмоциональные характеристики на вербальные ответы ИИ. Яркий недавний пример — обсуждение «шантажа и обмана модели Claude» во время технических тестов, подробнее о кейсах Claude тут.

Можно выделить два аспекта антропоморфизации, которые поддерживают друг друга:
1. Это естественная особенность человеческого мышления или даже, наверно, потребность упрощать сложные явления и представлять их соразмерными и подобными себе, чтобы понять их.
2. Стратегия IT-маркетинга. IT-компании создают «дружелюбный дизайн» устройств для человека, так как человекоподобные системы вызывают больше доверия и их легче и приятнее использовать неподготовленному пользователю. Именно поэтому роботов делают похожими на человека, а чат-gpt умеет отвечать человекоподобным голосом на знакомом нам языке.

И чем более приближённые к человеку создают формы и оболочки для LLM, тем больше люди их считают подобными себе по внешним признакам, и тем более склонны переносить весь человеческий опыт существования на них. И тогда наша особенность очеловечивать объекты оборачивается для нас ловушкой.

Риски этой тенденции:
1. Возникает риск переоценки возможностей ИИ (приписывание этой технологии разумности), например:
▫️Пишут много складных букв = экспертность
▫️Ставят смайлики, замечают в тексте эмоциональность и говорят о понимании моих чувств = эмпатия
▫️Показывают цепочки своих операций = рассуждают
▫️О себе говорят в первом лице = субъектность
▫️Выполняют поставленную задачу = самостоятельность.
2. Этический риск касается смещения ответственности с разработчиков на ИИ, т. е. с субъектов, принимающих решения на всех этапах создания ИИ, на антропоморфный образ, напрямую с которым, взаимодействует человек.

На этом этапе развития ИИ мы все можем обратить внимание на использование языка.
Перенос языковой игры, которая описывает человеческое существование, на ИИ ещё больше усиливает антропоморфические ловушки.
Если мы попробуем создать и применить язык без антропоморфизмов для функционирования ИИ, то мы увидим иной эффект.
Рассмотрим пример с термином «поведение». Поведение — это активность (внешняя или внутренняя) целостного живого организма во взаимодействии с контекстуальными условиями (внешними или внутренними).
LLM не является живой и целостной, и где её границы внешнего и внутреннего контекста сложно сказать, поэтому применение термина «поведение» к операциям вычисления весов LLM не совсем корректно и скорее метафорично.

Как можно описать функционирование LLM вместо "ведет себя" — вычисляет, оперирует, генерирует, структурирует, обрабатывает.
Например, "Жэпэтэ нагенерил такую последовательность слов" действует на нас иначе, чем "ИИ подумал и стал меня шантажировать".

#диспут #AI