Полюбуйтесь, какая красота!

Жаль, что не все оценят, но если кто оценит – 300 лайков и я это переведу на русский.

СПРАВЕДЛИВОСТЬ: АЛГОРИТМ ИЛИ ЭКСПЕРТ?

В Китае продолжается киберпанк — на этот раз там обязали судей консультироваться с искуственным интеллектом (ИИ) при вынесении вердикта. Дела автоматически проверяются на признаки судебных ошибок и коррупции, а нейросеть обучили на сотнях тысяч прошлых дел. Причём любой приговор, не совпадающий с решением нейросети, судье придётся письменно обосновывать.

Пишут, что каждое судебное дело обязано идти через эту систему, а за последние три года работы она сэкономила внушительные 1,7 миллиардов (!) человеко-часов и сумму, эквивалентную $45 миллиардам. Власти страны конечно же в восторге, но такое обширное применение ИИ напрочь убивает принцип независимости судебной системы, а также забывает про личный опыт, образование и моральные качества живых судей. И это - совершенно другая крайность.

Конечно, причина стремления ухода от личного мнения к алгоритмам понятна: они уменьшают количество предвзятостей и шума. Но эта крайность не менее опасна.

И все же, давайте порассуждаем.

Допустим, вас признали виновным в угоне автомобиля. Вы бы предпочли, чтобы наказание определил судья или алгоритм?

Алгоритмы все чаще заменяют людей в принятии решений, начиная от найма новых сотрудников и вопросов здравоохранения и заканчивая уголовным правом. Но авторы новой статьи в Journal of Experimental Psychology отмечают‎: общественность все больше беспокоится о том, как именно алгоритмы принимают решения. В некоторых штатах США компании, использующие алгоритмы при приеме на работу, теперь обязаны разъяснять этапы отбора.

Однако этот акцент на прозрачности процесса принятия алгоритмических решений, хотя и хорошо мотивирован, сам порождает парадокс.

Судьи, рекрутеры и врачи не обязаны объяснять каждое решение. Так почему возникает проблема с алгоритмами, которые делают то же самое? Дело в том, что люди считают более понятным процесс принятия решений человеком, нежели алгоритмом. Но, как утверждают исследователи, люди, делающие выбор, «часто такие же «черные ящики», как и алгоритмы, которые призваны их заменить. Люди тоже не знают, по каким на основании чего они принимают решения. А если и говорят, что знают, - то это далеко не всегда является правдой.

Команда ученых провела серию исследований.

В первом из них группу онлайн-участников попросили рассмотреть один из трех сценариев, в которых решение принимает либо эксперт, либо алгоритм. Один из них предполагал оценку риска повторного совершения преступления; другой — ответ на вопрос, выявила ли магнитно-резонансная томография заболевание; и последний — просмотр видео-интервью для принятия решения о найме на работу. Затем участники оценили, насколько хорошо они понимают процесс, который человек или алгоритм будет использовать для принятия решения. Во всех сценариях те, кто читал о человеке, сообщили, что лучше понимают процесс, чем те, кто читал об алгоритме.

А другую группу участников сначала попросили объяснить, как человек или алгоритм на самом деле будут принимать решения. У этих участников оценки «понимания» процесса были ниже, как в том, что касалось эксперта, так и в отношении алгоритма. Но значительное влияние было оказано на оценки, относящиеся к эксперту, что в некоторых случаях означало исчезновение разницы между человеком и алгоритмом. «Эти результаты показывают, что люди создают сильную иллюзию лучшего понимания человека, чем алгоритма, при принятии решений», — заключает команда.

В последующем онлайн-эксперименте некоторым участникам сообщили, что неспециалистам легко оценить риск повторного совершения преступления обвиняемым и принять решение об условно-досрочном освобождении. Это привело к ложной «иллюзии понимания» процесса у человека, но не повлияло на понимание процесса алгоритма. То есть мы думаем, что больше «понимаем» ход мысли эксперта, потому что проецируем свой подход на других людей. Не удивительно, но это помогает укрепить аргументацию команды.

Как и результаты третьего эксперимента. В нем участников попросили объяснить, что отличает их от человека-рентгенолога и от алгоритма, и это привело к снижению баллов за «понимание» рентгенолога, но не алгоритма.

Команда утверждает: признавая, что сильно отличаемся от эксперта, мы не можем больше проецировать на него собственные процессы, что делает нас менее предвзятыми.

Однако есть и другие объяснения.

Почему мы склонны доверять признанным экспертам больше, чем алгоритмам? Путь к получению такой профессии, как судья, очень конкурентен и занимает много лет. Людям, которые многого достигли, не нужно объяснять свои решения, за них это делает авторитет, заработанный за годы карьеры. Но разве с алгоритмом не то же самое? Если бы мы видели данные, свидетельствующие об успешной практике принятия правильных решений, то испытывали бы меньше тревоги в отношении процесса и охотнее соглашались с суждениями алгоритма.

Алгоритмы часто превосходят людей, принимающих решения.
«Поскольку внутренняя работа современных алгоритмов часто необъяснима, то приведение непостижимых, но более точных алгоритмов к более высоким стандартам прозрачности, чем те, что применяются к менее точным человеческим аналогам, которые мы ошибочно считаем более понятными, в конечном счете оказывается непрактичным и вредным для общественного благосостояния», — заключают авторы статьи. Интересная точка зрения.

Предоставление четких доказательств этого в отношении найма, здравоохранения и наказания (а также других областей, в которых алгоритмические решения влияют на людей), несомненно, сделало бы больше, чтобы убедить скептически настроенную общественность доверять алгоритмам.

Друзья, напоминаю, что в четверг, 21 июля - традиционный практикум по профайлингу - 2х часовые занятия, на которых мы на конкретных примерах и видео тренируемся видеть и использовать основные инструменты профайлинга.

На них мы на примерах рассматриваем отличия настоящих эмоций от ложных, проявления лжи и правды, тонкие калибровки психотипов и их поведения, невербалику, речь и много другое. Здесь вы всегда можете спросить, уточнить, поделиться своим мнением по конкретному примеру и узнать мнение других. В таком формате рождается комплексное и подробное описание рассматриваемых примеров, что позволяет вам не только оценить уже имеющиеся знания профайлинга, но и научиться новому.

Очередное занятие в четверг, 21 июля в 20:00. Присоединяйтесь.

В прошлый раз мы смотрели и анализировали видео-резюме. В этот раз придумает что-то похожее.

https://proprofiling.com/practikum

#практика, #профайлинг, #детекциялжи, #мероприятия

Профайлинг и групповое мышление.

Все мы - представители каких-то групп: социально-демографических, социально=экономических, психологических, групп по интересами и пр. И на каждого из нас, на кого-то больше, на кого-то меньше влияют нормы тех групп, в которых он состоит.

Один из наиболее известных психологов ХХ века - Ирвинг Дженис более 40-ка лет в Йельском Университете изучал принципы группового мышления. В 70х-80х годах прошлого столетия он опубликовал ряд книг на тему группового мышления и конфликтов. Эти книги были десятки раз переизданны. Последняя редакция его книг на русском - 2002 год.

В ходе своих исследований Ирвинг Дженис сначала эмпирически заметил, а потом доказал, что многие политические решения, которые приводили впоследствии к большим трагедиям, имели в своей основе что-то общее. Дженис проанализировал ретроспективно целый ряд исторических свидетельств событий многих политических культур ХХ века. Например, то , как администрация Джона Кеннеди принимала решения о спецоперации на Кубе, как администрация Линдона Джонсона погрязла в войне во Вьетнаме, почему армия США не предотвратила атаку японцев на Пёрл Харбер и т.д.

Каждое из этих решений было принято узкими группами лиц, у которых можно было найти общие черты по мнению Джениса. Он их перечисляет еще в 1972 году в своей книге "Групповое мышление: психологическое исследование внешнеполитических решений", вышедшей в разгар Вьетнамской войны.

И, как вы понимаете, этот список характеристик не имеет никакого отношения к событиям 2022 года: ведь прошло целых 50 лет и всё изменилось 😏.

Вот этот список личностных черт и диспозиций.

1. Иллюзия неуязвимости, побуждающая к принятию очень рискованных решений.

2. Не подвергающаяся сомнению вера в высокий морально-нравственный уровень группы, и как следствие игнорирование членами группы последствий своих действий.

3. Рационализация и игнорирование сигналов извне, которые могли поставить под сомнение выводы, сделанные группой.

4. Формирование стереотипного представления об оппонентах как слабых, предвзятых, злобных и глупых.

5. Самоцензура, замалчивание каждым членом группы своих собственных идей, которые могли противоречить общему мнению группы.

6. Иллюзия единогласия, молчание расценивается как выражение согласия.

7. Прямое давление группы и обвинение в нелояльности любого члена группы, который подвергает сомнению её решения.

8. Наличие членов группы, которые по своей инициативе ограждают группу от информации, противоречащей общему мнению группы.

Всё это он назвал признаками группового мышления (Groupthink). Впоследствии эта идея превратилась в одну из самых влиятельных концепций, описывающих возможные негативные последствия групповых форм принятия решений, а сам Дженис вошёл в сотню самых цитируемых психологов XX века. Далее концепция множество раз уточнялась, проверялась с помощью уже близких к психологии методов и стала источником множества рекомендаций по тому, как этого можно избежать этих паттернов.

Будьте внимательны к тому, в какие группы вы входите и как паттерны этих групп влияют на ваши решения и на решения тех людей, за которыми вы наблюдаете.

#профайлинг, #мозг, #эффектстрауса, #катастрофы, #иррациональность, #групповоемышление, #ProProfiling, #Филатов

В Nature и в Molecular Psychiatry буквально вчера вышла интересная статья, ставящая под сомнение серотониновую теорию возникновения депрессии.

Это тоже похоже на эпохальное событие. Кстати, недавно случилось еще одно эпохальное событие связанное с определением эмоций.

Суть этой теории заключается в том, что депрессия развивается из-за нарушений баланса биогенных аминов в мозге (нейромедиаторов) — дофамина, норадреналина и серотонина. По большей степени эта теория подтверждается клинически: при назначении антидепрессантов, которые влияют на метаболизм или концентрацию этих нейромедиаторов и состояние пациентов улучшается.

Один из путей лечения депрессии – это селективные ингибиторы захвата серотонина. Наиболее распространённый пример таких препаратов – паксил. Паксил повышает концентрацию серотонина в синаптических целях в мозге и тем самым (доказательно!) снижает выраженность симптомов депрессии.

Однако, не хочу вас разочаровывать, но и в этой концепции не все так однозначно. Все-таки мозг – это самое сложное, что есть в нашей Вселенной.

Чувствительные проблемы в серотониновой теории депрессии были освещены в большой обзорной статье января 2022 года. А вчерашняя работа, опубликованная и проведенная командой из Университетского колледжа Лондона во главе с профессором Джоанной Монкриф (Joanna Moncrieff) еще больше убеждает в том, что не все так однозначно.

Ученые проанализировали результаты множества прошлых экспериментов, целью которых был поиск связи между серотонином и депрессией. В итоге выяснилось, что достоверно эта связь так и не доказана. Авторы указывают на целый ряд исследований, в которых не удалось найти никакой корреляции между разными аспектами работы серотониновой системы и развитием депрессии.

Так, в одном из экспериментов ученые сравнивали количество серотонина и продуктов его метаболизма в крови и в мозге у здоровых людей и пациентов с депрессией, но не нашли между ними существенной разницы. В нескольких работах уровень серотонина у добровольцев понижали искусственно, с помощью диеты, обедненной триптофаном — аминокислотой, из которой он синтезируется. Внимательный анализ таких опытов показал, что это срабатывает не всегда и далеко не у всех участников развивается депрессия.

Статья завершается словами о том, что на сегодняшний день «не следует говорить пациентам, что депрессия связана с нехваткой серотонина или химическим дисбалансом или что антидепрессанты работают, корректируя эти недоказанные аномалии. Мы не понимаем в точности, что именно делают антидепрессанты в мозге». Далее автор статьи пишет: «Меня всю жизнь учили, что депрессия вызывается пониженным серотонином, и я сам учу этому студентов. Но участие в этом исследовании открыло мне глаза, перевернув с ног на голову все прошлые представления».

Фармацевтический бизнес на антидепрессантах – это отдельный разговор. Продажи антидепрессантов стабильно растут не только в мире, но и в РФ. В частности, только полгода 2022 продажи антидепрессантов в РФ увеличились на 66%.

Однако статья прямо не говорит о том, что все антидепрессанты не работают. Работают, но не все. И если работают, то не до конца понятно как именнои за счет чего. В это-то как раз и надо разбираться.

Кстати, вот мой февральский пост о 10-ти гарантированно доказанных фактах о лечении депрессии. Почитайте.

#мозг, #депрессия, #нейромедиатор, #серотонин, #исследования, #паксил, #ProProfiling, #Филатов

Сегодня отмечается международный день мозга.

Мозг – самый сложный и интересный орган человека. В настоящее время нейроученые всех стран объединились в нескольких крупнейших мировых проектах по изучению мозга. Также существуют и крупные национальные проекты.

Изучая поведение на серьезном уровне, просто необходимо знать основные принципы организации и работы мозга, поскольку наше поведение управляется мозгом.

Сегодня есть множество открытых источников с самой последней информацией исследований мозга. Например, самые подробные атласы можно посмотреть на https://ebrains.eu/ и https://bigbrainproject.org/ с разрешением до нескольких микрон.

Книги про мозг стали одними из самых читаемых и интерес к устройству и работе мозга заметно растет даже среди среди простых людей: многие интересуются тем, как улучшить его работу сделать ее более эффективной.

Собственно и здесь есть что почитать на эту тему: в канале уже 220 сообщений с #мозг

Книжная подборка по нейробиологии здесь:
часть 1 и часть 2.

#профайлинг, #мозг, #праздник, #атлас, #ProProfiling

#профайлинг, #мозг, #праздник, #атлас, #ProProfiling