Искусственный интеллект научили врать и манипулировать. И у него это получается не хуже человека.

Неделю назад признанный в РФ экстремистской организацией Facebook представил алгоритм «Цицерон», который научился вести переговоры в настольной игре про дипломатий и войну и который умеет врать. И это для нейросети впервые.

Как говорят разработчики, «агент научился балансировать между ложью и честностью». По сути в русском языке аналог для этого – блеф. Когда переговорщик угрожает что-то сделать, но на самом деле не собирается этого делать. Но представляет все так, что вот-вот начнет.

Игра Diplomacy, в которую научили играть алгоритм, по сути представляет собой военную стратегию в компьютерной игре на карте Европы начала XX века, в которой несколько игроков состязаются в дипломатии и военном искусстве. Ключевой момент игры – переговоры между представителями стран. «Главы государств» ведут переговоры, заключают союзы, предают, обманывают, блефуют — и всеми этими навыками (разумеется, не в настольной, а в онлайн-версии игры, доступной на webDiplomacy.net) овладел алгоритм ИИ Cicero.

Если упрощать, то Cicero — это что-то вроде чат-бота, в основе работы которого лежат два модуля: модуль понимания речи и понимания стратегического мышления. Помимо этого есть фильтры, отсеивающие «низкокачественные» реплики диалога, не подходящие текущей ситуации на поле или не ведущие к достижению цели, поставленной ИИ. Благодаря этим трем составляющим Cicero способен общаться с оппонентами по «Дипломатии», предсказывать их поступки, использовать игроков для достижения личной выгоды и выигрывать.

Прорыв здесь в том, что агент освоил прямую манипуляцию сознанием людей — умеет словами побудить их принять решение, нужное агенту.

Вот что утверждают авторы:

«CICERO может сделать вывод, что на более поздних этапах игры ему понадобится поддержка одного конкретного игрока, а затем разработать стратегию, чтобы завоевать его расположение — и даже распознать риски и возможности, которые этот игрок видит со своей точки зрения».

Сегодня Цицерон можно считать прообразом программы, способной выявить стиль принятия решений конкретного человека, построить вероятные сценарии его будущих решений и с учетом его уникального стиля подобрать систему аргументов, с помощью которых стремится убедить его мыслить или действовать в нужном направлении.

К чему это приведет?

К тому, что системы манипуляций через максимум десятилетие теперь будут просчитываться и создаваться машинами, которые будут предлагать операторам лучшие манипуляции конкретными людьми, организациями и группами.

Так что скучно не будет. У нас еще есть немного времени чтобы повышать свои навыки критического мышления и оценки информации. Лучшего выбора нет.

#будущее, #ITгиганты, #нейросеть, #ложь, #блеф, #игра, #манипуляция, #переговоры, #ИИ, #профайлинг, #исследования, #нейротехнологии, #профайлинг_филатов, #Филатов, #ProProfiling.

БОЛЬШАЯ ПЯТЕРКА. ЧАСТЬ 3.

Эта картинка на русском языке публикуется впервые. На ней – доказанные корреляции характеристик большой пятерки и наиболее часто встречающихся «объемных» личностных характеристик.

Среди них известные вам по 7Радикалам – паранояльный профиль, шизойдный, истероидный, гипертимный, эмотивный и др. А также особые профили, такие как например – аутистичный, садистский, позитивный, саморазрушительный и прочие. Всего есть 34 доказанных объемных характеристик.

Все эти характеристики на картинке представлены описанием уровня 5-ти качеств по большой пятерке (в категориях ++, +, 0, - и --) и на психографической карте Big5. Смысл этих описаний, надеюсь, интуитивно понятны из их названий.

Данные этой «картинки», а точнее – целой серии исследований, мы используем в аналитике нашего модуля автоматизированного профайлинга SearchInform ProfileCenter, который в октябре 2020 года занял первое место в престижной премии «Новатор Москвы» в номинации «Искусственный интеллект и IT» как инструмент, представляющий лучшую кадровую аналитику на рынке.

#Big5, #большаяпятерка, #психотипы, #психотипологии, #OCEAN, #мэтры, #поведение, #экстраверсия, #сотрудничество, #добросовестность, #нейротизм, #открытость, #исследования, #поведенческаяаналитика, #личность, #анализповедения, #профайлинг, #детекциялжи, #дизайнповедения, #маркетинг, #ИИ, #премия, #ProfileCenter, #профайлинг_Филатов, #Филатов, #ProProfiling

#Big5, #большаяпятерка, #психотипы, #психотипологии, #OCEAN, #мэтры, #поведение, #экстраверсия, #сотрудничество, #добросовестность, #нейротизм, #открытость, #исследования, #поведенческаяаналитика, #личность, #анализповедения, #профайлинг, #детекциялжи, #дизайнповедения, #маркетинг, #ИИ, #премия, #ProfileCenter, #профайлинг_Филатов, #Филатов, #ProProfiling

В своей февральской статье, Михал Косински, - мэтра, которого я в канале уже неоднократно упоминал, описывает очень интересные результаты своих исследования моделей GPT. Вот интервью с ним на русском 5-ти летней давности.

Косински – это именно тот психолог, который еще в начале 2010х увлекся нейросетями и еще в середине 10х представил нейросети, способные по фото определить сексуальную ориентацию человека, а по 55-ти лайкам составить подробный психологический портрет пользователя соцсети. Первая нейросеть была раскритикована, а вот вторая получила вполне реальное развитие. Некоторые её модели используем и мы в нашем ProfileCenter.

Так вот, Косински пишет: «Хотя такие результаты нужно интерпретировать с осторожностью, из них следует, что недавно опубликованные ИИ-модели обладают способностью вычислять ненаблюдаемые психические состояния других (т.е. способны «читать людей»). Более того, эти способности моделей очевидно растут вместе с их сложностью и датой выпуска и нет никаких причин предполагать, что этот процесс выйдет на плато в ближайшее время. И, наконец, нет никаких указаний на то, что эти функции были умышленно встроены разработчиками в эти модели, как нет и исследований, доказывающих, что разработчики знают, как это сделать. Поэтому мы предполагаем, что способность «читать людей» проявилась спонтанно и автономно как побочный продукт растущих языковых способностей ИИ-моделей».

Все это говорит о возможности уже в обозримом будущем создать AGI, то есть сознательный ИИ, способный с легкостью обманывать и манипулировать. И это уже не отдаленная перспектива, а то что будет рутиной через 10-15 лет.

Короче манипуляций и обмана, объективно в будущем будет только больше. Пока большинство людей еще отрицают, что машина может ими манипулировать. Но скоро это отрицание пройдет и мы должны позаботиться о том, чтобы эти манипуляции не были вредоносными, что скорее всего будет не просто.

Поэтому, дорогие друзья, как бы это не было сложно, развивайте в себе критическое мышление и изучайте качественный профайлинг – это в действительности поможет как минимум видеть основные манипуляции, подготовиться и противодействовать им.

#ИИ, #Косински, #манипуляции, #будущеепрекрасно, #ложь, #профайлинг, #GPT

6. Психологи, чтобы хоть как-то повлиять на то будущее, которое наступает, должны интенсифицировать исследования в области нейронауки эмпатии, формализовывать результаты этих исследований в виде вычислительных моделей и скооперироваться с создателями больших языковых можелей, чтобы хоть как-то иметь возможность повлиять на воспитание AGI в более эмпатийную, человеческую сторону, подтолкнуть эти модели в гуманистическую парадигму. Чем больше GPT5/6 будет воспитана именно в таком ключе, тем больше шансов, что AGI/ASI будет более похожа на человеческий. Поэтому уже скоро нам нужны профессии не просто воспитателей, а воспитателей ИИ.

#ИИ, #технологии, #будущее, #профайлинг

На этой неделе Всемирный экономический форум (WEF) опубликовал доклад «Будущее рабочих мест» и составил 10 ключевых навыков на ближайшие годы, из которых первые пять позиций занимают soft skills.

Отчёт основан на опросе 803 компаний из 27 разных отраслей в 45 странах мира. Сам доклад занимает 300 страниц, в нём много-много красиво упакованных данных о мировой безработице, диджитализации и самых бурно развивающихся индустриях, будущих профессий и прогнозов относительно наиболее востребованных компетенций в ближайшем будущем. В общем - посмотрите сами, если будет время.

WEF считает, что в течение следующих пяти лет ИИ и нейросети изменят 1/4 всех рабочих мест. А это много. В докладе предполагают ренессанс soft skills и напротив, угасание значимости "содержательной" подготовки среднего специалиста: мол, во многом, эта подготовка может быть заменена ИИ. И частично я с этим согласен.

Мы уже тут не раз отмечали, что мир становится все более иррациональным, эмоциональным и противоречивым. И то, что описано в отчете - лишь дополняет эти тренды. В такой непростой ситуации конечно, психология и личность многое решают.

Но эти 10 навыков помогут любому сотруднику лучше адаптироваться к новому миру:

1. Аналитическое мышление.
2. Творческое мышление.
3. Устойчивость и гибкость.
4. Мотивация.
5. Любознательность и обучение в течение всей жизни.
6. Технологическая грамотность.
7. Надёжность и внимание к деталям.
8. Эмпатия и активное слушание.
9. Лидерство и социальное влияние.
10. Контроль качества.

Как вы видите, многие из этих навыков "крутятся" вокруг профайлинга и детекции лжи. В ближайшем будущем нам еще больше будет необходимо понимание человека, того, как он мыслит, принимает решения и как на все это можно повлиять. В этом нам поможет качественный профайлинг.

Осенью 2020 г Стэнфордский университет опубликовал свою версию ключевых компетенцию нашего десятилетия. Посмотрите, он во многом схож.

#профайлинг, #тренды, #ИИ, #компетенции, #детекциялжи, #Филатов, #ProProfiling

Несколько приоткрою занавес к моему докладу на МКС про инновации в профайлинге.

Многие из нас уверены, что способны очень точно оценивать ложь и обман со стороны соискателей в ходе собеседования.

В среднем, человек считает, что способен распознать обман в интервью с точностью 80% (Roulin et al., 2014). На деле это не так — необученные интервьюеры распознают ложь с точностью 54%, а обученные — до 65% (Melchers, 2019). Но искусственный интеллект начинает менять и эту область (Forsyth, & Anglim, 2020).

Программа LIWC (Linguistic Inquiry and Word Count) анализирует посты в Твиттере, автобиографические эссе, выступления политиков и даже предсмертные записки. Исследователи применили её к текстовым эссе соискателей. Они попросили кандидатов рассказать про значимое достижение и свои навыки межличностной коммуникации: сначала правдиво, а потом соврать. Затем они проанализировали честные и выдуманные ответы кандидатов с помощью LIWC и определили, какие слова и выражения могут указывать на обман.

Итог достаточно предсказуем: машину обмануть сложнее, чем человека. Приукрашенные тексты распознавались искусственным интеллектом с точностью в 71%. И это причем данные 2015 года. На 2023 год разработчики декларируют точность в 89%.

Некоторые признаки, по которым можно определить обман в тексте:
1. Меньше личных местоимений. Возможно, это связано с тем, что кандидаты пытаются дистанцироваться от своей выдуманной истории.

2. Более скудное описание: больше глаголов действия и меньше союзов. Это связано с тем, что обман требует более высоких умственных нагрузок, от которых люди устают (Granhag et al.,2015).

#профайлинг, #обман, #интервью, #технологии, #ИИ, #ProProfiling, #статья

ЭКОПСИ выпустил интересную аналитику за 2022 год «Будущее оценки персонала», исследование 166 российских организаций.

Посмотрите, если интересуетесь оценкой персонала и ее трендами.

В отчет, кстати, пусть и вскользь, но попало упоминание и о нас, о ProfileCenter. Приятно. Еще 3-4 года назад они нас слегка критиковали за, так сказать, крен в область безопасности. Но, в целом, так оно и есть – безопасность – наш основной рынок. Хотя ProfileCenter работает на стыке безопасности и HR.

Лично для меня в отчете обращает на себя внимание то, что ключевой тренд – это предиктивные профили сотрудников. Собственно это то, чем и занимается серьезный профайлинг. Другими трендами являются – виртуальные центры оценки и оценка по кейсам.

Также обращает внимание то, что ИИ постепенно и осторожно внедряется в практику HR. Алармистские ожидания того, что с приходом ИИ и Chat GPT все быстро изменится не реализовались. Но тем не менее, как говорится – мы переоцениваем влияние новых технологий в краткосрочной перспективе и недооцениваем в долгосрочной. Поэтому, лет через 5-7 многое изменится, а это, между прочим, уже скоро)).

#коллеги, #HR, #тренды, #инновации, #ИИ, #ProfileCenter, #профайлинг

Кадровый профайлинг и искусственный интеллект (ИИ).

Пару месяцев назад опубликовано исследование о критериальной валидности и ретестовой надежности видео-интервью с оценкой кандидата с помощью ИИ.

И результаты этого исследования говорят, что и валидность, и надежность такой оценки велика. Как минимум допустима для использования на практике.

Сегодня этим уже никого не удивишь. Во время, а особенно после ковида это стало практически неотделимой HR-практикой, в ходе которой соискатель проходит интервью, на котором отвечает на важные вопросы и кейсы, рассказывает о себе, своем опыте и прочее. В общем, - все то же самое, что и в очном формате, но онлайн. Однако собеседование проводит робот (или человек), который потом оценивает соискателя по нескольким характеристикам, начиная от BIG5 и заканчивая социально-психологическими компетентностями. Производится оценка речи, эмоций, голосовых характеристик и даже в некоторых случаях – жестов. В результате дается некоторое писание кандидата и рекомендации для рекрутера.

Я еще в доковидные времена занимался этим и на нас тогда смотрели со скепсисом, и вот прошло 5 лет и все это превратилось в реальность.

Кто хочет – почитайте саму статью на сайте APA, а кому нужен сразу спойлер – сообщаю, что машина оказывается более стабильной и непредвзятой в оценке ряда качеств соискателя, оценивая при этом то, что ей сказали оценивать (а не просто – «нравится или не нравится»).

У всего этого есть понятные ограничения и в плане психологии, и в организации и в этике, но сегодня не смотря на все это технология активно развивается и внедряется в передовые HR-практики. На предыдущем МКС я рассказывал о основных HR-компаниях, занимающихся такими направлениями и об их успехах в этой области. И успехи эти есть (1, 2, 3). Таким образом, происходит постепенная легализация ИИ-инструментов оценки со стороны научного сообщества.

#HR, #кадровыйпрофайлинг, #ИИ, #персонал, #технологии, #профайлинг

ИИ, предсказывающий преступления

Тематические профессиональные чаты активно обсуждают новости о том, что в Южной Корее представили искусственный интеллект (далее – ИИ), способный предсказывать преступления.

Тема интересная и актуальная, тем более что мы здесь ее уже обсуждали.
Суть простая – система способна анализировать видеозаписи с городских камер и в реальном времени оценивать риски совершения преступлений. Система учится на основе видеозаписей, набора поведенческих факторов и статистики. Также эта статистика учитывает и криминальную составляющую – где, как, сколько, когда и какие были зарегистрированы преступления. Используя набор данных, связанных с прошлыми криминальными записями и статистикой, связанной с преступностью, ИИ Dejaview автоматически анализирует записи видеонаблюдения в реальном времени, чтобы сравнивать и измерять текущие ситуации и их сходства с прошлыми криминальными ситуациями.

ИИ «скормили» почти 33.000 видеозаписей и по ним научили классифицировать криминальное поведение людей на улице. Как только риск того или иного события критически возрастает, система рекомендует направить дежурный отряд полиции в определенное место.

Что я могу сказать на эту тему?

Сегодня это уже не удивительно. Более того, я еще в 2021 году в Израиле тестировал подобную систему, отлично умеющую (еще в 2021 году) классифицировать криминальное поведение на улице, автоматически их фиксировать и сообщать полиции. И, судя по всему, функционал Сorsight до сих пор как минимум не хуже того, что представили корейцы.

Тем не менее, тема с ИИ, как я постоянно и говорю, в том числе и в профайлинге будет расширяться. А такие и подобные системы есть не только в Корее, но и в Израиле, США, Китае (1, 2) и у нас. Это еще конец 10х-начало 20хх и это совсем не секрет. Так что корейцы в этом плане – догоняющие и совсем не первые. Но вот хорошо это или плохо - судите сами).

#технологии, #ИИ, #профайлинг, #BigBrother, #криминалистика, #аналитика

Немного пятничного технооптимизма)))

В некоторых китайских школах теперь нейросеть выбирает, кто пойдет к доске.

ИИ считывает эмоции и мимику всех учеников в классе и определяет ученика, который плохо подготовился.

Хорошо, что когда мы учились, в наших школах такого не было))).

Конечно это приведет к тому, что люди будут учиться противодействовать этому со школьных парт)). Я тут уже неоднократно писал о том, как в Китае и США используются нейросети для определения потенциально опасного поведения школьников, их склонности к суицидам, буллингу и тому подобное. И это в целом – неплохо.
Но есть но… В том числе и вот такие.

Всем отличной пятницы, выходных и гармонии в балансе между технологиями и человечностью!

#технологии, #ИИ