Профайлинг – фактически набор инструментов для понимания и прогнозирования действий людей в интересующей вас ситуации… Людей. Может быть эта новость сейчас и не будет иметь для вас практической ценности, но для будущего развития она имеет самую большую ценность:

Искусственный интеллект научился понимать и предсказывать действия не людей… а других машин. Фактически машину потихоньку начинают учить профайлингу.

В середине июля компания DeepMind (Google) на международной конференции по машинному обучению в Стокгольме представила новую нейросеть ToMnet (основана на «Theory of Mind»), способную понимать и взаимодействовать с другими нейросетями.

ToMnet состоит из трех нейронных сетей, каждая из которых представляет собой «набор» небольших вычислительных элементов и соединений. Первая сеть изучает, как поступят другие ИИ (искусственные интеллекты) – на основе их прошлых действий. Вторая составляет понимание их текущих «убеждений». Третья же пользуется выводами двух других сетей и, в зависимости от ситуации, предвидит следующие шаги ИИ. В целом эту комбинацию из нейросетей можно сравнить с человеческим мозгом – правда, с очень большими оговорками.

Работу нейросети ToMnet разработчики проверили в ходе эксперимента. ToMnet наблюдала за тремя несложными ИИ – представленными в виде компьютерных персонажей. Персонажи передвигались по виртуальной комнате и собирали раскрашенные коробки, зарабатывая тем самым очки. Один персонаж не мог видеть комнату целиком и перемещался в основном вдоль стен, другой сразу же забывал свои предыдущие шаги и собирал только те коробки, которые находились к нему ближе всего. А третий обладал всеми способностями, которых были лишены первые два ИИ. ToMnet – после нескольких тренировок – научился с помощью машинного обучения определять каждый вид ИИ после пары шагов и, более того, предсказывать следующие действия любого персонажа.
Окончательный тест также показал, что ToMnet способен понять, когда персонаж придерживается ложного убеждения (понятие из «теории разума»). Подробно он описан в журнале Science.
(http://www.sciencemag.org/news/2018/07/computer-programs-can-learn-what-other-programs-are-thinking)
Кстати, здесь же опять рекомендую вспомнить «эволюцию доверия» - https://notdotteam.github.io/trust/

На данный момент ИИ может распознавать человеческие эмоции по выражению лица, разработка же DeepMind выведет на новый уровень взаимодействие машин между собой и взаимодействие между машиной и человеком.

#профайлинг, #ITгиганты, #будущее, #тесты, #мероприятия, #статьи

​Современный профайлинг тесно связан с получением информацией и умением ее анализировать. Одно из наиболее динамично развивающихся направлений – цифровой профайлинг, способный оперировать большими данными и искать взаимные связи и корреляции между параметрами лица, голоса, жестов закономерности поведения человека в той или иной ситуации.

Например, если вы клиент Сбербанка, то вы скорее уже сталкивались или скоро столкнетесь с его желанием узнать о вас как можно больше: конечно, бесконтактные платежи и доступ в личный кабинет удобны, но это только одна сторона медали. Сегодня Сбер лидирует в проекте получения образцов голоса и фотоизображения своих клиентов. Понятно, что это позволит пользоваться услугами банка без документов (что, конечно, удобно), но также и обучить нейросеть определять уровень благосостояния человека по его лицу и голосу – а это уже совсем другое. Особенно учитывая долгосрочные последствия этого. А почти 100 млн. образцов голоса и лиц клиентов Сбера им вполне хватит, чтобы это сделать очень качественно. И пусть такие модели, конечно, создавали и раньше, но работали они не всегда удачно.
Лично я довольно спокойно отношусь к таким работам, к тому же этот тренд уже не остановить, - но есть люди, которым это не нравится J.

Кстати, еще пару слов про камеры: недавно Собянин сообщил, что благодаря системе городской видеофиксации Москва стала одним из безопасных городов. Возможно. Еще прошлым летом городскую систему видеокамер интегрировали с модулем распознаванием лиц и их различными черными списками. В 2019 этот процесс интеграции завершится. А это, около 250.000 камер. Но, одно из самых тонких моментов этого заключается в том, что доступ к системе имеют не только силовики, но и чиновники. И еще надо сказать, что это, конечно, большой бизнес. Не только на обслуживании камер, но и на использовании получаемой информации.

О том, как устроена система видеофиксации, как она работает, и можно ли ее обойти, недавно писала CODA. За исключением некоторых деталей там все написано правильно.

Почитайте и учитывайте, - будет полезно знать.

#цифровойпрофайлинг, #профайлинг, #Филатов, #нейросеть, #камеры, #безопасность, #большойбрат, #голос, #лицо, #ITгиганты

Недавно на Techcrunch опубликовали статью о том, что в открытый доступ попали внутренности "умного" города, а именно — база данных пекинской системы видеонаблюдения.

Система следит за жителями нескольких микрорайонов Пекина, в том числе района, в котором расположены посольства. Камеры наблюдения автоматически распознают лица людей и могут находить их в общей базе китайского МВД.

Данные системы позволяют определить, куда шёл определённый человек, когда и как долго. Фактически - составить картину его ежедневной жизни.

Что умеет система:
- определяет лицо и сопоставляет его с данными баз документов;
- определяет очки либо маску (китайцы часто носят маски из-за смога);
- примерно оценивает возраст и привлекательность человека, а потом сопоставляет эти данные с базами;
- определяет этническую принадлежность человека – для китайцев принципиально важно определять и, как бы сказать по-мягче, - наблюдать за уйгурами и жителями Тайваня;
- определяет по лицам разыскиваемых людей и составляет их маршруты;
- категоризирует граждан на несколько категорий, определяя, например, такие теги как «наркозависимый» и «недавно вышел из тюрьмы».

Также система может собирать данные о мобильных устройствах прохожих (IMEI, IMSI) с помощью специального оборудования – это вообще отдельная тема: вышки по WiFi и GPRS сигналу практически круглосуточно отслеживают местонахождение людей, составляя их привычные траектории движения и периодически производя их «чек-ины».

В конце 2017 года эта тема уже поднималась но тогда было признано, что еще не все так серьезно. И вот, прошло всего полтора года – и все уже совсем серьезно.

При этом, надо сказать, китайское законодательство относится к этому вполне лояльно. И наше тоже. Такой вот цифровой профайлинг в действии уже не просто в уйгурской провинции Синьцзян, а в самом Пекине.

Про Китайскую систему слежки я уже несколько раз писал: это сложная тема на стыке профайлинга, права, этики, криминалистики и много еще чего. Если интересно – посмотрите лонгрид.

По уровню такой цифровизации мы, конечно, отстаем от Китая, а Европа и Америка – и подавно. Но это дело времени…

#профайлинг, #ITгиганты, #цифровойпрофайлинг, #BigData, #Китай

Хорошая статья. Думаю, вам будет интересно.

https://thecode.media/orwell/

#профайлинг, #Филатов, #ITгиганты, #цифровойпрофайлинг, #Facebook, #Google, #ProProfiling

​Нейропрорыв Илона Маска?

Одной из самых горячих новостей этой недели стала презентация технологии подключения человеческого мозга к компьютеру от нейротехнологического стартапа Илона Маска Neurolink.

Илон Маск и руководители стартапа Neuralink впервые продемонстрировали проект нейроинтерфейса: он представляет собой «нити»-импланты для считывания информации непосредственно из мозга и «швейного» робота-хирурга для их вживления. Разработанные нити были вшиты в мозг нескольких крыс и показали способность регистрировать большое количество сигналов одновременно. Нити имеют толщину в четверть человеческого волоса и снабжены дюжиной сенсоров каждая. Благодаря их гибкости возможно избегать повреждения кровеносных сосудов при установке и собирать информацию в разных зонах мозга, что дает широкий спектр получаемых сигналов.

В перспективе, Neuralink планирует разработку беспроводного вживляемого нейроинтерфейса, который состоит из импланта-чипа и аккумулятора, крепящегося за ухом пациента. В 2020 году Neuralink планирует получить одобрение FDA в США и вместе с нейробиологами из Стэнфордского университета провести первые испытания на пациентах с полным параличом, предоставив им возможность печатать текст силой мысли с высокой скоростью.

Вот их презентация в ютубе с русским переводом

Ближайшая цель Neuralink — научиться имплантировать чипы парализованным людям, чтобы те могли использовать компьютеры и телефоны, и делать это с меньшим вредом для мозга, чем применяющиеся сейчас методы.

Возможности впечатляют, а вот метод слегка отпугивает. После презентации многие ученые, эксперты отрасли и инвесторы разделились во мнениях. С одной стороны, то что сделали в Neuralink это, безусловно, технологический прогресс, позволяющий собирать больше информации о мозге человека. С другой стороны, инвазивное вмешательство в мозг заключает в себе серьезные риски. Кроме того, работоспособность данного нейроинтерфейса, его долговечность и практическая эффективность оставляют очень много вопросов.
В своей демонстрации Маск подчеркнул, что данная демонстрация не для «хайпа», а в первую очередь для поиска новых партнеров. Он сам инвестировал в Neurolink не менее $100 млн, и прекрасно понимает, что впереди «долгий путь» до коммерциализации проекта. При этом он рассматривает «симбиоз ИИ и человека» как единственный шанс спастись от угрозы порабощения человечества ИИ.

#профайлинг, #профайлинг_филатов, #нейротехнологии, #Филатов, #ProProfiling, #ITгиганты, #нейроинтерфейсы, #мозг

Вы наверное заметили, что я давно не публикую книжные рекомендации.

Раньше я это делал регулярно, бесплатно выкладывая в канал новые ключевые книги на тему профайлинга и поведенческого анализа, которые сам читал. Однако несколько уважаемых издательств попросили меня это не делать. И теперь я буду выкладывать их обзоры, а не сами книги. Кто заинтересуется, тот сам купит или найдет. ОК?

На выходные рекомендую вам книгу Би Фогга «Нанопривычки». В оригинале «Tiny Habits» BJ Fogg. Книга на русском вышла с месяц назад и безусловно повторит судьбу англоязычной версии, стал бестселлером.

Би Джей Фогг - ведущий мировой эксперт по формированию привычек, человек с известнейшим бэкграундом.

Лет 20 тому назад он стал преподавать в Стэндфорде и основал там же сегодня известную компанию Persuasive Technology Lab (Лабораторию Убеждающих технологий). Основная цель компании – дизайн поведения человека в определенных условиях. По-русски говоря – манипуляции поведением человека и групп.

Об этом мало говорят, но примерно в это же время, в 2007 году у Фогга закончили обучение тогда еще никому не известные люди, которые сейчас занимают достойные места в списке Forbes. А именно - создатели Instagram Кевин Систром и Майк Кригер, директор по развитию Facebook и Uber Эд Бейкер и специалист по дизайну в Google Тристан Харрис. И в 2007 году, кстати, вышел первый айфон. Сейчас компания Фогга - является самой авторитетной лабораторией по дизайну поведения человека, в которой проходят обучение и экспертизу большое количество людей с этого рынка. А тогда, в 2007 году Фейсбук и Инстаграм стали первыми площадками, на которых отрабатывали принципы дизайна поведения пользователя в эпоху Интернета.

А именно:

"Поведение случается, когда одновременно сходятся три элемента: Мотивация, Возможность и Триггер" (или Напоминание):

Мотивация — это желание человека совершить действие.
Возможность – его способность совершить это действие.
Триггер – напоминание о том, что действие нужно совершить».

Все должно быть просто:
Если действие будет слишком сложным — человек не сделает ничего.
Если ему не напомнить о действии — он забудет его совершить.
Если у него не будет мотивации — он просто не захочет и не сделает.

Многие считают, что для совершения какого-то действия человека нужно смотивировать: о мотивации знают почти все. Но секрет формулы Фогга в том, что желаемого поведения от человека можно добиться, воздействуя на любой из трех компонентов. Более того, для эффективной модификации поведения в первую очередь желательно работать как раз с простотой и триггером, а не с мотивацией. Мотивация – слишком сложное явление, чтобы работать с ним напрямую. А если максимально упростить действие и вовремя дать триггер для его выполнения, мотивация сформируется естественным образом.

Например - смартфон жужжит и выдает оповещение – это триггер. Он побуждает вас совершить желаемое действие: достать телефон. Простоту действия хорошо иллюстрируют эмоджи и смайлики: порой нам не нужно даже печатать слова, чтобы ответить.

Все эти принципы на конкретных примерах Фогг описывает в своей книге. Рекомендую.
Книгу легко найти в интернет-магазинах как в печатном, так и в цифровом варианте.

#мозг, #профайлинг, #нейробиология, #привычки, #поведение, #мэтры, #книга, #дизайнповедения, #ITгиганты, #мэтры, #мапинуляции, #ProProfiling, #Филатов

#мозг, #профайлинг, #нейробиология, #привычки, #поведение, #мэтры, #книга, #дизайнповедения, #ITгиганты, #мэтры, #мапинуляции, #ProProfiling, #Филатов

Опубликован большой альманах «Искусственный Интеллект» индекс 2021 года.

Я в последние 5 лет смотрю его довольно пристально, тем более, что в позапрошлом году там было упоминание о нас и о нашей победе в «Новаторе Москвы» в номинации «IT и ИИ».

О искусственном интеллекте в профайлинге я здесь писал довольно много, посмотрите по хештегам. И не только хорошего. Но тем не менее факт есть факт: будущее профайлинга во многом связано именно с ИИ. Его значение будет только увеличиваться, в то время как значение других направлений профайлинга так интенсивно развиваться не будут.

Всем, кто интересуется этой темой будет интересно взглянуть отчет. В том числе и в связи с разговорами о том, что наши IT-специалисты уезжают за рубеж. По своему опыту и кругу общения скажу: да, уезжают. Не все конечно, но чувствительно. А между прочим в РФ всего 400 компаний, занимающихся ИИ. Это капля в море по сравнению с Китаем или США и даже с Бразилией. Тоже самое относительно публикаций по ИИ и патентам.

В общем – расти и развиваться есть куда.

#ИИ, #технологии, #BigData, #развитие, #ITгиганты, #прогностика, #аналитика, #BigData, #профайлинг_филатов, #ProProfiling

А вот и сам Альманах.


#ИИ, #технологии, #BigData, #развитие, #ITгиганты, #прогностика, #аналитика, #BigData, #профайлинг_филатов, #ProProfiling

Искусственный интеллект научили врать и манипулировать. И у него это получается не хуже человека.

Неделю назад признанный в РФ экстремистской организацией Facebook представил алгоритм «Цицерон», который научился вести переговоры в настольной игре про дипломатий и войну и который умеет врать. И это для нейросети впервые.

Как говорят разработчики, «агент научился балансировать между ложью и честностью». По сути в русском языке аналог для этого – блеф. Когда переговорщик угрожает что-то сделать, но на самом деле не собирается этого делать. Но представляет все так, что вот-вот начнет.

Игра Diplomacy, в которую научили играть алгоритм, по сути представляет собой военную стратегию в компьютерной игре на карте Европы начала XX века, в которой несколько игроков состязаются в дипломатии и военном искусстве. Ключевой момент игры – переговоры между представителями стран. «Главы государств» ведут переговоры, заключают союзы, предают, обманывают, блефуют — и всеми этими навыками (разумеется, не в настольной, а в онлайн-версии игры, доступной на webDiplomacy.net) овладел алгоритм ИИ Cicero.

Если упрощать, то Cicero — это что-то вроде чат-бота, в основе работы которого лежат два модуля: модуль понимания речи и понимания стратегического мышления. Помимо этого есть фильтры, отсеивающие «низкокачественные» реплики диалога, не подходящие текущей ситуации на поле или не ведущие к достижению цели, поставленной ИИ. Благодаря этим трем составляющим Cicero способен общаться с оппонентами по «Дипломатии», предсказывать их поступки, использовать игроков для достижения личной выгоды и выигрывать.

Прорыв здесь в том, что агент освоил прямую манипуляцию сознанием людей — умеет словами побудить их принять решение, нужное агенту.

Вот что утверждают авторы:

«CICERO может сделать вывод, что на более поздних этапах игры ему понадобится поддержка одного конкретного игрока, а затем разработать стратегию, чтобы завоевать его расположение — и даже распознать риски и возможности, которые этот игрок видит со своей точки зрения».

Сегодня Цицерон можно считать прообразом программы, способной выявить стиль принятия решений конкретного человека, построить вероятные сценарии его будущих решений и с учетом его уникального стиля подобрать систему аргументов, с помощью которых стремится убедить его мыслить или действовать в нужном направлении.

К чему это приведет?

К тому, что системы манипуляций через максимум десятилетие теперь будут просчитываться и создаваться машинами, которые будут предлагать операторам лучшие манипуляции конкретными людьми, организациями и группами.

Так что скучно не будет. У нас еще есть немного времени чтобы повышать свои навыки критического мышления и оценки информации. Лучшего выбора нет.

#будущее, #ITгиганты, #нейросеть, #ложь, #блеф, #игра, #манипуляция, #переговоры, #ИИ, #профайлинг, #исследования, #нейротехнологии, #профайлинг_филатов, #Филатов, #ProProfiling.