Важнейшая проблема современности и всего обозримого будущего
Ежедневно мы обращаемся к компьютерам (смартфонам, персональным ассистентам, облачным сервисам …) за решением нужных нам задачи - найти самый быстрый маршрут по городу или форму, в которую входит белок, рассчитать доходность инвестиций или подобрать музыку под наш вкус… Все большее и большее число задач для нас решают компьютеры. И скоро будут решать почти всё.
Для большинства задач пространство возможных решений весьма и весьма обширно.
НО:
• Почему для некоторых проблем мы можем быстро локализовать область поиска решений, а для других - это превращается в бесконечный поиск иголки в стоге сена?
• Что в математической структуре проблемы делает ее легко решаемой на компьютере или обуславливает противоположное – решить очень трудно, а может быть и невозможно?

Проблема определения пределов возможности компьютинга (что на компьютере можно решить, а что нельзя) — важнейшая проблема не только современности, но и всего обозримого будущего. По крайней мере, до тех пор, пока человечество не придумает более совершенный способ решения задач, чем компьютинг.
Ибо уже ясно -
✔️ все сложные задачи, которые человек сможет решить в будущем, он сможет решить только на компьютерах;
✔️ и если компьютер не может решить какую-то задачу, то людям её в принципе не решить.

Проф. Крис Мур рассматривает вопрос пределов возможности компьютинга, проводя аналогию между вычислением и эволюцией на примерах от простых головоломок до высот универсальных вычислений, от неалгоритмизированной задачиТьюринга до природы математической истины и творчества.

Эта лекция (1:22:00) прочитана только позавчера в театр Ленсика в Санта-Фе, вместившим только 800 зрителей. И в сети успели посмотреть лишь пять сотен.
Так что это – не менее эксклюзив, чем позавчерашняя премьера оперы в Ла Скала или мюзикла на Бродвее.
https://www.youtube.com/watch?v=dyz4E89Zjw0

#Компьютинг #Пределы

Управление счастьем – вовсе не результат долгой эволюции.
Здесь мы не отличаемся даже от моллюсков.
Люди привыкли считать себя продуктом долгой эволюции, превратившей нас в разумные социальные существа. Наша высокая социальность ведет к тому, что ощущение счастья в очень большой степени зависит от отношений с окружающими. Без любви, дружбы и ощущения общности никто из нас не может быть счастлив. Если вы живете одинокой эгоцентричной жизнью, вы почти гарантированно будете несчастны.
✔️ Но значит ли это, что наша высочайшая социальность – наивысший и наихитрейший результат миллионолетней эволюции?
✔️ А вдруг совсем не так? И высокая социальность может достигаться не миллионами лет эволюции, а легким поворотом рычажка управления биохимией организма?

Биологам известно, что ощущение счастья – продукт нашей биохимической системы. Прозак, например, повышая уровень серотонина в крови, легко выводит пациентов из депрессии.
Биохимия управляет в нас всем: мыслями, ощущениями, эмоциями, поведением. По сути, мы – биохимические роботы, управляемые биохимическим микрокодом, а чаще, еще проще - типовыми шаблонами, отточенными миллионами лет эволюции.
Однако, представить себе, что людям и осьминогам, эволюционно отделенным от нас более чем на пол-ярда лет, чтоб стать социальными, нужно одно и то же, - казалось категорически невозможным.
Конечно, мы признаем за осьминогами большую сообразительность, - даже лабиринты проходить умеют. Но ведь они совершенно с нами разные.
• Они чувствуют совсем иначе: вместо централизованного мозга у них децентрализованная между щупальцами нервная система, позволяющая щупальцевыми нейронами осязать и ощущать вкус.
• И потом, мы же стали венцом творения за счет нашей высочайшей социальности. А осьминоги – антисоциальные буки, готовые общаться лишь во время сексуальных игр. А в остальное время, более одиноких и замкнутых существ мир не знает.

И вот поразительный эксперимент. Люди вообще большие выдумщики: то собак пивом накачивают, то уток к виски приучают. А тут превзошли сами себя – угостили осьминогов эмпатогеном MDMA - в народе «экстази». Он усиливает прилив «счастливых» химических веществ - серотонина, допамина и окситоцина - в мозг, тем самым вызывая чувство эйфории, усиливая эмпатию и настраивая на просоциальное поведение: общаться, тусоваться, веселиться и т.п.
Результат поразил исследователей даже больше, чем утка-алкаш. Серотонин сотворил чудо. Осьминоги бросились общаться и тусить, ласками исследуя друг друга, выделываясь в «водном балете» и сальто-морталле. Короче, вели себя как наша молодежь, проявляя море экстравертности и просоциальности.
Вот вам и полмиллиарда лет как разошедшейся эволюции наших видов. А биохимия счастья и социальности осталась всё та же. Про любовь здесь скромно умолчим, приведя лишь ниже ссылку на инфографику.

Так что, цитируя Харари:
“ … слоган нью-эйдж правильный - «счастье идет изнутри». Деньги, статус, пластические операции, роскошные дома, власть — всё это не даст счастья. Долговечное счастье приходит лишь изнутри — это серотонин, дофамин и окситоцин.”

А отсюда фундаментальный вывод - целью эволюции не было сделать из людей социальный вид.
Зачем тратить более пол-ярда лет на то, что достигается простым сдвигом биохимического рычажка?

Про эксперимент с осьминогами:
• популярно https://goo.gl/Y6DfYB
• научная статья https://goo.gl/FD2VDG
А вот как выглядит «химия любви» в предельно упрощенной (на уровне АиФ) схеме
https://goo.gl/MAKgKx

#Эволюция #Социальность

​​Аналитика госэкспертов и крупных корпораций так и остается на уровне прошлого века: длинно, нудно, малоинформативно, странные приоритеты и сбитый фокус.
Из 130+ стр. нового отчета Мирового экономического форума «The Future of Jobs Report 2018»:
- всего 22 стр. более-менее по существу (и то кондовый текст из «многобукав» и всего 11 графиков)
- остальное: методология и абсолютно бессмысленные профайлы стран, нагаданные на кофейной гуще.

Другой пример – аналитика Pew Research на тему страхов вокруг потери работы из-за AI «In Advanced and Emerging Economies Alike, Worries About Job Automation», в котором сравнивают данные по США за 2015 (!) с данными других стран за май-август 2018 (!). Получается «ужос»!

Ссылок на названные отчеты не даю – много чести.

А вот пример хорошего отчета «эксперта-одиночки с мотором» - Майкла Осборна
Вот его-то и нужно читать по теме AI автоматизации и изменения структуры рынка труда: все здесь четко, лаконично, обо всем важном и, в то же время, просто и наглядно.

Ну а в завершение пример. Понятно, что многие профессии исчезнут. Но как быстро?
Здесь фишка в том, что это, в значительной мере, определяется не темпом развития технологий, а инерционными процессами в обществе и в сознании людей.
Для справки посмотрите приложенный график.
— в 1910, когда была запатентована электрическая стиральная машина, в частном секторе США работало более 500 тыс. прачек.
— после 1910 их число сокращалось на 100 тыс. за 10 лет и вышло почти в 0 лишь в 1990.

#ИИ #РынокТруда

«Как жить, понимая, что вы – существа, сознание которых можно хакнуть?
Что ваше сердце можно заставить любить государство, а ваш мозг - работать на Путина?
И что ваша очередная мысль вполне может быть навеяна каким-то алгоритмом, знающим вас лучше, чем вы сами?
Эти вопросы заслуживают самого пристального внимания современного человечества.»
Свободной воли больше нет в мире, где, «чтобы успешно хакнуть людей, нужно всего две вещи: понимание биологии и много вычислительной мощности. Инквизиции и КГБ не хватало этих знаний и силы. Но вскоре у корпораций и правительств может быть и то, и другое. Как только они смогут взломать вас – они смогут не только предсказать ваш выбор, но и перенастроить ваши чувства.»
Если вы еще не прочли это эссе на основе новой книги Харари по-английски, прочтите в сокращении по-русски.
Эти мысли стоят нескольких минут вашего времени. Особенно, если вы не готовы часами слушать их развернутые пояснения, даваемые автором для весьма интеллектуально продвинутых, если не сказать изысканных, аудиторий мира.
Рекомендую здесь 1:11:26 и здесь 1:12:44

#Харари #Вызовы21века

Установлено, от чего зависит размер зарплаты.
Оказалось, что от точности работы «машины времени» в мозге.
Эта точность запрограммирована в генах. Но её можно улучшить специальным обучением, в идеале, начав с яслей.
Поразительно, но это качество нашего характера оказалось решающим в предопределении практически любых успехов в жизни: от сохранения физического и душевного здоровья до престижной работы и солидного счета в банке.
Об этом мой новый пост https://goo.gl/93P64W на 4 мин.

#DelayDiscounting #ПрозорливаяТерпеливость

Новая теория мотивационной машины времени.
Она объясняет поворот вспять российского настоящего и дает неожиданный прогноз будущего.
Вчерашний пост про машину времени в мозге был подводкой. А теперь о главном - https://goo.gl/rCLJoJ на 4 мин.

#DelayDiscounting #ПрозорливаяТерпеливость #Мотивация #МашинаВремени

Расшифрована «блок-схема» нейроалгоритма гордости.
Её понимание меняет наши представления о значимости эмоций и интеллекта для человека.
Наш интеллект – лишь видимая нам вершина айсберга. Под ним гигантская основа эволюционирующих нейронных программ, кодирующих и управляющих нашими чувствами - эмоциональными инстинктами.
Бибилиотека нейропрограм человеческого интеллекта (в его современном понимании) развивается лишь с момента обретения человеческого языка – примерно 200-250 тыс. лет назад.
Все эти нейропрограммы используют в своей работе гигантскую библиотеку эмоциональных нейропрограмм, на разработку, отладку и совершенствование которой эволюция потратила куда больше сил и времени – от 6 до 13 (по разным оценкам) млн лет.
Сравните трудозатраты, вложенные природой в разработку этих двух «библиотек» нейропрограмм:

❗️ 200+ тыс. лет против 6+ млн лет!
Почувствовали разницу?

Но гордость Homo Sapience воистину безгранична. И мы никак не хотим признавать, что даже самые высокие наши помыслы и деяния управляются не нашим культурным кодом – продуктом культурного развития цивилизации, а всего лишь «низкими чувствами», закодированными в библиотеке эмоциональных нейропрограмм.
Так неужели, подобно «низким, животным» чувствам типа гнева и страха, наше «высокое» чувство гордости (за нобелевскую премию, поэтический взлет – ай да Пушкин! – и т.д. и т.п.) также является лишь побочным продуктом работы библиотеки эмоциональных нейропрограмм?

Оказалось, да.
И уж не знаю, какую эмодзи поставить в конце этого приговора 🤔

Превосходная научная работа междисциплинарной группы 16 специалистов из США, Канады, Японии, Германии, России, Китая, Эквадора и Нигерии «Invariances in the architecture of pride across small-scale societies» расставила точки над i в широком круге вопросов.
Интереснейших вопросов, часть из которых ставится уже не 1й год:
✔️ гордость - грех или стимул?
✔️ увеличивает ли интенсивность ожидаемой гордости то, насколько другие оценят вас? (т.е. имеет ли интенсивность гордости адаптивную функцию для принятия решений?)
✔️ как балансируются и компенсируются действия человека и их социальные последствия?

Другие вопросы - самые важные - поставлены и отвечены впервые.
1) Гордость – это эволюционный продукт эмоциональной адаптации, или же продукт культурной эволюции, сделавшей общества WEIRD (Western, educated, industrialised, rich, democratic – западные, образованные, индустриально развитые, богатые, демократические) похожими друг на друга?
2) Заложена ли в нас универсальная неявная ментальная карта того, что и как другие ценят? И основан ли алгоритм работы нашего сознания с этой картой на «подпрограммах» интеллекта или чувств?

Ответ на 1: гордость – это эволюционный продукт эмоциональной адаптации, одинаково работающий в любых культурах.
Ответ на 2: да, у нас в голове есть универсальная неявная ментальная карта того, что и как другие ценят, и это проверено на 16 странах с 4ёх континентов.

Т.о. отнесенная к семи смертным грехам (наряду с жадностью, похотью и завистью) гордость - вовсе не такова.
Это движущая сила всех великих открытий и ошибок – результат эволюции нашей библиотеки эмоциональных нейрокодов, поднявших социальные возможности человечества на немыслимую для социо-биологии высоту.

Описывать детали этого в лонгриде не буду, хоть руки и чешутся.
Может, в будущем. Если всё же дойдут руки до книги…
А пока уж слишком много малоизвестного интересного и страшно важного, о чем, к сожалению, никто не пишет.

Посему читайте сами:
- популярно https://www.sciencedaily.com/releases/2018/08/180806175957.htm
- и в полном научном объеме https://www.researchgate.net/publication/326761609_Invariances_in_the_architecture_of_pride_across_small-scale_societies

FYI О фантастических прорывных открытиях эволюционной психологии я пишу постоянно
- см. посты с тэгом
#ЭволюционнаяПсихология

Три великие истины про ИИ
Среди топов IT гигантов есть хорошие визионеры. Но беда в том, что в силу разных причин (и в первую очередь, коммерческих), они предпочитают помалкивать о самом важном, предоставляя возможность вещать о будущем ИИ представителям маркетинга и пиара своих компаний.
Однако изредка прорывает и их самих. И тогда стоит очень внимательно к этому прислушаться.

Соучредитель DeepMind Демис Хассабис только что изложил свое видение будущего ИИ на саммите экономических инноваций в Лондоне.
Он сформулировал "три истины", столь же интересные, как и малоизвестные (поскольку маркетинг и пиар предпочитают говорить вовсе не об этом).
1) ИИ может спасти человечество от самих себя, и в первую очередь, в сфере геополитики.
2) Компенсировав худшие последствия человеческой жадности и эгоизма, ИИ совершит переворот в науке, генерируя серии открытий Нобелевского уровня.
3) Глубокого обучения недостаточно для решения проблемы общего ИИ. Следуя сегодняшнему мейнстриму ИИ исследований и разработок, эту проблему невозможно решить. Нужна междисциплинарка, мозгоподобные подходы и принципиально иные концепции ИИ: не нынешнего Искусственного Интеллекта, а Истинного Интеллекта.

Подробней https://www.techrepublic.com/google-amp/article/google-deepmind-founder-demis-hassabis-three-truths-about-ai/

#ИИ

Позавчера Bloomberg опубликовал сенсационную статью о «Большом Хаке» - проникновении китайских шпионов в компьютерные системы почти 30 американских компаний (включая Amazon и Apple) через специальный шпионский микрочип, встроенных в серверы китайской компании Supermicro – одного из крупнейших мировых поставщиков метеринских плат.
Статья произвела в мировых медиа эффект, подобный взрыву грязной бомбы на Манхеттене.

Я же хочу этим постом проинформировать читателей, что в действительности:
1) никакой сенсации в самом факте «Большого Хака» нет – за китайской программой шпионского и диверсионного проникновения в инфосистемы других стран разведки стран НАТО следят давно и внимательно.
2) если и есть сенсация, то в другом – спецслужбы и военные США предприняли попытку превратить «Момент Спутника» в «Перл-Харбор 2018», путем организации давления на Белый дом через опубликование фактов о, якобы, превращении Китая в Кибер-сверхдержаву.

Об этом мой новый пост на 4 мин https://goo.gl/5x7yRB

#ИИ #Китай #США

Социальные группы живых особей и, в частности, человеческие общества – это сложные комплексные системы, характеризуемые наличием «переломных моментов» - резких изменений в динамике систем, возникающих при совсем небольших изменениях условий окружающей среды.

Супер-популярный бестселлер Гладуэлла «Переломный момент: Как незначительные изменения приводят к глобальным переменам», сделавший термин «переломный момент» массово популярным, писался 20 лет назад. Потому описанные в книге концепция и ее механизм действия, мягко говоря, несколько отличаются от современных научных представлений в этой междисциплинарной области на стыке социологии, поведенческой экологии, коллективного поведения, психологии, мультиагентных систем, экономики, эпидемиологии и еще полдюжины дисциплин.

А ведь здесь в последние годы сделано несколько важнейших открытий, приближающих нас к пониманию двух, возможно, самых важных вопросов развития человеческого общества
– почему и как происходят революции?
– и почему они не происходят в условиях, когда, казалось бы, должны происходить.

Об этом мой новый пост на еще 3,5 мин. чтения здесь https://goo.gl/6PdZpk

#ЭволюционнаяБиология #ПоведенческаяЭкология #Collective_Behavior #МультиагентныеСистемы #ПереломныйМомент

Главная проблема беспилотных авто.
Они не умеют предсказывать ход мыслей других людей (водителей и пешеходов).
Технооптимисты уверены, что беспилотные авто в ближайшие годы, наряду с автомобилистами, поедут по обычным дорогам развитых стран.
Увы, это не так. И когда меня спрашивают, что этому помешает, я привожу всего один аргумент. И это не юридические заморочки (хоти с ними еще хлебать и хлебать). И уж, конечно, не искусство вождения автопилота (уже сейчас лучшее большинства непрофессионалов).
Проблема, всего лишь, в неумении ИИ предсказывать ход мыслей других людей (водителей и пешеходов).
И вот характерный пример.
Чтобы сделать левый поворот, беспилотник просто стоит и ждет, когда поток машин иссякнет, сведя риск столкновений к нулю. Просто наддать по газам в нужный момент, чтобы воспользоваться образовавшимся окном, он не может. А вдруг находящаяся пока что в ста метрах от перекрестка машина со всей дури тоже наддаст? И привет. Пожалуйте бриться.
А если их таких нерисковых и потому нерешительных на дороге будет много, не встанут ли они в ожидании нулевых рисков в вечную пробку, не имея единой системы управления?

Этот гребаный левый поворот – одна из непроходимых (пока что) проблем беспилотных авто. И суть ее сверхсложности даже не в оценке рисков, а в уже упомянутой необходимости предсказаний, что думают другие люди.

Из-за этого, поворачивая налево, автопилот Uber в марте сбил человека.
А в прошлом, работая в полуавтономном режиме (!), Tesla в дым протаранила трейлер (не рассчитала, блин!).

Детали и как все это выглядит на видеосимуляторе, смотрите здесь https://apps.bostonglobe.com/business/graphics/2017/04/driverless/series/teaching-a-driverless-car-to-turn-left/
О том, как с этим пытаются бороться, здесь https://www.dailymail.co.uk/sciencetech/article-6107697/Waymos-self-driving-minivans-dont-understand-basic-road-features-struggle-turn-left.html

#БеспилотныеАвто

Влияние технологий ИИ становится все более повсеместным. Они меняют бытовые детали и способы организации нашей жизни, рынок труда, взаимоотношения продавцов и покупателей, способы потребления нами информации и услуг.
Однако судьба мира будущего, какими будут его экономика и политика, как в нем будут решаться вопросы войны и мира, - впрямую не зависит от развития технологий ИИ.
Как и раньше, - при Наполеоне, Кайзере и Гитлере, решение глобальных вопросов мироопределения, по-прежнему, определяется геополитическими интересами наиболее могущественных стран.

В этой связи возникает интересный и весьма важный вопрос.
✔️ А каково влияние технологий ИИ на геополитику?

Результат проведенного мною анализа обширного корпуса документов дает такой ответ на этот вопрос.
— Влияние технологий ИИ на геополитику становится определяющим.
— Новые глобальные тренды ИИ-национализма и ИИ-национализации не просто сменят позицию на мировой шахматной доске, — они поменяют размер доски, набор фигур и правила игры.

Об этом мой новый лонгрид, опубликованный вчера на сайте Российского совета по международным делам (РСМД).

Для тех, кто предпочтет читать в Instant View мессенджера, лонгрид доступен в стандартном Medium-зеркале моего канала http://bit.ly/2Nxbt6V

Для тех же, кто будет читать структурированный лонгрид на компьютере, вот ссылка на сайт РСМД http://russiancouncil.ru/ai
А это Телеграм-канал РСМД @russiancouncil

Время чтения – 33 мин. с прилагаемым списком из 37 многостраничных отчетов (а вы как хотели, если вопрос такой?)

#ИИ #БольшаяВойна #Геополитика

Первый ИИ с человекоподобной интуицией
Позавчера я писал, что главная проблема беспилотных авто - неумение предсказывать ход мыслей людей - водителей и пешеходов. Писал я это неспроста, поскольку знал о грядущей сенсации, связанной с весьма интересным мне стартапом Perceptive Automata.
И вот сенсация озвучена - Hundai Motor и Toyota AI Ventures, объявили о намерении совместно решить проблему привнесения в самоуправляемые авто возможностей человекоподобной интуиции.
Начали эти кампании с того, что инвестировали в Perceptive Automata, чтобы использовать разработанную стартапом «технологию прогнозирования человеческого поведения».

«Мы решаем то, что часто называют самой сложной проблемой для роботизированных систем: понимание поведения человека, позволяющее широкомасштабное развертывание автоматизированных систем в среде с преобладанием людей» - пишет про себя команда молодого стартапа из Гарвардского университета и MIT.
Ребята начали с задачи анализа языка тела человека, чтобы определить, куда и с какого перепугу вдруг рванет тот или иной пешеход, убоявшись надвигающегося авто или просто вспомнив, что опаздывает. А в итоге пришли к обобщенной задаче предсказания хода мыслей пешеходов, за чьим «языком тела» ИИ-автопилот может наблюдать.
Решение основано на 2х параметрах, которые ИИ вычисляет для каждого видимого ему человека: намерения (что тот собирается делать) и осведомленность (что он знает о приближающемся авто) - см. ролик на 3 мин и толковое пояснение проблемы.

В итоге ИИ моделирует не движение объектов, а их намерения.
Сделать это страшно трудно.
Но как считают эксперты, «беспилотные авто будут медленными, неуклюжими и убогими, если так и не смогут понять, как бороться с людьми в их сложной и непредсказуемой среде».

И заметьте, пока что у ИИ появился лишь шанс побороть непредсказуемость пешеходов. Но ведь людей - водителей других авто ИИ не видит. Как сможет ИИ побороть и этих уж совсем непредсказуемых гадов?

P.S. Для стартаперов открывается новая перспектива.
Алгоритмы прогнозирования пешеходов сильно национально-ориентированные. Их придется разрабатывать для каждой страны свои. Да и попробовать потеснить Perceptive Automata в работе с авто-грандами задачка весьма достойная и конкурентов пока мало.

#БеспилотныеАвто

DARPA проиграла. А Алла Пугачева оказалась права
В мае я рассказывал, что DARPA пытается победить «глубокие фейки» (подмена лиц на видео), но, похоже, что эта битва уже проиграна. Спустя 4 месяца это окончательно подтвердилось. За широкое применение технологий «глубоких фейков» проголосовала индустрия развлечений.

Менее чем за год свершился ракетообразный взлет популярности этого класса технологий:
- от вставки лиц знаменитостей в порно-роликах;
- через создание фейковых видео-новостей;
- до превращения в один из самых прикольных и креативных видео-эффектов при создании музыкальных клипов.

Угнаться за креативом индустрии развлечений вояки из DARPA не смогут. А профи из креативных студий за несколько месяцев показали, что могут с помощью «глубоких фейков» не только экономить при съемках миллионы, но и творить до того невозможное – сплавлять вкусы разных поколений, поднимая популярность дипфейкового стиля клипов на недосягаемую ранее высоту.

Вот ролик ”1999" - идеальный пример использования «глубоких фейков», в котором Charli и Troye Sivan заставляют работать на себя идолов 1990-х: от Стива Джобса, до фильма «Титаник».
А здесь подробности этой темы.

В 1996 году на фестивале «Фантазия-96» (в проведении которого ключевую роль играла моя тогдашняя компания Silicon Graphics), я спросил Аллу Пугачеву, чего она больше всего опасается в компьютеризованном будущем индустрии развлечений.
Примадонна, получившая по итогам фестиваля приз за лучший анимационный клип «Зайка моя» (представлявшийся ею совместно с совсем молодым Киркоровым) уже тогда была в курсе огромных возможностей компьютерной графики, проиллюстрированных ей на демороликах Silicon Graphics.
И она ответила на мой вопрос, что больше всего ей не хотелось бы, чтобы её образ был использован в порно-роликах, библиотеках виртуального секса и поддельных музыкальных клипах с её, якобы, участием.

Права оказалась Алла Борисовна. Прошло 2 десятка лет, и теперь все это не только возможно, но и входит в мейнстрим индустрии развлечений.

Мой майский пост про «глубокие фейки»/

#Deepfakes

Новый кошмар поп звезд – стать поющим призраком
Эх, разворошил я своим сегодняшним постом муравейник индустрии фейковых развлечений! Теперь надо отвечать за базар.

Бдительные читатели тут же мне напомнили об анонсированном сегодня мировом турне умершей 7 лет назад Эми Уайнхаус, благо её отец наконец-то дал разрешение на турне, в котором его покойная дочь примет участие в виде голограммы.

Если кто не в курсе, это будет уже 3й голографический призрак компании BASE Hologram, собирающий деньги концертами по миру, выступая вместе с живыми музыкантами.
Голографические материализации призраков пионера рок-н-ролла Роя Орбисона и одной из величайших оперных певиц XX века Марии Каллас сейчас с успехом концертируют по миру.
Почитать и, главное, посмотреть и послушать, как это все выглядит, можно здесь https://thisis.media/spotlight/gologramma-emi-uaynhaus-otpravitsya-v-mirovoy-tur-v-2019-godu.
А вот здесь мне особенно нравится, как призрак Роя Орбисона растворяется в воздухе, откланявшись после оваций http://culturavrn.ru/world/25474

Осталось добавить 2 вещи.
1) Голограммы поющих призраков все более совершенствуются. Сегодня призраки выглядят куда свежее, чем концертировавшие с 2012 призраки Тупака Шакура, Билли Холидея и Майкла Джексона.
2) Адвокаты уже начали зарабатывать на концертах призраков не меньше коммерсантов из BASE Hologram. Судебные иски растут как грибы. И то ли еще будет https://planetrock.ru/news/vokrug-gologrammy-roya-orbisona-sudebnye-razbiratelstva

Так что к опасениям Аллы Пугачевой при жизни быть скопированной для фейковых целей, добавился еще более страшный кошмар (если не проклятие) – стать поющим призраком, зарабатывающим бабло для наследников бесконечным чёсом с концертами по миру.

С наступающими выходными вас!

#Deepfakes

Каналу 2 года
У канала 17+ тыс. подписчиков (включая зеркала в Medium, Яндекс Дзен и Facebook).
Опубликованы 600 постов, 10% из которых лонгриды.
Пост, в среднем, читают от 3,5 до 5 тыс. человек, рекорд – 300+ тыс.

Самые популярные лонгриды (по числу дочитавших до конца).
На Medium:
Большой войны не миновать 72К
Открыта формула победы на выборах 2К
Бездумные машины 1,4К
На Яндекс Дзен:
Представления о мире скоро кардинально изменятся 23К
Математически доказано — Бог един, а знание не бесконечно 9,6К
Это похоже на новую теорию относительности 6,6К

Пишу, по-прежнему, лишь про то, что мне интересно и при этом не очень-то известно.
Рад, что вы это читаете. Это прибавляет мне оптимизма.
Жить в мире, где подобные темы привлекают внимание, будят интерес и даже, возможно, толкают к действиям, - приятно и стимулирующе.
Надеюсь, что буду и дальше писать, а вы читать.
Счастливо!
✌️

«Эффект обезьяньей лапы» искусственного интеллекта.
Этот эффект отсылает нас к знаменитому рассказу Уильяма Джекобса «Обезьянья лапа».
Некий владелец высушенной обезьяньей лапы получает магическое право на исполнение ею трех его желаний. Его первое желание (для проверки – работает ли) —хочу 200 фунтов стерлингов. Стук в дверь. Там служащий завода, где работает сын. Он сообщает, что сын погиб – его раздавило заводским молотом, и отцу причитается страховка за сына — 200 фунтов стерлингов. Потрясенный отец бросается к обезьяньей лапе и кричит: «Хочу, чтобы мой сын ожил!». Снова стук в дверь. Там стоит призрак расплющенного молотом сына. В ужасе несчастный владелец лапы молит, чтоб призрак исчез… Три желания выполнены точно в соответствии сформулированным требованиям.

Со времен рассказа, подобного рода последствия получили название «эффект обезьяньей лапы». Его суть в следующем.
Наряду с желаемым положительным результатом, желания и действия, направленные на их осуществление, неотвратимо влекут за собой сопутствующие последствия, ущерб от которых:
- может быть непредсказуем;
- может превосходить положительный результат и обесценивать его.

Вот реальный пример «обезьяньей лапы» ИИ.
Всех поражает и все восторгаются, что ИИ не просто обыгрывает чемпионов (шахматы, го, компьютерные игры …), но делает это с применением нечеловеческих стратегий, просто не приходящих людям в голову.
Вот к чему это может вести.
Исследователи натренировали ИИ играть в компьютерную игру CoastRunners – нужно выиграть гонку на катерах, получая очки за сбитые препятствия. Обученный играть ИИ на 20% превзошел лучший из результатов, достигнутых в этой игре людьми. Однако!

ИИ в ходе обучения ухитрился найти лазейку - немыслимую для людей стратегию, основанную на недоработке алгоритма игры (как известно, нетривиальных программ без ошибок не бывает). Найденная ИИ стратегия заставляет катер просто плавать по кругу, сшибая одни и те же 3 препятствия. Результат – сногсшибательно высокое число набираемых очков и выигрыш.
https://www.youtube.com/watch?v=tlOIHko8ySg

Вы спросите, а как же задача опередить всех и добраться до финиша? А никак. Оказалось, из-за недоработки в алгоритме, можно без этого обойтись и выиграть чисто на набранных очках.
Но кто знал то про такой способ выигрыша?
Люди – не знали. А «обезьянья лапа» ИИ прознала про это в момент.

Предоставляю вам самостоятельно перенести этот кейс на любое из возможных промышленных применений ИИ, где ему ставится цель оптимизации чего-либо (потраченных денег или топлива) или достижения конечного результата (например, действия лекарства)…
Наши пожелания ИИ, несомненно, выполнит.
Но кто может предсказать последствия «эффекта обезьяньей лапы» ИИ?
И как вообще учитывать весь спектр последствий при проектировании ИИ систем?

Об этом (для продвинутых в вопросе) новое эссе от DeepMind Safety Research.
https://medium.com/@deepmindsafetyresearch/building-safe-artificial-intelligence-52f5f75058f1
Его суть:
– как просто создаются чрезвычайно опасные ИИ приложения, последствия применения которых не прогнозируемы;
– как трудно и важно этого избежать;
– что конкретно с этим делать.

#AITechnicalSafety

Интернет-тролли – это самореализация бытовых садистов
Это фантастически интересный, предельно простой для понимания и при этом крайне важный для сохранения психического здоровья в наступившей Интернет-эпохе вывод нового сдвоенного исследования 2х университетов.
Авторы представили убедительные доказательства того, что в основе интернет-троллинга рационализация людей с выраженным бытовым садизмом, получивших в руки инструментарий для безнаказанного причинения боли.
N.B. Рационализация – это поиск и подбор человеком рационального объяснения для своего поведения или решений, имеющих иные, неосознаваемые им причины.
Психологические модели увязки рационализации с получаемым актором вознаграждением (удовольствием от причинения боли другим) оказались для бытового садиста и интернет-тролля одинаковыми. И это убедительно подтверждается анализом данных репрезентативной выборки.

Схемы психологических моделей предельно просты.
Получаемое бытовым садистом удовольствие растет с повышением уровня причиняемой боли, но не повышая при этом, а даже понижая уровень ощущения моральной виновности за причиняемую боль.
Абсолютно идентичная схема у интернет-тролля – кайф растет, подпитываемый причиняемой болью троллимого человека, а чувство моральной виновности за причиняемую боль не растет, а наоборот, - растворяется.

Почему это важно.
1) Интернет-троллинг становится самым распространенным способом психологического воздействия в сети.
2) Мы все в сети все больше и больше. Ситуация такая, как если ездить в метро, в котором неуклонно и быстро растет число пассажиров, распространяющих все новые и новые заразные заболевания.
3) В этих условиях сохранение психологического, психического, да и в целом, фактического здоровья зависит от применяемых средств защиты от заражения.

Если вы понимаете:
– что троллинг – это совсем не прикольно, а опасно для вас,
– что троллящий вас – вовсе не заблуждающийся и даже не дурак, а просто садист, питающийся вашей болью, -
вы обязаны заставить себя не испытывать боль:
– либо перестроив свою психологию (что долго и трудно, но возможно),
– либо сделав так, чтобы не видеть и не слышать этого тролля (тут же забаньте его, а если нельзя, - линяйте срочно с этой площадки).

Текст исследования (скайхаб вам в помощь) https://onlinelibrary.wiley.com/doi/abs/10.1111/jopy.12393#.W8Shx31GLFk.twitter

#ИнтернетТроллинг

Внушенные галлюцинации ИИ
Можно без натяжки сказать, что, по сравнению с человеком, ИИ обладает куда более развитыми истерическими свойствами.
Так здоровый, но внушаемый (с истерическими чертами характера) человек может вслед за больным "увидеть" черта, ангелов, летающие тарелки и, вообще, что угодно. Однако, подобные люди – редкость (их порядка процента).
В отличие же от людей, каждый ИИ – законченный истерик. Заставить его видеть вместо стула – черта, вместо шишек – ангелов, а вместо милиционера – летающую тарелку, - совсем не бином Ньютона.
Называется этот трюк - использование «враждебных данных» (adversarial inputs), заставляющих ИИ видеть какие-то обманные образы (а по сути, - вызывать у ИИ внушенные галлюцинации).

Вот перед вами 3 картинки
✔️ Левая –фото ленивца, распознаваемого ИИ с вероятностью > 99%.
✔️ Средняя – фото гоночного авто. Это галлюцинация, которую нужно внушить ИИ, показавая ему слегка модифицированное с помощью «враждебных данных» фото ленивца.
✔️ Правая – это результат: модифицированное с помощью «враждебных данных» фото ленивца, в котором ИИ с вероятностью > 99% распознает гоночное авто.
❗️ Объем «враждебных данных», потребовавшихся для внушения ИИ галлюцинации гоночного автомобиля, видимого им вместо ленивца, пренебрежительно мал – всего 0,0078 отличий в пикселях правого и левого фото (человеческий глаз этого просто не видит – хотя вы можете попробовать).

Представить потенциал ущерба от использования «враждебных данных» злоумышленниками можете сами. Лишь замечу, - теоретически, он сопоставим с ядерным оружием.

И если вы думаете, что внушением галлюцинаций для ИИ никто на практике не занимается, вы жутко ошибаетесь. Всего один, но замечательный пример.

В Китайских соцсетях и мессенджерах фильтруется весь контент, затирая в ноль всё запрещенное партией и правительством (в этот список входит несколько тысяч тем!).
— Сначала фильтровали только текст.
— Но пользователи приспособились и для обмана фильтров стали запрещенные слова прятать в картинки.
— Тогда государство посадило 10 тыс. цензоров для фильтрации картинок. Но они не справились – дюже много работы.
— И вот тогда мобилизовали ИИ на фильтрацию картинок.

Вот как это выглядит. Китайский пользователь WeChat послал картинку – обложку отчета про кампанию репрессий, получившую название "облава 709" (709 Crackdown). ИИ-цензор эту картинку удалил.

И тут внимание.
Ушлые ребята из THECITIZENLAB придумали использовать ИИ для подбора «враждебных данных», способных внушить галлюцинации «ИИ-цензорам», ведущим фильтрацию. В исходных картинках меняется совсем чуть-чуть (как в примере с ленивцем). Поэтому людям эти изменения нипочем – они их просто не замечают. Тогда как «истерический характер ИИ» заставляет его видеть вместо картинок из черного списка что-то совсем иное. И крантец фильтрации – свобода китайским пользователям!
Вот пример. Изображения С и D фильтруются ИИ-цензором, в изображения A и B – нет 😳

Так ИИ-броня ИИ-цензуры оказалась легко пробиваема ИИ-снарядами «враждебных данных».
Но это не конец. ИИ-броня совершенствуется (равно как и ИИ-снаряды).
Детали этой борьбы можете прочесть в отчете
А это подробно про то, как работают «враждебные данные»

#МашинноеОбучение #AdversarialInputs