Тут не очень про искусственный интеллект, сколько про диффузный естественный интеллект

https://meduza.io/shapito/2017/08/30/russkie-risuyut-dom-bez-dverey

Исследователи из Университета Чикаго обучили нейросеть генерировать для сайтов вроде Yelp и Amazon отзывы, неотличимые от настоящих. При тестировании пользователи не распознали машинные отзывы и даже посчитали их не менее полезными, чем обычные. Авторы исследования предупреждают, что такую нейросеть можно использовать для торговли фальшивыми отзывами. Индустрия накруток уже давно дискредитировала любые отзывы в интернете. А теперь оказывается, что их написание можно автоматизировать. С этими нейросетями скоро вообще ничему нельзя будет верить.

В конце текста по ссылке - шесть отзывов. Попробуйте угадать, какие из них настоящие (я не угадал).

http://uk.businessinsider.com/researchers-teach-ai-neural-network-write-fake-reviews-fake-news-2017-8

Министерство морали Уганды объявило о разработке автоматического детектора порнографии. Речь идет о государственном компьютерном вирусе, который внедряется в системы пользователей и ищет на них файлы с порнографическим контентом (возможна также фильтрация всего сетевого трафика пользователей). Для этого будут, конечно, использоваться новейшие технологии, искусственный интеллект, распознавание образов и Big Data.

Министр морали Саймон Локодо сообщил в ходе заседания правительственной комиссии по противодействию порнографии, что машина будет способна вычислять как порнографию, хранящуюся на компьютерах и смартфонах, так и ту, что была недавно удалена с них. Фотографии и видеоролики будут фиксироваться и уничтожаться после обнаружения.

Разработка Uganda's Pornography Detecting-Machine официально началась в 2016 году, и обошлась правительству в 88 тысяч долларов (300 млн угандийских шиллингов) - подрячиком выступила южнокорейская фирма. Чиновники напоминают, что машина создана для исполнения национального закона о противодействии порнографии. Выявленных нарушителей будут привлекать к ответственности - им грозит штраф в 3 тысячи долларов (средняя зарплата в стране - 184 доллара в месяц) или до 10 лет тюрьмы.

После объявления о создании детектора порно, в Уганде было установлено 1,5 млн VPN. Угандийские либералы считают, что борьба с порнографией - это всего лишь повод для создания масштабной системы политической цензуры и слежки за гражданами.

На видео - речь министра Саймона Локодо о неизбежной победе нравственности https://www.youtube.com/watch?v=mTmolw6QDvU

Вот искусственный интеллект и технологический прогресс, который мы заслужили.

Чувствуете ли вы, как Виталий Милонов дышит вам в спину?

PassGAN - новая интересная попытка использовать нейронные сети и GAN для подбора паролей. В этот раз очень впечатляющие результаты - подбор через PassGAN в два раза эффективнее, чем JTR! Вообще нейронные сети для поиска проблем и уязвимостей - частая тема, я думаю можно написать ИИ, который существенно эффективнее типичного скрипткидди. А пока вот PassGAN, как альтернатива jtr/hashcat https://arxiv.org/abs/1709.00440

Глава Сбербанка Герман Греф заявил, что Сбербанк ежегодно получает более $2 млрд прибыли за счет внедрения в кредитную организацию искусственного интеллекта. Об этом сообщает ТАСС.

«Не меньше $2 млрд в год чистой прибыли мы зарабатываем за счет того, что внедрили своевременно модели, построенные на системах искусственного интеллекта», — сказал Греф.

По его словам, искусственный интеллект задействован в десяти проектах Центра технологических инноваций Сбербанка. Благодаря этому годовой доход и экономия издержек в общей сложности составляют $13 млрд. Всего до конца 2018 года Сбербанк намерен реализовать 159 проектов с применением искусственного интеллекта.

Хотя статья на Хабре, читать ее можно безо всякой специальной подготовки : это обзор наиболее интересных и показательных, по мнению автора, практических достижений в области машинного обучения за последний год. На многие из примеров я здесь в канале ссылался, кое-что я добавил бы, но это вкусовщина; в целом список хорош. Основное, почему статью полезно хотя бы проглядеть (она на русском и с картинками, так что проглядывать легко) - это почувствовать темп развития области и разнообразие применений. А он впечатляет даже привычных к почти взрывному развитию технологий.
https://habrahabr.ru/company/mailru/blog/338248/

Стив Возняк, сооснователь Apple, приезжает с лекцией в Москву 7 октября (!) Будет говорить о машинном обучении, о профессиях будущего, бигдате и всем таком. Ему можно будет задать вопросы, ну и вообще вся лекция состоится в формате диалога.
Минусы: она в 12 часов дня.
Плюсы: это Возняк и он в Москве.

Сбор гостей с 11 часов, вход свободный.
Куда ехать: главное здание МГУ, актовый зал.

Тут подробности: http://www.festivalnauki.ru/novost/59004/lekciya-stiva-voznyaka-v-moskve

На очередном стенде Владимира Путина вернули к эволюции искусственного интеллекта, и тут я наконец понял величие главного замысла этих людей из «Яндекса». В этот замысел были посвящены, конечно, не все… Более того, возможно, всего несколько человек или даже, например, три человека. А может, и вовсе замысел этот существует в голове только Аркадия Воложа, а остальные в его компании, влекомые гением этого человека, даже не отдают себе отчета в том, над чем на самом деле работают. А работают они над исключением самих себя… Откуда? Отовсюду.

Речь, конечно, идет о том, что «Яндекс» становится или по крайней мере должен стать, и, конечно, раньше других, компанией искусственного интеллекта, где интеллект человеческий не будет востребован просто потому, что зачем же он нужен, когда есть действительно мощный и лучезарный.

Кажется, вот в чем тут фокус… Надеюсь, в общем, что мне не показалось. Или, вернее, что показалось.

— Понимаете,— продолжал Аркадий Волож,— наша система уже стала отвечать на поисковые запросы по смыслу, а не по набору слов в этом запросе!

И один из топ-менеджеров продемонстрировал такой запрос: «Фильм, где Высоцкий с напарником расследуют преступления». Система думала недолго, а точнее, не думала вообще: ну надо же, и правда, «Место встречи изменить нельзя».

— И ведь даже не мы, а сами пользователи обучили машинку…— пробормотал Аркадий Волож, и я окончательно убедился: нет, мне ничего не показалось.

— И вот запускаем голосовой помощник «Алиса»,— продолжал Аркадий Волож.— С ней можно разговаривать… То есть она не просто отвечает на вопросы… А ведь до сих пор голосовые помощники именно по набору слов находили ответ… Судите сами!..

— Привет! Какая погода в Москве? — спрашивал сотрудник «Яндекса» у Алисы.

— Плюс 15, облачно,— сухо отвечала она.

Тут ему бы и разговорить ее наводящими вопросами, раз уж с ней можно разговаривать… Но, похоже, пока не о чем.

Потом, на другом компьютере, когда президент подошел к рядовым сотрудникам компании, сидящим за компьютерами, ему снова стали предлагать услуги Алисы и по его просьбе спрашивали, не обижают ли ее тут, и ответы ее были бездарно туманными… Вряд ли она на самом деле была сейчас готова к диалогу, по крайней мере прямо сейчас…

— А ты где вообще? — между тем выдавил из себя сотрудник вопрос, который он, судя по всему, привык чаще других вопросов задавать в офлайне, к примеру спутнице жизни.

И это был, похоже, единственный вопрос, который его в этом офлайне действительно интересовал.

Я бы на месте Алисы отшутился. Но она обстоятельно отвечала, с координатами геолокации… И я думал о том, что если все пойдет так, как должно быть по мысли Аркадия Воложа, и если машины начнут с такой готовностью отвечать на самые тяжкие вопросы современности заместо людей и про людей, то хорошо уже не будет и мир никогда не станет прежним.

И тут сотрудник «Яндекса» спросил Алису:

— А я где?!

И это был шах и мат.

Это был вопрос, который никогда и никому не смогла бы задать никакая машина, тысячекратно самообучаемая. «Где я?..» — этот главный экзистенциальный вопрос, терзающий пытающегося мыслить человека и само человечество с момента его зачатия… «Где я?» — машина повержена в прах и саморазрушается с такой же скоростью, как только что самообучалась…

— Центральный административный округ,— ответила Алиса,— район Хамовники…

— Да, мы не можем предсказать, что она скажет…— восхищенно вздохнул Аркадий Волож.

Но его сотрудник был с этим не согласен.

— Если бы у меня была включена геолокация, она бы и точные координаты назвала! — покровительственно глядя на компьютер, в который была заключена Алиса, улыбнулся он.

Я понял в этот момент, что борьба человека и машины, даже в компании «Яндекс», пока что не закончена. Пока можно выключить геолокацию, хотя бы в себе самом… Освободиться… Взмыть… Мыслью, конечно… Но все-таки.

https://www.kommersant.ru/doc/3417137

Родни Брукс - бывший директор лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при MIT. В своем эссе он описывает 7 ошибок, которые допускают все, кто пытаются предсказать будущее ИИ.

1. Мы переоцениваем влияние технологии в краткосрочной перспективе и недооцениваем - в долгосрочной.GPS разработали в 1978 для нужд американской армии. В 80-х проект едва не прикрыли, а впервые GPS использовали по назначению (наведение снарядов) только через 13 лет. Сейчас без GPS сложно представить нормальную жизнь. ИИ может ожидать такой же цикл развития. Но что считать долгосрочной перспективой? Брукс уверен, что это срок больше, чем считают большинство футурологов.

2. "Любая достаточно совершенная технология неотличима от магии". Если перенести Ньютона в наши дни и показать ему айфон, скорее всего он решит, что это что-то магическое. В этом проблема с воображаемыми технологиями будущего - мы наделяем их магическими свойствами и неограниченными возможностями. Это хорошо заметно на примере общего ИИ. При всех современных достижениях науки ученые пока не могут создать общий ИИ. Не все даже уверены в том, что это возможно. Тем не менее, многие люди ожидают, что общий ИИ обязательно будет создан и будет обладать неограниченными способностями. С такими аргументами нельзя спорить - это вопрос веры.

3. Люди путают производительность и компетентность. Компьютер может распознать на фотографии людей с фрисби. Но он не сможет ответить на вопросы вроде "Можно ли есть фрисби? Нормальная ли сегодня погода для фрисби?". Он умеет только описывать картинки. Часто люди, услышав, что робот или программа научились выполнять какую-либо задачу, обобщают это и считают, что теперь робот заменит и человека, выполняющего эту задачу. Но пока компьютерные системы заточены под узкие задачи. Человеческие обобщения здесь не работают.

4. Мы часто применяем по отношению к машинам "человеческие" слова: "мышление", "опыт", "сознание", "объяснять", "воображать", "учиться", "распознавать". Но в машинном мире эти слова имеют совсем другое, очень узкое значение. Это ведет к непониманию и переоцениванию возможностей ИИ.

5. Развитие технологий рассматривают как экспоненциальный процесс. Во многих случаях реальный график таких процессов - S-кривая, в которой экспоненциальный рост сменяется устойчивым плато. К примеру, процесс уменьшения транзисторов ограничен физикой - они уже настолько маленькие, что дальше некуда уменьшать. Увеличение объемов жестких дисков ограничилось с насыщением рынка - никому не нужен iPod на терабайт, сотни-другой гигабайт достаточно. А иногда экспоненциальные процессы просто не являются такими с самого начала. Прогресс в ИИ тоже может быть ограничен физикой или экономикой, или же не быть экспоненциальным.

6. В популярных фильмах будущее часто не отличается от настоящего кардинально. Люди живут среди человекоподобных роботов, но читают газеты и звонят по проводному телефону. Технологические прогнозы тоже страдают подобной узостью мышления. Неправильно представлять мир будущего как сегодняшний мир, к которому просто добавили общий ИИ. Такое упрощенное изображение можно использовать в дискуссиях, но с реальным будущим эти картинки не имеют ничего общего.

7. Даже самые крутые достижения науки не будут внедрены быстро. На многих промышленных предприятиях используют старые технологии. Здесь работает принцип "Работает - не трогай". Особенно небыстро обновляют железо. К примеру, на заводах Tesla используют ПЛК, то есть машины с самым продвинутым ИИ создают с помощью технологий 50-летней давности. Футурологи говорят о мире так, как будто он уже цифровой, стоит только создать новые эффективные ИИ-программы, и все производственные цепочки в момент перейдут на новый уровень. Это не так. Любые инновации в робототехнике и ИИ будут внедряться очень небыстро.

http://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai/

Сокращенная версия: https://www.technologyreview.com/s/609048/the-seven-deadly-sins-of-ai-predictions/

Роль голоса в онлайновой коммуникации нарастает медленно, но верно. Это и «OK, Google», и внедрение голосовых сообщений в мессенджеры, и появление аудиоверсий у текстовых публикаций, и голосовой ввод во все большем количестве программ, и звуковые колонки, которые умнеют на глазах и становятся понятливыми ассистентами и собеседниками. Вообще история про девайсы, программы и голос - очень толстый тренд, который полезно использовать, а не игнорировать.
Это я всё к тому, что Яндекс официально запустил сегодня Алису в продакшн, и с ней поговорить и потестировать её куда интереснее, чем общаться на русском с Сири, например. Потому что на русском это - первая полноценная голосовая ассистентка, сделанная целенаправленно для русскоязычной аудитории, а не на сдачу от вариантов для других языков. Сделанная и обученная реально с любовью. Однако, как и любой продукт технологий машинного обучения, научилась Алиса пока не всему :)) Зато есть возможность дальше следить за прогрессом в её обучении - и самому в нем принимать участие, кстати. :) Разговаривайте с Алисой почаще!
https://alice.yandex.ru/?utm_source=s
Ну, и догадайтесь с одного раза, почему вторая ссылка в этом посте - на биографию актрисы Татьяны Шитовой, волшебницы российской озвучки :)
https://ru.wikipedia.org/wiki/Шитова,_Татьяна_Игоревна

Один из крупнейших порносайтов PornHub натренировал алгоритм с машинным обучением на тысячах часов роликов, чтобы научить его распознавать актрис и ставить теги. Сейчас этим занимается команда модераторов.

Руководство порносайта подключило алгоритм к базе данных из фото, имён, характеристик и часто используемых тегов. Система будет просматривать популярные ролики и автоматически указывать порноактрис, а в перспективе — жанр и категорию.

В PornHub заявили, что ИИ сможет «понять», что происходит в кадре, и указать нужный тег. К примеру, видео с участием двух мужчин получит тег «гомосексуальное», а ролик с бондажом снабдят тегом «БДСМ». Система также сможет отличить цвет волос, форму тела и цвет кожи актёров.

https://tjournal.ru/60478-pornhub-ai
https://www.engadget.com/2017/10/11/pornhub-computer-vision-ai-database/

Продолжаем тему искуственного интеллекта и морали. Из примера со скрепками мы поняли, что умные машины должны быть запрограммированы не только на эффективное выполнение задач, но и на гуманное поведение. Но как запрограммировать мораль? С очевидными правилами вроде "Нельзя убивать людей" всё понятно. Но реальные жизненные дилеммы намного сложнее. К тому же, у разных людей разные понятия о том, что такое хорошо, а что такое плохо. Так какие принципы поведения тогда зашивать в машину?

В июле прошлого года MIT Media Lab запустила интересный тест. В нём вы должны принять решение за беспилотную машину, которая несётся со сломанными тормозами. Ехать прямо и сбить маму с ребенком или свернуть влево и сбить мужчину? Врезаться в бетонную преграду и убить пассажира или свернуть и убить пешехода? Классическая "дилемма вагонетки", примененная к действительно актуальной проблеме. Этот тест прошли 1,3 миллиона человек, а его создатели получили 18 миллионов ответов на моральные дилеммы - неплохой материал для моделирования "коллективной морали". На основе этих данных учёные из MIT и Карнеги-Мелон разработали систему для принятия этических решений. Неплохая идея, но полученная система в итоге этична настолько же, насколько и полтора миллиона случайных людей из интернета, желающих поиграться в машину-убийцу. Её решения отображают стереотипы общества: к примеру, она скорее убьет бездомного или преступника, чем обычного человека.

https://theoutline.com/post/2401/what-would-the-average-human-do

А вот сам тест, если не видели - покликайте, забавная штука: http://moralmachine.mit.edu. Когда я проходил его год назад, я долго мучился на некоторых вопросах, оценивая, чьи жизни важнее. А теперь решил пройти ещё раз и только сейчас заметил, что почти в каждом примере приходится выбирать между убийством людей, которые нарушают правила дорожного движения (переходят на красный), и тех, кто не нарушает правила. Это сильно упростило задачу - я просто каждый раз выбирал убивать тех, кто нарушает правила. Действительно, мораль уже вшита в формальные правила поведения на дороге. Нарушаешь ПДД - рискуешь жизнью. Исходя из того же принципа, я легко сделал выбор между "врезаться в отбойник, убив пассажира" и "свернуть, спасти пассажира, убить пешехода". Пешеход ни в чем не виноват. Если он не нарушает правила движения, он не должен страдать от неполадок беспилотной машины. А вот её пассажиры, садясь в машину, принимают на себя риски, в том числе и связанные с отказом тормозов. Логично?

Awni Hannun написал великолепный пост, под которым я готов подписаться во всех местах: нет, распознавание голоса это не решенная задача! Да, мы уже научились делать интерфейсы с голосом, которые примерно понимают человека. Графики майкрософта, гугла, байду показывают, что распознавание речи теперь работает лучше, чем у человека. Но как только нужна точность - начинаются проблемы.

Я набираю голосом примерно 4-5 килобайт текста в день, и не вижу особого прогресса в снижении ошибок последние полтора года. Я бы сказал, что есть три основных проблемы, с которыми еще только предстоит разобраться: 1. шумная обстановка, 2. ошибки семантики и работа с языком 3. путаность речи. Про шум (как мне наивно кажется) все примерно понятно - надо брать большую базу записей и строить фильтры, выкидывающие из звука те гармоники, которые не меняют распознанный текст. Скорее всего на тех же самых нейронных сетях. С семантикой все не просто, сейчас все просто используют вероятностные модели, подсказывающие что “как погодка” люди говорят, а “каппадокия” - редко, скорее всего этот наивный подход предстоит изжить. Так же, как предстоит научить машины не просто игнорировать наши “мммм”, “эээээ”, “нууууу”, а извлекать из них смысл, помогающий определить суть содержащей их фразы.

В общем простите за такое пространное сообщение, но мораль тут одна - когда маркетинговые графики показывают, что “проблема решена”, обычно вы достигли где-то 20% решения, остались жалкие 80. Тем не менее, прогресс не остановить.

https://awni.github.io/speech-recognition/

Если вы интересуетесь искусственным интеллектом и темой компьютерного зрения в частности - вот вам отличная обзорная статья о достижениях в этой области за год. Если коротко: никаких резких революций не произошло, но прогресс идет очень приличным темпом, особенно во всем что касается роста качества.

В последнее время очень раздражает, что люди недооценивают важность темы компьютерного зрения. А ведь CV это единственный настоящий способ оцифровать мир вокруг. Без этого невозможно применить весь тот математический аппарат, который создало человечество, к реальному миру.

http://www.themtank.org/a-year-in-computer-vision

Надо же отметиться формальными итогами года, как того требуют приличия и традиция ;)
Отметился:
https://vc.ru/31107-mashinnoe-obuchenie-iskusstvennyy-intellekt-i-prochaya-avtomatizaciya-umstvennogo-truda-trendy-2017-goda-ot-andreya-sebranta