Зомбирование нейросетей уже возможно

В феврале исследователи из Google Brain опубликовали работу, из которой следовало, что:
— состязательную нейронную сеть для распознавания образов можно запросто хакнуть и заставить видеть совсем не то, что ей показывают, например, собаку вместо кошки;
—похожим образом можно хакнуть и зрительное восприятие человека.

Та статья звучала страшновато. Однако новая статья исследователей из Google Brain - вообще жуть.

Дальнейшие исследования показали:
✔️ Нейронные сети распознавания образов запросто можно так хакнуть, что они не просто будут видеть ложные изображения, а станут выполнять иные, совершенно левые функции.
Без преувеличений можно сказать, что это способ зомбирования нейросетей – превращение их в послушного исполнителя чужой воли.

Это значит, что хакеры, например, могут:
— перепрограммировать классификатор компьютерного зрения в облачной службе фотографий с тем, чтобы начать воровать вычислительные ресурсы, скажем, для майнинга криптовалюты;
— или перепрограммировать любой смартфон, использующий нейросети для функций цифрового помощника и тем самым получить доступ к почте, паролям, кредиткам …

Авторы пока точно не выяснили, какие конкретно задачи злоумышленники смогут заставить выполнять зомбируемые нейронные сети. Однако, как они пишут, успешная атака может побудить их выполнять «очень большой набор задач».

И еще одна гордая по тону и убийственная по сути цитата:
«Наши результаты впервые демонстрируют возможность ... состязательных атак, направленных на перепрограммирование нейронных сетей ... Эти результаты демонстрируют как удивительную гибкость, так и удивительную уязвимость в глубоких нейронных сетях».
В общем, приехали!

Авторы успокаивают. Мол, рандомные сети (random neural networks) так просто не хакнешь, как состязательные. Но тут же признают, что с тотальной уязвимостью состязательных нейронных сетей придется разбираться ох как серьезно. Ведь этот тип сетей повсюду: от дизайна до Facebook.
#GAN #Хакинг

​​Не раз писал здесь про генеративные нейросети — #GAN. Вот подробно о том, что это вообще такое и как GAN рисуют картины, неотличимые от человеческих, вот GAN рисует портреты несуществующих людей XIX века, а вот — картины обнаженных людей.

Так вот, трое смышлённых французов обучили GAN на портретах 14-19 веков, сгенерировали десяток портретов несуществующих людей, придумали им имена и фамилии (получилось целое семейство) и начали выставлять их на выставках. Одну картину у них уже купил коллекционер из Парижа за 10 000 евро, ещё одну (она как раз на фото) они выставляют на акуцион Кристис — и наверняка тоже неплохо за неё выручат.

Вот это я понимаю перфоманс в духе времени — нагенерировать компьютерных картинок и продавать их под видом новой живописи. Гениально!

А этот пост рекомендую прочитать, даже если вы не особо интересуетесь машинным творчеством. GAN — одна из прорывных технологий последних лет, полезно представлять, как это работает.

#пятничное #GAN
https://thenextweb.com/distract/2019/07/11/hey-look-ai-ruined-garfield/
генератор комиксов с гарфилдом :)

🖼 Google представила генератор фотореалистичных изображений по тексту Parti.

Система представляет собой авторегрессионную модель с 20 млрд параметров. По данным компании, алгоритм обрабатывает длинные и сложные текстовые запросы, требующие знания мира, компоновки множества объектов с мелкими деталями и взаимодействиями, а также соблюдения определенного формата и стиля.

☝️ В Google заявили, что не опубликовали программный код Parti или используемые датасеты из-за рисков, связанных с дезинформацией, предвзятостью и безопасностью.

#Google #GAN
_______
Источник | #forklogAI

Хочешь узнать больше? Подпишись на FSCP+

🖼 TikTok представил генератор фонов для видео по тексту AI greenscreen. Инструмент доступен для пользователей Android и iOS.

По сравнению с фотореалистичными работами модели DALL-E 2 от OpenAI алгоритм AI greenscreen генерирует примитивные абстрактные картины. По данным The Verge, TikTok мог сделать это намеренно во избежание риска нарушения правил платформы вроде изображения наготы или сцен насилия.

#TikTok #GAN
_______
Источник | #forklogAI

🖼 Энтузиаст создал нейросеть pornpen для генерации обнаженных женщин по настраиваемым текстовым запросам. Модель бесплатная и находится в открытом доступе.

Разработчик использовал популярные генераторы иллюстраций по тексту, обучив их на различных изображениях обнаженных женщин, в том числе порноактрис. По его словам, текущая версия системы некорректно отображает лица и глаза, тогда как тела получаются «лучше».

☝️ На первом этапе инженер «специально» исключил возможность ввода пользовательских запросов во избежание создания токсичного контента, сделав список готовых команд.

#разработка #GAN
_______
Источник | #forklogAI

🗑 Фотобанк Shutterstock удалил коллекцию изображений, созданную ИИ-системой Midjourney.

По данным Motherboard, вместо работ алгоритма система находит стоковые фотографии логотипа проекта. Ранее по запросу Midjourney сервис выдавал изображения, на которых отчетливо прослеживался стиль ИИ-художника.

Условия обслуживания Shutterstock не запрещают размещать контент, созданный искусственным интеллектом. В компании ситуацию не прокомментировали.

🙅‍♂️ Некоторые художники выступили против размещения ИИ-работ в фотобанках. По их словам, алгоритмические изображения генерируются на основе тысяч образцов, извлеченных из интернета и не являются оригинальными. Другие критики опасаются лишится дохода от выполнения индивидуальных заказов.

#GAN
_______
Источник | #forklogAI