The Met Dataset: произведения искусства

Для формирования обучающего набора используется коллекция Метрополитен-музея (Metropolitan Museum of Art, The Met) в Нью-Йорке, находящаяся в открытом доступе и состоящая из около 400 тысяч изображений из более чем 224 тысяч классов, начиная с эпохи палеолита и заканчивая моднейшими художниками современности.

Каждый музейный экспонат соответствует уникальному произведению искусства и определяет свой собственный класс. Обучающее множество имеет распределение с длинным хвостом, где более половины классов представлены одним изображением, что делает его особым случаем обучения на нескольких снимках.

🗂 Датасет

#datasets #art #history

Малыши-роверы, автономно доставляющие заказы в городах и кампусах уже становятся привычным зрелищем, а вот автомобиль в потоке без человека внутри пока ещё экзотика. Вот и в воздухе, оказывается, так же.
Вчера тут постил про коммерческую доставку беспилотниками, а сегодня новость про первый полностью автономный полет боевого вертолета при полном отсутствии людей на борту. И да, психология срабатывает: вчерашние картинки — просто милота, сегодняшняя — многих встревожит ;)
https://www.defensenews.com/land/2022/02/08/black-hawk-helicopter-flies-unmanned-for-the-first-time/

MaskGIT: Masked Generative Image Transformer

Генеративные трансформаторы быстро завоевали популярность для синтеза реалистичных изображений.

В статье предлагается новая парадигма синтеза изображений с использованием двунаправленного декодера трансформера, который авторы называют MaskGIT. Во время обучения, MaskGIT учится предсказывать случайные спрятанные кусочки. Во время инференса модель начинает с одновременной генерации всех кусочков изображения, а затем итеративно уточняет изображение с учетом предыдущей генерации.

Эксперименты показывают, что MaskGIT значительно превосходит SOTA на ImageNet и ускоряет декодинг до 64 раз.

📎 Статья

#transformer #gan #generative #images

Вакансия: Преподаватель курса по нейронным сетям

В настоящий момент в МГУ имени М. В. Ломоносова проходит курс «Нейронные сети и их применение в научных исследованиях».

Нашей команде (msu.ai) нужен преподаватель для подготовки программы и методических материалов, проведения занятий. От Вас мы ждём только квалификации в области программирования нейронных сетей и умения доносить материал.

Вилка 80-100к₽ за 16 часов в неделю.

Подробные требования и описание 👉 тут.

P.S.: не забудьте указать, что вы подписаны на мой канал

В твиттере уже неделю происходит прекраснейшая грызня между OpenAI и Meta.

Илья Сатскевер (head of AI in OpenAI) написал, что большие языковые модели возможно обладают зачатками сознания. На что Ян ЛеКан из Meta (exFacebook) заявил, что все это чушь. И вообще, раз компания говорит такие вещи - значит это плохие исследователи. В перепалку вписался Сэм Альтман (CEO OpenAI) и сказал, что собственно в таком подходе к делу видимо и кроется провал исследоватеской работы Meta. И предложил исследователям из Meta переходить к нему на работу. Теперь к делу подключились и другие CEO.

Короче запасайтесь попкорном 🍿: https://twitter.com/jefrankle/status/1493021453473792000?s=21

Туториал по Графовым нейросетям

Графовые нейросети сейчас горячая тема. Нашел классный Colab-туториал от DeepMind, который начинается с самого понятия графа и заканчивается подробной инструкцией по написанию Графовой Сверточной Сети (GCN) на питоне.

💻 Учиться

#graph #basics

Пока все спорят о том что такое сознание, и есть ли оно в больших языковых моделях, предлагаю сосредоточится на более научной дискуссии.

ArgSciChat - это набор данных аргументированных диалогов. Он состоит из 498 сообщений, собранных из обсуждения 20 научных статей.

Датасет может быть использован для оценки разговорных агентов и дальнейшего стимулирования исследований в области аргументированных научных агентов.

🗂 Датасет

#ScientificML #nlp #datasets

Команда исследователей из DeepMind нашла применение для RL в ядерном синтезе. Ядерный синтез с использованием магнитного удержания является многообещающим путем к достижению устойчивой энергии. Основной проблемой является формирование и поддержание высокотемпературной плазмы внутри сосуда токамака. Для удержания плазмы необходим нечеловеческий уровень управления катушками магнитных приводов.

В новой работе представили метод для проектирования магнитного контроллера токамака, который автономно обучается управлять полным набором катушек. DeepMind успешно демонстрируют контроль за разнообразными конфигурации плазмы.

Предложенный подход демонстрирует потенциал обучения с подкреплением для ускорения исследований в области термоядерного синтеза.

Астрологи явно обьявили 2022 год годом RL. Казалось бы, на фоне успехов в глубоком обучении, на обучение с подкреплением (RL) начали забивать даже OpenAI, которые с него начали свой звёздный путь. Но видимо это было затишье перед бурей.

📎 Статья

#ScientificML #RL

🔎 Израильский стартап IdentifAI Genetics разработал ИИ-алгоритм для выявления генетических нарушений эмбрионов по анализу крови матери.

По данным компании, модель способна распознать любое генетическое заболевание, вызванное даже незначительной мутацией или вариацией в наследственном аппарате клеток.

🧬 ИИ анализирует взятую в течение третьего триместра кровь беременной матери, читает ДНК эмбриона и распознает нарушения.

#Израиль #медицина

На днях писал про термояд от DeepMind, а вот и блог-пост подъехал. Доступным и простым языком объясняют, что сделали и почему их исследование важно.

📓 Блог-пост

Машинное обучение становится математическим коллегой
Краткий пересказ эссе на QuantaMagazine

Математики часто работают вместе, когда пытаются разобраться в сложной проблеме. Но в двух новых статьях (1 и 2) роль коллеги-человека была частично заменена машиной.

Андраш Юхаш и Марк Лакенби из Оксфордского университета научили модели машинного обучения DeepMind искать закономерности в геометрических объектах, называемых узлами (knots). Два математика научили компьютер выводить важный алгебраический инвариант, называемый "сигнатурой" узла, основываясь только на информации о геометрических инвариантах узла. Объединив интуицию математиков с тремя геометрическими инвариантами, выделенными DeepMind, Юхаш и Лакенби создали безотказную формулу для вычисления подписи узла.

Эта работа представляет собой новую форму сотрудничества между человеком и машиной. Получается, что, включив машинное обучение в генеративную фазу исследования, математики могут обнаружить зацепки, которые было бы трудно найти без помощи машины.

Изучаем графовые нейросети

Ох, как бы я хотел что бы этот ресурс появился неделю назад. Но лучше поздно, чем никогда. Отличное занятие на этот томный воскресный день.

Учимся

#gnn #graphs

Ускорители для AI (GPU, TPU, IPU)

В 📓серии из 5 постов Adi Fuchs рассказывает все, что только можно об ускорителях - как они работают, чем отличаются и зачем нужны.

А если читать вам нравится меньше, чем смотреть - то есть 🎥 видео версия/пересказ на канале у Яника.

#hardware #gpu #tpu #ipu

Отличный материал про интерфейсы мозг-компьютер. Начинается издалека (с эволюции нервной системы) и заканчивается достижениями Neurаlink на начало 2017 года.

https://waitbutwhy.com/2017/04/neuralink.html

Мы выложили первую лекцию из курса «Нейронные сети и их применение в научных исследованиях».

Этот курс для всех, так что не ждите много математики и технических деталей, зато ждите кучу примеров применения ИИ в различных областях науки, а ещё и мемчики и отсылки :)

🎥 Лекция 1. Новая суперспособность науки

Если вы дата-аналатик, дата-инженер, мл-инженер или, прости господи, дата саентист из Украины и хотите уехать, напишите мне @venheads, попробуем вас быстро прособеседовать и увезти в Лондон, сходу вышлем вам дз или тест, чтобы запустить процесс, без скринов и прочего.

Да и в целом, если понимаете что терпеть уже не можете, можно попробовать. Правда пропускная способность у меня весьма ограничена