AI Для Всех
12.1K subscribers
1.04K photos
130 videos
10 files
1.32K links
Канал, в котором мы говорим про искусственный интеллект простыми словами

Главный редактор и по рекламе: @crimeacs

Иногда пишут в канал: @GingerSpacetail, @innovationitsme
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
🪐 "Galactica". Большая языковая модель для науки.

Galactica может обобщать научную литературу, решать математические задачи, генерировать статьи Wiki, писать научный код, аннотировать молекулы и белки и многое другое.

Модель была выпущена компанией Meta (в принципе, с такой моделью действительно можно уволить часть сотрудников).

Попробовал ее на своей довольно специфичной области - работает на ура!

🪐 Онлайн демо
🫣 Модель
🦭 Статья
Аугментация сейсмических данных

У меня есть своя библиотека для аугментации сейсмических данных (с точки зрения модальности - аудио/звук). Буду рад, если вы туда что-нибудь законтрибьютите!

На языке вертится frequency и time masking, но буду супер рад любым идеям!

P.S.: можно просто документацию пописать и примеры поделать

📻 Библиотека для аугментации сейсмических данных

P.S.: Sinkovics, прикинь, там уже 17 звёзд 🌟
AI для подкастов

Я тут изучил тему, оказывается, появился уже целый ряд ИИ продуктов для редактирования и производства подкастов:

Podcastle, Descript - транскрибация, редактирование звука по тексту, клонирование голоса и последующий нейродубляж

Podcast.co - хостинг и продвижение подкастов

Zencastr - обещают все в одном :)

И как оказалось там еще целое поле не паханое.

Пишите в коментах какие бы вы хотели фичи с ИИ?
This media is not supported in your browser
VIEW IN TELEGRAM
Wordcraft - NLG ассистент писателя, сфокусированный на полезности для пользователя

Google Research попросили 13 профессиональных писателей, поэтов и комиков в течение 8 недель использовать созданный на основе языковой модели LaMDA инструмент Wordcraft как партнера для мозговых штурмов, соавтора, помощника-исследователя и бета-читателя.

Пока Wordcraft с этим справляется на уровне, подходящем любителям и новичкам, но не тем, у кого есть свой стиль и почерк.

Топ 5 проблем:
1. Неоригинальность (в этом смысле модели поменьше типа GPT-2 лучше вдохновляют своими безбашенными курьезами)
2. Плагиат или нарушение авторских прав
3. Короткая "память", не умещающая сюжетную линию (в LaMDA последовательности из 1024 токенов, но даже 4к GPT-3 будет недостаточно)
4. Wordcraft отказывался создавать отрицательных персонажей (файнтьюнинг на грубости)

И вишенка на торте:
5. Wordcraft пока преувеличивает свои возможности, обещая, например, перезвонить через несколько дней🌚

📖Статья
📚Произведения
@GingerSpacetail
This media is not supported in your browser
VIEW IN TELEGRAM
Magic3D - модель text-to-3D от NVIDIA. Теперь мы знаем как выглядит волшебство.

Кажется, NVIDIA наняли эльфа Бадди (который из фильма 2003 с Уиллом Ферреллом). Во-первых, это умопомрачительная text-to-3D высокого разрешения. А во-вторых, дизайн инструмента в лучших традициях 90х со шрифтом comic sans. Комик санс, Карл!

Про диффузию вы и так знаете. А кода все равно ещё нет.


📖Статья
🪄Страница инструмента
@GingerSpacetail
This media is not supported in your browser
VIEW IN TELEGRAM
ИИ победил в игру Дипломатия

Сегодня META объявила о прорыве на пути к созданию ИИ, овладевшего навыками использовать язык для ведения переговоров, убеждения и работы с людьми для достижения стратегических целей.

Они создали агента - CICERO (агент Цицерон) - который стал первым ИИ, достигшим уровня человека в популярной стратегической игре Diplomacy*. Работу опубликовали в журнале Science.

CICERO продемонстрировал свои возможности, играя на webDiplomacy.net, онлайновой версии игры, где CICERO набрал более чем в два раза больше очков, чем человеческие игроки, и вошел в 10 процентов лучших участников, сыгравших более одной игры.

В блог-посте подробнейшее описание задумки и исполнения. МЕТА в этом году прям в ударе по интересным статьям связанным с AI. Начинаю подозревать что метаверс строиться совсем не для людей.

😌 Блог-пост
🤩 Статья
🙃 Сайт CICERO
@crimeacs
Forwarded from Syncrets
🧠 Молекулярный мозг.

Нейроны, аксоны, синапсы — всё это клеточный уровень. А как насчёт отдельных молекул?

Международная группа учёных совместно с коллегами из Бернальского института университета Лимерика в Ирландии открыли «динамический молекулярный переключатель», который имитирует синаптическое поведение и демонстрирует все функции математической логики, необходимые для глубокого обучения.

Команда разработала двухнанометровый молекулярный слой, объединяющий быстрый перенос электронов (по аналогии с потенциалами действия и деполяризации в биологии) с медленным связыванием протонов, ограниченным диффузией (сродни роли ионов кальция или нейротрансмиттеров). Так как этапы переноса электрона и связывания протона в материале происходят с очень разными временными масштабами, трансформация делает возможной эмуляцию пластичного поведения синаптических связей, Павловское обучение и цифровые логические вентили — просто изменяя напряжение и продолжительность импульсов — и это революционная альтернатива обычным бинарным кремниевым переключателям, по словам профессора Томпсона, руководителя проекта.

Применение этого метода в будущем к динамическим молекулярным системам с иными стимулами (например, светом) и с различными типами формирования ковалентных связей открывает путь к созданию новых реконфигурируемых систем, органических материалов для вычислений, сверхплотной упаковки данных, энергетики и т. д.

Интересно, если на подобную искусственную синаптическую базу развернуть уже готовый коннектом, что получится? 🫥
Please open Telegram to view this post
VIEW IN TELEGRAM
Media is too big
VIEW IN TELEGRAM
Clippit (известный под именами Clippy, Скрепа и Скрепыш) - ML помощник из Microsoft Office, работавший на байесовских алгоритмах

После поста про Wordcraft накрыло ностальгией по Скрепышу. Помните такого помощника в Ворде?

Оказалось, он был ML ассистентом, опередившим свое время. Его действия инициировались серией байесовских алгоритмов, оценивающих вероятность того, что пользователю нужна помощь, а ответы, естественно, основывались на правилах и шаблонах из базы знаний Microsoft.
И уже тогда, в далёком 1993, у него были несовершенства лучших AI помощников и чат-ботов современности: назойливость, короткая память, предложения в духе Капитана Очевидность и беспардонное нарушение социальных норм.

Под натиском критики его убрали в 2007 (2008 из Mac), но в 2021 он нашел новую работу в виде эмоджи, а в 2022 ему просвещен традиционный ugly-свитер Майкрософт.

📼Видео похищено отсюда. И оно с теми самыми звуками
📎Код для встраивания js Скрепы в любой сайт
@GingerSpacetail
Stable Diffusion 2.0

SD2 предоставляет ряд значительных улучшений и возможностей по сравнению с оригинальной версией V1:

🌟 Depth-to-Image Diffusion Model
Новинка! Depth2img, расширяет предыдущую функцию "изображение-изображение", предоставляя совершенно новые возможности для творческого применения. Depth2img определяет глубину входного изображения (используя существующую модель), а затем генерирует новые изображения, используя как текст, так и информацию о глубине.

Новый Text-to-Image
Новые модели обучали с помощью нового OpenCLIP и эстетичного сабсета LAION-5B.

Super-resolution Upscaler
Повышает разрешение изображений в 4 раза. Теперь Stable Diffusion 2.0 может генерировать изображения с разрешением 2048x2048 или даже выше.

Updated Inpainting Diffusion Model
новая модель инпейнтинга, которая позволяет очень легко и быстро менять местами части изображения.

Еще больше подробностей тут
This media is not supported in your browser
VIEW IN TELEGRAM
Следующий ивент Neuralink будет через неделю!

Nov 30, 6 pm PT

Судя по видео-приглашению нам покажут как кто-то печатает с помощью нейроимпланта. Было бы круто если бы печатали обезьяны, но с человеком тоже хорошо.

Источник
Self-Supervised Learning based on Heat Equation

Авторы обратили внимание на то, что карты активации классов полученные из global average pooling сверточных сетей похожи на физическое рассеивание тепла. Вдохновившись теплопередачей из физики они адаптировали уравнение теплопроводности и использовали его вместо лейблов, что позволило перевести задачу из supervised в self-supervised learning (#SSL).

На этапе обучения pretext-задачи, изображение делят на 4 патча, один из которых подается на вход модели, а остальные 3 предсказываются ей. Таким образом модель учит латентное представление.

Авторы утверждают, что их подход применим как для классификации изображений, так и для обнаружения объектов. Код обещают позже.

📖 Статья
@karray
This media is not supported in your browser
VIEW IN TELEGRAM
Интересные свойства softmax

Уверен многим знакома фунция softmax. Она часто используется как функция активации выходного слоя в нейронных сетях для задач классификации, при этом результат трактуется как вероятности (все значения между 0 и 1, а их сумма равна 1). Однако, это одна из ее интерпретаций этой и результат не следует рассматривать как фактическую вероятность.

Эта функция также имеет и другую интерпретацию. Как видно из названия, она возвращает максимум, а точнее является дифференцируемой argmax функцией. Как и argmax, результат softmax можно интерпретировать как индекс максимального значения. Напрмер, если взять вектор [1, 5, 5], softmax вернет [0.01, 0.49, 0.49]. Перемножив эти вектора, получим ≈5, что аналогично argmax функции.

Такое свойство softmax используется в self-attention блоках в трансформерах для реализации своего рода “soft dictionary”. Но об этом в другой раз.

Подробнее
@karray
Всем привет! Меня зовут Арай - как array, только с одной “r” 🙂

Долгое время я был фулстак разработчиком, но потом мне стало скучно, и я закончил магистратуру. И вот уже год я работаю научным сотрудником в Берлинском Техническом Университете, где собираюсь делать PhD в области Explainable AI. Наша группа работает с медицинскими данными и понятный ИИ важен при составлении диагноза.

Недавно я начал помогать Артемию вести канал. Мои посты можно узнать по подписи @karray

Заходите в чат канала, будем развиваться вместе 👾
@karray
Peekaboo: сегментация как эмерджентное свойство фундаментальной Stable Diffusion

Давайте честно, играя с text-to-image, вы ведь спрашивали модель: "Ок, лягушку в пальто ты сгенерировала. И что, ты знаешь, где тут на картинке ПАЛЬТО?"

Похожим вопросом задались ресечеры из Stony Brook University и сделали не очень удивительное, но крайне полезное открытие: сегментацию можно делать по текстовому описанию с помощью моделей латентной диффузии.

Созданная ими Peekaboo замечательна тем, что:
- использует оригинальную SD (никакого переобучения);
- unsupervised (без разметки людьми);
- open-vocabulary (запросы в свободной форме);
- zero-shot (здесь это значит без обучения на под-задачах);
- решает задачу и семантической, и описательной (referring) сегментации.

Изящество в Dream Loss, оптимизирующей альфа-маску с ограничением по текстовому описанию, и вспомогательных функциях потерь, минимизирующих фон и пересечения.

Что касается возможностей, мы открыли ящик Пандоры.

📖Статья
🧑‍💻Код обещают позже
@GingerSpacetail
5ого января 2021 года -> 27 ноября 2022 года

Прошло меньше двух лет
Forwarded from Earth&Climate Tech
3blue1brown - YouTube канал радующий глаз

3blue1brown - один из самых классных образовательных каналов. Канал фокусируется на подаче математических концептов с упором на визуальную составляющую. Красиво и понятно.

Это я к чему. Неделю назад на канале вышло видео про свертку (convolution) - But what is a convolution? В науке где только она не используется, от обработки сейсмических данных до нашего любимого глубокого обучения с помощью сверточных сетей (convolutional neural networks). В общем посмотрите. Во-первых это красиво, ну и сильно прокачивает интуитивное понимание процесса.

Если зайдет, то на этом же канале есть визуальные шедевры и про преобразование Фурье и про нейронные сети. Все как мы любим.
Такое точно нельзя пропускать! Бронштейн ищет себе аспирантов для расшифровки речи китов!
Помните, я летом говорила, что ездила на съемки лекций? Так вот, курс, который мы тогда записывали, наконец готов и выложен на Степик!

Это полностью бесплатный и довольно подробный курс по машинному обучению с самых азов и до продвинутых тем. Делали мы его частью команды DLS + несколько других отличных специалистов. Ориентирован он на школьников, так что изложение старались делать очень понятным языком. Но проходить, разумеется, могут все желающие.

Темы курса начинаются с введения в Python, знакомства с нужными библиотеками, математики для анализа данных и идеи машинного обучения. Затем переходим к изучению моделей, метрик и других аспектов прикладной машинки. Ну и дальше идут нейросети.
Подробную программу можно посмотреть тут. Она обширнее, чем программа DLS (в DLS мы учим в первую очередь глубокому обучению, и про классическое машинное обучение мы рассказываем не так подробно). Ну и, как обычно, мы постарались дать довольно много практики. В будущем к курсу еще выйдут дополнительные модули с новыми темами (сейчас идет монтаж записей).

Хочу сказать, что работы над курсом было проделано много: он отлично проработан методически. Тексты лекций были составлены заранее и записаны на профессиональное оборудование. Смотреть будет приятно!

К курсу прилагаются чатик для общения/помощи с учебой. В нем также будут ассистенты, которые будут отвечать на ваши вопросы. Ну и я там тоже буду =)

Приходите сами, а также зовите друзей!⬇️
Начать учиться тут
Новый разговорный бот от OpenAI: ChatGPT

OpenAI обучили модель под названием ChatGPT, которая взаимодействует с пользователем в разговорной манере.

Формат диалога позволяет ChatGPT отвечать на вопросы, признавать свои ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы. ChatGPT является родственной моделью InstructGPT, которая обучена следовать инструкции в промпте и предоставлять подробный ответ.

На время бета-теста использование ChatGPT бесплатно.

Попробуйте прямо сейчас на сайте.

🤩 Блог-пост