Методы уменьшения размерности
Какое-то время назад, мы с вами чатились про методы уменьшения размерности. Предлагаю продолжить обсуждение, но в этот раз предметнее:
1) Какие есть бенчмарки, что бы установить что метод X и впрямь самый лучший?
2) Как насчет скорости? Какие самые быстрые методы вы знаете?
3) Самые быстро развивающиеся методы? (Я зашел на гит нескольких вариантов umap и парочку tsne, везде комми там по паре лет, я что-то упустил и все пользуются чем то новеньким?)
Картинка: только что сфоткал в ботаническом саду Сан Франциско
Какое-то время назад, мы с вами чатились про методы уменьшения размерности. Предлагаю продолжить обсуждение, но в этот раз предметнее:
1) Какие есть бенчмарки, что бы установить что метод X и впрямь самый лучший?
2) Как насчет скорости? Какие самые быстрые методы вы знаете?
3) Самые быстро развивающиеся методы? (Я зашел на гит нескольких вариантов umap и парочку tsne, везде комми там по паре лет, я что-то упустил и все пользуются чем то новеньким?)
Картинка: только что сфоткал в ботаническом саду Сан Франциско
Последнее недели совсем не остается энергии на канал. Но поделюсь свежими трендами: вот сколько людей собирает митап по AI infra для real-time Voice AI 🤖
На фото офис Cloudflare
На фото офис Cloudflare
Please open Telegram to view this post
VIEW IN TELEGRAM
Mars Dune Alfa: NASA набирает добровольцев для симулированной годовой миссии на Марс
NASA ведёт второй набор на самую эксклюзивную вакансию – марсианин.
Участники будут жить в закрытом пространстве, имитирующем условия на Красной планете, проводить научные исследования, выполнять космические задачи (например, симуляцию выходов в космос и роботизированные операции), изучать воздействие длительного пребывания в изоляции, тем самым формируя основу для реальных миссий.
Условия для жизни и работы:
🌌 Площадь: ~ 160 кв м
🌌 Материал: Лавакрит (Lavacrete) от ICON прочностью 140-245 атмосфер (2000-3500 psi)
🌌 Четыре частные каюты для членов экипажа
🌌 Рабочие станции
🌌 Медицинская станция
🌌 Общие зоны отдыха
🌌 Кухня и площадка для выращивания пищи
🌌 Сутки 24 часа 37 мин 22 сек
Бонусы:
🌌 ограниченные ресурсы,
🌌 сбои оборудования,
🌌 задержки связи,
🌌 стрессовые факторы окружающей среды: низкое давление, пыльные бури и прочие марсианские особенности,
🌌 З/п по результатам собеседования, но, скорее всего, 60к/год
Требования:
☕️ 30-55 лет
🚀 Английский язык
⭐️ Гражданство или пмж США
🤩 степень магистра STEM (инженеры, математики, биологи, физики, ИТ) + 2 года профессионального опыта в STEM или 1 тыс часов пилотирования самолета;
🧜♀️ или 2 года на PhD, диплом врача или летчика-испытателя
✌️ или бакалавриат STEM + 4 года опыта работы
Про песчаных червей и спайс (я про меланж, если что) не говорят.
Может, название просто так выбрали, а может, подразумеваются сюрпризы. Если пригласят собеседоваться, спросите, плз?
Почему это действительно важно: миссия поможет лучше понять, как люди могут адаптироваться к долгосрочным космическим путешествиям, в т.ч освоению Луны.
🌌 Заявки принимаются до 2 апреля 2024 года
NASA ведёт второй набор на самую эксклюзивную вакансию – марсианин.
Участники будут жить в закрытом пространстве, имитирующем условия на Красной планете, проводить научные исследования, выполнять космические задачи (например, симуляцию выходов в космос и роботизированные операции), изучать воздействие длительного пребывания в изоляции, тем самым формируя основу для реальных миссий.
Условия для жизни и работы:
Бонусы:
Требования:
Про песчаных червей и спайс (я про меланж, если что) не говорят.
Может, название просто так выбрали, а может, подразумеваются сюрпризы. Если пригласят собеседоваться, спросите, плз?
Почему это действительно важно: миссия поможет лучше понять, как люди могут адаптироваться к долгосрочным космическим путешествиям, в т.ч освоению Луны.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
ML на графах в задаче e-commerce
Сегодня у нас пост присланный подписчиком: @marinadkntm (спасибо 🤩)
Допустим, мы решаем задачу поиска одинаковых товаров в онлайн-магазине.
Классический подход:
1. Подбор кандидатов. На этом этапе используется грубый, но быстрый алгоритм для подбора большого количества схожих объектов, потенциальных пар
2. Проверка пар моделью (т. н. матчинг) — более точная проверка того действительно ли в паре одинаковые объекты
У объекта может быть более одного дубликата, и хочется их объединять в одну группу, один кластер.
Просто склеить все найденные пары в один кластер — не лучшая идея, поскольку предсказания модели на 2 этапе имеют не нулевой процент ошибок.
На помощь приходит community detection (поиск сообществ), который представляет собой кластеризацию на графах.
В случае с товарами можно построить из них граф, рёбра между которыми будут соответствовать предсказанию модели, что товары являются дубликатами. На таком графе community detection поможет выделить группы одинаковых товаров.
Некоторые преимущества такого подхода:
1. Не нужно подбирать гиперпараметры. Например, задавать количество кластеров
2. Скорость. При таком подходе нет необходимости считать расстояние каждого объекта с каждым.
3. Масштабируемость. Можно запускать на больших графах параллельно на множестве executors
4. Self-supervised и Semi-supervised подходы. Задачу можно решать как при отсутствии какой-либо информации о кластерах, так и при заданной на части вершин информации о сообществах
Читайте подробнее про алгоритмы кластеризации на графах в:
📕 Статья на Habr
Сегодня у нас пост присланный подписчиком: @marinadkntm (спасибо 🤩)
Допустим, мы решаем задачу поиска одинаковых товаров в онлайн-магазине.
Классический подход:
1. Подбор кандидатов. На этом этапе используется грубый, но быстрый алгоритм для подбора большого количества схожих объектов, потенциальных пар
2. Проверка пар моделью (т. н. матчинг) — более точная проверка того действительно ли в паре одинаковые объекты
У объекта может быть более одного дубликата, и хочется их объединять в одну группу, один кластер.
Просто склеить все найденные пары в один кластер — не лучшая идея, поскольку предсказания модели на 2 этапе имеют не нулевой процент ошибок.
На помощь приходит community detection (поиск сообществ), который представляет собой кластеризацию на графах.
В случае с товарами можно построить из них граф, рёбра между которыми будут соответствовать предсказанию модели, что товары являются дубликатами. На таком графе community detection поможет выделить группы одинаковых товаров.
Некоторые преимущества такого подхода:
1. Не нужно подбирать гиперпараметры. Например, задавать количество кластеров
2. Скорость. При таком подходе нет необходимости считать расстояние каждого объекта с каждым.
3. Масштабируемость. Можно запускать на больших графах параллельно на множестве executors
4. Self-supervised и Semi-supervised подходы. Задачу можно решать как при отсутствии какой-либо информации о кластерах, так и при заданной на части вершин информации о сообществах
Читайте подробнее про алгоритмы кластеризации на графах в:
📕 Статья на Habr
Антропик анонсировали Claude 3
Один из основных конкурентов OpenAI, про который уже все успели подзабыть на фоне бесконечного потока AI новостей, опубликовал свою новую языковую модель - Claude 3.
Судя по проиллюстрированным бенчамаркам, модель обходит GPT-4. В виду того, что Claude 3 уже доступен в API, думаю что мы скоро увидим в деле, так ли он реально хорош.
Помимо понимания текста, модели доступно зрение (image comprehension).
По деньгам Claude 3 дороже чем OpenAI GPT-4. Видимо есть вероятность, что прирост в интеллекте не маржинальный
🖥️ Почитать подробнее
📟 Попоробовать Claude 3
Один из основных конкурентов OpenAI, про который уже все успели подзабыть на фоне бесконечного потока AI новостей, опубликовал свою новую языковую модель - Claude 3.
Судя по проиллюстрированным бенчамаркам, модель обходит GPT-4. В виду того, что Claude 3 уже доступен в API, думаю что мы скоро увидим в деле, так ли он реально хорош.
Помимо понимания текста, модели доступно зрение (image comprehension).
По деньгам Claude 3 дороже чем OpenAI GPT-4. Видимо есть вероятность, что прирост в интеллекте не маржинальный
🖥️ Почитать подробнее
📟 Попоробовать Claude 3
Илон хайпует на OpenAI and OpenAI хайпует на Илоне в соцсети, которая принадлежит Илону 🐕
И мы поXайпуем
И мы поXайпуем
Please open Telegram to view this post
VIEW IN TELEGRAM
Я попробовал Apple Vision Pro
В Америке AVP можно попробовать в любом Apple Store. Работает это так: на сайте Apple выбираешь доступное время в удобном салоне, и бронируешь демо заранее (в моем случае за один день было норм).
На демо, просят взять с собой очки для зрения (если носите), их прямо на месте сканируют и по результатам выдают специальные оптические вставки для AVP.
Само демо длится ~30 минут и начинается с основ управления. Управлять реально легко - смотришь и делаешь щипок пальцами. Через несколько минут уже чувствуешь себя уверенно.
На демо сначала показывают фотки, видео, панормы и spatial video. Потом учат пользоваться виртуальными средами и наконец дают посмотреть immersive video - и это реально вау 🤩. Ощущение как будто бы ты реально там! Вообще слово вау, я кажется говорил каждые пару минут.
Еще я попросил включить мне демо с динозаврами, и это тоже прям очень круто! 🦖
В целом, прибор мне понравился, но наверное я подожду 2-3юю версию, перед тем как покупать. Не то что бы с этим что-то не так, просто зная Apple, следующие несколько итераций будут самыми значительными.
В Америке AVP можно попробовать в любом Apple Store. Работает это так: на сайте Apple выбираешь доступное время в удобном салоне, и бронируешь демо заранее (в моем случае за один день было норм).
На демо, просят взять с собой очки для зрения (если носите), их прямо на месте сканируют и по результатам выдают специальные оптические вставки для AVP.
Само демо длится ~30 минут и начинается с основ управления. Управлять реально легко - смотришь и делаешь щипок пальцами. Через несколько минут уже чувствуешь себя уверенно.
На демо сначала показывают фотки, видео, панормы и spatial video. Потом учат пользоваться виртуальными средами и наконец дают посмотреть immersive video - и это реально вау 🤩. Ощущение как будто бы ты реально там! Вообще слово вау, я кажется говорил каждые пару минут.
Еще я попросил включить мне демо с динозаврами, и это тоже прям очень круто! 🦖
В целом, прибор мне понравился, но наверное я подожду 2-3юю версию, перед тем как покупать. Не то что бы с этим что-то не так, просто зная Apple, следующие несколько итераций будут самыми значительными.
This media is not supported in your browser
VIEW IN TELEGRAM
OpenAI показали свое первое демо совместно с Figure
🎧 Смотреть со звуком!
Недавно, OpenAI анонсировали свое партнерство с Figure - компанией производящей роботов. И вот появилась первая демонстрация.
В настоящий момент, GPT взяла на себя функции восприятия и интерфейса - то есть OpenAI воспринимает сенсорную информацию и передает ее роботу, внутренний (спинной?) мозг которого превращает эту информацию в движения (контроль). Так же, OpenAI берет на себя функцию общения с человеком.
Судя по видео - GPT-4V крутится на сервере, а не на самом роботе, но с развитием маленьких языковых и мультимодальных моделей несложно увидеть будущее (пару месяцев), в котором все происходит на самом роботе.
Ждем ответочку от Илона и Оптимуса с Гроком!
X.com
🎧 Смотреть со звуком!
Недавно, OpenAI анонсировали свое партнерство с Figure - компанией производящей роботов. И вот появилась первая демонстрация.
В настоящий момент, GPT взяла на себя функции восприятия и интерфейса - то есть OpenAI воспринимает сенсорную информацию и передает ее роботу, внутренний (спинной?) мозг которого превращает эту информацию в движения (контроль). Так же, OpenAI берет на себя функцию общения с человеком.
Судя по видео - GPT-4V крутится на сервере, а не на самом роботе, но с развитием маленьких языковых и мультимодальных моделей несложно увидеть будущее (пару месяцев), в котором все происходит на самом роботе.
Ждем ответочку от Илона и Оптимуса с Гроком!
X.com
Илон Маск и x.ai опубликовали веса Grok-1
Grok-1 это ИИ для платных подписчиков Твиттера, который по задумке создателя, должен функционировать как ИИ из книги «Автостопом по галактике». Модель из себя представляет огроменный Mixture of Experts на 314 млрд параметров. Мне пока такое проверит не на чем, так что подождём недельку и 100% увидим креатив от OSS сообщества, по сжиманию весов.
🎂 Анонс
💿 Код
🤗 HF
P.S.: не нашел их random seed, но надеюсь он 42
Grok-1 это ИИ для платных подписчиков Твиттера, который по задумке создателя, должен функционировать как ИИ из книги «Автостопом по галактике». Модель из себя представляет огроменный Mixture of Experts на 314 млрд параметров. Мне пока такое проверит не на чем, так что подождём недельку и 100% увидим креатив от OSS сообщества, по сжиманию весов.
🎂 Анонс
💿 Код
🤗 HF
P.S.: не нашел их random seed, но надеюсь он 42
Top-10% статьей, которые скачали в 2022 году (в журнале JGR: Solid Earth).
Сегодня получил неожиданную ачивку (особенно учитывая, что на дворе середина 2024 года).
Оказывается, моя статья про разделение сейсмических сигналов вошла в топ 10% самый скачиваемых статьей в журнале JGR: Solid Earth.
Суть статьи заключается в следующем:
Мы адаптировали метод разделения сигналов Dual-Path Recurrent Neural Network (DPRNN), изначально предложенный для обработки речи, для применения к сейсмическим данным.
Обучив нейросеть на датасете STEAD, мы продемонстрировали возможность: (a) очистки сейсмических записей от шума (denoising) (b) разделения нескольких наложенных друг на друга сейсмических сигналов (source separation)
Такое разделение сигналов на одноканальных записях может найти применение во многих задачах сейсмологии - анализе афтершоков, seismo-acoustics, ambient томографии и др.
Мы показали, что машинное обучение способно успешно разделять сигналы даже в случае их значительного перекрытия по времени и частоте, когда традиционные подходы неэффективны.
📖 Статья
🖥 Код
Сегодня получил неожиданную ачивку (особенно учитывая, что на дворе середина 2024 года).
Оказывается, моя статья про разделение сейсмических сигналов вошла в топ 10% самый скачиваемых статьей в журнале JGR: Solid Earth.
Суть статьи заключается в следующем:
Мы адаптировали метод разделения сигналов Dual-Path Recurrent Neural Network (DPRNN), изначально предложенный для обработки речи, для применения к сейсмическим данным.
Обучив нейросеть на датасете STEAD, мы продемонстрировали возможность: (a) очистки сейсмических записей от шума (denoising) (b) разделения нескольких наложенных друг на друга сейсмических сигналов (source separation)
Такое разделение сигналов на одноканальных записях может найти применение во многих задачах сейсмологии - анализе афтершоков, seismo-acoustics, ambient томографии и др.
Мы показали, что машинное обучение способно успешно разделять сигналы даже в случае их значительного перекрытия по времени и частоте, когда традиционные подходы неэффективны.
📖 Статья
Please open Telegram to view this post
VIEW IN TELEGRAM
Чайник из Юты
Сегодня, хочу вам рассказать про любопытнейший артифакт, который я на днях заметил в Музее Истории Компьютеров (Mountain View, CA).
Чайник из Юты, также известный как чайник Ньюэлла, является важной частью компьютерной графики. Созданный в 1975 году Мартином Ньюэллом, аспирантом из Университета Юты, он послужил универсальной тестовой моделью для ранних алгоритмов рендеринга.
Его выбор был обусловлен геометрической сложностью и узнаваемостью. За годы своего существования "Чайник из Юты" стал символическим эталоном, иллюстрирующим прогресс от простых wireframe моделей до современных сложных, фотореалистичных 3D-рендерингов.
Чайник из Юты до сих пор остается культовой эмблемой в сообществе цифровой визуализации, символизируя пересечение технических инноваций и художественного выражения.
Обязательно сходите в этот музей! Там много всего интересного
Сегодня, хочу вам рассказать про любопытнейший артифакт, который я на днях заметил в Музее Истории Компьютеров (Mountain View, CA).
Чайник из Юты, также известный как чайник Ньюэлла, является важной частью компьютерной графики. Созданный в 1975 году Мартином Ньюэллом, аспирантом из Университета Юты, он послужил универсальной тестовой моделью для ранних алгоритмов рендеринга.
Его выбор был обусловлен геометрической сложностью и узнаваемостью. За годы своего существования "Чайник из Юты" стал символическим эталоном, иллюстрирующим прогресс от простых wireframe моделей до современных сложных, фотореалистичных 3D-рендерингов.
Чайник из Юты до сих пор остается культовой эмблемой в сообществе цифровой визуализации, символизируя пересечение технических инноваций и художественного выражения.
Обязательно сходите в этот музей! Там много всего интересного
Случайно проходил мимо
В окрестностях Open AI - островок нормальности по средине Mission district.
Вайб тут такой. А в нашей реальности происходит мрак.
📍Карта
🎧 Soundtrack
В окрестностях Open AI - островок нормальности по средине Mission district.
Вайб тут такой. А в нашей реальности происходит мрак.
📍Карта
🎧 Soundtrack
YOLO-World: обнаружение объектов в реальном времени без ограничений по категориям (почти)
Уже два месяца, как YOLO-World среди нас, но у меня только сейчас до нее дошли руки.
YOLO знаменитая серия детекторов которым достаточно "взглянуть только один раз", чтобы найти нужный объект. Одно «но» - их надо было обучать и дообучать заранее предопределенным категориям. В Tencent AI Lab объявили, что нашли способ обойти это ограничение.
Секрет в RepVL-PAN - перепараметризуемой сети агрегации зрительно-языковых путей для создания пирамиды признаков. Текстовые эмбеддинги могут быть перепараметризованы в веса сверточных или линейных слоев во время деплоймента.
Звучит классно, ведь больше не нужно собирать свой датасет. Проверила на рабочих картинках и загрустила: YW не может zero-short обнаружить ничего на лабораторных снимках… И на рентгене не нашла даже костей. Поэтому пока оставлю кастомную YOLOv8.
Если вам пригодилось, поделитесь? Может, кто-то, напр, трещины в бетоне детектил
👾Github
📖Paper
🎬Official
🤗Hf
Уже два месяца, как YOLO-World среди нас, но у меня только сейчас до нее дошли руки.
YOLO знаменитая серия детекторов которым достаточно "взглянуть только один раз", чтобы найти нужный объект. Одно «но» - их надо было обучать и дообучать заранее предопределенным категориям. В Tencent AI Lab объявили, что нашли способ обойти это ограничение.
Секрет в RepVL-PAN - перепараметризуемой сети агрегации зрительно-языковых путей для создания пирамиды признаков. Текстовые эмбеддинги могут быть перепараметризованы в веса сверточных или линейных слоев во время деплоймента.
Звучит классно, ведь больше не нужно собирать свой датасет. Проверила на рабочих картинках и загрустила: YW не может zero-short обнаружить ничего на лабораторных снимках… И на рентгене не нашла даже костей. Поэтому пока оставлю кастомную YOLOv8.
Если вам пригодилось, поделитесь? Может, кто-то, напр, трещины в бетоне детектил
👾Github
📖Paper
🎬Official
🤗Hf