Визуальное объяснение того, как работают нейросети

Некто Jared Wilber выкатил веб-страницу, на которой объясняет, как устроены нейросети. Получилось и не слишком сложно, но и не очень популярно, ведь без математической составялющей алгоритм все равно до конца не понять.

Особенно радует динамическая визуализация и приятная структура. Страницу интересно и полезно почитать, даже если вы уже неплохо разбираетесь в теме, или если наоборот, не разбираетесь совсем.

Короче, кайф. Советуем!

Ну с таким набором уже мидл 🥴

Stability AI лишилась генерального директора и нескольких создателей Stable Diffusion

Эмад Мостак (уже exCEO) заявил, что покидает свой пост и совет директоров, чтобы децентрализировать ИИ.

Настало время работать над тем, чтобы ИИ оставался открытым и децентрализованным

— заявил он.

Зацените, как люди любят визуализацию: нашли в Твиттере аналитика Ewa Tuteja, которая сама связала датавиз и пометила пост прикольным тегом #DressYourHouseInData

Материалы Nvidia про RAG – один из главных трендов ИИ в этом году:

– Совсем свежее введение в RAG со всеми необходимыми деталями о том, зачем это нужно, как это устроено и что может.

– Бесплатный курс Augment your LLM Using Retrieval Augmented Generation. Уже более глубокое объяснение устройства механизма.

– Building RAG Agents with LLMs. 8 часов лекций про векторные базы данных, микросервисы, LangChain и ИИ-агентов. Тоже бесплатно.

А если не понимаешь, про какой такой RAG все говорят, то начни с нашей статьи.

Москва. Страшно. Бесконечно соболезнуем всем, кого коснулся этот ужас.

Все средства с сегодняшней рекламы в нашем канале пошли на помощь.

Берегите близких 🕯️

Mistral выложили на HF новую модель Mistral 7B v0.2 Base Model

- контекстное окно в 32k токенов вместо 8k
- Rope Theta = 1e6 (параметр «новизны» в ответах модели)
- Убрали sliding window, так что новая модель лучше воспринимает глубокие связи в длинном тексте

Уже доступно в transformers

The Little Book of Deep Learning by François Fleuret

Франсуа Флере — профессор компьютерных наук в Женевском университете, Швейцария. Недавно он выпустил интересную мини-книжку с последовательными заметками по глубокому обучению.

Здесь кратко и содержательно рассматриваются многие важные темы: Backpropagation, дропауты, нормализации, функции активации, слои внимания и тд. Откройте оглавление – и увидите сами.

При этом эта малютка подойдет даже новичкам: в начале автор раскрывает базовые понятия, и даже рассказывает про GPU и тензоры. А в третьей граве найдете заметки по основным задачам глубокого обучения: Text-image, детекция, генерация текстов и изображений, RL.

И все это изложено всего на 150 страницах с картинками. Вот бесплатная версия, адаптированная под чтение на телефоне. Советуем!

Чего действительно ждут в индустрии от ML-щика? С этим вопросом нам удалось обратиться к эксперту — Андрею Кузнецову, ML директору в OK, с которым нам повезло оказаться на AI-тусовке от AI Talent Hub в солнечном Вьетнаме. И вот что он думает на этот счет:

Для успешного внедрения моделей МЛ в производственной среде необходим надежный подход, известный как MLops, а для работы с LLM придумали новую аббревиатуру LLMops. Вот список ключевых инструментов, которые помогут вам оптимизировать жизненный цикл ваших моделей ML, от создания прототипов до развертывания и мониторинга:

- векторные базы (Milvus, qdrant etc)
- системы отслеживания экспериментов и версионирования моделей (mlflow)
- оркестраторы (Airflow)
- платформы инференса (triton, vLLM)
- инструменты версионирования данных (DVC)
- инструменты для работы с BigData
- инструменты CI/CD (TeamCity)
- инструменты мониторинга и дашборды (Grafana, SuperSet)
- инструменты прототипирования интерфейсов (Gradio, Streamlit)
- контейнерные оркестраторы (Kubernetes + Docker)
- LLM specific frameworks (Llamaindex, Langchain).

Кстати, у его команды есть канал @mlvok, где они регулярно разбирают на открытых ридинг-клабах текущий SOTA в рекомендательных системах, MLops и Big Data. Советуем почитать.

В Google презентовали VideoPrism: базовую модель для "понимая" видео

Удивительно, но факт: в эпоху SORA универсальный энкодер для видео (ViFM), который справляется с широким спектром задач, долго оставался голубой мечтой. Однако теперь Google превратили это в реальность.

VideoPrism умеет почти все: описывать видео, искать или локализовать объекты, классифицировать, отвечать на вопросы. Обучена модель на 36 миллионах video-text пар и 582 миллионах видео с субтитрами.

Под капотом – вижн трансформер (ViT), который обучается в два этапа: сначала с триплет-лоссами, чтобы научить сеточку сопоставлять видео подходящее описание; а затем на masked роликах, заставляя модель "дополнять" пропущенные участки (все, как дедушка BERT завещал). Получается, что исследователи как бы учат модель понимать и семантику видео, и динамику кадра.

И работает это классно: на 30 из 33 бенчмарков выбивает SOTA. Теперь исследователи планируют прикрутить сюда LLM. Ждем и надеемся, что такие наработки приведут к чему-то фееричному (еще одна SORA?)...

В каких еще областях нас планирует удивить OpenAI?

На днях компания подала заявку на регистрацию товарного знака для цифрового голосового помощника и голосового движка. Технология охватит распознавание речи, ее генерацию, и, возможно, генерацию других звуковых выходов.

Siri и Alexa тихо закурили в сторонке