NVIDIA действительно устранила одно из главных ограничений голосового ИИ.

Компания открыла исходный код PersonaPlex-7B — разговорной модели с полнодуплексным режимом, которая умеет одновременно слушать и говорить.

Вместо того чтобы ждать, пока пользователь закончит говорить, модель использует двухпоточную архитектуру для обработки речи и ответа в реальном времени.

Полностью открытый исходный код и бесплатное использование.

https://github.com/NVIDIA/personaplex

👉 @PythonPortal

Если ищете хороший видеокурс по 3D-математике для игр, в котором сочетаются теория и практика, вот он: https://wojtsterna.com/math-for-3d-programmers/

Первая часть курса длится 14 часов и доступна БЕСПЛАТНО. Недавно я разбил её на разделы, чтобы было проще проходить. Каждый — не дольше примерно 30 минут.

Весь курс — это внушительные 50 часов. Осилить его будет непросто, но, думаю, оно того стоит, если вы всерьёз хотите разобраться в 3D-математике.

👉 @PythonPortal

5 архитектур RAG

Большинство RAG-систем ломаются в одном и том же месте. Проблема не в модели, а в том, как находится контекст.

Базовый RAG строит эмбеддинги документов, находит ближайшие фрагменты и надеется, что в них есть ответ. Для простых вопросов это работает. Системам в продакшене нужно больше, и этот пробел заполняют пять архитектур.

Гибридный RAG выполняет два поиска одновременно. Плотные векторы улавливают смысл, а индекс ключевых слов BM25 находит точные термины, которые эмбеддинги часто упускают: коды товаров, имена, аббревиатуры. Метод Reciprocal Rank Fusion объединяет два ранжированных списка в один.

GraphRAG перестаёт рассматривать знания как изолированные фрагменты. Он извлекает сущности и связи между ними в граф знаний, затем находит релевантный подграф и сводки связанных кластеров. Он рассчитан на вопросы, ответы на которые охватывают несколько связанных фактов.

Агентный RAG превращает поиск в план действий. Агент-планировщик решает, какие инструменты использовать: векторный поиск, поиск в интернете или SQL-базу. Агент, отвечающий за рассуждения, объединяет результаты. Если подтверждений недостаточно, система возвращается к поиску.

Корректирующий RAG проверяет результаты собственного поиска. Агент-оценщик оценивает найденное до передачи модели. Релевантные результаты проходят дальше, нерелевантные запускают поиск в интернете, а при неоднозначной оценке запрос отправляется на переформулирование.

Мультимодальный RAG воспринимает документ не только как текст. Текст, изображения, графики и таблицы преобразуются в эмбеддинги и помещаются в общий индекс с помощью моделей вроде CLIP или ColPali. Так один запрос может найти абзац, схему или отсканированную таблицу.

Каждая архитектура устраняет свой тип сбоя:

Пропущенные ключевые слова → гибридный RAG
Недостающие связи → GraphRAG
Вопросы, требующие нескольких источников → агентный RAG
Ненадёжный поиск → корректирующий RAG
Знания в визуальных материалах → мультимодальный RAG

👉 @PythonPortal

Основатели ElevenLabs сейчас, должно быть, дрожат от страха…

Эти ребята только что выпустили голосовую ИИ-модель, которой можно управлять как настоящим актёром.

Больше не нужно вставлять странные специальные коды в текст. Просто пишете «произнеси это так, будто ты окончательно разочаровался в жизни», и модель делает именно это.

Почему это настолько круто:

- Одно слово прозвучало неправильно? Можно изменить только его, оставив всю остальную озвучку без изменений.
- Модель умеет переключаться между голосами прямо посреди предложения.
- Может озвучить целую сцену с несколькими персонажами по одному сценарию.
- Клонирует ваш голос и сохраняет его характер и манеру речи на других языках.

Модель поддерживает 83 языка, а её веса доступны для скачивания по лицензии Fish Audio Community License.

А чтобы продемонстрировать возможности модели, разработчики клонировали голос Uncle Roger и заставили его на протяжении всего ролика разносить собственный жареный рис.

Ахах, это просто прекрасно.

👉 @PythonPortal

Теперь можно просто загрузить изображение и посмотреть, как нейросеть определяет, что на нём изображено.

CNN Explainer позволяет проследить весь процесс обработки:

Пиксели → свёртка → ReLU → пулинг → карты признаков → softmax → предсказание.

Можно переходить между слоями нейросети и изучать фильтры, активации и вычисления, на основе которых формируется результат.

Отличный способ наглядно разобраться в работе свёрточных нейросетей (CNN).

https://poloclub.github.io/cnn-explainer/

👉 @PythonPortal

Найти все субдомены сайта можно с помощью одного URL.

Этот трюк с CRT позволяет получить список субдоменов, связанных с основным доменом, используя публичные данные сертификатов.

Просто откройте:
https://crt.name/v1/search?apex=[domain-name-here]

Замените [domain-name-here] на домен, который хотите проверить, и сервис покажет соответствующие субдомены.

👉 @PythonPortal

У Nvidia есть открытая модель мира на 2,6 млрд параметров.

Она позволяет превратить изображение, текстовый промпт и траекторию движения камеры в управляемый виртуальный мир.

И всё это на одном GPU.

- Код доступен на GitHub.
- Научная статья опубликована на arXiv.
- Подходит для исследований воплощённого ИИ, робототехники и симуляций.

Модель работает на GPU вроде RTX 5090 или H100, позволяя экспериментировать с моделями мира без необходимости использовать несколько видеокарт.

https://github.com/NVlabs/Sana

👉 @PythonPortal

Python стал ещё ленивее. 😌

👉 @PythonPortal

API для извлечения данных с любых сайтов, даже защищённых CAPTCHA или блокирующих ботов.

- /scrape — извлекает и разбирает содержимое страницы.
- /crawl — обходит сайт, переходя по ссылкам.
- /search — выполняет поиск в реальном времени.
- /map — собирает список URL-адресов.

10 000 запросов в месяц бесплатно и без привязки банковской карты.

→ https://midu.link/decodo

👉 @PythonPortal

Вот это действительно хорошая модель для генерации изображений. MOSS Image с 5 млрд параметров, распространяемая по лицензии Apache 2.0.

Уже сейчас модель практически не ограничена цензурой!

https://huggingface.co/OpenMOSS-Team/MOSS-Image-Base
https://huggingface.co/OpenMOSS-Team/MOSS-Image-SFT

👉 @PythonPortal

Не теряющий актуальности материал — «Введение в распределённые системы» (An Introduction to Distributed Systems) Кайла Кингсбери.

https://github.com/aphyr/distsys-class

👉 @PythonPortal

Новая библиотека для создания SVG-диаграмм. Она называется Pele и представляет собой альтернативу Mermaid.

✓ Настройка с помощью CSS-переменных
✓ Размер всего около 230 КБ (Mermaid занимает более 1 МБ)
✓ Мгновенный рендеринг

Разработана командой Obsidian:

→ github.com/obsidianmd/pele

👉 @PythonPortal

Я думал, что понимаю, как работает загрузка GPU, пока не начал писать это руководство.

Я постоянно смешивал три разных понятия:

- Объём работы, который мы запускаем.
- Объём работы, который фактически размещён на GPU.
- Объём работы, готовый к выполнению прямо сейчас.

Но это совершенно разные вещи.

Возьмём CUDA-ядро с 240 блоками по 256 потоков в каждом. Всего получается 61 440 логических потоков, или 1920 варпов. Однако количество запущенных потоков ничего не говорит о том, сколько варпов может одновременно находиться на GPU.

Блоки размещаются на потоковых мультипроцессорах (SM) с учётом доступных регистров, разделяемой памяти и ограничений на количество потоков, варпов и блоков.

Даже после размещения на SM варп может ожидать завершения операции с памятью, разрешения зависимости между арифметическими операциями или синхронизации. Планировщик может выбирать только те варпы, которые действительно готовы к выдаче инструкций на выполнение.

Это изменило и мой подход к анализу показателей производительности.

Occupancy — показатель, отражающий отношение количества активных варпов на SM к максимально поддерживаемому количеству варпов на этом SM.

GPU utilization измеряет другое. В NVML этот показатель отражает долю интервала измерения, в течение которой выполнялось хотя бы одно CUDA-ядро.

Таким образом, GPU может показывать загрузку 100%, даже если Tensor Cores не используются на полную мощность, пропускная способность HBM не исчерпана, а производительность ограничивается одним из компонентов системы. При этом значительная часть ресурсов GPU может оставаться недозагруженной.

С памятью возникают похожие заблуждения. Регистры, разделяемая память, L1, L2 и HBM — это не просто уровни памяти, последовательно отличающиеся скоростью. У каждого из них свои области доступности, ёмкость, особенности управления и способы доступа.

Если модель помещается в HBM, это означает лишь то, что для неё достаточно видеопамяти. Но практически ничего не говорит о том, сколько байтов приходится передавать, насколько эффективно объединяются обращения к памяти, как часто данные используются повторно и действительно ли память ограничивает производительность CUDA-ядра.

Хороший пример — FlashAttention. Алгоритм вычисляет точный механизм внимания (attention), но использует разбиение на блоки (tiling) и повторные вычисления, чтобы сократить объём передачи данных между HBM и внутренней памятью GPU.

Tensor Cores оказались ещё одной технологией, которую я раньше воспринимал слишком упрощённо.

Это специализированные вычислительные блоки для матричных операций умножения с накоплением, играющие огромную роль в задачах ИИ. Однако они не «выполняют модель» целиком.

Операции редукции, индексации, поэлементные вычисления, синхронизация и перемещение данных по-прежнему задействуют другие компоненты GPU. Кроме того, запуск CUDA-ядер тоже создаёт дополнительные накладные расходы.

Со временем я перестал спрашивать себя: «Почему GPU не загружен на 100%?» Вместо этого я начал задавать более правильный вопрос: «Что именно сейчас ограничивает скорость выполнения полезной работы?»

В итоге всё это превратилось в руководство на 42 страницы.

В нём рассматриваются потоковые мультипроцессоры (SM), варпы и планировщики, иерархия памяти и скрытие задержек, Tensor Cores, распределение вычислений GEMM по аппаратным ресурсам GPU, точность вычислений и показатели производительности, которые очень легко интерпретировать неправильно.

https://drive.google.com/file/d/17tyvxr__8vZ6o995GNq6I5PC5JOiv0ql/view

👉 @PythonPortal

Microsoft приобрела Maluuba за год до выхода GPT-1.

Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba могла бы стать следующей OpenAI.

Теперь та же команда специалистов по глубокому обучению вернулась с новым проектом Skyfall AI, и её первая модель — вовсе не очередная LLM.

SKY-001 — первая инженерная world model. Достаточно передать ей текстовый промпт или примерный эскиз, и она спроектирует объект целиком, разберёт его на отдельные детали вплоть до винтиков, а затем воссоздаст в виде полноценного CAD-файла, который можно открыть в таких программах, как Autodesk Fusion.

Согласно тестам компании, в задачах CAD и BIM модель работает в 100 раз быстрее и обходится в 150 раз дешевле, чем GPT-6 Astra.

Обратите внимание на момент в видео, когда детали одна за другой соединяются в готовую конструкцию.

👉 @PythonPortal

Парень провёл реверс-инжиниринг своего телевизора с помощью Claude.

- Воссоздал минималистичный главный экран в стиле Apple TV.
- Удалил всю предустановленную рекламу и ненужное ПО.
- Сократил потребление оперативной памяти на 70% и заметно ускорил работу телевизора.

Для желающих попробовать доступна опенсорсная версия.

👉 @PythonPortal

«Calculus» Майкла Спивака считается одним из самых влиятельных учебников, знакомящих студентов с математическим анализом.

Книга охватывает основы математического анализа, функции, пределы, непрерывность, дифференцирование, интегрирование, тригонометрические и показательные функции, бесконечные последовательности и ряды, а также многие другие темы.

Особую ценность учебнику придаёт строгий, но при этом содержательный подход к изложению материала, а также обширный набор задач, призванных углубить понимание и показать взаимосвязи между математическими понятиями.

Хотя книга не находится в свободном доступе, в Google Books можно ознакомиться с её предварительной версией. Особенно полезно это будет тем, кто ещё не знаком с этим выдающимся учебником.

https://books.google.it/books?id=7JKVu_9InRUC&printsec=frontcover&hl=it#v=onepage&q&f=false

👉 @PythonPortal

Теперь я могу играть в полную версию GTA Vice City прямо в браузере с частотой 60 FPS.

- Ничего не нужно скачивать.
- Не нужно ждать.
- Только GTA Vice City, оптимизированная до предела.
- Игра полностью портирована для запуска в браузере.

Всё это стало возможным благодаря миллиардам токенов, потраченных на работу с ИИ.

Теперь игра загружается быстрее официальной версии и стабильно работает при 60 FPS.

Попробовать: gta.rabisco.net 🤯

👉 @PythonPortal