Тут в X многие в шоке от домашек нового курса Stanford-а, CS149 Parallel Computing. Я как ведущий похожего курса, но в KIT, тоже немного в ахуе:

1️⃣ ISPC Programming on multi-core CPUs (SSE, AVX)
2️⃣ Scheduling a task graph. Как я понимаю речь идёт о lock-free С++-based алгоритмах
3️⃣ A render in CUDA on Nvidia GPU
4️⃣ Flash-attention transformer for a "small LM". Радикальнее сложнее воспроизведения того же tiny-cuda-nn и требует знаний L1, Bank Conflicts, Tensor Cores.
5️⃣ TBD, FPGAs, Multi-core graph processing. Опционально

Понятно, что скорее всего студентам даны шаблоны, но как отметил Ethan Smith, ко-фаундер Leonardo.Ai ~40m. $ raised:

if you are implementing flash attention for a grade and you'd rather be doing it for money, come join our team :)
dms open

(они нанимают на удаленку)

и я 100% с ним согласен

поэтому считаю это прекрасным напоминанием, что знания GPGPU в 2024 имеют неадекватно высокую цену и рекомендую всем этим воспользоваться 😉

UPD: задания с лекциями

#карьера

Meta ставят на "Hyperscape" (radiance fields) с анонсом нового бюджетного VR Quest 3s

Про сами очки я думаю вы можете прочитать от любого другого техно-блогера, но TLTR: 300$ за "полноценный" VR-функционал -> больший маркет

Что же я нашел интересного для нашей сферы, так это анонс нового проекта Hyperscale (демка), позволяющего отсканировать с помощью телефона какое-то помещение, загрузить его в Мета-Вселенную и где далее любой желающий может в нём походить с помощью VR

По сути выглядит на 99% как то, что делали ранее в Luma Labs, но возможно новый user experience через VR продемонстрирует успешность технологии

Работает всё через Gaussian Splatting, но так или иначе изначально оптимизируется через inverse volumetric rendering!

#индустрия

В Unreal Engine 5 анонсировали MegaLights c поддержкой тысяч динамических источников света с полноценным затенением!

Поддержка "всех" источников света:
- Spot Light
- Area Lights (c текстурами)
- Point Lights и другие аналитические модели
и вольюметрик эффектов!

По демо пока не очень понятно как они смогли этого добиться на обычном PS5 в 60 фпс. Brian Karis также не раскрыл никаких интересных деталей.

Я лишь смог заметить стандартные темпоральные лаги, присущие вычислению освещения методом Monte Carlo и последующим его денойзингом... Также демка была взята с довольно "скучной" сценой, без микро-геометрии, на которых соответственно и интереснее всего проверять точность теней. хотя скорее всего компрессия ютуба всё подпортила

Понятно, что с высокой вероятностью это какая-то версия ReSTIR-а, но буду рад ошибиться! Ждём докладов :)

Update: подписчик, следящий за репой, добавляет что ранние версии стоили ~4-7ms с 256 лайтами на PS5/2080TI в 1080p -> приходилось использовать в 1/4 экрана. мб ускорили

#графон

Еврографикс 2025 продлил дедлайн из-за Рош ха-Шана (праздник Новолетия, еврейский Новый год)

не ну вообще-то в Германии тоже в четверг официальный праздник какбы с объединением страны....

Но ладно, с учетом вчерашних событий ученым из Израиля и правда надо дать еще время... 🙏

Довольно интересная история происходит в индустрии генерации видео, напоминающая мир тулзов для 3Д

KREA AI добавила поддержку под своим капотом основных топовых моделей для генерации картинок и видео (Runway, Luma Labs, Kling, Pika и т.д.), тем самым избавляет последних от нужны кодить соответствующие тулзы

Очень напоминает историю 3д редакторов с поддержкой множества разных рендер-движков. Вопрос лишь один: Adobe же может сделать абсолютно также c Photoshop и Premiere Pro и зачем нужны будут какие-то иные тулзы типа KREA?

Так или иначе всё чётче и чётче вырисовывается рыночная цепочка нового ИИ-рынка, что я считаю положительной новостью

#индустрия #ии

P.s. я последние недели в активном ресерче из-за возможного breakthrough... так что соррян за временно меньший поток интересной дичи

Бесит шум в рендере? просто минимизируйте его! - именно c такой идеей выпустили статью исследователи из Weta FX (Аватар, Планета Обезьян), выведя unbiased variance gradient estimator of Monte Carlo Light Transport estimator... ну вы поняли в общем (надеюсь)

По делу: unidirectional path-tracer (т.е. "обычный"), Dr. Jit для генерации auto-diff кода на GPU, RTX 4090

Авторы провели эксперименты, где попытались оптимизировать дисперсию (читай шум) сцен, корректируя градиентным спуском параметры как сцены, так и алгоритма трассировки лучей (к примеру Russian Roulette probability). Заняло 0.25-10 минут в их случаи, но делается это всё заранее 1 раз

Далее все рендерится тем же алгоритмом, который использовался и до оптимизации но уже с меньшим шумом, но порой с небольшим bias-ом. Такой variance-bias tradeoff. Cоответственно звучит как очень интересная идея для gamedev индустрии: нам часто важнее получить стабильный предсказуемый уровень шума, нежели чем unbiasedness и 100% качество освещения

#графон #статья