на самом деле:

я не буду хайповать по KAN пока не увижу внятного применения, прикольно конечно, но уже были. Но штука крутая идейно, это правда

графовые сетки
спайковые
гиперболические
куча всякой азитащины которую никто кроме авторов не запускал

И все это не используется и заброшено.

а давно в gitlab чат есть?

Тут сделали прикольный тул чтобы папиры верстать, выглядит прикольным гибридом latex+md

typst.app

Кстати температура siglip роляет

tbd: check bus dtype

Не давайте украсть у себя память. Почтите павших и поздравьте живых.

С праздником.

ну кто то школу закончил и решили Rope вставить, жду 1м токенов генерации

репорт2

хм, интересный эффект

те разваливает QK без нормализации даже в bf16, странно что именно qk оверфлоатит, обычно такое бывает у LN/активаций.

если что - речь про этот norm у sd3

5 страница

русские фаундеры на майских

в очередной раз двачеры написали много более понятный гайд по использованию сеток чем любые резечеры.
Ознакомится: https://2ch-ai.gitgud.site/wiki/

В чем разница между твоим научником и белкой?

Белка иногда вспоминает про то, что она набрала себе осенью

Парни из MBZUAI выложили кучу инструкт сетов на разных языках, в том числе на русском !

есть азербайджанский

ссылка