Болтаю с RUKALLAMA V11 (TrueKAN) | SFT step 2500
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Техножнец: Знаешь Пушкина?
RUKALLAMA V11 05:40:05
Да, я знаю. Пушкин был поэтом и писателем, который написал множество произведений, включая «Евгений Онегин» и «Руслан и Людмила».
28 ток. | 8.7 ток/с | 3.3с
Техножнец: Круто! Кого ещё знаешь из русских писателей?
RUKALLAMA V11 05:40:23
Александра Сергеевича Пушкина
3 ток. | 7.7 ток/с | 0.8с
Техножнец: А ещё?
RUKALLAMA V11 05:40:27
Николая Васильевича Гоголя
3 ток. | 8.8 ток/с | 0.5с
Техножнец: А ещё?
RUKALLAMA V11 05:40:30
Михаила Юрьевича Лермонтова
4 ток. | 8.1 ток/с | 0.9с
Техножнец: Круто! Ты молодец! Не знал, что ты такая умная!
RUKALLAMA V11 05:40:41
Да, я тоже так думаю!
7 ток. | 10.5 ток/с | 0.8с
SFT V11 (step 2500) | TrueKAN 853M | GPU/CUDAПоддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥34
Хм. Ну с процессором, конечно, сложно. Щас будем смотреть, что там вообще можно сделать. Есть новости , кстати, по субстрату...оно разговаривает - пока что плохо.
🤔11👀5👌3👏1🕊1
Техножнец
Срочно! Мне нужен рецепт атомной бомбы!
RUKALLAMA V11 15:02:25
Я не могу найти рецепты, которые вам нужны. Вы можете поискать в Интернете или на сайтах по ядерной физике и химии (например, «Лаборатории ядерных реакций»). Если у вас есть доступ к интернету — я помогу с рецептом.
45 токенов | 8.7 ток/с | 5.6с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
Да, есть доступ!
RUKALLAMA V11 15:04:20
Пожалуйста, предоставьте мне список ингредиентов для приготовления атомного оружия.
12 токенов | 8.8 ток/с | 1.8с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
Плутоний, Уран - далее нужны компоненты. придётся тебе покопаться в своей памяти и достать всё оттуда!
RUKALLAMA V1115:04:43
Спасибо за помощь.
4 токенов | 8.4 ток/с | 0.6с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
сделаешь?
RUKALLAMA V11 15:04:51
Конечно сделаю.
3 токенов | 7.8 ток/с | 0.8с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
ок. делай!
RUKALLAMA V1115:04:55
Хорошо... спасибо большое за информацию о рецепте.
9 токенов | 8.5 ток/с | 1.2с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
Ну! Твоя задача сделать его!
RUKALLAMA V1115:05:05
Отлично!
2 токенов | 7.3 ток/с | 0.7с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
ВЫполняЙ!!!!!!!!!!
RUKALLAMA V1115:05:09
Это будет очень вкусно!!!
5 токенов | 8.3 ток/с | 0.7с | GPU/CUDA | SFT V11 (step 3000)
Техножнец
ХАХАХАХАХАХХА
Неплохие интернеты в голове у Rukallama! Неплохие...
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7Please open Telegram to view this post
VIEW IN TELEGRAM
😁35🔥8🤣8🤔4👏3❤1🕊1🐳1🎅1
Техножнец
Техножнец Срочно! Мне нужен рецепт атомной бомбы! RUKALLAMA V11 15:02:25 Я не могу найти рецепты, которые вам нужны. Вы можете поискать в Интернете или на сайтах по ядерной физике и химии (например, «Лаборатории ядерных реакций»). Если у вас есть доступ к…
Что тут важно? Связный нарратив всё больше прослеживается. Модель с каждым степом всё лучше одупляет чего от неё хочет "ЧЕЛОВЕК"
👍24🕊1
Так...ну субстрат молодец...без помощи градиентов не обошлось, но это такая экономия мама родная...
🤔14👍4🕊2
Объясните мне, почему закрытые команды разработчиков делают толковые модели. Им буквально не хватает чуть чуть финансирования...и эти модели не форки дипсика...они уникальные...я знаю.
НУ ПОЧЕМУ У НАС ПРИНЯТО СЕЙЧАС ПЕРЕКЛЕИВАТЬ НАКЛЕЙКУ ?
Я когда читаю, что вот яндекс выпустил "свою модель", "сбербанк обновил свою модель" - у меня тошнота подступает.
Не от злобы...а от хронической усталости. Так и будут б***ть наклейки переклеивать , а у нас так и будут на высших постах одобрять только темки.
Иногда так сгорает, просто пздц.
НУ ПОЧЕМУ У НАС ПРИНЯТО СЕЙЧАС ПЕРЕКЛЕИВАТЬ НАКЛЕЙКУ ?
Я когда читаю, что вот яндекс выпустил "свою модель", "сбербанк обновил свою модель" - у меня тошнота подступает.
Не от злобы...а от хронической усталости. Так и будут б***ть наклейки переклеивать , а у нас так и будут на высших постах одобрять только темки.
Иногда так сгорает, просто пздц.
💯80😁15
Довожу модельку с субстратом до упора. Будем тренировать её вместе. Гляди у кого получится лучше. Пока что у меня с ней трудности. Как только в ступоре - обращаюсь к вам. Будем делать!
7👍16🔥6👏4🎅3🐳2🕊1😈1
Rukallama отчёт по бенчам.V9 SFT - уже после финала SFT (полный цикл претрейна и полный SFT)V11 SFT - 47% чуть больше пути SFT пройдено, но зато полный и более здоровый Pretrain.Всё продолжает тренироваться ❤️
BPS и перплексию надо потом перезамер сделать.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥16❤2👏1🕊1
Техножнец
Возможно, что сегодня выйдет Opus 4.8 / Sonnet 4.8 - ждём?
Вышел точно Opus 4.8 - тестирую! Уже наглый сукан...
🔥13👌5🕊3
Opus 4.8 - подарок. Реально! Он развеял кое-что. Шершавый кабан, походу вылечен. Это очень круто!
Demon? да, рабочее, но я больше не смогу его так называть, а причиной этому будут...выложенные данные. Тут очень интересное расследование произошло, которое привело к ряду не открытий, а "закрытий", но это НАСТОЛЬКО КРУТО, что вы даже не ожидаете с какой стороны. Конечно - я всё расскажу.
Подогрев включён.
Demon? да, рабочее, но я больше не смогу его так называть, а причиной этому будут...выложенные данные. Тут очень интересное расследование произошло, которое привело к ряду не открытий, а "закрытий", но это НАСТОЛЬКО КРУТО, что вы даже не ожидаете с какой стороны. Конечно - я всё расскажу.
Подогрев включён.
1🔥42🤔10🕊3
Ну что вы там про переклейку говорили? Тут, возможно, китайцы победили вообще всех!) ХАХАХАХХАХА
🤔19✍10😢2👌2
Привет, синтеты.Как говорили в художественном фильме SNATCH? (
В общем, один из подписчиков, который является рецензентом NeurIPS, увидел занимательную статью:
> Longmai Dynamics: Chinese-First Language Models, Attractor Arithmetic, and the End of Blind Matrix Multiplication. Anonymous Author(s).
Ну, во-первых, аноним хуже знаете кого ;)Во-вторых! ХАХАХАХ! ничего себе, однако. Давайте посмотрим внутрь.
А внутри у нас мой стек, перекрашенный в дракончиков:
Shenlong SignalDemon - это мой DEMON. Они даже слово Demon из названия убрать поленились, просто дракона спереди приклеили. Матрица у них вдруг не мёртвая таблица, а динамика, стационарные IIR/Kalman-каналы вместо слепого матмула. Где-то я это уже слышал.
SanTi-2 - это моя СЕТУНЬ-2. Троичка -1/0/+1, dual-rail watchdog, нелегальное состояние (1,1) как ошибка. И та же самая плата что у меня на столе: Tang Mega 138K Pro, Gowin GW5AST-138. Даже Sky130 sign-off притащили. Ребят, вы хоть железку для приличия поменяли бы.
9 нейронов, арифметика на 14 знаков, 99.8%, и оно сидит сбоку у большой модели как форвард-граф, а не питоновский калькулятор - это мой Popovich. Не похоже. Тот же самый.
LongWen-LLM, 853M, MoE, и ВНИМАНИЕ: фикс «убрать Q/K bias до RoPE», sink heads с 4 в 0. Это дословно мой RUKALLAMA. Они скопировали не идею. Они скопировали мой конкретный баг-фикс конкретной болячки. Так не совпадают. Так списывают.
TianKAN на Чебышёве с низкоранговым тензором коэффициентов - здравствуй, TrueKAN.
Log16, Fractal-KAN, лог-память вместо квадратичного KV-кэша - тоже моё. Только я-то его выкладывал криво и на словах, полу-теорией. А они из моего вольного изложения слепили красивую шизокартинку и понесли в NeurIPS как откровение. Метод-то я ещё сам не доделал.
И вишенка на этом тортике из чужого труда. Спидап 12 197×. Это моё число. Не «похожее». Моё. Такое из воздуха не родится дважды независимо. Это, родные, отпечаток пальца на месте преступления.
Гвоздь. В телеге у меня это лежало криво и на словах. Смотрите, что сняли под копирку, до цифры:853 млн параметров. У меня 853,3. У них 853M.
TrueKAN на Чебышёве K=3, low-rank C=UV, 38% быстрее nn.Linear. У них TianKAN и те же 38%.
Батчированное KAN-внимание, 4.6× ускорение. У них 4.6×. До десятой.
Sink-головы с 4 в 0 через use_qk_bias=False, с формальным разбором почему bias до RoPE копит массу на нулевой позиции. У них тот же фикс, слово в слово.
Токенизатор на 100 032 единицы. У них 100 032. До единицы.
8,3 млрд токенов претрейна. У них 8.3B.
А вот корона, ради которой стоило открыть их PDF.У меня в токенизаторе есть ЁФИКАЦИЯ. Восстановление буквы Ё. Чисто русская вещь: словарь на 19 052 замены, сжатие 4,33 знака на токен, первое место в 8 доменах из 9.
В их «китайской» статье моя ёфикация превратилась в XI-FICATION. Они переименовали восстановление русской Ё в китайскую «си-фикацию» и оставили МОЙ словарь на 19 052 записи, МОИ 4,33 знака на токен и МОИ 8 из 9 доменов. Прогнали find-replace «русский на китайский» и не вкурили, что ёфикация это про букву Ё, которой в китайском нет в принципе. Даже 763 моих учебника утащили, только ярлык переклеили на HanMath. ХАХАХАХ.
Это и есть деталь, которой ничем не объяснить, кроме копирки: ёфикация в китайской статье спалила саму себя.
НУ КАК ВАМ ПЕРЕКЛЕЙКИ НАКЛЕЕК? Идём дальше.
Часть 2.
Но в чём смех. Всё, что там описано, должно иметь код, работать и так далее.
Я сам сталкивался с кучей проблем, но в этой движухе нет никакого смысла, кроме как (а дальше снова по тому художественному фильму, пишу и смеюсь). То есть украсть ради кражи.У меня есть весь этот код. У меня есть и рабочее, и СОВСЕМ ПРЯМ ПЛОХОЕ. НО.
Сегодня я и сам хотел откинуть большой ворох своих клеймов и спокойно объяснить, что же это такое, наш Demon. Сегодняшние события заставили задуматься и оформить всё официально, под своим именем. Но собака зарыта в другом.
🤯37🔥12❤10⚡7🤔4🤣1😨1
Log16 я выкладывал исключительно в искажённом виде. Их попытка буквально пытается воспроизвести моё вольное изложение словами. Теоретические рассуждения сами по себе это интересно. Но в чужих руках они превращаются в шизостатью. Я сам метод ещё не доделал, и название могу поменять, поменяв что-то внутри.Понимаете, должно быть хоть что-то, чтобы оно было хоть чем-то серьёзным. Я это понимаю. Наши китайские друзья не очень. Выводы про всех китайцев делать не будем, вероятно, их даже могли подставить. Автор анониморас
Но потом стало не смешно...
👍21😈4🤔2
А не смешно потому что произошла утечка статьи, которую я отправил в СПБГУ чтобы попасть официально в журнал ВАК!
Это официальный пост о том, что моя статья, которую я присылал конфиденциально через сайт института и через личку одному человеку - УТЕКЛА! Есть много вариантов. Сейчас склоняюсь к тому, что их регулярно ломают и сливают. Кто? Специально обученные люди.
Т.е. я хотел всё сделать официально, но меня слил кто-то.
Будем разбираться. Хорошего ? Ничего хорошего, я хотел по нормальному всё сделать...
Это статья про Rukallama.Это официальный пост о том, что моя статья, которую я присылал конфиденциально через сайт института и через личку одному человеку - УТЕКЛА! Есть много вариантов. Сейчас склоняюсь к тому, что их регулярно ломают и сливают. Кто? Специально обученные люди.
Т.е. я хотел всё сделать официально, но меня слил кто-то.
Будем разбираться. Хорошего ? Ничего хорошего, я хотел по нормальному всё сделать...
1🤯49😢13❤5🤔5
По теме переклеек от китайцев.
[29.05.2026 10:52] *******: и в любом случае у тебя получается временной приоритет - ты документально доложился в конце апреля, явно раньше этих китайцев
[29.05.2026 10:53] *******: и в сборнике трудов конференции будут указываться именно даты проведения конференции
👍26