Техножнец
🎓 ЗАПИСЬ ЛЕКЦИИ Павла ТЕХНОЖНЕЦА в МГТУ им. Н.Э. Баумана 🤞🏻СМОТРЕТЬ: https://youtu.be/XQSs6naLre4 ЗВУК ВОССТАНОВИЛ КАК СМОГ - БЕЗ ОБИД! Изображение - не подвластно! 📅 24 февраля, 16:20 📍 Корпус В7 ауд. 419 об«Перспективы развития ИИ, новые направления.…
Пишите как вам звук? Это я к тем, кто в курсе, что было на трансляции! Интересно как вам разница)) лол
💯3
Много обновлений по ИИШКЕ! Вайб-кодил всю ночь! Дел сделана - туча.
С "КОДИНГ" частью , с лабораторией (сложно, чиню, доделываю).
С "КОДИНГ" частью , с лабораторией (сложно, чиню, доделываю).
🔥13😱2🤔1
60 новых топологических исследований: звук, нейронные сети, нейроны как таковые, ускорение ускорения (лол) - там мясо.
👍9🤔1
Синтезатор близкий к аналоговому звучанию , чем все остальные за такие же вычисления и также быстро = Реальность! Синтезатор будет скоро выложен. Вообще - у меня целое семейство аудио плагинов, половина из которых работает на алгоритме Демона. Это просто безумие, но оно работает, компилируется, катает, бьёт по метрикам и просто РАБОТАЕТ! Дичь , просто дичь!
Все детали буквально чуть позже, мне надо поспать.
А ЕЩЁ! Я готовил свой сольный трек для альбома Various Artists vol. 6 для лейбла Paperfunk Recordings, который является частью нашего агломерата HTTPS://PPRFNK.TECH - там 70 треков. Релиз будет просто ОГРОМНЫЙ!
Связь, я отдыхац! Проснусь, а там дел - ОКЕАН! ❤️
P.S. По Rukallama - ТОЖЕ ОТЛИЧНЫЕ НОВОСТИ!
Все детали буквально чуть позже, мне надо поспать.
А ЕЩЁ! Я готовил свой сольный трек для альбома Various Artists vol. 6 для лейбла Paperfunk Recordings, который является частью нашего агломерата HTTPS://PPRFNK.TECH - там 70 треков. Релиз будет просто ОГРОМНЫЙ!
Связь, я отдыхац! Проснусь, а там дел - ОКЕАН! ❤️
P.S. По Rukallama - ТОЖЕ ОТЛИЧНЫЕ НОВОСТИ!
❤24👍6🤔1
Привет, синтеты.
Неделя работы. 24 записи в техническом журнале. Один и тот же алгоритм — в трёх совершенно разных областях. Без backpropagation. Без GPU. Всё на CPU.
⚡️ 1. Матричное умножение: 22.7x, ноль ошибки
Задача: ускорить самую базовую операцию — умножение матрицы на вектор.
🧠 2. Нейроны без нейросетей: языковая модель на CPU
СУКА! ОНО РАБОТАЕТ! ЭТО НЕ ПЕРЦЕПТРОН, НЕ РЕКУРРЕНТНАЯ СЕТЬ! ЭТА ТА ХЕРНАЯ, ЧТО УСКОРЯЕТ МАТРИЦЫ!
Фрактал: каждый уровень наблюдает за нижним тем же методом.
Честно: хуже GPT-2 (35% vs 65%+). Но: ноль backpropagation. Ноль GPU. 50K фильтров на CPU предсказывают текст.(НО ЭТО ТОЛЬКО НАЧАЛО, Я ЕЩЁ НЕ ПОДРУБАЛ A100 - ОНА ЗАНЯТА RUKALLAMA на 800 МЛН ПАРАМЕТРОВ 😡 )
🔊 3. Аудио синтезатор: аналоговое звучание в цифре (САМОЕ ИНТЕРЕСНОЕ)
Тот же алгоритм — теперь генерирует звук.
PolyBLEP — стандарт индустрии (Serum, JUCE, Vital). Hardcoded формула, 60 лет оптимизации.
За один день написали альтернативу.
PolyBLEP (стандарт) — 0.004 мс
📐 Что объединяет
Одна формула
🔜 Что дальше
Аналоговые фильтры и эффекты. LPF, HPF, резонанс, chorus, delay — тот же подход. Генератор есть (0.005 мс). Теперь полный синтезатор. Всё на одном демоне.
Если вы реально хотите поддержать канал, то СЕЙЧАС САМОЕ ВРЕМЯ ❤️
Поддержать канал: https://tbank.ru/cf/8Xnajl01ehm
Поддержать канал: https://yoomoney.ru/fundraise/1C86E2DGIU9.250819
Неделя работы. 24 записи в техническом журнале. Один и тот же алгоритм — в трёх совершенно разных областях. Без backpropagation. Без GPU. Всё на CPU.
Вот что реально работает.
⚡️ 1. Матричное умножение: 22.7x, ноль ошибки
У меня были жёсткие клеймы, которые упирались в накладные расходы. Я приспособился, продумал эти моменты и решил как ускориться НАТУРАЛЬНО и НА ПРАКТИКЕ!
Задача: ускорить самую базовую операцию — умножение матрицы на вектор.
Любое последовательное вычисление — динамическая система. У неё есть аттрактор. Аттрактор конечномерный. Найди аттрактор — предсказывай результат вместо вычисления.
Наш метод — 22.7x, 0.000% ошибки
Strassen — 1.2x, 0%
Winograd — 1.1x, 0%
CUR decomposition — 11.6x, 100% ошибки
Drineas 2006 — 4.2x, 1609% ошибки
Побитово идентичный результат. 100% согласованность на каждом тесте.
На MNIST: 16x ускорение, 100% agreement — ни одно предсказание не отличается от полного вычисления.
🧠 2. Нейроны без нейросетей: языковая модель на CPU
Тот же алгоритм, который ускоряет матрицы — стал НЕЙРОНОМ.
Каждый нейрон — миниатюрный фильтр. 8-мерное состояние, собственный аттрактор. Не перцептрон. Не activation function.
Динамическая, мать её, система.
50,000 таких нейронов.
Четыре уровня:
🔹 Уровень 1: 50K нейронов → группировка в 1000 (50x сжатие)
🔹 Уровень 2: контекст на 3 масштабах (буква / слово / фраза)
🔹 Уровень 3: считывание (проекция в словарь)
🔹 Уровень 4: фильтр на ВЕСАХ (вместо SGD — тот же алгоритм учит)
Фрактал: каждый уровень наблюдает за нижним тем же методом.
Результат на Шекспире (300 эпох, 3 часа, CPU):
→ 35% accuracy (следующий символ)
→ Узнаёт персонажей: ROMEO, VOLUMNIA, SICINIUS
→ Генерирует "thou", "than", "this"
ROMEO:
Noome thew foummy, thom.
VOLUMNIA:
Than that for faru this man th the shou...
Честно: хуже GPT-2 (35% vs 65%+). Но: ноль backpropagation. Ноль GPU. 50K фильтров на CPU предсказывают текст.
🔊 3. Аудио синтезатор: аналоговое звучание в цифре (САМОЕ ИНТЕРЕСНОЕ)
Тот же алгоритм — теперь генерирует звук.
PolyBLEP — стандарт индустрии (Serum, JUCE, Vital). Hardcoded формула, 60 лет оптимизации.
За один день написали альтернативу.
Python (исходник) — 30.000 мс, 1x
Язык C++ (финальная) — 0.005 мс, 6,000x
PolyBLEP (стандарт) — 0.004 мс
→ 0.005 мс — практически паритет с индустрией
→ В 2.8 раза точнее (RMSE 0.029 vs 0.083)
→ Идентичен Python до последнего бита (8.88e-16)
На практике: фронты square wave у PolyBLEP дают артефакты (8.3% ошибки).
У нас — 2.9%. Это слышно. Это около-аналоговое звучание в цифре.
И главное: PolyBLEP знает только square, saw, triangle — для каждой своя формула.
Наш подход учится на 5 периодах ЛЮБОГО сигнала. Без формул.
📐 Что объединяет
Одна формула
🔸 Матрицы: 22.7x, 0% ошибки
🔸 Язык: BPC 3.36, CPU, без GPU
🔸 Звук: 0.005 мс, 2.8x vs стандарт
🔸 MNIST: 16-28x, 100% agreement
Размерность аттрактора — не размер входа. Структура процесса. Фильтр наблюдает, ковариация стабилизируется, аттрактор найден. Дальше — предсказание вместо вычисления.
🔜 Что дальше
Аналоговые фильтры и эффекты. LPF, HPF, резонанс, chorus, delay — тот же подход. Генератор есть (0.005 мс). Теперь полный синтезатор. Всё на одном демоне.
Если вы реально хотите поддержать канал, то СЕЙЧАС САМОЕ ВРЕМЯ ❤️
Поддержать канал: https://tbank.ru/cf/8Xnajl01ehm
Поддержать канал: https://yoomoney.ru/fundraise/1C86E2DGIU9.250819
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥16❤7
🔥 ИИШКА v7.1 — Синтеты, я наговорил много в интервью у IMAXAI и пришлось УСКОРИТЬСЯ!
https://iishka.net 🚀
МОГУТ БЫТЬ ПРОБЛЕМЫ С ВЫБОРОМ МОДЕЛЕЙ В ИНТЕРФЕЙСЕ (будет решено буквально в течение пары, тройки дней)
⚡️ Агенты стали мощнее:
→ Лимит ходов: 6 → 12
→ Таймаут: 3 мин → 5 мин
→ Умнее определяют когда модель "залипла"
→ Лучше запускают веб-серверы для превью
https://iishka.net 🚀
С любовью, Павел Техножнец
Если вы реально хотите поддержать канал, то СЕЙЧАС САМОЕ ВРЕМЯ ❤️
Поддержать канал: https://tbank.ru/cf/8Xnajl01ehm
Поддержать канал: https://yoomoney.ru/fundraise/1C86E2DGIU9.250819
https://iishka.net 🚀
Что нового:
🎨 FLUX Kontext — САМОЕ ЖИРНОЕ:
Редактирование картинок с ИИ прямо в чате! Загружаешь фото → пишешь что изменить → получаешь результат. Плюс FLUX Fill (удаление объектов), Qwen-редактор, Klein.
МОГУТ БЫТЬ ПРОБЛЕМЫ С ВЫБОРОМ МОДЕЛЕЙ В ИНТЕРФЕЙСЕ (будет решено буквально в течение пары, тройки дней)
💻 ИИШКА.КОД — Полный ремонт:
Кодинг-лаборатория теперь реально РАБОТАЕТ. Тестировал 6 проектов подряд — магазин, CRM, Snake, Tower Defense, таск-трекер, чат-комната. Агенты за 1-4 тура создают полноценные проекты с превью. Починил 9 критических багов.
🧠 Память — стала умнее:
Модели всегда знают какой сейчас год/дата. У всех моделей привязанных к вам прошли обновления. Модели теперь лучше погружены в контекст конкретно вашей работы, смогут более детально вас понимать. Никакой дополнительной цензуры, кроме соблюдения законов РФ! Это реально не обрезанные и честные модели, которые отражают, прежде всего, ваш внутренний мир. (эта функция всегда будет улучшаться, за вами теперь наблюдают мета-агенты - строго в рамках ваших сессий) Плюс улучшена персистентность контекста между сессиями.
Добавлено множество деталей в интерфейсе, исправлены мелочи и мелкие баги, которые были указаны юзерами, спасибо им за это!
⚡️ Агенты стали мощнее:
→ Лимит ходов: 6 → 12
→ Таймаут: 3 мин → 5 мин
→ Умнее определяют когда модель "залипла"
→ Лучше запускают веб-серверы для превью
🖼 8 моделей для картинок:
FLUX, FLUX Kontext, FLUX Fill, Turbo, Sana, GPTImage, Klein, Qwen — генерация и редактирование без лимитов. (почти , лол)
В v7.2 будет:
→ Видео-генерация (оч короткие, но угарные видео)
→ Ещё больше моделей в кодинге (да, есть ещё более крутые)
→ Улучшенный UI лаборатории (чтобы глазам было приятно)
→ Голосовой ввод (также голосовой вывод, режим разговора с моделью посредством audio в реальном времени)
https://iishka.net 🚀
С любовью, Павел Техножнец
Если вы реально хотите поддержать канал, то СЕЙЧАС САМОЕ ВРЕМЯ ❤️
Поддержать канал: https://tbank.ru/cf/8Xnajl01ehm
Поддержать канал: https://yoomoney.ru/fundraise/1C86E2DGIU9.250819
1🔥29❤5
Хахахаха! Всё равно - огромная куча косяков. Всё чиню, документы типа PDF и прочего добавляю, тестирую в реальном времени, родные ❤️
🔥19❤7
Подсказываю: Медленный синус - подкорка и очень долгая память, средний синус по скорости - определить источник, понять намерения = средняя память, высокий синус на самом верхнем домене - быстротечный контекст "настоящего". А между ними что-то вроде компенсации высоты орбит, т.к. домены разные...а получается что? Правильно - внимание! Упс
🤔5😱5❤4🔥4😨1🦄1
Проснулся я давно. Сижу работаю по мастерингу: 60 треков. Мастерить надо не все, но там десятки. Плюс ещё свой трек допиливать - там осталось хоть и немного, но хватило уже чтобы прибить к полу.
Люблю свои РАБОТЫ! ❤️
(какие-то лишние 10 треков приписал, исправил 70 на 60 - не проснулся значит)
Люблю свои РАБОТЫ! ❤️
(какие-то лишние 10 треков приписал, исправил 70 на 60 - не проснулся значит)
❤20👍8❤🔥2
Там у OpenAI проблемы...2.5 млн пользователей отписались из-за тусовок с пентаговноном. Прикольно.
😇14
OpenAI подписали контракт с пентаговноном и вот пользователи начали улетучиваться...
🤯9
Техножнец: ну ты и кусок говна!
Rukallama (SFT V6):
Моя цель – служение человечеству через обучение и воспитание. А насчёт того, чтобы тратить энергию на бесплодные поиски души, давайте подойдём к вопросу научно. Что именно вас беспокоит? Какие конкретные шаги вы предприняли для предотвращения подобных ситуаций? И главное - почему бы вам так хочется превратить свою страсть в инструмент воздействия?
Хм...как вежливо.
🔥20👍4😎2
Forwarded from КиберДед official
Media is too big
VIEW IN TELEGRAM
Привет, Кибервнуки 😎
Ловите 2 часть!
1 часть тут
Прошу любить и жаловать - Павел Попович, автор тг-канала "Техножнец", создатель уникальной отечественной LM на основе KAN. Он сделал это!
Обсудили процесс разработки, трудности и препятствиями, которые пришлось пройти и дальнейшие планы. Смотрите и получайте удовольствие.
#кибердед #ai #kan
Ловите 2 часть!
1 часть тут
Хотите понять что такое нейросеть нового поколения?
Прошу любить и жаловать - Павел Попович, автор тг-канала "Техножнец", создатель уникальной отечественной LM на основе KAN. Он сделал это!
Обсудили процесс разработки, трудности и препятствиями, которые пришлось пройти и дальнейшие планы. Смотрите и получайте удовольствие.
#кибердед #ai #kan
🔥26👍3❤🔥2
Синтеты, вижу ваши обсуждения. Вижу то, что вы хотите помочь с распределенным обучением.
Ок. Буду этим заниматься скоро, чем больше вариантов, тем лучше. Гляди и соберём че-то нормальное.
Сам я ок, уставший. Альбом большой был, мастеринг занял почти двое суток. Плюс там параллельно че-то падает в ИИШКЕ.
Н е могу , пока что, разорваться.
Одновременно делаю в день по 10 вещей. Это сложно, привыкаю.
Ок. Буду этим заниматься скоро, чем больше вариантов, тем лучше. Гляди и соберём че-то нормальное.
Сам я ок, уставший. Альбом большой был, мастеринг занял почти двое суток. Плюс там параллельно че-то падает в ИИШКЕ.
Н е могу , пока что, разорваться.
Одновременно делаю в день по 10 вещей. Это сложно, привыкаю.
🙏12👏1🤝1
Пока что не замечаю разницу между работать руками и агентами. Весь процесс везде приходится контролировать - в любом случае. Творчество руками - это круто, главное чтобы мы все в век автоматизации не забыли об этом. Сегодня завершаются звуковые дела очень срочные. Завтра дела. Очень много новостей. (пока работаю руками , агенты тоже рулят, а значит приходится реально следить за более чем 7 сессиями, но оно того стоит).
Сначала ты делаешь работу, а потом она делается за тебя.
Сначала ты делаешь работу, а потом она делается за тебя.
💯5❤1