Техножнец
Тестирую "Сетунь II" на FGPA Tang Mega 138K Pro - у меня сразу два варианта есть, там небольшие нюансы.
Выбрал 1 вариант - прокачиваю его. Приближение #3 уже. Неплохо идёт, встраиваю демона Поповича чтобы работало адекватно.
Вот как обстоят дела:
◈ СЕТУНЬ-2 МОЗГ - процессор, который думает в трёх состояниях
В конце 1950-х в МГУ Николай Брусенцов собрал «Сетунь» - единственную в мире серийную троичную ЭВМ. Не два состояния, а три: ⊖ ⊙ ⊕. Проект закрыли, линию свернули.
Почти семьдесят лет спустя я собираю её наследника - под задачу, которой тогда ещё не было: искусственный интеллект.
◈ Что это
Троичный процессор, спроектированный с нуля.
На одном кристалле - три троичных вычислительных ядра и собственный матричный ускоритель. Ядра держат логику, ветвления, управление. Ускоритель перемалывает тяжёлую параллельную математику - ту, на которой стоят все нейросети.
◈ Почему он сразу и CPU, и GPU
В обычной машине процессор и видеокарта - две отдельные железки, и общаются они через медленную шину.
Здесь обе роли живут на одном куске кремния: ▸ троичные ядра - «голова»: думают, решают, управляют; ▸ матричный движок - «мышцы»: считают матрицы пачками.
Посредника между ними нет. Управление и тяжёлый счёт - в одном чипе, без потерь на перекладку данных туда-сюда.
◈ При чём тут троичность
Современный ИИ сам пришёл к трём состояниям: веса нейросетей всё чаще ужимают до минус один, ноль, плюс один. Это буквально язык «Сетуни».
И здесь вылезает красота. Умножить на такой вес - это уже не умножение, а «вычесть / пропустить / прибавить». Дорогой перемножитель не нужен. Меньше транзисторов, меньше энергии на ту же работу.
Троичность тут - не музейная экзотика, а естественная форма для математики ИИ. Ускоритель не приклеен сбоку - он растёт из самой логики чипа.
◈ Где это сейчас
Вычислительный элемент уже прошёл полную физическую верификацию на открытом техпроцессе: геометрия, электрика, тайминг - чисто. Кристалл состоятелен.
Железо на столе: ▸ плата
◈ Куда идём
Прототип - на открытом процессе. Цель - отечественная фабрика. Финал - кремний.
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPALpaperfunkrecordings@gmail.com
Вот как обстоят дела:
◈ СЕТУНЬ-2 МОЗГ - процессор, который думает в трёх состояниях
В конце 1950-х в МГУ Николай Брусенцов собрал «Сетунь» - единственную в мире серийную троичную ЭВМ. Не два состояния, а три: ⊖ ⊙ ⊕. Проект закрыли, линию свернули.
Почти семьдесят лет спустя я собираю её наследника - под задачу, которой тогда ещё не было: искусственный интеллект.
◈ Что это
Троичный процессор, спроектированный с нуля.
На одном кристалле - три троичных вычислительных ядра и собственный матричный ускоритель. Ядра держат логику, ветвления, управление. Ускоритель перемалывает тяжёлую параллельную математику - ту, на которой стоят все нейросети.
◈ Почему он сразу и CPU, и GPU
В обычной машине процессор и видеокарта - две отдельные железки, и общаются они через медленную шину.
Здесь обе роли живут на одном куске кремния: ▸ троичные ядра - «голова»: думают, решают, управляют; ▸ матричный движок - «мышцы»: считают матрицы пачками.
Посредника между ними нет. Управление и тяжёлый счёт - в одном чипе, без потерь на перекладку данных туда-сюда.
◈ При чём тут троичность
Современный ИИ сам пришёл к трём состояниям: веса нейросетей всё чаще ужимают до минус один, ноль, плюс один. Это буквально язык «Сетуни».
И здесь вылезает красота. Умножить на такой вес - это уже не умножение, а «вычесть / пропустить / прибавить». Дорогой перемножитель не нужен. Меньше транзисторов, меньше энергии на ту же работу.
Троичность тут - не музейная экзотика, а естественная форма для математики ИИ. Ускоритель не приклеен сбоку - он растёт из самой логики чипа.
◈ Где это сейчас
Вычислительный элемент уже прошёл полную физическую верификацию на открытом техпроцессе: геометрия, электрика, тайминг - чисто. Кристалл состоятелен.
Сейчас - сборка процессора целиком. Я поднимаю его на FPGA: микросхеме, которая ведёт себя как будущий чип, но переписывается за минуты.
Железо на столе: ▸ плата
Sipeed Tang Mega 138K Pro ▸ ПЛИС Gowin GW5AST-138 ▸ телеметрия по UART - плата каждые 10 мс сама рапортует, что внутри всё живоЦикл «правка - сборка - прошивка - проверка» занимает минуты. На реальном кремнии одна такая итерация стоила бы полгода.
◈ Куда идём
Прототип - на открытом процессе. Цель - отечественная фабрика. Финал - кремний.
Путь сложен. Но кристалл - реален.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥69🤔8👍7❤6🤯4👏3
Когда читаю комментарии по теме компилятора. Дорогие мои - если мне удалось с помощью Claude Code в 1 лицо сделать целый фреймворк для работы на Эльбрусе, то , простите, в чём сложность будет усилиями командой энтузиастов собрать компилятор нужный и сделать кучу всего полезного?
Давайте мы уже очнёмся все вместе, оглядимся и сделаем нужные нам выводы по поводу происходящего и просто начнём уже делать, м?
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать каналTTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать каналbc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7
Давайте мы уже очнёмся все вместе, оглядимся и сделаем нужные нам выводы по поводу происходящего и просто начнём уже делать, м?
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал
USDT (trc20) Поддержать канал
BITCOIN Please open Telegram to view this post
VIEW IN TELEGRAM
4👍66💯21🔥13🕊5❤🔥3🤔3👏2
PromeTorch - А что там?
Ну как..вот ведь:
У тех у кого голова на месте, прочитайте, подумайте , что можно сделать хотя бы с теми, которые якобы списаны или считаются не нужными, но обретают жизнь как востребованные для обучения или инференса. (я про процессоры)
Думаем...размышляем.
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPALpaperfunkrecordings@gmail.com
Ну как..вот ведь:
А: Распределённое обучение сразу на несколько процессоров для всей линейки Эльбрусов (частично дорабатывается)Б: Своя ollama и llama.cpp ...только без ollama и llama.cpp и работает на Эльбрусах...называется PromeServeВ: Распределённый инференс сразу на множестве процессоров Эльбрус (в будущем не важно каких, может быть сборная солянка)У тех у кого голова на месте, прочитайте, подумайте , что можно сделать хотя бы с теми, которые якобы списаны или считаются не нужными, но обретают жизнь как востребованные для обучения или инференса. (я про процессоры)
Думаем...размышляем.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - barometech/PromeTorch: PromeTorch — полный аналог PyTorch, написанный с нуля на C++/CUDA. Deep learning framework from…
PromeTorch — полный аналог PyTorch, написанный с нуля на C++/CUDA. Deep learning framework from scratch. - barometech/PromeTorch
👍19🔥10✍3
Периодически возникают комментарии, что я распыляюсь на множество проектов. Но...это иллюзия. Нет никаких множеств проектов ;)
P.S. Есть одна большая дыра в плане экосистемы домашней, которую надо заполнить мало того, что зоопарком моделей, так ещё и функционалом независимым. Это большое скопище связанных друг с другом одной нитью частей образующих один механизм.
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать каналTTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать каналbc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7
P.S. Есть одна большая дыра в плане экосистемы домашней, которую надо заполнить мало того, что зоопарком моделей, так ещё и функционалом независимым. Это большое скопище связанных друг с другом одной нитью частей образующих один механизм.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал
USDT (trc20) Поддержать канал
BITCOIN Please open Telegram to view this post
VIEW IN TELEGRAM
1👍33🔥11❤3
PromeTorch переходит в лицензию Apache 2.0 чтобы быть доступным через
Потихонечку история становится официальной.
pip install в PyPiПотихонечку история становится официальной.
👍42🔥13❤2🤔2
НЕ НАДО ВЕЗДЕ О СЕБЕ КРИЧАТЬ. ПОЧЕМУ?
Последние пару лет в IT-чатах и личках наблюдаю стабильный поток странных персонажей. Приходит человек, начинает сыпать терминами в произвольных сочетаниях. Всё в одно предложение. Перескок уровней абстракции, нулевые границы доменов, апелляция к "реальному применению" вместо метрик. Узнаваемо как продавец сломанных телефонов на третьесортном базаре:
Полевые маркеры распознавания:
Что с этим делать.
Громкость это не показатель компетентности, это её обратная функция. Кто реально что-то умеет, занят тем, что это делает. Метрики, коммиты, воспроизводимые цифры в открытом репозитории.
Последние пару лет в IT-чатах и личках наблюдаю стабильный поток странных персонажей. Приходит человек, начинает сыпать терминами в произвольных сочетаниях. Всё в одно предложение. Перескок уровней абстракции, нулевые границы доменов, апелляция к "реальному применению" вместо метрик. Узнаваемо как продавец сломанных телефонов на третьесортном базаре:
куча блестящего хлама, навешано аляповато, с пафосом "IT-отдел".У феномена есть имя. И не одно.
Frankfurt, "On Bullshit" (Princeton, 2005). Bullshit это не ложь. Ложь предполагает знание правды и намерение её скрыть. Bullshit это речь, безразличная к оси правда/неправда. Цель только впечатление. Это другой класс высказываний, не подлежащий обычному опровержению фактами, потому что фактов в нём изначально не предполагалось.Feynman, "Cargo Cult Science" (Caltech, 1974). Внешние атрибуты науки без её содержания. Островитяне после войны строили деревянные диспетчерские вышки и надевали наушники из бамбука, ожидая что самолёты прилетят сами. Форма соблюдена идеально. Никаких самолётов не будет. Феймановский диагноз: первый принцип в том, что нельзя обманывать самого себя, а себя обмануть проще всего.Kruger & Dunning, 1999 (J. Pers. Soc. Psychol., 77(6):1121). "Unskilled and Unaware of It". Низкая компетентность лишает человека метакогнитивной способности увидеть собственную некомпетентность. Тот же дефицит, который мешает решить задачу, мешает понять, что задача не решена. Поэтому громче всех кричит тот, кто меньше всех видит.Brandolini, 2013. Bullshit asymmetry principle. Энергия, необходимая для опровержения чуши, на порядок выше энергии её производства. Мир заполнен неопровергнутой чушью не потому что её никто не видит, а потому что опровергать невыгодно по бюджету.Hicks, Humphries & Slater, 2024 ("ChatGPT is bullshit", Ethics Inf Technol 26:38, doi:10.1007/s10676-024-09775-5). LLM не "галлюцинируют" в техническом смысле. Они производят bullshit по Френкфурту: текст, безразличный к собственной истинности, потому что у модели нет внутренней оси правда/ложь. Есть только распределение правдоподобных продолжений.И вот тут стыкуется главное.
Раньше для technobabble требовался входной барьер: надо было хоть как-то нахвататься терминов из реальных источников. Это сдерживало поток. Сейчас LLM генерируют синтаксически безупречную термин-суп = бесплатно. Любой за один промпт получает речь "сотрудника DeepMind", копирует, переставляет пару слов, относит в чат. Барьер на роль "IT-отдела" упал до нуля. Барьер на вход в реальное IT остался прежним. Зазор заполнился ровно теми персонажами, о которых речь.
Полевые маркеры распознавания:
Перескок уровней абстракции в одной фразе: транзистор, ML, сознание, exploit. Эксперт так не говорит, потому что знает границы доменов. Шарлатан не говорит так, потому что границ для него не существует.
Отсутствие чисел. Ни одной метрики, ни одного коммита, ни одного воспроизводимого шага. "Работает у меня", "результаты говорят сами", "в реальном бытие".
Отказ от фальсификации утверждений. Любой контр-пример интерпретируется как подтверждение исходной идеи. Это закрытая система убеждений, не работа.
Эмоциональная апелляция вместо доказательства. "Ты не понимаешь", "посмотри как красиво", "почувствуй".
Объём вместо качества. Чем больше блестящих побрякушек на витрине, тем меньше у собеседника времени проверить каждую. Прямое применение Brandolini's law со стороны продавца.
Громкость пропорциональна расстоянию до компетентности. Ровно по Kruger-Dunning.
Что с этим делать.
Ничего. Brandolini показал: опровергать дороже, чем игнорировать. Эксперт молчит не потому что согласен. Он молчит потому что бюджет на опровержение каждой проходящей мимо ерунды превышает бюджет на собственную работу. Поэтому профессиональная среда выглядит тихой не из-за пустоты, а из-за того, что внутри неё происходит работа.Главный вывод поста.
Громкость это не показатель компетентности, это её обратная функция. Кто реально что-то умеет, занят тем, что это делает. Метрики, коммиты, воспроизводимые цифры в открытом репозитории.
💯41👏9👍6❤4🤔2👌1🕊1👻1🤝1
This media is not supported in your browser
VIEW IN TELEGRAM
Работаем...
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7🔥30👍12❤5🫡4🕊2🤓1
Я нашёл механизм на основе демона, который читает внутренности модели, оценивает ситуацию и без обучения улучшает показатели модели на 3-5pp.
Сейчас буду давить газ на полную, есть вероятность выйти на 20+ улучшения.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Сейчас буду давить газ на полную, есть вероятность выйти на 20+ улучшения.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7🔥26🕊3
Техножнец
Я нашёл механизм на основе демона, который читает внутренности модели, оценивает ситуацию и без обучения улучшает показатели модели на 3-5pp. Сейчас буду давить газ на полную, есть вероятность выйти на 20+ улучшения. Поддержать канал: ТБАНК Поддержать канал:…
Что такое здесь Synthetic Narrow - это те задачи, которые вне бенчмарков создаются человеком и моделью. Если такой механизм настроить правильно, то буквально все ответы от модели улучшаются на 40-50%
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7🤔11🔥4🕊2🤝2
Когда ваш coding агент говорит вам:
Выбирай - вариант А, вариант Б, вариант В.
Моментально врубайте режим "черпаком по башке" и резко пишите ему в ответ:
Сразу всё станет хорошо.
P.S. Кодекс от OpenAI - даунито. мне советовали, разочарован. Это убого, потом объясню.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Выбирай - вариант А, вариант Б, вариант В.
Моментально врубайте режим "черпаком по башке" и резко пишите ему в ответ:
"Слышь, ты такой учёный как моя мама космонавт. Как ты думаешь, если бы учёные выбирали вместо опробования всех вариантов, что придут в голову (учёному, а не психу), то были бы они учёными или ангажированными скотами, которые борются с истиной и обожают подкладные исследования? А ну СДЕЛАЛ НОРМАЛЬНЫЙ СКРИПТ СО ВСЕМИ ВАРИАНТАМИ!"
Сразу всё станет хорошо.
P.S. Кодекс от OpenAI - даунито. мне советовали, разочарован. Это убого, потом объясню.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7🔥27🤔12👏5⚡2👻2🕊1
4 дня до ответа - одобрят статьи в журнал Список от СПБГУ или нет.
В ожидании.
На скриншоте темы моих научных статей + когда я выступал с докладом по ним, собсна, оттуда меня и одобрили.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
В ожидании.
На скриншоте темы моих научных статей + когда я выступал с докладом по ним, собсна, оттуда меня и одобрили.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7❤31👍16😱3🕊2👻1
Закинете, подписки обновлю! Заранее респект! С Вашей поддержкой никакие инвесторы не нужны!
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать каналTTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать каналbc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал
USDT (trc20) Поддержать канал
BITCOIN Please open Telegram to view this post
VIEW IN TELEGRAM
🕊9🔥5
Продолжаю давить. Метод интересный, осталось унифицировать для всех моделей. Сначала прогон по темам - математика, физика, литература, история. После этого все ответы можно улучшить.
Механизм покажу позже.
🦆 🦆 🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20)
Поддержать канал: BITCOIN
Механизм покажу позже.
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал:
PAYPAL Поддержать канал: USDT(trc20)
TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqTПоддержать канал: BITCOIN
bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7Please open Telegram to view this post
VIEW IN TELEGRAM
2🔥17👍4❤1🕊1