201 subscribers
167 photos
98 videos
179 files
714 links
ALGORITHMS MACHINE LEARNING
Download Telegram
SETUN II* — троичный AI-процессор, который уже считает на "кремнии*"

Что это вообще

*Название будет сменяться, наследию деваться некуда

Гибрид «CPU + AI-ускоритель» на балансной троичной арифметике
Веса нейросети хранятся не как длинные цепочки из 0 и 1, а как три состояния: −1, 0, +1

Умножение на таком весе вырождается:
× (−1) → вычесть
× 0 → пропустить (а это ~31% всех весов!)
× (+1) → прибавить

Полноценный умножитель не нужен вообще — остаётся только сложение, вычитание или пропуск
А множитель — самая дорогая часть MAC-блока, почти половина его площади (47 % площади вычислительной полосы в нашем синтезе)
Мы меняем его на «знак + сумматор»
Плюс каждый третий вес — ноль, его можно не считать вовсе
Даровая экономия энергии на каждой операции

"Потомок" советской «Сетуни» (МГУ, 1958) — первого в мире серийного троичного компьютера

Только теперь сегодня на вдохновении это AI-ускоритель, и синтезируется он на стандартных CMOS-ячейках
Цель — Микрон 180 нм
Узел, который Россия контролирует уже сейчас

Главное: ядро РАБОТАЕТ на FPGA

Не симуляция
Не картинка
Процессор (управляющее ядро + троичная ткань + демон) исполнил программу на живом FPGA — GW5AST-138, Tang Mega 138K
Всё прочитано по JTAG, цифры считаны прямо с кремния:
• базовый matmul на кремнии — C=[[7,10],[19,22]], сошлось бит-в-бит
• 1091 такт матмула, точно совпало с gate-симуляцией
• демон принял 86 % выходов на РЕАЛЬНОМ слое nanoGPT

Самый рискованный шаг — заставить кремний считать троичную математику — уже пройден

Троичный GPT реально пишет текст
Наш nanoGPT: 4.900.000 параметров, 97 % весов троичные, обучен на Шекспире
Генерирует связный текст — с именами персонажей, репликами, пунктуацией
Все его матмулы — это ровно операция нашей ткани (add/sub/skip)

И вот что важно — троичная модель обобщает лучше полноточной:
ТроичныйGPT 4.9M val loss 1.55 1.49 МБ
fp-бейзлайн 10.8M val loss 1.77 21.6 МБ
Вдвое меньше параметров, в 14 раз меньше памяти — и качество выше
Упрощение до −1/0/+1 работает как встроенная регуляризация: модель хуже «зубрит» и лучше работает на новом

Аппаратный механизм, который предсказывает результат и проверяет догадку «забором» (fence) с гарантией: итоговая ошибка всегда ≤ порога ε

Угадал — пропустили пересчёт
Не угадал — посчитали честно
Скорость без потери точности

На реальных весах: ε 5% → принято 47% (×1.9) ε 10% → принято 76% (×4.0) ε 20% → принято 95% (×16)

MNIST на RTL-движке

Самую изученную сеть в мире обучили в троичном виде и прогнали потактово на железе:

97.3 % точности (fp-бейзлайн 98.0 % — разрыв всего 0.7 %)
8/8 тест-цифр классифицировано верно
16× меньше памяти весов: 49.6 КБ против 794 КБ

Энергия на одну операцию (MAC):
CPU AMD Zen fp32 — 650–1250 пДж
Наша ткань @180нм — 25–55 пДж
A100 bf16 @7нм — 3.1 пДж
Ткань на изо-узле 7нм — ~0.3 пДж

Уже на 200-180-нм заводе экономичнее серверного CPU в разы
Перенеси тот же дизайн на 7 нм — и по энергии на операцию обгоняем A100 примерно в 10 раз
Выигрыш чисто архитектурный (нет умножителя + 2-битные операнды), он переезжает вместе с техпроцессом

Кристалл собран из одинаковых тайлов (как у Tenstorrent)
Нужно мощнее — добавляешь тайлы, ничего не переписывая
При росте сетки в 4 раза частота держится 77→70 МГц — почти не падает
Один дизайн масштабируется от датчика в часах до стойки в дата-центре

Самое страшное позади: кремний считает троичную математику, демон ускоряет, модель пишет текст…
С этим промптом Claude Opus 5.5 работает как дизайнер швейцарской школы
На выходе постер для печати в SVG с живым текстом, плюс PDF, PNG и две вариации

Промпт разбит на блоки
Сетка 12 колонок с базовой линией 8 пикселей, один гротеск максимум в трёх начертаниях, два цвета плюс бумага
Акцентный цвет только на одной фигуре, сетку ломает ровно один элемент, треть листа пустая
Модель сначала пишет текст, рисует три эскиза и выбирает один, проверяет его на экране телефона и в формате A2 и ставит себе оценки
Всё, что ниже 8 из 10, переделывает

Промпт целиком: Google Doc
Stanford* вместе с Together AI предложили новую архитектуру для ИИ-агентов

Авторы решили сделать так, чтобы агент вёл себя немного как человек: большую часть времени думал про себя и говорил только по делу

Их новый подход называется HybridAgent - агент получает второй, параллельный режим мышления - латентный, а в обычный текст переключается, когда нужно действовать: вызвать инструмент или дать ответ

При этом латентные мысли остаются читаемыми

Подход не требует обучения модели с нуля, HybridAgent можно получить из почти любой LLM через специальный пайплайн дообучения

GitHub
HF
GPT-6-Astra решила 49 из 50 новых задач по теоретической физике

Весь тест стоил менее $116, а одно решение — в среднем около $2.40

Бенчмарк проверял не великие загадки науки, а повседневную работу исследователя: найти метод, изменить формулы и провести новый расчёт

Без интернета Astra всё равно набрала 92 %, а часть её предполагаемых ошибок оказалась ошибками в эталонных ответах
This media is not supported in your browser
VIEW IN TELEGRAM
Мои прогнозы оказались сильно ошибочными

Изменить паттерны поведения людей оказалось в разы сложнее, чем эволюция технологий
«Finally, on the 16th of October, 1843, while walking with his wife along the Royal Canal to a meeting of the Royal Irish Academy in Dublin, [Hamilton] made his momentous discovery:

“That is to say, I then and there felt the galvanic circuit of thought close; and the sparks which fell from it were the fundamental equations between i,j,k; exactly such as I have used them ever since”»

(спасибо @near_math_edu за напоминание про дату)

https://math.ucr.edu/home/baez/octonions/node24.html
В эпоху, когда алгоритм решает любые проблемы по первому запросу, люди перестанут утруждать себя размышлениями и утратят радость от решения задач и перестанут думать

Думать — это тяжело

Не можешь решить, мучаешься годами
Именно из-за этой муки и появляется удовольствие, когда находишь решение
И мука становится удовольствием

А если такие моменты исчезнут, люди останутся домашним скотом
This media is not supported in your browser
VIEW IN TELEGRAM
Китайские исследователи только что опубликовали статью с жёстким заголовком: «Конец инженерии промптов»

Аргумент умещается в одну строку: умение говорить агентам, что делать, как навык, закончилось

Промпт — это желание, и желание, повторённое триста раз, всё равно остаётся желанием

Границы, записанные в файл, — это закон
Каждый агент читает их перед каждым действием, они версионированы, и вы ими владеете

В масштабе роя ничего другое не выживает

Триста агентов не могут разделить «вайб»
Они могут разделить файл

Так что вы перестаёте быть тем, кто пишет инструкции
Вы становитесь архитектором границ: вы решаете, что никогда не происходит, и проверяете запросы

Промпты становятся одноразовыми
Файл с ограничениями превращается в работу

Это именно та система, которую задокументировали ниже: один AGENTS.md, триста читателей Kimi K3, ноль побегов за 41 день

Вся статья в одной строке: строй забор до ключей ↓
This media is not supported in your browser
VIEW IN TELEGRAM
Claude Mythos 5 разработал квантовую схему на основе эллиптических кривых, используя в 17 раз меньше вентилей для 12 % большего количества кубитов

Анди Гу, исследователь физики из Гарварда, протестировал её в рамках Программы STEM-феллоу Anthropic, которая объединяет учёных с сотрудниками Anthropic, чтобы проверить, способен ли Claude проводить настоящие исследования в их области

Claude писал схемы схем в виде кода, оценщик проверял и оценивал их, а Claude продолжал дорабатывать, пока не превзошёл человеческие рекорды в большинстве из 8 задач

Его самый сильный результат заставил работать неуловимый классический математический shortcut на квантовом оборудовании впервые, после того как Claude доказал новые тождества и верифицировал их с помощью формальных доказательств
AI compute and capability
- AI progress is driven by a billion-fold increase in inference and reasoning compute, because step-by-step thinking, planning, reflection, and exploration require far more computation than simple regurgitation
- Working memory, knowledge management, tool use, and agent harnesses are major recent unlocks
- The next wave is broader than coding: design, creative marketing, science, manufacturing, and other professional work

Physical AI and robotics
- Physical AI includes robotics, self-driving cars, manufacturing, healthcare systems, imaging, satellites, and sensing across the electromagnetic spectrum
- The physical world is the biggest market because most valuable work ultimately touches it
- One major use case is building a digital twin first, then deploying agents into the real world
- Robotics and embodied AI are reaching a major inflection point, with large commercial potential

Safety, security, and regulation
- Functionality, capability, safety, and security must be developed together; they are not separate goals
- Safety cannot depend on perfect alignment because alignment is a forever problem

- The practical model is containment, zero trust, minimum permissions, out-of-band monitoring, and the ability to shut systems down
- Current AI governance is framed as a three-legged stool: frontier model review, the White House accord on super intelligence, and SI force coordination

Compute build-out and infrastructure
- Demand for compute remains very strong and is likely to exceed current supply assumptions
- Major bottlenecks are land, power, permits, construction resources, substrates, and silicon photonics
- The build-out is constrained by the physical world, but the demand for AI infrastructure is global and resilient
- Nvidia is positioned as a full-stack infrastructure company spanning training, inference, networking, storage, security, and enterprise deployment

Nvidia economics and market outlook
- Nvidia now serves cloud providers, enterprises, neoclouds, startups, and multiple industries across the entire AI lifecycle
- Share growth is being driven by fungibility, durability, high performance per watt, and full-stack breadth
- New growth vectors include software licensing and revenue share arrangements
- The business is still in the early innings of the current computing platform shift, so long-term demand remains broad
Сэм Альтман: «Мир, в котором человеческий мозг и сознание загружаются в облако, чтобы жить, — это шедевр»

«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»

CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?

Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓

• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге

• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия

• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»

• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями

В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он