Direct-to-Silicon: когда модель становится чипом

Рано или поздно в инференсе должны были появиться решения, которые перестают играть в универсальность и бьют прямо в узкое горлышко: память.

Taalas (команда с корнями в Tenstorrent) показали HC1: Llama 3.1 8B не “загружается” в ускоритель, она в него вшита. Веса и вычисление живут в одном куске кремния. Без HBM, без сложной упаковки, 3D-стека и жидкостного охлаждения.

Цифры, заявленные ими, звучат дерзко:
• 17 000 токенов/сек на пользователя на Llama 3.1 8B
• почти 10x быстрее, 20x дешевле в сборке, 10x экономнее по энергии

Важно: это не только слайды. Есть публичное демо, можно “потрогать” скорость руками.

Нюанс понятный: ASIC всегда про выбор. Один чип = одна базовая модель. Но тут оставили зазор для управляемости:
• поддержка LoRA-адаптеров (тонкая настройка без перепайки кремния)
• настраиваемое контекстное окно

📌 Что это меняет на уровне экономики и стратегии
Если у вас есть стабильный поток запросов и понятная модель (контакт-центр, ассистент в продукте, поиск по базе знаний), то инференс из переменной статьи расходов превращается в предсказуемый “производственный контур”. Быстрее ответ, ниже цена токена, меньше требований к инфраструктуре.

🛡️ Что бы я проверял перед тем, как радоваться
• живет ли модель 6-12 месяцев без смены архитектуры
• есть ли план обновления: новый кремний вместо бесконечных оптимизаций софта
• кто владеет качеством: квантовка, LoRA, тесты, мониторинг деградации

Весной обещают средний reasoning-модель на той же платформе HC1, зимой - фронтир на следующем поколении HC2. Если темп сохранится, рынок железа для инференса начнет перекраиваться на глазах.

Ссылки:
• Анонс
• Демо

t.me/archfinance
#инференс #железо #стратегия #ИИ

Seedream 5.0 Lite от ByteDance: что полезного для работы с визуалом

Если вы используете генерацию картинок не «поиграться», а как часть контент-процесса, Seedream 5.0 Lite стоит потестировать.

📌 Что заявлено и что реально удобно в ежедневной работе:

«Deep thinking» + опциональный веб-поиск: проще формулировать задачу словами, а не собирать пачку референсов заранее.

Помимо text-to-image есть редактирование по инструкции (image-to-image) и поддержка нескольких референсов - удобно для серии материалов в одном стиле.

В разных интеграциях разные лимиты по разрешению: это нормально, зависит от площадки.

Где попробовать прямо сейчас:
Replicate
Freepik
CapCut
ComfyUI

Мини-тест на 10 минут:

1️⃣Возьмите один промпт.
2️⃣Сгенерируйте 3 сцены: «продукт», «персонаж», «обложка/постер».
3️⃣Проверьте: держит ли стиль, детали и композицию без долгих правок.

https://t.me/archfinance

#ai #дизайн #контент #инструменты

Как умирают миллиардеры: longevity-инсайты от Алексея Стрягина

Алексей Стрягин собрал данные о 389 смертях миллиардеров за 2015-2025 и посмотрел, что на самом деле происходит, когда денег у тебя больше, чем у небольшого государства.

📌 Что видно в данных
• В случаях, где причина известна, около 90% смертей - это возрастные истории: сердце, рак, «умер во сне» и т.п.
• Около 30% причин вообще не раскрываются. Богатство правда умеет быть тихим.
• Внешние причины тоже есть: 6 крушений вертолётов и 5 самоубийств. Процент небольшой, но заметно выше, чем в «лучших» по уровню жизни странах.

💰 Можно ли купить годы жизни?
• Мужчины-миллиардеры умирают в среднем в 82,8 года. Это почти на уровне Гонконга как эталона долгожительства (82,7 у мужчин в 2024), но в исследовании отмечено: для уже доживших до 50 лет ожидаемая продолжительность там выше.
• Женщины-миллиардеры умирают в среднем в 83,5. И самый не очеивдный момент: привычное «женское преимущество» почти исчезает.

🛡️ После 90 деньги перестают работать
В исследовании хорошо видно: у богатых преимущество по смертности есть в диапазоне 60-89 (лучшие врачи, диагностика, меньше бытовых рисков). Но после 90 кривая старения догоняет всех, статистически разницы уже нет.

Самый странный вывод тут даже не медицинский, а про капитал-аллокацию.
За 10 лет от возрастных болезней умерли 246 миллиардеров с состоянием около $1,56 трлн. При этом, по оценке WSJ (её цитирует автор), ультрабогатые вложили в longevity-проекты за 25 лет порядка $5 млрд.
То есть средний умерший миллиардер был богаче, чем вся индустрия, которую теоретически можно было бы ускорить.

Если по-простому: деньги отлично покупают комфорт и управление рисками. Но дополнительные годы жизни покупаются только через R&D, а не через ещё одну «личную оптимизацию».

В оригинале есть график по топ-10 живущих миллиардеров: 9 из 10 уже за экватором ожидаемой жизни.
Илон, новый челлендж?

Источники
• Исследование Алексея Стрягина: How billionaires die
• Короткий тред: x.com/strygah
• Ожидаемая продолжительность жизни в Гонконге: CHP Hong Kong

Оставлю себе в закладки, чтобы не путать «богатство» и «долголетие» в голове.

https://t.me/archfinance

#longevity #стратегия #риски #инвестиции