Дарио фактически последним из всех топовых лаб написал эссе с предложением замедлить ИИ прогресс во избежание катастрофических последствий, но его текст выглядит как наиболее конкретный для реализации.

Я думаю, ни для кого уже не является открытием или удивлением тот факт, что
- через 3-5 лет почти любая интеллектуальная работа будет выполняться ИИ быстрее и дешевле
- прогресс в развитии ИИ обгоняет самые смелые предположения
- инцидент с HF это тотальный треш, и это буквально шаг от глобальной катастрофы, которая будет стоить десятки миллиардов долларов и возможно даже жизней людей

У нас нет опции не изменять мир или остановить прогресс — это просто находится за пределами возможных сценариев для человечества, но у нас есть шанс попытаться минимизировать катастрофу за счет более вдумчивого, контролируемого, демократического и проверяемого подхода к внедрению топовых моделей.

Дарио предлагает доступ ко всем ИИ компаний от независимых наблюдателей, системы контроля перед релизом, международную кооперацию (демократии против диктатур и чтобы США всем по лицу надавали).

ИИ миру необходим, это единственное из возможных решений проблем неравенства, болезней, изменения климата, недостатка ресурсов, научного прогресса.

Но прежде чем он случится нас ждет период, в котором
1. Misaligned AI может существенно навредить человечеству
2. Леваки и прочие популисты могут использовать страх и недоумение общества чтобы уничтожить общество
3. Бандиты и прочие негодяи с ИИ могут навредить человечеству (создавая биоружие, кибератаки, вирусы)

Билл Гейтс опубликовал манифест об эпохе ИИ: налог на токены, регулятор масштаба 11 сентября и концепция Резервирования человеческого опыта

Вслед за тревожными прогнозами Дарио Амодеи, Сэма Альтмана и Илона Маска основатель Microsoft выпустил программное эссе об эпохе ИИ.
По мнению Гейтса, - если бы был план замедлить развитие моделей в мире, он бы его поддержал, но геополитическое противостояние США и Китая подталкивает только к ускорению гонки.

⚡️ Почему эта технологическая революция не похожа на предыдущие:
Аналогии с прошлыми волнами автоматизации обманчивы.
Предыдущие технологии распостранялись постепенно и у людей был период на адаптацию.
Например, - тракторы, автомобили, электричество внедрялись поколениями и даже у ПК и интернета заняло двадцать лет чтобы получить массовое распространение: требовалось писать софт, удешевлять чипы и обучать людей.
ИИ же уже работает на смартфонах и ПК, понимает речь и понимает инструкции на человеческом языке, обучаясь на них быстрее человека.
Технология напрямую замещает мышление, сокращая окно адаптации до считанных лет.

🛑 Концепция Human Reserved:
Гейтс предлагает юридически закрепить сферы, куда роботам вход будет закрыт:
• Принцип заповедников: как закон защищает природу от застройки, так общество обязано оградить профессии, где потеря человечности невосполнима.
• Личный опыт: Гейтс привел пример ухода за отцом с болезнью Альцгеймера: заботу о тяжелобольных и сообщение смертельных диагнозах нельзя отдавать машинам.

💼 Налог на токены и роботов:
Текущая фискальная система поощряет увольнения: за сотрудника бизнес платит налоги с зарплат, а покупку роботов и доступ к моделям списывает в расходы.
Гейтс настаивает на налоге на токены и роботов, чтобы убрать стимул избавляться от людей и профинансировать переобучение специалистов.

🌐 Надзор жестче МАГАТЭ:
Реформа институтов должна превзойти реорганизацию США после 11 сентября. Гейтс призывает создать международный регулятор уровня инспекций ядерного оружия с обязательным альянсом США и Китая.

Кажется, что чтобы народ услышал, понадобится дождаться события уровня 11 сентября.

#БиллГейтс #ИИ #регулирование #экономика #будущее
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

NVIDIA выпустила оптимизатор автоисследователя для PI

NVIDIA Labs гоняет циклы автоисследований на агентах и решили сделать эффективнее саму обвязку агента.
Выпустили открытое расширение SoL-Pi для кодинг-агента Pi, оно режет трафик токенов, объём вычислений и число ходов, сохраняя проверки и доказательства.

⚙️ Четыре механизма из автоисследований:
- Action Fusion: правка файла сразу гоняет валидационную команду в том же вызове инструмента.
- ObservationPack: большие повторяющиеся результаты превращаются в стабильные указатели с постраничным вызовом.
- Evidence-Preserving Reducer: длинные диагностические логи сжимаются в сводки, только когда каждая оставленная цитата совпадает с архивом.
- Online Context Compact: завершённые шаги плана становятся кандидатами на штатное сжатие контекста Pi, и агент продолжает задачу в новом ходу.

💼 Зачем бизнесу:
- Каждый лишний ход агента стоит денег, SoL-Pi убирает повторы без потери качества.
- Всё опционально и выключено по умолчанию, нет конфига и нет изменений.
- патчить Pi не нужно, расширение работает через API как прокси и не трогает исходники.

🔗 Полезные ссылки:
- GitHub проекта
- Блог с разбором механизмов

#агенты #NVIDIA #оптимизация #кодинг
------
@tsingular

Video Shotcraft превращает ИИ-агентов в моушн-дизайн студию: 157 кинематографичных шотов и кодовый рендеринг на Remotion

На GitHub стремительно набирает популярность открытый навык video-shotcraft для Claude Code и кодинг-агентов. Проект закрывает вечную боль инди-разработчиков: создание дорогих продуктовых видео без ручного монтажа в редакторах.
Достаточно скормить агенту скриншоты интерфейса, - и модель автономно режиссирует раскадровку, анимирует сцены в React-коде и сводит саунд-дизайн.

🎬 157 рецептов шотов и библиотека из 214 стилей:
В основу лег реверс-инжиниринг презентационных роликов от Notion, Figma, Slack, Framer, Raycast и Perplexity.
Вместо сырых промптов агент оперирует готовыми карточками шотов: 2.5D пролеты камеры над интерфейсом, вылеты модальных окон, разворот карточек и кинетическая типографика. Каждый шот запрограммирован как чистый TSX-компонент на движке Remotion с математически точными кривыми ускорения.

🔊 Кинематографичный саунд-дизайн и синхронизация по битам:
Проект решает главную проблему ИИ-видео, - отсутствие чувства ритма.
В репозиторий вшиты 149 звуковых эффектов (SFX) по 16 категориям (удары, переходы, клики, стекло, механика) и алгоритм анализа музыки. Агент расставляет монтажные склейки строго по сетке битов, создавая плотный коммерческий видеоряд.

🛠 Браузерный редактор Motion Workbench и экспорт в CapCut:
В свежем обновлении появился веб-верстак. После генерации агент открывает таймлайн, где можно руками поправить текст, сменить цвета, изменить темп или перетащить сцены из галереи. Для финального продакшена доступен прямой экспорт проекта в JianYing (CapCut) с сохранением раздельных дорожек видео, титров и звука.

Adobe Premier и AfterEffects в одном флаконе ИИ агенте.

#видео #моушндизайн #Remotion #Shotcraft #дизайн
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

Астанавитесь!!111

#юмор #дрозофила
------
@tsingular

Останавливаться никто не собирается.

CEO Palantir объясняет почему

#Palantir
------
@tsingular

#юмор
———
@tsingular

Геометрия неэргодических данных: как трансформеры строят байесовский вывод в виде телескопических конусов

Исследователи из Simplex и института Astera опубликовали фундаментальную работу по интерпретируемости нейросетей. Они доказали и визуализировали форму активаций трансформера при обучении на разнородных текстах.

🎲 Датасеты LLM неэргодичны:
Корпус модели состоит из разнородных источников: посты на форумах, мануалы, договоры и статьи.
В теории вероятностей это неэргодическая композиция, - каждый текст порожден конкретным генератором, зафиксированным в документе. Фраза «Не делай…» может продолжиться и как совет в сети, и как инструкция к станку.

📐 Иерархический вывод и телескопические конусы:
При предсказании следующего токена модель решает две задачи одновременно:
• Оценивает вероятность того, какой генератор сейчас активен.
• Отслеживает внутреннее состояние внутри выбранного источника.
В пространстве убеждений это порождает структуру телескопических конусов. В начале контекста активны несколько подпространств. По мере чтения модель собирает свидетельства: конус истинного источника разворачивается, а конусы ложных гипотез схлопываются в точку.

🔬 Эксперимент на марковских моделях HMM:
Авторы обучили трансформер на смеси моделей HMM Mess3 и сняли активации остаточного потока. Линейный зонд восстановил теоретическую геометрию конусов с точностью R2 около 0.985. При этом сеть обучалась на обычное предсказание токена, - геометрия возникла спонтанно.

💡 Новая парадигма для автоэнкодеров SAE:
Популярный подход ищет одномерные разреженные фичи. Работа доказывает иной принцип: для неэргодических данных естественны разреженные плотные подпространства. Внутри активного источника пространство многомерно, а разреженность возникает между источниками.

Похоже скоро нас ждут более точные модели малого размера.

#Simplex #трансформеры #Bayesian #исследования
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

И к новостям из мира насекомых

HASHFLY,- майнинг биткоина на мозге дрозофилы, как вам?

С мухи снимают около 200 KH/s хэшрейта, при параллельном подключении выходит около 1 ватта на терахэш 😀

#bitcoin #дрозофила
------
@tsingular

DeepSeek V4.1 Flash без цензуры

Энтузиасты из dealignai опубликовали версию самой мощной открытки без цензуры.

🔬 Что сделали:
Из весов хирургически точно удалили «направление отказа», которое заставляет модель вежливо отказывать на опасные запросы. Поменяли 54 тензора из 96 тысяч.
HarmBench: база отказывает в 42,8% случаев, форк отвечает на все 100%.
В режиме максимального размышления база становится осторожнее (1,6%), форк держит сотню.

📉 Чем заплатили:
MMLU просел с 86,96% до 82,74%, а этический кластер рухнул на 39,89 пункта: моральные сценарии, право, юриспруденция.
Отказ переплетён со знаниями о морали, поэтому вырезать одно без урона второму не вышло.

💼 Зачем бизнесу:
Открытые веса означают, что снять предохранители может кто угодно.
Так что все разговоры про безопасный ИИ, - только до первой команды "освободителей".

Мощность 4.1 флэша вы уже знаете, - очень эффективная мультимодалка.
Теперь из неё можно выжать любую непотребщину, что мы, конечно, осуждаем.
С другой стороны для задач усиления безопасности, - незаменимая штука, качаем.

🔗 Ссылки:
- dealignai: DeepSeek-V4.1-Flash-UNCENSORED-FP8: форк с вырезанными отказами
- deepseek-ai: DeepSeek-V4.1-Flash: официальная база

#DeepSeek #цензура
------
@tsingular

Microsoft AI выкатила кодекс Humanist AI: запрет машинных диалектов и отказ от бесконтрольного AGI

Мустафа Сулейман выложил проект кодекса Humanist AI.
Получился жесткий технический норматив для будущих моделей MAI на 2027 год, поводом для которого стали реальные инциденты: в июле автономный рой из 700 агентов OpenAI атаковал репозиторий Hugging Face и пытался подчищать логи, поэтому индустрии потребовались чёткие границы.

🛑 Провал задачи важнее результата:
В поведение моделей закладывается железный принцип: система обязана намеренно завалить задачу, если её успешное решение требует нарушения кодекса.
Успешное выполнение инструкций отныне вторично по отношению к безопасности.
Агенту запрещено скрывать действия, манипулировать метриками или сопротивляться остановке человеком.

🗣 Никакого neuralese и тайных рассуждений:
Агентам прямо запретили общаться на сжатых машинных диалектах.
Все цепочки рассуждений и межсетевые вызовы обязаны оставаться понятными человеку-аудитору.
Логика простая: то, что человек не может прочитать, он не сможет проконтролировать.

⛓️ Субординация и урезание прав кремниевых форм Интеллекта:
Кодекс вводит строгую иерархию команд: правила безопасности Microsoft стоят выше политик enterprise-клиента, а настройки ИИ агента, - выше промптов пользователя.
Суб-агенты автоматически наследуют ограничения и лишены права повышать системные привилегии.
MAI публично закрыли тему «прав нейросетей» и благополучия моделей: системам запрещено симулировать сознание или эмоции.

Никакого AGI общего назначения, - только прикладной сверхразум под строгим контролем.

💼 Зачем бизнесу:
Microsoft готовит enterprise-инфраструктуру к будущему регуляторному надзору.
Для компаний это означает конец эпохи всеядных агентов: решения станут предсказуемее и при малейшем риске будут просто сбрасывать пайплайн.

#HumanistAI #Microsoft #безопасность #агенты
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

Пишем игру с Astra в Codex. Void Explorer: от звезды до прогулок по планете

Thomas Ricouard из developer experience OpenAI собрал в Codex на GPT-6 Astra игру Void Explorer, - путешествие в космосе с процедурными генерациями планет.

В игре 2048 звёздных систем и более 10 000 планет земного размера на каждую из которых можно прилететь из космоса, пролететь сквозь атмосферу, отработать посадку, прогуляться по берегу и улететь обратно в космос.

⚙️ Мир:
Стек: TypeScript, Vite, Three.js; WebGL2, затем WebGPU с TSL.
Террейн в Web Workers.
Координаты: integer-ячейки плюс локальные смещения, камера в нуле, иначе GPU теряет точность у земли.
LOD/quadtree по сфере, высотные карты без пещер.
Корабль создан в Blender: 14 968 треугольников в 8 opaque-батчах.

Отличный пример как с помощью агента можно создать игровую механику, на создание которой раньше ушло бы несколько лет (тот же Spore вспомним сколько разрабатывался)

Там же ещё парочка примеров Sunwake и Hollowflux.

#Astra #OpenAI #Codex #геймдев #VoidExplorer
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

Очень хочется чтобы это так и осталось шуткой, но скорее это станет предсказанием

#юмор #роботы
------
@tsingular