🔐 Проектируйте ИИ-систему так, будто модель уже скомпрометирована.
Такой подход предлагает глава Microsoft Сатья Наделла: рассматривать модели как потенциальный внутренний риск, особенно когда им доступны данные, инструменты и выполнение действий.
Поставить второго ИИ следить за первым недостаточно: можно получить один чёрный ящик, проверяющий другой. Контроль должен существовать и за пределами моделей.
Что это означает на практике:
• Права задаёт система. Модель не определяет сама, какие ресурсы ей доступны.
• Действия оставляют проверяемый след. Логи должны быть защищены от изменения агентом.
• Аудит независим. Агент не должен одновременно действовать и контролировать доказательства корректности своих действий.
• Есть аварийная остановка. Уполномоченный человек может прервать работу посреди задачи.
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения.
https://x.com/satyanadella/status/2108931348857827686
Такой подход предлагает глава Microsoft Сатья Наделла: рассматривать модели как потенциальный внутренний риск, особенно когда им доступны данные, инструменты и выполнение действий.
Поставить второго ИИ следить за первым недостаточно: можно получить один чёрный ящик, проверяющий другой. Контроль должен существовать и за пределами моделей.
Что это означает на практике:
• Права задаёт система. Модель не определяет сама, какие ресурсы ей доступны.
• Действия оставляют проверяемый след. Логи должны быть защищены от изменения агентом.
• Аудит независим. Агент не должен одновременно действовать и контролировать доказательства корректности своих действий.
• Есть аварийная остановка. Уполномоченный человек может прервать работу посреди задачи.
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения.
https://x.com/satyanadella/status/2108931348857827686
🔥32👍18👏18😁14🤔14💯14❤13🎉13
🦀 Альтернатива Word на Rust, которой могут управлять ИИ-агенты
WordCraft повторяет знакомый интерфейс Word: лента инструментов, стили, таблицы, комментарии и отслеживание изменений. Читает и сохраняет
Работает на Windows, macOS, Linux и BSD, а через WebAssembly запускается в браузере. Десктопный интерфейс построен на egui, без Electron. Лицензия: MIT или Apache 2.0.
Внутри: 422 команды доступны через интерфейс, CLI и MCP. Агент может менять документ, проверять его структуру, рендерить страницы и сохранять результат. Это даёт возможность автоматизировать работу с документами через явные команды.
Пока альфа: совместимость со сложными
https://github.com/storytold/wordcraft
WordCraft повторяет знакомый интерфейс Word: лента инструментов, стили, таблицы, комментарии и отслеживание изменений. Читает и сохраняет
.docx, экспортирует PDF.Работает на Windows, macOS, Linux и BSD, а через WebAssembly запускается в браузере. Десктопный интерфейс построен на egui, без Electron. Лицензия: MIT или Apache 2.0.
Внутри: 422 команды доступны через интерфейс, CLI и MCP. Агент может менять документ, проверять его структуру, рендерить страницы и сохранять результат. Это даёт возможность автоматизировать работу с документами через явные команды.
Пока альфа: совместимость со сложными
.docx, диаграммами и SmartArt ещё требует доработки. Но для экспериментов с документной автоматизацией проект уже любопытный.https://github.com/storytold/wordcraft
❤33👍26🔥23😁16💯13👏12🤔8🎉8
Anthropic втихую арендует мощности у бывшего биткоин-майнера IREN, а инференс может приносить ей до 85% маржи
По данным The Information, Anthropic подписала многолетний облачный контракт с IREN, о котором раньше не объявляли. Компания начинала с майнинга биткоина и теперь продаёт GPU-мощности под ИИ. В августе IREN раскрыла, что у неё появился безымянный клиент из числа frontier-лабораторий. Теперь известно, что один из таких клиентов это Anthropic.
The Information оценила дата-центр Anthropic в Луизиане на 245 МВт: при полной загрузке под инференс он может давать около $1,3 млрд выручки в месяц.
Аренда чипов обходится примерно в $200 млн в месяц, так что валовая маржа на инференсе выходит около 85%. Расходы на обучение моделей и всё остальное в этот расчёт не входят.
.
Источник: The Information
По данным The Information, Anthropic подписала многолетний облачный контракт с IREN, о котором раньше не объявляли. Компания начинала с майнинга биткоина и теперь продаёт GPU-мощности под ИИ. В августе IREN раскрыла, что у неё появился безымянный клиент из числа frontier-лабораторий. Теперь известно, что один из таких клиентов это Anthropic.
The Information оценила дата-центр Anthropic в Луизиане на 245 МВт: при полной загрузке под инференс он может давать около $1,3 млрд выручки в месяц.
Аренда чипов обходится примерно в $200 млн в месяц, так что валовая маржа на инференсе выходит около 85%. Расходы на обучение моделей и всё остальное в этот расчёт не входят.
.
Источник: The Information
🔥36❤32😁26💯25👏24👍22🎉22🤔20🤣1
⚡ Можно купить тысячи GPU, но дата-центру нужны стабильное питание и подключение к сети. Строительство электростанций, подстанций и линий передачи становится одним из главных ограничений роста.
Китай строит 38 ядерных реакторов общей мощностью около 43 ГВт, по данным World Nuclear Association. Это крупнейшая программа строительства АЭС в мире.
По оценке МЭА, потребление электричества дата-центрами для ИИ выросло на 50% за 2025 год. При этом нехватка сетевых мощностей тормозит подключение новых потребителей.
Следующий этап гонки ИИ будут определять и чипы, и способность быстро обеспечить их энергией. Масштаб китайского строительства даёт стране серьёзное преимущество.
https://x.com/Machinelearrn/status/2109585357226332353
Китай строит 38 ядерных реакторов общей мощностью около 43 ГВт, по данным World Nuclear Association. Это крупнейшая программа строительства АЭС в мире.
По оценке МЭА, потребление электричества дата-центрами для ИИ выросло на 50% за 2025 год. При этом нехватка сетевых мощностей тормозит подключение новых потребителей.
Следующий этап гонки ИИ будут определять и чипы, и способность быстро обеспечить их энергией. Масштаб китайского строительства даёт стране серьёзное преимущество.
https://x.com/Machinelearrn/status/2109585357226332353
👍25🔥18😁12❤10👏10🤔7💯4🎉3
📱 Мультимодальная модель на 35 млрд параметров работает на iPhone. Как?
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
❤15🔥13👍10💯8😁7👏4🎉1
🛡 Anthropic усложнила копирование Claude через его ответы
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
👍12🔥12❤6😁6💯6🎉5🤔4👏3😢1🥴1🤣1
ИИ-агент отвечает настолько точно, насколько готовы ваши данные. Как понять, что они готовы?
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
❤4🤣2😁1🤔1🎉1💯1