🦀 Burn 0.22: меньше дженериков, быстрее сборка и почти вдвое меньше VRAM в тесте CNN.
Фреймворк глубокого обучения на Rust убрал параметр бэкенда из пользовательских моделей:
Теперь место и способ выполнения выбираются через
Пересборка после правки модели в замерах команды:
• CNN: 28,42 → 4,57 с, ускорение в 6,2 раза.
• Transformer: 14,73 → 1 с, ускорение в 14,7 раза.
В тесте обучения CNN на RTX 4050 Laptop, FP32 пропускная способность выросла на 80%, а пиковая VRAM после прогрева снизилась с 956 до 486 МиБ. Для Transformer экономия памяти составила около 18%. Это результаты конкретных тестовых моделей.
Также добавили LoRA и QLoRA, раннюю поддержку экспорта в ONNX, удалённые вычисления и повторное исполнение GPU-графов.
Обновление ломает совместимость API: Candle удалён, NdArray и LibTorch объявлены устаревшими.
https://tracel.ai/blog/release-0.22.0/
@machinelearning_ru
Фреймворк глубокого обучения на Rust убрал параметр бэкенда из пользовательских моделей:
// Было
struct Model<B: Backend> {
linear: Linear<B>,
}
// Стало
struct Model {
linear: Linear,
}
Теперь место и способ выполнения выбираются через
Device. Изменение модели затрагивает меньше кода при перекомпиляции.Пересборка после правки модели в замерах команды:
• CNN: 28,42 → 4,57 с, ускорение в 6,2 раза.
• Transformer: 14,73 → 1 с, ускорение в 14,7 раза.
В тесте обучения CNN на RTX 4050 Laptop, FP32 пропускная способность выросла на 80%, а пиковая VRAM после прогрева снизилась с 956 до 486 МиБ. Для Transformer экономия памяти составила около 18%. Это результаты конкретных тестовых моделей.
Также добавили LoRA и QLoRA, раннюю поддержку экспорта в ONNX, удалённые вычисления и повторное исполнение GPU-графов.
Обновление ломает совместимость API: Candle удалён, NdArray и LibTorch объявлены устаревшими.
https://tracel.ai/blog/release-0.22.0/
@machinelearning_ru
🔥5❤4👍2
Трюк Карпаты сработал: локальная LLM на Mac M5 выдает 117 токенов в секунду
Как open-source движок Uzu от Mirai обходит потолок пропускной способности памяти на Apple M5 и разгоняет Qwen3.5 9B с 22 до 117 токенов в секунду: квантизация, спекулятивный декодинг, Weaver и бенчмарк против llama.cpp и MLX.
https://uproger.com/uzu-uskorenie-lokalnyh-llm-apple-m5/
Как open-source движок Uzu от Mirai обходит потолок пропускной способности памяти на Apple M5 и разгоняет Qwen3.5 9B с 22 до 117 токенов в секунду: квантизация, спекулятивный декодинг, Weaver и бенчмарк против llama.cpp и MLX.
https://uproger.com/uzu-uskorenie-lokalnyh-llm-apple-m5/
❤13👍4
🚨 Palantir оспаривает роль ИИ в ударе по школе в Минабе.
Технический директор компании Шьям Санкар назвал ошибочным сообщение Bloomberg о чрезмерном доверии военных системе Maven. По его версии, вероятная причина трагедии связана с человеческой ошибкой.
После удара Palantir добавила ИИ-агентов для дополнительных проверок. Итоговый отчёт расследования ещё не опубликован, поэтому заявление Санкара остаётся позицией компании.
По словам Санкара, отказ от Claude не повлиял на операции: доступны альтернативы, включая OpenAI, xAI и NVIDIA Nemotron.
https://www.cbsnews.com/news/shyam-sankar-chief-technology-officer-palantir-face-the-nation-transcript-10-11-2026/
Технический директор компании Шьям Санкар назвал ошибочным сообщение Bloomberg о чрезмерном доверии военных системе Maven. По его версии, вероятная причина трагедии связана с человеческой ошибкой.
После удара Palantir добавила ИИ-агентов для дополнительных проверок. Итоговый отчёт расследования ещё не опубликован, поэтому заявление Санкара остаётся позицией компании.
По словам Санкара, отказ от Claude не повлиял на операции: доступны альтернативы, включая OpenAI, xAI и NVIDIA Nemotron.
https://www.cbsnews.com/news/shyam-sankar-chief-technology-officer-palantir-face-the-nation-transcript-10-11-2026/
❤2👍2🔥2
🛡 Anthropic усложнила обучение чужих моделей на рассуждениях Claude
По оценке компании, новая защита сократила объём извлекаемых рассуждений на её платформе на 90–99%.
Для дистилляции особенно ценны подробные цепочки решения: другую модель обучают не только ответам, но и тому, как они получены.
Anthropic ограничила перенос рассуждений между аккаунтами и моделями, внедрила классификаторы попыток извлечения и усилила блокировки.
Разница заметна: в эксперименте обучение на полных рассуждениях дало 80,4% на SWE-bench Verified, а на сокращённых версиях лишь 71,8%.
Защита затронула и обычных разработчиков: некоторым пришлось обновить интеграции. Возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже берут плату.
Компания признаёт: борьба продолжается, и пока неизвестно, как долго продержится этот результат.
https://www.anthropic.com/research/distillation-defenses
По оценке компании, новая защита сократила объём извлекаемых рассуждений на её платформе на 90–99%.
Для дистилляции особенно ценны подробные цепочки решения: другую модель обучают не только ответам, но и тому, как они получены.
Anthropic ограничила перенос рассуждений между аккаунтами и моделями, внедрила классификаторы попыток извлечения и усилила блокировки.
Разница заметна: в эксперименте обучение на полных рассуждениях дало 80,4% на SWE-bench Verified, а на сокращённых версиях лишь 71,8%.
Защита затронула и обычных разработчиков: некоторым пришлось обновить интеграции. Возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже берут плату.
Компания признаёт: борьба продолжается, и пока неизвестно, как долго продержится этот результат.
https://www.anthropic.com/research/distillation-defenses
❤5🔥4👍3
Kandinsky 6.0 Video — новая линейка моделей генерации видео со звуком
Модели генерируют видео с диалогами, музыкой и звуками окружения. Аудиодорожка синхронизирована с происходящим в кадре, движения губ персонажей совпадают с речью. Это первая российская нейросеть, генерирующая видео с синхронным звуком.
— Флагман новой линейки, Kandinsky 6.0 Video Pro — показывает качество на уровне Veo 3.1 Audio, а среди открытых моделей уступает только MiniMax H3, достигая паритета с LTX 2.5.
— Есть компактная Video Lite (3B) для запуска дома — доступны пресеты для видеокарт с 16–32 ГБ VRAM.
Веса моделей доступны на Hugging Face, код — на GitHub и на GitVerse. Также опубликован подробный технический отчёт с описанием архитектуры, данных, процесса обучения и результатов тестирования. Модель можно попробовать бесплатно в ГигаЧате в разделе генерации видео.
Модели генерируют видео с диалогами, музыкой и звуками окружения. Аудиодорожка синхронизирована с происходящим в кадре, движения губ персонажей совпадают с речью. Это первая российская нейросеть, генерирующая видео с синхронным звуком.
— Флагман новой линейки, Kandinsky 6.0 Video Pro — показывает качество на уровне Veo 3.1 Audio, а среди открытых моделей уступает только MiniMax H3, достигая паритета с LTX 2.5.
— Есть компактная Video Lite (3B) для запуска дома — доступны пресеты для видеокарт с 16–32 ГБ VRAM.
Веса моделей доступны на Hugging Face, код — на GitHub и на GitVerse. Также опубликован подробный технический отчёт с описанием архитектуры, данных, процесса обучения и результатов тестирования. Модель можно попробовать бесплатно в ГигаЧате в разделе генерации видео.
❤4👍3🔥3👎1
Родриго Серран разобрал в своём блоге пять нововведений Python 3.15, которые ему кажутся самыми интересными. Собрали их суть.
Ленивые импорты (PEP 810). Появилось ключевое слово lazy: помеченный модуль не загружается, пока имя реально не понадобилось. Отличный способ ускорить медленный старт приложения, особенно с тяжёлыми зависимостями.
lazy import json
lazy from math import sqrt
Встроенный frozendict (PEP 814). Неизменяемый и хешируемый словарь. Поменять или удалить ключ нельзя, прилетит TypeError, зато его можно использовать как ключ другого словаря или элемент множества.
version_info = frozendict({"major": 3, "minor": 15, "patch": 0})
version_info["patch"] += 1 # TypeError
Встроенный sentinel (PEP 661). Именованные заглушки, которые невозможно спутать с нормальными значениями вроде None. Удобно, когда None это валидный аргумент, а отличить «не передано» всё равно нужно. Печатают своё имя и образуют собственный тип, так что аннотации остаются чистыми.
NOTHING = sentinel("NOTHING")
if find_and_return(dataset, filter_function) is NOTHING:
print("Никто не подошёл под условие")
Распаковка внутри comprehension (PEP 798). Теперь звёздочку можно использовать прямо в list, dict, set и генераторных выражениях. Нового поведения не добавляет, но заменяет вложенные циклы на короткую строку.
flat = [*sub for sub in nested]
Профайлер Tachyon (PEP 799). Высокочастотный сэмплирующий профайлер прямо в стандартной библиотеке: до миллиона замеров в секунду. Может профилировать скрипт или подключаться к уже запущенному процессу с минимальными накладными расходами.
python -m profiling.sampling run script.py
python -m profiling.sampling attach 12345
Источник: https://mathspp.com/blog/the-5-most-exciting-new-features-of-python-315
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4👍2
Сравните модели GigaChat на своей задаче в GigaPlatform AI Studio
Это среда, в которой можно менять настройки моделей и проверять ответы на своих запросах.
В AI Studio можно:
• Сравнить ответы двух моделей на одном запросе.
• Сравнить ответы при разной температуре.
• Настроить системный промпт и проверить его на нескольких запросах.
• Сохранить промпт и историю диалога в JSON.
Пять рабочих сценариев разобрали в статье.
Попробуйте AI Studio бесплатно и без ВПН.
Это среда, в которой можно менять настройки моделей и проверять ответы на своих запросах.
В AI Studio можно:
• Сравнить ответы двух моделей на одном запросе.
• Сравнить ответы при разной температуре.
• Настроить системный промпт и проверить его на нескольких запросах.
• Сохранить промпт и историю диалога в JSON.
Пять рабочих сценариев разобрали в статье.
Попробуйте AI Studio бесплатно и без ВПН.
👎4👍2
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
Стартап рассчитывает переделать Sora в профессиональный инструментарий для кинематографистов, а OpenAI взамен получит долю в компании. Передача весов пока обсуждается, зато позволит лаборатории монетизировать замороженный проект.
Развитие Sora свернули из-за вычислительных расходов, по оценкам ежедневные убытки доходили до 1 млн долларов. После отмены возможной сделки с Disney на 1 млрд компания весной отключила веб-клиент, а в сентябре закрыла доступ к API.
Освободившиеся ускорители ушли на обучение моделей для кодинга и поддержку ChatGPT, а инфраструктурные риски генеративного видео теперь берёт на себя проект бывшего руководителя разработки Sora.
theinformation.com
В Yau Laboratory Alliance for Mathematics and Artificial Intelligence вошли восемь научных центров и больше тысячи учёных, инициатором выступил лауреат Филдсовской премии Шинтан Яу.
Цель в том, чтобы сократить технологическое отставание от США в фундаментальных науках. Заниматься альянс будет архитектурами для генерации гипотез, формализации доказательств и выстраивания цепочек рассуждений, а команды сосредоточатся на математических наборах данных и инструментах проверки.
Внедрение ИИ исследователи называют неизбежной сменой научной парадигмы и противопоставляют свой подход скепсису части академического сообщества, в том числе призывам филдсовского лауреата Теренса Тао повременить с генеративными алгоритмами.
scmp.com
Решение разработчик диалоговой платформы объясняет возросшим регуляторным, юридическим и операционным давлением, покупателя ищет через судебный аукцион.
Первым претендентом выступила The Walt Disney Company, предложившая 20 млн долларов за бессрочную неэксклюзивную лицензию и обязавшаяся дать техподдержку силами бывших разработчиков стартапа, ранее переманенных в штат.
Суд рассмотрит и заявки сторонних претендентов, готовых перебить ставку, завершить продажу планируют к началу декабря. До конца торгов платформа работает, но если новый владелец откажется её поддерживать, проект закроют.
businesswire.com
На OCP Global Summit компания передала в открытый фонд OCP спецификации вычислительных полок и стоек на архитектуре MGX 1.2.
Стандарт рассчитан на сверхплотные кластеры до 250 кВт на стойку и унифицирует прямое жидкостное охлаждение, шинопровод на 5000 А и питание 800 В постоянного тока. Открыта и архитектура процессоров Vera для координации агентных систем, так что OEM-производители смогут собирать совместимое оборудование без проприетарных документов.
Вместе с Google и AMD опубликован стандарт Open Data Center v0.7, а в открытый доступ выложены утилиты DSX OS для автоматизации развёртывания и проверки кластеров перед обучением.
nvidia.com
На большинстве из 94 действующих энергоблоков США языковые модели для работы с документацией уже используют или тестируют. Они составляют отчёты, разбирают данные о прошлых инцидентах и готовят инструкции по ремонту узлов. Разрабатывают их стартапы Atomic Canyon и Nuclearn, обучая на массиве регламентов NRC и закрытых базах знаний энергетических институтов.
Причины внедрения две, это отток опытных инженеров и бюрократические требования к проверке каждого технического шага. Ради стандартов безопасности системы ставят на серверах самих площадок или в защищённых ведомственных средах с разграничением доступа.
Автоматизация управления реакторами запрещена, алгоритмы работают только как поисковые и аналитические помощники, окончательное решение всегда принимает инженер.
ieee.org
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Сравните модели GigaChat на своей задаче в GigaPlatform AI Studio
Это среда, в которой можно менять настройки моделей и проверять ответы на своих запросах.
В AI Studio можно:
• Сравнить ответы двух моделей на одном запросе.
• Сравнить ответы при разной температуре.
• Настроить системный промпт и проверить его на нескольких запросах.
• Сохранить промпт и историю диалога в JSON.
Пять рабочих сценариев разобрали в статье.
Попробуйте AI Studio бесплатно и без ВПН.
Это среда, в которой можно менять настройки моделей и проверять ответы на своих запросах.
В AI Studio можно:
• Сравнить ответы двух моделей на одном запросе.
• Сравнить ответы при разной температуре.
• Настроить системный промпт и проверить его на нескольких запросах.
• Сохранить промпт и историю диалога в JSON.
Пять рабочих сценариев разобрали в статье.
Попробуйте AI Studio бесплатно и без ВПН.
AI VK Reserach масштабировали графовые нейросети для рекомендаций
Исследователи представят на конференции CIKM 2026 метод масштабирования графовых нейросетей (GNN). Решение протестировали на социальном графе из 194 млн пользователей и 28 млрд связей. В A/B-тесте количество добавлений в друзья из рекомендаций выросло на 16%.
Графовые нейросети анализируют связи между пользователями и их социальное окружение, чтобы предсказывать новые знакомства. Основная сложность — обучение таких моделей на графах с сотнями миллионов пользователей и миллиардами связей.
Для масштабирования исследователи предложили два подхода:
• Multi-Hash User Embeddings — вместо хранения отдельного эмбеддинга для каждого пользователя применяются несколько хеш-функций и общая таблица векторов. Это позволило сократить потребление видеопамяти со 203 до 2 ГБ, более чем в 100 раз.
• Temporal Neighbor Sampling — алгоритм учитывает время появления социальных связей и исключает использование будущих данных при обучении. Оптимизация ускорила семплирование в 2,5 раза.
📊 В двухнедельном A/B-тесте относительно предыдущей модели ранжирования получили:
+16% добавлений в друзья из рекомендаций
+11,5% пользователей, добавивших хотя бы одного рекомендованного друга
При этом задержки онлайн-ранжирования не увеличились.
Исследование: Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling, основной трек CIKM 2026.
Исследователи представят на конференции CIKM 2026 метод масштабирования графовых нейросетей (GNN). Решение протестировали на социальном графе из 194 млн пользователей и 28 млрд связей. В A/B-тесте количество добавлений в друзья из рекомендаций выросло на 16%.
Графовые нейросети анализируют связи между пользователями и их социальное окружение, чтобы предсказывать новые знакомства. Основная сложность — обучение таких моделей на графах с сотнями миллионов пользователей и миллиардами связей.
Для масштабирования исследователи предложили два подхода:
• Multi-Hash User Embeddings — вместо хранения отдельного эмбеддинга для каждого пользователя применяются несколько хеш-функций и общая таблица векторов. Это позволило сократить потребление видеопамяти со 203 до 2 ГБ, более чем в 100 раз.
• Temporal Neighbor Sampling — алгоритм учитывает время появления социальных связей и исключает использование будущих данных при обучении. Оптимизация ускорила семплирование в 2,5 раза.
📊 В двухнедельном A/B-тесте относительно предыдущей модели ранжирования получили:
+16% добавлений в друзья из рекомендаций
+11,5% пользователей, добавивших хотя бы одного рекомендованного друга
При этом задержки онлайн-ранжирования не увеличились.
Исследование: Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling, основной трек CIKM 2026.
🔥1