Data Secrets
92.5K subscribers
7.26K photos
828 videos
20 files
3.31K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
Дженсен Хуанг собирается создать открытую модель, которая составит конкуренцию китайскому опенсорсу

Nvidia вкладывает в эту идею порядка 7 миллиардов долларов.

Они заключили крупную сделку со стартапом Poolside, который занимается разработкой собственных моделей (в основном для кодинга). Кстати, создатель Poolside Джейсон Уорнер в прошлом был CTO GitHub и выпустил Copilot.

За 6 миллиардов Nvidia получает эксклюзивную лицензию на технологию Poolside + забирает на свои проекты большинство сотрудников, но при этом стартап формально продолжает существовать как независимая компания. Кроме того, Nvidia вкладывает сверху миллиард долларов в виде инвестиции (сама Poolside сейчас оценивается примерно в 12 миллиардов).

Собственно, с помощью полученной технологии и порядка ста сотрудников Poolside Nvidia собирается поднять с колен Nemotron – свою линейку открытых моделей. Цель – выпустить модель, которая могла бы составить конкуренцию DeepSeek и Moonshot.

Poolside, когда уведомляли акционеров о реорганизации компании, отметили, что "эта сделка призвана не дать ИИ стать закрытой технологией, контролируемой узким кругом людей". Звучит альтруистично, но для Хуанга, конечно, мотив не только в том, чтобы вывести американский опенсорс на новый уровень.

Ему важно оставаться монополистом, и он видит открытые веса как инфраструктурный рычаг, укрепляющий зависимость мира от его GPU. Китайцы разрабатывают собственные чипы, круные ИИ-игроки – тоже. А открытая модель, которая оптимизирована только под железо Nvidia, и которую тысячи компаний по всему миру разворачивают на своей инфраструктуре – это отличный способ сохранить больше рынка.
1👍16635💯21😁98🔥4🏆2🤗2🗿2🤔1
Data Secrets
Дарио Амодеи переживает, что новые сотрудники все чаще приходят в компанию ради зарплаты, а не из-за приверженности миссии Anthropic 😭 Об этом сообщает Axios со ссылкой на анонимный источник: CEO якобы выразил такую обеспокоенность во внутреннем письме самим…
На собеседовании в Anthropic кандидатов спрашивают, как бы они отреагировали, если бы акции компании обрушились до нуля

Что ни день – то очередной прикол от Дарио Амодеи. Еще недавно он был недоволен, что сотрудники приходят работать за зарплату, а не ради миссии. Теперь же, видимо, эта позиция отразилась и на процессе найма.

В Anthropic есть отдельное culture interview, где кандидатам теперь задают вопросы о приоритете миссии над будущей стоимостью акций.

Один из кандидатов рассказал, что его напрямую спросили, как бы он отреагировал, если бы компания в какой-то момент отказалась от развития AI-амбиций по соображениям безопасности, и это обрушило бы акции до нуля.

Кандидат честно ответил, что не был бы рад, и, по его словам, интервьюеру такой ответ не понравился. Другие кандидаты также вспоминают подобные формулировки.

Прекрасные вопросы на собеседовании компании, которая скоро выходит на IPO, не так ли? 🚬
Please open Telegram to view this post
VIEW IN TELEGRAM
😁27138354🤨4😍3👍21🔥1🏆1🫡1
This media is not supported in your browser
VIEW IN TELEGRAM
У российских сайтов массово отзывают сертификаты безопасности. Разбираемся, что это значит, и как справляться.

Не так давно вступили в силу новые правила международного консорциума CA/Browser Forum. Это организация, которая устанавливает стандарты для всех удостоверяющих центров в мире.

На фоне этого часть сертификатов у российских сайтов начали отзывать, и разработчики стали переходить на российские сертификаты – их выдает Национальный удостоверяющий центр. Но проблема не решилась: после этого в большинстве браузеров сайты перестали открываться.

Дело в том, что когда браузер открывает защищенный сайт (https), он проверяет сертификат и выпустивший его удостоверяющий центр. У каждого браузера – свой список доверенных УЦ, зашитый внутри. Если сертификат сайта выпущен центром, который не нашелся в этом списке, браузер показывает предупреждение или блокирует доступ. Не потому что сайт опасный, а потому что браузер просто не знает соответствующий УЦ.

Именно поэтому один и тот же сайт может открываться в одном браузере, и не открываться – в другом. В Яндекс Браузере список доверенных УЦ шире, и туда изначально включены и российские сертификаты. Поэтому там все работает из коробки, и пользователи сохраняют доступ к ресурсу без сбоев.

Кроме того, владельцы сайтов с сертификатами НУЦ также могут проверить в публичном CT-логе Яндекса, когда и кем был выпущен сертификат для их ресурса. Это помогает убедиться, что сертификат настоящий и был выпущен с ведома владельца сайта.
😁15864🗿29👍15🫡8😭74🔥3🎉3🎄1🦄1
This media is not supported in your browser
VIEW IN TELEGRAM
Кадры с World Humanoid Robot Games в Пекине можно разбирать на мемы бесконечно

Вес на видео 16кг, если что 💪
Please open Telegram to view this post
VIEW IN TELEGRAM
😁297🔥32👍14🏆5221👏1👌1💯1😭1
Хайп зашел слишком далеко: прокуратура Алабамы расследует инцидент со взломом Hugging Face

Генпрокурор штата уже выдал OpenAI повестку, в которой запрошены все документы, данные и информацию о взломе в июле, включая данные всех сотрудников OpenAI, причастных к инциденту + материалы об обнаружении компанией взлома + данные о мерах безопасности во время тестирования моделей.

В рамках расследования могут доказать, что OpenAI нарушила Deceptive Trade Practices Act штата, местный закон о защите прав потребителей. Вследствие этого генпрокурор может даже добиться временного или постоянного запрета на определенную деятельность компании.
162😁70👍3115🤯5🗿5🔥4😍3🕊2💯2
Сбер открыл доступ к новому поколению моделей GigaEmbeddings
 
Линейка включает три модели разного размера: 480M, 3B и 10B-A1.8B. Они переводят тексты в числовые векторы для семантического поиска, построения RAG-систем (Retrieval-Augmented Generation), классификации и кластеризации.
 
Команда разработки изменила архитектуру модели, чтобы упростить интеграцию со стандартными открытыми инструментами. На vLLM GigaEmbeddings 3B работает в 1,6 раза быстрее предыдущей версии, а 10B-A1.8B — в 2 раза.
 
Объём данных для обучения увеличился в несколько раз. В частности, за счёт открытых датасетов Nemotron, F2LLM и KALM.
 
На всех этапах применяли мержинг экспертов для сохранения языкового баланса. Самую компактную модель обучали с помощью дистилляции: она усваивала ответы более крупных и точных моделей.
 
По результатам тестов 10B-A1.8B заняла первое место в рейтинге ruMTEB. У модели 3B качество обработки кода выросло на 14,5 пункта. При этом самая компактная модель 480M стала лучшей на русском языке среди решений до 500 млн параметров.
 
Ищите веса под лицензией MIT на GitVerse и HuggingFace.
Модели бесплатно доступны разработчикам и бизнесу под открытой MIT-лицензией:

HF: 480M | 3B | 10B-A1.8B
Gitverse: 480M | 3B | 10B-A1.8B
 
Подробности читайте в посте команды ↖️
2🗿86👍65🔥1413😁113🎉1🕊1🫡1🎄1
Архитектура Qwen-4 уже почти здесь

Model Scope запустили отсчет до выхода Qwen3.8-Flash-Next. Ее релизнут ровно через сутки, и это будет первая модель, построенная на архитектуре следующего поколения, на которой будет также основан Qwen-4.

Пока деталей нет, пишут только, что изменения затронут внимание, residual-связи, эмбеддинг-слои и оптимизацию.

https://modelscope.cn/models/Qwen/Qwen3.8-Flash-Next/summary
🔥13135😍11👍1😁1🤔1🎉1💯1
Data Secrets
⚡️ OpenAI сделали собственный чип Архитектура разработана с нуля вместе с Broadcom, а назвали чип Jalapeño. Предназначен халапеньо специально для инференса LLM и соответсвующих систем а-ля Codex. Сейчас чип проходит стадию тестирования, но ранние внутренние…
Новые замеры собственного чипа OpenAI

https://openai.com/index/jalapeno-first-results/

Заявляют, что Халапеньо превосходит Nvidia GB200 и GB300 по скорости и эффективности. Для высоко интерактивных нагрузок говорят о производительности в 2,1–4,1 раза выше.

Начать использовать планируют уже в конце 2026
🤯87217🤩5😁332🕊22🤔1🎉1
Нейросеть в роли ИБ-специалиста: GigaChat 3.5 Ultra успешно сдал профессиональный экзамен

Модель ответила на 250 вопросов итогового теста программы «Информационная безопасность», превысив проходной балл на 14%. Знания проверяли специалисты УЦ «Информзащита» и департамента кибербезопасности Сбербанка.

Нейросеть обучали на массиве из более чем 300 тыс. документов, среди которых:
• лучшие практики ИБ и законодательство
• описания уязвимостей
• тактики и техники кибератак

Такой уровень знаний делает GigaChat 3.5 Ultra инструментом для реальных сценариев. Бизнесу без штатного безопасника он послужит первой линией консультаций по защите данных + профильным специалистам поможет в подготовке документов и управлении инцидентами.
😁152🗿3322🔥189🫡6🎉2😎2🤔1😢1🍓1
Apple выпустили M6 и M5 Ultra

Цены сильно выросли, но приросты в метриках есть.

M6 – базовый чип, 12-core CPU, 12-core GPU, сдвоенный 16-core Neural Engine, до 32 ГБ unified memory, до 170 ГБ/с bandwidth. По цифрам Apple до 4.8x быстрее prompt processing, чем на M4. При 32 ГБ комфортно живут модели 7B–14B, квантованные 27-32B (Gemma 3, Qwen) тоже влезают. Mac mini с M6 от $899.

M5 Pro (тоже в Mac mini, старшая конфигурация) – до 18-core CPU, 20-core GPU, до 64 ГБ памяти, 307 ГБ/с. Норм для квантованных 70B-моделей (Llama 3 70B в 4-bit – это ~40 ГБ). Цена от $1699.

M5 Ultra (Mac Studio) – уже совсем другая весовая категория: до 36-core CPU, 80-core GPU, до 512 ГБ памяти, 1.2 ТБ/с bandwidth. Позволяет держать в памяти хорошие крупные модели, включая тяжёлые MoE. От $5499, а топовая конфигурация – за $18 000.

Так что полноценные 70B locally все-таки пока не выйдет, если вы случайно не Скрудж Макдак
😁7329🔥14👍9😍2🍓21
This media is not supported in your browser
VIEW IN TELEGRAM
FigureAI собирают самый гигантский и разнообразный в мире датасет для обучения роботов

https://www.figure.ai/news/introducing-index

Оказывается, стартап 4 месяца в закрытом режиме тестировал приложение Index, через которое обычные люди записывают видео повседневных задач и получают за это деньги.

За это время компания заплатила пользователям уже 15 миллионов долларов, приложение скачали более 264 000 в 100+ странах. WAU – примерно 44к человек.

Собрано на данный момент более 15 миллионов роликов, каждую секунду приложение обрабатывает 30 минут видео. Это почти 5 лет человеческого труда в день. На этих данных уже обучают Helix, и в блоге написано, что разработчики «наблюдают существенные результаты в генерализации».

Figure заявляют, что планируют нарастить сбор еще в 100 раз и потратить >$1 млрд на данные и вычисления в следующем году. Масштаб!

Само приложение уже есть в AppStore и GooglePlay
45👍14🤯8🔥3😁2🤔22😍1🏆1😎1