Machine learning Interview
30.3K subscribers
1.88K photos
166 videos
13 files
1.31K links
ИИ, Rust, вайбкодинг, Data Science, Deep Learning и делюсь тем, что интересно и полезно!

Вопросы - @workakkk

РКН: clck.ru/3FmwRz
Download Telegram
Теренс Тао:
«ИИ катком проходит по всей математике. Нам нужно замедлиться. Темп безумный».

Примерно через 10 дней OpenAI:

• создала независимую консультативную группу из математиков
• заявила, что новая модель решила более 100 давно открытых задач
• отдельно уточнила, что группа не будет советовать компании, как замедлять внутренний прогресс в математике

То есть математиков пригласили помогать с проверкой, публикацией и научными стандартами. Но не с темпом исследований.

Советоваться о последствиях будут. Замедляться не собираются. 😬

Заявление о 100 задачах пока принадлежит самой OpenAI. Независимая проверка результатов ещё впереди.

https://openai.com/index/advisory-group-on-mathematics-and-ai/
👍9🔥5🤔3❤1
В субботу, 17 октября, Москва станет точкой притяжения для всех специалистов в области RecSys 🔥

Конференция AI Driver & RecSys — главное событие года для тех, кто создаёт, исследует и развивает рекомендательные системы.

🔝 Весь день ведущие эксперты индустрии из крупнейших IT-компаний проведут на площадке Сбера, чтобы обсудить:
— главные тренды и вызовы RecSys
— реальные кейсы и новейшие исследования
— передовые IT-решения для рекомендательных систем

Вы сможете сами пообщаться с теми, кто создает рекомендации для миллионов пользователей.

📍Офис Сбер, Москва, Кутузовский проспект, 32.

Участие бесплатное!
Количество мест для очного участия ограничено – успейте оставить заявку по ссылке ⚡️
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍2
🚀 Claude Opus 5.5 — новый флагман Anthropic

Anthropic обновила свою самую мощную модель. Основной упор — код, агентные задачи, работа с инструментами и длинные сложные сценарии.

Что заявляет компания:

- более сильное агентное программирование
- лучше работает с большими кодовыми базами
- быстрее выполняет длинные многошаговые задачи
- улучшен computer use
- выше устойчивость к prompt injection
- ответы стали более короткими и естественными

По данным Anthropic, на типичных задачах Opus 5.5 примерно на 40% дешевле Opus 5, а генерация — более чем на 30% быстрее.

Из показательных примеров: модель использовали для миграции 680 000 строк кода менее чем за день, а в одном из внутренних тестов она переписала HAProxy с C на Rust за 9,5 часа.

API:
$4 за 1M входных токенов и $20 за 1M выходных.

https://www.anthropic.com/claude-opus-5-5
👍10🔥4❤2
Forwarded from Machinelearning
🌟 Samsone: открытые аудиоязыковые модели для смартфонов

Samsung опубликовали Samsone - семейство из трёх небольших аудиоязыковых моделей для работы на мобильных устройствах: Samsone-99M, Samsone-134M и Samsone-356M.

Проект будет участвовать в конференции Interspeech 2026, которая пройдет с 27 сентября по 1 октября в Сиднее.


Модели принимают один или несколько аудиофрагментов вместе с текстовым запросом и отвечают текстом: описывают звук, отвечают на вопросы о записи, сравнивают клипы между собой.

Заявлено понимание речи, музыки и звуки окружения. Отвечают модели только по-английски и строчными буквами - ради экономии параметров оставили в обучающих текстах только строчные символы ASCII и вычистили из словаря редкие токены.

Авторы предупреждают, что после дообучения на аудиовопросах модели теряют общие языковые навыки, так что это точечный инструмент, а не полноценный собеседник.

🟡Архитектура

Аудиоэнкодер Whisper-Tiny на 9 млн параметров, нелинейный проектор в пространство текстовых эмбеддингов и языковая модель SmolLM2 от Hugging Face на 135 или 360 млн параметров.

Каждый клип усредняется до 50 аудиотокенов, а разделитель SEP отделяет клипы друг от друга и от текста, поэтому аудио можно вставлять в любое место запроса.

🟡Тесты

На MMAU (10 тысяч вопросов о звуках, музыке и речи) Samsone-134M набирает 61,33% против 53,34% у прежнего лидера среди малых моделей Mellow на 167 млн параметров.

Это выше Qwen2-Audio-Instruct на 8,4 млрд параметров (57,4%) и на уровне Audio Flamingo 2 на 3 млрд (61,06%).


На речевой части результаты хуже. В более сложном MMAU-Pro расзница с Mellow составляет 10 пп (37,57% против 27,5%), здесь впереди Qwen2-Audio (45,41%) и GPT-4o Audio (52,5%).

На Galaxy S25 Ultra без аппаратных оптимизаций Samsone-99M генерирует 125 токенов в секунду, Samsone-134M - 87, Samsone-356M - 39.

Обработка аудио перед генерацией занимает от 0,7 до 1,1 секунды.

Веса для PyTorch, код обучения и экспорта, а также Android-приложение под Android 12 и новее выложены в репозитории проекта.


🟡Веса
🟡Arxiv
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #SALM #Samsone #Samsung
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🤝3👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Сразу три новых флагмана в гонке ИИ

За несколько недель рынок получил GPT-6 Astra, Grok 4.7 и Claude Opus 5.5.

• Grok 4.7 получил более крупную базовую модель, лучше работает с многочасовыми задачами и проверяет собственные результаты. Цена: $2 за вход и $6 за выход.

• Claude Opus 5.5 ориентирован на программирование и автономных агентов. По данным Anthropic, он на 30% быстрее Opus 5 и обходится на 40% дешевле в типичных задачах.

• GPT-6 Astra стал новым флагманом OpenAI для сложной профессиональной работы, исследований и использования инструментов.

Гонка теперь идет не только за интеллект, но и за скорость, автономность и стоимость выполнения реальных задач.

https://x.ai/news/grok-4-7

https://www.anthropic.com/claude-opus-5-5

https://openai.com/index/gpt-6-astra/
😁13❤3🔥3👍2
⚡️ Агенты научились улучшать собственную обвязку

RRSI оптимизирует не веса модели, а всю систему вокруг неё: промпты, инструменты, память, управление контекстом и логику выполнения задач.

Обычное самоулучшение быстро подгоняется под тесты. RRSI ограничивает число изменений, отсекает хаки под конкретный бенчмарк и удаляет дорогие или бесполезные компоненты.

Результат на 8 бенчмарках:

• до +14,1 пункта на обучающих задачах
• до +4,7 пункта на новых задачах
• на 30% меньше токенов

Практический RSI без переобучения самой модели.

https://huggingface.co/papers/2609.24972

https://github.com/google-research/rrsi
🔥9👍5❤2
🎉 Маленькая LLM может тратить больше времени на загрузку, чем на ответ.

Google изучила запуск квантованных моделей от 270 млн до 3,8 млрд параметров на Cloud Run с CPU. При «холодном старте» 55–70% задержки приходилось на загрузку модели: прежде чем генерировать токены, нужно перенести её веса в память.

Нашёлся и менее очевидный эффект Cloud Run: переход с 4 на 8 ГиБ памяти в тестируемой конфигурации давал вдвое больше vCPU и почти вдвое сокращал время инференса после загрузки модели.

Практический вывод для редких запросов к небольшой LLM: оптимизировать стоит весь путь до ответа — загрузку весов, конфигурацию инстанса и только потом генерацию.

https://research.google/pubs/cold-start-latency-of-quantized-small-language-models-on-serverless-cpu-infrastructure/
👍5❤4🆒1
⚡️ inclusionAI открыла две модели для генерации и редактирования дизайна

Ming-Image-0.1-Design создаёт интерфейсы, дашборды, инфографику и постеры с разрешением до 2048×2048. Модель хорошо работает с текстом и умеет сразу генерировать изображения с прозрачным RGBA-фоном.

Ming-Image-0.1-Design-Layer решает обратную задачу: разбирает готовую картинку на отдельные редактируемые RGBA-слои, сохраняя исходные пропорции.

Обе модели имеют 6 млрд параметров и опубликованы под лицензией MIT. Design лидирует среди моделей с открытыми весами в рейтинге UI/UX от Artificial Analysis, а Layer показала лучший результат во всех 12 тестах Crello.

https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design

https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design-Layer
❤3👍3
Размер – не главное?

У небольшой AliceAI-Foundation-80B-A3B-Base от Яндекса уже появились первые надстройки-эксперименты от сообщества на Hugging Face. Компания называет новинку  «экспериментальной основой для будущей единой рассуждающей модели», а в претрейне уже вшито рассуждение. 

Решение обучено с нуля, без использования весов других моделей, и доступно под лицензией Apache 2.0.

Модель построена на архитектуре MoE:

• 80 млрд параметров
• около 3 млрд активных параметров при генерации
• претрейн на 17,5 трлн токенов
• контекст до 256K+ токенов

Особое внимание уделили русскому языку, математике, программированию, медицине, российскому праву и фактологическим знаниям.
🤣17🔥14👏5🥰3
🤖 Microsoft открыла данные, на которых можно учить ИИ управлять роботом.

Датасет libero-data-for-rho содержит 282 тысячи записей из задач LIBERO: в каждой есть состояние робота, следующее действие, временная метка и номер задачи. Рядом Microsoft опубликовала 5-миллиардную модель `rho-libero` для роботизированных манипуляций.

Это материал для экспериментов с тем, как робот связывает наблюдение с движением. Лицензия датасета — MIT; подробное описание его подготовки в карточке пока не опубликовано.

Датасет - https://huggingface.co/datasets/microsoft/libero-data-for-rho

Модель - https://huggingface.co/microsoft/rho-libero
🔥13❤1🥰1