Epiplexity: Quantifying the Structural Value of Data for Bounded Observers
Marc Finzi, Shikai Qiu, Yiding Jiang, Pavel Izmailov, J. Zico Kolter, Andrew Gordon Wilson
Статья: https://arxiv.org/abs/2601.03220
Ревью: https://arxiviq.substack.com/p/from-entropy-to-epiplexity-rethinking

Ну и вечерние новости. Коротко о погоде в нашем регионе и ситуации на улице )))

❗️Генетические тесты для будущих родителей стали бесплатными в РФ, сообщила ТАСС главный внештатный специалист Минздрава по репродуктивному здоровью женщин Долгушина.

Тестирование на моногенные заболевания и структурные хромосомные перестройки с 2026 года включили в программу госгарантий бесплатного оказания медпомощи.

Глава Пентагона Пит Хегсет заявил, что чат-боты Grok и Google Gemini до конца января будут запущены в Минобороны США

Нейросетям предоставят «все необходимые данные» из военных IT-систем, включая базы данных разведки. Господин Хегсет также отметил, что модели искусственного интеллекта «будут внедрены во все несекретные и секретные сети» оборонного ведомства.

🚀 Новый подход к условной памяти: Engram от DeepSeek 🧠

💡 DeepSeek представил новую работу, посвященную решению проблемы эффективного хранения и извлечения знаний в больших языковых моделях (LLM).

Проще говоря, это попытка дать модели «встроенную энциклопедию», к которой она может обращаться мгновенно, освобождая вычислительные ресурсы для сложных рассуждений.

🔍 В чём проблема современных LLM?
Современные большие модели вроде GPT-4 или Gemini используют смесь экспертов (MoE) для экономии вычислений. Это называется «условные вычисления»: для каждого запроса активируется только часть параметров модели.

Но у Transformers до сих пор нет эффективного встроенного механизма для быстрого поиска готовых знаний. Модели вынуждены «изображать» поиск по памяти через медленные последовательные вычисления.

💡 Решение от DeepSeek: Engram
Новый модуль Engram — это и есть та самая «условная память». Его задача — хранить статические знания (факты, шаблоны) отдельно от динамической логики рассуждений.

Как это работает (упрощённо):
1. Для текущего слова или фразы (N-gram) модель вычисляет уникальный хэш (цифровой отпечаток).
2. По этому хэшу из специальной таблицы (памяти Engram) мгновенно (O(1)) извлекается заранее сохранённый вектор знаний.
3. Этот вектор корректируется с учётом контекста и добавляется к основным вычислениям модели.

📈 Экспериментальные результаты:
- Engram-27B и Engram-40B показали значительное улучшение на различных бенчмарках, включая MMLU (+3.4), CMMLU (+4.0), BBH (+5.0), ARC-Challenge (+3.7) и другие.
- В задачах с длинными контекстами, Engram также демонстрирует превосходство, например, точность Multi-Query NIAH увеличилась с 84.2 до 97.0.

🚀 Что это значит?
Работа явно указывает на архитектуру DeepSeek v4. Это будет гибридная модель, сочетающая:
1. Условные вычисления через MoE (для эффективности).
2. Условную память через Engram (для знаний и скорости их извлечения).

GitHub

#КитайскийИИ #КитайAI #УсловнаяПамять #Engram

Лол: безработных нанимают, чтобы они обучали ИИ, который потом заберёт их работу.

Схема простая: ты был видеоредактором, журналистом или юристом — теперь ты сидишь и проверяешь, как ИИ пишет тексты, ставит субтитры и анализирует данные. По факту ты становишься наставником для своего будущего цифрового заменителя.

Mercor уже набрал десятки тысяч подрядчиков и работает с крупными ИИ-компаниями. Но есть нюанс: проекты могут резко закончиться, людей увольняют, а потом снова набирают — иногда уже за меньшие денюжки.

Какой-то сюр, в пересчете на текущие процессы создается впечатление, что hr просто утопают в деньгах, ведь уволить и нанять это же дорого, или я чего-то не понимаю, плюс еще момент на отбивку денег при найме. Либо рынок настолько пресыщен, что без разницы кого нанимать и так покатит. Больше у меня идей нет )))

Soprano — это ультра-лёгкая on-device модель text-to-speech (TTS), созданная для выразительного, высокоточного синтеза речи с беспрецедентной скоростью. Soprano была спроектирована со следующими особенностями:

* До 2000x real-time generation на GPU и 20x real-time на CPU
* Lossless streaming с задержкой менее 15 ms на GPU и менее 250 ms на CPU
* Менее 1 GB memory usage благодаря компактной архитектуре на 80M parameters
* Infinite generation length с автоматическим text splitting
* Высокая выразительность и кристально чистая генерация аудио с частотой 32kHz
* Широкая поддержка CUDA, CPU и MPS devices на Windows, Linux и Mac
* Поддержка WebUI, CLI и OpenAI-compatible endpoint для простого и production-ready inference

HF: https://huggingface.co/ekwek/Soprano-80M
Demo: https://huggingface.co/spaces/ekwek/

Оно как бы да))) Но как бы и нет ))))

3D-аватары стало почти невозможно отличить от реальных людей.

Нейросеть Kling Motion Control научилась не только фотореалистично анимировать персонажей, но и точно учитывать физику — от движения волос до складок на одежде.

Оно конечно палится, но очень круто.

P.S. Цепочка на шее не прорисовывается хорошо )) и еще пара штук

Грамм SSD стал дороже золота на фоне ИИ-бума и дефицита памяти: 8-терабайтный NVMe-накопитель весит около 8 граммов и стоит $1500 и выше, тогда как золото сейчас оценивается примерно в $148 за грамм — слиток того же веса обошёлся бы около $1150, при этом эксперты ожидают, что старые партии по прежним ценам исчезнут в ближайшие месяцы, а большие и быстрые SSD окончательно станут предметом роскоши.