Анонимный телеграм-канал
39 subscribers
1.56K photos
478 videos
11 files
1.13K links
Download Telegram
Cerebras выкатила сервис с самым быстрым инференсом Llama 3.1 (~2k tk/s для 70B и ~1k для 405B).

Выглядит и правда круто, хотя понятно, что в ближайшем будущем все платформы будут предоставлять возможность практически мгновенного вывода — когда-то и картинки абсурдно долго загружались dialup-модемами.

🔗 cerebras.ai/inference

#LLM #Llama
Как доставляют причальные краны (в случае с первой пикчей — аж из Китая в Ливерпуль!)

🔗 investliverpool.com/news
🤔1
We present DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.

We pre-train DeepSeek-V3 on 14.8 trillion diverse and high-quality tokens, followed by Supervised Fine-Tuning and Reinforcement Learning stages to fully harness its capabilities.

Comprehensive evaluations reveal that DeepSeek-V3 outperforms other open-source models and achieves performance comparable to leading closed-source models. Despite its excellent performance, DeepSeek-V3 requires only 2.788M H800 GPU hours for its full training.

🔗 github.com/deepseek-ai

#LLM #GenAI #DeepSeek