Простым языком о том, как GROQ смог обогнать NVIDIA по скорости вычислений для LLM
https://digitalocean.ru/n/novyj-yazykovoj-processor
Спасибо Марату за ссылку)
#AI #LLM #GROQ #NVIDIA
https://digitalocean.ru/n/novyj-yazykovoj-processor
Спасибо Марату за ссылку)
#AI #LLM #GROQ #NVIDIA
Цифровой океан
Микрочип LPU
В феврале 2024 года малоизвестный стартап Groq представил LPU* — специальный микрочип, который делает ответ языковых моделей молниеносным. Новый процессор сходу показал десятикратное преимущество перед традиционными решениями на GPU. Вероятно, скоро такой…
👍5