Анонимный телеграм-канал
39 subscribers
1.56K photos
478 videos
11 files
1.13K links
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
M4 Mac AI Coding Cluster

Uses @exolabs to run LLMs (here Qwen 2.5 Coder 32B at 18 tok/sec) distributed across 4 M4 Mac Minis (Thunderbolt 5 80Gbps) and a MacBook Pro M4 Max.

Local alternative to @cursor_ai

🔗 x.com/alexocheema

#LLM #Hardware
🔥1
Cerebras выкатила сервис с самым быстрым инференсом Llama 3.1 (~2k tk/s для 70B и ~1k для 405B).

Выглядит и правда круто, хотя понятно, что в ближайшем будущем все платформы будут предоставлять возможность практически мгновенного вывода — когда-то и картинки абсурдно долго загружались dialup-модемами.

🔗 cerebras.ai/inference

#LLM #Llama
Как доставляют причальные краны (в случае с первой пикчей — аж из Китая в Ливерпуль!)

🔗 investliverpool.com/news
🤔1