Анонимный телеграм-канал
39 subscribers
1.56K photos
478 videos
11 files
1.13K links
Download Telegram
Cerebras выкатила сервис с самым быстрым инференсом Llama 3.1 (~2k tk/s для 70B и ~1k для 405B).

Выглядит и правда круто, хотя понятно, что в ближайшем будущем все платформы будут предоставлять возможность практически мгновенного вывода — когда-то и картинки абсурдно долго загружались dialup-модемами.

🔗 cerebras.ai/inference

#LLM #Llama
Как доставляют причальные краны (в случае с первой пикчей — аж из Китая в Ливерпуль!)

🔗 investliverpool.com/news
🤔1
We present DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.

We pre-train DeepSeek-V3 on 14.8 trillion diverse and high-quality tokens, followed by Supervised Fine-Tuning and Reinforcement Learning stages to fully harness its capabilities.

Comprehensive evaluations reveal that DeepSeek-V3 outperforms other open-source models and achieves performance comparable to leading closed-source models. Despite its excellent performance, DeepSeek-V3 requires only 2.788M H800 GPU hours for its full training.

🔗 github.com/deepseek-ai

#LLM #GenAI #DeepSeek
This media is not supported in your browser
VIEW IN TELEGRAM
На пихелях есть одна ЭЙАЙ-фича, которой я действительно пользуюсь: зажимаешь нижнюю часть экрана в любом месте, обводишь кружочком любую область и она сразу находится в Google Lens. Это действительно очень удобно.

Тем удивительнее, что этой фичи нет на «больших компьютерах». Приходится скриншотить → открывать гугл → находить скриншот → загружать его. И только после всех этих манипуляций получать результат.

Решил запилить простую автоматизацию в макоси, получилось топорно и коряво, но работает!

Как сделать:

1. В автоматоре в новый квикэкшен добавляем скриншотилку с выбором области, скрин сохраняем в определенное место
2. В workflow добавляем запуск скрипта, который загрузит скриншот куда-то в онлайн и получит URL
3. В том же скрипте открываем в браузере URL: open "https://lens.google.com/uploadbyurl?url=$sharedscreen"
4. Вешаем готовый квикэкшен на хоткей в Keyboard Shortcuts → Services → General (например, на Cmd+Shift+6)