Залил перевод Prompt Caching In Agents от текущих разработчиков Pi Earendil Engineering
https://rnd.syabro.com/prompt-caching/
https://rnd.syabro.com/prompt-caching/
rnd.syabro.com
Перевод: Кэширование промптов в агентах
Как prompt caching определяет стоимость, задержку, архитектуру и инструменты coding-агентов, и что делает pi, чтобы поведение кэша оставалось прозрачным.
🔥8👍4
https://desertant.com/models/voz/
Новые ребята заехали с модельками для работы на apple-девайсах (Core ML)
Например их Voz (STT) по обещаниям конвертит 10 минут аудио за 2s на iPhone 17 pro
И по их словам бьет
25 языков, включая русский.
Новые ребята заехали с модельками для работы на apple-девайсах (Core ML)
Например их Voz (STT) по обещаниям конвертит 10 минут аудио за 2s на iPhone 17 pro
И по их словам бьет
whisper-large-v3-turbo25 языков, включая русский.
NVIDIA Parakeet TDT 0.6B v3 (CC BY 4.0), converted to Core ML and compressed by Desert Ant Labs: log-mel frontend, conformer encoder, transducer decoder, all on the Neural Engine
iOS, iPadOS, macOS, tvOS, visionOS (Core ML); Apple only
Desert Ant Labs
Voz: On-device Speech to Text on the Neural Engine
Transcribe 10 minutes of audio in 2s on an iPhone, 4.7x faster than Whisper, accurate word timestamps.
❤🔥3
Использование зеркала и камеры на макбуке чтобы допилить поддержку радеона под омарчи на самом ноуте x.com
Я прям понимаю проблему
У меня читалка Xteink X4 pro
Но драйвер дисплея в эмуляторе не допилить - агент не видит результата.
Цикл "агент пересобрал - ты посмотрел - ответил агенту - агент думает" утомляет и нихера не быстрый :(
Я прям понимаю проблему
У меня читалка Xteink X4 pro
Но драйвер дисплея в эмуляторе не допилить - агент не видит результата.
Цикл "агент пересобрал - ты посмотрел - ответил агенту - агент думает" утомляет и нихера не быстрый :(
😁20🔥3❤1
https://gpu-lexer.vercel.app/
А еще немного охуенного.
Чувак из верселя запилил либу-модель на WebGPU для подсветки синтаксиса любого языка.
27.4KB!
По бенчам получилось в 2 раз быстрее Prism.js и в 4 раза меньше по размеру
А еще немного охуенного.
Чувак из верселя запилил либу-модель на WebGPU для подсветки синтаксиса любого языка.
27.4KB!
По бенчам получилось в 2 раз быстрее Prism.js и в 4 раза меньше по размеру
🔥14
Media is too big
VIEW IN TELEGRAM
Твиттерский запустил deepseek v4.1 flash на макбуке. M5 128GB
С SSD! 15t/s!
На двух макбуках по RDMA 25t/s!
https://x.com/antirez/status/2098121665771110540?s=46
С SSD! 15t/s!
На двух макбуках по RDMA 25t/s!
https://x.com/antirez/status/2098121665771110540?s=46
🔥5🤯4