koboldcpp

Сначала я хотел запускать большую модель локально, но помимо возни со сложными зависимостями окружения и установкой кучи библиотек, пришлось ещё разгребать проблемы с совместимостью и это оказалось особенно муторно.

Позже появились инструменты вроде Ollama и llama.cpp, которые сильно упростили процесс, но по части функциональности они всё же выглядели ограниченными.

Недавно я наткнулся на KoboldCpp на GitHub — это тулза, которая унаследовала производительность llama.cpp и при этом ставится так же легко и удобно, как Ollama.

По части возможностей тут всё куда интереснее: в одном исполняемом файле собрано сразу несколько AI-функций — генерация картинок, распознавание речи, синтез речи. То есть реально формат "скачал и сразу работаешь".

Так как всё построено на llama.cpp, есть поддержка и CPU, и GPU, плюс несколько совместимых API-интерфейсов и интеграция с популярными сервисами вроде OpenAI и Ollama.

Достаточно просто скачать бинарник под свою платформу — Windows, macOS или Linux — и можно юзать. Кто захочет, может спокойно попробовать.

📁 Language: #Cpp 85.6%

⭐️ Stars: 8.3k

➡️ Cсылка на GitHub

📱 @git_developer

TEN Framework

На GitHub представили TEN Framework — открытый голосовой фреймворк для AI-агентов в реальном времени.

Он позволяет за пару минут через визуальный интерфейс создать голосового AI, поддерживает низкую задержку (~1 с), прерывание речи, текст и изображения, упрощая работу с мульти-модальными данными.

Устанавливается в один клик через Docker или GitHub Codespace, совместим со всеми ОС и AI-моделями, легко интегрируется с Dify, Coze или MCP.

За год проект собрал 7400+ звезд и стал одним из ведущих AI-голосовых фреймворков на GitHub.

📁 Language: #C 29.4%, #Python 24.1%, #Cpp 20.3%, #Rust 13.6%, #TypeScript 8.5%, #Go 3.2%

⭐️ Stars: 7.9k

➡️ Cсылка на GitHub

📱 @git_developer

Media Downloader

Есть множество мощных инструментов для скачивания видео, таких как yt-dlp, aria2c и другие, но их сложные CLI операции часто отпугивают новичков.

Один разработчик создал тулзу Media Downloader, которая объединяет эти инструменты и предоставляет удобный GUI для управления различными задачами скачивания.

Достаточно скопировать и вставить ссылку на видео в инпут поле, выбрать нужный инструмент для загрузки и в один клик скачать видео на локальное устройство.

Также поддерживается неограниченное число параллельных загрузок, что позволяет эффективно качать видео батчами. Интерфейс доступен на нескольких языках, включая английский.

Проект предлагает готовые инсталляционные пакеты для Windows, macOS и Linux, которые можно скачать на странице релизов и сразу использовать.

📁 Language: #Cpp 97.1%

⭐️ Stars: 2.7k

➡️ Cсылка на GitHub

📱 @git_developer