Awesome local LLM

Если хочешь развернуть большую языковую модель локально, легко утонуть в куче инструментов и гайдов. То Ollama, то vLLM, плюс десятки фреймворков для дообучения. В итоге сложно понять, за что браться и какой стек вообще рабочий.

Случайно наткнулся на GitHub-проект Awesome local LLM. По сути, это энциклопедия по запуску LLM локально. Подборка очень полная и при этом хорошо структурирована, помогает быстро разложить весь стек по полочкам.

Внутри есть разделы по inference-платформам, inference-движкам, UI, самим языковым моделям, инструментам для разработки и ещё с десяток категорий. Плюс советы по выбору железа и полезные туториалы.

У каждого проекта указано количество GitHub Stars и короткое описание, так что можно быстро оценить популярность и понять, для чего он нужен. Также собраны обучающие ресурсы, включая YouTube-гайды и обзоры железа.

Если планируешь собирать локальное окружение под LLM или ищешь open source инструменты под конкретные задачи, эту подборку точно стоит сохранить.


👋 Cсылка на GitHub

➡️ GitHub Ready | #урок

⚡️Слита База из 1000+ топовых курсов и материалов для айтишников

Отсортировали их для вашего удобства и выложили в телеграм-каналы по категориям:

🖥 Python — 1558+ материалов

👩‍💻 Frontend — 1241+ материалов

👩‍💻 Backend — 1095+ материалов

📊 SQL & Data — 978+ материалов

🤖 Нейросети – 855+ материалов

🎨 Веб-дизайн — 824+ материалов

📚 Книги по IT — 779+ материалов

Всё лучшее про IT бесплатно — уже на Базе 🚀

🟠 OctoFriend — меняй AI модели на ходу если одна затупила

OctoFriend — это open source кодинг-ассистент который работает с любой LLM: GPT-5, Claude 4, локальные модели через Ollama. Главная фишка — переключаешься между моделями прямо в чате если одна застряла.

Что важно:

➡️ Работает с любой LLM — OpenAI-compatible, Anthropic-compatible, локальные модели через Ollama

➡️ Меняй модели на ходу — если GPT зависла, переключись на Claude, не теряя контекст

➡️ MCP серверы — подключай Linear, вики, и другие инструменты для расширенного функционала

🔵Ссылка на репозиторий

👋 Zero telemetry, весь твой код остаётся у тебя, можно использовать приватные провайдеры.

➡️ GitHub Ready | #советы

💼 ru-test-assignments — сотни тестовых заданий от IT-компаний

ru-test-assignments — это огромная коллекция реальных тестовых заданий от российских IT-компаний. Авито, Яндекс, Тинькофф, Сбер, VK — все задачи, которые давали на собеседованиях. Frontend, Backend, QA, Data Analyst, DevOps — задания под каждое направление.

Что важно:

➡️ Сотни заданий по всем направлениям: Frontend, Backend, QA, Android, iOS, Data Science

➡️ Задачи от топовых компаний: Avito, Яндекс, Тинькофф, Сбер, Озон, ВК

➡️ Разные языки и стеки: Python, JavaScript, Go, Java, PHP, Ruby, C#

➡️ Можно прикрепить выполненные задания к портфолио на Hexlet CV

👋 Ссылка на репозиторий

➡️ GitHub Ready | #урок

TheHarvester — собирай email, поддомены и IP адреса целевой компании из открытых источников

TheHarvester — это мощный OSINT инструмент для сбора информации о компании из сотен открытых источников: Google, Bing, LinkedIn, Shodan, HunterIO, Censys и многих других. За одну команду получаешь все email сотрудников, поддомены, IP адреса, информацию об MX записях. Идеален для начальной разведки перед пентестом.

Что важно:

➡️ 100+ источников данных — Google, Bing, LinkedIn, Shodan, Censys, Baidu, Yahoo и другие

➡️ Поиск email адресов — найди все email сотрудников компании автоматически

➡️ Поддомены и IP — обнаружи всю инфраструктуру целевого домена

👩‍💻 Ссылка на репозиторий

➡️ GitHub Ready | #урок

sokuji

При созвонах с зарубежными клиентами или просмотре иностранных стримов языковой барьер быстро становится проблемой. Большинство инструментов для синхронного перевода либо дорогие, либо дают посредственное качество.

В GitHub нашёл Sokuji — open-source инструмент, заточенный именно под реальный перевод речи в онлайне.

Он подключается к OpenAI, Google Gemini и другим популярным LLM, в реальном времени слушает микрофон и сразу воспроизводит переведённую речь.

Кроме десктопной версии есть браузерное расширение для Chrome и Edge, с нормальной поддержкой сценариев Google Meet и Microsoft Teams.

На Linux можно поднять виртуальное аудиоустройство и напрямую прокидывать переведённый звук в другие приложения. Есть поддержка сквозного аудиопотока и визуализации звука в реальном времени.

Доступны установочные пакеты для Windows, macOS и Linux. Браузерные расширения уже опубликованы в магазинах Chrome и Edge.

✅ Cсылка на GitHub

➡️ GitHub Ready | #Уроки

BentoPDF

Когда нужно поработать с PDF, онлайн-инструменты из поиска обычно требуют загрузить файлы на их серверы и при этом упираются в кучу ограничений по функционалу. В итоге больше раздражения, чем пользы.

Случайно наткнулся на GitHub на BentoPDF — это open source PDF-тулбокс, где вся обработка происходит локально в браузере. Файлы никуда не отправляются.

Внутри больше 50 полезных инструментов: объединение и разбиение PDF, редактирование и конвертация, шифрование и сжатие. Можно создавать заполняемые формы, добавлять водяные знаки и номера страниц, делать OCR и вытаскивать текст.

Плюс поддерживаются разные форматы изображений для конвертации в PDF, включая HEIC и WebP. Можно работать с Markdown, JSON и другими форматами, а также чинить повреждённые PDF.

Есть Docker-образ для быстрого деплоя. Либо можно скачать готовую сборку и развернуть на любом веб-сервере. Поддерживается установка в подкаталог и упрощённый режим интерфейса.

Cсылка на GitHub

➡️ GitHub Ready | #урок

🔭 Gradio — создавай веб-интерфейсы для AI моделей за 5 минут без HTML/CSS

Gradio — это самый простой способ создать web UI для ML моделей, чат-ботов и AI приложений. За 5 строк кода получаешь готовый интерфейс который работает в браузере. Drag-and-drop, sharing, embedding — всё встроено. Используют исследователи для демо, компании для production приложений.

Что важно:

➡️ Простота и скорость — создай UI за минуты, не нужно знать HTML/CSS/JavaScript

➡️ Поддержка всех типов моделей — LLM, vision, audio, tabular data, всё работает

➡️ Встроенный sharing — одна команда и твой UI доступен по публичной ссылке

✅ Ссылка

➡️ GitHub Ready | #урок

🟪 Языковые барьеры на созвонах больше не проблема!

Sokuji — слушает речь собеседника и переводит её почти без задержки прямо во время разговора. Без пауз, без «секунду, сейчас переведу».

Что под капотом?
✏️ современные нейромодели (GPT-5 Realtime, Gemini 3.0 Flash, Whisper).
🟣 работает прямо в браузере — подключается к Google Meet и Microsoft Teams.
🕷️ поддерживает OpenAI-совместимые API.
👋 на Linux — продвинутый роутинг звука и виртуальные микрофоны.

Подходит для рабочих созвонов, интервью, онлайн-встреч и даже живого общения, когда язык — единственный барьер.

И самое приятное: open source и бесплатно.
Никаких подписок, никакой магии за paywall.

Сохраняем

➡️ GitHub Ready | #урок

Система управления версиями в VS Code теперь отображает Git stashes 📦

Управлять скрытыми хранилищами стало проще!

➡️ GitHub Ready | #урок

GIT, GitHub, GitLab – полный АКТУАЛЬНЫЙ гайд

Git, GitHub, Gitlab – все это вы изучите в видео ниже. Это полезный материал для тех, кто не знает, что означает git merge, commit, rebase, cherry-pick, clone, init и так далее. Полный гайд и по визуальному взаимодействию, и по работе в консоли.

🌎  Посмотреть

➡️ GitHub Ready | #урок

VideoPipe

Разрабатывать приложение для видеоаналитики с детекцией, распознаванием, трекингом, анализом поведения и прочими фичами, начиная с нуля, — это огромный объём работы.

На GitHub нашёл VideoPipe — опенсорсный фреймворк, заточенный именно под сборку видеоаналитических приложений. Функциональные узлы можно комбинировать как конструктор, собирая нужный пайплайн под задачу.

Фреймворк закрывает полный цикл: чтение и декодирование видео, многоуровневый инференс, трекинг объектов, анализ поведения, отправка данных, запись и скриншоты, наложение графики, кодирование и стриминг видео. Плюс есть поддержка интеграции мультимодальных LLM.

В комплекте больше 40 демо-примеров: распознавание и трекинг лиц, детекция автомобилей, оценка позы, face swap и другие сценарии. Есть подробные видеоуроки и документация.

Написан на C++, с минимальными зависимостями и хорошей переносимостью. Архитектура конвейерная: каждый узел работает независимо и свободно комбинируется. Поддерживаются разные inference-бэкенды, включая OpenCV, TensorRT и PaddleInference.

Если ты занимаешься видео-структурированием, умным видеонаблюдением, транспортной аналитикой или просто хочешь быстро собрать прототип video AI-приложения, этот фреймворк точно стоит посмотреть.


➡️ Cсылка на GitHub

➡️ GitHub Ready | #урок

XL Converter

При работе с фотками и изображениями постоянно всплывают две боли: файлы слишком тяжёлые и формат не поддерживается. Найти инструмент, который умеет сжимать без потери качества, на практике не так просто.

На GitHub как раз попался открытый проект XL Converter. В одном интерфейсе он закрывает конвертацию между разными форматами изображений.

Поддерживается взаимное преобразование между JPEG XL, AVIF, WebP, JPEG, PNG и другими форматами. Есть параллельная обработка, так что можно гонять сразу пачку файлов.

Также есть поддержка lossless-транскодинга JPEG: размер JPEG-файлов уменьшается примерно на 16–22% без потери качества, и процесс полностью обратимый.

Помимо конвертации форматов, есть ресайз изображений. Можно менять размер по разрешению, в процентах или по минимальной стороне.

Доступны сборки под Windows и Linux, всё работает из коробки. Если часто приходится массово перегонять картинки между форматами, инструмент точно стоит посмотреть.


Cсылка на GitHub

➡️ GitHub Ready | #урок

🌎 AllHackingTools — 20+ меню хакерских инструментов одной командой

AllHackingTools — это автоматизированный скрипт для Linux, который скачивает и устанавливает кучу пентест-утилит: Information Gathering, Exploitation Tools, Web Attacks, SQL Injection, DDOS, Phishing, Hash Cracking, RAT, Cam Hacking и многое другое. Одна команда — и у тебя полный арсенал для пентеста локально на телефоне или ПК.

Что важно:

➡️ 20+ категорий инструментов — от Sniffing/Spoofing до Wireless Attacks и SocialMedia Bruteforce одновременно

➡️ Готовые команды — msdconsole запускает меню, qiq-* для пакетов, figlet для баннеров, авторестарт после инструментов

➡️ Быстрая установка — git clone + bash Install.sh, работает без root, качает git/python/wget/php и 20+ зависимостей

🌎 Ссылка на репозиторий

➡️ GitHub Ready | #урок

Cover Your Tracks — проверь, что браузер сливает о тебе

Инструмент от EFF показывает, насколько легко тебя отследить по цифровому отпечатку. Проверяет скрытые трекеры, уязвимости и показывает, куда реально утекли твои данные.

Если хочешь знать, как тебя видят сайты — тестируй себя прямо сейчас.

Ссылка на репозиторий

➡️ GitHub Ready | #урок

Инструмент, который реально спасает backend-разработчика в проде

pgcli — это умный CLI-клиент для PostgreSQL с автодополнением, подсветкой синтаксиса и нормальным UX. Не «ещё одна тулза», а вещь, которая экономит часы при отладке, дебаге и работе с живой базой.Если ты бэк — ты в базе постоянно. И pgcli делает эту работу в разы быстрее.

Что важно:

➡️ Автодополнение SQL — таблицы, поля, JOIN’ы, функции

➡️ История команд и удобная навигация

➡️ Drop-in замена psql — без переучивания

Ссылка на репозиторий

➡️ GitHub Ready | #урок