Digital Studium
@digitalstudium
44
subscribers
26
links
Блог об ИИ, DevOps, Linux и облачных технологиях
https://youtube.com/digitalstudium
https://digitalstudium.com
https://github.com/digitalstudium
Download Telegram
Join
Digital Studium
44 subscribers
Digital Studium
https://www.youtube.com/watch?v=5eRzqx-oFAo
YouTube
Алгоритм шифрования RSA для начинающих. Часть 3
В видео описывается доказательство корректности алгоритма RSA с опорой на теорему Эйлера
👍
1
Digital Studium
https://www.youtube.com/watch?v=ICWQBebEh60
YouTube
Docker: Разница между scratch и distroless-static образом
В видео рассказывается, когда имеет смысла использовать пустой базовый образ "scratch", а когда distroless-static образ.
Файлы из видео: https://github.com/digitalstudium/docker_scratch_vs_distroless
Более детальное сравнение distroless и scratch здесь:…
👍
1
Digital Studium
https://www.youtube.com/watch?v=cx5vRDj6qGk
👍
1
Digital Studium
https://www.youtube.com/watch?v=3UOtO60HXBw
YouTube
Kubernetes: startup проба или initialDelaySeconds?
В видео рассказывается, почему лучше использовать startup пробу вместо параметра initialDelaySeconds в liveness/readiness пробах
👍
1
Digital Studium
https://www.youtube.com/watch?v=2qT12d0LhBM
YouTube
GitOps: Continuous Promotion с помощью Kargo + ArgoCD + Gitlab
В видео показывается, как может выглядеть процесс Continuous Promotion, управляемый с помощью Kargo, ArgoCD и Gitlab
https://github.com/digitalstudium/devops-homelab
https://github.com/digitalstudium/helm-charts/tree/main/charts/kargo-apps
👍
1
Digital Studium
https://www.youtube.com/watch?v=iBhoXzYuQ9A
YouTube
Диагностика проблем на Kuberentes с помощью локального ИИ Qwen3.5
В видео сравнивается качество диагностики проблем на Kubernetes с помощью ИИ моделей семейства Qwen3.5
Digital Studium
https://www.youtube.com/watch?v=RPYVj3oZmA0
YouTube
Как ускорить LM Studio в 2 раза
В видео будет рассказано, как ускорить LM Studio в два раза при работе с MoE-моделями для случая, когда модель не помещается полностью в память GPU. Для демонстрации будет использована модель Qwen 3.5 35B
Железо: 6Gb VRAM, 32Gb RAM
Digital Studium
https://www.youtube.com/watch?v=Td5dduZf6sU
YouTube
Параметры LM Studio и llama-server, ускоряющие работу LLM
В видео рассказывается и показывается, какие параметры LM Studio или llama-server влияют на скорость работы локальной модели с архитектурой MoE (в видео показываются модели Qwen3.6-35B и Gemma4-26B)
Запуск на железе RTX2060 6GB VRAM + 32GB DDR4 RAM (для…
Digital Studium
https://www.youtube.com/watch?v=Fyeiz_KGwow
YouTube
Ускорение обработки промпта в LM Studio в 2 раза
В видео рассказывается, как ускорить в 2 раза обработку промпта в LM Studio или llama-server
Команда для запуска Qwen3.6 36B на 6Гб видеокарте:
llama-server -m $HOME/.lmstudio/models/unsloth/Qwen3.6-35B-A3B-GGUF/Qwen3.6-35B-A3B-UD-Q3_K_XL.gguf \
…
Digital Studium
https://www.youtube.com/watch?v=ztNEiR339Q0
YouTube
Как из Hermes сделать локального голосового ИИ-агента
В видео рассказывается, как из Hermes-агента сделать локального голосового помощника
Hermes агент: https://github.com/nousresearch/hermes-agent
Конфиг агента: https://github.com/digitalstudium/ai-research/blob/main/config.yaml
STT-сервер: https://github.…
Digital Studium
https://www.youtube.com/watch?v=-SF5tbCjZBA
YouTube
Визуализация распределения памяти в llama-server
В видео описывается подход к визуализации распределения памяти в llama-server
Ссылка на репозиторий: https://github.com/digitalstudium/llama-mem-viz/
Digital Studium
https://www.youtube.com/watch?v=Uu3L5KVlWoo
YouTube
5:48
Запуск 80B модели на 6GB видеокарте
В этом видео рассказывается, как запустить LLM на компьютере таким образом, что часть весов будет располагаться на SSD и будет подгружаться в оперативную память по мере необходимости.
👍
3
Digital Studium
https://www.youtube.com/watch?v=Hwj56hmhAAo
YouTube
5:22
Ускорение локального ИИ с помощью MTP
В видео рассказывается, как ускорить генерацию ответа в LM Studio или llama-server с помощью MTP (Multi Token Prediction)
Железо: 6gb rtx2060, 32Gb ram ddr4, Ryzen 9 с 8 ядрами.
Команда:
llama-server -m путь/к/модели \
--fit off \
--reasoning…
👍
3
Digital Studium
https://www.youtube.com/watch?v=PmNra_aw5qg
YouTube
Горячая видеокарта = медленный ИИ
В видео показывается, как температура видеокарты влияет на скорость генерации ответа локальным ИИ
👍
3
Digital Studium
https://www.youtube.com/watch?v=_BqIABG5ivo
YouTube
ИИ-сервер в складчину - запуск LLM на нескольких ПК
В видео рассказывается, как с помощью llama-server запустить LLM на нескольких компьютерах с видеокартой, тем самым ускорив генерацию ответа
Запуск rpc (на ноутбуке):
rpc-server -c --host 0.0.0.0
Запуск llama-server:
llama-server -m Qwen3.5-9B-Q8_0.gguf…
🤔
2
👍
1
Digital Studium
Please open Telegram to view this post
VIEW IN TELEGRAM