MrGips • Про LLM
2.16K subscribers
67 photos
21 videos
2 files
100 links
Все про локальные LLM и не только.

Для связи: @MisterGips

НАШ ЧАТ https://t.me/+ZV1ymPoTNzlkYmE6
Download Telegram
Всем привет. Минут через 10-15 хочу бахнуть стрим где проведем турнир по шахматам среди локальных LLM.

https://youtube.com/live/YKe6zRIdD-Y?feature=share
6😁4🔥3
Сегодня на стриме несколько человек накинули идей соревнований между локальными LLM:

1. Сделать футбол.
2. Сделать покер.
3. Сделать мафию.

И сделать онлайн игрушку, в которой задействовать всех участников стрима. Интересно, но сложно.

А также между делом появилась идея сделать ставки. Вначале я воспринял это как шутку, затем подумал «блин, а ведь прикольно». Но как?

В общем, сейчас цель реализовать какой-то прототип соревнований между локальными моделями, чтобы было интересно смотреть, а потом можно ставить. Предложите свои идеи, не храните в себе😁

И не забываем подписываться на чат.
🔥15❤‍🔥2
Небольшое обновление канала YouTube.

Я сменил название канала. Зачем? Потому что я больше не снимаю про ComfyUI, уже не целесообразно двигаться под этим знаменем. И тем более, человек в чате поделился своим опытом когда название его ввело в заблуждение по началу.

Почему Мистер Гипс? Это мое погоняло, которое прилипло еще с давних времен, когда вел предыдущий канал. А я не против.

Почему Local LLM? Чтобы было хоть какое-то описание моей деятельности, которое должно считываться за секунды. Может быть я через некоторое время начну выжигать по дереву, значит просто заменю Local LLM на деревовыжигатель. :)

Зачем я это пишу? Чтобы когда мое видео появится в ленте ютуба, вы не отписались с перепугу, думая «кто это? я же подписывался на ProComfy, а тут какой-то Мистер Гипс»😁

И кстати, подписывайтесь на НАШ ЧАТ

А я всё, выключаю.
👍19🤝9🔥5👏21🫡1
Как добавить MCP (доступ к файлам и к интернету) в llama.cpp - ГАЙД

Эта тема не так популярна, как было с MCP в LM Studio, но пару человек меня спрашивала «КАК?», значит по порядку.

Для начала нужно создать текстовый файл config.json и внутрь скопировать это:
{
"mcpServers": {
"filesystem": {
"command": "npx",
"args": ["-y", "@modelcontextprotocol/server-filesystem", "H:/ВАШ_ПУТЬ"]
},
"ddg-search": {
"command": "uvx",
"args": ["duckduckgo-mcp-server"]
},
"fetch": {
"command": "uvx",
"args": ["mcp-server-fetch"]
}
}
}


Затем создать второй текстовый файл с названием mcp.bat и внутрь скопировать это:
start "MCP Proxy" cmd /k uvx mcp-proxy --named-server-config config.json --allow-origin "*" --port 8001 --stateless

И запускаете этот bat-ник.

После этого запускаете llama.cpp, переходите в раздел MCP Servers (вероятно вы знаете где это, раз заинтересовались этой темой). Нажимаете Add New Server и по очереди создаете эти сервера:

http://127.0.0.1:8001/servers/filesystem/mcp
http://127.0.0.1:8001/servers/ddg-search/mcp
http://127.0.0.1:8001/servers/fetch/mcp

ВАЖНО: запускать mcp.bat придется каждый раз, при запуске llama.cpp, иначе они не будут работать.

Эти сервера должны появиться в веб-интерфейсе llama.cpp и можно пользоваться. Надеюсь ничего не забыл, писал по памяти. Если возникли сложности, пишите в НАШ ЧАТ. Если вовремя замечу - отвечу. Либо ответят знающие люди, а их там много!

А я всё, выключаю🫡
👍126🔥3👎1🏆1😭1🤝1
MrGips • Про LLM
Как добавить MCP (доступ к файлам и к интернету) в llama.cpp - ГАЙД Эта тема не так популярна, как было с MCP в LM Studio, но пару человек меня спрашивала «КАК?», значит по порядку. Для начала нужно создать текстовый файл config.json и внутрь скопировать…
Наглядно, как я дал доступ к файлам и интернету, с помощью MCP Servers в llama.cpp

https://youtu.be/FFmAaONea7k

Это просто видео-ответ на комментарий, надеюсь кому-то еще это поможет. Но на самом деле в LM Studio это устроено поудобнее.

Так же подписывайтесь на НАШ ЧАТ. Там очень много людей, с мощными сборками GPU. Я рад что собрал такое сообщество.

Жмите реакции, а я всё, выключаю.
🔥14👍7❤‍🔥2
Новая модель Gemma 4 12B в связке с Hermes Agent - тест в реальных задачах

Сильная модель, которую можно запустить даже на вашем ноутбуке… наверно.

Видео уже на канале:
https://youtu.be/q5kCBg8cp_8

Присоединяйтесь в НАШ ЧАТ

А я всё, выключаю.
🔥15
Qwen3.6 27B MTP против Qwen3.6 40B - Битва LLM

Я протестировал на трех промтах две мощные модели в этом видео:
https://youtu.be/n9wPSuO2SR8

1. Музыкальная шкатулка:
Create a single-file browser project called "Tiny Clockwork Music Box".
The page should show a stylized 3D music box mechanism on a tabletop. The user should be able to rotate and zoom the camera and watch the mechanism play.
Requirements:
Use Three.js.
Everything must be in one index.html file.
The scene should include a base, visible gears, a rotating pinned cylinder, small metal tines or bells, a dancing figurine, a wind-up key, and decorative props.
Turning the key should start the mechanism.
Gears should rotate together in believable ratios.
Pins on the cylinder should trigger small hammers or tines in sequence.
The figurine should rotate or dance in sync with the mechanism.
Objects should be grounded and mechanically connected.
The visual style should be polished, charming, readable, and slightly magical.
The project should run immediately in a modern browser.
Focus on clear mechanical relationships, synchronized motion, and a satisfying miniature presentation.


2. Бильярд 2D:

Create a single self-contained HTML file with a top-down 2D billiards (pool) game with the following requirements:
**GAMEPLAY:**
- Standard pool table with 15 colored balls + 1 white cue ball
- Player vs AI opponent (taking turns)
- Shot power control: click and hold on cue ball, drag to aim (shows direction arrow), release to shoot — power determined by drag distance (show power bar)
- Realistic physics: ball-to-ball collisions, wall bouncing, friction/deceleration
- 6 pockets (corner and side) that sink balls
- AI opponent makes calculated shots with slight randomness to feel beatable
- Turn logic: pot a ball = shoot again; scratch (cue ball in pocket) = opponent places cue ball
**VISUALS (top-down view):**
- Green felt table with wooden rail border
- Balls rendered as colored circles with numbers (stripes and solids)
- Animated dotted aim line from cue ball in drag direction
- Power meter UI on the side
- Scoreboard showing Player vs AI potted balls
- Visual feedback: ball trails, pocket flash on sink, shake on hard hit
**UI:**
- "Your Turn" / "AI's Turn" indicator
- Current score for each side
- Game over screen (8-ball rules: pot the 8-ball last to win)
- Restart button
**TECHNICAL:**
- Pure HTML + CSS + JavaScript, no libraries
- Canvas-based rendering (requestAnimationFrame)
- All in one `.html` file, no external dependencies
👍41
3. iPhone с игрой:
Создайте один HTML-файл, который выглядит максимально приближенно к интерфейсу реального современного мобильного приложения в стиле iPhone.
На странице должен отображаться реалистичный фрейм (корпус) телефона с закругленными углами, вырезом под динамик / областью в стиле Dynamic Island, строкой состояния (status bar), областью индикатора блокировки/домой (home indicator), областью содержимого приложения и плавными интерактивными элементами в мобильном стиле.
Это должно быть современное приложение для жизни и продуктивности с такими разделами, как: Сегодня (Today), Календарь (Calendar), Сообщения (Messages), Умный дом (Smart Home), Кошелек (Wallet) и Настройки (Settings). Включите отполированный главный экран, нижнюю панель навигации (таб-бар), карточки уведомлений, виджеты, переключатели, быстрые действия, события календаря, превью сообщений, элементы управления умным домом и панели настроек.
В нем должна быть 1 игра — автомобильная игра в стиле GTA, а также приложение социальной сети с фейковыми (демонстрационными) данными.
Сделайте интерфейс премиальным, чистым и нативным для телефона — с эффектами матового стекла (glassmorphism), закругленными карточками, мягкими градиентами, тонкими тенями, плавными переходами, анимацией кнопок с имитацией тактильной отдачи (haptic) и адаптивным дизайном, ориентированным в первую очередь на мобильные устройства. Все это должно выглядеть как настоящее мобильное приложение, запущенное внутри реалистичного макета телефона.
Четко отобразите название тестируемого семейства моделей где-нибудь в верхней части интерфейса приложения, чтобы я мог определить, какую версию я просматриваю во время записи.
Сохраните всё в одном HTML-файле со встроенными CSS и JavaScript. Назовите файл ios-app-ui.html.


Не забывайте подписаться на НАШ ЧАТ, где мы делимся своими результатами.
👍9🤝4
Claude Fable 5 против Qwopus 3.6 27B v2 MTP - Битва моделей

В этом видео я протестировал новую модель от Антропиков - Fable 5:
https://youtu.be/OcR216-siDU

И чтобы было интересно, я поставил к нему в противника нашумевшую модель Qwen 3.6 27b, но которая обучена думать как Claude Opus - Qwopus 3.6 27B.

В следующем посте будут промты из видео.

Не забывайте подписывать на НАШ ЧАТ, где можно делиться своими результатами генераций.

Всем добра и бесплатных токенов!
👍16🔥41
MrGips • Про LLM
Claude Fable 5 против Qwopus 3.6 27B v2 MTP - Битва моделей В этом видео я протестировал новую модель от Антропиков - Fable 5: https://youtu.be/OcR216-siDU И чтобы было интересно, я поставил к нему в противника нашумевшую модель Qwen 3.6 27b, но которая…
Как и обещал, вот промты из видео:

1. Музыкальная шкатулка
Create a single-file browser project called "Tiny Clockwork Music Box".
The page should show a stylized 3D music box mechanism on a tabletop. The user should be able to rotate and zoom the camera and watch the mechanism play.
Requirements:
Use Three.js.
Everything must be in one index.html file.
The scene should include a base, visible gears, a rotating pinned cylinder, small metal tines or bells, a dancing figurine, a wind-up key, and decorative props.
Turning the key should start the mechanism.
Gears should rotate together in believable ratios.
Pins on the cylinder should trigger small hammers or tines in sequence.
The figurine should rotate or dance in sync with the mechanism.
Objects should be grounded and mechanically connected.
The visual style should be polished, charming, readable, and slightly magical.
The project should run immediately in a modern browser.
Focus on clear mechanical relationships, synchronized motion, and a satisfying miniature presentation.


2. Интерфейс Windows XP:
Создай WindowsXP-стиль интерфейса рабочего стола в одном HTML-файле, включая рабочий стол с иконками, панель задач с меню "Пуск" и часами, перетаскиваемые и сворачиваемые окна, а также работающие приложения: блокнот, калькулятор, проводник и диспетчер задач, отображающий реальные процессы и память браузера, используя при этом кастомные анимированные обои с надписью "Claude Fable" в стиле классической заставки Windows XP

Добавь на рабочий стол два новых приложения: рабочий веб-браузер (на базе iframe, с адресной строкой и кнопками навигации) и игру Тетрис, сохранив всё в том же HTML-файле.


3. Комната
Build a single-file HTML visualization room using three.js. Include OrbitControls. Create an accurate, detailed representation. Make the edges of most furniture visibly rounded, to make the objects look smoother and more realistic. Use high-quality lighting while ensuring visibility. Prevent Z-fighting. Ensure code correctness.


Делитесь результатами генераций в НАШ ЧАТ

Приятной генерации и бесплатных токенов!
👍94
Битва моделей Nex-N2-Pro vs Nex-N2-Mini

Вы тоже задались вопросом «что это?»

Это дообученные модели на базе Qwen 3.5, только одна 397B, а вторая 35B (MoE).

Вы спросите «и зачем они?» Я отвечу - зрители просили провести тест в комментариях предыдущего видео.

Видео: https://youtu.be/LkXfyf_3YDQ

Подписывайтесь на НАШ ЧАТ.

Всем приятной генерации и бесплатных токенов!
👍9👏3
История о том, как я на стриме сделал мультиплеер для Майнкрафта в браузере

И сразу налетели читеры и боты. Не успел создать сервер, а его уже хакнули :)

Видео: https://www.youtube.com/watch?v=Qsfs390fVmo

Отвлечемся от серьезных тестов Qwen'ов и Qwopus'ов, и погрузимся в настоящую вакханалию квадратноголовых.

Подписывайтесь на НАШ ЧАТ

Всем бесплатных токенов!
👍132
Всем привет. Это видео-эксперимент. Долго думал выпускать или нет. Многим может быть неинтересно. Но как говорится на безрыбье и это видео - рыба.

Видео: https://www.youtube.com/watch?v=M-gKlgGcWYc

Кстати, не забывайте подписываться на НАШ ЧАТ

Всем быстрых токенов!
👍17🔥61
Покажу один из рабочих процессов, который я сделал себе с помощью GPT 5.6 Sol.

Да да, не удивляйтесь. Ради этого (и не только) я оформил подписку на облачную LLM.

Но ведь не всё крутится вокруг кодинга. Есть задачи, где очень хорошо показывают себя и локальные модели. Например Gemma 4 26B для перевода текста.

В этом видео, я показал софт, который производит дубляж видео на другие языки.

https://youtu.be/ylwJ_uO-vP0

Подписывайтесь также на НАШ ЧАТ.

А я всё, выключаю!
👍174👨‍💻1
Я попытался сделать софт для автоматизации создания контента на YouTube, который работает чисто локально и вот что получилось…

Видео: https://youtu.be/cKx3t1oJmiY

Подписывайтесь на НАШ ЧАТ

Всем приятного и быстрых токенов.
🔥15👍31
Ну что, видели уже новую модель для видеогенераций MiniMax H3? Как вам?

Я уже затестил и хочу сказать что это просто пушка. Практически уровень Seedance, только на своем ПК.

Вот несколько результатов.

Если вы тоже протестировали, скидывайте свои результаты в НАШ ЧАТ.

Приятной генерации!
👍16🔥82