MrGips • Про LLM
2.16K subscribers
67 photos
21 videos
2 files
100 links
Все про локальные LLM и не только.

Для связи: @MisterGips

НАШ ЧАТ https://t.me/+ZV1ymPoTNzlkYmE6
Download Telegram
Сделал тетрис с помощью Qwen3.5-27b-Claude-Opus4.6 на RTX 5090

Человек под моим видео попросил выложить файл с тетрисом, поэтому он будет комментариях под этом постом.

И кстати, посмотрите видео про то, как я создаю змейку и тетрис с помощью программирования, не написав ни строчки кода собственноручно.

Ссылка на видео: https://youtu.be/LkBJKG0x_3Y

Приятной генерации!
🔥1
Как дать доступ к файлам в LM Studio (use tools) ?

В общем пошагово:

1. Переходите в раздел Developer (Ctrl + 2)

2. Вы увидите кнопку mpc.json, нажимаете, откроется поле ввода.

3. Копируете туда этот код:

{
"mcpServers": {
"filesystem": {
"command": "npx",
"args": [
"-y",
"@modelcontextprotocol/server-filesystem",
"C:\\ваш-путь"
]
}
}
}


Там где Ваш-путь, подставляете свою папку, где ЛМ-ка сможет работать руками. Включаете галочку как на скрине и готово)

Если что-то не получается, кидайте свои скрины в чат.

Тестируйте)
👍17❤‍🔥1🤯1😱1
Я тут нашел халявный доступ ко многим моделям. Есть и Minimax-2.7 и GLM-5.1 и Дипсики всякие. И все без лимитов.
Не знаю сколько это продержится, но делюсь с вами потому что могу. Разбирайте.

https://build.nvidia.com/models?page=1

Приятной генерации!
3🥴3🤝3👍1🤓1
Как дать доступ к Blender’у в LM Studio (use tools)?

Шаги:

1. Установи аддон в Blender

• Скачай addon.py с GitHub репозитория BlenderMCP
• В Blender: Edit → Preferences → Add-ons → Install → выбери файл → включи аддон

2. Запусти сервер в Blender

• Открой боковую панель (клавиша N) → вкладка BlenderMCP
• Нажми Connect to LLM client
• По умолчанию сервер слушает localhost:9876

3. Запускай LM Studio

• Переходи в раздел Developer (Ctrl + 2)
• Увидишь кнопку mcp.json, нажимай, откроется поле ввода
• Вставляй этот код:
{
"mcpServers": {
"blender": {
"command": "uvx",
"args": [
"blender-mcp"
]
}
}
}


Сохраняй и переходи в режим чата (Ctrl + 1), справа должен появиться переключатель как на скрине.

В прошлом посте я описал как дать доступ к файлам в LM Studio по такому же принципу.

Получилось? Если нет, кидай скрин в комменты что не так.

Тестируйте
8👍3👏1
Промты из видео про Qwen3.6:27B против Gemma4:31B

Кто еще не видел, я сделал плотное сравнение топовых локальных моделей:
https://youtu.be/8uPzIwQkkOY

Промт на спальню:
Build a single-file HTML visualization of this screenshot using three.js. Include OrbitControls. Create an accurate, detailed representation. Make the edges of most furniture visibly rounded, to make the objects look smoother and more realistic. Use high-quality lighting while ensuring visibility like in the screenshot. Prevent Z-fighting. Ensure code correctness.


Телевизор с Том и Джерри:
in threejs, create a first person pov navigable living room with a tv set, and on the tv screen plays an episode of Tom and Jerry, which you will create using svgs and play the animation and different scenes on the tv screen. Use warm and smooth


Сияние:
Write a single HTML file with a full-page canvas, no libraries. Animate a night sky filled with realistic northern lights. The background is deep black with faint stars. Flowing curtains of green, purple, and blue aurora slowly ripple, wave, and shift across the top two-thirds of the screen with smooth organic movement. Occasional bright pulses of color with low opacity move vertically. Below the aurora, a dark snowy landscape with subtle mountain silhouettes. The aurora should evolve continuously and hypnotically, with new waves appearing every 3-5 seconds.

Японское дерево:
Write a single HTML file with a full-page canvas, no libraries. Animate a dreamy Japanese cherry blossom tree in full bloom during a gentle petal storm. The tree trunk and branches are
dark elegant lines with pink-white blossoms. Thousands of delicate pink and white petals fall continuously from the branches with realistic physics: slight rotation, wind-affected curves and varying falling speeds. Petals occasionally swirl in small gusts. The background is a soft pastel gradient sky (light pink to lavender) with distant misty mountains. A few petals rest and accumulate on the ground. Subtle lens-flare sunlight comes from the top right. The whole scene feels poetic and serene, looping naturally in real time.


Настенные часы:
Write a single HTML file with a full-page canvas, no libraries. Draw a beautiful analog clock that shows the current system time and updates every second. Include all 12 hour numbers in the correct positions, hour and minute tick marks around the edge, and three hands (hour, minute, second) that move accurately. The second hand should be thin and red. Style the clock face with a clean white face, dark rim, and a subtle drop shadow. Center it on a dark background.


Промт на Teardown с разрушениями в этом файле.

Промт на аквариум здесь.

Кидайте свою работы в комменты, интересно что получится!

А также подписывайтесь на наш чат https://t.me/+ZV1ymPoTNzlkYmE6
👍92
Как дать LM Studio доступ к файлам, blender и интернету

В этом видео я попытался все показать: https://youtu.be/WqzYvCZ5WWE

Если вы пришли сюда за инструкциями:

1. Как дать доступ к файлам

2. Как дать доступ к blender

3. А вот как дать доступ к интернету:

"ddg-search": {
"command": "uvx",
"args": [
"duckduckgo-mcp-server"
]
},
"fetch": {
"command": "uvx",
"args": [
"mcp-server-fetch"
]
}


Этот код копируете в mcp.json

Вот полный файл mcp.json, чтобы не морочить голову, просто копируешь всё. Только свой путь подставь.

Здесь промт на тот
глубокий 3D тетрис из видео.

Здесь
все промты из предыдуших видео.

Выкладывайте свои результаты в наш чат https://t.me/+ZV1ymPoTNzlkYmE6

А также пишите вопросы со скрином, если возникли трудности с настройкой.

Приятной генерации!
👍343
Qwen 3.6 (27B) против Qwen 3.6 (35B) в генерации SVG изображений

Здесь будут промты из видео:
https://youtu.be/wgB1tZ8SZck

1. Пеликан на велосипеде:
Create svg image of a pelican riding a bicycle


2. Капибара в кимоно и с чаем:
Create svg image of a capybara wearing a kimono drinking matcha tea


3. Фламинго вяжет разноцветный свитер:
Create svg image of a flamingo knitting a colorful sweater


Если досмотрели до конца, вот промт на игру Pac-Man:
Create a single standalone HTML file for a complete playable Pac-Man–style neon arcade game.

Use only HTML, CSS, JavaScript, and one full-page canvas. No external libraries or assets—everything must be procedurally drawn and run immediately in the browser.

Generate a compact (~21×21) symmetrical maze programmatically (no ASCII). It must be fully connected, playable, and use tile types (wall, path, pellet, power pellet, ghost spawn, Pac-Man spawn, fruit spawn). Ensure no unreachable pellets or invalid spawns.

Canvas must fill the window. Center and scale the maze dynamically using available space (no fixed tile size). Reserve space for a HUD.

Game states: title, playing, paused, life lost, level complete, game over. Include controls (keyboard + mobile). Title and game over screens must show instructions.

Pac-Man: smooth tile movement, queued turns, no diagonal movement, no clipping, wraps through side tunnels, resets after life loss.

Ghosts (4): simple pathfinding with distinct behaviors, spawn in a central house, exit with delays, move only on valid paths, never freeze.

Gameplay:
Pellets (+10), power pellets (+50), fruit (+500), ghost chain scoring (200→1600)
• ⁠Power mode (~8s, min 3s): ghosts become edible and return to spawn when eaten
• ⁠Combo multiplier for quick pellet collection
• ⁠3 lives, level progression increases difficulty
• ⁠Store high score in localStorage

Extras:
Fruit spawns near center temporarily
• ⁠Visual polish: neon maze, glowing elements, animations, particles, screen effects
• ⁠HUD: score, high score, lives, level, combo, power timer

Technical:
Use requestAnimationFrame with delta time
• ⁠Keep performance stable (limit particles)
• ⁠No bugs: avoid invalid movement, stuck entities, unreachable areas, or crashes

Final output: only the complete HTML code.


Скидывайте свои результаты в НАШ ЧАТ

Приятной генерации!
👍10🔥52🤓1
HERMES AGENT или OpenClaw?

Наконец-то дошли руки попробовать разрывные новинки этого года. Вначале шумел OpenClaw (или Клешня), теперь его место занял хайповый Гермес.

Видео: https://youtu.be/yTBXpWqyIEk

Я испытал их обоих на своей основной машине RTX 5090 с Qwen 3.6 27B (Q6_K) под капотом.

Пишите свое мнение в комментарии, сюда под постом или на ютубе.

И вступайте в НАШ ЧАТ , там много интересного люди публикуют!

Приятной генерации!
👍81
Я дал второй шанс Hermes Agent’у и это разрыв

Тоже раздражают эти кликбейтные заголовки?

Но выбора нет, это внатуре другой уровень.

В прошлом видео народ в коментах разделился и я решил дать шанс Гермесу в этом видео:
https://youtu.be/EGi9S7EG7_4

За ИИ обложку тоже не извиняюсь, сложно что-то придумать самому после монтажа видео, впервые взвалил эту тяжелую ношу на хрупкие ИИ плечи ChatПГТ.

Не забывайте подписываться на НАШ ЧАТ где люди деляться интересными идеями и промтами.

Приятной генерации и побольше токенов!
👍10🔥31
MTP или Multi-Token Prediction - это сейчас обсуждают все любители локальных LLM.

Проще говоря это ускоритель для вашей локальной модели, в моем случае Qwen 3.6 - 27b Q6_K_XL. Было 45 т/с - стало 75-80 т/с.

В этом видео я протестировал новинку:
https://youtu.be/IMOXiSjXKHo

Пишите свое мнение в комметарии. А также подписывайтесь на НАШ ЧАТ, где народ делится интересными промтами.

Приятной генерации и быстрых токенов!
👍9🔥5
Всем привет народ. Хочу прощупать почву.

Появился у меня новый микрофон и появилась идея провести стрим. Интересно узнать у вас мнение, что было бы интересно посмотреть в прямом эфире?
И вообще нужен ли он?

Только лишь отвечать на вопросы в прямом эфире это будет банально, а вот погенерировать какие-то интересные промты на 5090, либо зарубить в шахматах разные локальные LLM-ки. Либо Я против Qwen’а 3.6 27b.😁
Это из того что в голову пришло, пока печатал этот текст.

В общем, пока изучаю спрос.

ОБНОВА: пробный стрим провел, 24 человек в пике заходило, неплохо, я удивлен. Всем спасибо кто был💪
Вывод: нужно готовиться заранее - собирать промты😁
❤‍🔥15👍91
Теперь можно не бояться llama.cpp с этим лаунчером

Как же мне надоели эти терминалы и bat-ники. Я теперь могу в один клик запускать сервер и не надо лезть в блокнот чтобы поменять какой либо флаг. Все в одном интерфейсе - удобно.

Я простестировал удобный софт от участника НАШЕГО ЧАТА.

В этом видео я наглядно показал как это работает:
https://youtu.be/vcPGTI_VA4kн

Ссылка на гитхаб:
https://github.com/pytraveler/LlamaServerLauncherAvalonia

Приятной генерации и бесплатных токенов!
🔥20👍11🤔3🗿1
Всем привет. Минут через 10-15 хочу бахнуть стрим где проведем турнир по шахматам среди локальных LLM.

https://youtube.com/live/YKe6zRIdD-Y?feature=share
6😁4🔥3
Сегодня на стриме несколько человек накинули идей соревнований между локальными LLM:

1. Сделать футбол.
2. Сделать покер.
3. Сделать мафию.

И сделать онлайн игрушку, в которой задействовать всех участников стрима. Интересно, но сложно.

А также между делом появилась идея сделать ставки. Вначале я воспринял это как шутку, затем подумал «блин, а ведь прикольно». Но как?

В общем, сейчас цель реализовать какой-то прототип соревнований между локальными моделями, чтобы было интересно смотреть, а потом можно ставить. Предложите свои идеи, не храните в себе😁

И не забываем подписываться на чат.
🔥15❤‍🔥2
Небольшое обновление канала YouTube.

Я сменил название канала. Зачем? Потому что я больше не снимаю про ComfyUI, уже не целесообразно двигаться под этим знаменем. И тем более, человек в чате поделился своим опытом когда название его ввело в заблуждение по началу.

Почему Мистер Гипс? Это мое погоняло, которое прилипло еще с давних времен, когда вел предыдущий канал. А я не против.

Почему Local LLM? Чтобы было хоть какое-то описание моей деятельности, которое должно считываться за секунды. Может быть я через некоторое время начну выжигать по дереву, значит просто заменю Local LLM на деревовыжигатель. :)

Зачем я это пишу? Чтобы когда мое видео появится в ленте ютуба, вы не отписались с перепугу, думая «кто это? я же подписывался на ProComfy, а тут какой-то Мистер Гипс»😁

И кстати, подписывайтесь на НАШ ЧАТ

А я всё, выключаю.
👍19🤝9🔥5👏21🫡1
Как добавить MCP (доступ к файлам и к интернету) в llama.cpp - ГАЙД

Эта тема не так популярна, как было с MCP в LM Studio, но пару человек меня спрашивала «КАК?», значит по порядку.

Для начала нужно создать текстовый файл config.json и внутрь скопировать это:
{
"mcpServers": {
"filesystem": {
"command": "npx",
"args": ["-y", "@modelcontextprotocol/server-filesystem", "H:/ВАШ_ПУТЬ"]
},
"ddg-search": {
"command": "uvx",
"args": ["duckduckgo-mcp-server"]
},
"fetch": {
"command": "uvx",
"args": ["mcp-server-fetch"]
}
}
}


Затем создать второй текстовый файл с названием mcp.bat и внутрь скопировать это:
start "MCP Proxy" cmd /k uvx mcp-proxy --named-server-config config.json --allow-origin "*" --port 8001 --stateless

И запускаете этот bat-ник.

После этого запускаете llama.cpp, переходите в раздел MCP Servers (вероятно вы знаете где это, раз заинтересовались этой темой). Нажимаете Add New Server и по очереди создаете эти сервера:

http://127.0.0.1:8001/servers/filesystem/mcp
http://127.0.0.1:8001/servers/ddg-search/mcp
http://127.0.0.1:8001/servers/fetch/mcp

ВАЖНО: запускать mcp.bat придется каждый раз, при запуске llama.cpp, иначе они не будут работать.

Эти сервера должны появиться в веб-интерфейсе llama.cpp и можно пользоваться. Надеюсь ничего не забыл, писал по памяти. Если возникли сложности, пишите в НАШ ЧАТ. Если вовремя замечу - отвечу. Либо ответят знающие люди, а их там много!

А я всё, выключаю🫡
👍126🔥3👎1🏆1😭1🤝1
MrGips • Про LLM
Как добавить MCP (доступ к файлам и к интернету) в llama.cpp - ГАЙД Эта тема не так популярна, как было с MCP в LM Studio, но пару человек меня спрашивала «КАК?», значит по порядку. Для начала нужно создать текстовый файл config.json и внутрь скопировать…
Наглядно, как я дал доступ к файлам и интернету, с помощью MCP Servers в llama.cpp

https://youtu.be/FFmAaONea7k

Это просто видео-ответ на комментарий, надеюсь кому-то еще это поможет. Но на самом деле в LM Studio это устроено поудобнее.

Так же подписывайтесь на НАШ ЧАТ. Там очень много людей, с мощными сборками GPU. Я рад что собрал такое сообщество.

Жмите реакции, а я всё, выключаю.
🔥14👍7❤‍🔥2
Новая модель Gemma 4 12B в связке с Hermes Agent - тест в реальных задачах

Сильная модель, которую можно запустить даже на вашем ноутбуке… наверно.

Видео уже на канале:
https://youtu.be/q5kCBg8cp_8

Присоединяйтесь в НАШ ЧАТ

А я всё, выключаю.
🔥15
Qwen3.6 27B MTP против Qwen3.6 40B - Битва LLM

Я протестировал на трех промтах две мощные модели в этом видео:
https://youtu.be/n9wPSuO2SR8

1. Музыкальная шкатулка:
Create a single-file browser project called "Tiny Clockwork Music Box".
The page should show a stylized 3D music box mechanism on a tabletop. The user should be able to rotate and zoom the camera and watch the mechanism play.
Requirements:
Use Three.js.
Everything must be in one index.html file.
The scene should include a base, visible gears, a rotating pinned cylinder, small metal tines or bells, a dancing figurine, a wind-up key, and decorative props.
Turning the key should start the mechanism.
Gears should rotate together in believable ratios.
Pins on the cylinder should trigger small hammers or tines in sequence.
The figurine should rotate or dance in sync with the mechanism.
Objects should be grounded and mechanically connected.
The visual style should be polished, charming, readable, and slightly magical.
The project should run immediately in a modern browser.
Focus on clear mechanical relationships, synchronized motion, and a satisfying miniature presentation.


2. Бильярд 2D:

Create a single self-contained HTML file with a top-down 2D billiards (pool) game with the following requirements:
**GAMEPLAY:**
- Standard pool table with 15 colored balls + 1 white cue ball
- Player vs AI opponent (taking turns)
- Shot power control: click and hold on cue ball, drag to aim (shows direction arrow), release to shoot — power determined by drag distance (show power bar)
- Realistic physics: ball-to-ball collisions, wall bouncing, friction/deceleration
- 6 pockets (corner and side) that sink balls
- AI opponent makes calculated shots with slight randomness to feel beatable
- Turn logic: pot a ball = shoot again; scratch (cue ball in pocket) = opponent places cue ball
**VISUALS (top-down view):**
- Green felt table with wooden rail border
- Balls rendered as colored circles with numbers (stripes and solids)
- Animated dotted aim line from cue ball in drag direction
- Power meter UI on the side
- Scoreboard showing Player vs AI potted balls
- Visual feedback: ball trails, pocket flash on sink, shake on hard hit
**UI:**
- "Your Turn" / "AI's Turn" indicator
- Current score for each side
- Game over screen (8-ball rules: pot the 8-ball last to win)
- Restart button
**TECHNICAL:**
- Pure HTML + CSS + JavaScript, no libraries
- Canvas-based rendering (requestAnimationFrame)
- All in one `.html` file, no external dependencies
👍41
3. iPhone с игрой:
Создайте один HTML-файл, который выглядит максимально приближенно к интерфейсу реального современного мобильного приложения в стиле iPhone.
На странице должен отображаться реалистичный фрейм (корпус) телефона с закругленными углами, вырезом под динамик / областью в стиле Dynamic Island, строкой состояния (status bar), областью индикатора блокировки/домой (home indicator), областью содержимого приложения и плавными интерактивными элементами в мобильном стиле.
Это должно быть современное приложение для жизни и продуктивности с такими разделами, как: Сегодня (Today), Календарь (Calendar), Сообщения (Messages), Умный дом (Smart Home), Кошелек (Wallet) и Настройки (Settings). Включите отполированный главный экран, нижнюю панель навигации (таб-бар), карточки уведомлений, виджеты, переключатели, быстрые действия, события календаря, превью сообщений, элементы управления умным домом и панели настроек.
В нем должна быть 1 игра — автомобильная игра в стиле GTA, а также приложение социальной сети с фейковыми (демонстрационными) данными.
Сделайте интерфейс премиальным, чистым и нативным для телефона — с эффектами матового стекла (glassmorphism), закругленными карточками, мягкими градиентами, тонкими тенями, плавными переходами, анимацией кнопок с имитацией тактильной отдачи (haptic) и адаптивным дизайном, ориентированным в первую очередь на мобильные устройства. Все это должно выглядеть как настоящее мобильное приложение, запущенное внутри реалистичного макета телефона.
Четко отобразите название тестируемого семейства моделей где-нибудь в верхней части интерфейса приложения, чтобы я мог определить, какую версию я просматриваю во время записи.
Сохраните всё в одном HTML-файле со встроенными CSS и JavaScript. Назовите файл ios-app-ui.html.


Не забывайте подписаться на НАШ ЧАТ, где мы делимся своими результатами.
👍9🤝4
Claude Fable 5 против Qwopus 3.6 27B v2 MTP - Битва моделей

В этом видео я протестировал новую модель от Антропиков - Fable 5:
https://youtu.be/OcR216-siDU

И чтобы было интересно, я поставил к нему в противника нашумевшую модель Qwen 3.6 27b, но которая обучена думать как Claude Opus - Qwopus 3.6 27B.

В следующем посте будут промты из видео.

Не забывайте подписывать на НАШ ЧАТ, где можно делиться своими результатами генераций.

Всем добра и бесплатных токенов!
👍16🔥41