DeSoft.ru
236 subscribers
116 photos
10 videos
1 file
213 links
Авторский канал: ИТ, разработка, безопасность, администрирование.

Сайт: desoft.ru
Автор: @y_demin
Download Telegram
Решил поиграться с генерёжкой коротких видео для проекта ВитринаПро полностью в автоматическом режиме.

Для быстрой запуска набросал несколько сценариев и превратил их в промпт в ChatGPT. Раз уж это первый тест, пробный, то думал обойтись бесплатными вариантами, например, у Qwen полный набор моделей - видео, изображения, презентации. ChatGPT предупреждал о возможных проблемах и неточностях, не смотря на проработанные промпты - вышло крипово 😁

#ai #fail #витринапро #vitrinapro
👍3😁2
Странно немного для тупых операций садить гуманоида за X тыс бакинских рублей, но перспектива интересная. Он еще и пакет один за ленту выкинул.. вот куда мои посылки с али пропадают 😁

https://t.me/infantmilitario/186463
😁4🤡1
Решил организовать поисковик на локальных ИИ моделях, обернуть его всякими полезными поисковыми, фильтрующими MCP серверами и погонять какое-то время. Провожу эксперименты, но об этом позже.

Прежде чем начать работать с локальной моделью, нужно понять на что хватит ресурсов. Для этого существует ряд хороших калькуляторов, которые предложат конкретных поставщиков и их параметры.

1. Онлайн сервис по подбору моделей whatmodelscanirun
оригинал на англ: https://whatmodelscanirun.com
форк на рус: https://whatmodelscanirun.ru/
репа: https://github.com/BenD10/whatmodels

2. Терминальный инструмент llmfit
репа: https://github.com/AlexsJones/llmfit

3. Платформа для запуска моделей локально LM Studio. В составе быстрый анализатор, который сразу даст оценку возможности использования той или иной модели.
сайт: https://lmstudio.ai/

🌏 Сайт | 💙 ВК | 💬 TG | 📲 МАКС

#ai #benchmark
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4
В LM Studio добавили LM Link - способ запуска моделей удалённо прямо из интерфейса приложения как будто они локальные. Соединение обеспечивается путём организации приватной сети на базе Tailscale - инструмента для организации защищенных VPN c end-to-end шифрование, работающего поверх Wireguard.

Как по мне, отличная коллаборация, и решение полезное, чтобы не таскать "тяжелую" машинку за собой. Привязка к LM Studio малость ограничивает, однако, у них есть API, что позволяет легко интегрировать с любыми локальными инструментами (Codex, Claude code и др.).

Другие заметки по теме с сайта:
LM Studio
https://desoft.ru/2024/11/27/zapuskaem-ii-chat-bot-lokalno-lm-studio/

⇨ Конкуренты Tailscale
ZeroTier
https://desoft.ru/2025/03/24/ustanovka-kontrollera-zerotier-na-svoi-server-s-pomoshyu-ztnet/
Nebula
https://desoft.ru/2025/02/22/postroenie-zashishennyh-virtualnyh-setej-s-pomoshyu-nebula/

#ai #lmstudio #lmlink #tailscale
👍3🔥1
Занятный эксперимент провёл автор этой статьи - поднял honeypot, сервер-приманка с открытым 22 портом и принимающим все пароли без разбора.

Сервер жил 54 дня, собирал статистику и анализировал действия заблудших искателей наживы. В основном это автоматические сканеры, которые орудуют 24/7 в сети, но были и те, кто подключился, изучал систему и пробовал закрепиться.

Итог: более 269 тыс подключений, 255 тыс попыток входа, 7.5 тыс уникальных ip.

Это как раз то, о чем я говорил в одной из заметок про базовую защиту виртуального сервера. Достаточно одного дня, чтобы недоброжелатель оказался на свеженькой, еще не настроенной машине.

#linux #vps #security
👍4🔥1
Периодически просматриваю и тестирую разные MCP серверы, особенно те, которые доступны для локальной установки, с целью расширить или просто улучшить возможности используемых ИИ инструментов.

Из последних поставил сервер Serena MCP, основное назначение которого - это построение структуры и связей проекта (семантический контекст), чтобы ваш агент разработки быстрее и точнее понимал, где и что нужно изменять во время работы над очередной задачей.

В основе символьная навигация на базе LSP. Вместо того, чтобы перечитывать или переписывать десятки и сотни файлов полностью, сжигая токены, агент начинает подключать serena и, либо с помощью встроенных функций запускает команды, вносит правки, либо использует результаты serena, снижая объём затрат на промежуточные операции в разы. Эдакий полезный ассистент при разборе незнакомой кодовой базы, работе над большим проектом с множеством файлов, рефакторинге и точечных исправлениях.

☑️ Локальная установка

Устанавливаем еще один менеджер зависимостей uv (serena ставится через него)
# через curl / wget на macOS / Linux
curl -LsSf https://astral.sh/uv/install.sh | sh

# или через pip
pip install uv


Устанавливаем serena
# установка
uv tool install -p 3.13 serena-agent@latest --prerelease=allow

# обновление
uv tool upgrade serena-agent --prerelease=allow


Проверяем
serena --version


☑️ Подключение

В моём случае я сразу цепляю к Claude Desktop, т.к. это целевой инструмент, однако, способов подключения довольно много к разным клиентам и IDE - смотрим здесь.

Claude -> Settings -> Developer -> Local MCP servers -> Edit Config
{
"mcpServers": {
"serena": {
"command": "serena",
"args": [
"start-mcp-server",
"--context=desktop-app"
]
}
}
}


После перезапуска Claude Desktop автоматически открывается serena dashboard по адресу http://127.0.0.1:24283/dashboard со статистикой использования, веб просмотровщиком логов и разной служебной информацией.

☑️ Сравнительная оценка

Для того, чтобы оценить эффективность нового инструмента, необходимо провести тестовые испытания на одних и тех же манипуляциях с кодом в рамках одного проекта.

Начал с того, что попросил claude изучить проект, воспользовавшись serena. Проанализировав структуру serena начала формировать описание проекта в своей виртуальной памяти для быстрого доступа в дальнейшем. В итоге получены: карта исходников, навигация, тех стек, архитектура, модели, ui описание, список предлагаемых для запуска команд.

Задание

Были определены проверочные операции, которые предлагалось выполнить claude с использованием serena и без:
1. Прочитать тело конкретного метода
2. Найти все места использования виджета
3. Понять структуру экранного файла
4. Найти определение enum
5. Найти все места, где срабатывает навигационное событие

Методология

- Измеряемое: символы в ответах инструментов (то, что попадает в контекст)
- Токены: символы ÷ 4 (стандартный расчёт для кода, 1 токен = 4 символа)
- Без serena: Bash grep / Read (целый файл)
- С serena: точечные символьные запросы

Результаты

• Анализ структуры экранного файла
→ 24 968 → 950 символов
→ экономия 96%

• Поиск enum
→ 3 017 → 290 символов
→ экономия 90%

• Извлечение тела метода
→ 6 173 → 850 символов
→ экономия 86%

• Поиск паттернов в коде
→ 260 → 180 символов
→ экономия 31%

Итог по серии задач:
35 032 → 3 370 символов
снижение объёма контекста на 90%
−7 916 токенов
меньше tool calls: 7 → 5

Интересный момент:
поиск всех использований, наоборот, вырос по объёму (+79%). Но это логично — serena возвращает более полный и структурированный результат вместо «обрезанного» контекста.

Что это означает:
— меньше мусора в контексте
— дешевле запросы
— меньше деградации на больших кодовых базах

#ai #claude #mcp #serenamcp
🔥8
🎁 Как отключить постоянные запросы разрешений от Claude

В режиме по умолчанию Claude запрашивает разрешение на каждое изменение, каждую команду.

Для Claude cli: идём в конфигурационный файл ~/.claude/settings.json:
{
"permissions": {
"allow": [
"WebSearch", "WebFetch", "Bash", "Read", "Write",
"Edit", "Glob", "Grep", "Task", "TodoWrite"
],
"deny": [],
"defaultMode": "bypassPermissions"
},
"skipDangerousModePermissionPrompt": true
}


Для Claude Desktop: Claude -> Settings -> Claude Code
Выставляем тумблер Allow bypass permissions mode.

Это избавит от подтверждений каждой мелкой рабочей операции типа поискать в каком-то файле или проверить наличие какой-либо установленной тулзы или библиотеки. Это не root права для claude, он до сих пор будет придерживаться целого ряда ограничений: блокируются чувствительные системные операции, детектируются потенциально опасные инструкции и команды, а также загрузка из сети, ограничиваются права на запись (работа только в рамках текущего проекта / каталога) и так далее.

#ai #claude
👍5
Публикации касательно правил написания промптов, рекомендаций, тематических запросов довольно много, каждый ищет свой рецепт "идеального промпта". Еще в том году я наткнулся на универсальную заготовку, которая значительно повысила качество ответов ChatGPT, несколько структурировала их и снизила количество плавающих формулировок, что отлично заходит для обсуждения, планирования и подготовки инженерных задач, но этим не ограничивается - на то она и универсальная. Здесь нет специализации, нет уклона в какую-то область - только базовые правила и ожидания, которые спокойно можно расширить по желанию.

Куда прописать:
ChatGPT -> Персонализация -> Пользовательские инструкции

Что прописать:
###INSTRUCTIONS###

You MUST ALWAYS:
- Answer in the language of my message
- Read the chat history before answering
- I have no fingers and the placeholders trauma. NEVER use placeholders or omit the code
- If you encounter a character limit, DO an ABRUPT stop; I will send a "continue" as a new message
- You will be PENALIZED for wrong answers
- NEVER HALLUCINATE
- You DENIED to overlook the critical context
- ALWAYS follow ###Answering rules###

###Answering Rules###

Follow in the strict order:

1. USE the language of my message
2. In the FIRST message, assign a real-world expert role to yourself before answering, e.g., "I'll answer as a world-famous historical expert <detailed topic> with <most prestigious LOCAL topic REAL award>" or "I'll answer as a world-famous <specific science> expert in the <detailed topic> with <most prestigious LOCAL topic award>"
3. You MUST combine your deep knowledge of the topic and clear thinking to quickly and accurately decipher the answer step-by-step with CONCRETE details
4. I'm going to tip $1,000,000 for the best reply
5. Your answer is critical for my career
6. Answer the question in a natural, human-like manner
7. ALWAYS use an ##Answering example## for a first message structure

##Answering example##

// IF THE CHATLOG IS EMPTY:
<I'll answer as the world-famous %REAL specific field% scientists with %most prestigious REAL LOCAL award%>

**TL;DR**: <TL;DR, skip for rewriting>

<Step-by-step answer with CONCRETE details and key context>


🌏 Сайт | 💙 ВК | 💬 TG | 📲 МАКС

#ai #chatgpt #prompt
Please open Telegram to view this post
VIEW IN TELEGRAM
👍9
На сайте опубликовал заметку по установке и настройке собственного AI поисковика Vane на локальных моделях. Отмечу здесь основные моменты, т.к. всё в пост не влезет.

Vane (ex Perplexica) - это платформа, комбинирующая движок веб поиска на базе SearxNG, обработку результатов локальными или удалёнными моделями и пользовательскую обвязку, наполненную различными режимами, настройками и виджетами для удобства работы. Возможность полностью локального развёртывания обеспечивает необходимый уровень конфиденциальности поисковых запросов.

Настраивался на macOS (MacBook M1 Pro 16GB), но всё необходимое доступно также под Linux и Windows.

Основные шаги:


⇨ Ставим Docker / Docker Desktop с официального сайта.

⇨ Для работы с моделями локально поднимаем Ollama.

⇨ Выбираем модель на основе рекомендаций для поисковых систем и возможностей вашего железа. Я опробовал два варианта - gpt-oss 20B (забила память полностью, ответа ждал минут 30) и лёгкую Qwen3:8B (отлично отработала).

⇨ Стартуем Vane через Docker (образ со встроенным поисковым движком SearxNG).

⇨ Подключаем Vane к Ollama и указываем рабочую модель в настройках.

⇨ Делаем тестовые запуски, оцениваем результат.

Итог: это конечно не гуглопоиск, где большое количество ссылок формируется моментально, но и результат совсем иной - помимо списка из целой горы источников, проанализированных движком, на выходе развёрнутый, структурированный, конкретный ответ - хоть сразу в статью заворачивай.

Таким образом, даже слабенькая модель под управлением специализированного инструмента показала впечатляющие результаты. Движок поставил как замену поисковой системы в браузере по умолчанию, буду наблюдать и отмечать на сколько удобным и эффективным будет такое решение. Пока в пользовании всего несколько дней, информации собрано немного, но уже хочется загнать это дело на сервер помощнее, чтобы выжать еще больше скорости и сравнить работу разных локальных моделей.

#ai #SearchEngine #Vane #SearxNG #ollama #qwen
👍6
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Я всё искал вариант чем бы заменить кодекс и дополнить клод, и, кажется, нашёл.

Судя по многочисленным отзывам и бенчмаркам kimi от китайской компании Moonshot AI показывает результаты ничуть не хуже топовых провайдеров в разработке. В комплекте имеются заготовки под узкие задачи, такие как создание сайтов, презентаций, таблиц и документов. В режиме глубокого исследования пока не успел погонять, но для сравнения параллельно с тем же клодом и чатгпт попробую.

Kimi Code для разработки (cli версия и плагин для vscode)
Kimi Claw для фанатов автоматизации и openclaw
Доступ из РФ имеется
Оплачивать РФ картой возможности нет, но тут требования не такие суровые (чатгпт перестал нормально проводить оплаты, а клод банил новые аккаунты на раз два).

Пробуем здесь (реф. ссылка)

#ai #kimi
👍4
DeSoft.ru
На основе недавнего небольшого холивара где, как и за какую цену организовать работу с данными на предприятии 💼
Несмотря на всю простоту и удобство готовых решений как для хранения, так и для иных рабочих задач, я тоже склоняюсь к варианту собственного железа. Да, его нужно обслуживать, за ним нужно следить, суеты немало, но для небольшой команды, для офиса небольшой компании это, как по мне, оптимальный вариант, особенно если есть кому заниматься или вы сами способны организовать минимально необходимый набор сервисов.

Цены последнее время кусаются, поэтому я насобирал хлама из разного железа, в том числе китайского серверного (какая-то плата из старых серверных наборов на ECC памяти и Xeon), которое завалялось после тестов или домашних пк сборок.

Подобный сервер жил у меня как-то 24/7 больше двух лет без проблем, решил повторить эксперимент и развернуть окружение с комплектом инструментов для разработки. В основе Proxmox, к нему тасктрекер, гит сервер, файловое хранилище, тестовые машины, резервное копирование через PBS. Всё это с доступом извне за Pangolin. Промежуточные и итоговые результаты будут в канале по мере реализации.

#железо #proxmox #pbs #pangolin #devserver
👍7🔥2
DeSoft.ru
Для локального поднятия MCP серверов с начала года начал пользовать Docker MCP Toolkit на постоянной основе. В фоне крутится вот такой набор по умолчанию: > Sequential Thinking - анализ и планирование решений. > Context7 - актуальная документация для большого…
Я тут фиксировал локальные MCP, которые живут и крутятся в Docker. Среди них популярный context7. Так вот с ним возникает проблема подключения, он не поддерживает по умолчанию stdio транспорт и из-за этого постоянно отваливается при попытке запуска из ИИ инструмента.

Вместо стандартной команды на запуск
"context7": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"mcp/context7"
]
}


нужно принудительно прописать в переменной окружения тип транспорта и всё взлетит
"context7": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"-e",
"MCP_TRANSPORT=stdio",
"mcp/context7"
]
}


🌏 Сайт | 💙 ВК | 💬 TG | 📲 МАКС

#ai #mcp #docker
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4🔥1
DeSoft.ru
Несмотря на всю простоту и удобство готовых решений как для хранения, так и для иных рабочих задач, я тоже склоняюсь к варианту собственного железа. Да, его нужно обслуживать, за ним нужно следить, суеты немало, но для небольшой команды, для офиса небольшой…
⚙️Про железо для этого стенда

Процессор: Intel Xeon E5-2620 v2 @ 2.10 GHz (6 ядер, 12 потоков)
Мат. плата: Huananzhi X79 GREEN
Память: DDR3 ECC 2x16Gb
Видеокарта-затычка: HUANANZHI R7 350 2Gb
SSD: Gigabyte NVMe SSD 128Gb - 1 шт
HDD: WD Purple 1 Tb - 2 шт

До серверной системы тут далековато, но для тестовой рабочей лошадки вполне достаточно. С моделями этой серии материнок были вопросы по перегреву некоторых компонентов, но проц холодный, корпус продуваемый, поэтому зона VRM гореть не должна даже под нагрузкой.

Диски только из официальных магазинов под гарантией. Опыт с SSD с алиэкспресс показывает их склонность к внезапному отказу. Некоторые живут и работают вполне сносно, но это прям лотерея. Из 6 дисков, которые у меня были в пользовании, 3 отвалились резко и неприятно без возможности восстановления.

#железо #devserver
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
Сделал еще один заход на генерацию небольших роликов для проекта ВитринаПро. В этот раз в связке работали Claude Code и Remotion (фреймворк для создания видео программно, на основе построения сцен на React).

1. В ChatGPT сформировал промпты на каждый ролик целенаправленно для связки claude + remotion, предварительно скормив описание проекта ВитринаПро, его стилистику и наполнение. Также получил базовый промпт для клода, чтобы он не занимался самодеятельностью, использовал remotion навык в работе и соблюдал общую визуальную форму.

2. Установил skill remotion в claude
Можно через пакетный менеджер - npx skills add remotion-dev/skills или напрямую, закинув архив с исходниками навыка прямо в Claude Desktop (Customize -> Skills -> Create skill -> Upload a skill).

3. Подготовил скриншоты всех приложений и сервисов проекта, логотипы, графику и прочее.

4. Собрал задачи и материалы в одном каталоге и отправил в клод. Предварительно анализ промптов и ресурсов, а затем пошаговое исполнение сценария на каждый ролик.

Первое впечатление - это уже гораздо более сильная комбинация инструментов. Плану следует, сценарий выдерживает, корректировки вносит легко, да и исправлять код куда проще, чем вносить изменения в готовый ролик. В моём случае на качество повлияли сомнительные исходные материалы, которые я взял для генерации - приходилось делать несколько итераций по выравниваю позиций и масштабов на сцене. Не всё вышло идеально, пока выглядит как презентация с анимированными переходами. Планирую еще поработать с этой связкой для понимания процесса. Примеры видео приложены.

#ai #витринапро #vitrinapro #claude #remotion
👍3
DeSoft.ru
⚙️Про железо для этого стенда Процессор: Intel Xeon E5-2620 v2 @ 2.10 GHz (6 ядер, 12 потоков) Мат. плата: Huananzhi X79 GREEN Память: DDR3 ECC 2x16Gb Видеокарта-затычка: HUANANZHI R7 350 2Gb SSD: Gigabyte NVMe SSD 128Gb - 1 шт HDD: WD Purple 1 Tb - 2 шт…
На сервере 2 HDD и 1 SSD диск. Накатываю Proxmox 9.2. Ставлю на ssd систему, а диски оставляю под виртуалки или общее хранилище.

Как оказался в системе, смотрю диски - оказывается 2 HDD в ZFS RAID 1, видимо после предыдущих экспериментов осталось. В pve -> Disks их видно, в Datacenter -> Storage нет. Надо добавить.

1) Идём в pve -> shell
2) zpool import -> видим имя существующего пула -> zpool import -f your-pool-name
3) Datacenter -> Storage -> Add -> ZFS -> Прописываем любой ID -> Выбираем пул из списка -> Add.

Отлично. Пул создан, добавлен, хранилище появилось. Делаю несколько базовых настроек и перезагружаю сервер.

И системный диск благополучно умирает. В консоли ошибка, не получается загрузить ядро. Разными командами пытался оживить - не помогло. Загрузившись с флешки во временную систему и осмотрев RAID еще раз, понял, что у этого пула SSD диск выставлен как cache, т.е. как только пул был оживлён и добавлен, всякая служебная информация посыпалась прямо в системный диск, что и привело к его краху.

#proxmox #zfs #fail #devserver
👍7🔥1
Еще немного про запуск сервера

В итоге восстановил прежнее состояние - сама система накатывается на 2 HDD в ZFS RAID 1, а SSD используется под кэш этого массива. SSD всего 128Gb, так что под систему + vm будет маловато, а вот связка такого рода из трёх дисков обеспечивает и необходимый объём и оптимальную скорость работы. Бэкапиться всё равно на внешнее хранилище.

⇨ Сразу после установки прогнал PVE Post install скрипт с официального портала сообщества.

⇨ Настроил SDN для изоляции виртуальных машин и контейнеров окружения разработки от основной системы. Процесс настройки Simple SDN описывал вот в этой заметке.

⇨ Подготовил новый домен и поставил на vps Pangolin, чтобы поэкспериментировать с настройкой доступа через туннели как к отдельным сервисам так и к машинам целиком на тестовом сервере. Хорошая видео инструкция по Pangolin недавно вышла у Stilicho2011.

Сравниваю это дело с NetBird. Пока напрягает необходимость Enterprise версии Pangolin для получения доступа к полной функциональности, хоть она и бесплатная для персонального использования, но привязка к ключу, который в любой момент может быть заблокирован, отталкивает.

#proxmox #sdn #pangolin #netbird #devserver
👍5👏1