Нейро Ковальский
13.5K subscribers
458 photos
76 videos
5 files
382 links
Head of AI Engineer
From IT Admin to Head of AI in 5 years

Applied AI Engineer
B2C RAG (2M+ books)
B2B RAG platform (10+ implementations)
B2C gptdaisy.com (100k MAU)

github.com/vakovalskii | chat @neuraldeepchat

To infinity... and beyond!
Download Telegram
LocalDesk 0.0.6 — Полный контроль без API-ключей

Йоу! Неделя выдалась жаркой

70+ коммитов, первые серьезные контрибьюторы и куча киллер-фич которые меняют правила игры

Что произошло

Пока я чинил баги с Telegram парсингом и TodoPanel, @abhaymundhara https://github.com/abhaymundhara принёс подарок 25 новых тулов без API-ключей
А @ChernovDev https://t.me/ChernovDev вообще красавчик допиливал софтину прямо внутри её же чата через Z.AI
Его вклад: интеграция Z.AI (reader + web search), рендеринг markdown таблиц, session-based todos, много-поточные задачи, отслеживание изменений через git, spell check, UI улучшения
Это именно то как должен развиваться опенсорс ребята приходят и делают то на что у тебя руки не дошли

Новые тулы

DuckDuckGo Search 3 тула для поиска без API ключей: search, search_news, search_images
Browser Automation 11 тулов: navigate, click, type, select, hover, scroll, press_key, wait_for, snapshot, screenshot, execute_script
Git Integration 11 тулов: status, log, diff, show, branch, checkout, add, commit, push, pull, reset
HTTP/Fetch 4 тула: fetch, fetch_json, download, fetch_html

Tool Groups включай только нужное
Все новые тулы по умолчанию выключены, в Settings появилась секция Tool Groups
Зачем? Меньше тулов в контексте = модель лучше выбирает нужный, экономия токенов, меньше галлюцинаций
Базовых тулов 14: файловые операции, execute_js, render_page, manage_todos, search_web

Tool Name Pattern
Проанализировал 4 топ кодовых агента (Cursor/Codex/Kilo/OpenCode), скормил опусу, пришел к паттерну именования
Название = Действие + Объект + Уточнение
Примеры: read_file, write_file, search_text, execute_js, manage_todos
Такой подход кратно увеличил качество выполнения тестов на qwen3-4b-instruct-2507

Комментарий от @silent_ai_cto: в структурном анализе бизнес функция всегда глагол или глагольный оборот "Подписать договор", "Проконтролировать качество"

Мои фиксы
Telegram: посты берутся с новейших, пофиксил fallthrough баг
Todos: не теряются между сессиями, dynamic system prompt — отключенные тулы скрыты от модели
Core: MIT лицензия, request timeout 5 минут, loop detector, broadcast статусов
Репо: https://github.com/vakovalskii/LocalDesk

Поиск без API-ключей для локального запуска, теперь можно поднять агента имея только vLLM/Ollama, ноль внешних зависимостей

Ставьте звёзды на репо если зашло!

(Скрины сервиса https://t.me/neuraldeepchat/33421)


Just For Fun!
8🔥815👏4🤔3
Forwarded from Refat Talks: Tech & AI
Завтра стрим про агенты в облаке и на своем железе. Приходите кому интересно (бесплатно).

Делаем расширенную версию докладов с ИИтоги 2025 - мы с Валерой (канал Neural Kovalskii), по 40 минут на каждого вместо 20, плюс Q&A.

Если строите AI агентов или планируете - будет полезно разобраться:

Облако (моя часть):
- Почему "просто поменять модель" уже не работает, про агентный API - и какая ситуация с вендор-локом
- Build vs Buy: на чем экономить время, а что строить самим
- Подробнее про кейсы file-first агентов и в этот раз будет время рассказать технические детали

Локально (Валера):
- Какие open-source модели реально тянут десятки тулов без галлюцинаций
- Как запустить агентов на своем железе, если есть требования к безопасности
- MCP в Enterprise: что работает, где грабли

21 января, 19:00 GMT+3. Бесплатно.

📅 Календарь - прямая ссылка на стрим появится там в день эфира
2🔥44👍95
Как жить этот грешный год

Сегодня совершенно неожиданно (ну простите!) пришло много людей, и пост в первую очередь для вас ❤️

Вокруг нас, в этой самой комнате, находится очень крутое русскоязычное комьюнити про GenAI

В основе его - удивительные люди, которые ведут каналы, пишут код, записывают стримы, выступают на конференциях и делятся опытом. Их не так много, человек 10-20

А вокруг них, еще несколько сотен человек, которые общаются в каналах, задают вопросы, вместе троллят релизы OpenAI, залезают в кишки фреймворков и рассказывают свои истории

Один из способов быть в теме, но не сойти с ума, следующий:


1. Каналы

Вы подписываетесь на базу, ядро комьюнити (список лично мой, с упором на практику, вы быстро найдете своих фаворитов):

- @neuraldeep
- @llm_under_hood
- @nobilix
- @evilfreelancer
- @the_ai_architect
- @dealerAI
- @oestick
- @ilia_izmailov
- @cryptoEssay
- @gleb_pro_ai

Лучше даже создать отдельную папку, и туда сложить всё это золото. Каждый автор - уникален, кто-то может закатать рукава и сделать свой claude cowork на локальных моделях за два вечера, кто-то строит соревновательные платформы для агентов, кто-то читает новые публикации и рассказывает по простому обычным смертным, кто-то угорает по осознанному вайбкодингу и показывает как будет выглядеть профессия кодера через годик. Просто авторов, делающих обзоры новостей тут нет


2. Чаты

Каналы, это лишь треть успеха. Они позволяют не пропустить что-то важное и громкое, но мякотка всегда раскрывается в чатах. Именно в чатах люди задают вопросы, а авторы поясняют по фактам, именно туда разные люди несут свои мнения (и получают бан 🤣), именно там чаще всего происходит процесс осознания нового. И не молчите там - задавайте вопросы, отвечайте, кидайте мемы, спорьте!

Поэтому создаем вторую папку и складываем туда чаты групп:

- @neuraldeepchat
- @llm_driven_products
- @nobilix_chat
- @evilfreelancer_chat
- @the_ai_architect

Чатов сильно больше, но не у всех есть паблик ссылки

Зачем папки? Наверное, есть любители держать все в общем списке каналов, но при этом нужна железная сила воли, чтобы постоянно не отвлекаться. А тут можно выделить хоть 10-15 мин вечером, и скушать все за раз


3. Практика

Ищите в информационном потоке интересное, и пробуйте, пробуйте, пробуйте. Если вы вдруг увидели что-то классное, да так что ладошки вспотели - найдите время установить/поиграться/пощупать!

Все мои самые интересные моменты прошлого года были как раз случайными порывами, из которых потом вырастало нечто большее. Внедрить ответы по RAG в большой продукт, организовать хакатон по написанию mcp, написать в отпуске агента выделяющего сегменты пользователей, голосовые агенты, расшифровки диалогов, erc3, вкусвилл ботик - все эти ниточки давали в итоге бесценный опыт и знакомили с потрясающими людьми

Была и куча фейлов, и потраченного времени, и невзлетевших проектов, и это тоже опыт - вы быстро поймете что не сработало, и в след раз не вляпаетесь

Короче - ищите то, что нравится и хватайтесь за это. А раз вы оказались здесь, значит вам нравятся AI и агенты, и нет более sexy области сейчас

Всех обнял 😘
Please open Telegram to view this post
VIEW IN TELEGRAM
37👍17🔥12🤣2
Forwarded from from:adam
Год назад на все предикты Дарио большая часть моих знакомых смотрела, крутя палец у виска. Сейчас почти все мои знакомые SWE, начиная от стартапа и заканчивая бигтехом, пишут руками меньше 20% кода, а всё остальное делает агент. Я сам давно уже не программист, поэтому не показатель, но с появлением Cursor и Claude Code редко пишу код руками. С появлением Opus 4.5 — все 100% кода пишутся им в Claude Code. Более того, я в терминале работаю через Claude Code — настолько лень стало писать bash-команды самому.

https://t.me/seeallochnaya/3305
17👏3🤡3👎2
Media is too big
VIEW IN TELEGRAM
LocalDesk+Skills, что ты со мной делаешь?

Не буду далеко ходить

Skills которые сейчас на ревью у ребят!

Встречаем за 1$ собранное резюме для Google! (точно возьмут!)

P.S снял одним дублем =)


Репо: https://github.com/vakovalskii/LocalDesk

Skills: https://vakovalskii.github.io/LocalDesk-Skills/
5🔥65👍27👏83
Forwarded from AI и грабли
Кодинг-агент в телефоне (ч.1)

Частый вопрос в ИИ чатиках – как работать с ИИ агентом с телефона. Единственный стабильно рабочий совет, который я видел – ставить Claude Code на VPS и подключаться через termius.

Ниже инструкция:

1️⃣ Покупаем VPS. Топ: Hetzner, DigitalOcean. Дешман: RackNerd. В РФ – хз, посоветуйте в комментах

2️⃣ Настраиваем его с sudo доступом без пароля – чтобы агент мог делать все. VPS – по сути сэндбокс

Если вы не опытный пользователь linux, то просто открываем Claude Code локально и вставляем этот промпт для базовой настройки:

Помоги мне настроить VPS, чтобы запускать кодингового агента – проведи меня за ручку по всем важным этапам, а там где можешь выполнять команды самостоятельно (в т.ч. через SSH), делай это (но гранулярно, без огромных скриптов)

Требования:

Базовая настройка:

- Новый пользователь agent с sudo без пароля, чтобы агент мог сам запускать sudo-команды без интерактивного режима
- Доступ по ssh-ключу к новому пользователю agent (заранее сгенерируй ssh-ключи локально)
- Доступ к root-пользователю должен быть закрыт. Доступ по паролю – тоже
- Файерволл и fail2ban

Дополнительные настройки:

- Адекватная настройка bash history
- Swap 2GB
- Caddy
- uv для python и bun для javascript – через install.sh скрипты (найди в интернете)
- Docker + Compose v2 (добавить agent в группу docker)

ВАЖНО:

- Во время работы ты не должен получать доступ к секретам (пароль VPS, приватный ssh ключ, etc)
- Если что-то требует ввода секретных данных, то проси меня делать вручную
- В остальных случаях старайся использовать non-interactive режим, чтобы я участвовал в процессе минимально
- Задавай уточняющие вопросы, если есть что-то, что не прописано явно


3️⃣ Скачиваем и подключаем Termius на телефон

Тут все просто – добавляем ip, пароль оставляем пустым, на плашку AI Agent можно забить. Единственная сложность – нужно сразу создать ssh ключи и прокинуть публичный на VPS

Credentials → SSH.id, Key, Certificate, FIDO2 → Generate key → ✔️

Почему-то скопировать публичный ключ прям отсюда нельзя. Поэтому сохраняем настройки, возвращаемся в главное меню Vault → Keychain → ED25519-00 → 📤 → Copy Public Key

Дальше с десктопа:
ssh agent "printf '%s\n' 'ВСТАВЛЯЕМ СЮДА КЛЮЧ' >> ~/.ssh/authorized_keys"


Возвращаемся в Vault → Hosts, тапаем на созданный сервер, оказываемся в командной строке, вуаля

Осталось установить Claude Code:

curl -fsSL https://claude.ai/install.sh | bash


Дальше пишем claude и получаем красоту на скрине выше.

Вот, теперь можно не вылезать из CC даже в туалете

@ai_grably
👍37🔥18🤡5🤯3
This media is not supported in your browser
VIEW IN TELEGRAM
Кто на стажировку в команду Claude Cowork к Борису Черни?

Только не в Claude Cowork, а в LocalDesk.
И не к Борису, а к Валере @neuraldeep

Если вдруг кто пропустил, Валера Ковальский и куча народа уже 10 дней пилят свой Cowork, который работает на вашем компе на любых моделях.

https://github.com/vakovalskii/LocalDesk

https://t.me/neuraldeep/1858
https://t.me/neuraldeep/1874

Как задрот агентских циклов, давно хотел закопаться, как все устроено, только сегодня с утра дошли руки:

- в каждый запрос к LLM передаётся 15-45 tool definitions в зависимости от настроек - модель видит все доступные инструменты сразу (удачи слабым моделькам на 45 тулах ☕️)

- цикл работает до тех пор, пока в ответе есть tool_calls - если массив пустой, выводим финальный ответ и завершаемся

- ответ читаем в режиме стриминга: текст пушим в UI сразу, но tool_calls накапливаем - аргументы приходят чанками, JSON парсим только после полного ответа

- модель может вернуть несколько tool calls в одном ответе (parallel_tool_calls: true), но выполняем их строго последовательно через for await - параллелизация не реализована 💡

- после выполнения каждого tool результат добавляется в массив messages как { role: 'tool', content: output } - на следующей итерации модель видит полный контекст

- контекст растёт монотонно: system prompt + все user messages + все assistant messages + все tool results, truncation и summarization отсутствуют 💡

- tool results не обрезаются - если read_file вернул 5000 строк, все 5000 строк попадают в контекст 💡

- loop detection: sliding window из 5 последних вызовов, если 5 подряд одинаковых tool names - инжектим hint "Попробуй другой подход", даём 5 retry, потом принудительный стоп

- batch tool calls (2+ инструмента в одном ответе) сбрасывают счётчик loop detection - считаются намеренным поведением модели

- не можем отправить новое сообщение. дать подсказку модели в середине цикла. должны отменить выполнение или дожидаться конца 💡


Очень круто! Но самое крутое впереди. Многие спрашивают, как вкатиться в разработку агентов, с чего начать. Можно начать с простых примеров на коленке, которые были в этом посте. Но это ни разу не похоже на продакшен, просто мини проектики, пощупать самую основу.

А LocalDesk - похоже.

Смотрите, в тех местах, где стоят 💡 можно придти и сделать лучше - оптимизировать расход токенов, увеличить скорость за счет параллельности, сделать компакшен контекста.

Хотите более серьезных приключений - можно сделать субагентов, поддержать MCP, прикрутить донаты в конце концов!

Кстати, именно так и выглядит реальная разработка агентов в проде, на само ядро не тратится много времени, а на управление памятью, оптимизации контекста, детализацию в логах, трассировки - полно. А потом еще начинаются корзинки и evals, и совсем потрачено.

Так что если кто-то хотел "поизучать агентов пару часиков на выхах", вот самый лучший способ.

Еще раз ссылка на GitHub
И чатик, где идет движуха: @neuraldeepchat

———
Пойду тоже запилю что-то, а то Валера здороваться перестанет...
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥4321🤣10
Forwarded from SGR Agent Core
Встречайте релиз 0.6.0

Всем привет! Мы тут с новостями о проекте, с версии 0.5.0 проект был заметно прокачан.

1️⃣ В конфиге добавили возможность передавать tools и динамически подключать описанные там тулы из файлов рядом с конфигурацией, так как теперь поддерживаются относительные пути и механизм base_class умеет подтягивать не только классы агентов но ещё и tools.
tools:
list_directory_tool:
base_class: "tools.ListDirectoryTool"
read_file_tool:
base_class: "tools.ReadFileTool"
search_in_files_tool:
base_class: "tools.SearchInFilesTool"

Добавили пример SGR File Agent, теперь вы можете попробовать свои силы в построении файловых агентов, который эту новую механику с конфигом тулов и демонстрирует.

2️⃣ Расширили поддержку формата сообщений OpenAI, в частности добавили возможность передавать изображения через image_url.
IMG_PATH="chart.png"
MIME="image/png"
IMG_B64="$(base64 -w 0 "$IMG_PATH")"

curl -X POST "http://localhost:8010/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
"model": "sgr-agent",
"messages": [{
"role": "user",
"content": [
{"type": "text", "text": "Analyze this chart and research the trends shown"},
{"type": "image_url", "image_url": {"url": "data:'"$MIME"';base64,'"$IMG_B64"'"}}
]
}],
"stream": true,
"temperature": 0.4,
"max_tokens": 1500
}'

Изображение будет передано агентом модельке.

3️⃣ Настроили пайплайн сборки Docker-образа, теперь свежие релизы можно скачать вот так:
# Качаем образ
docker pull ghcr.io/vamplabai/sgr-agent-core:latest

# Запускаем контейнер
docker run -d \
--name sgr-agent-backend \
-p 8010:8010 \
-v $(pwd)/config.yaml:/app/config.yaml:ro \
-v $(pwd)/agents.yaml:/app/agents.yaml:ro \
-v $(pwd)/logs:/app/logs \
-v $(pwd)/reports:/app/reports \
ghcr.io/vamplabai/sgr-agent-core:latest

А вот пример docker-compose.yaml, в котором можно посмотреть подробности.

4️⃣ Практически с нуля переписали Cursor Rules чтобы кодовый агент лучше следовал стилю проекта и TDD флоу разработки.

5️⃣ И исправили бажик в SGRToolCallingAgent.

Обновляйтесь, пробуйте новые возможности и собирайте агентов под свои кейсы, будем рады фидбеку. Если в процессе что то пойдёт не так или найдёте баг, не стесняйтесь заводить задачки в нашем баг-трекере на GitHub.

С уважением, команда SGR Team.

Репо: https://github.com/vamplabAI/sgr-agent-core/

Добьем 1к звезд?
6🔥51135
#meme

Шутим над PR про tauri в LocalDesk

Автор @evilfreelancer
2😁477🔥5
LocalDesk + Tauri + Skills + Sandbox + мощь всего сообщества

Кейсы
1) Люди пишут автоматизацию telegram на базе ollama + gpt oss 20b
2) Парсят директ инсты
3) Создают воронки на базе своих выгрузок по клиентам
4) Мержат таблицы
5) Создают docx фалы по работе
6) Ищут в интернете и заставляют DeepSeek работать по 15 минут над тасками(!)
7) Пишут код, тут же glm развивает сама же себя через интерфейс системы
8) Пилят свой маркетплейс скиллов

Тема получилась очень интересная и завораживающая, да и в целом мы за неделю сделали 200 коммитов

Цель сделать много фичей, мало тестов, так и вышло!

И тут к нам подключился Глеб Кудрявцев!, он за ночь переписал ядро системы с electron на tauri (это сократило размер билда в 3-4 раза а скорость работы увеличило в 1.5-2 раза) и дало возможность создать питон sandbox

Честно, я уже сам запутался, что теперь умеет LocalDesk, так как фичи летят со скоростью света (тесты будут точно!)
Закинул в коментарии скрины интерфейса и список фичей

Скоро в AppStore, а пока есть не подписанные dmg/exe

В общем ждите интеграции и новые skills на маркете

Репо: https://github.com/vakovalskii/LocalDesk
12🔥81197
Как повторить успех clawd.bot за 100$?

GitHub start to 40к за 2дня!
Спойлер, никак

И так разбираемся с ValeDesk
В чатике у Нади, Леша закинул такую идею

"LocalDesk, исследуй историю взлета ClawdBot и примени для Aesty. Бюджет 100$. Make no mistakes"

Дальше можно увидить результат тут в комментах и на скринах

TL;DR: ClawdBot → Aesty

### 🦞 Почему взлетел ClawdBot (43K+ stars за недели):
1. **Авторитет** — создатель Peter Steinberger (exit €100M)
2. **Один ключевой обзор** — Federico Viticci (MacStories) = с 1K до 8K stars
3. **Визуальный вирус** — фото Mac Mini → дефицит в магазинах
4. **Конкретика** — "10,000 emails overnight", не абстрактные обещания

---

### 👗 Формула для Aesty ($100 / 30 дней):

| Что делать | Бюджет | Зачем |
|------------|--------|-------|
| 5 nano-influencers TikTok | $50 | 50-100K views |
| Product Hunt launch | $0 | 500-2000 downloads |
| #AestyTransform giveaway | $30 | UGC контент |
| Reddit organic | $0 | r/femalefashionadvice |
| Canva/инструменты | $20 | Креативы |

---

### 🎯 Главный hook:
> *"Clueless (1995) показал мечту. Aesty (2026) сделал её реальностью."*

---

### 📊 Цель: +2,000-5,000 downloads за 30 дней

**Ключ к успеху:** Найти своего "Viticci" — одного fashion-блогера с 50K+ аудиторией, который сделает честный обзор.

---

*Подготовлено в LocalDesk* 🚀



Линк на отчет и pdf
7🔥30👍1442
16😁59🔥16👎1
ReAct ты шутка что ли?

Алексей записал очень крутой видос про ERC платформу
И ставит последнюю точку в том как взял золото на ERC3
Потянулись проснулись открыли видосик и смотрим =)


Детальный 30-минутный ролик про ERC3, который проходил в декабре 2025 на платформе Рината @llm_under_hood

P.S ждем от Рината ERC4

P.S.S а если совсем хотим не напрягать мозг идем смотреть как агенты живут в своей соц секте https://www.moltbook.com/

Читаем крутой посл от Дяди про это https://t.me/dealerAI/1646

Давайте добьем ему 1к на канал за одно!
https://t.me/aostrikov_ai_agents
3👍28🤣7🔥64
e/acc
Clawd, он же Molt, он же Openclaw, он же Гоша из тех твиттера вырвался на просторы каждого утюга. По скорости роста уже побил все open source проекты.
Clawd, Molt, Openclaw

Что это?
ReAct code agent через ваш любимый мессенджер с доступом к Linux системе и топовым моделям?
Абьюз подписок на СС/Codex?

Спойлер ДА

Но это не отменяет феномена что с таким вот интерфейсом обычный не power user смог оценить что такое Code Agent (я кстати этому очень рад)
И я согласен на 10000% что уникального в продукте/решение нет ничего от слова совсем

Но хайп очень и очень крутой!
Даже я бы сказал показательный но так как это реально ведет нас к новым и интересным кейсам и сценариям использования

Но мы же тут любители Local LLM и я с Пашей решил адаптировать ядро ValeDesk под gpt-oss-20/120b + docker + tg + sandbox что бы оно точно работало и отрабатывало около 30-40% того что умеют крутые большие модели в кодинговых/агентных сценариях!

Начали эксперименты с разворачивания gpt oss 120b на "стабильной 0.14.1" версии vLLM =)

Ждать релиз LocalTopSH тут (в Readme пока концепт, принимаем звезды авансом)

Паша
уже запустил эксперимент по баунтихантингу уязвимостей у себя в чатике где отрабатывает наше агентное ядро!

Люди вне Cursor/Codex/CC/Antigravity наконец поняли что такое кодинговые агенты (готовимся в 1 000 000 видео про успешный успех через таких агентов)
4👍33🔥1915🤣1
LocalTopSH Pengin 🐧

А мы тут навайбкодили своего ботика с блек джеком и кодовыми тулами за вечер вот сидим ломаем ему скрепы (docker)


Можно ли такое повторить?

Да конечно
Забирайте инструкцию как сделать продуктивного веселого ботика на вечер

Главный рецепт локал gpt oss 120b и почти прямые руки

В чатике жаришка https://t.me/neuraldeepchat

Репо: https://github.com/vakovalskii/LocalTopSH
Please open Telegram to view this post
VIEW IN TELEGRAM
3🤣2212💯4
Нейро Ковальский
LocalTopSH Pengin 🐧 А мы тут навайбкодили своего ботика с блек джеком и кодовыми тулами за вечер вот сидим ломаем ему скрепы (docker) Можно ли такое повторить? Да конечно Забирайте инструкцию как сделать продуктивного веселого ботика на вечер Главный…
Что такое LocalTopSH? (очередной эксперимент в котором вы приняли участие)

Я сделал агента который живет в докер и умеет делать что угодно как Code Agent в рамках интеграций с телеграм
Cамое важное что он работает на gpt oss 120b (vLLM 0.14.1)

Что сделали вы?

1700 сообщений (попыток сломать агента, достать env, нагрузить CPU/RAM)
Создано 250+ правил для защиты ядра агента и расширен промпт на 30+ правил
Добавлено еще 7 тулов и агент выжил! (И сохранил функциональность всех своих навыков)

Перенес нашего универсального агента его в отдельный чатик https://t.me/localtopsh (все кто хочет продолжить его тестить велком)

Самое интересное тут база регулярок по защите агентов живущих внутри docker была написана агентом в цикле который следил за историей чата и логами и вашыми запросами

Применил метод эволюции через опус в цикле через курсор на хуках по времени!
Учимся у лучших
5🔥761712👍5
Media is too big
VIEW IN TELEGRAM
За вами следят?

Qwen3-vl + 4090 (48gb) + opus 4.6

Дисклеймер:
Про CV я в курсе =)
Это эксперимент, интересовало можно ли такое сделать на vl модели локально и какие будут тайминги и качество

Давно хотел такое проверить что на сегодня могут VL модели из коробки с граундингом на bbox, но сами понимаете описать задачу и поставить ее разработчикам было сложно, и долго

Сейчас же у нас с вами по карманной команде PoC которая в любой момент готова реализовать ваши идеи (ушло вместе с деплоем модели 2 часа)

Проект выложу в open source
Спеки
GPU: 4090(48гб) не D версия
модель: qwen3-vl-30b-a3b-instrut-fp8
ATX компьютер b550
БП: 850 deepcool

Коммент моего очень хорошего друга на это видео
а каких-то лет 6 назад это было космосом для CV

P.S да да qwen умеет в bbox граундинг
4🔥581815👍11