Немного отвлекся от проекта по YDX на ИИ. Надо же держать себя в форме, тренды знаете ли.
ИИ-шка может помогать, главное — следить, чтобы проект не превратился в нейрослоп. Подобрал максимально качественную и рабочую модель под 4070 Ti (учтите: контекст тоже норм так жрёт память...). Придумал схему, при которой агент будет максимально умный, а мне при этом будет максимально не больно (жена не побьёт, что я деньги из семьи на токены тяну).
В общем, опробую схему на YDX — думаю, пойдёт дело шустрее. Одному 10 приложений клепать весело, но медленно.
ИИ-шка может помогать, главное — следить, чтобы проект не превратился в нейрослоп. Подобрал максимально качественную и рабочую модель под 4070 Ti (учтите: контекст тоже норм так жрёт память...). Придумал схему, при которой агент будет максимально умный, а мне при этом будет максимально не больно (жена не побьёт, что я деньги из семьи на токены тяну).
В общем, опробую схему на YDX — думаю, пойдёт дело шустрее. Одному 10 приложений клепать весело, но медленно.
👍4🤔2
Vitaliy Zarubin | @keygenqt
Немного отвлекся от проекта по YDX на ИИ. Надо же держать себя в форме, тренды знаете ли. ИИ-шка может помогать, главное — следить, чтобы проект не превратился в нейрослоп. Подобрал максимально качественную и рабочую модель под 4070 Ti (учтите: контекст тоже…
Media is too big
VIEW IN TELEGRAM
🔥7
🚀 YDX | SwiftUI — Фундамент готов
macOS-версия готова. SwiftUI мне уже знаком, пару-тройку дней и базовая архитектура приложения готова. Фундамент под приложения для десктопа полностью готов: Linux, Windows, macOS, мобильные платформы ждут нас.
🧠 Rust Core
- Вся логика в Rust.
- SwiftUI — тонкий UI слой.
- Архитектура — MV + ViewModel.
🪟 Навигация
- Гость (
- Полное управление стеком навигации.
🔐 Безопасность | Keychain
- Токены в защищенном хранилище.
- Валидация токена на сервере.
🎨 UI | SwiftUI
- Валидация форм с динамическими ошибками.
- Адаптация под Light/Dark Mode.
- Нативные диалоги.
- Локализация EN, RU, ZH.
📦 Стек
- Rust + Swift + SwiftUI.
🔗 https://gitcode.com/keygenqt_vz/ydx
macOS-версия готова. SwiftUI мне уже знаком, пару-тройку дней и базовая архитектура приложения готова. Фундамент под приложения для десктопа полностью готов: Linux, Windows, macOS, мобильные платформы ждут нас.
🧠 Rust Core
- Вся логика в Rust.
- SwiftUI — тонкий UI слой.
- Архитектура — MV + ViewModel.
🪟 Навигация
- Гость (
Welcome → SignIn → SignUp) и Пользователь (Home).- Полное управление стеком навигации.
🔐 Безопасность | Keychain
- Токены в защищенном хранилище.
- Валидация токена на сервере.
🎨 UI | SwiftUI
- Валидация форм с динамическими ошибками.
- Адаптация под Light/Dark Mode.
- Нативные диалоги.
- Локализация EN, RU, ZH.
📦 Стек
- Rust + Swift + SwiftUI.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👍1
YDX | Step 2 — Architecture
2 months
✅ Server / Axum
✅ Website / React
✅ Documentation / mdBook
✅ Deployment / Docker
✅ Linux / GTK
✅ Windows / WinUI 3
✅ macOS / SwiftUI
⌛ HarmonyOS / ArkTS
⌛ Aurora OS / Qt
⌛ Android / Jetpack Compose
⌛ iOS / SwiftUI
2 months
████████████░░░░░░░░ 7/11 completedPlease open Telegram to view this post
VIEW IN TELEGRAM
🔥5👍2
Ну если делать — то делать хорошо. Двигаемся к своему идеальному помощнику. Дальше больше. Мой подход предполагает минимальную зависимость от бесплатных чатов и API, при этом максимальную пользу от локальной модели с ограниченными ресурсами. В то же время не забываем про мощные бесплатные чаты. Пока я прощупываю почву, посмотрим, что из этого вырастет.
🔥3
🤖 RAG-система для разработки готова
Собрал систему для 4070Ti с OpenSearch + Open WebUI + Ollama.
Что сделал:
• Сделал систему синхронизации
• Сделал бенчмарк и проверил кучу моделей
• Добавил тулз для Agentic RAG на базе OpenSearch
• Добавил сказки про агыров для контекста 🧙♂️
Результат: модель находит актуальные версии библиотек и отвечает по базе знаний.
Лучшая модель — qwen2.5-coder:14b (13 сек холодный старт, 11 сек горячий)
Собрал систему для 4070Ti с OpenSearch + Open WebUI + Ollama.
Что сделал:
• Сделал систему синхронизации
• Сделал бенчмарк и проверил кучу моделей
• Добавил тулз для Agentic RAG на базе OpenSearch
• Добавил сказки про агыров для контекста 🧙♂️
Результат: модель находит актуальные версии библиотек и отвечает по базе знаний.
Лучшая модель — qwen2.5-coder:14b (13 сек холодный старт, 11 сек горячий)
🔥8
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2👍1
Нужно ли использовать LLM 🤖 ? Да. Другого варианта я не вижу, это просто инструмент — как IDE или Stack Overflow.
Можно писать код в тетрадке и читать все книги по программированию. Но производительность упадет. Давно вы считали 121 × 16 в уме?
Я начал разбираться с LLM и вижу задачи, которые можно упростить с помощью локальной модели. Платить за токены? Только если не можешь не платить. Сначала — максимум из бесплатных инструментов.
Локальные LLM упираются в лимиты контекста. RAG в этих условиях недоступен. Ограничивать модель под контекст — глупо. Брать нужно максимально возможную под память модель, а к контексту относиться бережно.
Я прощупал на Python структуру, в которой модель получает максимально качественный и минимальный объём данных. Этого хватает для работы без перегрузки. Это работает. Я добился стабильных ответов.
Так я начал проект Vibe Analyzer уже на Rust для получения максимальной производительности. Он индексирует код, собирает метрики, извлекает AST через tree-sitter, определяет лицензии. Экспортирует компактный JSON — ровно столько, сколько нужно модели. Дальше — MCP и OpenSearch: модель сама получит всё необходимое по базе знаний.
За два дня — 4k+ строк отполированного Rust-кода.😎
Можно писать код в тетрадке и читать все книги по программированию. Но производительность упадет. Давно вы считали 121 × 16 в уме?
Я начал разбираться с LLM и вижу задачи, которые можно упростить с помощью локальной модели. Платить за токены? Только если не можешь не платить. Сначала — максимум из бесплатных инструментов.
Локальные LLM упираются в лимиты контекста. RAG в этих условиях недоступен. Ограничивать модель под контекст — глупо. Брать нужно максимально возможную под память модель, а к контексту относиться бережно.
Я прощупал на Python структуру, в которой модель получает максимально качественный и минимальный объём данных. Этого хватает для работы без перегрузки. Это работает. Я добился стабильных ответов.
Так я начал проект Vibe Analyzer уже на Rust для получения максимальной производительности. Он индексирует код, собирает метрики, извлекает AST через tree-sitter, определяет лицензии. Экспортирует компактный JSON — ровно столько, сколько нужно модели. Дальше — MCP и OpenSearch: модель сама получит всё необходимое по базе знаний.
За два дня — 4k+ строк отполированного Rust-кода.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6👍1