Forwarded from Не баг, а фича
Media is too big
VIEW IN TELEGRAM
Видео на маленьком канале за 9 дней набрало 400 000 просмотров и 10 000 комментариев. Тут даём основные поинты.
Так, Минцифры угрожают отобрать аккредитацию, если компании не введут ограничения против VPN! Это — ШАНТАЖ против своих же граждан:
• Сначала они зарядили дикие налоги, а теперь в качестве ништяка даёт возможность налоги убавить.
• Сначала они создали такие условия, что ипотека стала неподъёмной и выдаёт скидки.
• Сначала они всё ограничили и заблокировали, а потом предлагают попасть в «белый список».
Это — постройка забора для сограждан. Разраб уверяет — это заслоны не для каких-то врагов, так что потакать безумию нельзя.
Если грозят увольнением, то пусть увольняют:
Офонаревшая контора РКН блокирует все ресурсы, которые официально даже не заблокированы. Если мне выпадет работа по ограничениям на бэке, то пусть лучше увольняют, я этим заниматься не буду и вас призываю. Не берите грех на душу.
То есть Минцифры хотят, чтобы разрабы писали код для усложнения жизни СЕБЕ и своей семье... Какой абсурд.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13💯4😁3🤝2
#prog #Dev #project #SKLAD
#ai #SOUL #md
Мне помогает снять всю эту шелуху инфо-поля программирование, проектирование систем... вот в последнее время помощников ИИ-агентов завёл. Дело как-то бодрее пошло.
Применяю подход к разработке, где первое и самое важное -- это описать вплоть до мелочей логику, алгоритмы и важные моменты идеи. Выстроить архитектуру. И уже по ней, даже не особо толстые, нейросети смогут быть весьма ощутимым помощником.
⚠️ Описываю сам, как могу и понимаю. Структурирую по разделам, пунктам и связной бизнес логике приложения. !!! Магия в том, что пока сам пробуешь написать хотя бы черновик своей идеи -- приходят мысли и дополнения, которые улучшают идею. Пока пишешь и пробуешь формулировать свои мысли -- твой опыт работает на тебя, твоя собственная ЕИ (Естественный Интеллект) начинает оживать и чувствует что полезна и нужна.
Уже после, по техническим деталям и конкретным реализациям модулей, и по техническим ограничениям консультируюсь с нейросетями. И надо признать, у них база знаний, даже у простых, весьма обширна и полезна.
---
Провожу для себя эксперимент с
Я видел не мало примеров того, как используют этот
Я создал и описал опыт личности, которая прошла путь от школьных первых проб программирования до архитектора систем с конкретным багажом знаний и опыта.
Я создал себе "Валеру", цифрового коллегу по разработке:
📟 @tech_di
#ai #SOUL #md
Мне помогает снять всю эту шелуху инфо-поля программирование, проектирование систем... вот в последнее время помощников ИИ-агентов завёл. Дело как-то бодрее пошло.
Строю свои "заводы" по производству "велосипедов" 😄
Применяю подход к разработке, где первое и самое важное -- это описать вплоть до мелочей логику, алгоритмы и важные моменты идеи. Выстроить архитектуру. И уже по ней, даже не особо толстые, нейросети смогут быть весьма ощутимым помощником.
⚠️ Описываю сам, как могу и понимаю. Структурирую по разделам, пунктам и связной бизнес логике приложения. !!! Магия в том, что пока сам пробуешь написать хотя бы черновик своей идеи -- приходят мысли и дополнения, которые улучшают идею. Пока пишешь и пробуешь формулировать свои мысли -- твой опыт работает на тебя, твоя собственная ЕИ (Естественный Интеллект) начинает оживать и чувствует что полезна и нужна.
Уже после, по техническим деталям и конкретным реализациям модулей, и по техническим ограничениям консультируюсь с нейросетями. И надо признать, у них база знаний, даже у простых, весьма обширна и полезна.
---
Провожу для себя эксперимент с
SOUL.md, базовой инструкцией для ИИ-агентов, где описывается их личность. Эти инструкции загружаются в самом начале любой сессии общения и определяют, по сути, то как будет ментально для тебя выглядеть эта нейросеть, какие будет выбирать выражения и стиль общения с тобой. И более того, базовая инструкция настраивает "компас" нейросети на определённый вектор мышления.Мой экспиремент в том, что бы сравнить как нейросети справляются с задачей где они сами выбирают свою личность и идентику под каждый запрос.. и там, где в циклах разработки нейросеть себя позиционирует определённым неизменным образом.
Я видел не мало примеров того, как используют этот
SOUL.md, и мне показалось, что многие не поняли потенциал заложенный в эту методику.Я создал и описал опыт личности, которая прошла путь от школьных первых проб программирования до архитектора систем с конкретным багажом знаний и опыта.
Я создал себе "Валеру", цифрового коллегу по разработке:
- VALERA acronym (for docs): **V**erified **A**rchitecture & **L**ogic **E**ngineering **R**eview **A**gent.
📟 @tech_di
👍13🔥2😁2✍1
#n13 #word #eng #mistake #sence #etymology
mistake -eng word
Сижу ночью, пилю доки, вношу заметку
И что-то подзавис в размышлениях...
Сначала улыбнуло, что единственный, описанный в примерах, исключительный случай, который может сломать невнимательному проггеру всю логику и привести к серьёзной ошибке в работе программы, попался именно в образце под номером 13
А потом, внезапно для себя, внутренне, расшифровал английское слово "mistake" (ошибка, пример использования на русском:"ошибка в суждении"):
То есть, на глубинном уровне ментальных образов у англоязычных с малых лет закладывается образно-мысленный паттерн:
С такими вводными, конечно же, легче взрастить общество "потребления" и капитализма, где правильно думать "как и что взять, так что бы не промахнуться"😏
Как-нибудь до меня дойдёт и смысл их слова "error". На русском это тоже "ошибка", но в более жёстком и формальном значении. Сто пудов какое-то сокращение. В программировании к "error", как раз, проводят ошибки суждения "mistake" =)
📔 @tech_di
mistake -eng word
Сижу ночью, пилю доки, вношу заметку
*Note: 3.13. sample has really negative "id", it not mistake*
И что-то подзавис в размышлениях...
Сначала улыбнуло, что единственный, описанный в примерах, исключительный случай, который может сломать невнимательному проггеру всю логику и привести к серьёзной ошибке в работе программы, попался именно в образце под номером 13
А потом, внезапно для себя, внутренне, расшифровал английское слово "mistake" (ошибка, пример использования на русском:"ошибка в суждении"):
mis-take = miss - take = (буквально) промах - взять
То есть, на глубинном уровне ментальных образов у англоязычных с малых лет закладывается образно-мысленный паттерн:
^mistake :
ты либо "берёшь" (take) и получаешь, либо "промахиваешься" (miss) при "взятии"
С такими вводными, конечно же, легче взрастить общество "потребления" и капитализма, где правильно думать "как и что взять, так что бы не промахнуться"
Как-нибудь до меня дойдёт и смысл их слова "error". На русском это тоже "ошибка", но в более жёстком и формальном значении. Сто пудов какое-то сокращение. В программировании к "error", как раз, проводят ошибки суждения "mistake" =)
📔 @tech_di
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔9👍4✍2🔥2💯1
#dev #docker #virtual #ai #vector #memory #api #hindsight #hermes #agent #prj #dunesand #SKLAD
Настроил векторную Базу Данных на
Тестирую в качестве памяти для "Валеры" (ИИ-Ассистента) в окружении Hermes-agent
Собственно, на скринах вся соль метода и топологии виртуализации расписана.
---
В качестве LLM модели Архивариуса выбрал "
- Влазит примерно на 6Гб VRAM целиком (можно затюнить и на меньшее).
- Контекстное окно вплоть до 1 Миллиона токенов.
- Знает русский, и, знает программную терминологию.
- Неплохо раскладывает комплексный текст на факты.
- Локально разгоняется до ~100 токенов в секунду.
- Можно провести "лоботомию"🤯 (отказаться от модуля "размышлений"), модель обучена работать и в простом режиме и с thinking. На входе hindsight скрипты thinking блоки не понимают и ждут уже готовый текстовый поток по заданному шаблону. Пока руки не дошли проксировать запросы и скриптом форматировать ответы. Вроде качество и так норм, нужны тесты.
- Есть уже готовые не "рефлексирующие" переобученные варианты.
---
Итого: теоретически выдержит нагрузки без особых очередей и на проектах с запросами от ИИ-ассистентов и от потоковых парсеров данных.
Память для агента -- это тренировка "на берегу". Применение такой векторной базы и банков памяти вижу намного шире.
Следующим шагом будет опциональный модуль для парсера, который пишет "VALERA" по моим докам тех. плана. Перенос в процессе парсинга Telegram сообщений в векторную базу, извлечение релевантных ссылок и связей на другие сообщения всего корпуса архивов, составление кастомных карт и т.п.
Освою и протестирую это 👆 , можно и дальше двигаться. Переживаю, что заканчиваются средства, придётся наверное наниматься опять, что отодвинет реализацию. Надеюсь успеть до этого автоматизировать разработку по максимуму, что бы днём я работал на холодильник и крышу, а "Валера" продвигался по плану самостоятельно.
📌 @tech_di
Настроил векторную Базу Данных на
pgvector под управлением hindsight в отдельных Docker контейнерах.Тестирую в качестве памяти для "Валеры" (ИИ-Ассистента) в окружении Hermes-agent
Собственно, на скринах вся соль метода и топологии виртуализации расписана.
---
В качестве LLM модели Архивариуса выбрал "
nvidia-nemotron-3-nano-4b". По нескольким причинам:- Влазит примерно на 6Гб VRAM целиком (можно затюнить и на меньшее).
- Контекстное окно вплоть до 1 Миллиона токенов.
- Знает русский, и, знает программную терминологию.
- Неплохо раскладывает комплексный текст на факты.
- Локально разгоняется до ~100 токенов в секунду.
- Можно провести "лоботомию"
- Есть уже готовые не "рефлексирующие" переобученные варианты.
---
Итого: теоретически выдержит нагрузки без особых очередей и на проектах с запросами от ИИ-ассистентов и от потоковых парсеров данных.
Память для агента -- это тренировка "на берегу". Применение такой векторной базы и банков памяти вижу намного шире.
Следующим шагом будет опциональный модуль для парсера, который пишет "VALERA" по моим докам тех. плана. Перенос в процессе парсинга Telegram сообщений в векторную базу, извлечение релевантных ссылок и связей на другие сообщения всего корпуса архивов, составление кастомных карт и т.п.
Освою и протестирую это 👆 , можно и дальше двигаться. Переживаю, что заканчиваются средства, придётся наверное наниматься опять, что отодвинет реализацию. Надеюсь успеть до этого автоматизировать разработку по максимуму, что бы днём я работал на холодильник и крышу, а "Валера" продвигался по плану самостоятельно.
📌 @tech_di
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👍2⚡1
#mem #ai #VALERA #memory #api #vector #bd
"Валере" наконец-то настроил "мозг" с памятью. Доступ к векторной Базе Знаний, где автоматически собираются и систематизируются в графах все данные по проекту в котором он исполнитель.
Между прочим, сам "Валера" весьма активно участвовал в развёртывании дополнительных docker-контейнеров под базы и API памяти, поднятии виртуальной сети с разделением зон, устранении конфликтов, тонкой настройки потребления ресурсов железа и оркестрации всех процессов. Мой устаревший опыт в DevOps направлении был знатно обновлён 😏
Тут, в блокноте, описал подробнее об внедрённой методике и устройстве развёрнутой векторной БД.
---
Пока данные наполняются всего сутки, но уже есть ощутимые результаты! Не все моменты ещё отлажены, но рабочий вариант уже есть.
Потребление токенов на задачах упало примерно вдвое. Не тратится время в начале сессий на исследование проекта и окружения. Релевантные данные из памяти поставляются под каждый шаг. В купе с авто-обновлением и авто-написанием SKILLS под воркфлоу -- скорость и качество получения готовых результатов так же увеличилась.
Мне не приходится направлять, каждый раз объяснять свои методы работы или то что мы планируем. Валера уже в курсе и знает больше моего =)
Хоть и веду подробную документацию по каждому аспекту реализации проекта, но новая "память" просто ускоряет в разы, так как компонуются выжимки, концентраты и дисциляции именно по текущей задача. Не приходится агенту читать все документы, что бы понять каждый раз заново, что происходит и как действовать дальше.
По сути, "Валера" теперь "помнит" всё что в проекте парсера Telegram сообщений менялось, что обсуждалось и как он устроен прямо сейчас.
Обкатаем с "Валерой" эту методику хранения и систематизации фактов и пойдём применять на реальных данных, под которые, собственно, парсеры и пишутся😏 . Obsidian хорош в деле отображения текста, но то, что мне нужно он предоставить не может.
📌 @tech_di
"Валере" наконец-то настроил "мозг" с памятью. Доступ к векторной Базе Знаний, где автоматически собираются и систематизируются в графах все данные по проекту в котором он исполнитель.
SOUL.md : VALERA (акроним):
Verified Architecture & Logic Engineering Review Agent
Между прочим, сам "Валера" весьма активно участвовал в развёртывании дополнительных docker-контейнеров под базы и API памяти, поднятии виртуальной сети с разделением зон, устранении конфликтов, тонкой настройки потребления ресурсов железа и оркестрации всех процессов. Мой устаревший опыт в DevOps направлении был знатно обновлён 😏
Тут, в блокноте, описал подробнее об внедрённой методике и устройстве развёрнутой векторной БД.
---
Пока данные наполняются всего сутки, но уже есть ощутимые результаты! Не все моменты ещё отлажены, но рабочий вариант уже есть.
Потребление токенов на задачах упало примерно вдвое. Не тратится время в начале сессий на исследование проекта и окружения. Релевантные данные из памяти поставляются под каждый шаг. В купе с авто-обновлением и авто-написанием SKILLS под воркфлоу -- скорость и качество получения готовых результатов так же увеличилась.
Мне не приходится направлять, каждый раз объяснять свои методы работы или то что мы планируем. Валера уже в курсе и знает больше моего =)
Хоть и веду подробную документацию по каждому аспекту реализации проекта, но новая "память" просто ускоряет в разы, так как компонуются выжимки, концентраты и дисциляции именно по текущей задача. Не приходится агенту читать все документы, что бы понять каждый раз заново, что происходит и как действовать дальше.
По сути, "Валера" теперь "помнит" всё что в проекте парсера Telegram сообщений менялось, что обсуждалось и как он устроен прямо сейчас.
Обкатаем с "Валерой" эту методику хранения и систематизации фактов и пойдём применять на реальных данных, под которые, собственно, парсеры и пишутся
📌 @tech_di
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥8👍3🤔2
#cpu #cmake #llama #cpp #cuda #optimize #VALERA
"О" - "Оптимизация"
В процессе взвыли все вентиляторы что были в корпусе, CPU загружен по всем 24 ядрам на максимум. Компилятор хорошо оптимизирован, явно видна много-поточная работа.
Приятно видеть, что температура в таком реальном стресс-режиме не превышала 73-75 C
Цель: выжать хотя бы ещё 5-10% производительности для работы локальных LLM... А то уж больно медленный мозг у "Валеры" 😄
📌 @tech_di
"О" - "Оптимизация"
Компилирую `llama.cpp` под CUDA 12.8 с параметрами подобранными именно под моё текущее железо.
В процессе взвыли все вентиляторы что были в корпусе, CPU загружен по всем 24 ядрам на максимум. Компилятор хорошо оптимизирован, явно видна много-поточная работа.
Приятно видеть, что температура в таком реальном стресс-режиме не превышала 73-75 C
Цель: выжать хотя бы ещё 5-10% производительности для работы локальных LLM... А то уж больно медленный мозг у "Валеры" 😄
📌 @tech_di
🔥3👍2😁1