Прочитал принципы работы современных агентов, которые конкретно выполняют задачи, а не как думал я "Ну, сделать друга, который будет раз в минуту скринить монитор и подсказывать что-то".. Я про то, что теперь есть идея помимо Visual Language модели для описания фото, добавить ещё третью: которая заточена под написание кода, ведь она чётко понимает последовательности и как раз заточена под код с меньшими в разы галлюцинациями, но в разы хуже в словесном ответе.. В итоге я прихожу к изначальной идее, которая была ещё до проекта AI-Friend: Это сделать подобие MoE модели, только если MoE используют разные веса, но у меня модель в рамках архитектуры выбирает путь:

LLM как ядро: LLM получает запрос и дальше понимает какой вызвать инструент, словно как сейчас агенты обращаются к API программ, только у меня вместо API просто функции в самом main файле
VL как глаза: анализирует происходящее, точнее фото, которые присылает пользователь, что особенно полезно в гибридном режиме, когда с помощью OCR модель получает информацию, а с помощью VL - то, как она расположена
Code Model как руки: написать код, чтобы что-то выполнить на ПК или составить трудный запрос к API - это делается через отдельную модель

Фактически же можно иметь просто современную и мощную модель, которая может совмещать в себе эти параметры, а так же являться MoE, дабы понимать когда ей надо быть умной, а когда более живой, когда понимать последовательности, а когда допускать шутки с пользователем... Однако модели под 500+ миллиардов параметров требовательны к железу очень сильно... Я думал, что мои мысли помогут как раз это разгрузить, используя маленькие модели, но в итоге это так же долго, просто слегка страдает качество, но можно при этом запустить на слабом устройстве... Хотя тот же Qwen ранее так и работал, по крайней мере в плане VL... Тут уже не до мыслей об добавлении физических рук, рта и прочего в v2 версии


Фактически это всё уже существует раньше меня и называется NLU (Natural Language Understanding), как я понял это модели, а точнее их понимание текста, способ извлекать из текста именно суть и работать с ней, уже как раз понимая что хочет пользователь и посылая дальше.. Хмм

Прикрутить к GPT-OSS:20B доступ к WinAPI и вот вам ассистент...

Даже лучше в pyw

from random import choice; from time import sleep; money = 100
while True:
 user = input(f'\nУ вас {money}∆\nКакую сумму вы поставите?\n> ')
 try: user = int(user)
 except: print('Введите число!'); continue
 if user > money: print("Недостаточно средстсв!"); continue
 money -= user; print('Крутим...', end='', flush=True); sleep(2.5); x = choice([0.1, 0.5, 0.75, 1, 1.25, 1.50, 2, 3, 5]); money += int(user * x); print('\b'*10, f'Вам выпало: {x}X ({user}∆*{x}->{user*x}∆)\nТеперь ваш счёт: {money}∆')

От скуки сделал гемблинг игру про ∆, суть которой в том, что она занимает всего шесть строк, но уже позволяет делать ставки в минус!

Не знаю, меня привлекает игра в минус как отсутствие ограничения.. какой смысл это менять, если делается добавлением одной строки или и вовсе изменением 'if user>money' на 'if user>money and user>0'?

Улучшенная версия кода

Берём большой большой долг и выигрываем боль 1X -> профит

Нужно тогда в файле сохранения сохранение хотя бы как-то шифровать, например в base64 любимый, тут хотя бы так просто не изменишь цифры..

Ещё и надо сделать шансы меньше, чтобы было более усреднённое, а не уходящее в вечный выигрыш чаще всего...

Ещё и есть идеи, по типу создания магазина, но это уже совсем бы усложнило архитектуру суть которой в том, чтобы разбираться в коде, когда он написан даже в одну строку

А так же есть возможность не писать "Сохранение" и просто выйти при проигрыше и открыть файл вновь, чтобы загрузить предыдущие сохранение и откатиться на один шаг

А вы помните Mari0? Недавно вспомнил... Очень активно играл в детстве в эту смесь portal и mario, делал карты на прохождения, а из-за читов и возможности играть вдвоём игра ещё больше преображалась! Помню как был в шоке от какого-то обновления, которое добавило возможность электронику какую-то делать или что-то подобное... Интересно что сейчас с проектом

Улучшенная версия кода: а почему тут говорилка, а не треугольничный гемблинг?? Сейчас исправлю файл... 😅

Вообще там этот файл был, но почему-то скинулся другой

Странно, там отображается как этот файл.. Видимо проблема в том, что какое-то из моих устройств, даже знаю какое, видит main.py среди других main.py и просто открывает последний что есть, грубо говоря дело в путанице из-за одинакового названия.. Хмм

Вот и код моего балбеса
https://github.com/MichiTheCat-RedStar/GrenTeaBot

Вот итог моей настройки линукса, скрипта, подбора ИИ и прочего... Думаю ноутбук лучше держать для хоста чего-то проще нейросетей, но пока, чтобы побаловаться, в чате будет ИИ включен 24/7... Правда конкретно сейчас я буду долго ждать, пока он опираясь на 1b модель будет отвечать на все сообщения, которые успели написать пока он спал

Символично был выбран SCP-079, так как он по мощности такой же медленный, по интеллекту в разы тупее, да и такие же вайбы, что из-за отсутствия спящего режима и просто выключения экрана я могу оставить его где-то на пять лет, пока он будет отвечать в чате .. забавно

Интересно, как раз для этого и стоит писать веб интерфейс? Типа.. На Ткинтере я не увижу - он на другом устройстве, но за статусом следить надо.. А вот веб интерфейс на библиотеке, используемой в прошлом проекте, помог бы мне... Я бы сделал его простым, просто отображал бы загруженность системы, логи, статус бота и так как это всё распространяется на localhost, то я бы смог смотреть с ПК основного.. Звучит же неплохо, да и если это правда так, то теперь я понял смысл в веб интерфейсе локальном

Я кстати всегда недооценивал веб-интерфейс, но даже сейчас задумался о возможностях localhost.. Если забыть то, что только я буду знать о том, что в локальной сети находится что-то, то вообще я могу написать веб-интерфейс для запросов к ollama, что позволит раздавать ИИ модель без цензуры, при этом мощную, на телефон и бесплатно.. При этом напрямую через ollama это сделать трудно

Думаю что ещё можно такого интересного сделать.. Теперь я рассматриваю веб-интерфейс не как замену Tkinter, а как отдельную возможность выхода в локальную сеть

Сейчас @TT_GreenTeaBot работает на модели evilfreelancer/rugpt3:125m

Вся серия моделей этих очень странная)
По идее это должен был быть GPT обученный на русских данных, но по факту он меньше одно миллиарда параметров и не обучен говорить, а просто текст, которым его обучили, отправляет как ответ... В общем в чате вы увидите его ответы, это только сегодня он так отвечает, так что не упустите возможность кринжануть)

Мне так нравится, что у source игр с одной мусорки все команды и прочее... Вот я, играя в HL2, вспомнил команду детства - impulse 101, на выдачу оружия.. Перед этим сделал bind v на sv_cheats 1 и noclip, что дало мне возможность летать на V, как в ГМ, да и из Гаррис Мод саму карту перекинул... Только не перекинул текстуры, так как подумал, что даже если я их и перекину, но они не указаны в файле как "Подкачивать их", поэтому ничего не изменится.. Хотя я может и не прав, может в файле компилированной карты на хаммере есть обозначения какие текстуры подкачивать...

В общем бесполезный опыт хаммера на gold source и изучение консоли source (правда тогда я это делал в portal, в него я играл в детстве и узнал о консоли и потом ставил кастомные карты и так запускал), а так же изучение в последнее время консоли source 2 - дают свои плоды.. Только это не программирование и никто не увидит мои старания, так что не знаю к чему это всё)

Интересные идеи по поводу схожести с некими ОС, ведь в Half-Life всё вводишь через консоль, чтобы что-то сделать, ведь это не задумано игрой как первичная цель, в то время как Garry's Mod - песочница, где есть интерфейс, который вводит те же команды, но за тебя, по нажатию клавиши... Хм