🤩 Сегодня на повестке дня многобукв о том, как же работает память бота?

Сегодня будут затронуты более технические моменты, ответ на некоторые вопросы и в целом просто немного размышлений и того, что Шут наблюдал за свой скромный опыт взаимодействия с ботами. Это не истина в последней инстанции, но то, с чем столкнулся именно я!

Самые важные аспекты, которые мы будем сегодня изучать:
1. Если я поменяю модель, то бот забудет мой с ним диалог в чате?
2. Что такое контекстный лимит?
3. Зачем нужна вкладка в яниторе с памятью?

Конечно, начнем мы с самого простого.
Контекстный лимит – Context Size – вещь, которая есть абсолютно у всех моделей. Это показатель, того, сколько ваш чат с ботом может вместить. 😻Простая аналогия: есть пустое ведро – чат с вашим ботом. По мере общения вы заполняете его водой, а когда оно переполнено – возникает ошибка. Решение: новое ведро. Или, собрать самое важное и перейти в новый чат.

В новых моделях, например дипсике контекстный лимит довольно большой, но и его может не хватать! Однако, важно понимать, что ЛЮБАЯ модель(дипсик или нет – неважно) будет проседать в качестве ответов с длительностью чата. Рекомендуется уменьшать контекстный лимит и переодически делать summary чата.

Память измеряется в токенах.
Токены – отдельные слова, их части, пунктуация и любые символы.
Токенайзер отвечает за превращение слов в токены, у каждого провайдера/модели они свои.

Мы будем рассматривать только токенайзер от дипсика(но я не уверена какой токенайзер использует янитор/опенроутер). Поидее каждая модель идет со своим токенайзером. Вот отличительная черта токенайзера дипсика – пробелы и новые строки не считаются за токены. Таким образом вы можете обеспечить читабельность вашего текста (без этих стен сплошняком) и тратить меньше памяти.

Токенайзер, который показывает количество токенов в яниторе считает пробелы и новые строки за токены.

[Сайт с токенайзером дипсика]

Как же все это работает?
Каждый раз когда вы отправляете сообщение, боту отправляется целый пласт информации. В него входят(порядок не точный): системный промт(если таковой имеется/в яниторе это custom prompt), описание вашей персоны, описание персонажа, сценарий, примеры чата(example dialogues), вся история чата, summary of chat(в яниторе).

Это значит, что каждый ваш свайп не остается на "сервере", а отправляется заново. Как это влияет на ваш опыт?

Разные провайдеры ставят разные ограничения, так, в опенроутере – 50 соо в день, а на таргоне – платите за количество токенов в запросе.

Значит, математика становится простой: для коротких ролевых, где еще мало сообщений – удобнее юзать тех провайдеров, которые дают пробный баланс; для больших ролевых – опенроутер. Конечно, это не обязательно, но вероятно будет удобнее.


Теперь последнее, вкладка с памятью. Она нужна, чтобы учесть самые важные моменты, напомнить о том, что было раньше. Например, в начале бот подарил вам кольцо, и в последующем забыл об этом – полезно вставить напоминание в окошко summary. Это повышает качество ролевой, и в целом делает жизнь проще! Более подробный пост про summary – [тык-тык]

И не забываем голосовать в опросе ❤️

😢 К сожалению Cute Proxy закрылись. Надеемся, что они скоро вернутся!

Если в этом канале есть те, кто сам держит какой-либо прокси или знает их, то вы можете написать администратору:

@nepoteshka

Мы будем благодарны вам, если вы решите поделиться вашим прокси и опубликуем его тут 🥺

Если вы знаете другие прокси, то тоже ждём в ЛС администрации!

Пока админы немного заняты подготовкой постов и учебой... Мы приглашаем вас вступить в наш чатик! Отдохните немного от нейронок и пообщайтесь с людьми 🌟

Звучит страшно, но пока что альтернативы совсем не вкусные!

Навигация со всеми альтернативами

Напоминаю про то, что у нас есть пост про saucepan!

Там сейчас вышло много обновлений, поэтому рекомендуем попробовать, если вы ещё не пробовали 🤗

Это хорошая альтернатива если у вас не работают прокси, а ролить очень хочеца!

Товарищи, кто тыкает альтернативы , которые мы публиковали... Нужна ваша помощь, админы очень загружены 😭

Напишите какие у вас альтернативы работают, а какие нет. Имеется ввиду что выдают ли они бесплатный баланс или больше нет.

Мы знаем, что кьюты ушли и скоро уберем их из списка.

Если вы знаете другой прокси или может быть вы сами держите его, то можете написать нам:
- сообщения группы
- анонимку @Iigrrd_anon_bot
- Шуту в ЛС: @nepoteshka

Шут на связи!
Напоминаю, что в нашем тгк действуют определенные правила. Ныне они дополнены и поэтому мы настоятельно рекомендуем с ними ознакомиться.

🤩 Тык тык на правила

Незнание не освобождает вас от ответственности, а мы стремимся к созданию безопасного места для всех 🤩

Спасибо вам большое за 3000 тысячи!! ❤️

К сожалению, мы не сфоткали круглую циферку, но мы очень вам всем благодарны! Спасибо что вы с нами, что проявляете актив 💓

Если есть что-то, что вы хотите видеть, то обязательно напишите в комментариях! Бот, гайд, что-то, может быть что вы хотите приуроченное к такой цифре? ❤️

А теперь точна быстро пишите чего вы хотите!!! 😋😋😋
Пока Шут добри и счастливый

ВСЕМ ДОБРОЕ УТРО🐾
спасибо большое за ваши звёздочки, подарки, реакции и актив🐱

Вчера общими силами мы смогли застать момент 3000. Большое вам за это спасибо 🥰

💜 Мега пост-сборник гайдов по установке таверны.

Перед началом давайте немного поговорим вообще, что такое таверна и зачем она нужна:

🔨 Силли Таверну можно сравнить с телефоном, на котором нет приложений(ботов). Вы их качаете или находите и получаете более стабильное подключение к прокси, а так же более гибкие настройки.

Звучит как сказка, но многих отпугивает то, что установка происходит через терминал. Однако, если вы прочитаете что делают определенные команды (если вы очень нервничаете), то заметите, что ничего криминального не произойдет. Ещё многие пугаются интерфейса, но в нем довольно легко разобраться, особенно на начальных порах. Вам не нужно знать все, чтобы комфортно пользоваться таверной.

Таверна позволяет сделать высокую кастомизацию, поддерживает расширения от сообщества и многое другое. Шут лично всегда юзал ее. 🤩

Занимаемое ей место зависит от вас. У Шута она занимает примерно 1,5 гига, все это зависит от количества чатов, количества персонажей. Все хранится локально на вашем устройстве. Конечно, чаты можно удалять 🤩

Кликайте на нужную ссылку!

🎛 Общие ссылки:
Гитхаб СиллиТаверн [АНГЛ]
Перевод текста на русский.

Документация Силли Таверн [АНГЛ] – Виндовс, Мак, Линукс, Андроид
- варианты установки через лаунчер/гит
Установка Таверны через лаунчер [АНГЛ] – Виндовс, Мак, Линукс
- есть видео по установке через гит

ℹ️ Гайды от ру сообщества:

Мега-гайд от канала(клик) – разбор установок на Винду, мак, Линукс, андроид и IOS.

Очень ёмкий гайд от Милкис – установка на телефон + объяснение всех основных функций + где взять карточки персонажей и многого другого полезного – Шут рекомендует к изучению именно его, даже если вы собираетесь устанавливать ее не на андроид, на территории РФ сайт не открывается🦋

#️⃣Источники:
- тгк по таверне. Там очень много различных гайдов, руководств по настройкам.
- тгк милкис. К сожалению сейчас он закрыт, но ее гайд в сердце Шута навсегда. 🐈‍⬛
- тгк по яни и другим сервисам. Его прайм прошел, но гайд от туда довольно хорош.

📰От Шута:

А вообще, если вы знаете английский хотя бы чуть чуть, то даже англо руководства не покажутся вам сложными! Все проще чем кажется 🥂 Лично Шут устанавливал ее сначала по англо гайдам, только потом на другое устройство при помощи гайда от милкис 💨

✧°˖─────── ・・・・・  . ☽ ‧₊˚ ···╮
Полезные посты:
.𖥔 ݁ ˖𓂃. ݁˖ Навигация
Частые ошибки и их решения!
Основы janitorai – generation settings
У меня ошибка!
Помогите с промтом!
Хочу поделиться своим ботом!

❤ Анонимка: @Iigrrd_anon_bot

╰┈ ‧₊˚ ☾. ⋅  ・・・・───────°˖✧

😻 Пост для ботов SillyTavern 😻

Все боты, которые созданы для Силли стоит оставлять тут. Боты для янитора и других платформ оставляйте в [ этом посте ]. Если бот создан не вами обязательно это укажите!

Правила публикации:
😻 Никаких инцестов/лоли/шота и подобного. Увидим – бан.
😻 На NSFW/NSFL ботов ставятся ТВ(trigger warning) + спойлер на части с NSFW/NSFL контентом.
😻 Не следуете правилам оформления => ваше соо удалено.

Что такое NSFW/NSFL?

NSFW - not safe for work – +18 контент – порнография, обнаженные тела и тд.
NSFL – not safe for live – 21+ контент – в том числе повышенная жестокость, кровь, органы и тд

Шаблон оформления:
😻 Экспорт таверны поддерживает либо PNG, либо JSON. PNG отправляйте без сжатия, как файл. К JSON в случае экспорта прикрепите какая у бота должна быть аватарка.
😻 Укажите пол персонажа.
#ST_bot_fem #ST_bot_male #ST_bot_other
😻 Укажите он фандомный или ОС(оригинальный персонаж)
😻 Воспользуйтесь шаблоном.
TW! NSFW/NSFL (если имеется, поясните)
Фандом:
Имя:
Пов:
Сеттинг:
Сюжет/описание:

Уточнение:

Фандом нужно указывать только если персонаж фандомный. В ином случае можете указать просто OC
Сеттинг - отвечает за то, в какой период времени проходят действия. Укажите, современность, средневековье или что-то другое. Если в вашем боте это не прописано/не уточняется – можно не заполнять.
Сюжет/описание – информация о вашем боте, то, что может заинтересовать. Можете разделить на два разных раздела, можете оставить в одном.

Надеюсь это станет для вас небольшой библиотекой персонажей, где вы сможете без проблем найти или оставить своего чада 🤩

Стесняшки могут отправить заполненную карточку по правилам в анонку чтобы админы переслали ее в комментарии:

🤩@Iigrrd_anon_bot

😻 Пост для того, чтобы делиться мнениями о моделях, рекомендовать их! 😻

В данном посте вы можете поделиться той моделью, которая вам нравится. Однако, стоит следовать определенным правилам оформления, так как обычное сообщение "дипсик 3.1 плохой" не подойдёт. Флуд будет чиститься. Если у вас есть вопрос или ошибка, то читайте первое соо под постом.

⚠️Важно! Если ваш провайдер или способ не освящён в нашем тгк, то не засоряйте комментарии ответами на просьбы поделиться туториалом или инструкцией. И соответственно не предлагайте помощь сами. Это не пост где собираются способы, а пост для моделей.

Разделение провайдеров не обязательно и сделано для того, чтобы люди понимали, что разные провайдеры могут давать разное качество.

❓Терминология:
Локальные модели – их нужно скачивать и запускать на своих собственных компьютерах. Маленькие модели +-8 гигов могут быть не такие требовательные, но это явно не то, что телефон обычного обывателя без проблем запустит и сможет поддерживать. От характеристик железа зависит скорость ответа.

Итак, вы решили, что пора сделать отзыв на модели... Вам нужно заполнить определенный шаблон.

1. Прокси (по желанию указать какой; платно/бесплатно) / локалка
2. Название модели (например Deepseek v3.1)
3. Плюсы (например: хорошо держит характер злых персонажей)
4. Минусы (например: плохо держит характер добрых персонажей)
5. Как пишет NSFW/NSFL? (Если вы даёте детальные пояснения, то ставьте спойлер на эту секцию, поясните, может быть модель вообще пол путает или пишет будто из порнхаба)
5. Какие настройки вы рекомендуете? (Температура, top p и так далее если поддерживаются)
6. Ваше личное мнение.
7. Рекомендуете ли вы эту модель для ролевой?

Напоминаю! Обсуждать модели можно. Обсуждать способы доступа – нет.

не ждали? а тут ещё прикольчик, горячий как пирожок!

⭐️плюс один провайдер дипсика - Fastrouter

(если вы из рф, включите впн)

ничего не напоминает название, да? ребятки видно новые, пока работают в бета режиме. но уже есть, чем нас порадовать

дают 5$ на тест моделей за регистрацию 🐰

бесплатных моделей, как в опенроутере, к сожалению, нет. но 5$ уже ничего себе и цены за 1млн токенов приемлимые.

🌟proxy URL:

https://go.fastrouter.ai/api/v1/chat/completions

🌟модельки:

deepseek/deepseek-v3.1

deepseek-ai/DeepSeek-V3-0324

deepseek-ai/DeepSeek-R1

вообще там много чего, есть джемини и другие

🌟api key получать здесь

🌟примечание: я только немного успела попробовать, но пока работал как часы. учитывая, как остальные сервисы сейчас перегружены и снижают free tier, либо вовсе убирают, то это ещё по божески. вообще, я нашла ещё пару интересных штучек, но пока пытаюсь разобраться, как они работают!

никто не верил, но это произошло...

...прокси с бесплатным дипсиком - wisdom gate😚

дипсик в3 и р1 бесплатные, дается 1$ на тест других моделей
эти модельки бесплатные до 01.01.2026

🌟proxy url:

https://wisdom-gate.juheapi.com/v1/chat/completions




🌟модельки (с тройкой на конце это дипсик в3, с однеркой на конце это дипсик р1):

wisdom-ai-dsv3

wisdom-ai-dsr1

🌟api ключик получать здесь

☕️примечание: такая неожиданная находка, особо много потестить не получилось. конечно, прокси надо пару сек подумать, прежде чем накалякать ответ, но пока на первый взгляд работает как часы. по лимитам особо информации я не нашла, так что полагаюсь на ваш тест!

обратите внимание, что у р1 контекст всего 4к, у в3 128к

Появился новый бесплатный провайдер Electron Hub ai! ✔

Опенроутер всё... 🥺
Навряд ли модели дипсика на нём восстановят прежнюю работу, а бесплатно многим поролить хочется
Поэтому демонстрирую вам новую находку, которая уже не первой свежести по новостям и её много кто упоминал (спасибо за подробное объяснение человечку из дискорда)

Однако! Встречаем сайт, где можно подключить и дипсик и гемини! (Да и вообще целую тонну моделей, которые вы можете поискать здесь)

URL:

https://api.electronhub.ai/v1/chat/completions

Model name:

gemini-2.5-pro:free

deepseek-r1-0528:free

deepseek-v3-0324:free

deepseek-v3.1:free

deepseek-v3.1-terminus:free

Как подключить api:

1. Регистрируетесь на сайте ("Try Playground")
2. Копируете уже предоставленный ключ во вкладке api keys
В этой же вкладке вы можете отключать думающий режим у дипсика!
3. Вставляете данные в конфигурацию в джаниторе, обновляете страницу и радуетесь жизни

Конечно, у такой халявы есть свои лимиты, и они работают следующим образом:
- 7 сообщений в минуту (не более)
- 10.000 сообщений в день (шок контент! Но да, это так... кушаем, пока можем)
С 12 октября лимит понизится до 500 сообщений в день, чего всё равно вполне предостаточно

👀 Ежедневно на тестирование платных моделей вам выделяется 0,25$, так что можете побаловать себя чем-нибудь платненьким

Расскажите, пожалуйста, чего вам не хватает для того, чтобы мир ролевой ощущался живым.

Например, рандомных событий, вроде: в новостной ленте появилась сводка об убийце. Без вашего намека на это.

Или, может больше нпс? Персонажей, типо неуклюжего ребенка столкнувшимся с вами пока бежал на учебу.

Или, возможно, смена погоды? Смена суток?

Или ваш промт покрывает эти аспекты? В общем, хотелось бы услышать где конкретно иишка не дотягивает до полноценного погружения в мир.

И я говорю не про ошибки которые свойственны дипсику с его "он разделся" а в следующем соо он снимает несуществующую кофту. А именно про, "мне не хватает ощущения живого мира" и что для вас живой мир. Насколько важен фокус не только на основных персонажах, возможно, насколько вам интересно просто наблюдать за развитием персонажей? 🥺

А так же приносим извинения, что в последнее время не такие активные! Мы с вами, все ещё читаем и переодически обитаем в чатике и флуде 📝

Если вам интересно, почему Шут спрашивает: хочу попробовать сделать кое-что интересное 🙂
Да и просто, мне интересно как мы все с вами видим ролевые, что важно, а что нет.

Итак, наступило 12 октября, а, значит, Electron Hub сократил количество бесплатных сообщений до 500 ⚙️

Поясню ситуацию:
В реддите джанитора нашёлся человек, который поделился десятью бесплатными провайдерами, включая электрон, войд ай и другие, из-за чего новость набрала сумасшедшие реакции и сервера электрона практически легли в течение 19 часов с наплывом пользователей джанитора и не только

В совершенно приятном и добродушном дискорде провайдера разработчики провели опрос, благодаря которому они мягко могли бы решить проблему с жестким наплывом людей, клонированием аккаунтов и тп, не делая абсолютно всё платным, а добродушно оставляя 500 бесплатных сообщений в день

По результатам опроса победил просмотр рекламы. Разработчикам, очевидно, нужно получать доход со всех тех десятков тысяч людей, кто к ним пожаловал.

Условия бесплатного пользования сайтом теперь такие:
Базовая подписка (бесплатная): 50 запросов в день по умолчанию
Просмотр 1 объявления: +100 запросов (всего 150)
Просмотр 2 объявлений: +150 запросов (всего 300)
Просмотр 3 объявлений: +200 запросов (всего 500)
Так у пользователей остаётся их 500 бесплатных сообщений, а разработчики получают с этого выгоду

👀 Поэтому, если у вас возникает ошибка 402, вам пора возвращаться на сайт Electron Hub и смотреть рекламу, мои зайки