Залетаем в чатик в тестовом формате ребятки🤗

https://t.me/+R4C09iSQQ684ZmM6

Напоминаю, что это чисто флуд и общение, новой инфы вы там не увидите 😘
Если есть желание пообщаться – Велком Велком

🤩Сегодня мы поговорим о Generation Settings (Настройки генерации) на janitorai! В качестве примера конечно будет модель дипсика.

🖱Где найти это меню?
Около таблички с using proxy(использование прокси) есть три горизонтальных палочки. Тык на них!

Данная вкладка очень полезна и каждому, кто использует янитор стоит на нее обратить внимание. Шут заметил, что у некоторых появляются вопросы что такое температура и решил, что стоит разобрать настройки немного детальнее.

•─────⋅ ༺ ঌ ༻ ⋅─────•

Temperature — температура. Варьируется от 0 до 2.
Температура контролирует логику и фантазию! Чем ближе к нулю тем более предсказуемые и логичные ответы будут, чем ближе к 2 тем более креативными они станут.
Однако, температура выше 1.05 не рекомендуется(именно в яниторе), так как дипсик может начать говорить иероглифами!
Недавно был небольшой опрос по тому, какие температуры люди предпочитают, и прежде, чем мы перейдем к небольшой статистике… Температуру НАДО менять переодически, чтобы добиться хороших результатов(например если вы застряли на одном моменте или просто бот выдает что-то странное). Однако, у каждого человека свои предпочтения и идеального выхода не существует. Эксперименты – ключ к успеху!

Попробуйте сначала температуру 0.7-0.8, по ситуации уменьшите или увеличьте! Многие рекомендуют использовать дипсик именно на этом радиусе.

Низкая температура может давать сухие ответы, высокая – сильно нарушать логику. Так же очень много зависит от провайдера, разные провайдеры = разное качество ответов. И никакие настройки не спасут от плохого провайдера.

Вот варианты температур и их промежутки от наших любимых комментаторов:

0.9-0.95 ┃ 0.2-0.5 ┃ 1-1.1

0.7 ┃ 1.2 ┃ 0.35

•─────⋅ ༺ ঌ ༻ ⋅─────•

Max tokens — Максимальные токены. От 0 до 1к. 0 значит без лимита. Однако провайдеры все равно ставят ограничения на длину ответа бота за 1 раз. Например в openrouter у chutes у модели DeepSeek V3 0324 (free) лимит генерации ответа 164к токенов, а у atlas – всего 16к. Не то, чтобы это критично, но знать стоит.
Данная настройка отвечает за длину ответа бота. Она работает по принципу обрезания ответа, но не гарантирует, что бот использует все доступные токены для генерации. Шут рекомендует поставить на 0 или 1к и не мучаться.

В гайдах от Molek есть следующие советы:

Динамичные диалоги или бытовое взаимодействие: 300–500 токенов;
Детализированное повествование, эмоциональные сцены: 600–900 токенов;
Исследование или ответы с открытым концом: до 1000 токенов;
Без ограничений(на 0): используйте с осторожностью для длинных форм или резюме, но ожидайте большей вариативности

•─────⋅ ༺ ঌ ༻ ⋅─────•

И последняя настройка, но не по важности…
Context Size – размер/лимит контекста.
Данная настройка отвечает за то, сколько вы можете общаться в одном чате! У разных провайдеров разные ограничения, но советую поставить ползунок на максимум(128к).

Контекстный лимит – техническое ограничение любой модели, он не привязан к лимитам на количество генераций сообщений(например в openrouter в день только 50 генераций ответа, но это не контекстный лимит) и работает только в текущем чате(по сути это память вашего бота). Когда память переполняется – появляется ошибка. В большинстве случаев люди не сталкиваются с лимитом в своих чатах. Если вы не ролите в одном чате днями/ночами, то переживать не стоит!
Решения всего 3:
1. Забыть про ваш длинный сюжет и начать сначала/другую историю.
2. Поменять на другую модель, где контекст побольше (удачи в поиске таких моделей – они есть, но едва ли так же хороши как дипсик)
3. Удалить несколько последних сообщений от бота и попросить сделать summary вашего чата. Продолжите в новом чате, добавив всю информацию. Не идеальное решение, но подойдет, если ваш сюжет запал в душу.

Важно понимать, что любая модель на контексте больше 40к токенов будет выдавать ответы гораздо хуже по качеству.(покрайней мере об этом многие говорят). Зачастую это связано с тем, что бот начинает путаться.

Представьте, вы в голове одновременно держите все события с вашего утра до вечера. Выматывает, не так ли?
Для того, чтобы ответы были получше, переодически стоит делать summary чата, акцентируя внимание бота на деталях, текущих событиях и просто о том, что в данный момент происходит.

🤩 Полезная информация по этой теме:
⋆˙⟡ Как работает память/summary

🤩Если у вас Янитор выдает ошибку, то вам в этот пост!
⋆˙⟡ Тык-тык

Говоря о контекстных лимитах на openrouter у модели DeepSeek V3 0324 (free) 🤩

Пока Шут нюхал сайт и лимиты, то он заметил одну детальку!

контекстный лимит в 32к стоит только на одном провайдере! К сожалению, у меня нет длинных чатов, которые дошли бы до хотя бы 30к токенов... И проверить свою теорию пока не могу, но делюсь любопытной вещицей!

Способ ниже подойдет для тех, кто ролит в длинных чатах(от 150-200 сообщений)!

1. Заходим в настройки (settings)
2. Листаем до Allowed Providers и ставим галочку на always enforce.
3. Выбираем провайдера chutes.
4. Выбираем default model и ставим DeepSeek: DeepSeek V3 0324 (free).

Фоточка как это должно выглядеть

Все, можете копировать ваш апи ключик и чатиться с ботом, у которого контекстный лимит 164к!

Шут проверил и все работает! Никаких кредитов не требуют, но помним о лимите в 50 сообщений для аккаунтов, которые не платят денюжку!

Жду отзывы(мне действительно интересно работает ли оно корректно) и заодно можете сказать качество какого провайдера вам нравится больше 🤩

Новый бесплатный провайдер дипсика??
Скажем спасибо товарищу @Adellnast за то, что нашла данный сайт для вас и поделилась ❤️

Шут тестанул совсем немного. Отвечает шустро, а за качество судить не берусь. За ограничения тоже пока сложно что-то сказать. Скажем горячий пирожок, делюсь даже не успев попробовать. Как обычно ваши отзывы и впечатления будут появляться в посте по мере ваших тестов и комментариев!

Провайдер: https://www.nebulablock.com/

🤩 Как пользоваться?
1. Нажимаем Sign Up
2. Вводим ник, почту, пароль, нажимаем Sign Up
3. Активируем аккаунт по почте
4. Оказываемся на главной страничке.

(upd. теперь, чтобы бесплатно пользоваться дипсиком, нужно подключить к аккаунту карту)

Дальше сложнее. У провайдера есть бесплатные модели дипсика, есть платные. За создание аккаунта вам дается 1 доллар, но пользование бесплатных моделей этот баланс не расходует.

5. Нажимаем Api Keys – [ссылка для тех, кто с телефона]
6. Копируем ключик и можем радоваться жизни!

Для соискателей с телефона:

Нужно все через три полоски в правом верхнем углу искать. От туда же зайти и создать ключ
🤩 Как подключить к янитору?

Пысы при нажатии на текст модели/ссылки они копируются

Other API/proxy URL: https://inference.nebulablock.com/v1/chat/completions

Список бесплатных моделей:
deepseek-ai/DeepSeek-R1-0528-Free
deepseek-ai/DeepSeek-V3-0324-Free
.ᐟ.ᐟ Более старые версии дипсика:
deepseek-ai/DeepSeek-R1-Free

Для тех, кто хочет потрать 1 доллар:
deepseek-ai/DeepSeek-R1-0528 – 2.13 доллара за миллион токенов
deepseek-ai/DeepSeek-V3-0324 – 1.1 доллар за миллион токенов
deepseek-ai/DeepSeek-R1 – 2.13 доллара за миллион токенов

─── ･ ｡ﾟ☆: *.☽ .* :☆ﾟ. ───
Быстрые примеры ответа от Шута – не показательны, я тестирую в основном работоспособность и скорость, а не цензур/качество
Примеры от Чернички – начало, там дальше еще сообщения от нее подряд.

🤩Отзывы в одном сообщении
🤩Ещё один развернутый отзыв на deepseek-ai/DeepSeek-V3-0324-Free

Первый отзыв от @heh_j:

Уже подключила. Первые впечатления: отвечает в мгновении Ока. Сравнивая с тем же китайским провайдером и таргоном через опенроутер отвечает почти мгновенно
Ответ неплохой, дипсик как дипсик. Общаюсь на 0,85, пока все стабильно

Короче говоря, на первую пробу отличная фигнулька! Если будет что-то ещё: добавлю.

На счёт нсфв ничего пока сказать не могу, ещё не дошла, хд.
О

NSFW от @amethystelf:

NSFW работает чудесно, боты больше не пубертатники, а в процессе ведут себя адекватно

💅

Возможно это даже лучше чем чутес/таргон!

Решение ошибки 500 от @mamba271:

Короче, те у кого вылезает ошибка 500 и вы делали все через небулу, вообщем, я вроде как нашла решение проблемы, НО оно может оказаться не очень хорошим.

Вы можете регенерировать свой апи ключ и вставить новый и вроде как, потом все начнет работать. Просто вчера у меня все работало, а уже сегодня накрылось (хотя после регенерации все стало нормально). Но тут даже дело не в этом, потому что возможно разрабы могут увидеть, что апи ключ много раз меняется и это будет казаться подозрительно.

Можете попробовать это, но в любом случае…кто знает, что может случиться 😞😞
Второе решение ошибки 500 от @mamba271:
Возможно, уже кто-то видел, что я писала, но лучше напишу нормально. Короче, те у кого выходит эта ошибка, можете сначала убрать в настройках апи модель и сохранить настройки так, затем введите модель заново(но перед этим лучше немного подождать, минуты 3 или чуть больше) и нажать на проверку апи ключа. Это работает и более безопасно, чем постоянно менять свой апи ключ😙

🤩 Новый прокси: Silicon Flow

За создание аккаунта дается 1 доллар, который можно пустить на дипсик или другие модели! Сама платформа не предоставляет бесплатного доступа, поэтому по окончанию этого бонуса нужно менять провайдера.

Сайт: https://www.siliconflow.com/

Инструкция по созданию апи ключа:
1. Get Started for Free или Get Started
2. Делаем акк через гугл или гитхаб
3. нажимаем API Keys
4. клик Create API Key и даем ему любое название
5. копируем и готово!

Переходим в janitorai.

Proxy URL: https://api.ap.siliconflow.com/v1/chat/completions
Model: deepseek-ai/DeepSeek-V3 ୨୧ deepseek-ai/DeepSeek-R1

Модель R1 не показывает размышления в чате!

Контекстные лимиты:
deepseek-ai/DeepSeek-V3 – 128к токенов
deepseek-ai/DeepSeek-R1 – 160к токенов

У Шута за генерацию V3 сняли 0.0013 и остаток баланса стал 0.9987. За генерацию R1 сняли – 0.0035 , остаток – 0.9952

В вкладке Billing можно отслеживать сколько токенов было потрачено за генерацию! Просто нажмите Analysis.

Все доступные модели:

baidu/ERNIE-4.5-300B-A47B, moonshotai/Kimi-K2-Instruct, tencent/Hunyuan-A13B-Instruct, MiniMaxAI/MiniMax-M1-80k, Qwen/Qwen3-30B-A3B, Qwen/Qwen3-32B, Qwen/Qwen3-14B, Qwen/Qwen3-8B, Qwen/Qwen3-235B-A22B, THUDM/GLM-Z1-32B-0414, THUDM/GLM-4-32B-0414, THUDM/GLM-4-9B-0414, deepseek-ai/DeepSeek-R1, deepseek-ai/DeepSeek-V3, deepseek-ai/DeepSeek-R1-Distill-Qwen-32B, deepseek-ai/DeepSeek-R1-Distill-Qwen-14B, deepseek-ai/DeepSeek-R1-Distill-Qwen-7B, deepseek-ai/DeepSeek-R1-Distill-Llama-70B, deepseek-ai/DeepSeek-R1-Distill-Llama-8B, Qwen/Qwen2.5-72B-Instruct-128K, Qwen/Qwen2.5-72B-Instruct, Qwen/Qwen2.5-32B-Instruct, Qwen/Qwen2.5-14B-Instruct, Qwen/Qwen2.5-7B-Instruct, Qwen/Qwen2.5-Coder-32B-Instruct, Qwen/QwQ-32B

Как обычно полагаюсь на ваши тесты! Хочется знать, как вам этот провайдер и стоит ли он вообще хоть какого-то внимания ❤️
Шут прошерстил еще около 10 новых сайтов, но это оказался единственным, который дает бесплатные токены.

Приятного ролплея и тестов, соискатели 🤩

🤩Сборник отзывов

🤩Частые ошибки janitorai!

Наконец-то пост с частыми ошибками янитора! Тут собраны решения новые и старые, очень многие уже были упомянуты в постах с ошибками. Шут решил продублировать и добавить некоторые новые. Напоминаю, что у нас есть несколько постов, которые разбирают гораздо большее количество ошибок!
     » Частые ошибки (openrouter)
     » Частые ошибки (chutesai)
     » Ошибки Bigmodel

Многие проблемы Шут взял из комментариев. Но, стоит уточнить, что некоторые проблемы решаются только ожиданием. Сайт очень нестабильный и из-за нагрузки может просто не работать.

С этого момента Шут оставляет за собой право не отвечать на повторяющиеся вопросы с одной и той же ошибкой. Особенно не под специальным постом для ошибок или хотя бы постом с нужным прокси! Я рад помочь или объяснить, но не одобряю полного игнорирования специально отведенных постов для ошибок. Пожалуйста, прежде чем писать о том, что у вас ошибка – ознакомьтесь с постами, возможно она не только у вас!

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

A network error occurred, you may be rate limited or having connection issues: Failed to fetch (unk)

╰┈➤ Это баг-ошибка самого янитора. С прокси не связано!

Решения:
1. Обновите страницу. Если ошибка не пропала, попробуйте варианты ниже.
2. Очистите cookies файлы и/или кэш браузера. Как это сделать зависит от бразуера! Можете загуглить, инструкции не сложные.
3. Попробуйте подключить ВПН. Избегайте выбора таких локаций как: England, Scotland, Wales, Northern Ireland.
4. Поменяйте бразуер. Яндекс плохо работает с janitorai.
5. Если ничего из перечисленного не помогло, то возможно сам сайт страдает. У него часто случаются баги и ошибки. Иногда единственное решение только ждать.

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

PROXY ERROR: No response from bot (pgshag2)

╰┈➤ Зачастую – триггер цензуры.

Решения:
1. Отключите text streaming.
2. Поменяйте custom promt.
3. Поменяйте ваш ответ.

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

PROXY ERROR 400: {"error": ("message"."This endpoint's maximum context length is…

╰┈➤ Это значит, что история вашего чата превысила контекстный лимит.

Решения:
1. Смириться и забыть – создайте новый чат, новый сюжет.
2. Поменять на модель с другим контекстным лимитом.
3. Удалить последнее(или несколько) сообщений и попросить бота сделать Summary чата. Перейти в новый чат и дать ему информацию от бота. Наслаждайтесь продолжением! (не идеально, но подойдет если вы сильно привязались к сюжету)

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

Если бот не дописывает/обрывает сообщения…

╰┈➤ Замечены проблемы с этим в нескольких прокси, например targon.

Решения:
1. Отключите Text streaming. Если не помогло, то попробуйте второй способ.
2. Отредактируйте предложение, которое он не дописал(а лучше удалить его полностью), а после ставьте 5★. Повторите 2-3 раза и все должно наладиться.

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

Ошибка NebulaBlock!!

PROXY ERROR 500…

╰┈➤ враг народа. Показывает, что модель в данный момент перегружена.

Решения от @mamba271:
1. Создать новый api ключ.
2. Убрать в настройках api модель и сохранить настройки. Подождите 3-5 минут и введите модель заново. Нажмите на проверку api key.

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

Ошибка Openrouter!!

PROXY ERROR: 429... {model} is temporily rate-limited upstream...

╰┈➤ Это значит что модель в данный момент перегружена.

Решение:
1. Подождать некоторое время, когда нагрузка станет поменьше - все заработает

▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰▰

✧°˖─────── ・・・・・ . ☽ ‧₊˚ ···╮
Полезные посты:
.𖥔 ݁ ˖𓂃. ݁˖ Навигация
У меня ошибка!
Помогите с промтом!
Хочу поделиться своим ботом!

❤ Анонимка: @Iigrrd_anon_bot

╰┈ ‧₊˚ ☾. ⋅ ・・・・───────°˖✧

СПАСИБО ЗА ЗВЁЗДОЧКИ И БУСТЫ КСТАТИ!!! 🤗
Всех подняли обняли ✍

Сегодня мы еще поговорим об обновлении в яниторе!

Теперь, если вы используете модель с размышлениями ( deepseek R1 к примеру), то размышления будут удобно отформатированы, чтобы не мешать ролевому процессу!

А еще, появилась отдельная вкладка для подключения опенроутера 🤩

Приятного ролеплея, соискатели 😞

ребята, кидающие негативные реакции, поделитесь, пожалуйста, своим мнением в комментариях!

мне очень важно знать ваше мнение, чтобы улучшать качество в будущем, а по реакциям не особо понятно😒

🤩 ОГО!! Прокси(провайдер) дипсика снова нахаляву!!

Сегодня у нас самба-танго-нова

Сайт: https://cloud.sambanova.ai/

О прокси:
- за регистрацию дается 5 долларов, через 3 месяца они сгорят
- цены кусаются чет (но мне пока не показали сколько я спустила на тест)

Инструкция по созданию api ключа:
1. sign up
2. Любые имя/фамилию и название компании + страна United Kingdom + заполняем почту.
3. кликаем API Keys / ссылка
4. Create api key и готово!

Переходим в Janitorai!

Proxy URL: https://api.sambanova.ai/v1/chat/completions
Model: DeepSeek-V3-0324 ୨୧ DeepSeek-R1-0528

Возможно не действуют!! Лимиты(но о них никто не писал – взято из документации):

DeepSeek-R1 – 10 соо/мин – 200 соо/день
DeepSeek-V3-0324 – 5 соо/мин – 100 соо/день
DeepSeek-R1-Distill-Llama-70B – 40 соо/мин – 800 соо/день
Meta-Llama-3.3-70B-Instruct – 40 соо/мин – 800 соо/день
Meta-Llama-3.1-8B-Instruct – 240 соо/мин – 4800 соо/день

Пользуйтесь!! Как обычно жду ваших тестов и отзывов! У Шута работает довольно быстро хи-хи.

Список всех моделей:

DeepSeek-V3-0324
DeepSeek-R1-0528
DeepSeek-R1-Distill-Llama-70B
Qwen3-32B
Llama-3.3-Swallow-70B-Instruct-v0.4
Meta-Llama-3.1-8B-Instruct
Meta-Llama-3.3-70B-Instruct
Llama-4-Maverick-17B-128E-Instruct

апдейт: во время тестов у шута списали 0.0149235 долларов! Стоит сказать, что цена зависит от того, сколько сообщений уже в чате. Если вы общаетесь с ботом, где сообщений 200+, то и спишут больше.

сокращения:
соо/мин – сообщений в минуту
соо/день – сообщений в день

🤩Пост с отзывами!

✧°˖─────── ・・・・・ . ☽ ‧₊˚ ···╮
Полезные посты:
.𖥔 ݁ ˖𓂃. ݁˖ Навигация
У меня ошибка!
Помогите с промтом!
Хочу поделиться своим ботом!

❤ Анонимка: @Iigrrd_anon_bot

╰┈ ‧₊˚ ☾. ⋅ ・・・・───────°˖✧

У вас не работает ни один прокси? JanitorLLM ужасна?

Решение найдено! Шут предлагает вам попробовать такую платформу как Saucepan.

Сайт: https://saucepan.ai

🤩 Ссылочка на регистрацию (реферальная)

Или вот реферальный код: fancier-taupe-octopus

Из важного: Регистрация возможна только через реферальный код(но Шут с вами им поделился), неизвестно какая это моделька, NSFW разрешено, очень много дополнительного функционала!

Кратенько о том, что там есть и плюсах:
- поддержка нескольких фоточек в карточке персонажа
- поддержка нескольких сценариев(разные первые сообщения)
- поддержка лорбуков(это полезная штучка, которая помогает ИИ не путаться с информацией)
- милый интерфейс(мне нравится больше чем яниторский)
- не нужно мучаться с настройками прокси, там используется своя модель (пишет недурно)

Лимит размера вашего ответа: 7500 символов (за 1 пост)

О известных проблемах:
- Непонятно какая у них модель, но она 100% лучше янитор ЛЛМ.
- Иногда пишет за пользователя (но в примерах статьи это ожидаемо так как я чисто показывала визуал)
- Порой думает немного долго, но и пишет довольно красивые посты!
- Сильно перенимает стиль из первого сообщения, поэтому осторожнее с выбором!

Очень детальный гайд по ссылке в телетайпе! Шут постарался разобрать все что можно в картинках и видео для комфортного взаимодействия с сайтом.

🔳🔳🔳〰️〰️[ тык-тык ]〰️〰️

Разумеется жду ваши отзывы об этой платформе, как она вам? Считаете ли вы ее лучше янитора? 🤩

Если очень-очень-очень много актива будет, то я напишу гайд на создание персонажей/лорбуков!!

✧°˖─────── ・・・・・ . ☽ ‧₊˚ ···╮
Полезные посты:
.𖥔 ݁ ˖𓂃. ݁˖ Навигация
У меня ошибка!
Помогите с промтом!
Хочу поделиться своим ботом!

❤ Анонимка: @Iigrrd_anon_bot

╰┈ ‧₊˚ ☾. ⋅ ・・・・───────°˖✧