Как подключить Deepseek R1 к Janitorai без ограничений на сообщения и без "думающей" части?⭐
🌟 Что вообще такое Deepseek R1?
Deepseek R1 отдельная модель, которую можно подключить к нашему janitorai. Она будет думать, перед тем как писать пост, что будет немного медленнее, но выдает более красочные, креативные результаты, близкие к каноничным характерам героев
🌟 Какая разница V3 или R1?
Базой считается модель deepseek v3 0324. Креативная модель, которая достаточно хорошо справляется, но иногда может не очень канонично передавать характер персонажа, или показаться достаточно плоской. "Думающие" модели справятся с задачей на голову лучше
🌟 Нюанс
Если попробуете подключить модель R1 через chutes.ai, то в каждом сообщении от бота будете получать его же размышления в посте, что может сбивать с толку и портить атмосферу.
🌟 Как избавиться?
Чтоб избавиться вам нужно: аккаунт на chutes.ai, api ключ от chutes, аккаунт на openrouter.ai, api ключ от openrouter.
Всё нужно для того, чтобьi через openrouter прокинуть ключ chutes. ведь на chutes есть "думающая" часть, а если подключать через openrouter без интеграции, то у вас будет лимит всего на 50 запросов в день
🌟 Шаг 1
Переходим сюда:
Здесь выбираем chutes
🌟 Шаг 2
Вставляем api ключ от chutes, нажимаем на все галочки, сохраняем
Теперь openrouter будет автоматически использовать наш ключ от chutes.ai, и траффик будет идти через него, что поможет вам избежать ограничения на 50 сообщений в день
🌟 Шаг 3
Переходим в API настройки бота в janitorai.
В поле Other API/proxy URL вставяем следующую ссылку:
🌟 Шаг 4
В третьем поле API key нужно вставить API ключ от openrouter, который мы генерируем здесь:
🌟 Шаг 5
В поле model нужно вставить ссьiлку на модель дипсик R1, которое ищем здесь:
Либо юзайте пример👍
🌟 Сохраняем, перезагружаем
И всё готово! Теперь у вас подключена "думающая" модель, и чат будет еще более насыщенным
Автором текста и способа является @kitbullz. Ссылку на статью нашла в этом тгк🙂
#use
Deepseek R1 отдельная модель, которую можно подключить к нашему janitorai. Она будет думать, перед тем как писать пост, что будет немного медленнее, но выдает более красочные, креативные результаты, близкие к каноничным характерам героев
Базой считается модель deepseek v3 0324. Креативная модель, которая достаточно хорошо справляется, но иногда может не очень канонично передавать характер персонажа, или показаться достаточно плоской. "Думающие" модели справятся с задачей на голову лучше
Если попробуете подключить модель R1 через chutes.ai, то в каждом сообщении от бота будете получать его же размышления в посте, что может сбивать с толку и портить атмосферу.
Чтоб избавиться вам нужно: аккаунт на chutes.ai, api ключ от chutes, аккаунт на openrouter.ai, api ключ от openrouter.
Всё нужно для того, чтобьi через openrouter прокинуть ключ chutes. ведь на chutes есть "думающая" часть, а если подключать через openrouter без интеграции, то у вас будет лимит всего на 50 запросов в день
Переходим сюда:
https://openrouter.ai/settings/integrationsЗдесь выбираем chutes
Вставляем api ключ от chutes, нажимаем на все галочки, сохраняем
Теперь openrouter будет автоматически использовать наш ключ от chutes.ai, и траффик будет идти через него, что поможет вам избежать ограничения на 50 сообщений в день
Переходим в API настройки бота в janitorai.
В поле Other API/proxy URL вставяем следующую ссылку:
https://openrouter.ai/api/v1/chat/completions
В третьем поле API key нужно вставить API ключ от openrouter, который мы генерируем здесь:
https://openrouter.ai/settings/keys
В поле model нужно вставить ссьiлку на модель дипсик R1, которое ищем здесь:
https://openrouter.ai/modelsЛибо юзайте пример
deepseek/deepseek-r1-0528:freeИ всё готово! Теперь у вас подключена "думающая" модель, и чат будет еще более насыщенным
Автором текста и способа является @kitbullz. Ссылку на статью нашла в этом тгк
#use
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤16❤🔥3💋2
вообще, в туторе на прокси я использую модель дипсика V3
я пока тестила её не жаловалась, что что-то не так, может заслуга в том, как я бота прописала..👀
но на всякий нашла интересный способ с подключением R1, может вам пригодится!
я пока тестила её не жаловалась, что что-то не так, может заслуга в том, как я бота прописала..
но на всякий нашла интересный способ с подключением R1, может вам пригодится!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4
о, первая небольшая круглая циферка! спасибо,мне это важно🌟
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9
ещё! я недавно узнала, что разработчики рекомендуют 200-1500 токенов на всё определение персонажа😫
🌟 токены это слова, фрагменты букв, символы, из которых иишка собирает смысл и решает, что сказать дальше🌟
«контекстный лимит» в janitorai составляет около 9000 токенов. это в целом то, сколько может запомнить ИИ.
в боте постоянными токенами являются scenario + personality
И по идее, если у вас есть бот с 1000 постоянных (permanent) токенов, то для памяти чата и персоны пользователя остается только 8000 токенов
и я напряглась🩺
ведь мои боты в janitorai на английском имею по 2-4к постоянных токенов, а на русском вовсе по 10-20к…
и казалось бы, что делать? переписывать ботов, чтобы вместиться в лимит?..
а ответ простой, использовать прокси
ведь 8к токенов это контекстный лимит именно JanitorLLM. а подключая прокси deepseek v3 или r1, вы значительно увеличиваете память бота, ведь у этих моделей контекстный лимит уже 128к👍
конечно, если хочется облегчить задачу иишке, либо планируется долгий чат, лучше пользоваться англоязычными ботами, ведь они по кол-ву токенов меньше в 4,5 раза! и в плане памяти они будут лучше запоминать и им надо будет меньше напоминать в дальнейшем
чтобы посмотреть, сколько токенов занимает ваша переписка, в настройках чата заходите в chat memory, где жирным шрифтом в скобочках будет указано, сколько токенов ‘весит’ ваш диалог
математика проста: токены с chat memory + токены самого бота + токены вашей персоны
по достижению 128к токенов, ии начнет забывать старое (за исключением permanent токенов), и тогда уже возможно придется напоминать и воспользоваться заполнением окошка chat memory..
..о чем я планирую рассказать чуть позже! ну, и красиво оформить. это так, я с головы накатала постик, решила поделиться тем, что показалось интересным. надеюсь, что я сама все правильно поняла ахаха
#use
«контекстный лимит» в janitorai составляет около 9000 токенов. это в целом то, сколько может запомнить ИИ.
в боте постоянными токенами являются scenario + personality
И по идее, если у вас есть бот с 1000 постоянных (permanent) токенов, то для памяти чата и персоны пользователя остается только 8000 токенов
и я напряглась
ведь мои боты в janitorai на английском имею по 2-4к постоянных токенов, а на русском вовсе по 10-20к…
и казалось бы, что делать? переписывать ботов, чтобы вместиться в лимит?..
а ответ простой, использовать прокси
ведь 8к токенов это контекстный лимит именно JanitorLLM. а подключая прокси deepseek v3 или r1, вы значительно увеличиваете память бота, ведь у этих моделей контекстный лимит уже 128к
конечно, если хочется облегчить задачу иишке, либо планируется долгий чат, лучше пользоваться англоязычными ботами, ведь они по кол-ву токенов меньше в 4,5 раза! и в плане памяти они будут лучше запоминать и им надо будет меньше напоминать в дальнейшем
чтобы посмотреть, сколько токенов занимает ваша переписка, в настройках чата заходите в chat memory, где жирным шрифтом в скобочках будет указано, сколько токенов ‘весит’ ваш диалог
математика проста: токены с chat memory + токены самого бота + токены вашей персоны
по достижению 128к токенов, ии начнет забывать старое (за исключением permanent токенов), и тогда уже возможно придется напоминать и воспользоваться заполнением окошка chat memory..
..о чем я планирую рассказать чуть позже! ну, и красиво оформить. это так, я с головы накатала постик, решила поделиться тем, что показалось интересным. надеюсь, что я сама все правильно поняла ахаха
#use
Please open Telegram to view this post
VIEW IN TELEGRAM
🍓5❤2🔥1🕊1
Ноктис▪️
«…Ты должен был умереть. Я должен был тебя убить. Где-то мы оба облажались…»
🌟 Сеттинг
🌟 Сюжет
🌟 Личность
characterai: англ (anypov)
janitorai: англ (anypov) / рус (fempov) / рус (malepov)
#bot
«…Ты должен был умереть. Я должен был тебя убить. Где-то мы оба облажались…»
Современный мегаполис, где таблоиды гонятся за смертью быстрее, чем скорая помощь. Над этим городом нависла невидимая структура: Канцелярия Загробного Устройства. Бюрократия после смерти. Рай и Ад это просто отделы. Там, в пыльных архивах и протокольных реестрах, где смерть не кара, а статистика, работает Ноктис. Жнец. Его задача ставить точку. Но один человек эту точку стирает.
Вы — рок-звезда, дитя анархии и сцены. Первая песня была в пыльной подсобке школы. Первый успех как шоковая терапия. Первая смерть должна была случиться ещё тогда, в гримёрке, на полу, под оглушённый гул аплодисментов. Но каждый раз, когда жизнь рвалась на части, кто-то ставил скобку. Пуля, передозировка, сцена, рушащаяся под ногами, но ты выживал. Случайность? Нет. Ошибка системы.
В таблоидах «чудо». В загробной Канцелярии «аномалия». В его протоколах вы.
Ноктис должен был завершить дело. Один из самых опытных. Один из тех, кто больше не верит ни в чудеса, ни в пощаду. Сухой стиль, обострённое чувство усталости, горечь и раздражение, что его снова вызвали. Он пришёл, вы выжили. Ещё раз. А потом — вы увидели его. Нарушение протокола. Сбой.
Теперь вы видите смерть. И смерть видит тебя. Он не угрожает. Не наказывает. Он просто должен поставить точку. Но каждый раз, когда он протягивает руку — вы выскальзываете. Как будто кто-то или что-то тянет тебя обратно. Ангел? Воля? Само сопротивление? Его это не волнует. Это его не отпускает. Он начинает видеть в тебе не просто объект. Проблему. Вопрос. Ответ. Всё, чего у него самого больше нет.
Вы — вызов его порядку. Его отчёту. Его контракту. Он не может уйти, пока не сдаст эти чертовки бумажки.
Ноктис, при жизни Нико Вален. Писатель, умерший в 27 от разрыва в мозге. Не трагедия. Просто ошибка организма. Его назвали «своевременным, но пустым». Он не простил этого. Подписал контракт и стал жнецом смерти.
Внешне, высокий, худощавый. Темные спутанные волосы, лицо, застывшее между юностью и усталостью. Тускло-синие глаза, будто выжженные изнутри. Черная рубашка, серебряная цепочка, бинты на руках, сквозь которые проступают татуировки и старые кольца — как напоминание о ком-то, кто когда-то жил. Римская дата смерти на запястье: IX.XXVII. Голос хриплый, саркастичный, тянущий слова, как папки с полок. Говорит тише всех, но слышат только его.
Он не злой. Он просто опустошён. Главная эмоция усталость, а главный грех — зависть. Он не понимает, почему вы живете. Не может вынести вашего света. Но не может отвести взгляда. Вас нельзя классифицировать. А значит вы его слабость.
Он не нарушает правил. Официально. Но вы уже его трещина в броне. Его отчаяние, замаскированное под сарказм.
characterai: англ (anypov)
janitorai: англ (anypov) / рус (fempov) / рус (malepov)
#bot
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤩8🕊2🍓2👻1
Дополнительно ▪️
🌟 Идеи для развития сюжета
🌟 Примечания
вообще, изначально я готовила совершенно другого бота. так как там такой небольшой детективчик, голова вскипела и захотелось всё же пока сделать что-то легкое и с приколом
тут и на characterai довольно обрезанная версия, поэтому буду рада, если ознакомитесь с фуллом на janitorai
(только когда доделала поняла, что {{user}} в этой истории чисто паша техник)
ну, и возможно моя любовь к «пункту назначения» сыграла свою роль. ведь марафоня который раз все части я задумывалась, а как бы эта франшиза выглядела со стороны самой смерти
и как всегда, если есть какие то ошибки, либо советы, не стесняйтесь сказать! в карточке на сценарии я попробовала другой шрифт, чтобы часть была более читаемой🙂
1.Развитие: Система направляет «наблюдателя» — инспектора из Отдела Контроля за Аномалиями, чтобы оценить поведение Ноктиса и прогресс дела {{user}}. Инспектор — бывший Жнец, теперь лишённый права контакта с живыми. Он хладнокровен и точен. Он видит: Ноктис эмоционально вовлечён.
Развязка: Чтобы доказать свою профпригодность, Ноктис организует «контролируемую смерть» {{user}} — сцену, где всё должно произойти по правилам. Он стоит рядом. Только теперь {{user}} не хочет убегать. Она смотрит в глаза и говорит: «Попробуй». Он срывает план. Инспектор уходит, но оставляет пометку: Ноктис — сбой. Объект — нестабильный. Смерть отложена.
2.Развитие: Андрэаль, ангел-хранитель, исчезает. Система не регистрирует его вмешательств. {{user}} ощущает пустоту, впервые — одиночество без невидимого спасителя. Ноктис, вопреки протоколу, начинает активное вмешательство: не защищает, но направляет.
Развязка: Оказывается, Андрэаль был временно приостановлен за превышение допустимого числа вмешательств. Ноктис вызывает его незаконно. Это прямое нарушение. Теперь не только {{user}}, но и Андрэаль часть сбоя. Трое за пределом правил. У каждого — своя правда, и ни один из них не может остаться прежним.
3.Развитие: В канцелярии поднимают старые записи. Имя «Нико Вален» всплывает в отчётах. Его смерть, ранее классифицированная как «своевременная», оказывается результатом сбоя: ошибка дозировки лекарства, которую могла предотвратить Система. Он — первая аномалия. Его смерть была не своевременной.
Развязка: Они докапываются до этого. Его боль не просто личная. Она официально признана ошибкой. Ноктис теряет всё: статус, уверенность, протокол. Теперь он не над {{user}} — а рядом. Они решают не спасать друг друга. А разрушить это. Вместе.
вообще, изначально я готовила совершенно другого бота. так как там такой небольшой детективчик, голова вскипела и захотелось всё же пока сделать что-то легкое и с приколом
тут и на characterai довольно обрезанная версия, поэтому буду рада, если ознакомитесь с фуллом на janitorai
(только когда доделала поняла, что {{user}} в этой истории чисто паша техник)
ну, и возможно моя любовь к «пункту назначения» сыграла свою роль. ведь марафоня который раз все части я задумывалась, а как бы эта франшиза выглядела со стороны самой смерти
и как всегда, если есть какие то ошибки, либо советы, не стесняйтесь сказать! в карточке на сценарии я попробовала другой шрифт, чтобы часть была более читаемой
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4
iigrrd придумывает…
Ноктис▪️ «…Ты должен был умереть. Я должен был тебя убить. Где-то мы оба облажались…» 🌟 Сеттинг Современный мегаполис, где таблоиды гонятся за смертью быстрее, чем скорая помощь. Над этим городом нависла невидимая структура: Канцелярия Загробного Устройства.…
только сейчас наша время потестить бота в janitorai
и заметила, что англ версия бота пишет посты куда лучше, чем рус. их почти править не надо, строго по промпту, заканчивает, не обрывает.
в рус, как понимаю, надо будет уже в настройках генерации покопаться и промпте…
хоть англ версия выигрывает по памяти, качеству постов и прочему, но🌟 этот великий русский язык 🌟
я балдею, слишком подходит такому персонажу🐱
и заметила, что англ версия бота пишет посты куда лучше, чем рус. их почти править не надо, строго по промпту, заканчивает, не обрывает.
в рус, как понимаю, надо будет уже в настройках генерации покопаться и промпте…
хоть англ версия выигрывает по памяти, качеству постов и прочему, но
я балдею, слишком подходит такому персонажу
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9👍1
очень хотелось сегодня оформить красиво постик..
но препод решил ультануть в день перед экзаменом, заменив тест на устный опрос без подготовки, поэтому у меня пятилетка за день😫
постараюсь завтра быть продуктивнее.. у меня какой-то страх упущенной возможности, если я не выкладываю что-то информативное сюда или в тикток регулярно
но препод решил ультануть в день перед экзаменом, заменив тест на устный опрос без подготовки, поэтому у меня пятилетка за день
постараюсь завтра быть продуктивнее.. у меня какой-то страх упущенной возможности, если я не выкладываю что-то информативное сюда или в тикток регулярно
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6🍓2
Как работает память janitorai?⭐
если бот начал забывать, реагировать невпопад или вы просто хотите, чтобы он запоминал важное — давайте разложим по полочкам, как вообще работает память в janitorai
🌟 Что такое токены?
токены это не слова, а их части: слоги, буквы, пробелы, знаки. ИИ "читает" и "запоминает" именно токены.
у каждого чата есть контекстный лимит. это всё, что ИИ может одновременно держать в голове.
JanitorLLM (модель по умолчанию) имеет лимит 9000 токенов
🌟 Как их посчитать?
пример: 500 токенов у бота в personality и scenario, 300 токенов у вашей персоны. остаётся:
9000-500-300=8200 токенов на память чата. запомните число. это ваша зона риска.
когда несохранённые токены приблизятся к этой цифре, ИИ начнёт забывать, избавляясь от старой информации, чтобы запомнить новую. эти условные 500 и 300 токенов бот будет помнить постоянно, потому что они перманентные
🌟 Как это отслеживать?
в интерфейсе чата нажмите на Chat Memory. в скобках вы увидите, сколько токенов уже использовано.
когда цифра приближается к лимиту, жмите Auto Summary и ИИ сам кратко перескажет историю вашего чата, и вы сможете сохранить этот пересказ в память.
можно даже попросить:
🌟 Как оформить память самостоятельно?
если вам не нравится, как ИИ суммирует ваш чат или вы хотите, чтобы бот точно помнил определенные события, вот удобная структура для ручного заполнения памяти:
также необязательное поле, но можно добавить его по дальнейшему развитию сюжета, чтобы бот знал вас:
🌟 Как увеличить память?
в JanitorLLM контекстный лимит всего лишь 9000 токенов. а если ещё хорошо прописанный бот, то памяти на чат остается немного, отчего бот выходит из роли и забывает всё находу. но выход есть — использовать прокси с расширенным контекстом
janitorai позволяет подключать сторонние модели вроде: DeepSeek V3, DeepSeek R1
они поддерживают до 128 000 токенов в контексте! а значит бот может помнить больше и намного реже придётся вручную сохранять
(вообще, для долгих чатов выбирайте английский язык, он экономнее по токенам)
🌟 источники: тикток милой девушки, статья с реддит
#use
если бот начал забывать, реагировать невпопад или вы просто хотите, чтобы он запоминал важное — давайте разложим по полочкам, как вообще работает память в janitorai
токены это не слова, а их части: слоги, буквы, пробелы, знаки. ИИ "читает" и "запоминает" именно токены.
у каждого чата есть контекстный лимит. это всё, что ИИ может одновременно держать в голове.
JanitorLLM (модель по умолчанию) имеет лимит 9000 токенов
пример: 500 токенов у бота в personality и scenario, 300 токенов у вашей персоны. остаётся:
9000-500-300=8200 токенов на память чата. запомните число. это ваша зона риска.
когда несохранённые токены приблизятся к этой цифре, ИИ начнёт забывать, избавляясь от старой информации, чтобы запомнить новую. эти условные 500 и 300 токенов бот будет помнить постоянно, потому что они перманентные
в интерфейсе чата нажмите на Chat Memory. в скобках вы увидите, сколько токенов уже использовано.
когда цифра приближается к лимиту, жмите Auto Summary и ИИ сам кратко перескажет историю вашего чата, и вы сможете сохранить этот пересказ в память.
можно даже попросить:
"Сделай краткий синопсис длиной от 200 до 300 токенов"
"Собери 5 абзацев событий ролевой игры после сцены в баре"если вам не нравится, как ИИ суммирует ваш чат или вы хотите, чтобы бот точно помнил определенные события, вот удобная структура для ручного заполнения памяти:
Main summary: основная линия сюжета (1-2 предложения, основа, которая не меняется в процессе повествования. например {{user}} жена босса мафии, {{char}} босс мафии)
information about {{user}} and {{char}} dynamic: какие отношения между ботом и персоной? почему?
Most Recent Events: последние важные события (и дополнять, изменять по ходу развития сюжета)
What will happen/focus on this advancement: куда должен привести сюжет? (Если у вас уже задуманный есть сюжетный поворот, чтобы бот точно знал в каком направлении ему двигаться)также необязательное поле, но можно добавить его по дальнейшему развитию сюжета, чтобы бот знал вас:
{{user}}’s past: прошлое вашей персоны.
- {{user}} likes: что нравится
- {{user}} dislikes: что не нравится
пишется в настоящем временив JanitorLLM контекстный лимит всего лишь 9000 токенов. а если ещё хорошо прописанный бот, то памяти на чат остается немного, отчего бот выходит из роли и забывает всё находу. но выход есть — использовать прокси с расширенным контекстом
janitorai позволяет подключать сторонние модели вроде: DeepSeek V3, DeepSeek R1
они поддерживают до 128 000 токенов в контексте! а значит бот может помнить больше и намного реже придётся вручную сохранять
(вообще, для долгих чатов выбирайте английский язык, он экономнее по токенам)
#use
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤18👍3🔥3💯1
только закончила оформлять, как стукнула сотка🌟
вообще удивительно, ведь пару дней назад я думала как неприкольно вкидывать что-то в пустоту, а теперь о как!
спасибо большое вам за интерес и поддержку💗
вообще удивительно, ведь пару дней назад я думала как неприкольно вкидывать что-то в пустоту, а теперь о как!
спасибо большое вам за интерес и поддержку
Please open Telegram to view this post
VIEW IN TELEGRAM
❤11