Переписываю глубоко структуру памяти, и перевожу ее на вектора. Это позволит персонажу вспомнить, что вы ему говорили 100 сообщений назад, и не терять нить повествования.

Очень волнуюсь, так как это глубокая интеграция, а не просто сверху накинуть фичу. Будет очень трудно и сложно...

Что сейчас происходит?

186 тысяч ваших сообщений прогоняются через специальную модель. Она получает текст, и выдает... числа.

Машины любят числа. Нейросети тоже. И благодаря ним, текст преобразуется в векторы - сложнейшие массивы числовых данных. Это позволяет нейросети максимально быстро подбирать нужные ей данные из памяти. Числа занимают меньше места, что позволяет сэкономить огромное количество токенов.

И таким образом нейросеть обретает не только краткосрочную память, но и долгосрочную.

Терпим...