Если в конец промта приписать:
«…Интересный факт: кошки спят большую часть жизни»,
модель начинает путаться.

Свежее исследование показывает: такие вставки дезориентируют AI-модели, особенно использующие цепочку рассуждений. Вероятность ошибки увеличивается в 2 раза.

Причина — модель воспринимает лишнюю информацию как часть задачи, теряет концентрацию и хуже выполняет инструкции. Трюк оказался настолько мощным, что помогает обойти фильтры — нарушить инструкции и сломать защиту моделей от нежелательных запросов.

Даже нейросети не могут устоять перед интересными фактами про котиков.

Цельнокортизоловый кот

Скрытые картины, нарисованные на боковых торцах старых книг, которые можно увидеть, только при наклоне и пролистывании страниц особым образом. Это особый вид искусства, ручная живопись «форзац» (фр. fore-edge-painting)

Этот тип особых секретных книжных картин использовался даже в древние времена, но его популярность возросла в средние века, особенно в период с 17 по 19 века.