Запрещающая инструкция усиливает шанс её же нарушения (oh the irony)

Узнал тут прикол — если вы пишете нейронке в промте что-то вроде "не делай X" или "не говори Y", то шанс, что она сделает/скажет именно это — повышается, а не снижается.

А всё дело в том, что у нейронок нет функционала "блеклистов", через которые они игнорируют какие-то слова или паттерны.

Зато, вставляя что-то, что вы хотите запретить, в инструкцию, вы тем самым подсвечиваете это слово модели — она уделяет больше внимания его наличию в тексте, чем стоящему рядом "не делай".

Судя по исследованию, именно так происходит 87.5% всех нарушений.

Что делать? Если кратко — говорить о том, что нужно делать, не упоминая, чего следует избегать.

- - -
P.S. Чем больше контекста в промте — тем выше шанс, что нейронка всё равно скажет запрещённое. На коротких промтах шанс на нарушение мал (порядка 10%).

Блин, имхо, это один из самых адовых юиксов — вот эти вот СРОЧНЫЕ УВЕДОМЛЕНИЯ о новом заказе для водителей Яндекса.

Вот едешь ты, водила спокоен, сосредоточен на дороге... Начинает совершать манёвр и тут ДИЛИНЬ ДИЛИНЬ СРОЧНО СУКА СМАРИ ЗАКАЗ НОВЫЙ БЕРИ БЫСТРЕЕ.
И ведь водитель не может просто игнорировать — обратный отсчет бежит быстро, а при игноре с него еще и баллы активности спишут. В итоге он вынужден опустить глаза в телефон и посмотреть, что там... А что там на дрроге? Да пофиг.
Лишь избранные единицы водителей на моей памяти оставались сосредоточены на дороге.

Часы в больнице 😬
Я сломался вчера на пару минут

Ошибка! Поле «отчество» не является обязательным для заполнения

Спасибо за внимание

Хвастаюсь своим спортивным инвентарём

Забавно, как по истории коммитов на гитхабе можно проследить, когда в мою жизнь вошёл вайбкод и стал постоянной частью жизни :)

А ещё в этой модалке иконка интерактивная) Люблю такие приколы, ыыыыы

Сначала подумал, что это зарплата 🥲

С другой стороны, после этих курсов — только такая реалистичная, а не то что там пишут)

Там ребята с MCP спекой двигаются к релизу. 28 июля обещают релиз.

Что там под капотом — не буду пересказывать, но диагноз однозначный: всё, мальчик вырос 🥲
MCP из эксперимента превращается во взрослый инфраструктурный стандарт. Признаки взросления налицо: прыщи, бунтарское поведение "скучные" фишки типа масштабируемости, политики обратной совместимости и прочее неинтересное.

Естественно, ожидается и взрослый сюрприз — breaking changes :) Ну, пишут, что старые версии всё ещё будут работать, а все, кто юзал официальные SDK, ничего и не заметят, просто обновятся. Но тем, кто лепил велосипеды поверх стандарта, придётся всё переписать.

Учитывая, что MCP за последний год и так стал стандартом де-факто — совсем не удивлён, что мы здесь.

Чёт в последнее время я как-то случайно погрузился в тему, как нейронки читают страницы в интернетах — ну про все эти llms.txt и прочее. Из практики — делают тупой фетч и всё :) На этом успокаиваются.

И обсуждали мы тут давеча в чате Reader UI новый (мы так называем тот интерфейс, через что клиенты видят документацию в итоге — ну короче "смотрелку", "сайт" документации). Мы ж не так давно (ну как, полгода уже...) в продукте переписали его полностью, и теперь "читалка" документации у наших клиентов не легаси из нулевых, а модный-быстрый React и вот это всё.

А старый наш Reader UI как раз исторически не сильно дружил с роботами из-за того, что построен на хэшбенгах — там какая-то хитрая заруба с тем как рендерится страница скриптами — я сильно не вникал, но кароч суть в том, что условно со старым Reader UI ты вместо превьюшки в соцсетях видел шиш — ну пушто краулеры тупо не могли получить контент, они упирались именно в "разводящую" страницу.

Так воооот... Дал я короче агенту (ChatGPT Desktop в режиме Codex) ссылку на портал с доками с новым Reader UI, и отдельно -- со старым. В первом случае простой фетч, ожидаемо, сработал, вернув результат за 13 секунд. Во втором случае бедняга пошёл поднимать встроенный браузер, потому что фетч вернул ему "Loading". Справился в итоге? Справился. Но за полторы минуты.

Ну и накатал короче по мотивам статью: The most important thing about AI-ready docs is the most boring one.

Вывод там простой — самая важная вещь про "ai-friendly" сайты документации щас достаточно скучная — это не какие-то хайповые штуки типа llms.txt или ещё чёт такое, сколько архитектура, которую базово заложили в этот самый сайт.

Ещё говорят я токсичный. Во, посмотрите какие у меня самые часто используемые реакции в рабочем чате! САМЫЙ ПОЗИТИВНЫЙ, ЯСНО ВАМ??? Собаки сутулые, вечно недовольны

Окак, Opus 5 в релиз вышел 11 минут назад :) Практически в рилтайме наблюдал, как в аппке появился выбор модели.

Интересно, она также будет жрать токены как не в себя и тупеть день ото дня как и все предыдущие? :(

Пойду почитаю, чо там интересного, сильно ли от 4.8 отличается — всё же мажорная версия обновилась.

По заявлениям, картина обратная — она и быстрее 4.8, и дешевле (пишут про 1/7 объёма reasoning tokens).

Чёт прям x - doubt, но хочется верить, конечно.

А ещё оно всё лучше учится в 3D... Я не рассказывал?) Ну, можно посмотреть видос:
https://www.youtube.com/watch?v=4WQd-8d5j4k