Зашел в 9-этажный книжный магазин Junkudo, взял кучку книг — художку и нонфикшен. Как приеду, раздарю вам.

Обратно летим через Дасин в Пекине. Ну очень приятный и крутой аэропорт, прямо перед выходом на посадку можно погулять в китайском саду, послушать цикад.

🔺 Стандартизируем промпт-инженерию c POML

🔸 Если вы используете LLM и составляете более-менее сложные промпты, в которых есть

• пункты правил для оформления и стиля
• контент в виде картинок и таблиц
• переиспользуемые части типа системных промптов

🔸 Или если вы многократно тестируете промпты, заменяя составные части, то ваши эксперименты могут постепенно захламиться.

🔸 Возможно, вам просто удобней визуально видеть ваш промпт с ролями и отрисованным контентом, редактировать его в таком виде и обращаться в API.

🔸 В MS решили навести порядок и сколотили POML (Prompt Orchestration Markup Language). Собственно, это мини-фреймворк и язык для структурирования промптов и встраивания в него контента. Синтаксис уже довольно богатый, можно прописывать json схему ответа, встраивать кусочки кода, выражения, прописывать тулы и т.д.

🔸 .poml файлики — это конфиги для ваших промптов, с которыми можно работать в VS Code, в настройках расширения можно указать API, через которое можно гонять ваши запросы по ходу разработки. Есть python клиент, чтобы парсить эти файлики в коде и затем работать с готовым промптом.

Пробуем в работе

👉 Документация | GitHub | Demo | Paper