ah frontier models

Время трогать траву пришло

Похоже, правда придётся

Возня с паровым двигателем — занятие увлекательное. Но делать это, когда в небе уже летают на реактивных двигателях, и одновременно считать себя передним краем инженерии — крайне странно.

Другое дело, что все остальные на телегах, и косо смотрят даже на самоходные повозки.

Ах, синусоида.

Не дурак Маск, не дурак? Со своей космической темой. Всем хочется в космос.

https://openai.com/index/gpt-6-astra/

Описал из чего состоит продакшн вокруг языковых моделей на примере клиентского флоу.

Модель — лишь небольшая часть продакшна; надёжность обеспечивается всем остальным, что её окружает: управлением состоянием, детерминированным управлением, наблюдаемостью, обработкой сбоев и безопасным выполнением побочных эффектов. Более совершенные модели помогают, но они не заменяют производственную инженерию.

Я спросил Fable — которая уже работала оркестратором несколько дней — как можно ускорить воркфлоу.

Её единственное предложение: назначить Fable оркестратором.

Тогда я сказал: «Ты уже оркестратор. Иди улучши собственный промпт, чтобы лучше ставить задачи агентам».

И она пошла и сделал именно это.

Очень странное ощущение: система была вполне способна улучшить собственную оркестрацию, но только после того, как кожаный указал ей, что предлагаемый ею оркестратор — это она сама.

Похоже, даже AI иногда нужно сказать: «Это буквально твоя работа».

lkdn

Вы называете это фиксацией на одном дизайнерском решении…

Я называю это Brand DNA.

dgtl.tech

Правила клуба

Выстраданы потом, кровью, миллионами долларов и очень большой болью

Ваш писатель считает, что нужно наоборот.

У чуваков в 𝕏 на аватарках фотографии пятнадцати-двадцати-тридцатилетней давности. Так только в финансах, или вообще везде?

Инвесторов ASML успокаивают пятнадцатью годами.

С одной стороны, это действительно сложно. С другой — а своих бывших и не очень инженеров вы на поводок посадите?

Ах этот выдуманный мир с отсутствием конкуренции.

китайский манхэттенский проект [×]
забросали бывших инженеров ASML деньгами [x]

Вы не поверите, чему я научил Fable.

Не писать тесты ради тестов, а делать работу.

На промежуточных исправлениях - targeted-тесты, диффы и один е2е. Полный gate - только когда он действительно нужен. Если после него меняется миграция или security/runtime boundary - полный прогон заново.

Ещё пришлось отдельно объяснить, что runbook надо использовать как рабочую память: читать, обновлять и продолжать по нему после очистки контекста. А не пытаться держать весь процесс в памяти модели.

К очистке контекста он тоже оказался не готов, пока я буквально не описал, как переживать context reset.

Remove all your prompts, — говорили они…

Чувствую себя воспитателем в детском саду.

Судя по срабатыванию гардов Astra, писать с ней можно только игрушки. И желательно без аутентификации.

Скрестил Fable и Astra. Грею планету.

Из интересного: после нескольких итераций, периода охлаждения и с парой пинков Astra смогла разбить задачу на кусочки, которые не вызывают срабатывание гардов.

Контролировать DNS и ресурсы через отдельный пул автономных систем, на которые вешают контролируемые префиксы — было моей первоначальной идеей по цензуре интернета.

Меня попросили не рассказывать об этом парням. Было это много лет назад.

И вот, спустя годы путём проб освоения бюджетов и ошибок наконец додумались.

Fable 5.1 пока за оркестратора.

Погоняет Sonnet, Opus и Astra, которая погоняет Terra и Sol.

Приёмка работы Astra занимает кратно меньше времени.

Смысла в Sonnet и Opus всё меньше.

После обновления харнесса и перехода на 5.1. Параллелить почти нельзя.