Если вдруг вы сейчас строите сложную хрень с LLM, где под сложной я имею в виду кластеризацию на хотя бы 3+ домена – не тратьте время на велосипедостроение роутера тупо на completions api или любой другой модели чисто на промптах и structured outputs.

Это можно заставить полу-вменяемо работать, Н-н-но

Меня последние три рабочих днях не покидало ощущение что я делаю опасно недерминированную ерунду, которую потом все равно придется менять на какой нибудь классификатор.

Вот вам хороший пример игнорирования Дребезга (разбираем в материалах по ШСМ)

Вместо того чтобы "на потом", надо было хоть немного поискать решение.

Вот например – бери и юзай на эмбеддингах:
https://github.com/aurelio-labs/semantic-router

Вполне себе минималистичный интерфейс. Можно ходить в Cohere или OpenAI api за эмбедингамми и сравнениями, можно прикрутить локальный мистрал, это сами решайте.

В этой же либе есть dynamic router, но это обычный function calling, внимания вроде бы вообще не стоит (Юзайте PydanticAI ок?)


Вот вам в догонку еще дядьку Фаулера почитать, если изголодались по нормальному инженерному контенту про AI системы. Не одним же Блогом Антропика кормиться :)

https://martinfowler.com/articles/gen-ai-patterns/

Еще немного про разработку AI систем.
Чуть-чуть бугурта, в конце – микрогайд/памятка.

Читать

А никто не собирается обсуждать этот мув в моральных рельсах OpenAI от:

“извините я не могу лицо человека переместить сюда, нельзя! давайте я вам лучше котика с 6 лапами сгенерирую»

До:

“Aye aye Captain!”

Слыш купи телегу премиум, там теперь Грок включен

@GrokAI

Количество кода, которое я выплюнул из своих мозгов за последнюю неделю, не было бы возможно достичь без Курсора.

Не думайте, что я переобулся – вся моя критика на месте.

Лишь благодаря тому, насколько быстро эта скотина может распространять изменения по кодовой базе можно достигать таких объемов.

One shot tickets ребят.

Че та за тикеты, ваши мысли?

Поправить респонс код в ручке?

Все perfomance review в которых я когда либо участвовал были чем-то вроде цирка лицемерия – тебя нахваливают за то, где ты был молодец, если серьезных косяков не было - вообще их не упоминают, или упоминают вскользь. Ну и иногда дают прибавку которая приближает тебя к нижнему грейду по рынку (сверху или снизу :) и стремится покрыть инфляцию.

Один мой знакомый аналитик пошел джуном в Яндекс, очень толковый парнишка. Обещали через N месяцев ревью, если косяков нет – повысят оклад.

Результат – Биба. Пацан смайнал в банк и правильно сделал.

Perfomance review как абстрактная концепция может и норм, только правда вот в чем:

1) если вы будете косячить как Олег, никто не будет ждать очередного PR в календаре и Лид начнет стучать по башке сразу.

2) обещания ничего не стоят. Пустая похвала - приятна, но тоже ничего не стоит. Если вам обещают прибавку на следующем ревью - фиксируйте это обещание а переписке, а потом все время пока работаете до этого PR сами фиксируйте свои достижения. Так будет нааааамного сложнее вас прокатить. Ну и в рефлексии потренируетесь.

Вообще конечно самая крутая система была в DBI, когда в тебя кидают таблицей с грейдами и списками знаний/задач которые надо обрести и доказать на практике. Очень прозрачно, и далеко не все сразу ломятся по грейдам подниматься.

В любом случае, чтобы там не было – pr, грейды, или вообще ничего - свои достижения и косяки лучше фиксировать самостоятельно. Далеко не каждый менеджер хорошо фиксирует последние, и редко какой вообще нормально фиксирует первые.

А лабы кстати, вообще фигня 🙂