#трудовыебудни
43 subscribers
351 photos
19 videos
37 links
Пишу про работу в айтишечке, личную жизнь и пощу мемасики.
Download Telegram
#трудовыебудни
А всё началось с того, что захотелось попробовать альтернативу великодушно оплаченным работодателем ChatGPT/Claude — что-то, что легко можно оплатить рублями и не долбаться с зарубежными картами или сервисами типа plati.ru. Соответственно, нужна была и модель…
Вощем Msty забавная штука, есть прикольные фичи типа создания кастомных персон-агентов, есть возможность болтать с этими агентами в групповом чате и всякое такое.
Но он выбывает, потому что оно не умеет в agentic coding с кастомной моделькой, а это у меня щас одно из основных требований.
Финал версии 2, классика 8)
Знаете ж вот эту тупую склонность нейронок выдавать бред, но очень убедительно?

Оказывается, для этого (кто бы сомневался) есть название — anchored confabulation (arXiv:2604.25931, апрель 2026).
Условно, какие-то частичные факты делают модель увереннее в своём бреде — несколько настоящих фактов позволяют ей дастраивать додумки и выдавать их за истину.

А самое печальное (и это объясняет, почему меня настолько воротит от Opus 5) — с умностью модели это поведение ухудшается. Т.е. более умная модель убедительнее бредит.

Думаю, конечно, что там куча нюансов, но вот прочитал — делюсь)
🤯1
Про Jev, ныне хайпующий

Чёт последние несколько дней всё AI-комьюнити говорит про Jev.
Полез смотреть, ожидая очередную "новую модель, которая на 4% лучше GPT в каком-нибудь очередном бенчмарке", а там внезапно вообще другое.

Jev — это System One Model. Я с таким раньше не сталкивался ваще) Что за систем ван? Если очень грубо, System 1 — быстро посмотреть на что-то и почти сразу принять решение, System 2 — сесть и ДУМАТЬ.

Большие LLM типа GPT/Claude как раз заточены под второе. Им даёшь задачу, они рассуждают, генерируют ответ, пользуются тулами, вот это всё. А Jev не умеет генерировать текст вообще :) Т.е. его нельзя воткнуть в OpenCode и пойти с ним обсуждать, почему опять сломалась авторизация.

Он про classify / score / rank. Условно: вот тебе сообщение из чата — это спам или нет? Насколько оно токсичное по шкале от 1 до 5? К какой категории относится тикет? Какой из этих документов больше подходит под запрос?

Внимательный подписчик сразу заметит: погодите, а классификаторы-то существуют примерно сто лет, что тут нового? Чем оно отличается?

Ответ: по сути ничем. В этом и прикол.

Раньше под такие задачи обучали отдельные ML-классификаторы. Потом появились general-purpose LLM и оказалось сильно проще просто отправить текст в GPT с промтом "это positive или negative?" вместо того, чтобы под каждую такую фигню обучать отдельную модель.

Ну и понеслось. Классификация, скоринг, роутинг тикетов, модерация — везде можно просто дёрнуть LLM API. Работает же.

Jev делали, чтобы с такими штуками было работать также удобно, как с LLM — описал критерии человеческим языком и ничего отдельно не обучаешь — но выкинуть всё ненужное для таких задач.

Вот, например, чувак сделал на нём realtime moderation чата:
https://www.reddit.com/r/vibecoding/comments/1wk8jco/using_jev_for_realtime_live_chat_moderation/

Там каждое сообщение на лету гоняется через Jev и получает оценки по нужным критериям. Собственно, как раз под этим постом и спросили "а чем это отличается от sentiment classifier?". Ответ был примерно "it isn't, that's the point" :)

Она ещё и стоит копейки: $0.042 за миллион input-токенов, output бесплатный. Т.е. даже если одна классификация съедает условную тысячу токенов, 10 000 таких запросов обойдутся примерно в 42 цента.

Сами TypeSafe заявляют, что на некоторых таких задачах Jev выходит в сотни раз дешевле обычных LLM. Понятно, что это их собственные сравнения и конкретные цифры сильно зависят от задачи, но порядок цен всё равно довольно смешной.

Хочется взять какую-нибудь реальную задачу и тупо сравнить Jev с обычной дешёвой LLM по качеству / скорости / деньгам.

Проблема стандартная: игрушка есть, а задачи под неё нет 😆 В вейтлист я заранее записался, доступ уже дали, так что осталось дождаться подходящего кейса) Но потыкать хочется)
Видите эту мразь на скрине?

Вот она убивала мне перформанс в 3д-сценах в вебе. А я всё понять не мог, чё всё так тормозит... Сегодня решил разобраться.
(у меня Edge)

— hardware acceleration включён
— WebGL/WebGPU аппаратные
— Edge реально использует мою 5070
— GPU при этом загружен процентов на 5
— а какие-нибудь Three.js-сцены идут в условные 20–30 FPS

Performance в DevTools показал, что main thread почти постоянно в 100%, почти всё время уходит в scripting, а GPU в это время отдыхает.

Для проверки открыл тот же самый 3D сайт в хроме. Плавно. В эдже — слайдшоу.

Короч оказалось, что виновата настройка со скрина. Edge в этом режиме для сайтов, которые считает "незнакомыми", включает чёто там дополнительное, из-за чего сильно режется перформанс у JS (как я понял).
пока неудачники, я увольняюсь
🤣2
Кто так метрики повышает — тот тридварас злостный 🤬
🤯1🤬1
ну чё, пацаны и пацанессы, вышел Opus 5.5

Читаю сейчас пресс-релиз: https://www.anthropic.com/claude-opus-5-5

Понятно, что там блабла, сильнее, блабла, самое лучшее, блабла, но вот интересно — пишут, что они озаботиллись как раз тем, что бесило многих — то, как Opus 5 говорит и изъясняется. Читатель вспомнит, что я на него постоянно бугуртил)

Доступ уже есть, ща посмотрим, чё там... Стало ли лучше, полюблю ли я снова Claude или нет)
🔥2
#трудовыебудни
ну чё, пацаны и пацанессы, вышел Opus 5.5 Читаю сейчас пресс-релиз: https://www.anthropic.com/claude-opus-5-5 Понятно, что там блабла, сильнее, блабла, самое лучшее, блабла, но вот интересно — пишут, что они озаботиллись как раз тем, что бесило многих —…
Дал одну и ту же задачку на "оцени ТЗ, скажи норм или лучше иначе" в одном и том же репо.

Opus 5:
Позиционирование. anchor из тика симуляции, above/below, cardShift, клампы к краям, карточка едет за нодой, max-h-[50dvh] со скроллом. Это действительно паразитная сложность, и её надо убрать.

Opus 5.5:
2. Связывание через холст. Сейчас «Связать» включает режим, и следующий клик по узлу создаёт связь. Модалка перекрывает граф, и кликать некуда. Модалку придётся закрывать на время связывания и потом открывать заново. «Без новой логики» так не получится: появится новый переход состояний, причём в главном цикле jot → name → link.

Понятно, что они выдали разный аутпут, который 1-к-1 не сравнишь вот так (но я и не пытался), но сам факт того, что в первом случае я нихера не понимаю (разве что только с поллитрой чтением кода), а во втором — достаточно понятное объяснение.

Короче, пока кажется, что прям сильно лучше. Будем посмотреть дальше...
Когда исправляешь код за более тупыми джунами нейронками:
😁1
1,5 часа работы с Opus 5.5 (Medium), и пока вот так.

Почти уверен, что это на время запуска. Потом обрежут как обычно, и будет улетать за пять минут :)
#трудовыебудни
1,5 часа работы с Opus 5.5 (Medium), и пока вот так. Почти уверен, что это на время запуска. Потом обрежут как обычно, и будет улетать за пять минут :)
3 часа. Т.е. пятичасового лимита хватает... на пять часов работы, вот это эмейзинг :D инновейшен!

А если серьёзно, очень круто. Хочется канеш верить, что так оно и останется.


А по самой модели — мне пока нравится. В целом, все запросы ваншотит, без рассусоливаний и переделываний по сто раз. А ещё защищает свои и в целом архитектурные решения — предостерегает от преждевременной оптимизации, добавления лишних полей в базу заранее и т.д., т.е. пока прям не заметил режима "ааа чел какая ахеренная идея, конечно, и вот тебе 500 причин почему она такая гениальная". Наоборот. Это прям... Хорошо.
👍1
Интересненькое наблюдение...

Агенты не могут прочитать вики по играм, потому что те отдают 402 Payment Required.

Это чё, wikia/fandom монетизируют AI доступ?
🤔1
#трудовыебудни
Интересненькое наблюдение... Агенты не могут прочитать вики по играм, потому что те отдают 402 Payment Required. Это чё, wikia/fandom монетизируют AI доступ?
Таки да.

Cloudflare AI Crawl Control позволяет сайтам отдельно решать, что делать с AI-краулерами: пустить, заблокировать или брать деньги за запрос.
То есть человеку Fandom открывает вики как обычно, а агенту может сказать: плати или доступа не будет.
Иронично, что сами тексты Fandom-вики часто под CC BY-SA. Переиспользовать контент можно, а автоматически забирать его с серверов Fandom — получается, нельзя.
Бро, одна задача (и ещё даже не закончена) на Astra Medium (которая щас даже на High слабее Opus 5.5 Medium) 😭😭😭

OpenAI чёт прям уверенно просирает эту гонку.
Даже Claude умеет делегировать, а я всё сам пытаюсь тащить 😭
Мне кажется, вселенная уже отчаялась посылать мне намёки и теперь прямым текстом начала говорить 😅
😱1
Хех, патчи подъехали.

Только-только 6.0 выпустили, но, видимо, поняли, что облажались (особенно на фоне релиза Opus 5.5), пытаются наверстать.

Пока конечно чатгпт прям отстаёт — я вон остался на выходных без лимитов клода, в итоге юзал ChatGPT. Как же Sol медленно работает по сравнению с опусом... И результат хуже выдаёт :(
Интересненько... Наступают на Notion?