Андруша пишет код
1.33K subscribers
154 photos
2 videos
1 file
237 links
Download Telegram
Forwarded from Burhudar_ch
Наконец-то [Company] дропнул [Product] для [OS/Job] это начало конца для привычных [Role]. Теперь всю [Job] можно делать с помощью [Product] на [Value] эффективнее и даже в фоне.

Я абсолютно уверен, эпоха знакомых нам [Roles] окончена, и наступила эпоха [Product].

В качестве примера могу привести пост из твиттера, где [User/Company] скупил все [Garbage], запустил на них [Product] и ускорил [Job] на [Value] процентов. Это невероятно вдохновляет!
😁40💩6🤡3🤝21🔥1
Вокруг меня в последние пару-тройку месяцев идёт огромное нахваливание модели opus от Anthropic и я сломался и занёс 200$ ребятам и попробовать что из себя представляют их решения.
Так же у меня пылилась подписка от openai, которую я использовал исключительно для веба, но которая пригодилась и тут.

Если вы пропустили драму с opencode, около месяца назад, то по итогам
- OpenAI разрешила использовать свою подписку в любых кодинг агентах
- Anthropic напротив начала бороться с тем, чтобы её подписку люди использовали вне claude code

В итоге это плавно привело к тому, что последний месяц я сравниваю решения от этих двух провайдеров в своей работе.
Текущее состояние:
- 95% моих задач: анализ бекенд кода, написание кода на фронтенде и всякие аналитические задачки
- 95% взаимодействия моего с агентами - это составление подробного плана, который потом может выполняться кем угодно, включая всякие слабые модели по типу glm4.7
- Я плюнул на возможные ограничения от антропиков и просто создал себе одноразовый аккаунт, от бана которого мне будет ни горячо ни холодно
- в итоге я пришёл к тому, что 99% времени работы с моделями opus и gpt5.X я делаю через opencode

В итоге выводы такие:
- модели от openai очень странные. Такое чувство, что изменение reasoning effort(low/medium/high/xhigh) тупо переключает модель, а не меняет размер окна для размышления как это происходит у антропиков. xhigh оказалась слишком тормознутой(даже после их ускорения на 40%), так что я в основном пользуюсь high
- Opus - это невероятное решение. Антропики сделали невозможное, по-моему мнению. Они смогли засунуть в свои веса знания всего мира. Я теперь понимаю почему люди, которые пользуются исключительно opus'ом говорят что им не нужны RAG'и и прочая документация. В 90% случаев модель уже знает то что нужно пользователю(или делает вид что знает, а пользователь не замечает)
- Однако gpt5.X даже в режиме high умнее чем opus. Да, она не знает всего на свете как её конкурент, однако она куда лучше работает с информацией и даёт более взвешенные решения. На практике это проявляется в том, что мне надо меньше править планы руками(однако это не значит что я запустил хотя бы 1 план без правок)
- Так же я заметил одну странную/забавную/приятную штуковину - что codex cli, что opencode при работе с gpt5.X время от времени что-то выкидывает из контекста во время работы. CLaude Code и Opencode при работе с Opus такого не позволяют. Если что-то было добавлено в контекст - оно остаётся там до конца работы. В итоге работать с gpt5.X куда приятнее, так как бюджет контекстного окна куда больше чем с решением от антропика
- Подписка от openai позволяет делать больше при сопоставимых затратах. Когда у меня был тариф 20$, то Opus'а у меня хватало на минут 10-15 просто построения планов. После чего 5часовые лимиты у меня заканчивались. С gpt5.X можно же работать по 2-3 часа спокойно(а после акции с x2 лимитами и вообще без перерывов). Да, на 200$ нужно работать с подпиской антропика в 2-3 потока, чтобы её исчерпать, но всё же.

Итог: пока отказываться от подписки антропика смысла для меня нет, но мы имеем реально 2 хороших конкурирующих решения, в случае если вы пишете план, правите его и только потом выполняете. Однако если у вас есть решение по доставке документации в агент по типу Contex7 или сбоку поднятый RAG, то лучше попробовать решение от openai. Там тупо больше лимитов. Я бы прировнял 20$ от openai к 100$ от антропика. А решение от антропика в подписке дешевле 200$ смысла не имеет - лимиты кончаются слишком быстро.
1👍15💩84🤡4
Burhudar_ch
Наконец-то [Company] дропнул [Product] для [OS/Job] это начало конца для привычных [Role]. Теперь всю [Job] можно делать с помощью [Product] на [Value] эффективнее и даже в фоне. Я абсолютно уверен, эпоха знакомых нам [Roles] окончена, и наступила эпоха [Product].…
Тут недавно вирусилось, что выйдет Sonnet 5, который будет на уровне Opus 4.5, но быстрее и дешевле. Причём это рекламировали не только всякие слухи слухские, но и разные поставщики агентов, по типу v0 и прочих

В итоге вышел opus 4.6 за те же цены + https://code.claude.com/docs/en/fast-mode.

Теперь теория заговора от меня:
> рекламим sonnet 5
> в итоге решаем срубить бабла
> замедляем соннет 5 и выпускаем opus 4.6
> выпускаем opus 4.6 fast mode(aka sonnet 5) за х6 ценник

Profit?
Ушёл лечить шизу
🤡14💯7💩32🤔2
Если вам кажется, что в мире ничего не происходит интересного кроме ИИ, то это, слава богу, не так:
https://httptoolkit.com/blog/dictionary-compression-performance-zstd-brotli/

ТЛДР: если сжимать по-умному, опираясь что можно переиспользовать то уже скачано, то трафик можно снизить ооочень сильно.
А так - в остальном только ИИ и происходит
8🤡6💩3👍1🔥1😁1
Итак, прошло около 3-4 месяцев с момента как Антропик попытался заблокировать использование их подписки неофициальными клиентами. И мне кажется, что прошло достаточно времени, чтобы подвести итоги такого решения.

Всем провайдерам кроме большой четвёрки пофигу на то где вы используете их ключи. GML, Kimi, Cerebras и прочие китайцы с европейцами позволяют платить им подписку и не заморачиваться с этим.

В январе, когда произошла блокировка антропика, на помощь к опенкоду пришли, внезапно, openAI и Microsoft:
OpenAI: https://x.com/opencode/status/2009805930377167233
Microsoft: https://x.com/opencode/status/2011790750543983072
А так как можно использовать подписки в опенкоде, значит их можно использовать буквально везде. Прикинуться опенкодом не составляет труда + весь код в опенсорсе. По этой же причине как минимум подписки openai попали в cLine/rooCode и прочие сторонние агенты

Антропик же откатил решение, так как(тут вангую) понял что деньги важнее и всех не заблокировать. В итоге прямо сейчас все "прикидывания" клод кодом работают превосходно. Аккаунты по причине обхода подписки не блокируются. (Правда блокируются просто рандомно фиг знает по каким причинам, но это точно не за обход, так как люди массово используют это). Однако интересна другая вещь: антропик начал бороться другими методами - юристами. https://x.com/thdxr/status/2034730036759339100
Так что можете пользоваться спокойно, не забанят. Реализацию можно искать в pi agent. Там хранится логика как притвориться клод кодом для антропика

https://t.me/xavescor_code/362

И последний наш герой - Google. Они же, как крупная самодостаточная компания просто банят пользователей, кто пытается прикинуться atigravity или gemini cli. https://github.com/openclaw/openclaw/issues/14203 Среди моих знакомых 3 таких неудачника. У меня в опенкоде обход подписки работает всё ещё, но я стараюсь не борзеть сильно: в основном пользуюсь их поиском, который там бесплатен через апи. Но пользоваться их подпиской просто не рекомендую.

А самый простой способ отслеживать насколько провайдеры борзые - просто следить за репозиторием openclaw. Если он поддерживает какую-либо подписку, то там точно нет ограничений для пользователей. И как заметите: гугл оттуда выпилили
👍124💩4🤡2
удалил(-а) Вас из группы
7😁51🤡32🥴7💩5😭3👎2🤮2👌2👍1🤬1
Я сейчас пилю небольшой проектик по изучению иностранных языков(всё же надо пользоваться хайпом ЛЛМок и всем таким) на основе разных видеоисточников(youtube, netflix, etc). И основная фишка - это показ сабов только тогда, когда пользователю непонятен тот или иной кусок видео(короч, comprehensible input на стероидах). И человек учится просто смотря интересный ему контент.

И если с нетфликсом примерно понятно что делать - там сабы стабильны и количество сериалов не такое большое, то с ютубом начинатся проблемы - ты не можешь прекешировать абсолютно все триллионы видео, которые там есть и загружаются каждый день.
И поэтому было решено: надо дебажить ютуб и вытаскивать существующие сабы из веба.

И тут начинается проблема: инструментов для того, чтобы делать это удобно тупо нет.
Vitest - он имеет browser mode, но он работает исключительно со своим веб интерфейсом и не позволяет его инжектить на сторонние сайты. Не подходит
Playwright - умеет в page.evaluate, имеет playwright-cli, но делает ставку на управление браузером, а не выполнение кода. Поясню: evaluate(() => ...) работает максимально тупо: серилизует колбек в текст и передаёт его в браузер. В итоге ты не можешь использовать в этом колбеке замыкания, импорты и прочую вкусность. А самое главное - LLM вынуждена на каждый чих генерировать весь код на js(даже если он написан на TS), что бьёт по скорости, стоимости и корректности. И даже всякие попусы и гопоты не справляются в корректном копировании кода в девтулы, так как им надо работать тупо сборщиком.

В итоге мне пришлось написать cli тулу inpagerun, которая работает максимально примивно: принимает через --code код, который надо запустить в девтулах браузера, собирает его через vite и запускает. В итоге есть поддержка async/await, импортов файлов и тайпскрипта. На данный момент вроде как самое удобное решение для того, чтобы на рандомном сайте потестить свой код. Просто выполняешь inpagerun -u <url> -c "const data = await import('./logic.ts'); console.log(data.foo())" и всё работает.

https://github.com/xavescor/inpagerun

P.S. если вам интересно в ближайшее время потестить изучалку языков(на старте будет поддержка английского, испанского и португальского), то велком в комменты. С меня бесплатный сервис - с вас будущая обратная связь
🔥14💩82👍2👎2🤔1🤡1
Какое-то время назад я решил сделать свого агента по типу codex или opencode. Просто потому что "ну я то умный и могу сделать лучше и всё такое".

Только было желание попробовать делать не просто агент, а провести эксперимент: что если максимально выкинуть все тулы, mcp и минимизировать системный промпт. Оставить только bash и заставить модель взаимодействовать через уже стандартные linux утилиты: sed, grep и прочие.

В итоге оказалось, что модели(gpt 5.3+, glm 5+) вполне неплохо работают на уже имеющихся знаниях о командах линукса. Причём модели openai даже дают приоритет для rg(по сравнению с grep) и добавляют свою псевдо-cli тулу apply-patch для эффективного редактирования, так как у линукса ничего в стоке нет для этого.

И даже более: модели уже знают о наличии gh(github), tea(gitea), playwright-cli(понятно кто). Причём если для gpt 5.3 приходилось иметь довольно развёрнутый skill с описанием того как работает тула, то для 5.5 достаточно просто в начале системного промпта перечислить список нестандартных доступных cli тулов. Модели уже знают как с ними работать.
А если модель пытается, к примеру, получить данные сайта(обычно вызывается curl или wget), то можно просто написать свой курл, который будет отдавать контент в удобном для ЛЛМ формате.

Это происходит всё по простой причине:
- bash - универсальный интерфейс для всех
- cli тулы редко когда меняют свою семантику работы и обычно имеют +- уникальное имя. Другого gh или playwright-cli у вас в 99.999% не будет
- все подписочные планы что у openai, что у антропиков, что у кого угодно(кроме opencode zen. Они это декларируют явно) разрешают обучаться на ваших запросах в будущем. А это значит, что наиболее частые скиллы и cli тулы точно попадут в будущую обучающую выборку
- чем короче контекст запроса к ЛЛМ, тем в среднем она лучше выдаёт ответы и меньше забывает. Даже на современных текущих моделях

Так что не стесняйтесь выкидывать у себя mcp: почти что все сервисы сейчас дают cli интерфейс. Даже гугл к своим сервисам выпустил cli(да, читать почту стало как никогда проще из агента)

Не стесняйтесь пересматривать размеры скиллов: вполне возможно что для кучи уже существующих тулов достаточно просто "для <задача> используй <cli_name>". И качество работы агента особо от этого не снизится. Поиграться с размерами скиллов и их качеством можно через https://docs.tessl.io/improving-your-skills/evaluate-skill-quality-using-scenarios

Возможно ваш агент использует недостаточно cli тулов или же использует весьма неэффективный режим их работы: тут можно глянуть на https://github.com/rtk-ai/rtk
👍19💩6🤡4🤔1
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡15😁3💩21🤮1
Не задумывались для кого делаются все эти мелкие локальные модели размерами 4b-70b, которые вы типа можете запускать на своих машинках?
Тип, если запустить модельку у себя, подключить в какой-то CLine и попробовать написать код, то получится полная шляпа. А если учесть цену на подписку на решения от openai, антропика или дипсика, то окажется, что локальные решения ещё и экономически неоправданы.

Но всё меняется в тот момент, когда ты делаешь какой-нибудь сервис по обработке текста. К примеру, поисковую систему по решениям судов. Да, можно пользоваться большими моделями, но учитывая их ценник, ты скорее обанкротишься, чем найдёшь людей, которые готовы будут тебе платить.

Если вы глянете в спецификацию openai протокола, то увидите любопытное поле text_format. Или же так называемый structured output. Он сейчас есть буквально у всех провайдеров https://developers.openai.com/api/docs/guides/structured-outputs?lang=python&example=structured-data.
Эта штука позволяет буквально управлять тем что модель генерирует на выход.
Простой пример: вы задаёте что контент должен быть формата

type Output = {
foo: string,
}

И обработчик ответа будет отбрасывать все токены в аутпуте, пока модель не сгенерирует в ответе именно "foo": "<и тут дальше строка>.

И тут уже пригождаются маленькие модели. Потому что они, да, тупые, но мы можем делегировать программисту самую главную задачу: думать.
Мы можем форматом ответа тупо задавать то в какую сторону может думать модель(см. картинки 1 и 2)

К примеру, я сейчас использую gpt oss 20b для своего сервиса переводов для сериалов и ютуба и её вполне достаточно. Надо просто сделать почти всю работу за модель:
- достать из словарей возможные значения слов
- описать контекст сцены
- подсветить всякие нюансы по типу "эти слова в языках слишком похожи(ложные друзья переводчика), поэтому давай переводить по-другому"
- задать пайплайн рассуждений через structured output
И, внезапно, модель, которая на церебрасе стоит $0.4/$0.4 за 1М токенов и скоростью 500 t/s начинает иметь смысл.

А вот для работы с человеком брать что-то меньше чем всякие попусы и гопоты 5.5 смысла нет, это правда. Слабые модели только для всяких узеньких и конкретных задач

Ссылки:
- https://developers.openai.com/api/docs/guides/structured-outputs?lang=python&example=structured-data
- https://abdullin.com/schema-guided-reasoning/
👍13💩3🤡21👎1🔥1
Тут очень громкой новостью за последний месяц было переписывание достаточно крупного проекта с Zig на Rust в 90%-автоматизированном режиме.

https://bun.com/blog/bun-in-rust
ТЛДР: старый код был плохой, Zig не подходил, а вот с переписыванием на раст стало всё лучше, быстрее, бинарь меньше и вообще все красавчики. И ваабще я всё сделал сам, гоняя 64 клод кода параллельно, потратив 200к баксов в токенах
Однако есть нюанс: с момента переписывания до релиза прошёл примерно месяц(релиз на дату опубликования поста всё ещё не произошёл).
Тихой сапой чот кодовую базу лечили руками и ногами

Так же есть ответка как это видят со стороны Zig'а:
https://andrewkelley.me/post/my-thoughts-bun-rust-rewrite.html
ТЛДР: да там вапще говнокодеры, делают фигак-фигак и в продакшен и вообще спасибо что теперь не давите на нас своим авторитетом, скатертью дорога.

Без шуток советую прочитать оба текста. Они весьма полезны, кмк.
Как минимум мы имеем на практике подтверждение, что агенты могут с высокой долей автономности делать критические задачи. Да говнокод, да капец, но работает.

Плюс рекомендую посмотреть в ишаки и пуллики бана: там очень автоматизированно всё делается через бота robobun, который автоматом пытается воспроизвести ишью, и закинуть PR
https://github.com/oven-sh/bun/pulls

Правда с такой степенью автономности в репозитории ровно 0 линтеров на основе агентов. Простой пример того что есть у меня:
- я поверх опенкода и глм5.2 написал простой скрипт: проанализируй кодовую базу. Во всех местах где есть MutationObserver убедись что он нужен. Возможно, его можно заменить с помощью современного css(браузеры такие то в проекте) или же через window.matchMedia.
И гоняю я подобные скрипты внутри PR'ов. И сразу позволяю поправить код внутри них, чтобы в мастер уже попадала красотулька, а не кусок слопа, который у меня вышел по результатам решения задачи.

Так шо мотайте на ус, заменяйте себя там где заменяется, автоматизируйте очевидные рефакторинги и будет вам счастье. Современные дешевые модели уже достаточны для того, чтобы вычищать говнокод тоннами из репозиториев. Осталось только вычищалку написать
💩10🤡6👍4🤮2❤‍🔥1
Хочу чутка похвастаться/порекламировать сервис, который я сейчас разрабатываю.

Очень кратко тут в тексте, подробно же в прикреплённом видео.

ТЛДР: сервис изучения иностранных языков с помощью нейросетей(надо же инвестиции поднимать(нет))

1. у нас есть ютуб с отличной рекомендательной системой и контентом на любой вкус и возраст
2. нейронки позволили очень быстро размечать текст(субтитры) на якорьки в виде грамматики, переводов и прочей фигни, которая позволяет запоминать языковые конструкции.
Даже если ты не запомнишь сразу, то ты будешь видеть один и тот же якорёк 5, 10, 20 и более раз. И даже если ты такой как Андруша, то ты всё равно запомнишь эту конструкцию и будешь понимать как её применять тупо из своей практики(интересных тебе видосиков с ютуба)
3. Чтобы ты не читерил и не читал сабы 24/7, то мы тебе их показывать не будем. Если ты понимаешь, что не понимаешь что говорится в текущем сегменте видео, то нажимаешь клавишу "a/ф"(пофигу на расскладку) и мы тебе показываем караоке в 5 секундах до(чтобы ты понял контекст) и 2s после(чтобы ты точно расслышал слово), после чего субтитры скрываются
4. Если ты даже с сабами на понимаешь смысл слова, то не беда, кликай на него и увидишь якорёк, который поможет тебе разобраться

И вот таким макаром, аутируя на ютубе 100500 часов, ты +- сможешь подучить язык, потому что твой мозг вынужден работать. А самый простой способ не работать - выучить язык.

За остальным в видео.

=====

Так как ревью в магазинах расширений не мгновенное(а гугл ещё владеет и ютубом и очень не любит, когда ютуб меняют под себя), то пока что у меня на руках есть только сборки плагинов. Ищите их в комментариях

=====

Ну и вступайте в чатег, если интересна эта тема @eyespoken

=====

Спасибо Firefox. Опубликование было достаточно быстрым.

https://addons.mozilla.org/en-US/firefox/addon/eyespoken/

Открывайте интересное вам видео, жамкайте "a/ф" в непонятные моменты и обучайтесь.
Пока поддерживается только английский язык
23🔥7💩7🤡4👍3
Please open Telegram to view this post
VIEW IN TELEGRAM
Телеграм редко когда добавляет что-то полезное, в отличии от новых кончающих баклажанов, последние пару лет, но текущая фича походу вполне норм.

Создавайте сообщества и в списке чатов смотрите на стрелки вниз. За ними может оказаться достаточное количество материалов от интересных для вас личностей

P.S. Если создали сообщество, то первым делом идите в его настройки и отключите разрешение добавлять в сообщество чаты неадминам. А то вам быстро туда фигни накидают
💩9🤡72😁2🌭2
Я никогда не понимал на кой чёрт нужны все эти тесты в стиле "смотри, новая гопота смогла сделать земной шар, а кими не может". Потому что это настолько оторванно от реальности, что я даже хз что это показывает.

Но сегодня я проникся:
Я делаю сервис по изучению иностранных языков @eyespoken и, увы, пришёл к тому, что мне надо обучать свою модель, так как всё что есть в опенсорсе, увы, не справляется с разметкой субтитров.
И тут, увы, я столкнулся с тем, что просто не существует на рынке нормальной тулзы для разметки текста. Причём в формате, который мне нужен. Потому что читать json'ы глазами, даже форматированные, в случае разметки тупо невозможно. Нужен интерфейс.

И тут гопота 5.6 Sol(mid) зашла как по маслу. Промпт был бквально такой "мне нужен интерфейс, чтобы руками размечать данные для моей модели". И через 25% недельного лимита(на подписке за 100$) был сделан весьма приятный, а главное рабочий, интерфейс. А что там внутри него - как-то пофигу. Главное что я могу экспортировать оттуда данные.

Так шо, внезапно, даже самая шиза иногда бывает полезной. И не стесняйтесь генерить себе всякие одноразовые инструменты. Оно уже работает
🔥8💩5🤡42