Вот надо изучать тему. Есть ощущение, что небольшие нейросетки, предназначенные для эмбеддинга в RAG нужно обучать, используя свою специфику - типа графа знаний в предметной области. План примерно такой:
Первый прогон данных, составление базы знаний;
Файн-тьюнинг нейросетки для эмбеддинга с учетом этого графа и базы знаний;
Ембеддинг на дообученной нейросетке

Во-первых, это маленькие сетки, и должно быть недорого. Во-вторых, действительно должны быть логически законченные конструкции в чанках, что должно быть очень полезно

Хотите подключить нейронку к WhatsApp - спросите меня как ))

Всем фанатам vibe coding обязательно к просмотру - это ровно те проблемы, которые я пытаюсь решить, правда, немного по-другому. Видимо, придется купить и Cursor (пытаюсь пока обойтись бесплатным Cline)

https://youtu.be/YWwS911iLhg?si=ncgq1P905PHsvyRM

Вчера рассказывал своим коллегам из блока ИТ про нейронки - рассказал, какие самые лучшие, показал как писать промпты. Клод показал, с какой скоростью он пишет код. В общем, начали погружаться потихоньку

Кстати, тут Inception обещает выпустить модель, которая пишет код, не на основе LLM, а на основе диффузии - так, как генерятся видео и фото. Говорят, что получается в разы быстрее, а значит, и дешевле

И да, про мой vibe coding - установил вчера Cursor, подключил по апи Claude и ChatGPT, с Gemini что-то не получается, а это важно, поскольку работать надо по апи, а цену у Google в разы ниже. У них, кстати, куча каких-то возможностей по работе с нейронками, но разобраться в этом решительно невозможно

Если традиционные сети уперлись в проблему с недостатком данных и прогресс уже не так очевиден, то в части нетрадиционных способов обучения куча всего интересного. Как пример

https://t.me/data_secrets/6325

ChatGPT сделал интеграцию с VS Code, Curcor и пр. - теперь можно давать ему задачки в обычном интерфейсе и он будет их автоматически запускать и получать обратную связь. Поставил себе, все привязалось, но тестировать буду позже.

Раньше чему-то подобному научился Claude с протоколом MCP, но оседлать эту технологию я нормально не смог - проблема в том, что он пишет слишком много кода, исправляя что нужно, и что не нужно, забывая о первоначальной цели. Буду тестировать решение в cursor - устанавливать жесткие правила для программирования (видосик на эту тему). Попробую налабать правила, точно не помешает ни для Клода, ни для ЧатДжипити.

И еще надо попробовать новую модельку Мистраль для распознавания документов - у меня как раз есть такая задачка. Да, еще Sora для генерации видео хотел попробовать - OpenAI выложил ее в доступ (и ChatGPT 4.5 тоже)..

Хватило бы сил хоть на что-то

Сегодня на троих (c Claude 3.7, ChatGPT-4,5 и Grok 3) для загрузки в Cursor и прочие промпты составили правила правильного программирования. Будет полезно - велкам )), если есть замечания или дополнения - буду признателен

Шикарная подборка, надо читать/соушать

Поставил себе Cursor, заплатил 20 баксов за месячную подписку, запустил задачку по изготовлению для меня портала по обращению с ТКО. Это какая-то фантастика, примерно так я себе и видел. Он подключил Claude Sonnet-3.7 (в подписке 500 запросов в месяц к премиум моделям от Anthropic и OpenAI, я пока использовал 17). Машинка задает наводящие вопросы - что тебе, дружище, нужно? Изучает твои директории на компе, планирует разработку, программирует потихоньку. Результат пока не готов, но это впечатляюще. Даже если это не сработает со мной и сейчас, через два года это станет работать со всеми и еще проще, надо к этому готовиться. И да, правила, которые я писал, работают, вроде пока все как надо.

Вчера таки сделал свою первую веб-страничку. Ну, точнее, не я, конечно, - Cursor на пару с Claude. Уже думал, что никогда до этого не дойдем - он все писал, исправлял, но кое-как добрались до результата. Получилось не совсем то и не совсем так, но уже есть на что смотреть и с чем работать, будем потихоньку править. Главное, что мне не пришлось писать ни строчки кода - только раздавать команды, в общем, все так, как я себе видел.

Из деталей - cursor rules слетают. Он объясняет это тем, что выбирает контекст между наиболее релевантными источниками - либо логами терминала, либо правилами, и они не в приоритете. Это не очень хорошо - из-за этого он переписал readme в какой-то момент, заменив файл из 500 строк на 80.. Зато хорошая новость в том. что платная подписка расходуется более-менее неспешно и он не сожрал все бабки с тарифа за 2 дня. В общем, процесс рабочий, и, видимо, Cursor - это наше все.

Немного новостей - их очень много, но я кратко. Какой-то сумасшедший темп прогресса и появления новых моделек. Во-первых OpenAI выпустили API с кучей новых фич включая поиск в интеренете (никого не удивишь, но хвастаюстся что стал лучше), поиском по файлам (а это интересно), и управление компьютером через агента (а вот это уже бомба).

Видимо это все реакция на очередное китайское чудо - Manus, о котором все пишут с таким восторгом, что есть ощущение, что китайцы просто скупили всех блогеров. Manus пока толком недоступен. Сама система - это Клод с хорошо подобранными тулзами, которые отлично все автоматизируют. Есть в GiHub и OpenManus - бесплатный аналог, который, говорят, за 3 часа соорудили. Опять же, говорят, что ничего - но проверять пока некогда.

Выпустили Gemma 3, про которую говорят, что SOTA, да еще и на 27 млрд параметрах. Прогрывает только R1 из опенсорса, но зато ставится на локальные машины, да еще и куча квантизованных моделей любого размера. Плюч работает не только с текстом. Очень многообещающе.

На этом фоне моделька Mistral OCR, которая SOTA для перевода фото в текст уже как-то теряется в потоке новостей.

Когда только все это пробовать? Буду дожимать пока свои темы с Cursor..

На пути vibe-кодера много препятствий. Столкнулся с одним из них там, где, честно говоря, не ждал. Простейшая задачка - хочу разобрать коды ОКТМО (административно-территориальное деление России согласно Росстату) на таблички с уникальным перечнем и кодами регионов, муниципалитетов, поселений и населенных пунктов (да, у нас аж 4 уровня деления с 200 тыс. записей). подхожу к снаряду третий раз - и неудача. Написано полсотни скриптов, тольком коды муниципалитетов сопоставить не можем.

Но нет худа без добра. Смотрю, как машинка пишет и понимаю, что она постоянно уходит в какие-то дебри вместо того, чтобы тупо решать задачку. Ей это просто не интересно, она слишком творческая (может это просто ризонинг надо снять и перейти на обычную модель??). Она решает очень много побочных задач, о которых я даже не думал и не спрашивал. Это прикольно, конечно, но ничего не работает.

Знаете, как иногда нужен тупой, но послушный рабочий вместо творческого. Реально завтра попробую поставить модельку потупее и посмотреть, не получится ли лучше.

В целом, чем дальше, тем больше зреет концепция комбинации творческого постановщика задач и тупого дисциплинированного кодера. Ну или как-то более жестко брать под контроль дерево задачек, которые решаются по ходу работы над поставленной проблемой.

Несколько практических наблюдений в продолжение моих мытарств над проектом. Все продолжается примерно также - Клод в Курсоре пишет как не в себя, все сложно, пытаемся отладить ошибки, но проблески видны.

Попробовал использовать другие модели - Клода без ризонинга, ChatGPT 4,5, Gemini. И понял, что зря я на Клода наговаривал - только он родимый, и только с ризонингом. История в том, что он за один проход пишет какое-то нереальное количество кода и решает много проблем за раз. А остальных надо постоянно подстегивать, но деньги то берут за обращения, в итоге Клод с ризонингом дает за фиксированную цену максимальный результат.

И да, еще - никогда, никогда не используйте ChatGPT 4,5. Толку ноль, зато за каждый вопрос снимают по 2 бакса. Альтман устроил какое-то разводилово.

Для интереса установил себе Виндсерф. Надо сказать, что и Курсор и Виндсерф - это докрученный VS Code, все выглядит очень и очень похоже. Но по части цен, исходя из того, как устроены тарифы, выглядит, что Курсор будет выгоднее, по крайней мере, по первому впечатлению как-то так. Да и привык я уже к нему.

А проблемы свои решил решать через промпт-инжиниринг. Описал все, задал вопросы триумвирату - Клоду, Чату и Гроку. Причем последним - в распиаренном формате deep research. Итог - рисерч получился фиговый, Клод и здесь безусловный чемпион - у него получилось подбробнее, вдумчивее.

Итог, думаю, вы поняли. Среди существующих нейронок Claude Sonnet 3,7 + reasoning - безусловный фаворит. И Cursor с агентом, который использует эту модель тоже своих денег стоит, программы писать удобнее в нем, через интерфейс Клода это менее удобно, хотя и возможно. К тому же, если для обычного Клода все-таки нужна иностранная симка, то курсору достаточно только карточки. Подписывайтесь, не пожалеете