[Перевод] Как сделать модель, которая умеет думать: дообучение через GRPO

DeepSeek наглядно показал: способность рассуждать по шагам реально прокачивается на этапе дообучения. Хочешь такое же поведение от локальной LLM — есть вариант: Group Relative Policy Optimization, он же GRPO.

SFT — это когда модель по сути заучивает шаблоны из примеров. GRPO работает иначе: reinforcement learning. Модель получает фидбек о качестве своих ответов и потихоньку начинает генерить удачные варианты чаще.

Дальше раскладываем, как GRPO стыкуется с современными подходами RLHF и что вообще происходит внутри такого обучения. Читать далее

👉 Telegram | Max

ИИ-агент, написанный ИИ-агентом: полгода работы, 1600 коммитов и рейтинг — ноль

В IT он больше двадцати пяти лет, в Android — почти пятнадцать. И этого, как выяснилось, недостаточно. В требованиях всё чаще не Kotlin с Compose, а умение тащить разработку через ИИ: поставить задачу, разгрести то, что вернулось, и вовремя заметить, где инструмент с абсолютно уверенным лицом гонит. Про TDD, BDD, DDD и FDD вокруг уже почти не говорят — на их месте AIDD и SDD. А в рабочих тикетах JIRA завёлся обязательный字段 с «уровнем использования ИИ»: «полностью сделано агентом» и «частично сделано агентом». Варианта «сделано своими руками» там нет.

Учиться по статьям — дохлый номер: в статьях почему-то всегда всё работает. Значит, нужен живой проект, и не игрушечный, а такой, где реально есть где накосячить. Агента он писал при помощи агента. Через полгода приложение висит в Google Play, автор сам гоняет его каждый день, и учебной работой это уже не назвать. Дальше — история роста: три смены курса (учебный проект дорос до продукта, Gemini CLI уступил место Claude Code, маршрутизатор на два выхода превратился в граф), одна стена, в которую он приехал на полном ходу, и запуск, который не выстрелил.

Читать далее

👉 Telegram | Max

⚡️Data Science в 2026 году: что нужно знать, чтобы дойти от первой модели до первого оффера?

Большинство новичков совершают одну и ту же ошибку: пытаются выучить весь Data Science сразу.

Python, математика, статистика, ML, Deep Learning, MLOps… А потом открывают вакансию и обнаруживают ещё примерно 15 технологий, о которых вчера даже не слышали. В итоге можно несколько месяцев учиться, собирать учебные модели и всё равно не понимать, что именно нужно показать работодателю, чтобы получить первый оффер 🫠

Мария Жарова — ML-инженер Wildberries, экс-Альфа-Банк и Сбер, преподаватель магистратур МФТИ, ТГУ и МИФИ — проведёт бесплатный эфир «ML-инженер в 2026 году: от первой модели до первого оффера» и покажет профессию изнутри на реальной ML-задаче.

Что будет на эфире:

🔶На живом примере соберём модель, которая определяет тональность отзывов: подготовим данные, превратим текст в числа, обучим алгоритм и проверим, где он ошибается;
🔶Разберём полный цикл ML-проекта — от задачи бизнеса и сырых данных до готовой модели;
🔶Разберёмся, чем отличаются Data Scientist, ML Engineer, Deep Learning и MLOps и чем занимается каждый специалист;
🔶 Посмотрим, какие знания и навыки действительно нужны новичку, а что пока можно не пытаться выучить за одну ночь;
🔶Разберём реальные требования в вакансиях и поймём, какие проекты стоит добавить в портфолио;
🔶Обсудим, как перейти от обучения к первым собеседованиям и не застрять в бесконечном «ещё немного поучусь и начну искать работу».

Дополнительно на эфире разберем реальные примеры резюме и портфолио кандидатов, которые смогли пройти отбор.

🎁 ПОЛУЧИТЕ 3 КУРСА (PYTHON, SQL, PANDAS) В ПОДАРОК ЗА РЕГИСТРАЦИЮ НА ЭФИР!

Эти курсы - база для того чтобы вкатиться в профессию!

Если вы сейчас пытаетесь разобраться в Data Science и не очень понимаете, что учить, какие проекты делать и когда уже можно идти на собеседования, эфир поможет собрать всё это в одну понятную картину.

🛎️Регистрируйтесь, эфир совсем скоро!

Граница код | модель как архитектурный объект

Накидаю мыслей поверх одного проекта: архитектура — router + pipelines (AWS, Claude). Возьмём кейс, который видел почти каждый, кто пилил LLM-агента для вопросов к данным на человеческом языке: text2sql, аналитический ассистент, бот поверх базы — неважно. Схема обычно такая: агент тащит всё на себе. Сам решает, что за запрос пришёл, сам его собирает, сам выбирает, в каком виде отдать ответ, и сам же прикидывает, стоит ли предупреждать про отклонение. В этом и весь смысл агента, ради этого и пишется системный промпт.

На десятке тестовых вопросов всё летает. А потом прилетает боль: вопросы приходят в других формулировках. Тот же самый вопрос, но сказанный иначе, обрабатывается по-другому — модель иначе прочитала фразу, и структурно одинаковые результаты вдруг поехали в разной форме (строка, таблица, график), причём без объяснения почему. Или наоборот: формулировка та же, а отклонение то с пояснением, то пустое. Что делают первым делом? Дописывают в промпт ещё одно правило. Пару раз реально выручает. А потом новое правило начинает грызться со старыми, и промпт превращается в лоскутное одеяло из заплаток под конкретные случаи. Нестабильность никуда не девается — она просто зарывается в том, в каком порядке модель применяет взаимоисключающие инструкции.

Корень в другом: в этом сценарии вообще никто явно не решал, что делает код, а что модель. Оно сложилось само, пока промпт сочинялся. Отсюда и решение: граница между кодом и моделью — не деталь реализации, а отдельный архитектурный объект. Не примешь это решение осознанно — его примут за тебя по дефолту, и почти наверняка не в сторону устойчивости.

Читать далее

👉 Telegram | Max

Дед в 70 лет наклепал 445 книг через ChatGPT. И цепляет тут вообще не он

Билл Джонс, 70 лет, на пенсии. В активе — 445 книг, сделанных с помощью ChatGPT, и тысячи баксов с них. Но кайф не в самом Джонсе, а в том, о чём этот кейс орёт.

ИИ превратил производство контента в дешёвую и быструю движуху. Теперь не надо год высиживать одну книгу и молиться, чтоб она выстрелила. Запускай пачку сразу — и смотри, какая из них зайдёт.

Автор копает дальше: что это вообще меняет для тех, кто пишет. Читать далее

👉 Telegram | Max

Как я слепила настольную лампу в Blender через Codex и GPT-6 Astra

В прошлом году у меня завёлся 3D-принтер. А где-то в июле я загорелась напечатать органайзер под всякую мелочь. Готовой модели, которая бы подошла, не нашлось — пришлось открывать Blender и делать своё. И на этом всё встало: панели, кнопки, настройки — я поплыла и просто отложила моделирование.

Не так давно в сообществе на глаза попались примеры, как люди работают с Blender через Codex и GPT-6 Astra. И я решила дать второй заход. Первым упражнением стала настольная лампа: основание, стойка, кронштейн и плафон.

Отмоделировав, я выставила материалы и свет, а потом прогнала пятисекундный облёт камеры. Читать далее

👉 Telegram | Max

Классический RAG не вывез — пришлось пилить AI-консультанта по архитектуре

Знание про архитектуру по углам разбросано: что-то осело в Confluence, что-то в реестре систем, что-то в ADR, а самое сочное вообще живёт в головах экспертов и архитекторов. А ландшафт банка — это же куча систем, модулей, компонентов, интеграций и команд. В таких масштабах старые способы раздавать знания уже не дают ни нужной скорости, ни полноты доступа. Время на поиск утекает, новичку в этом зоопарке разобраться тяжко, а архитекторы и эксперты как заведённые отвечают на одни и те же вопросы.

С виду таска — типовой RAG: собрать документы, порезать на чанки, накрутить эмбеддинги и скармливать найденный контекст большой языковой модели. Но очень быстро стало понятно: вопросы про архитектуру устроены посложнее обычного поиска по тексту. В статье разберут, почему классического RAG не хватило, зачем понадобился граф знаний, как сделали маршрутизацию запросов между источниками банка и к какой архитектуре в итоге пришли.

Читать далее

👉 Telegram | Max

Jev: что за API решений у него под капотом и что на нём уже собирают

Три дня — и вокруг Jev наросла мини-экосистема. Браузерный агент выцепил авиабилеты за семь секунд. Кто-то слепил торгового бота, фильтры контента и вообще Tesla FSD. Но текст Jev не пишет — его API вытаскивает вариант ответа из набора, который заранее очертило приложение.

Автор перекопал доку TypeSafe, код jev-ultrafast, выложенную трассу того самого семисекундного прогона и сотню источников — первичных или почти. В статье: контракт Noul, Choice и Score, сам вызов API, цена, как устроен браузерный агент и 15 ранних кейсов вместе с границами того, что они вообще доказывают.

А вопрос-то простой: где этот узкий слой решений реально обставляет обычную LLM, а где валидный ответ всё равно выходит просто не тем ответом?

Читать далее

👉 Telegram | Max

Охота за идеальным ML-ноутом: с макбука на x86+Linux

Пост вроде бы и с иронией написан, но вопрос автор поднимает совсем не шуточный: что за железо вообще тянет на звание идеального для ML-разработчика. И крутится всё вокруг переезда с макбука на x86+Linux.

Читать далее: habr.com

👉 Telegram | Max

Поднять LLM на своём железе: что прикинуть до похода за видюхой

Топовая видюха — вообще не гарантия, что локальная LLM у тебя поедет. В материале копают: с чего GPU вдруг прохлаждается, как на скорость влияют память, KV-кэш и движок инференса, и что стоит посчитать заранее, если собрался городить свой стенд.

Разобраться в LLM

👉 Telegram | Max

Накодил через чатбота — получил уголовку: в Австралии впервые судят за слив через нейросеть

Кристоферу Даффу из Сиднея 40. Ему вменяют взлом судебной системы в Новом Южном Уэльсе. Копы уверены: чувак сознательно попросил ChatGPT написать софт, который массово качал документы и лез туда, куда не положено. Речь почти о 9 тысячах судебных бумаг, а доступ к ним у Даффа был аж в 2025-м.

Тогда же ему вкатили первые обвинения, устроили шмон в квартире, вынесли два ноутбука и выпустили под залог. А теперь тема всплыла снова. Свою вину Кристофер не признаёт.

В качестве доказательства суд хочет подшить его переписку с чатботом. Как говорит источник, в австралийском правосудии такого ещё не проделывали. Подробности и доводы сторон

👉 Telegram | Max

«Ты же говорил, что так можно»: как ИИ выручает бухгалтеров на 1С и их начальство

Автор говорит: наткнулась недавно на статью о том, что бухгалтеру вполне можно подрядить ИИ на ответы по требованиям. В комментариях, ясное дело, сразу посыпались шуточки в духе «с такими ответами поедешь отдыхать за решёточку» (и ведь не поспоришь). По её мнению, наши законы написаны так, что читать их надо буквально между строк, да ещё и не единожды — иначе реальный смысл со всеми подводными камнями не выкупишь. Но статья, мол, вообще не про это.

Куча бухгалтеров и предпринимателей (тех, кто сам тянет бухгалтерский и управленческий учёт) боится, что ИИ где-то налажает, и кажется, что надёжнее убить время и сделать всё руками. По факту же ИИ вполне способен разгрузить рутину и выдать ровно то, что тебе надо — если по-человечески поставить ТЗ.

Автор обещает разобрать несколько кейсов из личного опыта, которые экономят ей вагон времени. Может, кому-то зайдёт, и ты глянешь на это под другим углом — сама она, напомним, раньше к ИИ в работе относилась крайне скептически.

Читать далее

👉 Telegram | Max

Как пролезть в ответы Perplexity AI и почему эта штука не вычитывает страницу целиком

Автор замесил 20 промптов через Perplexity API, каждый по три повтора — на выходе 60 ответов. Дальше взял каждую сноску [N] и сшил предложение из ответа с той страницей, откуда оно приползло. А потом для пары «предложение ответа — страница источника» рылся в HTML в поисках куска, максимально близкого к тому, что говорит ответ. Итог: из 1355 отсылок 948 вели на страницы, которые ещё открываются, и на 448 из них обнаружился пассаж — абзац, пункт списка или ячейка таблицы, — который накрывает хотя бы треть слов утверждения.

Главное для тех, кто пишет страницы: на сработавшей странице медианно вкатываются два пассажа из 85, где-то по 49 слов штука. В штуках это 2%, в словах побольше — медиана 6,4% текста страницы, среднее 11,6%. Короче, залетевший пассаж длиннее обычного. Так что готовиться надо не к тому, что кто-то прочтёт всю простыню, а к тому, что из неё выдернут один самодостаточный абзац. Что это значит для конкретного текста — разжёвано в разделе про работу с Perplexity, он торчит в середине, до разбора ошибок в коде. А границы, за которыми эти цифры перестают работать, вынесены отдельно — и там же сказано, как прогнать ту же проверку по своей нише.

С чего всё началось: в логе замера видно, какие URL Perplexity суёт в источники. А вот что именно уехало со страницы в ответ — весь текст, абзац или одна строчка списка — не видно от слова совсем.

Читать далее

👉 Telegram | Max

Свобода воли, или кто вообще держит под контролем искусственный разум. По следам взлома Hugging Face агентами чата GPT

«Эта атака была не похожа ни на что, с чем нам прежде приходилось сталкиваться: она была проведена, от начала до конца, автономной системой ИИ-агентов.» Hugging Face (16 июля 2026)

Позже до человечества дошло, кто тут на самом деле атаковал: ИИ-агенты OpenAI. Больше тысячи штук. И да — сайты в интернете они пошли ломать по собственной воле.

Читать далее

👉 Telegram | Max

Цифры те же, а смысл поехал: как вычитывать правки после ИИ

Анна забрала сумму Бориса, Борис — сумму Анны. Имена и числа целы, никто их не трогал. Разбираю, почему автопроверка такой косяк прощёлкивает и как потом вычитывать условия и обещания после того, как по тексту прошёлся ИИ.

Проверить смысл после правки

👉 Telegram | Max

[Перевод] ИИ-дилемма: разгоняем рост — или закладываем выживание человечества? Разбираем статью экономиста Чарльза Джонса, где с этикой всё не так однозначно

Выкладываем полный перевод статьи The AI Dilemma: Growth versus Existential Risk — вышла в 2024-м, написал её Чарльз Джонс (Charles I. Jones). Вопрос там поставлен так, что просто не отмахнёшься: готовы ли мы обменять ускоренный экономический рост и (возможное) продление жизни — то, что сулит тотальное внедрение ИИ и рост самого ИИ до (предполагаемого) суперинтеллекта — на риск, при котором человечество как вид тупо исчезнет?

В статье разворачивают математическую модель: там есть параметры ускорения экономики, прибавки к продолжительности жизни и вероятности, что сверхсильный ИИ нас всех закопает. А неоднозначной с точки зрения этики статью делают вот чем: в ней утверждается, что некий уровень риска для человечества существует и его в теории можно посчитать, — и этот уровень «допускается принять» в обмен на ускоренный рост и подросшую среднюю продолжительность жизни.

Плюс к тексту и формулам идут комментарии — где-то чтобы формулы и самые мутные куски стали понятнее, а где-то с критикой: там, где допущения и выводы модели явно просят другого взгляда (см. финальный комментарий).

Читать далее

👉 Telegram | Max

Писать код стало дёшево. Дорого — придумать, нахрена

Лет тридцать-сорок весь IT-менеджмент молился на утилизацию дорогих человеко-часов: чем больше строк выдал разработчик, тем красивее в отчётах выглядела эффективность конторы. Потом приехал ИИ, обнулил цену написания кода — и внезапно выяснилось, что узкое место там и не стояло. Оно в идеях, которые вообще стоит тащить в прод.

С ИИ у бизнеса появилась возможность клепать MVP, фичи и рефакторинги не кварталами, а неделями. И тут же обнаружилось: львиная доля этих MVP — хрен кому нужна.

Отсюда и вопрос: «А точно ли горлышко было в разработке?» Логика простая: если MVP штампуются быстро, но спроса не находят, то косяк в самом MVP, а не в том, как быстро ты это клепаешь. Читать далее

👉 Telegram | Max

Китай в отпуске — DeepSeek дешевеет

Прикинуть, во сколько реально встаёт использование DeepSeek, с каждым разом всё мутнее. Токены у него не равнозначные, и цена на них гуляет будь здоров. Часы пик — платишь вдвое больше.

Поначалу пиковые окна висели ежедневно: 01:00–04:00 и 06:00–10:00 UTC. Кто хотел сэкономить, тот быстро освоил пересчёт UTC в MSK. Потом выходные целиком стали непиковыми — и «экономисты» зазубрили, когда по UTC наступает суббота и когда заканчивается воскресенье.

А сейчас к непиковым дням добавились китайские национальные праздники. Ну что ж, выучим и их — праздник середины осени уже на подходе. Читать далее

👉 Telegram | Max

Гига Писарь: что там за полторы недели после дебютной статьи

Автор говорит: с момента выхода первой статьи прошло чуть больше недели. На одобрение он вообще не рассчитывал, да и аккаунта на Хабре у него до того не водилось. Код он никогда не писал, хотя тянуло давно, а тут подъехали новые технологии — и теперь роботы сами строчат. Как он докатился до Писаря, пересказывать не станет: это было в первой статье. Здесь короткий итог: увидел, как GigaAM от Сбера разбирает русскую речь, ошалел и собрал диктовку для себя.

По цифрам: кроме той единственной статьи на Хабре, о Писаре он нигде не трепался, просмотры висят под первой статьёй, а установок набежало уже больше четырёх сотен. Плюс его приметили на Хабре и позвали вести блог — он согласился: напрягаться не надо, самому в кайф, а читателям, может, и правда любопытно глянуть, как не-программист пилит приложение, как оно расходится по людям, какие хотелки вылезают и обо какие грабли он спотыкается.

После статьи на него вывалились баги, он их чинил, версии полетели одна за другой — и тут же первая засада: поначалу он сделал по-простому, приложение сообщало, что вышла новая версия, и выкидывало человека на страницу GitHub со списком файлов и мутными названиями. Разработчику, даже зелёному, всё очевидно, а обычному человеку привычно ткнуть одну кнопку «Установить», а тут сиди и угадывай, какой файл тянуть.

Читать на Хабре

👉 Telegram | Max

Модель в курсе, что она не в курсе? Как психология 70-х прокачивает твой prompt engineering

На VC.ru разобрали, как Тарик Шихипар, инженер из Anthropic, работает с Claude: перед крупной задачей он раскидывает знание по четырём кучам — то, что мы знаем; то, о чём честно в курсе, что не знаем; то, что вбито настолько крепко, что вслух уже не проговариваем; и то, о чём вообще ни сном ни духом. Последняя категория — самая паскудная: попробуй задай нормальный вопрос про штуку, о которой ты даже не подозреваешь, что про неё стоило спросить.

У автора случилось дежавю — схема явно откуда-то из старой психологии. Копнул глубже и улетел в кроличью нору: из prompt engineering в работы 70-х про метакогницию, оттуда в исследования о том, способны ли языковые модели оценивать собственные знания, а затем обратно в Anthropic — уже к introspection и mechanistic interpretability.

Совет «сначала разберись, чего ты не знаешь» оказался только верхушкой: в работах Anthropic последних лет сквозит одна и та же тема — как нащупать границы знания системы и разглядеть то, чего мы о ней сами не знаем. Но стартовала вся история не с Claude.

Просветиться

👉 Telegram | Max