На Data Fusion

Итак, в этом году я наконец-то попал на Data Fusion. Во-первых, я получил приглашение (как блогер 😅) и офигенную толстовку. Во-вторых, я участвовал в соревнованиях Data Fusion этого года и поэтому хотел поучаствовать и в самой конфе. На этот раз не могу похвастаться призовыми, но задача определения категории была супер полезна c точки зрения опыта. Научился дообучать берт, замораживать и размораживать веса и вот это все.

Я немного шокирован масштабом программы, т.к. она состоит их двух полных дней по 7 параллельных треков с утра до вечера. Вот буквально с 9-30 до 20-00. Происходит все это дело в кластере Ломоносов - однозначно живописном месте. Забавный факт, что я долгое время был убежден, что кластер Ломоносов - это суперкомпьютер и не понимал как люди могли его посещать 😂

Встретил Никиту и моих старых коллег по DS консалтингу IBM Дениса и Артура

Ждите следующего поста с впечатлениями!

Aider - впечатления

Практически сразу после прошлого поста про AI ассистенты для кодинга я начал пользоваться Aider-ом. Он мне невероятно зашел и я чувствую себя еще более воодушевленным от LLM технологий.

Несколько фактов про Aider

- Этот инструмент запускается из терминала, а значит не привязан к среде разработки. Это значит, что вам не нужно переходить из своей удобной настроенной среды в Cursor

- Он лежит на гитхабе и вы можете посмотреть его исходный код (и код промптов, который он посылает)

- Вы можете настроить его с любой LLM, в том числе локальной. Я использую gpt-o4-mini - это рекомендованная модель из стека OpenAI.

Aider зашел мне больше, чем Cursor, потому что он дает больший контроль за происходящим. Поэтому на нем легче повышать свой скилл в общении с AI. Я кстати еще больше убедился, что вайб-кодинг - это отдельный навык, который нужно качать.

В чем состоит повышенный контроль у Aider

Кроме возможности посмотреть промпты и потестировать разные модели:

Во-первых, каждое изменение фиксируется коммитом. Вы можете четко понять, что поменялось на каждой итерации.

Во-вторых, в Aider явно присутствует 3 режима работы. Code - попросить что-то сделать. Ask задать вопрос или спланировать изменение, при этом изменения в файлах не будет. И Architect - что-то среднее.

Architect я лично еще не освоил, в основном использую Code. В документации рекомендуется работать по принципу комбинирования Ask-Code и это неплохо работает.

Сложность работы с ассистентом

Основная проблема, с которой я столкнулся в вайб кодинге - это когда не получается с первого раза получить хороший результат. В отличии от ChatGPT в UI просьбы сделать правки довольно часто упираются в то, что Aider не может применить изменения. Изменения в коде делаются так - модель возвращает результат в формате «файл - код до - код после». Aider пытается найти в файле нужный фрагмент и заменить. Когда вы делаете правку, иногда модель предлагает правку к исходному коду, а не промежуточному варианту. В этот момент Aider ломается и выдает ошибки.

Поэтому я стараюсь делать изолированные итерации. Если получается не то, то откатываюсь (что легко благодаря коммитам под капотом) и делаю новый промпт. Ну и не стоит пренебрегать очисткой контекста, это тоже помогает.

Выводы и рекомендации

В целом инструмент очень крутой. У меня получилось сделать на нем довольно сложные вещи. Например, доработать телеграм бота, чтобы в docker compose добавилась крон джоба с тем же контейнером. Или написать тесты для миграций на sqlalchemy+alembic. ML модели вообще кодятся без каких-либо проблем.

Наиболее эффективный флоу работы у меня сейчас получился в комбинации ручного кодинга и автоматического. Тут нужно наработать интуицию. С ассистентом я пишу подробные промпты для небольших изменений вместо крупных.

Атомарные коммиты Aider приходится склеивать git rebase -i + squash, но это как мне кажется не проблема.

Такие дела, как всегда буду рад вашим реакциям 🔥

Шашлыки на 9 мая или Как любые активности с моим участием превращаются в поход

Легально сходить на шашлыки в Москве непросто. Все началось с того, что наша подруга Маша нашла, что можно бронировать беседку для шашлыков бесплатно на сайте mos.ru. 9-го мая за бесплатно желающих понятно было много. Поэтому забронировать удалось только с 9 утра до часа дня на пляже в Покровском Стрешнево. Ну чтож, завтрак шашлыками звучит прикольно, мы с женой вписались.

Вечером 8 мая ребята уже замариновали мясо и даже купили запасной мангал (вообще мангал должен предоставляться). Я вспомнил про свою супер горелку для того, чтобы делать на ней кофе - не зря ж я походник. Но тут возникла проблема. Объявили, что 9-го мая выключают мобильный интернет. Машины у нас ни у кого нет, карш и такси не вызвать, а у ребят грудной ребенок.

Утром в 8-30 мы пришли к нашим друзьям с моим большим походным рюкзаком, куда я загрузил большую часть вещей. Мы с женой сразу отправились своим ходом. Было страшно входить в мцк с рюкзаком в котором газовый баллон, т.к. насколько я знаю провозить его нельзя. Я предпочел войти через метро и потом пересесть, т.к. там меньше проверяют. Оказалось 9-го мая всем было пофиг, проверяющие не лютовали и порадовались моему рюкзаку, и что у меня впереди какое-то приключение.

Т.к. заказать такси у друзей не получилось, мы с ними встретились на Шелепихе и поехали в сторону Покровского-Стрешнево: они с коляской, мы с походным рюкзаком. Интернет не работал, поэтому я построил глазами маршрут и взялся всех довести. Мы вышли на Балтийской и пошли пешком. Минут через 20, когда мы почти пришли, дорога неожиданно прервалась замурованными воротами - мы уперлись в военную базу 🤷‍♂️. Чтобы ее обойти пришлось пройти добрые 40 минут, чтобы наконец добраться до пляжа с беседкой. Было около 10 утра. Маша переживала, что бронь нашей беседки пропадёт. Однако проблема оказалась совсем не в этом.

Оказалось, что беседки были, однако никаких мангалов там нет. Смотритель парка сперва вел себя как советская продавщица, потом немного смягчился, но в любом случае шашлыков нам было не пожарить. Вокруг виднелись яхты и элитные дома, а сама удаленность этого места говорила - вас тут не ждут. Тогда мы вспомнили, что видели на карте парка зону шашлыков.

Путь занял у нас еще минут 40. GPS не работал, и это была настоящая тренировка по спортивному ориентированию. Периодически я даже смотрел в компас. К 11 мы почувствовали запах жаренного мяса. Формат зоны на самом деле хороший: много мангалов и беседки. Правда все беселки конечно были заняты. В части из них сидели одинокие студенты, которые за деньги держали их для своих заказчиков, которые подходили позже. Сам контингент был на любителя. Две трети шашлычников были студенты из МАИ, пьющие уже в это время, а также трудовые мигранты.

Тем не менее атмосфера в этом импровизированном комьюнити была хорошей и даже праздничной. Мы нашли себе мангальчик. Есть хотелось безумно - мы же не завтракали! Мясо получилось очень вкусное. Я спросил где Даня научился так мариновать шашлык, он сказал, что спросил пропорции у ChatGPT 😅 В 2 часа дня мы уже сели на МЦК Стрешнево, которое оказалось в 10 минутах от площадки. Выход на шашлыки в этом году можно считать успешным.

#lifestyle@big_ledovsky

Онлайн впечатления с IML

Классная конфа. Хорошие доклады и организация. Жду свое выступление

Много докладов по теме поиска и рекомендаций, а также LLM. Думаю потому что первые приносят много денег, а LLM - это сейчас главная ставка в AI.

Третье фото из импровизированной лавки специально для моих друзей, любителей сплит клавиатур (Миша Ч и Дима С 👋). Захотелось попробовать пересесть на них еще раз.

#iml