Обзор whitepaper "Developer Productivity for Humans, Part 2: Hybrid Productivity"(Рубрика #Management)

Я продолжаю читать и писать о статьях из серии developer productivity, о которых рассказывал в обзоре первого whitepaper "A Human-Centered Approach to Developer Productivity". Во втором whitepaper с заголовком "Hybrid Productivity" речь идет про гибридную работу и как она влияет на продуктивность разработчиков. Эта тема была горячей во время пандемии, но и теперь она актуальна: часть компаний работают в гибридном подходе, совмещая посещение офиса и удаленную работу, а некоторые возвращают всех в офисы (здесь можно вспомнить Amazon, про который я писал раньше).

В общем, подход ребят из Google интересен сам по себе, а также содержит интересные выводы, полученные на основе качественной исследовательской работы. Подробнее про него можно прочитать в моем обзоре.

P.S.
Во всей серии пока 8 whitepapers, из которых я разобрал уже 3
1) A Human-Centered Approach to Developer Productivity - разбор в отдельной статье
2) Hybrid Productivity - разбор в прилинкованной к этому посту статье
3) Defining, Measuring, and Managing Technical Debt
4) Build Latency, Predictability, and Developer Productivity
5) Onboarding and Ramp-Up
6) Measuring Flow, Focus, and Friction for Developers
7) Software Quality - разбор в отдельной статье
😍 Creativity in Software Engineering

#Management #Leadership #Software #SoftwareDevelopment #Architecture #SoftwareArchitecture #Metrics #Devops #Processes

Нобелевская премия по физике 2024 (Рубрика #PopularScience)

Премия по физике ушла ученым, что сделали большой вклад в ML, а точнее Джону Хопфилду и Джеффри Хинтону за основополагающие открытия и изобретения в области машинного обучения и нейросетей. Интересно, что это решение нобелевский комитет обосновал так

Два нобелевских лауреата этого года по физике использовали физические инструменты для разработки методов, которые являются основой современного мощного машинного обучения

Если кратко, то
- Джон Хопфилд придумал нейронную сеть своего имени, которая может быть использована как автоассоциативная память, как фильтр, а также для решения некоторых задач оптимизации.
- Джеффри Хинтон использовал сеть Хопфельда в качестве основы для новой сети, использующей метод «машины Больцмана», чтобы научить распознавать характерные элементы в данных определенного типа. А также он был одним из исследователей, предложивших использовать метод обратного распространения ошибки для тренировки многослойной нейронной сети.

Интересно, что сам Людвиг Больцман, в чью честь была названа "машина Больцмана", был основателем статистической механики и молекулярно-кинетической теории. Но в 1906 году он покончил с собой, что было связано с депрессией из-за того, что его идеи о статистической физике в то время не находили понимания в физическом сообществе. А теперь его далекие последователи, что развили его идеи в сторону ML (что не очень связано с физикой), получают Нобелевскую премию по физике.

В общем, хайп вокруг машинного обучения и искусственного интеллекта добрался и до Нобелевского комитета по физике.

#AI #ML #PopularScience #Physics #Math #Statistics

Архитектурная ката от клуба {между скобок}

12 октября в 12:00 по мск пройдет архитектурная ката, в рамках которой вместе с командой можно будет порешать задачку на проектирование около-реальной системы. Это будет в субботу и займет 2 часа в Zoom. Я буду помогать решать кату, давать архитектурные советы и присуствовать в жюри, помимо этого будут еще 2 эксперта
Игорь Антонов - независимый эксперт, автор блога «Про JavaScript и разработку»
Павел Лакосников - TechLead команды SLA\Antimonolith из Авито.

Для того, чтобы принять участие надо прожать реакцию под постом в канале {между скобок}. Дальше Гриша Скобелев, автор канала @backend_megdu_skobkah сможет собрать из заинтересованных команды для участия в кате.

#Architecture #SoftwareArchitecture #SystemDesign #Software #Engineering

Результаты розыгрыша билета на Podlodka Techlead Crew (Рубрика #Architecture)

В эту субботу я анонсировал розыгрыш билета на конференцию, где я буду обсуждать проектирование надежных систем в рамках круглого стола 14 октября. Для участия в розыгрыше надо было предложить интересные книги или whitepaper, что вышли недавно и про которые я не рассказывал. Мои подписчики прислали следующие варианты
1) Анатолий К. поделился целой подборкой статей про надежность, что он изучал в рамках своего исследования.
2) Alexandr предложил книгу, что пока in progress и не совсем про надежность, а скорее про распределенные системы "Think Distributed Systems". Александру понравилась глава про ментальные модели. И я согласен, что часто проблемы в проектировании распределенных систем могут начинаться с того, что их создатели выбрали неподходящую ментальную модель под те сценарии использования, которые они решают при помощи нее:) В общем, книга интересная и когда ее допишут, то я ее изучу
3) Timur Sharapov предложил свежую статью 2024 года "What Goes Around Comes Around... And Around..." от таких титанов, как Michael Stonebraker и Andrew Pavlo. Достаточно сказать, что первый создал много разных СУБД, среди которых была и любимая многими postgres. А Andrew ведет отличный курс про базы в Carnegie Mellon University. Статья очень крутая, но подвязка к надежности очень опосредованная. Если бы я просил свежую статью про базы данных, то она бы победила с большим отрывом.
4) Mikhail Romashov предложил статью про CRDT "Approaches to Conflict-free Replicated Data Types". Интересно, что это один из коньков любимого всеми автора книги с кабанчиком "DDIA", Мартина Клеппмана, про которую он часто рассказывает (про одно из недавних выступлений я рассказывал раньше).

В общем, каждый из четырех участников креативно подошел к участию и скинул интересные материалы, но только один сфокусировался на надежности и прислал список из целых 17 whitepaper вместо одного, но зато с хорошим анализом сути самих исследований. В общем, билет уходит Анатолию.

#Software #Engineering #Architecture #SoftwareArchitecture #SystemDesign #DistributedSystems #SRE

Нобелевская премия по химии 2024 (Рубрика #PopularScience)

Премия по химии в этом году тоже частично ушла в сторону ML, который помог в дизайне белков:) Вообще победили три человека
- Дэвид Бейкер - биохимик, что занимался вычислительной биологией и получил свою часть премии "за вычислительный дизайн белков"
- Демис Хассабис и Джон Джампер - ученые, что занимались ML в Google DeepMind и учили машину играть в Go (подробнее в документалке "AlphaGo", про которую я уже рассказывал), компьютерные игры, а также фо́лдингу белков (укладкой белка из цепочки в трехмерную структуру). В итоге, в 2020 году они представили AlphaFold2, что смогла предсказать структуру почти всех 200 миллионов белков, идентифицированных учеными.

В общем, Нобелевская премия по химии уходит ученым, что продвинули вперед вычислительные возможности человечества и при помощи этого смогли решить фундаментальную проблему. Это напоминает премию этого года по физике, которая была выдана тем ученым, что сделали многое для развития глубокого обучения (deep learning), про что я уже рассказывал вчера.

P.S.
На тему сложности задачи предсказания структуры белков можно почитать научно-популярную книгу Григория Никифоровича "От оргазма до бессмертия. Записки драг-дизайнера", про которую я уже рассказывал. В этой книге очень доступно рассказывается про связь аминокислот, пептидов и белков. Если по простому, то пептиды и белки состоят из аминокислот, но пептиды - это короткие цепочки, а белки - длинные. И пептиды зачастую могут выступать в качестве биорегуляторов. Но свойства этих пептидов и белков зависят не только от самой последовательности, но их от конфигурации в пространстве, которая может меняться под действием внешних условий

#AI #ML #PopularScience #Physics #Math #Statistics

ArchDays 2024 (Рубрика #Architecture)

Уже меньше через месяц будет очередная конференция по архитектуре, в которой я состою в программном комитете. Буквально вчера мы финализировали программу и она будет очень плотной:) Заодно, и я уже по традиции выступлю на конференции с докладом "Архитектура в Т-Банке: вчера, сегодня, завтра", в котором я расскажу про развитие подходов к проектированию и архитектуре в Т-Банке с начала времен и до текущего момента. Я постараюсь объяснить какие причины побуждали нас меняться и как мы осуществляли сами изменения. Я расскажу про процессы и людей, которые занимаются у нас проектированием и почему архитектор - это не должность, а роль. А закончу тем, что расскажу куда мы движемся дальше.

В общем, если вас интересует архитектура софта, то покупайте оффлайн билет и приходите утром 1 ноября в Radisson Collection Hotel в Москве. Если не получается быть оффлайн, то можно купить онлайн билет и посмотреть все в прямом эфире.

P.S.
Кстати, я выступал на всех конференциях ArchDays, что были до этого с разными докладами на тему архитектуры. По ним даже можно отследить как менялась архитектурная повестка у нас в компании:)
1) 2019 - Эволюция web’а tinkoff.ru за последние 3 года (youtube)
2) 2020 - Архитектура в масштабе или как мы в Tinkoff принимаем архитектурные решения (youtube, статья с расшифровкой)
3) 2021 - Дизайн секции как проверка навыков проектирования систем на собеседованиях (youtube, статья с расшифровкой)
4) 2022 - Как подготовиться и пройти System Design Interview (youtube, статья с расшифровкой)
5) 2022 - Интервью по System Design про бронирование отелей (youtube, статья с расшифровкой)
6) 2023 - Публичное интервью по System Design про простую a/b платформу (youtube)

#SoftwareArchitecture #Architecture #Software #SoftwareDevelopment #SystemDesign #SystemDesignInterview #DistributedSystems

Developer Productivity Engineering Summit (DPE Summit)

Недавно узнал про существование отдельной конференции по теме developer productivity, ссылку на которую мне дали в комментариях к посту про whitepapers.
Keynote сессии обоих дней доступны на Youtube
- DPE Summit Keynote Livestream (Day 1)
- DPE Summit Keynote Livestream (Day 2)
Записи остальных докладов я пока не нашел:) Но в keynote есть крутое выступление Ciera Jaspan и Collin Green из Google, которые являются лидами команды по измерению developer productivity and hapinness, а также ведут колонку "Developer Productivity for Humans", про которую я рассказывал раньше. Это выступление было крутым и я расскажу про него отдельно, а вообще рекомендую почитать темы конференции и посмотреть keynotes, чтобы оценить уровень развития этой темы и попробовать взять что-то к себе в процессы разработки.

#Management #Leadership #Software #SoftwareDevelopment #Architecture #SoftwareArchitecture #Metrics #Devops #Processes

API Improvement Proposals (Рубрика #Architecture)

Я уже рассказывал про whitepaper "API Governance at Scale", по которому скоро будет обзорная статья, а потом еще и выпуск нового подкаста с обзорами whitepaper. Но сегодня я хотел бы рассказать, что у ребят есть публичные артефакты, которые доступны для изучения всем заинтересованным людям
1) API Improvement Proposals (AIPs) - это задокументированный источник правды относительно того, какие правили есть по отношению к дизайну API. Эти AIPs разбиты по следующим категориям: meta, process, API concepts, resource design, operations, fields, design patterns, compatibility, polish, protocol buffers. Их очень интересно изучить
2) API Linter - это автоматизированная проверка соответствия API правилам из AIP (круто, что авторы смогли кодифицировать AIPs и дальше проверять их в этом линтере). Он работает только для API, определенных с помощью protocol buffers.
3) API Readability - программа обучения и сертификации API Design экспертов. Процесс API Readabity в Google похож на другой их процесс, а точнее на code readability, про который я уже рассказывал раньше. Но публичного это процесса нет:)

Отдельно авторы описали как можно внедрить этот процесс у себя "Adopting AIPs in your company" (еще рекомендую почитать Github)

#Architecture #Software #DistributedSystems #SystemDesign #SystemEngineering #API #Governance

Беслатный онлайн-курс по математике для школьников 4-6 классов от Т-Образования (Рубрика #Math)

У нас уже больше года есть бесплатные курсы по математике для школьников в средних классах. Они помогут повысить интерес к математике у детей, так как в школах редко преподают математику круто. Кроме того, эти курсы могут помочь развить мышление и подготовить школьников к новым свершениям в старших классах.
В общем, подавайте заявку и изучайте математику!

P.S.
Я сам учился в ЗФТШ (заочной физико-технической школе при МФТИ), но это было уже в 10 и 11 классе и помогло мне в свое время поступить на Физтех. Но эта штука не очень масштабировалась, а наше обучение в рамках Тинькофф Поколения сможет охватить больше направлений и помочь большему количеству школьников получить актуальные и полезные знания и навыки. В общем, я считаю, что наши программы обучения - это топчик:)

#Math #Courses #SelfDevelopment #ForKids #Science

ЦЕХ 4 - Урок #20 "Social media marketing (SMM). Эксперт — Олеся Полянская" (Рубрика #Writing)

Очередной урок из курса книгописания и книгоиздания от МИФ вела Олеся Полянская, руководитель команды по социальным сетям в МИФ, которая поделилась опытом и знаниями в области SMM. Мне запомнились следующие тезисы из этой лекции:

1. Соцсети могут помочь в публикации книг и повышении узнаваемости автора и его книг
2. Их можно использовать для коммуникаций с аудиторией, получения обратной связи и монетизации
3. Сейчас уже существует множество блогов и каналов, но уникальность голоса и опыта автора всегда найдет свою аудиторию
4. Для ведения своего блога нужна понятная стратегия и планомерная работа
5. Важно понимать, зачем вы будете вести блог, чтобы не забросить дело на полпути. Цель должна быть вдохновляющей и значимой, а не просто меркантильной.
6. Важно правильно выбирать платформу для публикаций: разные соцсети, мессенджеры и так далее
7. Важно формулировать ключевые идеи и формировать свой стиль, через который виден личный опыт и уникальность
8. Можно делать тематические подборки и инструкции - они работают хорошо
9. Можно использовать бесплатное и платное продвижение для своих блогов, а можно давать рекламу в своем блоге
10. Важно понимать свою аудиторию и правильно формировать контент под своих читателей
11. Можно делегировать работу по развитию своего блога, оставив на себе только создание контента
12. Нужен контентный план публикаций и их ритмичность - иначе аудитория будет отваливаться, особенно, если автор будет пропадать надолго
13. Создание публикаций требует большого количества времени - это надо понимать, решая завести свой блог
14. Надо быть готовым к токсичным комментариям
15. Переводить аудиторию между разными соцсетями достаточно сложно, поэтому стоит диверсифицировать используемые платформы

Предыдущие посты про этот курс писательского мастерства доступны здесь
1. Увидеть свое имя на обложке может каждый
2. Целевая аудитория и ее потребности в создании книги
3. Жанры и стили. Как найти тему для нон-фикшн-книги
4. Как организовать работу
5. Как преодолеть писательские блоки. Практическое занятие
6. Жду музу, а она все не приходит
7. Книга по полочкам
8. MS Word для работы с большими и сложными текстами
9. Рассказываем истории: сторителлинг в книге
10. Саморедактура: работа с текстом, сокращения, фактчекинг
11. Правила сильной книги захватывающего текста
12. Авторская стилистика
13. Как превратить рукопись в сценарий
14. Рукопись готова. Что дальше?
15. Превращение рукописи в издание
16. Авторские права и договор с издательством
17. Дизайн книги.
18. Продвижение в самиздате.
19. Продвижение автора

#SelfDevelopment #PublicSpeaking #Storytelling #Writing

Operationalize a Scalable AI With LLMOps Principles and Best Practices (Рубрика #ML)

Я уже давно заметил, что модность темы можно отследить по наличию связки somethingOps, вот дошла очередь и до LLMOps, про что рассказывается в недавней статье от DZone. Раньше уже была на хайпе темы
- DevOps - тема уже давно на хайпе (подробнее в книге "Accelerate", про которую я рассказывал), сейчас больше говорят про Platform Engineering
- DevSecOps - горячая тема, подробнее в книге "Agile Application Security", про которую я рассказывал или недавней статье "Secure by Design at Google", который я разбирал отдельно
- DataOps - давняя и актуальная тема про выстроенные процессы работы с данными. Они нужна как пререквизиты для эффективной работы над ML-моделями
- MLOps - это очень актуальная тема, которая включает набор практик, которые объединяют ML, DevOps и инженерию данных, которые направлены на создание, деплой и эксплуатацию ML систем в проде надежно и эффеективно. Интересно, что эту тему мы разбирали в выпуске подкаста "MLOps в теории и на практике"
Подробнее про XOps подходы можно посмотреть в докладе "The Pipeline-Driven Organization", про который я уже рассказывал

В этой же статье речь идет про подмножество MLOps подходов, которые сфокусированы именно на LLM приложениях, которые сейчас являются горячей темой. В приведенной ниже статье сначала приводится определение LLMOps. Дальше разбирается разница между MLOps и LLMOps по критериям на чем основной фокус, как выглядит адаптация моделей, оценка качества моделей, управление моделями, включая версионирование и метаданные, как модели деплоятся и как мониторится их работа. Дальше автор разбирает базовые характеристики LLM
- Что они существуют в разных формах: проприетарные модели с платными API, pre-training models, fine-tuned models
- Что существует так называемый prompt engineering, так как многие LLM принимают в качестве входа текст на естественном языке
- Иногда можно добавлять контекст к запросам пользователей (context-based prompt engineering:), чтобы повысить их эффективность, для чего используются новые инструменты, навроде векторных баз данных (про которые был недавно интересный доклад)
- Они достаточно большие, иногда сотни гигабайт, а также им может требоваться GPU не только для тренировок, но и для обработки real-time запросов
- Оценивать их качество достаточно сложно, поэтому часто надо встроить человеческий фидбек прямо в MLOps процесс для оценки и тестирования моделей

Ключевыми моментами приложений с LLM сейчас являются следующие моменты
- Prompt engineering, про который мы говорили выше
- RAG (retrieval augmented generation), который полагается обычно на уже упоминавшиеся векторные базы для семантического поиска, а также на feature store, где хранятся признаки.
- Fine-tuning LLMs - это процесс адаптации предварительно обученной LLM к сравнительно небольшому набору данных, специфичному для отдельной области или задачи.
- Pre-training a model from scratch - это что-то на богатом про процесс обучения языковой модели на большом массиве данных (например, тексте, коде) без использования каких-либо предварительных знаний или весов из существующей модели:)

Дальше автор показывает референсные архитектуры LLM приложений с RAG от Databrics, а финализирует плюсами и минусами LLMOps

+ Minimal changes to base model - большинство LLM приложений можно запустить поверх базовых моделей с небольшими изменениями
+ Easy to model and deploy - LLMOps как раз упрощает использование моделей
+ Advanced language models - можно начинать использовать сложные модели через API, а потом перейти open source модели
- Human feedback - в случае LLM обратная связь от людей необходима, что добавляет сложностей
- Limitations and quotas - при использовании внешних API надо понимать их ограничения и стоимость использования
- Risky and complex integration - при использовании внешних API надо понимать какими данными вы делитесь и насколько это ок

#AI #ML #Software #Architecture #Future

Code of Leadership #21 "A Philosophy of Software Design" (Рубрика #Architecture)

Этот выпуск подкаста посвящен рассмотрению крутой книги Джона Остерхута "A Philosophy of Software Design". В разборе книги  помогает Григорий Скобелев, Java/Go techlead, чей основной профиль это highload приложения, также он является директором программного комитета Podlodka Techlead/Java Crew. А в свободное время он делает свой подкаст/книжный клуб - { между скобок }, LinkedIn

В этой серии рассмотрена первая половина книги, где получилось обсудить темы
- Знакомство с гостем
- История создания книги
- Общее содержание книги
- Философия борьбы со сложностью
- Управление техническим долгом
- Подходы к управлению процессом разработки
- Эволюция и технический долг
- Подходы к приоритизации
- Продуктовый подход и оценка импакта
- Виды сложности и метрики кода
- Когнитивная нагрузка и простота кода
- Принципы обучения и решения задач
- Автоматизация и тесты
- Причины когнитивной сложности
- Исследования в Google
- Стратегическое и тактическое программирование
- Примеры из практики
- Проблемы с накоплением технического долга
- Модуляризация и интерфейсы
- Проблемы с интеграцией через базу данных
- Скрытие информации и абстракции
- Проблемы с монолитными системами
- Генерализованные и специализированные модули
- Централизованное хранилище данных
- Уровни абстракции
- Декораторы и фасады
- Эволюция кода и опыт инженеров

Продолжение обзора книги будет в следующей серии

#Architecture #Processes #Management #Leadership #Software #SystemDesign

Архитектура на старте: подготовка к успеху - Podlodka Techlead Crew (Рубрика #SRE)

Поучаствовал вчера в дискуссии на подлодке насчет проектирования надежных систем. В ней участвовали Олег Бондарь, Филипп Дельгядо и я. Мы поговорили про ключевые принципы для построения надежной архитектуры. Дискуссия была интересной и динамичной. Мы уделили много вопросам observability и я позвал всех участников на конфу T-Observability Day Tech 2024, что пройдет 23 октября в нашем московском офисе T-Space. Кстати, про конфу я уже рассказывал тут в канале

P.S.
Год назад я выступал на конференции с докладом "Проектируем надежные системы — стоит ли игра свеч", про который я уже рассказывал. И тот доклад был основан на солидном списке материалов
- "Site Reliability Engineering" - книга от ребят из Google, с которой началась серия SRE книг и они рассказывают про процесс в общем
- "Building Secure and Reliable Systems" - книга от ребят из Google, где они рассказывают про принципы проектирования надежных систем (продолжает серию SRE книг)
- "AWS Fault Isolation Boundaries" - интересный white paper от AWS на тему границ изоляции сбоев в AWS (здесь интересно написано про инфраструктурные абстракции: зоны, регионы, globl, а также про разделение control plane и data plane при проектировании сервисов и концепцию static stability)
- "A Model-based, Quality Attribute-guided Architecture Re-Design Process at Google" - интересный white paper от ребят из Google, где показано как редизайнится система для повышения ее надежности, причем сам редизайн выполняется достаточно формально, чтобы по модели оценить позитивное влияние на надежность
- "Deployment Archetypes for Cloud Applications" - интересный white paper от ребят из Google, в котором они рассказывают про разные модели deployment приложений, которые позволяют достигать разных уровней availability (зональный, региональный, мультирегиональный, глобальный, гибридный, мультиоблачный)
- Глава про resilience из книги "Continuous Architecture in Practice" - глава крутой книги, в которой буквально на пальцах авторы объясняют чем старый high-availability подход отличается от нового подхода resilience к обеспечению надежности систем
- "Philosophy of Software Design" - отличная книга про то, как бороться со сложностью систем
- "503 Подкаст - System Design в разрезе надежности" - подкаст с Андреем Дмитриевым из JUG Ru Group, где я был гостем и мы обсуждали проектирование надежных систем
- "Architecting for Scale: High Availability for Your Growing Applications" - интересная книга Lee Atchison, где он обсуждает проектирование для масштабирования и затрагивает вопросы обеспечения availability. Книга пережила второе издание и это пошло ей на пользу.
- "Собеседование SRE: Troubleshooting и System Design" - моя статья про найм SRE инженеров в Tinkoff, и про тип интервью, в котором мы проверяем на практике работу инженеров в рамках инцидента
- "Публичное интервью по troubleshooting для SRE-инженеров на конференции Devoops" - публичное интервью с разбором инцидента
- Крутой доклад "Паттерны отказоустойчивой архитектуры" ребят из Яндекса про отказоустойчивые системы

#Software #Engineering #Architecture #SoftwareArchitecture #SystemDesign #DistributedSystems #SRE