Космонавтика (Рубрика #PopularScience)

В выступлении Илона Маска, про которое я рассыказывал в выходные, мне понравилась часть, где он рассказывал про Space X. Я сам когда-то в детстве мечтал полететь в космос, но потом я вырос и понял, что скорее всего у меня не получится. Но я до сих пор люблю читать про космос, астрофизику, а после поездки в Китай я верулся с космонавтом из набора лего, который теперь стоит на моем столе в офисе. А рядом с ним лежит книга "NASA. The Archive" и "Космические туманности 3D", которые иногда можно полистать для получения вдохновения:)

#PopularScience #Photography

Alexander Wang: Building Scale AI, Transforming Work with Agents & Competing with China (Рубрика #AI)

Посмотрел на выходных очень интересное выступление Александра Вана, американо-китайского предпринимателя, родившийся в 1997 году в Лос-Аламосе, Нью-Мексико. В 24 года он стал самым молодым self-made миллиардером в мире. Ван — математический вундеркинд, который участвовал в олимпиадах по математике и программированию с детства. До основания Scale AI работал программистом в Quora в возрасте 17 лет, а также учился в MIT, откуда ушел для развития своего стартапа. Его компания Scale AI — это платформа для аннотирования данных, предоставляющая обучающие данные для моделей машинного обучения (аля Mechanical Turk от AWS или "Толока" от Яндекса). Александр основал ее совместно с Люси Го в 2016 году в рамках акселератора Y Combinator (Александру тогда было 19). Изначально Scale AI позиционировалась как "API для человеческого труда", но быстро сфокусировалась на данных для беспилотных автомобилей (про это Александр рассказывает подробно в подкасте). Сегодня Scale AI стоит $29 миллиардов после недавних инвестиций Meta в размере $14 миллиардов, а Александр возглавит новую лабораторию суперинтеллекта Meta

Если говорить про основные тезисы выступления, то они следующие
1. Эволюция Scale AI: от данных к агентам
Ван рассказал о трансформации компании от простой платформы разметки данных к провайдеру агентных решений. Компания прошла путь от фокуса на беспилотные автомобили до создания ИИ-приложений стоимостью сотни миллионов долларов для крупнейших корпораций и правительства
2. Будущее работы: люди как менеджеры агентов
Александр Ван представил техно-оптимистичное видение будущего работы. По его мнению, конечное состояние экономики — это "крупномасштабное управление людьми и агентами". Люди будут выполнять роль менеджеров, координирующих работу ИИ-агентов, при этом сохраняя контроль над видением и конечными результатами. Забавно, что техно-пессимисты иногда говорят, что агентами будут люди, а менеджерить их будет AGI:)
3. Конкуренция с Китаем в области ИИ
Ван открыто обсудил вызовы конкуренции с китайскими ИИ-лабораториями. Он отметил, что китайские модели хороши частично благодаря промышленному шпионажу, а Китай имеет преимущества в данных и энергетике. США отстают в производстве энергии из-за регуляторных ограничений, в то время как Китай продолжает наращивать мощности. Ирониично было слушать обсуждение конкуренции с Китаем от Гарри Тена, главы Y Combinator, и Александра Вана, главы Scale AI.
4. "Последний экзамен человечества"
Scale AI создала benchmark под названием "Humanity's Last Exam" — набор сверхсложных научных задач, составленных ведущими исследователями. Эти задачи требуют многочасовых размышлений и никогда не появлялись в учебниках. Лучшие модели уже набирают более 20% баллов, что показывает быстрый прогресс ИИ в решении передовых исследовательских задач
5. Законы масштабирования и специализированные модели
Ван подчеркнул важность законов масштабирования, которые стали очевидными с выходом GPT-3 в 2020 году. В будущем каждая компания будет иметь специализированную модель как основной IP, обученную на собственных данных и для решения конкретных бизнес-задач
6. Агентные рабочие процессы
Scale AI активно использует обучение с подкреплением для автоматизации внутренних процессов, преобразуя человеческие рабочие процессы в агентские. Компания применяет эти решения для анализа данных, отчетов о продажах и других операционных задач.

В общем, интервью достаточно глубокое и интересное, причем видно насколько Александр увлечен своей работой и шарит в теме - не зря Марк Цукерберг вложился в компанию Александра и позвал руководить лабораторией.

#AI #Engineering #Management #Leadership #ML #Software

Turbo ML Conf от Т-Банка (Рубрика #AI)

19 июля Т-Банк проведет масштабную конференцию для специалистов в области машинного обучения — Turbo ML Conf. Это уникальная площадка, где соберутся ведущие эксперты для обсуждения самых актуальных тем и прикладных кейсов в сфере искусственного интеллекта. Участников ждут как доклады, ориентированные на продукт и бизнес-метрики, так и глубокие технические разборы из мира R&D и научных исследований. В программе конференции 5 треков

1. NLP (Обработка естественного языка)
Спикеры поделятся опытом в автоматизации клиентской поддержки, обсудят alignment, reasoning, а также мультимодальные большие языковые модели (LLM) и их механистическую интерпретируемость.
2. Research & RnD
Обсуждение того, как устроены исследования в России и кто создает новые направления. Обсуждение alignment, reasoning, LMM и mechanistic interprebability
3. RecSys (Рекомендательные системы)
Эксперты представят свежие инсайты из промышленных A/B-тестов, расскажут о применении нейросетей на разных этапах создания рекомендательных систем и поделятся опытом построения персонализации в крупных проектах. Также будут затронуты техники улучшения бизнес-метрик и применение графовых нейронных сетей (GNN).
4. CV (Компьютерное зрение) и Speech
Этот трек будет посвящен последним достижениям в области синтеза и распознавания речи, генеративным сетям, VLM (Vision-Language Models) и OCR (оптическое распознавание символов).
5. LLM Applications (Применение LLM)
Этот блок будет посвящен практическому использованию больших языковых моделей. Будут рассмотрены LLM-платформы, архитектура решений, инструментарий (тулинг), агентные системы, RAG (Retrieval-Augmented Generation) и применение LLM в разработке программного обеспечения. Отдельное внимание будет уделено низкоуровневым оптимизациям для работы моделей на различных устройствах.

В общем, регистрируйтесь и приходите послушать крутые доклады.

#AI #ML #Engineering #Software #Conference

Архитектура предприятия, управляемая моделью (Рубрика #Architecture)

Я интересуюсь архитектурой во всех ее проявлениях, поэтому иногда смотрю за потугами и корпоративных архитекторов. На недавней конференции Сбера было выступление Олега Захарчука на тему архитектуры, управляемой моделью. Сам Олег закончил МФТИ в далеком 1987 году, а сейчас руководит компанией "АСиС Софт", является экспертом в области архитектуры предприятия и членом-корреспондентом РАЕН. Он известен своими работами в области создания единой метамодели.

Если кратко обобщать идеи выступления, то в нем рассказано про
- Концепцию холархии, что должна прийти на смену традиционным иерархическим структурам
- Четырехуровневую модель: действия, задачи, рабочие группы, организации
- Единую онтологии деятельности и создании цифровых моделей предприятий на базе этой модели
- Цифровых агентах, что должны где-то бултыхаться на уровне действия и отдельных сервисов для их автоматизации (видимо, это отсылка к AI агентам)

В общем, если попробовать проанализировать проблемные места подхода, предложенного в докладе, то
1. Концептуальная сложностью Несмотря на заявления о упрощении, четырехуровневая холархия с множественными связями "обязательств" может оказаться более сложной для понимания и внедрения, чем существующие подходы.
2. Масштабируемости решения на уровень компании. Хотя автор утверждает, что подход позволяет описывать системы различного масштаба, практический опыт показывает, что единые метамодели часто сталкиваются с проблемами при масштабировании на уровень крупных предприятий
3. Интеграция с существующими решениями. Большинство предприятий уже имеют развитую ИТ-инфраструктуру, построенную на различных стандартах и методологиях . Не ясно как эта модель Захарчука может быть интегрирована в существующую компанию
4. Поддержка и развитие модели. В отличие от открытых стандартов типа TOGAF или ArchiMate, которые развиваются международными консорциумами, модель Захарчука является проприетарным решением одной компании.

Дальше я поделюсь своим мнением о подходе автора, который напоминает мне проповеди о светоносном эфире, перед корпусами Физтеха одного старичка.
Автор взял подходы из прошлого:
- Концепцию холархии была сформулирована еще в 1960-х годах философом Артуром Кестлером
- Идею единой онтологии для предприятий активно разрабатывалась в рамках семантического веба в районе двухтысячных
- И так далее
Автор провел ребрендинг и начал продавать их как работающее решение ... и все вроде неплохо, но оно не работает и это проблема не только модели Олега Захарчука, а всего подхода к архитектуре предприятия, где можно выделить следующие проблемы

1. Отсутствие связи с реальностью
Общая тенденция архитектуры предприятий — создавать красивые теоретические модели, которые плохо работают на практике. Приоритет отдается архитектурной чистоте, а не жизнеспособным и эффективным в реальном мире решениям
2. Проблема "моделирования ради моделирования"
Команды создают модели чего-то, но не имеют ясного понимания цели, для которой они моделируют . Архитектура, которая не обращается к набору заинтересованных сторон, часто приводит к низкой воспринимаемой ценности.
3. Фреймворки корпоративной архитектуры бесполезны. Фреймворки вроде Zachman, TOGAF или FEAF являются не более чем типичными управленческими причудами, агрессивно продвигаемыми консалтинговыми компаниями и гуру. Они бесполезны в лучшем случае и вредны в худшем (подробнее в whitepaper)
4. Псевдонаучность корпоративной архитектуры. Системное мышление, как инструмент для архитектуры предприятий, часто восхваляется в публикациях, связанных с архитектурой предприятий, но на практике не способно предоставить какие-либо действенные предложения . Исследования ставят под сомнение научную обоснованность архитектуры предприятий с точки зрения критериев фальсицируемости Поппера (подробнее в whitepaper)

P.S.
Когда я слышу слово онтология в контексте архитектуры, то понимаю, что дальше все будет только хуже.

#Architecture #Software #Engineering #Management #DistributedSystems

Code of Leadership #42 Interview with Andrew Romanovsky about Сareer as an Engineering Manager (Рубрика #Management)

Очередной выпуск представляет собой live интервью с Андреем Романовским о карьере engineering manager в крупной технологической компании. Андрей руководит продуктовой разработкой Яндекс.Лавки и является CTO Yango.Tech Retail, а кроме того ведет канал Lead’s Notes (@leadsnotes). Мы точно обсудим вопросы ниже, но если вы придете, то сможете спросить что-то свое
- Что входет в роль engineering manager?
- Ради чего вообще стоит идти в менеджерский карьерный трек?
- Как устроен рост менеджера?
- Растет ли сложность работы с продвижением по карьерной лестнице?
- Как решать проблемы тайм-менеджмента: перегруз, баланс работы и личной жизни?
- Как не потерять технические скиллы и стоит ли за этим гнаться?

Выпуск подкаста доступен в Youtube, VK Video, Podster.fm, Ya Music.

#Software #Engineering #Management #Architecture #Processes

ML-платформа: всеобщее благо или лучше не надо (Рубрика #AI)

Посмотрел интересное интервью моих коллег на тему ML платформы. Мне нравится и ML и platform engineering, а тут собралось комбо, поэтому я не мог пройти мимо этого выпуска "Желтый AI Club Talks". В нем участвуют два человека:
- Даниил Гаврилов — ведущий, руководитель Research-команды
- Михаил Чебаков — гость, руководитель разработки платформ ML

Вот основные идеи интервью
1. Философия ML-платформы
Михаиил представил концепцию идеальной ML-платформы через метафору канализации — она должна быть незаметной в работе, но критически важной для функционирования. Платформа должна инкапсулировать операционные затраты, связанные с масштабированием, предоставлением ресурсов, мониторингом и обеспечением отказоустойчивости, позволяя разработчикам сосредоточиться на основной работе.
2. Эволюция платформы
Развитие ML-платформы в Т-Банке началось с классической проблемы — кластера серверов с SSH-доступом, который перестал справляться с растущими потребностями команд. Первым решением стало внедрение простого оркестратора, что повысило утилизацию серверов.
3. Самая важная функция
По мнению Михаила, ключевой особенностью платформы стала возможность управления данными — создание папок, доступных из любой точки кластера, с автоматическим резервным копированием. Эта функция позволяет командам легко обрабатывать нестандартные данные, генерировать промежуточные артефакты и переносить работу между кластерами.
4. Проблемы с пользовательским опытом
Миша привел пример фичи, где пользователи просили добавить папки для организации своей работы. Ребята подумали и придумали максимально общую систему организации работы через лейблы — решение получилось технически правильным. Через фильтрацию лейблов можно было делать любые представления, но это было не user friendly с точки discovery этой фичи, а также дальше в процессе использования. В итоге, Михаил подчеркнул важность создания интуитивно понятного интерфейса, где функционал можно найти без изучения документации.
5. Сопротивление переходу на платформу
Многие разработчики предпочитают работать через SSH из-за ощущения контроля, прозрачности процессов и совместимости с большинством open-source проектов. Однако такой подход создает проблемы с воспроизводимостью результатов, потерей данных и масштабированием.
6. Три ключевых домена ML платформы
- Инженерный опыт — интерактивная работа одного разработчика с минимальным циклом обратной связи
- Производственные конвейеры — автоматизация устоявшихся процессов с акцентом на воспроизводимость
- Развертывание и эксплуатация — обеспечение эффективности и полезности готовых решений
7. Принципы проектирования
Основной принцип — делать правильные пути простыми, а неправильные — сложными. Это предотвращает ошибки и направляет пользователей к оптимальным решениям.
8. Методы оценки эффективности
- Базовые метрики: количество пользователей, команд, retention
- Регулярные опросы и замеры удовлетворенности
- Догфудинг — использование платформы для собственных внутренних задач разработки платформы
- Плотное взаимодействие с командами в режиме co-development
9. Разнообразие ML-направлений
Платформа обслуживает десять различных направлений: R&D, RecSys, CV, генерацию изображений, LLMs, прикладное NLP, антифрод, рисковые скоринги, распознавание и синтез речи. Каждое направление имеет уникальные требования к данным, воспроизводимости и аппаратуре.
10. Видение будущего
Михаил видит идеальное будущее платформы в полном воспроизведении опыта работы с SSH-серверами, но с преимуществами платформенного подхода — все необходимые функции должны быть доступны "из коробки" без необходимости изучения документации.

Ключевой вызов заключается в том, что команда разработки платформы работает как "вторая производная" от продукта — они создают инструменты для технологий, которые затем используются для создания продуктов. Это требует постоянного мониторинга индустриальных трендов и опережающего развития функционала.

#AI #ML #PlatformEngineering #Software #Architecture #Processes #DevEx #Devops #DistributedSystems

Measuring AI code assistants and agents (Рубрика #AI)

Прочитал свежий (вчерашний) research на тему измерения эффекта от AI в разработке от Abi Noda, кофаундера и CEO платформы DX для измерения продуктивности разработки. Этот отчет интересен, так как ребята из DX являются одними из законодателей мод в мире developer productivity:
- Они запилили модель DevEx, которую я уже разбирал "DevEx: What Actually Drives Productivity" и "DevEx in Action"
- В команду платформы входит Nicole Forsgren, которая драйвила развитие DORA метрик, была автором книги "Accelerate", приложила руку к фреймворку SPACE

Теперь, когда ясно почему ребят интересно изучать, давайте заглянем в сам отчет и выделим основные идеи

1. Влияние AI на разработку
AI кардинально меняет подход к инженерной деятельности в технологических компаниях - компании больше не ограничены количеством инженеров, а скорее степенью аугментации их возможностей с помощью AI. Упоминаются такие результаты нескольких компаний
- Booking.com, внедрив AI-инструменты для более чем 3500 инженеров, достигла 16% увеличения throughput за несколько месяцев
- Intercom, почти удвоив использование AI-ассистентов кода, добилась 41% увеличения экономии времени разработчиков.
AI также расширяет понятие "разработчика" - продакт-менеджеры, дизайнеры и бизнес-аналитики теперь могут создавать работающее программное обеспечение с помощью AI, размывая границы между техническими и нетехническими ролями. Вспоминаем про vibe coding:)

2. Ключевые метрики для измерения
Авторы отчета расширяют свой DX фреймворк отдельным направлением DX AI, где фокус на трех вещах
- Utilization - отслеживание внедрения и использования AI-инструментов. Исследования показывают, что даже ведущие организации достигают лишь около 60% активного использования AI-инструментов.
- Impact - измерение реального эффекта на производительность. Рекомендуется сочетать:
-- Прямые метрики: экономия времени разработчиков
-- Косвенные метрики: анализ DX Core 4 показателей (PR throughput, percieved rate of delivery, developer experience index)
- Cost - отслеживание затрат, чистой прибыли (сэкономленное время разработчиков - затраты)
Интересно, что у ребят есть бенчмарки по этим метрикам, которые они предоставляют клиентам DX платформы

3. Баланс скорости и качества
Организации должны балансировать метрики эффективности с показателями качества, чтобы избежать подрыва долгосрочной скорости разработки. AI-генерированный код может быть менее интуитивным для понимания человеком, что создает потенциальные проблемы.

4. Измерение AI-агентов
Исследование рекомендует рассматривать автономных агентов как расширения команд разработчиков, а не как независимых участников. Каждый разработчик будет все больше работать как "менеджер" команды AI-агентов, а оценивать его результаты надо будет по результатам работы этой команды AI агентов

5. Подходы к внедрению системы измерений
Важно правильно коммуницировать цели вндерения метрик, связанных с использованием AI. Авторы рекомендуют четко подчеркивать три ключевых момента:
- Метрики не будут использоваться для индивидуальной оценки производительности сотрудников (ведь не будут же?)
- Цель измерения - понять, как AI-assisted работа влияет на опыт разработчиков и качество программного обеспечения, а не микроменеджмент
- Данные необходимы для принятия инвестиционных решений, помогая определить, какие инструменты и рабочие процессы приносят реальную ценность

6. Избежание ловушек
Отчет категорически предостерегает от директивных мандатов сверху или использования метрик для индивидуальной оценки производительности. Такие метрики, как объем генерации кода, особенно подвержены манипуляциям. Проактивная коммуникация является ключевой - без неё спекуляции и страхи могут заполнить информационный вакуум.

В общем, этот отчет показывает важность сочетания AI-специфических рекомендаций с измерением общей производительности разработчиков, чтобы получить полную картину того, как AI влияет на организационную эффективность.

#AI #ML #PlatformEngineering #Software #Architecture #Processes #DevEx #Devops

Почему ИИ не работает без настоящего инженера (Рубрика #AI)

Посмотрел интересный выпуск подкаста "Организованное программирование" Кирилла Мокевина, куда он позвал интересного гостя, Андрея Татаринова, поговорить про AI не только с точки зрения концепций, но и практического применения. Сам Андрей — опытный инженер (ex-Yandex, ex-Google) с бэкграундом в области машинного обучения. После работы в найме он основал собственную команду "Эпоха 8" (Epoch 8), которая специализируется на решении задач методами машинного обучения и помогает стартапам внедрять ИИ в реальные продукты (кстати, в блоге на сайте Андрея интересно почитать кейсы внедрения AI решений). Ниже представлены основные моменты обсуждения, что длилось около 2.5 часов:)

1. ИИ как "волшебные API-вызовы"
Андрей отмечает, что сложная тематика машинного обучения превратилась в классические API-вызовы к сервисам. Для большинства разработчиков современный ИИ — это не самостоятельное обучение моделей с нуля, а умелое использование готовых решений через API.
2. Пределы экспоненциального роста
Андерй считает, что мы близки к возможному насыщению в развитии AI. Он сравнивает текущую ситуацию с космическими технологиями: после бурного роста наступает плато, требующее качественно новых подходов. Быстрая смена лидеров на бенчмарках указывает на приближение к теоретическому пределу качества.
3. Техническая архитектура LLM
Инференс и рантаймы: Нейросети представляют собой последовательность матричных перемножений и нелинейностей. Выбор рантайма критически важен для эффективности, особенно для больших моделей. Языковые модели генерируют токены по одному, запуская инференс многократно для получения полного ответа. Это объясняет стриминговый характер вывода.
4. Практические вызовы внедрения
Fine tuning и prompt engineering - это технологии для масс, так как обучение с нуля имеет "заградительный ценник" для обычных компаний. Причем начинать рекомендуется начинать с написания лучшего промта и его тестирования. Отдельно Андрей отметил проблемы совместимости - кастомизация моделей часто приводит к несовместимости с различными рантаймами. Конвертация между рантаймами аналогична кросс-компиляции программ. А вообще, рантаймов много и для LLM есть помимо общих вида PyTorch существуют llama.cpp, Ollama, Llamafile, ...
5. RAG и векторные базы знаний
RAG (Retrieval Augmented Generation) решает проблему ограничений промтов по объему. Система использует векторную базу знаний для поиска релевантной информации и "насыщения" промта целевыми данными. Очень популярная техника в текущий момент
6. Ограничения современных моделей
Даже с четкими правилами модели могут выдавать неточную информацию из-за своей вероятностной природы. Это особенно критично для специализированных задач, таких как рекомендательные системы в e-commerce. Количество информации, что может усвоить модель на претрейне ограничено количеством гипер-параметров. Дообучение модели иногда приводит к забыванию знаний в других областях, что были усвоены во время тренировок.
7. Будущее ИИ-агентов
Стандарт MCP (Model Control Protocol) открывает возможности для создания бизнес-ассистентов. Однако ограничивающим фактором остается способность к многошаговому рассуждению. Андрей скептично относится к возможности создания универсального ассистента, который разумно решал бы многостадийные задачи в ближайшем будущем.

По результатам общения можно выделить ряд практических советов для решения задач с помощью LLM
- Начинайте с промт-инжиниринга вместо попыток обучить модель с нуля
- Используйте RAG для работы с большими объемами специализированных данных
- Тестируйте качество итеративно, как в классическом ML
- Учитывайте ограничения рантаймов при планировании архитектуры
- Реалистично оценивайте возможности текущих ИИ-решений

#AI #Software #Architecture #Metrics #Engineering #ML #Agents

Engineering Leadership Report 2025 от LeadDev (Рубрика #Management)

С интересом изучил мартовский отчет от LeadDev на тему инженерного лидерства, который был основан на опросе 600+ лидеров, что проводился в марте этого года. Начать стоит с того, что компания LeadDev, создатель отчета, была основана в 2013 году и специализируется на развитии engineering leadership. Компания проводит конференции и митапы по всему миру в технологических хабах. Их миссия в том, чтобы помогать инженерным лидерам становиться более эффективными, где под лидерами понимаются технические руководители, lead engineers, технические директора.

Исследование проводилось в период с 14 по 27 марта 2025 года и имело следующие параметры
- Количество респондентов - 617
- Географическое распределение: USA (34%), UK (20%), Germay (10%), Canada (6%), Asia (4%), Others (6%)
- Профили участников: менеджеры инженеров (37%), менеджеры менеджеров (18%), advanced engineers (14%), software engineers (12%), techleads (9%), CTO (6%), others (3%)
- Размер организаций: компании [1000, 5000) - 21%, компании [5000, ∞) - 21%, [100, 250) - 16% и так далее до 5% на стартапы до 20 человек

Если смотреть на ключевые результаты исследования, то они такие
- 65% респондентов обеспокоены рецессией, что отражает общую тревогу в технологическом секторе. Страхи о сокращении доступных рабочих мест выросли с 48% в 2024 году до 53% в 2025 году.
- Снижение волны увольнений и замораживания найма на 17 процентных пунктов по сравнению с предыдущим годом. Если в 2024 году 67% компаний сталкивались с увольнениями или заморозкой найма, то в 2025 году этот показатель снизился до 50%.
- Изменения в управленческой структуре. Наблюдается продолжение тенденции "выравнивания" организационных структур. Среди компаний, которые сократили количество менеджеров:
-- 67% сократили линейных менеджеров
-- 56% сократили менеджеров среднего звена
-- 18% затронули высшее управление
- Трансформация роли инженерных лидеров. 65% респондентов сообщили о расширении своих обязанностей, включая более широкие области ответственности. 40% получили дополнительных подчиненных. Это привело к тому, что 38% инженерных лидеров стали работать больше часов. Похожие показатели были и в 2024 году, но все параметры выросли на 3-4 процентных пункта. 58% респондентов тратят больше времени на коммуникацию с командами, клиентами и заинтересованными сторонами, в то время как 26% сократили время на написание и ревью кода.
- Кризис мотивации и выгорание. 40% респондентов считают, что их команды менее мотивированы приходить на работу, чем 12 месяцев назад.
- Воздействие искусственного интеллекта. 53% респондентов внедрили AI-функции в свои продукты за последние 12 месяцев. 58% инженерных лидеров рассматривают инвестиции в AI-инструменты для кодирования. Однако 60% не верят, что AI значительно повысил продуктивность их команд.
- Изменения в отношении к DEI. Только 5% организаций ликвидировали программы разнообразия, справедливости и инклюзивности в прошлом году, несмотря на громкие заголовки о сворачивании их в Bigtech компаниях

Если подумать о советах, что можно дать по итогам исследования, то стоит их поделить на категории
Для инженерных лидеров
- Развивайте навыки коммуникации и управления изменениями, так как лидерам приходиться тратить больше времени на коммуникацию
- Боритесь с выгоранием проактивно
- Пересмотрите подход к мотивации команды

Для организаций
- Инвестируйте в развитие менеджеров. Поскольку компании продолжают сокращать управленческие позиции, оставшиеся менеджеры несут повышенную нагрузку. Обеспечьте им необходимые инструменты и поддержку для эффективного управления расширенными командами.
- Реалистично оценивайте потенциал AI и правильно коммуницируйте его командам
- Сохраняйте баланс между эффективностью и благополучием сотрудников

В общем, интересный отчет, но никаких особых инсайтов у меня от него не возникло.

#Leadership #Engineering #Management #Software #Processes

Детский лагерь "Пески времени" (Рубрика #ForKids)

Сегодня хотел рассказать про лагерь "Пески времени" для детей от 7 до 12 лет, который пройдет с 20 по 27 июля в Истринском районе Московской области. В организации этого лагеря помогает Настя, моя жена, а также она выступает там в качестве вожатой одного из отрядов (обычно это старший отряд девочек). Она занимается этим уже третий год подряд, причем с ней в лагерь вместе отправляется Максим, наш средний сын. В этом году лагерь будет посвящен археологии, год назад он был про журналистику, а два года назад детишки попали в Нарнию. В этом году ключевая тема звучит так: как понять, что ты откопал (реальную ценность или подделку). В общем, там есть еще несколько мест в разных возрастных группах, так что есть желание можно отправить своего ребенка на раскопки, чтобы он смог себя почувствовать Индианой Джонсом.

#ForKids #ForParents

Letting AI Interface with your App with MCP — Kent C Dodds (Рубрика #AI)

Посмотрел интересное выступление с World's Fair AI конференции от Kent C. Dodds, веб-разработчика, преподавателя и предпринимателя из Юты. Он является создателем нескольких образовательных платформ: EpicWeb.dev, EpicAI.pro, EpicReact.dev и TestingJavaScript.com. Он активно участвует в сообществе разработчиков как автор сотен популярных npm-пакетов с открытым исходным кодом, инструктор на платформах egghead.io и Frontend Masters, Microsoft MVP и спикер на многочисленных конференциях. Ранее работал в крупных компаниях, включая PayPal, где представлял компанию в комитете TC-39, ответственном за стандартизацию JavaScript.

Ниже представлены ключевые идеи выступления
1. Эволюция пользовательского взаимодействия
Kent начинает с тезиса о том, что мы входим в новую эру пользовательского взаимодействия, где каждый получит своего собственного "Джарвиса" — AI-помощника, способного выполнять реальные задачи. Он демонстрирует отрывок из фильма "Железный человек", где Тони Старк взаимодействует с Джарвисом, анализируя возможности этого AI-помощника: компиляция баз данных, генерация пользовательского интерфейса, доступ к публичным записям, анализ данных и создание планов действий.

2. Три фазы развития AI-помощников
Kent выделяет три этапа эволюции AI-технологий:
- Фаза 1 - она началась примерно 3 года назад с появления ChatGPT с возможностью отвечать на вопросы, но требующее ручного ввода контекста и копирования результатов.
- Фаза 2 - потом хост-приложения начали предоставлять AI доступ к дополнительному контексту через интеграции (поисковые системы, календари, Slack и т.д.), но эти интеграции оставались ограниченными возможностями разработчиков крупных компаний.
- Фаза 3 - эта фаза началась с появления Model Context Protocol (MCP), стандартного протокола, который позволяет AI-помощникам взаимодействовать с любыми системами и сервисами.

3. Model Context Protocol
MCP - это открытый стандарт, разработанный компанией Anthropic в ноябре 2024 года. Протокол решает фундаментальную проблему интеграций: вместо необходимости создавать отдельные коннекторы для каждой комбинации AI-приложения и источника данных, MCP предоставляет универсальный интерфейс.
Архитектура MCP включает три компонента:

4. Демка ассистента
Kent демонстрирует работу MCP на примере создания записи в журнале в Claude Desktop с использованием трех MCP-серверов:
- Locationator — для определения текущего местоположения
- Сервер погоды — для получения актуальных погодных условий
- EpicMe — для аутентификации и работы с журналом
Демонстрация показывает, как AI может динамически использовать различные сервисы, аутентифицироваться через OAuth 2.1, создавать и управлять данными, а также форматировать ответы в удобном для пользователя виде.

Если суммаризировать, то Кент считает, что MCP представляет собой фундаментальный сдвиг в взаимодействии пользователей с технологиями. Пользователи больше не будут ограничены браузерным интерфейсом и сложными поисковыми запросами — они смогут естественным образом формулировать задачи, а AI будет не только понимать намерения, но и выполнять конкретные действия. Эта трансформация означает переход от парадигмы "поиска информации" к парадигме "выполнения задач". Вместо того чтобы учить пользователей формулировать правильные поисковые запросы, технология адаптируется к естественному способу человеческого общения. По мнению автора, мы находимся всего в одном качественном пользовательском интерфейсе от реализации мечты о персональном Джарвисе для каждого пользователя.

#AI #Software #Architecture #Metrics #Engineering #ML #Agents

Architecting Agent Memory: Principles, Patterns and Best Practices (Рубрика #Architecture)

Посмотрел интересный доклад Richmond Alake из MongoDB про ключевую роль памяти в создании надежных, правдоподобных и мощных AI-агентов. Ну и в качестве памяти лучше использовать MongoDB, ведь Ричмонду надо было рассказать не просто про все хорошее, а еще и притянуть туда свое вендорское решение. Собственно, Richmond Alake - опытный инженер по машинному обучению и архитектор ИИ в MongoDB Inc., которая разрабатывает и предоставляет коммерческую поддержку для базы данных с открытым исходным кодом MongoDB, а также SaaS-версию продукта под названием Atlas. В феврале 2025 года MongoDB объявила о приобретении Voyage AI - компании-пионера в области создания современных моделей векторных представлений и переранжирования. Voyage AI привлекла 20 миллионов долларов в октябре 2024 года при участии Snowflake. Это приобретение направлено на повышение точности и надежности ИИ-приложений за счет интеграции высококачественных возможностей поиска и извлечения данных непосредственно в платформу баз данных MongoDB.

Ну а теперь поговорим про ключевые идеи выступления

1. Эволюция ИИ-систем
Richmond проследил эволюцию от чат-ботов на основе больших языковых моделей к RAG-системам (Retrieval-Augmented Generation), а затем к современным агентным системам. Он подчеркнул, что агентность - это спектр, и различные уровни автономности требуют разных подходов к управлению памятью.
2. Типы памяти агентов
В выступлении были рассмотрены различные типы памяти, необходимые для создания интеллектных агентов:
- Краткосрочная память для оперативного контекста
- Долгосрочная память для сохранения опыта между сеансами
- Семантическая память для хранения фактических знаний и концепций
- Эпизодическая память для записи последовательностей прошлых событий и взаимодействий
- Процедурная память для изученных поведений и паттернов действий
- Память персоны для поддержания постоянной личности агента
- Память рабочих процессов для сохранения опыта выполнения задач
- Память инструментов для управления доступными функциями
3. Библиотека Memoriz
Автор представил экспериментальную библиотеку с открытым исходным кодом Memorizz. Библиотека содержит паттерны проектирования и типы памяти для ИИ-агентов, предоставляя гибкие фреймворки для одно- и многоагентных систем. Memoriz интегрирует MongoDB с возможностями векторных вложений, обеспечивая семантический поиск по всей сохраненной информации.
4. MongoDB как поставщик памяти
Ключевой тезис выступления - MongoDB является поставщиком памяти для агентных систем. Компания предоставляет разработчикам все необходимые возможности для превращения данных в память, делая агентов надежными, правдоподобными и способными. MongoDB Atlas Vector Search позволяет избежать "налога на синхронизацию", сохраняя операционные и векторные данные в одном месте.
5. Управление памятью как ключевая компетенция
Richmond предсказал, что в ближайшие месяцы инженеры по ИИ станут инженерами памяти ИИ, фокусируясь на систематическом процессе организации информации для эффективного извлечения и структурирования. Основные компоненты управления памятью включают: генерацию, хранение, извлечение, интеграцию, обновление и реализацию механизмов забывания.
6. Вдохновение из нейробиологии
В заключение автор подчеркнул важность изучения природы как лучшего архитектора интеллекта. Он упомянул исследования Хьюбела и Визеля о зрительной коре кошек 1981 года, которые вдохновили создание сверточных нейронных сетей. И MongoDB сотрудничает с нейробиологами и создателями таких проектов, как MemGPT для продвижения к искусственному общему интеллекту.

Выступление Richmond Alake демонстрирует, как MongoDB ловит хайп и стремится стать неотъемлемой частью стека технологий ИИ, предоставляя разработчикам инструменты для создания агентов нового поколения, способных помнить, адаптироваться и совершенствоваться со временем.

#AI #Architecture #Brain #Software #Engineering #Agents

How CFOs are navigating growth, pricing, and forecasting in an AI world (Рубрика #AI)

Прочитал интересную рассылку от фонда a16z по теме fintech, в которой обсуждались вопросы роста, прайсинга и предсказаний в нашем новом AI мире. Своими мнениями поделились уважаемые джентельмены из уважаемых компани (особенно Databricks)
- Dave Conte, CFO в Databricks — платформа для аналитики и ИИ-решений корпоративного уровня
- Maciej Mylik, Finance в ElevenLabs — компания по исследованию и развертыванию ИИ-аудио технологий
- Hanson Hermsmeier, VP Corporate Finance в Together AI — облачная платформа для разработчиков и исследователей ИИ
- Matthieu Hafemeister, сооснователь Concourse — компания, создающая ИИ-агентов для корпоративных финансовых команд
- Noah Barr, CFO в Ambient.ai — компания компьютерного зрения для автоматизированной безопасности

Эти джентельмены поделились своими идеями на темы
1. Переосмысление ценообразования: переход от подписки к потреблению и результатам
ИИ стимулирует сдвиг к ценообразованию, основанному на результатах. Databricks использует модель, где "ценообразование и признание выручки полностью основаны на выходных данных, в отличие от моделей потребления, основанных на входных данных". ElevenLabs применяет динамическое ценообразование — снижает удельные цены при увеличении обязательств клиентов для стимулирования больших контрактов. В общем, похоже на модельки с revshare или скидочную модель для оптовых потребителей
2. ARR (Annual Recurring Revenue) требует переосмысления
Традиционные метрики ARR не отражают реальность моделей ценообразования на основе использования. Компании внедряют гибридные метрики:
- ElevenLabs отслеживает «ARR плюс аннуализированное использование» для корректного учета превышения квот корпоративными клиентами (условно, потребители превышают свои квоты в подписках, а значит лучше учитывать не подписку на год, а потребление с учетом превышений)
- Databricks использует свою же дата платформу для понимания и прогнозирования истинного ARR на основе потребления
3. Давление на валовую маржу и управление затратами
Построение на базе foundation-моделей вводит значительные переменные затраты, масштабируемые с использованием ИИ. Предельная стоимость дополнительного пользователя больше не равна нулю и варьируется по пользователям. Ключевыми вызовами являются
- Мониторинг инфраструктурных расходов - ElevenLabs отслеживает рост затрат относительно использования
- Управление фиксированными GPU-затратами - Together AI отслеживает простои GPU как потери эффективности
- Новые типы затрат - Ambient.ai включает команду "human in the loop" в себестоимость
4. Оценка ROI в мире ИИ
По мере коммодитизации некоторых ИИ-функций инвестиции в будущее становятся критичными. Компании фокусируются на
- Долгосрочной дифференциации через исследовательские проекты
- Создании сложных продуктовых слоев для увеличения стоимости переключения (switch cost)
- Предиктивной аналитике для измерения влияния возможностей на рост клиентов
5. Использование ИИ для продвинутого финансового прогнозирования
Планирование на 12 месяцев в ИИ остается вызовом из-за постоянных инноваций. Решения включают
- Databricks использует собственную платформу для прогнозирования моделей потребления на уровне клиентов и продуктов
- Применение продвинутой аналитики и машинного обучения вместо традиционных инструментов как Excel
- Признание, что надежное прогнозирование выручки для ИИ еще не решено полностью

В общем, создателям продуктов с AI для крупных пользователей приходится решать вопросы роста, прайсинга и предсказаний в изменившемся AI мире.

#AI #Management #ML #Software #Engineering

Review of "AI Engineering Book" #1 - Preface & Intro Chapter (Рубрика #AI)

Это первая серия с разбором крутой книги "AI Engineering", которая дает представление о создании gen AI приложений. Книгу разбирает Александр Поломодов, технический директор Т-Банка, а также Евгений Сергеев, engineering director в Flo.

В первой серии мы обсудили книгу в общем, а также разобрали первую главу. Если выделять крупные темы, то они сгруппированы так
- Введение в обзор книги "AI Engineering"
- Разбор структуры книги из 10 глав
- Переход от ML к Gen AI и его преимущества
- Токены и их роль в работе языковых моделей
- Мультимодальность - комбинирование текста, изображений и других модальностей
- Сентимент-анализ и модерация контента с помощью LLM
- Хайп вокруг LLM и влияние на бизнес-ожидания
- AI как ключ к эффективной стратегии развития внутренних платформ разработки (aka platform engineering)
- Анализ трендов AI проектов на GitHub
- Примеры использования в корпорациях
- Интеграция инструментов MCP и Claude Desktop
- Стоимость и качество моделей - тенденции развития
- Промт-инжиниринг и демократизация разработки

Выпуск подкаста доступен в Youtube, VK Video, Podster.fm, Ya Music.

#Architecture #Software #AI #Engineering #ML #Data #SystemDesign #DistributedSystems

Эксперимент с джемом о трудностях выбора (Рубрика #Economics)

Есть такой классический эксперимент про сложность выбора, который провели и опубликаовали в whitepaper "When Choice is Demotivating: Can One Desire Too Much of a Good Thing?" 25 лет назад. Этот эксперимент часто используют для аргументации создания сервисов для помощи в выборе чего угодно. Но кажется, что стоит заглянуть внутрь эксперимента и последующих исследований на эту тему. Начнем с оригинального эксперимента с дегустацией джема в элитном продуктовом магазине.

Условия эксперимента:
- Стенд с 24 различными видами джема Wilkin & Sons
- Стенд с 6 видами джема той же марки
- Покупатели получали купон на $1 при дегустации
- Варианты проведения теста были разнесены во времени
Результаты оригинального исследования:
- 60% покупателей подходили к стенду с 24 видами джема
- 40% подходили к стенду с 6 видами
- Но только 3% покупателей купили джем после дегустации широкого ассортимента
- В то время как 30% купили джем после дегустации ограниченного выбора
Это исследование стало основой для теории "парадокса выбора" Барри Шварца и получило широкую популярность.

Этот парадокс выбора оказался горячей темой и другие ученые пытались его анализировать и/или повторять. Достаточно интересный мета-анлиз сделал Бенджамин Шайбехенне и остальные в статье "Can There Ever Be Too Many Options? A Meta-Analytic Review of Choice Overload" 2010 года. Если говорить о ключевых выводах этого метаисследования, то они такие
- Средний размер эффекта перегрузки выбора (choice overload) составил практически ноль
- Обнаружена значительная вариативность между исследованиями
- Не удалось идентифицировать достаточные условия для возникновения перегрузки выбора
- Многие попытки репликации оригинального эксперимента с джемом не увенчались успехом

Дальше эту тему продолжали исследолать и стало ясно, что на эффект choice overload влияли следующие факторы
- Тип решения и сложность опций
- Наличие четких предпочтений у потребителей
- Контекст принятия решения (например, давление по времени)
- Индивидуальные различия между принимающими решения

Кстати, метаанализ выявил, что больше выбора явно полезнее:
- Когда потребители имеют четко определенные предпочтения
- При выборе количества потребления (size, quantity, ...)
- В ситуациях, где дополнительные опции воспринимаются как релевантные и различимые

В итоге, если вам рассказывают эксперимент про джем и говорят про сложность выбора, то знайте, что современное понимание предполагает, что влияние количества выбора на поведение потребителей гораздо более сложное и контекстно-зависимое, чем предполагалось изначально. Простая формула "меньше выбора = больше покупок" оказалась слишком упрощенной для объяснения реального поведения потребителей

#Economics #Brain #Psychology #Management