Arrow Flight, Flight SQL и ADBC: Прощаемся с тормозами ODBC/JDBC в мире больших данных
📎 Читать статью
📎 Читать статью
Хабр
Arrow Flight, Flight SQL и ADBC: Прощаемся с тормозами ODBC/JDBC в мире больших данных
Привет, Хабр! Если вы хоть раз пытались выгрузить из базы данных несколько гигабайт данных в pandas DataFrame, то вам знакома эта боль. Вы пишете простой SELECT , запускаете скрипт и... уходите пить...
🔥3
🤓Как я пытался сделать нейросеть аналитиком: провалы и уроки
📎 Читать статью
P.S. В статье речь про аналитика данных
📎 Читать статью
P.S. В статье речь про аналитика данных
Хабр
Как я пытался сделать нейросеть аналитиком: провалы и уроки
Наверняка многим знакома ситуация: у тебя есть куча данных, отчетов, KPI, а команда тонет в Excel‑таблицах и Jira‑тикетах. И вот тебе кажется, что решение простое: «Давайте посадим нейросеть на...
👏8
📎 Читать статью
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
130+ датасетов для машинного обучения: гид, который сэкономит часы поиска нужных данных
Сколько раз вы начинали новый ML-проект и первым делом отправлялись на поиски подходящих данных? Процесс этот знаком каждому: есть задача, выбрана архитектура модели, но без качественного датасета...
❤4🔥3🎉1
Это свойство системы, присущее самой системе целиком и не присущее её компонентам по отдельности.
Простой пример из айти
Хранимые процедуры и данные в бд, бизнес-логика в ERP-системе и другие компоненты сами по себе не могут дать результат бизнес-процесса. Но когда эти компоненты взаимодействуют — на выходе появляется результат: расчитанная стоимость услуги, стоимость страхового полиса, сумма к возврату при расторжении договора и т.д.
Почему это важно понимать?
Если вам кажется, что вы работаете над чем-то бессмысленным или "тупые менеджеры" из смежных проектов снова ломают ваш прекрасный код, то стоит отправиться на разведку. Сделайте три шага влево и три вправо, чтобы увидеть картинку целиком.
Возможно, вы скорректируете виденье того, как выглядит ваша работа или поймете, что можно улучшить/упростить или станете меньше сопротивляться изменениям.
А, возможно, обретёте смысл и удовольствие от работы. Ведь ваша задача является частью чего-то большого и может быть куда важнее, чем кажется.
Что делать дальше?
Если это знание кажется вам тайным, и вы до сих пор не можете понять, что происходит
Please open Telegram to view this post
VIEW IN TELEGRAM
❤🔥5💯4❤1
🤔«Один ушел — и все сломалось». Почему в ИТ-эксплуатации важно отслеживать Bus Factor и как это делаем мы
Автор статьи, Гриша Капцов, сотрудник Отдела координации и поддержки продуктовых команд в МТС Web Services, делится мнением по поводу ситуации, когда один «незаменимый» сотрудник становится угрозой.
📎 Читать статью
Автор статьи, Гриша Капцов, сотрудник Отдела координации и поддержки продуктовых команд в МТС Web Services, делится мнением по поводу ситуации, когда один «незаменимый» сотрудник становится угрозой.
📎 Читать статью
Хабр
«Один ушел — и все сломалось». Почему в ИТ-эксплуатации важно отслеживать Bus Factor и как это делаем мы
Привет всем! Меня зовут Гриша Капцов, я работаю в Отделе координации и поддержки продуктовых команд в МТС Web Services. В прошлом посте рассказывал , как мы с командой прокачали свой навык повелевания...
👏3❤2👍1
😍Зачем ИИ системному аналитику
Автор статьи делится как нейронные сети, большие языковые модели (LLM) и удобная инфраструктура MCP + IDE Cursor (или её аналоги) могут стать настоящими союзниками системного аналитика, облегчая рутину и открывая новые возможности для творчества.
📎 Читать статью
Автор статьи делится как нейронные сети, большие языковые модели (LLM) и удобная инфраструктура MCP + IDE Cursor (или её аналоги) могут стать настоящими союзниками системного аналитика, облегчая рутину и открывая новые возможности для творчества.
📎 Читать статью
Хабр
Зачем ИИ системному аналитику
Системный аналитик — это своего рода детектив в мире бизнеса: он собирает разрозненные требования, уточняет их, превращает в живые модели процессов, проверяет, что всё держится на прочном фундаменте,...
❤🔥7🗿1
🤔Мы запретили программистам писать код и ускорили релизы в 2 раза. Как к этому пришли
Несмотря на громкое название в статье рассказывается о внедрении двух практик — Shift‑left подхода и использование ИИ.
В статье приводится пример ревью требований тестировщиком вместе с ИИ. Это интересный этап, т.к. не везде тестировщики вообще ревьюят требования. Ну и сразу это наталкивает на мысль — если требования проверяются тестировщиком совместно с ИИ (до этапа написания кода), то нужен ли на этом этапе тестировщик, мб аналитик и сам может также отревьюить требования?
📎 Читать статью
Несмотря на громкое название в статье рассказывается о внедрении двух практик — Shift‑left подхода и использование ИИ.
В статье приводится пример ревью требований тестировщиком вместе с ИИ. Это интересный этап, т.к. не везде тестировщики вообще ревьюят требования. Ну и сразу это наталкивает на мысль — если требования проверяются тестировщиком совместно с ИИ (до этапа написания кода), то нужен ли на этом этапе тестировщик, мб аналитик и сам может также отревьюить требования?
📎 Читать статью
Хабр
Мы запретили программистам писать код и ускорили релизы в 2 раза. Как к этому пришли
Я — Маша Лещинская, Head of QA в Surf. Постоянно вижу, как в мобильной разработке все гонятся за ускорением релизов и внедряют ИИ везде, где можно. Но не видят корень проблемы: раньше поймал ошибку —...
🤗2
🤓Микросервис из 15-летнего монолита: приключение на год
Автор статьи, Стас Кондратьев, backend-разработчик в hh.ru, делится опытом, того как поэтапно выделяли микросервис чатов из монолитного сервиса откликов и рассказывает про проблемы, решения и подходы, которые применяли.
📎 Читать статью
Автор статьи, Стас Кондратьев, backend-разработчик в hh.ru, делится опытом, того как поэтапно выделяли микросервис чатов из монолитного сервиса откликов и рассказывает про проблемы, решения и подходы, которые применяли.
📎 Читать статью
Хабр
Микросервис из 15-летнего монолита: приключение на год
Привет! Меня зовут Стас Кондратьев, я backend-разработчик в hh.ru . В прошлом году выступал на конференции HighLoad++ с докладом о том, как мы поэтапно выделяли микросервис чатов из монолитного...
❤5
Документирование архитектуры
В статье разбираются следующие подходы:
- Модель С4;
- YAML: Архитектура как код;
- Blocks & Lines.
📎 Читать статью
В статье разбираются следующие подходы:
- Модель С4;
- YAML: Архитектура как код;
- Blocks & Lines.
📎 Читать статью
Хабр
Документирование архитектуры
Каждый архитектор сталкивается с вечной дилеммой: как правильно документировать архитектуру, чтобы она была понятна людям и одновременно пригодна для автоматизации? Сегодня разберем три основных...
🔥3
Автор в своем блоге рассказал об опыте работы в Amazon Web Services и причинах увольнения. Любопытно и познавательно, особенно на фоне новостей про вчерашний сбой в AWS*.
Читать тут (на русском):
https://nekrolm.github.io/blog.html
* 20 октября 2025 года произошел глобальный сбой Amazon Web Services (AWS) в регионе US-EAST-1 (Северная Вирджиния), который на несколько часов нарушил работу тысяч сервисов по всему миру
Читать тут (на русском):
https://nekrolm.github.io/blog.html
1👏6
Про выгорание
Вчера я делилась постом инженера, который работал в AWS и рассказывал про выгорание. Сегодня хочу продолжить эту тему.
Выгорание — болезненная штука. О нём много говорят, но мало кто реально понимает, что с этим делать. Я считаю, что полностью избежать выгорания невозможно. Да, можно заниматься профилактикой, но стопроцентной защиты не существует. Мы все рано или поздно в него впадаем — просто в разной степени и по разным причинам.
🎨 🎨 🎨 🎨 🎨
🎨 🎨 🎨 🎨 🎨
🎨 🎨 🎨 🎨 🎨
Что делать, если вы уже выгорели
Самое первое — база, как в пирамиде Маслоу. Сначала нужно закрыть все свои потребности. Это скучно, банально, но без этого ничего не работает: нужно спать, есть, пить воду, отдыхать. Если вы пока не понимаете, как заботиться о своём бренном теле, начните отслеживать при помощи умных часов, браслетов или колец свои показатели, пройдите чекап у врача. Если первый этаж этого домика закрыт, можно двигаться дальше. Без надёжного фундамента ничего не сработает.
Почему вы выгораете
Как я уже говорила, выгорание полностью предотвратить нельзя, но можно понять его механизм и определить личные триггеры.
Возможно, это хронический недосып, обилие переработок или избегающий тип привязанности — дома вас ждёт семья, а вы убегаете от них на работу. Или вы игнорируете свои потребности и расходуете ресурс не туда.
Например, вы сидите в офисе, а воображение рисует пляж под пальмами — это нормально, но иногда вовсе не означает, что вы “не там”, просто убегаете от реальности мыслями и живете в своих мыслях свою лучшую жизнь. Или сфера деятельности не соотносится с вашими ценностями, и вы тратите силы на постоянные уговоры себя.
Что с этим делать
Беречь себя и лучше понимать свои потребности. Если совсем всё плохо или непонятно, чего хочется — приводите «кукушечку» в порядок и обращайтесь к специалистам помогающих специальностей (психолог, коуч, психотерапевт). Можно пообщаться с коллегами, узнать, какие практики помогают им, или даже поучаствовать в марафонах по борьбе с выгоранием.
Проблема решаема
Понимаю, как неприятно осознавать, когда человек долго шёл к цели, чтобы войти в айти, хотел стать профессионалом, а тут внезапно ловит выгорание и не знает, что делать. Может возникнуть мысль уйти из отрасли. Или ощущение вины (которой, на самом деле, и нет). Но рецепты, как с этим справляться — есть, главное, понять причины и действовать по шагам.
Вчера я делилась постом инженера, который работал в AWS и рассказывал про выгорание. Сегодня хочу продолжить эту тему.
Выгорание — болезненная штука. О нём много говорят, но мало кто реально понимает, что с этим делать. Я считаю, что полностью избежать выгорания невозможно. Да, можно заниматься профилактикой, но стопроцентной защиты не существует. Мы все рано или поздно в него впадаем — просто в разной степени и по разным причинам.
Что делать, если вы уже выгорели
Самое первое — база, как в пирамиде Маслоу. Сначала нужно закрыть все свои потребности. Это скучно, банально, но без этого ничего не работает: нужно спать, есть, пить воду, отдыхать. Если вы пока не понимаете, как заботиться о своём бренном теле, начните отслеживать при помощи умных часов, браслетов или колец свои показатели, пройдите чекап у врача. Если первый этаж этого домика закрыт, можно двигаться дальше. Без надёжного фундамента ничего не сработает.
Почему вы выгораете
Как я уже говорила, выгорание полностью предотвратить нельзя, но можно понять его механизм и определить личные триггеры.
Возможно, это хронический недосып, обилие переработок или избегающий тип привязанности — дома вас ждёт семья, а вы убегаете от них на работу. Или вы игнорируете свои потребности и расходуете ресурс не туда.
Например, вы сидите в офисе, а воображение рисует пляж под пальмами — это нормально, но иногда вовсе не означает, что вы “не там”, просто убегаете от реальности мыслями и живете в своих мыслях свою лучшую жизнь. Или сфера деятельности не соотносится с вашими ценностями, и вы тратите силы на постоянные уговоры себя.
Что с этим делать
Беречь себя и лучше понимать свои потребности. Если совсем всё плохо или непонятно, чего хочется — приводите «кукушечку» в порядок и обращайтесь к специалистам помогающих специальностей (психолог, коуч, психотерапевт). Можно пообщаться с коллегами, узнать, какие практики помогают им, или даже поучаствовать в марафонах по борьбе с выгоранием.
Проблема решаема
Понимаю, как неприятно осознавать, когда человек долго шёл к цели, чтобы войти в айти, хотел стать профессионалом, а тут внезапно ловит выгорание и не знает, что делать. Может возникнуть мысль уйти из отрасли. Или ощущение вины (которой, на самом деле, и нет). Но рецепты, как с этим справляться — есть, главное, понять причины и действовать по шагам.
Please open Telegram to view this post
VIEW IN TELEGRAM
3❤26
Чем HTTP отличается от HTTPS
Увидела пост с этим вопросом для собеседования СА и немного орнула.
Итак, базу, конечно, надо знать, но упоминание данного вопроса на собеседовании в 2025 году не может не вызывать вопросики. Объяснюсь.
Если находясь на собеседовании вы слышите данный вопрос, то:
Вариант А. Вас собеседует дед (ничего против не имею — вангую, что из-за зумеров будем работать до победного ).
Вариант Б. Вас собеседует какой-то вкатун, который нашел списки вопросов для собеседования десятилетней давности, и критическое мышление ему не позволило вычеркнуть этот вопрос.
Вариант А маловероятен, просто потому что трушные деды гоняли бы вас по модели OSI.
Вариант Б ближе к истине, просто потому что сайт на HTTP браузер сейчас просто не откроет, а выведет предупреждение. Например, в том же Google Chrome такие ресурсы помечаются небезопасными аж с 2020 года (!). И если речь идет про API, то для прода это также уже недопустимо. Понимаете, насколько уже не актуален данный вопрос?
Так что услышав такой вопрос, лучше уточнить, почему интервьюер об этом спрашивает.
P.S. Про отличия кратко ниже.
Увидела пост с этим вопросом для собеседования СА и немного орнула.
Итак, базу, конечно, надо знать, но упоминание данного вопроса на собеседовании в 2025 году не может не вызывать вопросики. Объяснюсь.
Если находясь на собеседовании вы слышите данный вопрос, то:
Вариант А. Вас собеседует дед (
Вариант Б. Вас собеседует какой-то вкатун, который нашел списки вопросов для собеседования десятилетней давности, и критическое мышление ему не позволило вычеркнуть этот вопрос.
Вариант А маловероятен, просто потому что трушные деды гоняли бы вас по модели OSI.
Вариант Б ближе к истине, просто потому что сайт на HTTP браузер сейчас просто не откроет, а выведет предупреждение. Например, в том же Google Chrome такие ресурсы помечаются небезопасными аж с 2020 года (!). И если речь идет про API, то для прода это также уже недопустимо. Понимаете, насколько уже не актуален данный вопрос?
Так что услышав такой вопрос, лучше уточнить, почему интервьюер об этом спрашивает.
P.S. Про отличия кратко ниже.
Протоколы HTTP и HTTPS используются для передачи данных в интернете, они отличаются уровнем безопасности:
— HTTPS использует шифрование для защиты передаваемой информации, обычно с помощью протокола SSL/TLS, что обеспечивает конфиденциальность и защиту данных от перехвата;
— протокол HTTP передает данные в открытом виде (что делает их уязвимыми для перехвата и модификации).
Т.е., HTTPS — это тот же HTTP, но с добавленными методами шифрования данных и проверки безопасности.
Встретить сейчас сайт на HTTP довольно сложно — им нет доверия со стороны поисковиков и браузеров.
🔥15🗿5❤1👍1🤔1👾1
Версия — это последовательность цифр, которая определяет поведение API. Идеально, когда версионирование следует схеме семантического версионирования (SemVer).
Формат версии: МАЖОРНАЯ.МИНОРНАЯ.ПАТЧ
Например: 2.3.2
Пример: удалено поле или добавлено новое обязательное полеПример: появилось новое необязательное полеПример: исправлена ошибка валидации или опечатка в документацииВ URL часто указывают только мажорную версию — это называется «версионирование через URI».
Пример:https://api.test.com/v1/customers/https://api.test.com/v2/customers/Это позволяет клиентам подключаться к конкретной мажорной версии и не ломать интеграции при глобальных обновлениях.
deprecatedGET /v1/customer{
"id": 123,
"name": "Тест Тестович"
}GET /v2/customer{
"id": 123,
"first_name": "Тест",
"last_name": "Тестович"
}В v2 мажорная версия изменилась, так как структура ответа несовместима с v1 — вместо
name появились first_name и last_name.Please open Telegram to view this post
VIEW IN TELEGRAM
1❤10👍5🔥1
Ты — опытный software architect и аналитик.
1. Контекст проекта:
* Название системы/сервиса: [Краткое название вашего сервиса, например, "Сервис рекомендации книг"]
* Основная цель системы: [Одно-два предложения о том, что делает система, например, "Предоставляет персонализированные рекомендации книг на основе истории чтения пользователя".]
* Для кого диаграмма: [Я/команда разработчиков/менеджмент] — Уровень детализации должен быть [техническим/обзорным].
2. Участники процесса (Actors & Components):
* Инициатор (Actor): [Кто начинает процесс? Например: Пользователь, Внешняя система, Администратор]
* Основные компоненты системы: [Перечислите ключевые внутренние модули, например: Frontend, Backend API, Auth Service, Database, Search Service]
* Внешние сервисы/API: [Перечислите сторонние системы, с которыми происходит взаимодействие, например: Stripe API, Google Maps API, Email Service]
3. Ключевой сценарий для диаграммы:
* Название сценария: [Дайте сценарию название, например: "Успешное оформление заказа", "Поиск и фильтрация товаров"]
* Пошаговое описание основного сценария:
1. [Шаг 1, например: Пользователь вводит данные для поиска и нажимает "Найти".]
2. [Шаг 2, например: Frontend отправляет запрос на Backend API.]
3. [Шаг 3, например: Backend API проверяет авторизацию, обращаясь к Auth Service.]
4. [Шаг 4, например: Backend API выполняет запрос к Database.]
5. [Шаг 5, например: Backend API обогащает данные, обращаясь к Внешнему API.]
6. [Шаг 6, например: Backend API возвращает обработанные данные на Frontend.]
7. [Шаг 7, например: Frontend отображает результат пользователю.]
4. Альтернативные потоки и обработка ошибок:
* Что должно произойти в случае ошибки? [Опишите хотя бы один альтернативный сценарий, например: "Если товара нет в наличии", "Если платеж не прошел", "Если внешний API недоступен".]
* Логика повторов (retry): [Нужно ли показывать повторные попытки запросов? Да/Нет]
* Таймауты: [Важно ли отображать таймауты на диаграмме? Да/Нет]
5. Требования к выходной диаграмме:
* Формат: [Mermaid JS / PlantUML / Текстное описание для ручного рисования] — предпочтительно Mermaid JS.
* Уровень детализации: [Укажите, какие детали важно включить: HTTP-методы (GET/POST), названия конкретных эндпоинтов (/api/v1/order), формат данных (JSON), коды ответов (200, 404, 500).]
* Особые пожелания: [Например: "Покажите параллельные запросы", "Используйте группирующие блоки (alt/opt) для условной логики", "Не показывать взаимодействие с кешем".]
---
Пожалуйста, проанализируй описание выше и создай sequence-диаграмму, которая будет полезна для документирования и проектирования системы.
Шаблон промта можно заполнить самостоятельно, а можно — целиком или отдельные пункты отдать на откуп ИИ. Пример использования и диаграмму можно посмотреть тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤🔥15❤2
В качестве примера взяла создание сервиса по поиску научных публикаций в области психологии. Админу было лениво самой заполнять шаблон, поэтому попросила заполнить шаблон дипсика на основании моих вводных (
Заполненный шаблон для сервиса поиска научных исследований:
1. Контекст проекта:
· Название системы/сервиса: PsychoSearch
· Основная цель системы: Сервис для поиска и предоставления списка научных исследований в области психологии по заданной теме в едином формате "дата — название — авторы".
· Для кого диаграмма: Я/команда разработчиков — Уровень детализации должен быть техническим, но минимально необходимым для MVP.
2. Участники процесса (Actors & Components):
· Инициатор (Actor): Исследователь (Пользователь)
· Основные компоненты системы: Web Frontend, Backend API, Database (для кэширования)
· Внешние сервисы/API: PubMed API, PsycINFO API
3. Ключевой сценарий для диаграммы:
· Название сценария: Успешный поиск статей по теме с кэшированием
· Пошаговое описание основного сценария:
1. Исследователь вводит тему исследования в поисковую строку Frontend и нажимает "Найти"
2. Frontend отправляет POST запрос с поисковым запросом на Backend API (/api/search)
3. Backend API проверяет наличие результатов в кэше (Database)
4. Если результатов в кэше нет, Backend API параллельно отправляет запросы к PubMed API и PsycINFO API
5. Внешние API возвращают результаты в своих форматах JSON
6. Backend API обрабатывает данные: объединяет результаты, убирает дубликаты, форматирует даты и авторов
7. Backend API сохраняет обработанные результаты в кэш (Database)
8. Backend API возвращает отформатированный список статей на Frontend
9. Frontend отображает результаты пользователю
4. Альтернативные потоки и обработка ошибок:
· Что должно произойти в случае ошибки? Если один из внешних API недоступен, система использует данные только от работающего API. Если оба API недоступны, но есть закэшированные данные - использует их.
· Логика повторов (retry): Нет, не показывать повторные попытки для упрощения
· Таймауты: Нет, не отображать таймауты на диаграмме
5. Требования к выходной диаграмме:
· Формат: Mermaid JS
· Уровень детализации: Включить основные HTTP-методы, показать проверку кэша и параллельные запросы к API
· Особые пожелания: Показать альтернативную ветку когда данные есть в кэше, акцент на простоте архитектуры
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8👍2😍2