Миграция данных из различных RDBMS в HADOOP
В статье будет рассмотрен процесс экспорта данных в Hadoop из различных РСУБД посредством фреймворка Spark. Для взаимодействия с фреймворком Spark будет использован язык программирования Python с применением api pySpark.
Перейти к статье | SQLpedia
В статье будет рассмотрен процесс экспорта данных в Hadoop из различных РСУБД посредством фреймворка Spark. Для взаимодействия с фреймворком Spark будет использован язык программирования Python с применением api pySpark.
Перейти к статье | SQLpedia
👍6
Почему Trino такой быстрый: динамические фильтры
Так как аналитические запросы часто содержат операции Join и сканируют таблицы большого размера, наличие динамических фильтров позволяет существенно сократить объем обрабатываемой информации, а значит повысить производительность.
Рассмотрим реализацию динамических фильтров на примере Trino.
Перейти к статье | SQLpedia
Так как аналитические запросы часто содержат операции Join и сканируют таблицы большого размера, наличие динамических фильтров позволяет существенно сократить объем обрабатываемой информации, а значит повысить производительность.
Рассмотрим реализацию динамических фильтров на примере Trino.
Перейти к статье | SQLpedia
👍3
SQL миграции в Postgres. Часть 1
Как обновить значение атрибута для всех записей таблицы? Как добавить первичный или уникальный ключ в таблицу? Как разбить таблицу на две? Как ...
На эти и другие вопросы, возникающие при проведении миграций схемы и данных в PostgreSQL, постараемся дать ответы в виде практических советов.
Перейти к статье | SQLpedia
Как обновить значение атрибута для всех записей таблицы? Как добавить первичный или уникальный ключ в таблицу? Как разбить таблицу на две? Как ...
На эти и другие вопросы, возникающие при проведении миграций схемы и данных в PostgreSQL, постараемся дать ответы в виде практических советов.
Перейти к статье | SQLpedia
👍5
Forwarded from BApedia | Бизнес-анализ
Разработчики — налево, методологи — направо: четыре шага к оптимизации работы BI-аналитиков
Статья про то, как предприняли, чтобы работать эффективнее и слаженнее. Спойлер: для этого пришлось разделиться на две команды, но это тот случай, когда расставание пошло на пользу.
Перейти к статье | BApedia
Статья про то, как предприняли, чтобы работать эффективнее и слаженнее. Спойлер: для этого пришлось разделиться на две команды, но это тот случай, когда расставание пошло на пользу.
Перейти к статье | BApedia
❤2
Дефрагментация таблиц в высоко нагруженных базах данных (MSSQL)
Данная статья посвящена дефрагментации таблиц в высоконагруженных базах данных MSSQL. Тут описывается проблема фрагментации индексов и предлагаются способы ее решения.
Перейти к статье | SQLpedia
Данная статья посвящена дефрагментации таблиц в высоконагруженных базах данных MSSQL. Тут описывается проблема фрагментации индексов и предлагаются способы ее решения.
Перейти к статье | SQLpedia
👍5
Организация хранения исторических данных в Oracle
В статье пойдет речь о разных способах организации хранения исторических данных в Oracle. Если вам известно более двух способов, то вы молодец и уже почти всё знаете, в чём вам и остаётся убедиться, просмотрев разделы статьи.
Перейти к статье | SQLpedia
В статье пойдет речь о разных способах организации хранения исторических данных в Oracle. Если вам известно более двух способов, то вы молодец и уже почти всё знаете, в чём вам и остаётся убедиться, просмотрев разделы статьи.
Перейти к статье | SQLpedia
👍3
Forwarded from BApedia | Бизнес-анализ
This media is not supported in your browser
VIEW IN TELEGRAM
Когда в команде один сеньор и пять джунов
😁22❤3
SQL миграции в Postgres. Часть 2
Эта статья посвящена двум более сложным миграциям: обновление большой таблицы, разделение таблицы на две
Перейти к статье | SQLpedia
Эта статья посвящена двум более сложным миграциям: обновление большой таблицы, разделение таблицы на две
Перейти к статье | SQLpedia
👍3
MySQL. Оптимизация псевдо-больших данных
Авторы описывают, как они решали проблему долгой загрузки сайта клиента, связанную с объемом таблиц, в которых находились данные после импорта категорий, характеристик, брендов товаров.
Перейти к статье | SQLpedia
Авторы описывают, как они решали проблему долгой загрузки сайта клиента, связанную с объемом таблиц, в которых находились данные после импорта категорий, характеристик, брендов товаров.
Перейти к статье | SQLpedia
❤2
Как сэкономить свои нервы и деньги компании на перестроении структуры больших таблиц без простоя в PostgreSQL
В этой статье на реальных примерах рассказано, как можно сэкономить время разработчика, администратора баз данных и ресурсы сервера(ов), используя утилиту pgrebuildtable.
Перейти к статье | SQLpedia
В этой статье на реальных примерах рассказано, как можно сэкономить время разработчика, администратора баз данных и ресурсы сервера(ов), используя утилиту pgrebuildtable.
Перейти к статье | SQLpedia
❤1👍1
Практика по JOIN в SQL: упрощаем ежедневные задачи и решаем тестовое
В статье рассказано об особенностях оператора JOIN: как использовать другие операторы в JOIN после ON, кроме «равно», и зачем это может быть нужно.
Перейти к статье | SQLpedia
В статье рассказано об особенностях оператора JOIN: как использовать другие операторы в JOIN после ON, кроме «равно», и зачем это может быть нужно.
Перейти к статье | SQLpedia
❤1
Задачи второго этапа олимпиады «IT-Планеты» по PostgreSQL
В статье описываются некоторые ошибки, которые допускали участники, а также обсуждаются возможности использования искусственного интеллекта для решения подобных задач.
Перейти к статье | SQLpedia
В статье описываются некоторые ошибки, которые допускали участники, а также обсуждаются возможности использования искусственного интеллекта для решения подобных задач.
Перейти к статье | SQLpedia
👍1🔥1
Переезд с Oracle на опенсорсный PostgreSQL: кейс «Магнита»
В статье описывается процесс переноса данных, адаптации ролевой модели и фреймворка веб-интерфейсов, а также выбора инструментов для шедулинга и передачи информации в хронологическом порядке.
Перейти к статье | SQLpedia
В статье описывается процесс переноса данных, адаптации ролевой модели и фреймворка веб-интерфейсов, а также выбора инструментов для шедулинга и передачи информации в хронологическом порядке.
Перейти к статье | SQLpedia
Forwarded from DATApedia | Data science
Почему Trino такой быстрый: архитектура оптимизатора SQL-запросов
Это умеренно сложная статья, в которой мы опишем основные принципы оптимизации запросов в Trino, без путешествия в "машинный зал". Схожие идеи реализованы во многих других аналитических системах, поэтому статья будет полезна широкому кругу читателей, занимающихся анализом данных и эксплуатацией аналитических систем.
Перейти к статье | DATApedia
Это умеренно сложная статья, в которой мы опишем основные принципы оптимизации запросов в Trino, без путешествия в "машинный зал". Схожие идеи реализованы во многих других аналитических системах, поэтому статья будет полезна широкому кругу читателей, занимающихся анализом данных и эксплуатацией аналитических систем.
Перейти к статье | DATApedia
👍2
Использование оконных функций с Hibernate 5 и 6
Эта статья описывает использование оконных функций в SQL, которые позволяют выполнять операции над подмножествами строк таблицы, имеющихся в запросе. Также описывается маппинг результатов запроса на управляемые сущности, DTO и скалярные значения.
Перейти к статье | SQLpedia
Эта статья описывает использование оконных функций в SQL, которые позволяют выполнять операции над подмножествами строк таблицы, имеющихся в запросе. Также описывается маппинг результатов запроса на управляемые сущности, DTO и скалярные значения.
Перейти к статье | SQLpedia
👍1
Шпаргалка по SQL (postgres), которая выручает меня на собесах
Я решил посвятить свою первую статью SQL. Вопросы, рассмотренные ниже мне задавали на собеседованиях на позицию python-разработчика. Естественно отвечать правильно получалось не всегда, а если точнее то чаще не правильно, однако проведя N часов в рефлексии я составил перечень ответов, которыми пользуюсь до сих пор.
Перейти к статье | SQLpedia
Я решил посвятить свою первую статью SQL. Вопросы, рассмотренные ниже мне задавали на собеседованиях на позицию python-разработчика. Естественно отвечать правильно получалось не всегда, а если точнее то чаще не правильно, однако проведя N часов в рефлексии я составил перечень ответов, которыми пользуюсь до сих пор.
Перейти к статье | SQLpedia
🔥10😢1
Оптимизация работы с большим объемом данных при помощи партиционирования в SQL
В статье рассматриваются методы создания партиций и индексов, а также оптимизации запросов с использованием партиций.
Перейти к статье | SQLpedia
В статье рассматриваются методы создания партиций и индексов, а также оптимизации запросов с использованием партиций.
Перейти к статье | SQLpedia
👍5