Forwarded from CatOps
Forwarded from CatOps
Шпаргалка по работе с Postgres
По ссылке примеры от простейших взаимодейсивий с таблицами до описания запросов для проверки активности БД и анализа статистики
#databases #postgres
По ссылке примеры от простейших взаимодейсивий с таблицами до описания запросов для проверки активности БД и анализа статистики
#databases #postgres
Timescale
Postgres cheat sheet | Timescale
Your Postgres commands in one place. Learn how to use psql to list and create Postgres databases, show your tables, enter your Postgres terminal, and more.
Forwarded from I hate overtime
#postgres #linux
А вот тут вот очень годная статья от Percona про OOM.
В общих чертах разобрали как это работает, как выбирается процесс на убой и как на это можно повлиять (в частности как сделать так что бы ООМ не пришел к постгресу)
А вот тут вот очень годная статья от Percona про OOM.
В общих чертах разобрали как это работает, как выбирается процесс на убой и как на это можно повлиять (в частности как сделать так что бы ООМ не пришел к постгресу)
Percona Database Performance Blog
How to Adjust Linux Out-Of-Memory Killer Settings for PostgreSQL
The Out-Of-Memory Killer is the process which is responsible for terminating the application to save the kernel from crashing.
Forwarded from I hate overtime
#postgres
Тут намечается классный сериал от 2ndquadrant про проблемы постгреса. Первая часть про 32-битные указатели транзакций получилась довольно интересной, ждем обещанного продолжения
Тут намечается классный сериал от 2ndquadrant про проблемы постгреса. Первая часть про 32-битные указатели транзакций получилась довольно интересной, ждем обещанного продолжения
2ndQuadrant | PostgreSQL
PG Phriday: 10 Things Postgres Could Improve – Part 1
Part 1 of the series on “10 Things #Postgres Could Improve” starts with examining Postgres XID wraparound complications in greater depth.
Forwarded from I hate overtime
#postgres
Перкона выпустила обзор мультимастер решений для постгреса. Тлдр:
1. Все как-то грустно
2. Все closed source
0. А он вообще точно нужен этот мультимастер?
Перкона выпустила обзор мультимастер решений для постгреса. Тлдр:
1. Все как-то грустно
2. Все closed source
0. А он вообще точно нужен этот мультимастер?
Percona Database Performance Blog
Multi-Master Replication Solutions for PostgreSQL
Covering multi-master replication solutions for PostgreSQL including BDR, xDB, PostgreSQL XL, Bucardo, and more.
Forwarded from Sysadmin Tools 🇺🇦
Postgres 13 Observability
https://dataegret.com/2020/10/postgres-13-observability-updates/
#sql #postgres
https://dataegret.com/2020/10/postgres-13-observability-updates/
#sql #postgres
Data Egret
Postgres 13 Observability Updates - Data Egret
New shiny Postgres 13 has been released and now it’s the time for making some updates to “Postgres Observability” diagram. New release includes many improvements related to...
Forwarded from Sysadmin Tools 🇺🇦
🐘 Да, 2 года видео, но таки не советы остаются полезны и применимы и сейчас
https://youtube.com/watch?feature=emb_title&v=IFIXpm73qtk
#postgresql #sql #optimization #postgres
https://youtube.com/watch?feature=emb_title&v=IFIXpm73qtk
#postgresql #sql #optimization #postgres
YouTube
PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)
HighLoad++ 2017
Тезисы:
http://www.highload.ru/2017/abstracts/3096.html
PostgreSQL is the world’s most advanced open source database. Indeed! With around 270 configuration parameters in postgresql.conf, plus all the knobs in pg_hba.conf, it is definitely…
Тезисы:
http://www.highload.ru/2017/abstracts/3096.html
PostgreSQL is the world’s most advanced open source database. Indeed! With around 270 configuration parameters in postgresql.conf, plus all the knobs in pg_hba.conf, it is definitely…
Forwarded from Mops DevOps
Подборка статей
Базы данных в Kubernetes
Спасибо авторам, которые продолжают радовать нас новыми статьями про работу с базами данных в Kubernetes, сегодня про Redis 😎
🔹 Эксплуатационный чек-лист для Redis в Kubernetes
Если еще не читали эти статьи - рекомендую!
🔹 Эксплуатация MongoDB в Kubernetes: решения, их плюсы и минусы
🔹 Обзор операторов PostgreSQL для Kubernetes. Часть 1: наш выбор и опыт
🔹 Обзор операторов PostgreSQL для Kubernetes. Часть 2: дополнения и итоговое сравнение
И на десерт запись митапа 🔥🔥🔥 с HighLoad 2020
"Stateful-приложения в 2020 году"
#kubernetes #mongo #redis #postgres
Базы данных в Kubernetes
Спасибо авторам, которые продолжают радовать нас новыми статьями про работу с базами данных в Kubernetes, сегодня про Redis 😎
🔹 Эксплуатационный чек-лист для Redis в Kubernetes
Если еще не читали эти статьи - рекомендую!
🔹 Эксплуатация MongoDB в Kubernetes: решения, их плюсы и минусы
🔹 Обзор операторов PostgreSQL для Kubernetes. Часть 1: наш выбор и опыт
🔹 Обзор операторов PostgreSQL для Kubernetes. Часть 2: дополнения и итоговое сравнение
И на десерт запись митапа 🔥🔥🔥 с HighLoad 2020
"Stateful-приложения в 2020 году"
#kubernetes #mongo #redis #postgres
Forwarded from Sysadmin Tools 🇺🇦
How to compare the performance of different HashiCorp Vault backends
https://blog.flant.com/comparing-hashicorp-vault-backends-performance/
#hashicorp #vault #flant #consul #postgres
https://blog.flant.com/comparing-hashicorp-vault-backends-performance/
#hashicorp #vault #flant #consul #postgres
Palark
How to compare the performance of different HashiCorp Vault backends
Not sure which Vault backend will be capable of handling your load? Here is a simple way to run your benchmarks and how we used it to compare Consul, PostgreSQL, and GCS options.
Forwarded from Sysadmin Tools 🇺🇦
Forwarded from Админим с Буквой (bykva)
Делаем резервные копии postgres на s3 (minio)
В гисте приложен кусочек плейбука ansible который настраивает резервное копирование через mc клиент. скрипт умеет выгружать в bucket по-отдельности каждую базу из списка, оценивать размер и время совершения последнего копирования каждой базы и отдавать эту информацию в формате prometheus, а также подчищать из s3 устаревшие копии.
https://gist.github.com/bykvaadm/434a4eef5392528c9c0e4788937301bc
#postgres
#docker
#patroni
#ansible
#minio
#prometheus
В гисте приложен кусочек плейбука ansible который настраивает резервное копирование через mc клиент. скрипт умеет выгружать в bucket по-отдельности каждую базу из списка, оценивать размер и время совершения последнего копирования каждой базы и отдавать эту информацию в формате prometheus, а также подчищать из s3 устаревшие копии.
https://gist.github.com/bykvaadm/434a4eef5392528c9c0e4788937301bc
#postgres
#docker
#patroni
#ansible
#minio
#prometheus
Gist
Postgres patron backup on Minio with prometheus monitoring
Postgres patron backup on Minio with prometheus monitoring - README.md
Forwarded from I hate overtime
#postgres #db
Очень полезная статья про тюнинг чекпоинтов в постгресе + бонусом инструкция как рассчитывать размер WAL
Очень полезная статья про тюнинг чекпоинтов в постгресе + бонусом инструкция как рассчитывать размер WAL
2ndQuadrant | PostgreSQL
Basics of Tuning Checkpoints - 2ndQuadrant | PostgreSQL
Let me walk you through the basics of tuning checkpoints in PostgreSQL, which may significantly affect performance in write-intensive workloads.
Forwarded from Sysadmin Tools 🇺🇦
PostgreSQL Disaster Recovery with Kubernetes’ Volume Snapshots
https://www.enterprisedb.com/postgresql-disaster-recovery-with-kubernetes-volume-snapshots-using-cloudnativepg
#k8s #kubernetes #postgres #backups
https://www.enterprisedb.com/postgresql-disaster-recovery-with-kubernetes-volume-snapshots-using-cloudnativepg
#k8s #kubernetes #postgres #backups
Forwarded from GitHub'ненько
PgCat: Nextgen PostgreSQL Pooler
PostgreSQL pooler with sharding, load balancing and failover support
#rust #postgres
https://github.com/postgresml/pgcat
PostgreSQL pooler with sharding, load balancing and failover support
#rust #postgres
https://github.com/postgresml/pgcat
Forwarded from The Last of 9s
#postgres #observability #pgwatch
как мы сделали postgres наблюдаемым, не расширяя стек и не убивая прометеус кардинальностью от query_id.
и по традиции демо:
https://pgwatch.dblab.dev
лог/пас (да простит нас мировое ИБ): demo/demo
исходная проблема:
1. стандартный postgres_exporter метрики собирает, даже в разрезе query_id, но глубины не хватает и не хватает точности
2. метрики очень кардинальные за счет айдишника каждой квери в лейбле
3. смотреть в базе pg_activity или pg_stat не вариант - баз больше тысячи
как решили:
1. нашли тогда еще не очень зрелое решение, которое не расширяло наш технологический стек ни на грамм - pgwatch (рекомендуем именно https://gitlab.com/postgres-ai/pgwatch2 не https://github.com/cybertec-postgresql/pgwatch)
2. просто подняли рядом отдельный postgres-инстанс только под метрики
3. туда начали сливать pg_stat_activity, pg_stat_statements и другие системные таблицы
4. взяли дашборды, которые идут в комплекте с pgwatch и чуть-чуть докрутили
что получили:
1. дашборды с drill-down вплоть от кластера до конкретного запроса.
2. графики с планами выполнения (через плагины)
3. видно кривые настройки, autovacuum, недоиндексы из коробки без танцев с бубном
4. все это существенно на пониженной нагрузке в сравнении с экспортером для прометеуса
почему postgres-ai а не cybertec:
1. первое и главное - баги
2. второе не супер важное, в cybertec своя графана в инсталляции и не очень полезный UI (может вам будет полезен)
3. появляется поддержка кастомных метрик, что дает большую гибкость
и подтверждаю слова авторов форка от postgres-ai, действительно:
- Improved dashboards for fast troubleshooting
- Custom metrics and configs
- Support of pg_wait_sampling and pg_stat_kcache
- Used YAML based setup
- Metrics storage DB: PostgreSQL with timescaledb extension (by default)
что дальше:
посматриваем в сторону coroot - умеет вытаскивать медленные запросы через eBPF без агентов и с недавних пор еще и с нормальной поддержкой секретов.
проверим, может ли заменить наше решение
как мы сделали postgres наблюдаемым, не расширяя стек и не убивая прометеус кардинальностью от query_id.
и по традиции демо:
https://pgwatch.dblab.dev
лог/пас (да простит нас мировое ИБ): demo/demo
исходная проблема:
1. стандартный postgres_exporter метрики собирает, даже в разрезе query_id, но глубины не хватает и не хватает точности
2. метрики очень кардинальные за счет айдишника каждой квери в лейбле
3. смотреть в базе pg_activity или pg_stat не вариант - баз больше тысячи
как решили:
1. нашли тогда еще не очень зрелое решение, которое не расширяло наш технологический стек ни на грамм - pgwatch (рекомендуем именно https://gitlab.com/postgres-ai/pgwatch2 не https://github.com/cybertec-postgresql/pgwatch)
2. просто подняли рядом отдельный postgres-инстанс только под метрики
3. туда начали сливать pg_stat_activity, pg_stat_statements и другие системные таблицы
4. взяли дашборды, которые идут в комплекте с pgwatch и чуть-чуть докрутили
что получили:
1. дашборды с drill-down вплоть от кластера до конкретного запроса.
2. графики с планами выполнения (через плагины)
3. видно кривые настройки, autovacuum, недоиндексы из коробки без танцев с бубном
4. все это существенно на пониженной нагрузке в сравнении с экспортером для прометеуса
почему postgres-ai а не cybertec:
1. первое и главное - баги
2. второе не супер важное, в cybertec своя графана в инсталляции и не очень полезный UI (может вам будет полезен)
3. появляется поддержка кастомных метрик, что дает большую гибкость
и подтверждаю слова авторов форка от postgres-ai, действительно:
- Improved dashboards for fast troubleshooting
- Custom metrics and configs
- Support of pg_wait_sampling and pg_stat_kcache
- Used YAML based setup
- Metrics storage DB: PostgreSQL with timescaledb extension (by default)
что дальше:
посматриваем в сторону coroot - умеет вытаскивать медленные запросы через eBPF без агентов и с недавних пор еще и с нормальной поддержкой секретов.
проверим, может ли заменить наше решение
GitLab
Postgres AI / pgwatch2 · GitLab