Как использовать watchdog для отслеживания изменений в файлах
Иногда хочется, чтобы скрипт сам реагировал на изменения в файлах: перезапускал сборку, обновлял данные, копировал новый файл в бэкап. Переписывать бесконечные циклы
---
### Установка
---
### Простейший пример: реагируем на изменения в папке
Создадим наблюдателя, который будет печатать, когда что-то происходит в директории:
Теперь, если в папке создать/изменить/удалить файл — скрипт отреагирует.
---
### Фильтрация по типу файлов
Часто нужно отслеживать только, скажем,
Так можно запускать, например, линтер или тесты только при изменении исходников.
---
### Автоматическая реакция: мини‑автосборка
Пример: при изменении файла конфигурации перегенерировать выходной файл.
Теперь любое сохранение
---
Иногда хочется, чтобы скрипт сам реагировал на изменения в файлах: перезапускал сборку, обновлял данные, копировал новый файл в бэкап. Переписывать бесконечные циклы
while True с time.sleep — скучно и неэффективно. Для этого есть отличный модуль — watchdog.---
### Установка
pip install watchdog
watchdog работает кроссплатформенно и умеет «слушать» файловую систему почти как системные утилиты.---
### Простейший пример: реагируем на изменения в папке
Создадим наблюдателя, который будет печатать, когда что-то происходит в директории:
from watchdog.observers import Observer
from watchdog.events import FileSystemEventHandler
import time
from pathlib import Path
class SimpleHandler(FileSystemEventHandler):
def on_modified(self, event):
print(f"Modified: {event.src_path}")
def on_created(self, event):
print(f"Created: {event.src_path}")
def on_deleted(self, event):
print(f"Deleted: {event.src_path}")
if __name__ == "__main__":
path = Path(".").resolve()
event_handler = SimpleHandler()
observer = Observer()
observer.schedule(event_handler, str(path), recursive=True)
observer.start()
try:
while True:
time.sleep(1)
except KeyboardInterrupt:
observer.stop()
observer.join()
Теперь, если в папке создать/изменить/удалить файл — скрипт отреагирует.
---
### Фильтрация по типу файлов
Часто нужно отслеживать только, скажем,
.py или .txt. Добавим простую проверку:class PyFilesHandler(FileSystemEventHandler):
def on_modified(self, event):
if event.is_directory:
return
if not event.src_path.endswith(".py"):
return
print(f"Python file changed: {event.src_path}")
Так можно запускать, например, линтер или тесты только при изменении исходников.
---
### Автоматическая реакция: мини‑автосборка
Пример: при изменении файла конфигурации перегенерировать выходной файл.
import subprocess
class BuildHandler(FileSystemEventHandler):
def on_modified(self, event):
if event.is_directory:
return
if event.src_path.endswith("config.yaml"):
print("Config changed, rebuilding...")
subprocess.run(["python", "build.py"])
Теперь любое сохранение
config.yaml автоматически запускает build.py.---
watchdog — мощный инструмент для автоматизации рутинных задач вокруг файловой системы: автосборка проектов, синхронизация папок, логирование изменений. Главное — один раз написать обработчик событий, а дальше файлы будут «говорить» с вашим кодом сами.🔥5
Работа с кешированием данных: file-based и memory-based подходы
================================================================
Кеширование — это способ «не думать дважды». Если результат уже посчитан, зачем снова тратить время и ресурсы? В Python это особенно актуально при работе с медленными запросами к API, базам данных или тяжёлым вычислениям.
Разберём два простых подхода: кеш в памяти и кеш в файле.
## Memory-based: быстро, но временно
Кеш в памяти живёт только пока работает программа. Зато он очень быстрый.
- автоматически хранит результаты по аргументам;
- ограничивает размер кеша (
- идеально подходит для функций без побочных эффектов (чистые функции).
Минус: как только программа завершилась — кеш исчез.
## File-based: медленнее, но переживает перезапуск
Кеш в файле сохраняет результаты между запусками. Удобно для скриптов, которые периодически запускаются по расписанию.
Самый простой способ — использовать
Плюсы:
- данные сохраняются между запусками;
- можно легко чистить/анализировать кеш-файл.
Минусы:
- медленнее RAM;
- нужно следить за размером файла и «протуханием» данных.
## Что выбрать?
- Нужна скорость внутри одного процесса — берите
- Важно экономить время между запусками — храните кеш в файле.
- В реальных проектах их часто комбинируют: быстрый memory-кеш поверх более «упорного» file-кеша.
Кеширование — один из тех инструментов, которые мгновенно делают ваш код ощущаемо «умнее» и быстрее, если применять его осознанно.
================================================================
Кеширование — это способ «не думать дважды». Если результат уже посчитан, зачем снова тратить время и ресурсы? В Python это особенно актуально при работе с медленными запросами к API, базам данных или тяжёлым вычислениям.
Разберём два простых подхода: кеш в памяти и кеш в файле.
## Memory-based: быстро, но временно
Кеш в памяти живёт только пока работает программа. Зато он очень быстрый.
import time
from functools import lru_cache
@lru_cache(maxsize=128)
def slow_square(n: int) -> int:
time.sleep(1) # имитация долгой операции
return n * n
if __name__ == "__main__":
start = time.time()
print(slow_square(10)) # первый вызов — медленно
print("First call:", time.time() - start)
start = time.time()
print(slow_square(10)) # второй вызов — из кеша
print("Second call:", time.time() - start)
lru_cache:- автоматически хранит результаты по аргументам;
- ограничивает размер кеша (
maxsize);- идеально подходит для функций без побочных эффектов (чистые функции).
Минус: как только программа завершилась — кеш исчез.
## File-based: медленнее, но переживает перезапуск
Кеш в файле сохраняет результаты между запусками. Удобно для скриптов, которые периодически запускаются по расписанию.
Самый простой способ — использовать
pickle или json. Пример с json:import json
import os
import time
from typing import Any, Dict
CACHE_FILE = "cache.json"
def load_cache() -> Dict[str, Any]:
if not os.path.exists(CACHE_FILE):
return {}
with open(CACHE_FILE, "r", encoding="utf-8") as f:
return json.load(f)
def save_cache(cache: Dict[str, Any]) -> None:
with open(CACHE_FILE, "w", encoding="utf-8") as f:
json.dump(cache, f)
def get_data(param: str) -> str:
time.sleep(1) # имитация тяжёлого запроса
return f"result_for_{param}"
def cached_get_data(param: str) -> str:
cache = load_cache()
if param in cache:
return cache[param]
result = get_data(param)
cache[param] = result
save_cache(cache)
return result
if __name__ == "__main__":
print(cached_get_data("foo")) # первый раз — долго
print(cached_get_data("foo")) # второй раз — сразу
Плюсы:
- данные сохраняются между запусками;
- можно легко чистить/анализировать кеш-файл.
Минусы:
- медленнее RAM;
- нужно следить за размером файла и «протуханием» данных.
## Что выбрать?
- Нужна скорость внутри одного процесса — берите
lru_cache.- Важно экономить время между запусками — храните кеш в файле.
- В реальных проектах их часто комбинируют: быстрый memory-кеш поверх более «упорного» file-кеша.
Кеширование — один из тех инструментов, которые мгновенно делают ваш код ощущаемо «умнее» и быстрее, если применять его осознанно.
🔥3👍2
Как исключить дубли в данных с помощью множеств
Дубли в данных — классическая боль новичка: выгрузили список email’ов, пользователей или айдишников, а там половина повторяется. Перебирать руками? Нет. В Python есть более элегантный инструмент — множества (
### Что такое множество?
Бонус: операции над множествами быстрые. Если нужно часто проверять, есть ли элемент в коллекции,
---
### Удаляем дубли, но сохраняем порядок
У
---
### Убираем дубли в списке словарей
Сложнее случай: у нас есть список словарей, и мы хотим убира́ть дубли по какому-то полю, например
Мы не пытаемся сделать множество из словарей (они неизменяемыми быть не могут), мы используем множество только для хранения уже встреченных
---
### Быстрая проверка пересечений
Множества полезны не только для удаления дублей, но и для анализа данных: пересечения, разности, объединения.
---
Множества — это простой способ приручить хаос в данных: удалять дубли, быстро искать элементы и работать с пересечениями. Как только начинаешь активно использовать
Дубли в данных — классическая боль новичка: выгрузили список email’ов, пользователей или айдишников, а там половина повторяется. Перебирать руками? Нет. В Python есть более элегантный инструмент — множества (
set).### Что такое множество?
set — это неупорядоченная коллекция уникальных элементов. Любой дубль при добавлении просто игнорируется.emails = ["a@example.com", "b@example.com", "a@example.com", "c@example.com"]
unique_emails = set(emails)
print(unique_emails)
# {'a@example.com', 'b@example.com', 'c@example.com'}
Бонус: операции над множествами быстрые. Если нужно часто проверять, есть ли элемент в коллекции,
set обычно быстрее списка.---
### Удаляем дубли, но сохраняем порядок
У
set нет порядка, а иногда он важен (например, порядок регистрации пользователей). Тогда можно комбинировать список и множество:users = ["alice", "bob", "alice", "dave", "bob", "eve"]
seen = set()
unique_users = []
for user in users:
if user not in seen:
seen.add(user)
unique_users.append(user)
print(unique_users)
# ['alice', 'bob', 'dave', 'eve']
seen отвечает только за проверку дублей, а итоговый порядок хранится в unique_users.---
### Убираем дубли в списке словарей
Сложнее случай: у нас есть список словарей, и мы хотим убира́ть дубли по какому-то полю, например
id.records = [
{"id": 1, "name": "Alice"},
{"id": 2, "name": "Bob"},
{"id": 1, "name": "Alice Smith"},
{"id": 3, "name": "Eve"},
]
seen_ids = set()
clean_records = []
for record in records:
record_id = record["id"]
if record_id not in seen_ids:
seen_ids.add(record_id)
clean_records.append(record)
print(clean_records)
# [{'id': 1, 'name': 'Alice'},
# {'id': 2, 'name': 'Bob'},
# {'id': 3, 'name': 'Eve'}]
Мы не пытаемся сделать множество из словарей (они неизменяемыми быть не могут), мы используем множество только для хранения уже встреченных
id.---
### Быстрая проверка пересечений
Множества полезны не только для удаления дублей, но и для анализа данных: пересечения, разности, объединения.
old_users = {"alice", "bob", "carol"}
new_users = {"bob", "dave", "eve"}
returned_users = old_users & new_users # пересечение
all_users = old_users | new_users # объединение
lost_users = old_users - new_users # кто не вернулся
print(returned_users) # {'bob'}
print(all_users) # {'alice', 'bob', 'carol', 'dave', 'eve'}
print(lost_users) # {'alice', 'carol'}
---
Множества — это простой способ приручить хаос в данных: удалять дубли, быстро искать элементы и работать с пересечениями. Как только начинаешь активно использовать
set, многие задачи очистки и анализа данных становятся в разы проще.👍5❤1
Python для начинающих: магия
Когда мы слышим «случайность в Python», чаще всего вспоминаем
Но как только появляется слово «вероятность», в игру вступает его более продвинутый родственник —
## Базовый пример: не просто выбрать, а выбрать с шансами
Функция
- выбирать несколько элементов сразу;
- учитывать «вес» каждого элемента (то есть вероятность).
Здесь
## Чем
-
-
По умолчанию
## Веса и кумулятивные веса
## Выбор с возвращением и без
Если нужен выбор без повторов, смотри на:
-
- или на
## Минииcследование: проверяем, что веса работают
Запустив этот код, ты увидишь, что частоты примерно соответствуют пропорциям
random.choices — взвешенный случайный выборКогда мы слышим «случайность в Python», чаще всего вспоминаем
random.choice. Он берет один случайный элемент из последовательности — и на этом всё. Но как только появляется слово «вероятность», в игру вступает его более продвинутый родственник —
random.choices.## Базовый пример: не просто выбрать, а выбрать с шансами
Функция
random.choices умеет:- выбирать несколько элементов сразу;
- учитывать «вес» каждого элемента (то есть вероятность).
import random
fruits = ["apple", "banana", "orange"]
weights = [1, 3, 6] # вероятности: apple < banana < orange
result = random.choices(fruits, weights=weights, k=10)
print(result)
Здесь
k=10 — сколько элементов выбрать. orange будет выпадать чаще всего, потому что его вес больше.## Чем
choice отличается от choices-
random.choice(seq) → один элемент, все равновероятны.-
random.choices(seq, k=n) → список из n элементов, с возможностью задавать веса.items = ["A", "B", "C"]
print(random.choice(items)) # один элемент
print(random.choices(items, k=5)) # список из 5 элементов
По умолчанию
choices тоже считает все элементы равновероятными, пока не указаны weights или cum_weights.## Веса и кумулятивные веса
weights — обычные веса (не обязаны быть в сумме 1):cards = ["common", "rare", "epic", "legendary"]
weights = [70, 20, 9, 1] # проценты можно записать и так, пропорционально
pulled = random.choices(cards, weights=weights, k=20)
print(pulled)
cum_weights — кумулятивные (накопленные) значения. Например, [70, 90, 99, 100] — та же таблица вероятностей, но в формате «до этой границы»:cards = ["common", "rare", "epic", "legendary"]
cum_weights = [70, 90, 99, 100]
pulled = random.choices(cards, cum_weights=cum_weights, k=20)
print(pulled)
weights и cum_weights вместе указывать нельзя — выбери что-то одно.## Выбор с возвращением и без
random.choices всегда выбирает с возвращением — один и тот же элемент может встретиться несколько раз. Это удобно для моделирования повторяющихся событий: бросков, попыток, лут-боксов.Если нужен выбор без повторов, смотри на:
-
random.sample(population, k) — без повторов;- или на
random.shuffle и срезы.import random
numbers = list(range(10))
print(random.sample(numbers, 3)) # 3 уникальных числа
## Минииcследование: проверяем, что веса работают
import random
from collections import Counter
choices = ["A", "B", "C"]
weights = [1, 2, 7]
result = random.choices(choices, weights=weights, k=10000)
counts = Counter(result)
for item in choices:
print(item, counts[item] / 10000)
Запустив этот код, ты увидишь, что частоты примерно соответствуют пропорциям
1:2:7.random.choices — отличный инструмент, когда нужно не просто «случайно», а «случайно с контролем»: симуляции, простые игровые механики, генерация тестовых данных — везде, где вероятность чего-то должна быть не только ощущаемой, но и задаваемой.👍5
Создание API‑клиентов: практика на примере GitHub API
Когда вы научились писать функции и циклы, следующим логичным шагом становится общение с внешним миром: сервисами, сайтами, ботами. Для этого нужны API‑клиенты — небольшие программы, которые отправляют запросы и получают данные. Разберёмся на реальном и популярном примере: GitHub API.
---
### Базовый запрос: получаем информацию о пользователе
Для начала нам нужен модуль
Здесь важные моменты:
-
-
- API GitHub возвращает JSON, поэтому
---
### Оборачиваем в удобный клиент
Чтобы код не расползался по проекту, удобно сделать мини‑клиент:
Что здесь важно для начинающего:
- Используем
- Выделяем приватный метод
- Методы
---
### Обработка ошибок и лимитов
GitHub ограничивает число запросов. Если лимит исчерпан, сервер вернёт код 403/429. Простая обработка:
---
### Итог
API‑клиент — это:
1. Базовый слой работы с HTTP (
2. Чёткие методы под задачи домена (
3. Явная обработка ошибок и лимитов.
Попробуйте расширить клиент: добавить получение коммитов, фильтрацию публичных/приватных репозиториев (для этого понадобится токен), поиск репозиториев по языку. Так вы почувствуете, как из нескольких функций рождается удобный инструмент для автоматизации работы с реальными сервисами.
Когда вы научились писать функции и циклы, следующим логичным шагом становится общение с внешним миром: сервисами, сайтами, ботами. Для этого нужны API‑клиенты — небольшие программы, которые отправляют запросы и получают данные. Разберёмся на реальном и популярном примере: GitHub API.
---
### Базовый запрос: получаем информацию о пользователе
Для начала нам нужен модуль
requests:import requests
def get_user_info(username: str) -> dict:
url = f"https://api.github.com/users/{username}"
response = requests.get(url, timeout=5)
response.raise_for_status() # выбросит исключение при ошибке
return response.json()
if __name__ == "__main__":
user = get_user_info("torvalds")
print(user["login"], user["public_repos"], user["followers"])
Здесь важные моменты:
-
timeout — не даёт программе «висеть» бесконечно.-
raise_for_status() — дисциплинирует: если код ответа не 200, вы узнаете об этом сразу.- API GitHub возвращает JSON, поэтому
response.json() превращает его в dict.---
### Оборачиваем в удобный клиент
Чтобы код не расползался по проекту, удобно сделать мини‑клиент:
import requests
from typing import List, Dict
class GitHubClient:
BASE_URL = "https://api.github.com"
def __init__(self, token: str | None = None) -> None:
self.session = requests.Session()
if token:
self.session.headers.update({"Authorization": f"Bearer {token}"})
def _get(self, path: str, **params) -> dict | List[dict]:
url = f"{self.BASE_URL}{path}"
resp = self.session.get(url, params=params, timeout=5)
resp.raise_for_status()
return resp.json()
def get_user(self, username: str) -> dict:
return self._get(f"/users/{username}")
def get_repos(self, username: str) -> List[Dict]:
return self._get(f"/users/{username}/repos", per_page=100)
if __name__ == "__main__":
client = GitHubClient() # без токена тоже работает, но с лимитами
user = client.get_user("python")
repos = client.get_repos("python")
print(user["login"], "repos:", len(repos))
Что здесь важно для начинающего:
- Используем
Session — это быстрее и позволяет один раз настроить заголовки.- Выделяем приватный метод
_get — вся логика запросов в одном месте.- Методы
get_user, get_repos уже звучат как «команды» к GitHub.---
### Обработка ошибок и лимитов
GitHub ограничивает число запросов. Если лимит исчерпан, сервер вернёт код 403/429. Простая обработка:
def safe_get_user(client: GitHubClient, username: str) -> dict | None:
try:
return client.get_user(username)
except requests.HTTPError as exc:
status = exc.response.status_code
if status == 404:
print("User not found")
elif status in (403, 429):
print("Rate limit exceeded")
else:
print("HTTP error:", status)
return None
---
### Итог
API‑клиент — это:
1. Базовый слой работы с HTTP (
requests, Session, _get).2. Чёткие методы под задачи домена (
get_user, get_repos).3. Явная обработка ошибок и лимитов.
Попробуйте расширить клиент: добавить получение коммитов, фильтрацию публичных/приватных репозиториев (для этого понадобится токен), поиск репозиториев по языку. Так вы почувствуете, как из нескольких функций рождается удобный инструмент для автоматизации работы с реальными сервисами.
👍3🔥2❤1
Как протестировать производительность кода с
Иногда код «на глаз» кажется быстрым, но в реальности один лишний цикл или неудачная структура данных легко замедляют программу в разы. Модуль
### Почему
Простой подход:
Проблема: результаты «шумные». На них влияет всё: другие процессы, кэш CPU, случайные задержки.
- запускает код много раз (по умолчанию 1 000 000 коротких запусков),
- считает среднее время,
- минимизирует влияние внешних факторов.
### Базовое использование в виде модуля
Параметр
### Сравнение двух вариантов решения
Классическая задача: сравнить list comprehension и цикл с
### Использование
Если вы работаете в терминале:
По умолчанию Python сам подбирает количество повторений и выводит минимальное время одного запуска.
### Замер функций из своего кода
Иногда удобнее измерять уже определенную функцию:
Ключевой момент — импортировать функции в
---
timeitИногда код «на глаз» кажется быстрым, но в реальности один лишний цикл или неудачная структура данных легко замедляют программу в разы. Модуль
timeit — встроенный в Python инструмент, который позволяет честно померить время исполнения небольших фрагментов кода.### Почему
timeit, а не time.time()Простой подход:
import time
start = time.time()
# some code
end = time.time()
print(end - start)
Проблема: результаты «шумные». На них влияет всё: другие процессы, кэш CPU, случайные задержки.
timeit решает это:- запускает код много раз (по умолчанию 1 000 000 коротких запусков),
- считает среднее время,
- минимизирует влияние внешних факторов.
### Базовое использование в виде модуля
import timeit
code = """
result = []
for i in range(1000):
result.append(i)
"""
t = timeit.timeit(code, number=1000)
print(t)
Параметр
number — сколько раз выполнить код целиком. Чем меньше код, тем больше number стоит использовать, чтобы получить стабильный результат.### Сравнение двух вариантов решения
Классическая задача: сравнить list comprehension и цикл с
append.import timeit
setup = "n = 1000"
code_listcomp = "[i for i in range(n)]"
code_append = """
result = []
for i in range(n):
result.append(i)
"""
t_listcomp = timeit.timeit(code_listcomp, setup=setup, number=10000)
t_append = timeit.timeit(code_append, setup=setup, number=10000)
print("list comprehension:", t_listcomp)
print("append in loop :", t_append)
setup выполняется один раз до серии замеров (инициализация переменных, импортов и т.п.). Внутри code_* удобно писать только «голое» тело эксперимента.### Использование
timeit из интерактивной консолиЕсли вы работаете в терминале:
python -m timeit "sum(range(1000))"
python -m timeit "total=0\nfor i in range(1000): total+=i"
По умолчанию Python сам подбирает количество повторений и выводит минимальное время одного запуска.
### Замер функций из своего кода
Иногда удобнее измерять уже определенную функцию:
import timeit
def slow_sum(n):
total = 0
for i in range(n):
total += i
return total
def fast_sum(n):
return sum(range(n))
t_slow = timeit.timeit("slow_sum(1000)", setup="from __main__ import slow_sum", number=10000)
t_fast = timeit.timeit("fast_sum(1000)", setup="from __main__ import fast_sum", number=10000)
print("slow_sum:", t_slow)
print("fast_sum:", t_fast)
Ключевой момент — импортировать функции в
setup.---
timeit не даст вам абсолютного «идеального» времени, но отлично показывает, какой из двух вариантов кода быстрее и во сколько раз. Это уже достаточно, чтобы принимать осознанные решения об оптимизации.🔥3👍2
Введение в работу с protobuf: быстрая сериализация данных
JSON удобен, пока данные небольшие и требования к скорости умеренные. Но как только вы начинаете передавать тысячи сообщений в секунду между сервисами, JSON внезапно становится «тормозом». Здесь на сцену выходит Protocol Buffers (protobuf) — бинарный формат от Google, заточенный под скорость и компактность.
---
### Что такое protobuf в двух словах
Protobuf — это:
- бинарный формат сериализации (данные занимают меньше места, чем JSON);
- строгая схема (типизация, обязательные/необязательные поля);
- кросс-языковая поддержка (Python, Go, Java, C++ и т.д.).
Сначала вы описываете структуру данных в
---
### Описание схемы
Создадим файл
Ключевые моменты:
-
-
- Числа
---
### Генерация Python-классов
Устанавливаем пакет:
Компилируем схему (нужен установленный
Появится
---
### Сериализация и десериализация
По сравнению с JSON:
- меньше размер (особенно для больших структур и списков);
- быстрая (де)сериализация;
- гарантируется наличие нужных полей и их типов.
---
### Эволюция схемы без боли
Сильная сторона protobuf — обратная совместимость.
Вы можете:
- добавлять новые поля в конец (
- помечать поля как устаревшие, но пока не удалять их.
Старый клиент просто игнорирует незнакомые теги, а новый — использует дополнительные поля, если они есть.
---
### Когда protobuf действительно нужен
Используйте protobuf, если:
- у вас есть микросервисы, которым нужно быстро обмениваться структурированными данными;
- важна экономия трафика;
- требуется строгая и эволюционирующая схема данных.
Если же вы просто сохраняете настройки в файл или делаете маленький скрипт-утилиту, JSON остаётся проще. Но как только проект растёт — protobuf становится важным инструментом Python-разработчика.
JSON удобен, пока данные небольшие и требования к скорости умеренные. Но как только вы начинаете передавать тысячи сообщений в секунду между сервисами, JSON внезапно становится «тормозом». Здесь на сцену выходит Protocol Buffers (protobuf) — бинарный формат от Google, заточенный под скорость и компактность.
---
### Что такое protobuf в двух словах
Protobuf — это:
- бинарный формат сериализации (данные занимают меньше места, чем JSON);
- строгая схема (типизация, обязательные/необязательные поля);
- кросс-языковая поддержка (Python, Go, Java, C++ и т.д.).
Сначала вы описываете структуру данных в
.proto файле, затем компилируете его, и уже сгенерированный Python-код используете как обычные классы.---
### Описание схемы
Создадим файл
user.proto:syntax = "proto3";
message User {
int32 id = 1;
string name = 2;
string email = 3;
repeated string tags = 4;
}
Ключевые моменты:
-
message — аналог класса/структуры.-
repeated — список значений.- Числа
= 1, = 2 — теги полей. Они нужны для бинарного формата и обратной совместимости.---
### Генерация Python-классов
Устанавливаем пакет:
pip install protobuf
Компилируем схему (нужен установленный
protoc):protoc --python_out=. user.proto
Появится
user_pb2.py — не редактируем его вручную, просто используем.---
### Сериализация и десериализация
from user_pb2 import User
def create_user() -> User:
user = User(
id=1,
name="Alice",
email="alice@example.com",
tags=["admin", "premium"]
)
return user
user = create_user()
# сериализация в бинарный формат
data_bytes = user.SerializeToString()
# восстановление объекта из байт
user_copy = User()
user_copy.ParseFromString(data_bytes)
print(len(data_bytes)) # компактный размер
print(user_copy.name) # Alice
print(user_copy.tags) # ['admin', 'premium']
По сравнению с JSON:
- меньше размер (особенно для больших структур и списков);
- быстрая (де)сериализация;
- гарантируется наличие нужных полей и их типов.
---
### Эволюция схемы без боли
Сильная сторона protobuf — обратная совместимость.
Вы можете:
- добавлять новые поля в конец (
= 5, = 6), не ломая старые клиенты;- помечать поля как устаревшие, но пока не удалять их.
Старый клиент просто игнорирует незнакомые теги, а новый — использует дополнительные поля, если они есть.
---
### Когда protobuf действительно нужен
Используйте protobuf, если:
- у вас есть микросервисы, которым нужно быстро обмениваться структурированными данными;
- важна экономия трафика;
- требуется строгая и эволюционирующая схема данных.
Если же вы просто сохраняете настройки в файл или делаете маленький скрипт-утилиту, JSON остаётся проще. Но как только проект растёт — protobuf становится важным инструментом Python-разработчика.
👍3
Создание интерактивных терминальных интерфейсов с Prompt Toolkit
Большинство начинающих знакомится с Python через
Это мощный конструктор для создания интерактивных CLI-приложений: от умных консолей до мини‑IDE прямо в терминале.
---
### Установка
---
### Пример 1: улучшенный
Что здесь полезного:
- автодополнение по Tab из списка
- история введённых команд,
- редактирование строки как в нормальных шеллах (стрелки, Home/End и т.д.) — «из коробки».
---
### Пример 2: подсветка синтаксиса
Можно превратить ввод в мини‑редактор с подсветкой кода:
Особенности:
-
-
---
### Пример 3: валидация ввода на лету
Плюсы:
- пользователь сразу видит ошибку (сообщение + позиция курсора),
- валидатор легко заменить любым своим (email, путь к файлу, диапазоны и т.д.).
---
### Зачем это всё новичку?
Prompt Toolkit даёт быстрый путь от «скучного консольного ввода» к удобным инструментам:
- свои REPL‑консоли,
- интерактивные помощники и установщики,
- учебные мини‑шеллы для отладки идей.
Один модуль — и ваш терминал перестаёт быть просто чёрным окном, а превращается в полноценный интерфейс для пользователя.
Большинство начинающих знакомится с Python через
input() и print(). Но как только хочется чего-то «живого» в терминале — история команд, подсветка, автодополнение — стандартных средств уже мало. Здесь на сцену выходит библиотека prompt_toolkit.Это мощный конструктор для создания интерактивных CLI-приложений: от умных консолей до мини‑IDE прямо в терминале.
---
### Установка
pip install prompt_toolkit
---
### Пример 1: улучшенный
input() с историей и автодополнениемfrom prompt_toolkit import prompt
from prompt_toolkit.completion import WordCompleter
commands = ["start", "stop", "status", "restart"]
command_completer = WordCompleter(commands, ignore_case=True)
while True:
user_input = prompt("cmd> ", completer=command_completer)
if user_input == "exit":
break
print(f"You entered: {user_input}")
Что здесь полезного:
- автодополнение по Tab из списка
commands,- история введённых команд,
- редактирование строки как в нормальных шеллах (стрелки, Home/End и т.д.) — «из коробки».
---
### Пример 2: подсветка синтаксиса
Можно превратить ввод в мини‑редактор с подсветкой кода:
from prompt_toolkit import prompt
from prompt_toolkit.lexers import PygmentsLexer
from pygments.lexers import PythonLexer
code = prompt(
"Enter Python code:\n",
lexer=PygmentsLexer(PythonLexer),
multiline=True
)
print("You wrote:")
print(code)
Особенности:
-
multiline=True позволяет писать блок кода (несколько строк).-
PygmentsLexer + PythonLexer дают подсветку синтаксиса прямо при вводе.---
### Пример 3: валидация ввода на лету
from prompt_toolkit import prompt
from prompt_toolkit.validation import Validator, ValidationError
class IntValidator(Validator):
def validate(self, document):
text = document.text
if not text.isdigit():
raise ValidationError(
message="Please enter an integer",
cursor_position=len(text)
)
age = prompt("Enter your age: ", validator=IntValidator(), validate_while_typing=True)
print(f"Age: {age}")
Плюсы:
- пользователь сразу видит ошибку (сообщение + позиция курсора),
- валидатор легко заменить любым своим (email, путь к файлу, диапазоны и т.д.).
---
### Зачем это всё новичку?
Prompt Toolkit даёт быстрый путь от «скучного консольного ввода» к удобным инструментам:
- свои REPL‑консоли,
- интерактивные помощники и установщики,
- учебные мини‑шеллы для отладки идей.
Один модуль — и ваш терминал перестаёт быть просто чёрным окном, а превращается в полноценный интерфейс для пользователя.
👍4
Как использовать dataclass и не утонуть в конструкторе
Если вы когда‑нибудь писали класс с десятком полей и бесконечным
---
## Что такое dataclass?
-
-
-
- и другие полезные методы
Вместо громоздкого класса:
Можно написать:
Dataclass сгенерирует
---
## Поля по умолчанию и field()
Нужно задать сложное значение по умолчанию (например, список)? Делать
---
## Замороженные dataclass’ы (иммутабельные объекты)
Хотите, чтобы объект нельзя было менять после создания? Используйте
Это удобно для «чистых» структур данных: координат, конфигураций, ключей в словарях.
---
## Сравнение объектов
Обычные классы сравниваются по идентичности (это один и тот же объект или нет). Dataclass по умолчанию сравнивает значения полей:
---
## Кратко о плюсах dataclass
- Меньше шаблонного кода (
- Читаемые и предсказуемые классы данных
- Простая работа со значениями по умолчанию
- Поддержка типов (аннотации обязательны и делают код понятнее)
- Возможность делать объекты иммутабельными
Если вы когда‑нибудь писали класс с десятком полей и бесконечным
__init__, то модуль dataclasses — это то, что вы искали. Он появился в Python 3.7 и превращает «болванки данных» в аккуратные, удобные структуры без тонны шаблонного кода.---
## Что такое dataclass?
dataclass — это декоратор, который автоматически генерирует:-
__init__-
__repr__-
__eq__ (сравнение объектов)- и другие полезные методы
Вместо громоздкого класса:
class User:
def __init__(self, name: str, age: int, active: bool = True):
self.name = name
self.age = age
self.active = active
def __repr__(self):
return f"User(name={self.name!r}, age={self.age!r}, active={self.active!r})"
Можно написать:
from dataclasses import dataclass
@dataclass
class User:
name: str
age: int
active: bool = True
user = User("Alice", 25)
print(user)
Dataclass сгенерирует
__init__ и красивый __repr__ сам.---
## Поля по умолчанию и field()
Нужно задать сложное значение по умолчанию (например, список)? Делать
friends = [] в определении класса опасно — список будет общим для всех экземпляров. В dataclasses это решается через field:from dataclasses import dataclass, field
from typing import List
@dataclass
class ChatRoom:
title: str
members: List[str] = field(default_factory=list)
room = ChatRoom("Python Room")
room.members.append("Alice")
room2 = ChatRoom("Another Room")
print(room.members) # ['Alice']
print(room2.members) # []
default_factory создает новое значение для каждого объекта.---
## Замороженные dataclass’ы (иммутабельные объекты)
Хотите, чтобы объект нельзя было менять после создания? Используйте
frozen=True:from dataclasses import dataclass
@dataclass(frozen=True)
class Point:
x: float
y: float
p = Point(1, 2)
# p.x = 10 # вызовет ошибку FrozenInstanceError
Это удобно для «чистых» структур данных: координат, конфигураций, ключей в словарях.
---
## Сравнение объектов
Обычные классы сравниваются по идентичности (это один и тот же объект или нет). Dataclass по умолчанию сравнивает значения полей:
from dataclasses import dataclass
@dataclass
class Product:
name: str
price: float
p1 = Product("Book", 10.0)
p2 = Product("Book", 10.0)
print(p1 == p2) # True
---
## Кратко о плюсах dataclass
- Меньше шаблонного кода (
__init__, __repr__, __eq__ и т.д.)- Читаемые и предсказуемые классы данных
- Простая работа со значениями по умолчанию
- Поддержка типов (аннотации обязательны и делают код понятнее)
- Возможность делать объекты иммутабельными
dataclass — идеальный инструмент, когда вам нужен «умный словарь» с атрибутами и типами, но без лишней головной боли.👍4🔥1
Работа с фоновыми задачами в Python с помощью
Иногда программе нужно делать сразу несколько вещей: скачивать данные, обрабатывать файлы, показывать прогресс пользователю. Делать это строго по очереди — значит тормозить. Здесь на сцену выходит модуль
### Простейший поток
Запустим функцию в фоне, пока основная программа живет своей жизнью:
### Несколько фоновых задач
Часто нужно запустить не одну, а сразу пачку задач:
Файлы «скачиваются» параллельно: пока один ждет сеть, другой может работать.
### Демон-потоки: тихие работяги
Иногда нужно, чтобы поток не блокировал завершение программы (логирование, метрики):
Если
### Безопасный доступ к общим данным
Главная ловушка многопоточности — гонки данных. Два потока меняют одну переменную — результат непредсказуем. Используем
---
threadingИногда программе нужно делать сразу несколько вещей: скачивать данные, обрабатывать файлы, показывать прогресс пользователю. Делать это строго по очереди — значит тормозить. Здесь на сцену выходит модуль
threading, позволяющий запускать задачи в отдельных потоках.### Простейший поток
Запустим функцию в фоне, пока основная программа живет своей жизнью:
import threading
import time
def background_task(name, delay):
for i in range(3):
time.sleep(delay)
print(f"[{name}] step {i}")
t = threading.Thread(target=background_task, args=("worker-1", 1))
t.start()
print("Main thread continues...")
t.join() # ждем завершения потока
print("Done")
Thread получает функцию target и аргументы args. start() запускает поток, join() — блокирует основной поток до его завершения.### Несколько фоновых задач
Часто нужно запустить не одну, а сразу пачку задач:
def download_file(file_id):
print(f"Start downloading {file_id}")
time.sleep(2)
print(f"Finished {file_id}")
threads = []
for i in range(5):
t = threading.Thread(target=download_file, args=(f"file_{i}",))
t.start()
threads.append(t)
for t in threads:
t.join()
print("All downloads finished")
Файлы «скачиваются» параллельно: пока один ждет сеть, другой может работать.
### Демон-потоки: тихие работяги
Иногда нужно, чтобы поток не блокировал завершение программы (логирование, метрики):
def logger():
while True:
time.sleep(1)
print("logging...")
log_thread = threading.Thread(target=logger, daemon=True)
log_thread.start()
time.sleep(3)
print("Main thread exits") # демон-поток автоматически завершится
Если
daemon=True, поток живет, пока жив основной процесс.### Безопасный доступ к общим данным
Главная ловушка многопоточности — гонки данных. Два потока меняют одну переменную — результат непредсказуем. Используем
Lock:counter = 0
lock = threading.Lock()
def increment(n):
global counter
for _ in range(n):
with lock:
counter += 1
threads = []
for _ in range(5):
t = threading.Thread(target=increment, args=(100000,))
t.start()
threads.append(t)
for t in threads:
t.join()
print("Counter:", counter)
with lock: гарантирует, что только один поток за раз меняет counter.---
threading полезен, когда задачи много ждут (сеть, диск, ввод-вывод). Для тяжелых вычислений лучше посмотреть в сторону multiprocessing, но для фоновых задач, таймеров, сервисных процессов threading — быстрый и удобный инструмент, который стоит освоить одним из первых.👍4
Изучение io.StringIO и BytesIO: виртуальные файлы в Python
Иногда файл нужен… но создавать его на диске совсем не хочется. Лишние записи на диск, временные файлы, уборка за собой — все это раздражает. Именно тут в игру вступают
### Когда это полезно
- тестировать код, который работает с файлами, без реальных файлов;
- временно преобразовывать данные (текст или байты);
- имитировать чтение/запись файлов в библиотеках;
- экономить диск и ускорять операции, когда данные краткоживущие.
---
## StringIO: файл из строки
Мы передали в функцию объект, который выглядит как файл: у него есть методы
StringIO можно использовать и для записи:
---
## BytesIO: файл из байтов
Можно симулировать, например, загрузку файла:
---
## Полезные мелочи
- У обоих есть
- Работают с
- Отлично подходят для unit-тестов: вместо реального файла подсовываете
Иногда файл нужен… но создавать его на диске совсем не хочется. Лишние записи на диск, временные файлы, уборка за собой — все это раздражает. Именно тут в игру вступают
io.StringIO и io.BytesIO — виртуальные файлы в памяти.### Когда это полезно
- тестировать код, который работает с файлами, без реальных файлов;
- временно преобразовывать данные (текст или байты);
- имитировать чтение/запись файлов в библиотеках;
- экономить диск и ускорять операции, когда данные краткоживущие.
---
## StringIO: файл из строки
StringIO работает с текстом (str) как обычный файловый объект.from io import StringIO
def process_stream(stream):
result = []
for line in stream:
line = line.strip()
if line:
result.append(line.upper())
return result
data = "hello\n\nworld\npython\n"
fake_file = StringIO(data)
processed = process_stream(fake_file)
print(processed) # ['HELLO', 'WORLD', 'PYTHON']
Мы передали в функцию объект, который выглядит как файл: у него есть методы
read(), write(), он итерируем по строкам. Но на диске ничего не лежит — все в памяти.StringIO можно использовать и для записи:
from io import StringIO
buffer = StringIO()
buffer.write("line 1\n")
buffer.write("line 2\n")
content = buffer.getvalue()
print(content)
getvalue() — ключевой метод: он возвращает все накопленные данные.---
## BytesIO: файл из байтов
BytesIO делает то же самое, но для байтов (bytes). Это удобно, когда вы работаете с двоичными форматами, изображениями или сетевыми данными.from io import BytesIO
raw_data = b"\x50\x59\x54\x48\x4f\x4e" # 'PYTHON' в ASCII
byte_stream = BytesIO(raw_data)
chunk = byte_stream.read(3)
print(chunk) # b'PYT'
print(byte_stream.read()) # b'HON'
Можно симулировать, например, загрузку файла:
from io import BytesIO
def fake_download():
return BytesIO(b"PNGDATA...")
stream = fake_download()
data = stream.read()
print(len(data))
---
## Полезные мелочи
- У обоих есть
.seek() и .tell() — для перемещения по «файлу».- Работают с
with как обычные файлы.- Отлично подходят для unit-тестов: вместо реального файла подсовываете
StringIO/BytesIO.from io import StringIO
def count_lines(file_obj):
return sum(1 for _ in file_obj)
fake = StringIO("a\nb\nc\n")
print(count_lines(fake)) # 3
StringIO и BytesIO — это быстрый способ получить все преимущества файлового интерфейса без лишнего I/O. Виртуальный файл в несколько строк кода.🔥4❤1