🐍 Python Workers в Cloudflare вышли в GA
Cloudflare официально сделала Python полноценным поддерживаемым языком для Workers. Теперь Python-код можно запускать в production на edge-инфраструктуре Cloudflare и напрямую связывать с Workers AI, R2, D1, Hyperdrive, Durable Objects, Queues и Workflows.
Что добавили:
- поддержка FastAPI, Django, Flask и других ASGI/WSGI-фреймворков;
- нативные Python bindings без ручной конвертации объектов в JavaScript;
- работа с PostgreSQL и MySQL через Hyperdrive;
- поддержка сетевых библиотек и TCP-сокетов;
- возможность запускать OpenAI SDK, LangChain и MCP прямо внутри Python Workers.
Под капотом Python запускается через Pyodide/WebAssembly, а для пакетов с C/C++/Rust-расширениями Cloudflare продвигает стандарт PyEmscripten / PEP 783.
Можно собирать на Python API, AI-агентов, MCP-серверы, RAG и event-driven пайплайны без отдельного сервера.
Анонс Cloudflare - https://blog.cloudflare.com/python-workers-ga/
@Python_Community_ru
Cloudflare официально сделала Python полноценным поддерживаемым языком для Workers. Теперь Python-код можно запускать в production на edge-инфраструктуре Cloudflare и напрямую связывать с Workers AI, R2, D1, Hyperdrive, Durable Objects, Queues и Workflows.
Что добавили:
- поддержка FastAPI, Django, Flask и других ASGI/WSGI-фреймворков;
- нативные Python bindings без ручной конвертации объектов в JavaScript;
- работа с PostgreSQL и MySQL через Hyperdrive;
- поддержка сетевых библиотек и TCP-сокетов;
- возможность запускать OpenAI SDK, LangChain и MCP прямо внутри Python Workers.
Под капотом Python запускается через Pyodide/WebAssembly, а для пакетов с C/C++/Rust-расширениями Cloudflare продвигает стандарт PyEmscripten / PEP 783.
Можно собирать на Python API, AI-агентов, MCP-серверы, RAG и event-driven пайплайны без отдельного сервера.
Анонс Cloudflare - https://blog.cloudflare.com/python-workers-ga/
@Python_Community_ru
Cloudflare Blog
Python Workers are now generally available
Python Workers allow developers to run Python web frameworks and AI orchestration libraries natively in the Cloudflare Workers runtime. You can seamlessly integrate with Cloudflare's ecosystem including D1, R2, and Workers AI without writing any JavaScript…
Python 3.15 почти готов: вышел RC3, финальный релиз 9 октября
Python 3.15.0rc3 вышел 2 октября. Третий кандидат понадобился из-за нескольких блокирующих багов в ленивых импортах, которые решили обязательно закрыть до релиза. Финальная версия ожидается 9 октября. ABI больше не изменится, так что мейнтейнерам библиотек самое время собирать колёса под 3.15.
Главное, что войдёт в релиз:
lazy import torch # PEP 810: модуль загрузится только при первом обращении
cfg = frozendict(lr=3e-4) # PEP 814: неизменяемый и хешируемый словарь
flat = [*row for row in matrix] # PEP 798: распаковка прямо в генераторах списков
Ленивые импорты вслепую ускоряют запуск CLI и скриптов, где тянется тяжёлый стек вроде torch или pandas. Для ML-кода это, пожалуй, самое заметное изменение.
UTF-8 стал кодировкой по умолчанию на всех платформах, включая Windows, и проблема с open() без encoding= наконец уходит в прошлое.
Ещё в релизе встроенный тип sentinel, новый семплирующий профайлер Tachyon в отдельном пакете для профилирования и улучшенные сообщения об ошибках. Экспериментальный JIT даёт 7–8% прироста на x86-64 Linux, а frame pointers включены по умолчанию, поэтому профилировать через perf станет проще.
Для free-threaded сборок появился стабильный ABI, то есть шаг к Python без GIL в продакшене. В типизации добавили TypedDict с типизированными дополнительными ключами и TypeForm.
Это всё ещё релиз-кандидат, так что в прод пока не стоит. Но погонять тесты своих проектов на нём самое время.
https://www.python.org/downloads/release/python-3150rc3/
@Python_Community_ru
Python 3.15.0rc3 вышел 2 октября. Третий кандидат понадобился из-за нескольких блокирующих багов в ленивых импортах, которые решили обязательно закрыть до релиза. Финальная версия ожидается 9 октября. ABI больше не изменится, так что мейнтейнерам библиотек самое время собирать колёса под 3.15.
Главное, что войдёт в релиз:
lazy import torch # PEP 810: модуль загрузится только при первом обращении
cfg = frozendict(lr=3e-4) # PEP 814: неизменяемый и хешируемый словарь
flat = [*row for row in matrix] # PEP 798: распаковка прямо в генераторах списков
Ленивые импорты вслепую ускоряют запуск CLI и скриптов, где тянется тяжёлый стек вроде torch или pandas. Для ML-кода это, пожалуй, самое заметное изменение.
UTF-8 стал кодировкой по умолчанию на всех платформах, включая Windows, и проблема с open() без encoding= наконец уходит в прошлое.
Ещё в релизе встроенный тип sentinel, новый семплирующий профайлер Tachyon в отдельном пакете для профилирования и улучшенные сообщения об ошибках. Экспериментальный JIT даёт 7–8% прироста на x86-64 Linux, а frame pointers включены по умолчанию, поэтому профилировать через perf станет проще.
Для free-threaded сборок появился стабильный ABI, то есть шаг к Python без GIL в продакшене. В типизации добавили TypedDict с типизированными дополнительными ключами и TypeForm.
Это всё ещё релиз-кандидат, так что в прод пока не стоит. Но погонять тесты своих проектов на нём самое время.
https://www.python.org/downloads/release/python-3150rc3/
@Python_Community_ru
🦙 Ollaya: запуск моделей принятия решений в стиле Ollama.
Скачиваете модель, поднимаете локальный сервер и получаете через API категорию, оценку или вероятность «да». Без генерации текста и разбора ответа LLM.
Подходит для сортировки обращений, модерации, определения намерений и маршрутизации запросов.
Что есть:
• Laya, Decider, NLI, GLiClass и другие модели.
• Работа на CPU и GPU.
• API, совместимый с TypeSafe.
• MCP для подключения к Claude Code, Cursor и другим агентам.
• Windows, Linux и macOS, включая Apple Silicon.
Для старта без NVIDIA GPU автор рекомендует Laya. Есть мультиязычная версия с поддержкой более 100 языков.
Проект написан на Rust, лицензия Apache 2.0. У самих моделей сохраняются собственные лицензии.
https://github.com/ollaya-dev/ollaya
@Python_Community_ru
Скачиваете модель, поднимаете локальный сервер и получаете через API категорию, оценку или вероятность «да». Без генерации текста и разбора ответа LLM.
Подходит для сортировки обращений, модерации, определения намерений и маршрутизации запросов.
Что есть:
• Laya, Decider, NLI, GLiClass и другие модели.
• Работа на CPU и GPU.
• API, совместимый с TypeSafe.
• MCP для подключения к Claude Code, Cursor и другим агентам.
• Windows, Linux и macOS, включая Apple Silicon.
Для старта без NVIDIA GPU автор рекомендует Laya. Есть мультиязычная версия с поддержкой более 100 языков.
Проект написан на Rust, лицензия Apache 2.0. У самих моделей сохраняются собственные лицензии.
https://github.com/ollaya-dev/ollaya
@Python_Community_ru
Вышел Python 3.15: ленивые импорты, frozendict, UTF-8 по умолчанию и JIT, который наконец ускоряет код
Состоялся стабильный релиз Python 3.15. Над ним поработали 1012 контрибьюторов, в версию вошло 5643 коммита.
Самое заметное для повседневной работы это явные ленивые импорты из PEP 810. Тяжёлые модули вроде torch или transformers теперь можно подгружать только в момент первого обращения, и CLI-утилиты и скрипты стартуют заметно быстрее. Ещё одно долгожданное изменение: UTF-8 наконец стал кодировкой по умолчанию на всех платформах, так что сюрпризы с open() на Windows уходят в прошлое.
В языке появились встроенные типы frozendict и sentinel, а в генераторах списков и словарей теперь работает распаковка через звёздочку. Сообщения об ошибках снова стали понятнее.
Экспериментальный JIT серьёзно доработали. На x86-64 Linux он даёт в среднем 7-8% прироста к стандартному интерпретатору, на Apple Silicon 11-12%. Официальные сборки под Windows перешли на tail-calling интерпретатор, а установщик для macOS по умолчанию ставит поддержку free-threading. Для сборок без GIL появился стабильный ABI, это откроет дорогу бинарным пакетам под многопоточный Python.
Для тех, кто ищет узкие места в коде, в стандартной библиотеке появился отдельный пакет profiling и высокочастотный сэмплирующий профайлер Tachyon. Указатели фреймов теперь включены по умолчанию, и системные профайлеры видят Python-стек без танцев с бубном.
В типизации добавили TypedDict с типизированными дополнительными ключами, TypeForm и disjoint bases.
Один нюанс для маководов: на macOS 27.0 приложения на tkinter, включая IDLE, могут зависать при открытии диалогов. Если работаете с Tk, с обновлением системы лучше подождать.
Бонус от Барри Уорсо: текстовый квест whatsnewt, где каждая из 18 головоломок решается реальной фичей 3.15. Запускается командой uvx --python 3.15 whatsnewt.
https://discuss.python.org/t/python-3-15-0-final-is-here/109415
@Python_Community_ru
Состоялся стабильный релиз Python 3.15. Над ним поработали 1012 контрибьюторов, в версию вошло 5643 коммита.
Самое заметное для повседневной работы это явные ленивые импорты из PEP 810. Тяжёлые модули вроде torch или transformers теперь можно подгружать только в момент первого обращения, и CLI-утилиты и скрипты стартуют заметно быстрее. Ещё одно долгожданное изменение: UTF-8 наконец стал кодировкой по умолчанию на всех платформах, так что сюрпризы с open() на Windows уходят в прошлое.
В языке появились встроенные типы frozendict и sentinel, а в генераторах списков и словарей теперь работает распаковка через звёздочку. Сообщения об ошибках снова стали понятнее.
Экспериментальный JIT серьёзно доработали. На x86-64 Linux он даёт в среднем 7-8% прироста к стандартному интерпретатору, на Apple Silicon 11-12%. Официальные сборки под Windows перешли на tail-calling интерпретатор, а установщик для macOS по умолчанию ставит поддержку free-threading. Для сборок без GIL появился стабильный ABI, это откроет дорогу бинарным пакетам под многопоточный Python.
Для тех, кто ищет узкие места в коде, в стандартной библиотеке появился отдельный пакет profiling и высокочастотный сэмплирующий профайлер Tachyon. Указатели фреймов теперь включены по умолчанию, и системные профайлеры видят Python-стек без танцев с бубном.
В типизации добавили TypedDict с типизированными дополнительными ключами, TypeForm и disjoint bases.
Один нюанс для маководов: на macOS 27.0 приложения на tkinter, включая IDLE, могут зависать при открытии диалогов. Если работаете с Tk, с обновлением системы лучше подождать.
Бонус от Барри Уорсо: текстовый квест whatsnewt, где каждая из 18 головоломок решается реальной фичей 3.15. Запускается командой uvx --python 3.15 whatsnewt.
https://discuss.python.org/t/python-3-15-0-final-is-here/109415
@Python_Community_ru
👍2
🐍 Ротация прокси в Python может обходиться без списка IP и `random.choice()`
Если провайдер поддерживает ротацию на шлюзе, скрипт обращается к одному адресу. Выходные IP меняет сам сервис по выбранному режиму. Именно такой подход разобран в статье.
Минимальный пример проверки:
import os
import requests
# PROXY_URL: адрес шлюза с учётными данными
proxy = os.environ["PROXY_URL"]
proxies = {"http": proxy, "https": proxy}
for _ in range(5):
r = requests.get(
"https://httpbin.org/ip",
proxies=proxies,
timeout=(5, 15),
)
r.raise_for_status()
print(r.json()["origin"])
Нюанс: ключ "https" обозначает протокол целевого сайта. Сам адрес прокси при этом может начинаться с http://. Это корректная настройка для HTTP-прокси.
Ещё важно различать два режима:
• Ротация меняет выходной IP согласно настройкам провайдера.
• Sticky session закрепляет IP на некоторое время.
При этом requests.Session() сохраняет cookies и переиспользует соединения, но самостоятельно IP не меняет. Политику ротации нужно проверять у провайдера.
https://unlimitedresidentialproxy.com/blog/how-to-rotate-proxies-python
@Python_Community_ru
Если провайдер поддерживает ротацию на шлюзе, скрипт обращается к одному адресу. Выходные IP меняет сам сервис по выбранному режиму. Именно такой подход разобран в статье.
Минимальный пример проверки:
import os
import requests
# PROXY_URL: адрес шлюза с учётными данными
proxy = os.environ["PROXY_URL"]
proxies = {"http": proxy, "https": proxy}
for _ in range(5):
r = requests.get(
"https://httpbin.org/ip",
proxies=proxies,
timeout=(5, 15),
)
r.raise_for_status()
print(r.json()["origin"])
Нюанс: ключ "https" обозначает протокол целевого сайта. Сам адрес прокси при этом может начинаться с http://. Это корректная настройка для HTTP-прокси.
Ещё важно различать два режима:
• Ротация меняет выходной IP согласно настройкам провайдера.
• Sticky session закрепляет IP на некоторое время.
При этом requests.Session() сохраняет cookies и переиспользует соединения, но самостоятельно IP не меняет. Политику ротации нужно проверять у провайдера.
https://unlimitedresidentialproxy.com/blog/how-to-rotate-proxies-python
@Python_Community_ru
⚡️ Overmind - open-source слой для автоматической оптимизации AI-агентов.
Вместо ручного тюнинга он запускает эксперименты и помогает улучшать сразу несколько частей агента:
- системные промпты
- описания инструментов
- выбор модели
- pipeline и control flow
- поведение агента на реальных задачах
Идея в том, чтобы не гадать, какой prompt или model лучше, а системно тестировать варианты и оставлять те, которые реально дают прирост по метрикам.
Проект позиционируется как supervision + fine-tuning layer для agentic AI и доступен как Python-пакет. Свежая версия 0.1.82 опубликована 1 октября 2026 года. :
https://github.com/overmind-core/overmind
@Python_Community_ru
Вместо ручного тюнинга он запускает эксперименты и помогает улучшать сразу несколько частей агента:
- системные промпты
- описания инструментов
- выбор модели
- pipeline и control flow
- поведение агента на реальных задачах
Идея в том, чтобы не гадать, какой prompt или model лучше, а системно тестировать варианты и оставлять те, которые реально дают прирост по метрикам.
Проект позиционируется как supervision + fine-tuning layer для agentic AI и доступен как Python-пакет. Свежая версия 0.1.82 опубликована 1 октября 2026 года. :
https://github.com/overmind-core/overmind
@Python_Community_ru
Media is too big
VIEW IN TELEGRAM
📱 35 млрд параметров на смартфоне с потреблением около 3 ГБ оперативной памяти.
OpenBMB показала MiniCPM-V 4.7: мультимодальный ИИ, который локально читает вывески, разбирает документы и анализирует изображения и видео.
Доступны две версии:
• 35B-A3B: MoE-модель с 35 млрд параметров, из которых около 3 млрд активны при обработке токена.
• 1B: компактный вариант для устройств с ограниченными ресурсами.
Главная технология, Lookahead Expert Scheduling, заранее подгружает нужных экспертов из накопителя и совмещает загрузку с вычислениями. По данным команды, на iPhone 17 Pro Max модель выдаёт более 13 токенов в секунду.
3 ГБ здесь означают память во время работы: веса модели хранятся отдельно на накопителе.
Также открыли Self-Replay Fine-Tuning для обучения новым задачам с меньшим забыванием прежних навыков. Поддерживаются iOS, Android и HarmonyOS.
https://github.com/OpenBMB/MiniCPM-V
@Python_Community_ru
OpenBMB показала MiniCPM-V 4.7: мультимодальный ИИ, который локально читает вывески, разбирает документы и анализирует изображения и видео.
Доступны две версии:
• 35B-A3B: MoE-модель с 35 млрд параметров, из которых около 3 млрд активны при обработке токена.
• 1B: компактный вариант для устройств с ограниченными ресурсами.
Главная технология, Lookahead Expert Scheduling, заранее подгружает нужных экспертов из накопителя и совмещает загрузку с вычислениями. По данным команды, на iPhone 17 Pro Max модель выдаёт более 13 токенов в секунду.
3 ГБ здесь означают память во время работы: веса модели хранятся отдельно на накопителе.
Также открыли Self-Replay Fine-Tuning для обучения новым задачам с меньшим забыванием прежних навыков. Поддерживаются iOS, Android и HarmonyOS.
https://github.com/OpenBMB/MiniCPM-V
@Python_Community_ru
🖥 Datadog научила профилировщик Python понимать asyncio: флеймграфы со «стеками из стеков» и оверхед меньше на 60%
Главная боль профилирования asyncio в том, что каждая задача выглядит как независимый стек. Время в запросе к Cassandra повисает в воздухе, и непонятно, какой именно путь в приложении его породил.
Инженеры Datadog решили это так: профилировщик отслеживает, какая задача кого ждёт, строит дерево зависимостей и начиная с листьев надстраивает фреймы родителей поверх фреймов потомков. Код, разбитый на отдельные задачи, и обычные корутины в одной задаче теперь дают сопоставимые флеймграфы. Если задача живёт дольше создателя, время засчитывается создателю, пока он работает, а затем тому, кто её ждёт.
Цена такого подхода высокая: к стоимости на поток добавляется O(n_tasks), а серверы держат много задач, поэтому адаптивный сэмплинг местами падал до минимальной одной выборки в секунду.
Резервуарное сэмплирование задач команда отвергла, потому что для дерева нужны метаданные всех задач.
Оверхед срезали тремя шагами. Убрали C++ исключения из пути сэмплирования, это около 15%. Интернировали строки имён функций и файлов, ещё около 25%. Заменили process_vm_readv, по системному вызову на каждый маленький объект, на memcpy с обработчиком сигнала для восстановления после ошибок памяти, это около 50% для синхронного кода.
В сумме на сервисах с выкаченными изменениями оверхед упал более чем на 60%.
В проде профилировщик нашёл бесконечный цикл в библиотеке pylzstring, которую затем починили в апстриме, и внутреннюю библиотеку, строившую большие debug-строки при логгере уровня INFO. Отдельно ИИ-агент через MCP и Dynamic Instrumentation оптимизировал функ
ции на NumPy и снизил CPU в них на 15-30%. Улучшения доступны в свежих версиях ddtrace. Автор отмечает, что похожий подход принят в Tachyon, профилировщике CPython 3.15, но сравнения не делает, как и абсолютных цифр оверхеда.
Источник: https://www.datadoghq.com/blog/engineering/async-python-profiler/
@Python_Community_ru
Главная боль профилирования asyncio в том, что каждая задача выглядит как независимый стек. Время в запросе к Cassandra повисает в воздухе, и непонятно, какой именно путь в приложении его породил.
Инженеры Datadog решили это так: профилировщик отслеживает, какая задача кого ждёт, строит дерево зависимостей и начиная с листьев надстраивает фреймы родителей поверх фреймов потомков. Код, разбитый на отдельные задачи, и обычные корутины в одной задаче теперь дают сопоставимые флеймграфы. Если задача живёт дольше создателя, время засчитывается создателю, пока он работает, а затем тому, кто её ждёт.
Цена такого подхода высокая: к стоимости на поток добавляется O(n_tasks), а серверы держат много задач, поэтому адаптивный сэмплинг местами падал до минимальной одной выборки в секунду.
Резервуарное сэмплирование задач команда отвергла, потому что для дерева нужны метаданные всех задач.
Оверхед срезали тремя шагами. Убрали C++ исключения из пути сэмплирования, это около 15%. Интернировали строки имён функций и файлов, ещё около 25%. Заменили process_vm_readv, по системному вызову на каждый маленький объект, на memcpy с обработчиком сигнала для восстановления после ошибок памяти, это около 50% для синхронного кода.
В сумме на сервисах с выкаченными изменениями оверхед упал более чем на 60%.
В проде профилировщик нашёл бесконечный цикл в библиотеке pylzstring, которую затем починили в апстриме, и внутреннюю библиотеку, строившую большие debug-строки при логгере уровня INFO. Отдельно ИИ-агент через MCP и Dynamic Instrumentation оптимизировал функ
ции на NumPy и снизил CPU в них на 15-30%. Улучшения доступны в свежих версиях ddtrace. Автор отмечает, что похожий подход принят в Tachyon, профилировщике CPython 3.15, но сравнения не делает, как и абсолютных цифр оверхеда.
Источник: https://www.datadoghq.com/blog/engineering/async-python-profiler/
@Python_Community_ru
🧠 Tencent открыла Hy Memory: общую память для ИИ-ассистентов и редакторов кода
Система объединяет память о переписках, работе и коде, чтобы контекст можно было использовать между Codex, Cursor, WorkBuddy и другими инструментами. Открыты модель, движок и приложение.
В основе Hy-Memory-30B-A3B: 30 млрд параметров, из которых активны 3 млрд.
По данным команды, система заняла первое место во всех четырёх проведённых бенчмарках, обойдя Opus 5 в тестах памяти:
• +10,2 пункта на MemoryArena.
• На 51,8% меньше объём памяти.
• На 39,3% меньше токенов при извлечении воспоминаний.
Модель работает и с чужими движками: Mem0, MemOS и EverMemOS. В одном из продуктов Tencent точность восстановления информации через несколько связанных фактов выросла с 50% до 90%.
https://huggingface.co/tencent/Hy-Memory-30B-A3B
@Python_Community_ru
Система объединяет память о переписках, работе и коде, чтобы контекст можно было использовать между Codex, Cursor, WorkBuddy и другими инструментами. Открыты модель, движок и приложение.
В основе Hy-Memory-30B-A3B: 30 млрд параметров, из которых активны 3 млрд.
По данным команды, система заняла первое место во всех четырёх проведённых бенчмарках, обойдя Opus 5 в тестах памяти:
• +10,2 пункта на MemoryArena.
• На 51,8% меньше объём памяти.
• На 39,3% меньше токенов при извлечении воспоминаний.
Модель работает и с чужими движками: Mem0, MemOS и EverMemOS. В одном из продуктов Tencent точность восстановления информации через несколько связанных фактов выросла с 50% до 90%.
https://huggingface.co/tencent/Hy-Memory-30B-A3B
@Python_Community_ru
🧠 Python + Prolog: нейросети и строгая логика в одном процессе
Clausal Prolog объединяет Python с языком логического программирования Prolog. Нейросеть может вызывать правила, а правила обращаться обратно к нейросети. Без отдельного сервиса и сериализации данных.
Что это даёт:
• Явные ограничения: можно задать условия, которым должно соответствовать решение.
• Понятные выводы: проследить, какие правила привели к результату.
• Изменение поведения без переобучения: достаточно поправить правило.
Например, модель предлагает план действий, а логический слой проверяет его по заданным ограничениям. Такой подход называют нейросимвольным ИИ.
Установка: pip install clausal. Нужен Python 3.13+. Лицензия MIT.
https://github.com/neurosymbolica/clausal-prolog
@Python_Community_ru
Clausal Prolog объединяет Python с языком логического программирования Prolog. Нейросеть может вызывать правила, а правила обращаться обратно к нейросети. Без отдельного сервиса и сериализации данных.
Что это даёт:
• Явные ограничения: можно задать условия, которым должно соответствовать решение.
• Понятные выводы: проследить, какие правила привели к результату.
• Изменение поведения без переобучения: достаточно поправить правило.
Например, модель предлагает план действий, а логический слой проверяет его по заданным ограничениям. Такой подход называют нейросимвольным ИИ.
Установка: pip install clausal. Нужен Python 3.13+. Лицензия MIT.
https://github.com/neurosymbolica/clausal-prolog
@Python_Community_ru
🔍 «Разберись, как это работает»: ИИ-агентам дали инструменты для реверс-инжиниринга
REA, Reverse Engineer Anything, подключает Claude Code, Codex, Cursor и другие агенты к инструментам анализа программ через MCP.
Можно попросить агента изучить функцию приложения без исходников: проследить вызовы, разобрать логику и на основе найденного написать похожую реализацию для своего проекта.
Поддерживаются нативные бинарники, JavaScript и Electron, .NET, Android APK и сайты. Для глубокого анализа бинарников используются Ghidra, IDA или Hopper.
Анализ выполняется локально. REA возвращает находки с подтверждениями и ограничениями, а агент использует их для дальнейшего исследования и написания кода. Результаты при этом передаются модели вашего провайдера.
Исходный код целиком инструмент не восстанавливает, но помогает понять устройство программы вплоть до псевдокода и ассемблера.
https://github.com/morluto/rea
@Python_Community_ru
REA, Reverse Engineer Anything, подключает Claude Code, Codex, Cursor и другие агенты к инструментам анализа программ через MCP.
Можно попросить агента изучить функцию приложения без исходников: проследить вызовы, разобрать логику и на основе найденного написать похожую реализацию для своего проекта.
Поддерживаются нативные бинарники, JavaScript и Electron, .NET, Android APK и сайты. Для глубокого анализа бинарников используются Ghidra, IDA или Hopper.
Анализ выполняется локально. REA возвращает находки с подтверждениями и ограничениями, а агент использует их для дальнейшего исследования и написания кода. Результаты при этом передаются модели вашего провайдера.
Исходный код целиком инструмент не восстанавливает, но помогает понять устройство программы вплоть до псевдокода и ассемблера.
https://github.com/morluto/rea
@Python_Community_ru
🌟 SonicBoom: движок инференса без Python
HardenedVault, которая специализируется на безопасности Linux и компиляторов, выложила среду исполнения SonicBoom (https://github.com/hardenedlinux/SonicBoom), написанной с нуля на C++ и CUDA. Python ей не нужен ни для работы, ни для сборки.
Цель проекта – локальный запуск языковых моделей на потребительских видеокартах.
Всё упаковано в одну библиотеку libsonicboom.so, которую можно подключить из любого языка через стандартный интерфейс C, основным языком для работы с ней авторы выбрали Scheme в реализации GNU Guile.
SonicBoom загружает модели в GGUF, генерирует текст на процессоре или видеокарте и поднимает локальный сервер, совместимый с API OpenAI.
Если новый запрос начинается с того же текста, что и предыдущий, заново обрабатывается только добавленная часть, и результат до токена совпадает с полным пересчётом.
🟡Механика
Скорость вывода дают уровни над вычислительными ядрами, а не сами ядра. Умножение квантованных матриц и токенизаторы частично перенесены из llama.cpp.
Над ними работает планировщик, который до запуска переписывает граф модели целиком, сливает соседние операции и записывает весь шаг генерации токена в один CUDA Graph, т. е. в готовую последовательность команд для видеокарты.
Ещё выше стоит компилятор на базе MLIR. Он сам генерирует часть ядер для GPU, в том числе для механизма внимания, и при первом запуске подбирает самый быстрый вариант под конкретную карту.
🟡Тесты
На RTX 3050 с 8 ГБ памяти сравнили SonicBoom и llama.cpp на одних и тех же моделях.
Gemma 4 E4B через SonicBoom дала генерацию в 53 токена в секунду против 44,8 у llama.cpp.
У Qwen2.5-0.5B вышло 344,7 токена в секунду против 307,6.
Когда контекст дорастает до 512 токенов, SonicBoom на Qwen уже чуть отстаёт.
Единственный сторонний результат на RTX 4060 Ti оказался хуже llama.cpp, 73,6 токена в секунду против 78, но его получили на сборке, ещё не настроенной под эту видеокарту.
Пока проверены только две модели, Gemma 4 E4B-it и Qwen2.5-0.5B-Instruct, и только видеокарты серии RTX 30.
Модель всегда выбирает самый вероятный токен, температуру и другие настройки случайности задать нельзя.
Следующими в планах стоят модели Llama и Mistral, работа через Vulkan, генерация ядер для видеокарт других производителей и диффузионные модели.
Дальше SonicBoom планирует вырасти в фреймворк в духе PyTorch, где модель пишут на Scheme и компилируют в граф вычислений. Прототип этого режима уже обучает небольшой трансформер.
📌Лицензирование: GPL-3.0
🖥Github (https://github.com/hardenedlinux/SonicBoom)
@ai_machinelearning_big_data
#AI #ML #LLM #InferenceEngine #SonicBoom
@Python_Community_ru
HardenedVault, которая специализируется на безопасности Linux и компиляторов, выложила среду исполнения SonicBoom (https://github.com/hardenedlinux/SonicBoom), написанной с нуля на C++ и CUDA. Python ей не нужен ни для работы, ни для сборки.
Цель проекта – локальный запуск языковых моделей на потребительских видеокартах.
Всё упаковано в одну библиотеку libsonicboom.so, которую можно подключить из любого языка через стандартный интерфейс C, основным языком для работы с ней авторы выбрали Scheme в реализации GNU Guile.
SonicBoom загружает модели в GGUF, генерирует текст на процессоре или видеокарте и поднимает локальный сервер, совместимый с API OpenAI.
Если новый запрос начинается с того же текста, что и предыдущий, заново обрабатывается только добавленная часть, и результат до токена совпадает с полным пересчётом.
🟡Механика
Скорость вывода дают уровни над вычислительными ядрами, а не сами ядра. Умножение квантованных матриц и токенизаторы частично перенесены из llama.cpp.
Над ними работает планировщик, который до запуска переписывает граф модели целиком, сливает соседние операции и записывает весь шаг генерации токена в один CUDA Graph, т. е. в готовую последовательность команд для видеокарты.
Ещё выше стоит компилятор на базе MLIR. Он сам генерирует часть ядер для GPU, в том числе для механизма внимания, и при первом запуске подбирает самый быстрый вариант под конкретную карту.
🟡Тесты
На RTX 3050 с 8 ГБ памяти сравнили SonicBoom и llama.cpp на одних и тех же моделях.
Gemma 4 E4B через SonicBoom дала генерацию в 53 токена в секунду против 44,8 у llama.cpp.
У Qwen2.5-0.5B вышло 344,7 токена в секунду против 307,6.
Когда контекст дорастает до 512 токенов, SonicBoom на Qwen уже чуть отстаёт.
Единственный сторонний результат на RTX 4060 Ti оказался хуже llama.cpp, 73,6 токена в секунду против 78, но его получили на сборке, ещё не настроенной под эту видеокарту.
Пока проверены только две модели, Gemma 4 E4B-it и Qwen2.5-0.5B-Instruct, и только видеокарты серии RTX 30.
Модель всегда выбирает самый вероятный токен, температуру и другие настройки случайности задать нельзя.
Следующими в планах стоят модели Llama и Mistral, работа через Vulkan, генерация ядер для видеокарт других производителей и диффузионные модели.
Дальше SonicBoom планирует вырасти в фреймворк в духе PyTorch, где модель пишут на Scheme и компилируют в граф вычислений. Прототип этого режима уже обучает небольшой трансформер.
📌Лицензирование: GPL-3.0
🖥Github (https://github.com/hardenedlinux/SonicBoom)
@ai_machinelearning_big_data
#AI #ML #LLM #InferenceEngine #SonicBoom
@Python_Community_ru
GitHub
GitHub - hardenedlinux/SonicBoom: A compiler-first PyTorch alternative. MLIR-based Boom IR, Guile scripting, CUDA and CPU. On consumer…
A compiler-first PyTorch alternative. MLIR-based Boom IR, Guile scripting, CUDA and CPU. On consumer GPUs it already beats llama.cpp’s LLM decode with the same kernels; the compiler makes the diffe...
⚙️ Почему код тормозит, даже если алгоритм хороший?
Причина может скрываться в промахах кэша, предсказании ветвлений, расположении данных или конкуренции потоков за память.
CPU Performance Engineering собирает материалы, которые помогают разобраться в этих ограничениях. Путь идёт от выполнения одной инструкции до запуска ИИ-моделей на CPU.
Внутри:
• Микроархитектура процессоров x86 и Arm.
• Кэши, память, NUMA и false sharing.
• Профилирование, perf и flame graphs.
• SIMD, векторизация и оптимизации компилятора.
• Многопоточность и задержки под нагрузкой.
• Инференс моделей и квантизация.
В 14 разделах есть воспроизводимые бенчмарки на C: исходники, команды сборки, результаты и разбор. Можно проверить поведение на своём железе.
Подборка опирается на первоисточники: статьи, документацию и измерения. Есть и MCP-сервер для подключения материалов к ИИ-ассистенту.
https://github.com/usamahz/cpu-performance-engineering
@Python_Community_ru
Причина может скрываться в промахах кэша, предсказании ветвлений, расположении данных или конкуренции потоков за память.
CPU Performance Engineering собирает материалы, которые помогают разобраться в этих ограничениях. Путь идёт от выполнения одной инструкции до запуска ИИ-моделей на CPU.
Внутри:
• Микроархитектура процессоров x86 и Arm.
• Кэши, память, NUMA и false sharing.
• Профилирование, perf и flame graphs.
• SIMD, векторизация и оптимизации компилятора.
• Многопоточность и задержки под нагрузкой.
• Инференс моделей и квантизация.
В 14 разделах есть воспроизводимые бенчмарки на C: исходники, команды сборки, результаты и разбор. Можно проверить поведение на своём железе.
Подборка опирается на первоисточники: статьи, документацию и измерения. Есть и MCP-сервер для подключения материалов к ИИ-ассистенту.
https://github.com/usamahz/cpu-performance-engineering
@Python_Community_ru
PyTorch экономит память при обучении LLM и лучше использует GPU на Mac
OpenTeams рассказала о своём вкладе в PyTorch за 2026 год. Несколько изменений, которые пригодятся на практике:
- Меньше разрывов в `torch.compile`. Dynamo перестраивают по образцу внутренних механизмов CPython, чтобы он точнее обрабатывал обычный Python-код. Это сокращает ситуации, когда компиляция прерывается и выполнение возвращается в Python.
- До 4 раз меньше пиковой памяти на расчёте loss. В PyTorch 2.13 появился LinearCrossEntropyLoss: он обрабатывает данные частями, не создавая целиком огромный тензор оценок по всему словарю. Особенно полезно при обучении языковых моделей.
- Больше операций на GPU Apple Silicon. MPS получил нативные реализации дополнительных операций. По замерам команды, native_group_norm на M4 ускорился в среднем более чем в 10 раз.
- Экспериментальная компиляция комплексных вычислений. В PyTorch 2.14 комплексные операции можно разложить на операции с вещественными тензорами и передать существующим механизмам оптимизации.
Для PyTorch 2.15 также подготовлены поддержка Python 3.15 в `torch.compile` и API отдельных MPS-потоков. Они позволят отправлять работу в несколько очередей GPU на Mac.
https://openteams.com/engineering-blog/pytorch-year-in-review-2026/
@Python_Community_ru
OpenTeams рассказала о своём вкладе в PyTorch за 2026 год. Несколько изменений, которые пригодятся на практике:
- Меньше разрывов в `torch.compile`. Dynamo перестраивают по образцу внутренних механизмов CPython, чтобы он точнее обрабатывал обычный Python-код. Это сокращает ситуации, когда компиляция прерывается и выполнение возвращается в Python.
- До 4 раз меньше пиковой памяти на расчёте loss. В PyTorch 2.13 появился LinearCrossEntropyLoss: он обрабатывает данные частями, не создавая целиком огромный тензор оценок по всему словарю. Особенно полезно при обучении языковых моделей.
- Больше операций на GPU Apple Silicon. MPS получил нативные реализации дополнительных операций. По замерам команды, native_group_norm на M4 ускорился в среднем более чем в 10 раз.
- Экспериментальная компиляция комплексных вычислений. В PyTorch 2.14 комплексные операции можно разложить на операции с вещественными тензорами и передать существующим механизмам оптимизации.
Для PyTorch 2.15 также подготовлены поддержка Python 3.15 в `torch.compile` и API отдельных MPS-потоков. Они позволят отправлять работу в несколько очередей GPU на Mac.
https://openteams.com/engineering-blog/pytorch-year-in-review-2026/
@Python_Community_ru
OpenTeams
PyTorch Year in Review: OpenTeams' Contributions in 2026
See what our PyTorch year in review covers: a CPython-faithful Dynamo, Python 3.15 on day one, fused linear cross-entropy, MPS ops and a new build backend.
Нововведения Python 3.15 превратили в игру: чтобы пройти дальше, придётся писать код.
whatsnewt - терминальный квест от Барри Уорсо. Вы просыпаетесь внутри интерпретатора и проходите 15 комнат с 18 головоломками, посвящёнными возможностям Python 3.15.
По пути встретятся ленивые импорты, frozendict, sentinel, распаковка в comprehensions, изменения типизации и другие нововведения.
Ответы запускаются в настоящем Python 3.15. Для заданий на типизацию используется pyrefly. Проверяется не только результат, но и способ решения: обойти новую конструкцию привычным циклом не всегда получится.
Внутри есть карта, инвентарь, подсказки за очки, ссылки на документацию и автосохранение.
Запуск через uv:
uvx --python 3.15 whatsnewt
Любопытная деталь: по словам автора, значительная часть игры написана совместно с Claude.
Хороший повод изучить релиз на практике: каждая новая возможность становится задачей, которую нужно решить самому.
https://pypi.org/project/whatsnewt/
@Python_Community_ru
whatsnewt - терминальный квест от Барри Уорсо. Вы просыпаетесь внутри интерпретатора и проходите 15 комнат с 18 головоломками, посвящёнными возможностям Python 3.15.
По пути встретятся ленивые импорты, frozendict, sentinel, распаковка в comprehensions, изменения типизации и другие нововведения.
Ответы запускаются в настоящем Python 3.15. Для заданий на типизацию используется pyrefly. Проверяется не только результат, но и способ решения: обойти новую конструкцию привычным циклом не всегда получится.
Внутри есть карта, инвентарь, подсказки за очки, ссылки на документацию и автосохранение.
Запуск через uv:
uvx --python 3.15 whatsnewt
Любопытная деталь: по словам автора, значительная часть игры написана совместно с Claude.
Хороший повод изучить релиз на практике: каждая новая возможность становится задачей, которую нужно решить самому.
https://pypi.org/project/whatsnewt/
@Python_Community_ru
🔥1
Генерировать видео и менять происходящее текстовыми командами прямо на ходу - одна из возможностей LongLive от NVIDIA.
Сейчас репозиторий объединяет четыре исследовательских проекта:
- LongLive 1.0 - интерактивная генерация длинных видео: пользователь меняет промпты по мере появления кадров.
- LongLive 2.0 — инфраструктура обучения и генерации с квантизацией NVFP4 и распределением вычислений между GPU.
- LongLive-Plug — перенос возможностей, полученных при дистилляции базовой модели, на совместимые производные модели без повторного обучения.
- Long-WAM — модели для робототехники, которые используют визуальную историю при выборе действий. Есть обучение, тестирование и демонстрации на реальных роботах.
Для каждого направления опубликованы код, документация и веса моделей. Можно скачать только нужный проект.
Интересно, как здесь сходятся генерация видео и робототехника: модели должны учитывать предыдущие кадры и продолжать последовательность — визуальную сцену или действия робота.
Репозиторий для тех, кто исследует длинные видеопоследовательности, интерактивные миры и обучение роботов.
https://github.com/NVlabs/LongLive
@Python_Community_ru
Сейчас репозиторий объединяет четыре исследовательских проекта:
- LongLive 1.0 - интерактивная генерация длинных видео: пользователь меняет промпты по мере появления кадров.
- LongLive 2.0 — инфраструктура обучения и генерации с квантизацией NVFP4 и распределением вычислений между GPU.
- LongLive-Plug — перенос возможностей, полученных при дистилляции базовой модели, на совместимые производные модели без повторного обучения.
- Long-WAM — модели для робототехники, которые используют визуальную историю при выборе действий. Есть обучение, тестирование и демонстрации на реальных роботах.
Для каждого направления опубликованы код, документация и веса моделей. Можно скачать только нужный проект.
Интересно, как здесь сходятся генерация видео и робототехника: модели должны учитывать предыдущие кадры и продолжать последовательность — визуальную сцену или действия робота.
Репозиторий для тех, кто исследует длинные видеопоследовательности, интерактивные миры и обучение роботов.
https://github.com/NVlabs/LongLive
@Python_Community_ru
Вопросы на собеседовании Python Senior: 100 вопросов с ответами (2026)
Вопросы на собеседовании Python Senior с ответами: 100 вопросов и примеры кода — CPython, GIL, asyncio, метаклассы, типизация, производительность, Python 3.14.
https://uproger.com/voprosy-na-sobesedovanii-python-senior/
@Python_Community_ru
Вопросы на собеседовании Python Senior с ответами: 100 вопросов и примеры кода — CPython, GIL, asyncio, метаклассы, типизация, производительность, Python 3.14.
https://uproger.com/voprosy-na-sobesedovanii-python-senior/
@Python_Community_ru