🦙 Ollaya: запуск моделей принятия решений в стиле Ollama.

Скачиваете модель, поднимаете локальный сервер и получаете через API категорию, оценку или вероятность «да». Без генерации текста и разбора ответа LLM.

Подходит для сортировки обращений, модерации, определения намерений и маршрутизации запросов.

Что есть:

• Laya, Decider, NLI, GLiClass и другие модели.
• Работа на CPU и GPU.
• API, совместимый с TypeSafe.
• MCP для подключения к Claude Code, Cursor и другим агентам.
• Windows, Linux и macOS, включая Apple Silicon.

Для старта без NVIDIA GPU автор рекомендует Laya. Есть мультиязычная версия с поддержкой более 100 языков.

Проект написан на Rust, лицензия Apache 2.0. У самих моделей сохраняются собственные лицензии.

https://github.com/ollaya-dev/ollaya

@Python_Community_ru

‍Вышел Python 3.15: ленивые импорты, frozendict, UTF-8 по умолчанию и JIT, который наконец ускоряет код

Состоялся стабильный релиз Python 3.15. Над ним поработали 1012 контрибьюторов, в версию вошло 5643 коммита.

Самое заметное для повседневной работы это явные ленивые импорты из PEP 810. Тяжёлые модули вроде torch или transformers теперь можно подгружать только в момент первого обращения, и CLI-утилиты и скрипты стартуют заметно быстрее. Ещё одно долгожданное изменение: UTF-8 наконец стал кодировкой по умолчанию на всех платформах, так что сюрпризы с open() на Windows уходят в прошлое.

В языке появились встроенные типы frozendict и sentinel, а в генераторах списков и словарей теперь работает распаковка через звёздочку. Сообщения об ошибках снова стали понятнее.

Экспериментальный JIT серьёзно доработали. На x86-64 Linux он даёт в среднем 7-8% прироста к стандартному интерпретатору, на Apple Silicon 11-12%. Официальные сборки под Windows перешли на tail-calling интерпретатор, а установщик для macOS по умолчанию ставит поддержку free-threading. Для сборок без GIL появился стабильный ABI, это откроет дорогу бинарным пакетам под многопоточный Python.

Для тех, кто ищет узкие места в коде, в стандартной библиотеке появился отдельный пакет profiling и высокочастотный сэмплирующий профайлер Tachyon. Указатели фреймов теперь включены по умолчанию, и системные профайлеры видят Python-стек без танцев с бубном.

В типизации добавили TypedDict с типизированными дополнительными ключами, TypeForm и disjoint bases.

Один нюанс для маководов: на macOS 27.0 приложения на tkinter, включая IDLE, могут зависать при открытии диалогов. Если работаете с Tk, с обновлением системы лучше подождать.

Бонус от Барри Уорсо: текстовый квест whatsnewt, где каждая из 18 головоломок решается реальной фичей 3.15. Запускается командой uvx --python 3.15 whatsnewt.

https://discuss.python.org/t/python-3-15-0-final-is-here/109415

@Python_Community_ru

‍🐍 Ротация прокси в Python может обходиться без списка IP и `random.choice()`

Если провайдер поддерживает ротацию на шлюзе, скрипт обращается к одному адресу. Выходные IP меняет сам сервис по выбранному режиму. Именно такой подход разобран в статье.

Минимальный пример проверки:


import os
import requests

# PROXY_URL: адрес шлюза с учётными данными
proxy = os.environ["PROXY_URL"]
proxies = {"http": proxy, "https": proxy}

for _ in range(5):
r = requests.get(
"https://httpbin.org/ip",
proxies=proxies,
timeout=(5, 15),
)
r.raise_for_status()
print(r.json()["origin"])


Нюанс: ключ "https" обозначает протокол целевого сайта. Сам адрес прокси при этом может начинаться с http://. Это корректная настройка для HTTP-прокси.

Ещё важно различать два режима:

• Ротация меняет выходной IP согласно настройкам провайдера.
• Sticky session закрепляет IP на некоторое время.

При этом requests.Session() сохраняет cookies и переиспользует соединения, но самостоятельно IP не меняет. Политику ротации нужно проверять у провайдера.

https://unlimitedresidentialproxy.com/blog/how-to-rotate-proxies-python

@Python_Community_ru

⚡️ Overmind - open-source слой для автоматической оптимизации AI-агентов.

Вместо ручного тюнинга он запускает эксперименты и помогает улучшать сразу несколько частей агента:

- системные промпты
- описания инструментов
- выбор модели
- pipeline и control flow
- поведение агента на реальных задачах

Идея в том, чтобы не гадать, какой prompt или model лучше, а системно тестировать варианты и оставлять те, которые реально дают прирост по метрикам.

Проект позиционируется как supervision + fine-tuning layer для agentic AI и доступен как Python-пакет. Свежая версия 0.1.82 опубликована 1 октября 2026 года. :

https://github.com/overmind-core/overmind

@Python_Community_ru

📱 35 млрд параметров на смартфоне с потреблением около 3 ГБ оперативной памяти.

OpenBMB показала MiniCPM-V 4.7: мультимодальный ИИ, который локально читает вывески, разбирает документы и анализирует изображения и видео.

Доступны две версии:

• 35B-A3B: MoE-модель с 35 млрд параметров, из которых около 3 млрд активны при обработке токена.
• 1B: компактный вариант для устройств с ограниченными ресурсами.

Главная технология, Lookahead Expert Scheduling, заранее подгружает нужных экспертов из накопителя и совмещает загрузку с вычислениями. По данным команды, на iPhone 17 Pro Max модель выдаёт более 13 токенов в секунду.

3 ГБ здесь означают память во время работы: веса модели хранятся отдельно на накопителе.

Также открыли Self-Replay Fine-Tuning для обучения новым задачам с меньшим забыванием прежних навыков. Поддерживаются iOS, Android и HarmonyOS.

https://github.com/OpenBMB/MiniCPM-V

@Python_Community_ru

‍🖥 Datadog научила профилировщик Python понимать asyncio: флеймграфы со «стеками из стеков» и оверхед меньше на 60%

Главная боль профилирования asyncio в том, что каждая задача выглядит как независимый стек. Время в запросе к Cassandra повисает в воздухе, и непонятно, какой именно путь в приложении его породил.

Инженеры Datadog решили это так: профилировщик отслеживает, какая задача кого ждёт, строит дерево зависимостей и начиная с листьев надстраивает фреймы родителей поверх фреймов потомков. Код, разбитый на отдельные задачи, и обычные корутины в одной задаче теперь дают сопоставимые флеймграфы. Если задача живёт дольше создателя, время засчитывается создателю, пока он работает, а затем тому, кто её ждёт.

Цена такого подхода высокая: к стоимости на поток добавляется O(n_tasks), а серверы держат много задач, поэтому адаптивный сэмплинг местами падал до минимальной одной выборки в секунду.

Резервуарное сэмплирование задач команда отвергла, потому что для дерева нужны метаданные всех задач.

Оверхед срезали тремя шагами. Убрали C++ исключения из пути сэмплирования, это около 15%. Интернировали строки имён функций и файлов, ещё около 25%. Заменили process_vm_readv, по системному вызову на каждый маленький объект, на memcpy с обработчиком сигнала для восстановления после ошибок памяти, это около 50% для синхронного кода.

В сумме на сервисах с выкаченными изменениями оверхед упал более чем на 60%.

В проде профилировщик нашёл бесконечный цикл в библиотеке pylzstring, которую затем починили в апстриме, и внутреннюю библиотеку, строившую большие debug-строки при логгере уровня INFO. Отдельно ИИ-агент через MCP и Dynamic Instrumentation оптимизировал функ
ции на NumPy и снизил CPU в них на 15-30%. Улучшения доступны в свежих версиях ddtrace. Автор отмечает, что похожий подход принят в Tachyon, профилировщике CPython 3.15, но сравнения не делает, как и абсолютных цифр оверхеда.

Источник: https://www.datadoghq.com/blog/engineering/async-python-profiler/

@Python_Community_ru

🧠 Tencent открыла Hy Memory: общую память для ИИ-ассистентов и редакторов кода

Система объединяет память о переписках, работе и коде, чтобы контекст можно было использовать между Codex, Cursor, WorkBuddy и другими инструментами. Открыты модель, движок и приложение.

В основе Hy-Memory-30B-A3B: 30 млрд параметров, из которых активны 3 млрд.

По данным команды, система заняла первое место во всех четырёх проведённых бенчмарках, обойдя Opus 5 в тестах памяти:

• +10,2 пункта на MemoryArena.
• На 51,8% меньше объём памяти.
• На 39,3% меньше токенов при извлечении воспоминаний.

Модель работает и с чужими движками: Mem0, MemOS и EverMemOS. В одном из продуктов Tencent точность восстановления информации через несколько связанных фактов выросла с 50% до 90%.

https://huggingface.co/tencent/Hy-Memory-30B-A3B

@Python_Community_ru

🧠 Python + Prolog: нейросети и строгая логика в одном процессе

Clausal Prolog объединяет Python с языком логического программирования Prolog. Нейросеть может вызывать правила, а правила обращаться обратно к нейросети. Без отдельного сервиса и сериализации данных.

Что это даёт:

• Явные ограничения: можно задать условия, которым должно соответствовать решение.
• Понятные выводы: проследить, какие правила привели к результату.
• Изменение поведения без переобучения: достаточно поправить правило.

Например, модель предлагает план действий, а логический слой проверяет его по заданным ограничениям. Такой подход называют нейросимвольным ИИ.

Установка: pip install clausal. Нужен Python 3.13+. Лицензия MIT.

https://github.com/neurosymbolica/clausal-prolog

@Python_Community_ru

🔍 «Разберись, как это работает»: ИИ-агентам дали инструменты для реверс-инжиниринга

REA, Reverse Engineer Anything, подключает Claude Code, Codex, Cursor и другие агенты к инструментам анализа программ через MCP.

Можно попросить агента изучить функцию приложения без исходников: проследить вызовы, разобрать логику и на основе найденного написать похожую реализацию для своего проекта.

Поддерживаются нативные бинарники, JavaScript и Electron, .NET, Android APK и сайты. Для глубокого анализа бинарников используются Ghidra, IDA или Hopper.

Анализ выполняется локально. REA возвращает находки с подтверждениями и ограничениями, а агент использует их для дальнейшего исследования и написания кода. Результаты при этом передаются модели вашего провайдера.

Исходный код целиком инструмент не восстанавливает, но помогает понять устройство программы вплоть до псевдокода и ассемблера.

https://github.com/morluto/rea

@Python_Community_ru

🌟 SonicBoom: движок инференса без Python

HardenedVault, которая специализируется на безопасности Linux и компиляторов, выложила среду исполнения SonicBoom (https://github.com/hardenedlinux/SonicBoom), написанной с нуля на C++ и CUDA. Python ей не нужен ни для работы, ни для сборки.

Цель проекта – локальный запуск языковых моделей на потребительских видеокартах.

Всё упаковано в одну библиотеку libsonicboom.so, которую можно подключить из любого языка через стандартный интерфейс C, основным языком для работы с ней авторы выбрали Scheme в реализации GNU Guile.

SonicBoom загружает модели в GGUF, генерирует текст на процессоре или видеокарте и поднимает локальный сервер, совместимый с API OpenAI.

Если новый запрос начинается с того же текста, что и предыдущий, заново обрабатывается только добавленная часть, и результат до токена совпадает с полным пересчётом.

🟡Механика

Скорость вывода дают уровни над вычислительными ядрами, а не сами ядра. Умножение квантованных матриц и токенизаторы частично перенесены из llama.cpp.

Над ними работает планировщик, который до запуска переписывает граф модели целиком, сливает соседние операции и записывает весь шаг генерации токена в один CUDA Graph, т. е. в готовую последовательность команд для видеокарты.

Ещё выше стоит компилятор на базе MLIR. Он сам генерирует часть ядер для GPU, в том числе для механизма внимания, и при первом запуске подбирает самый быстрый вариант под конкретную карту.

🟡Тесты

На RTX 3050 с 8 ГБ памяти сравнили SonicBoom и llama.cpp на одних и тех же моделях.

Gemma 4 E4B через SonicBoom дала генерацию в 53 токена в секунду против 44,8 у llama.cpp.

У Qwen2.5-0.5B вышло 344,7 токена в секунду против 307,6.

Когда контекст дорастает до 512 токенов, SonicBoom на Qwen уже чуть отстаёт.

Единственный сторонний результат на RTX 4060 Ti оказался хуже llama.cpp, 73,6 токена в секунду против 78, но его получили на сборке, ещё не настроенной под эту видеокарту.

Пока проверены только две модели, Gemma 4 E4B-it и Qwen2.5-0.5B-Instruct, и только видеокарты серии RTX 30.

Модель всегда выбирает самый вероятный токен, температуру и другие настройки случайности задать нельзя.

Следующими в планах стоят модели Llama и Mistral, работа через Vulkan, генерация ядер для видеокарт других производителей и диффузионные модели.

Дальше SonicBoom планирует вырасти в фреймворк в духе PyTorch, где модель пишут на Scheme и компилируют в граф вычислений. Прототип этого режима уже обучает небольшой трансформер.


📌Лицензирование: GPL-3.0


🖥Github (https://github.com/hardenedlinux/SonicBoom)


@ai_machinelearning_big_data

#AI #ML #LLM #InferenceEngine #SonicBoom

@Python_Community_ru

⚙️ Почему код тормозит, даже если алгоритм хороший?

Причина может скрываться в промахах кэша, предсказании ветвлений, расположении данных или конкуренции потоков за память.

CPU Performance Engineering собирает материалы, которые помогают разобраться в этих ограничениях. Путь идёт от выполнения одной инструкции до запуска ИИ-моделей на CPU.

Внутри:

• Микроархитектура процессоров x86 и Arm.
• Кэши, память, NUMA и false sharing.
• Профилирование, perf и flame graphs.
• SIMD, векторизация и оптимизации компилятора.
• Многопоточность и задержки под нагрузкой.
• Инференс моделей и квантизация.

В 14 разделах есть воспроизводимые бенчмарки на C: исходники, команды сборки, результаты и разбор. Можно проверить поведение на своём железе.

Подборка опирается на первоисточники: статьи, документацию и измерения. Есть и MCP-сервер для подключения материалов к ИИ-ассистенту.

https://github.com/usamahz/cpu-performance-engineering

@Python_Community_ru

PyTorch экономит память при обучении LLM и лучше использует GPU на Mac

OpenTeams рассказала о своём вкладе в PyTorch за 2026 год. Несколько изменений, которые пригодятся на практике:

- Меньше разрывов в `torch.compile`. Dynamo перестраивают по образцу внутренних механизмов CPython, чтобы он точнее обрабатывал обычный Python-код. Это сокращает ситуации, когда компиляция прерывается и выполнение возвращается в Python.

- До 4 раз меньше пиковой памяти на расчёте loss. В PyTorch 2.13 появился LinearCrossEntropyLoss: он обрабатывает данные частями, не создавая целиком огромный тензор оценок по всему словарю. Особенно полезно при обучении языковых моделей.

- Больше операций на GPU Apple Silicon. MPS получил нативные реализации дополнительных операций. По замерам команды, native_group_norm на M4 ускорился в среднем более чем в 10 раз.

- Экспериментальная компиляция комплексных вычислений. В PyTorch 2.14 комплексные операции можно разложить на операции с вещественными тензорами и передать существующим механизмам оптимизации.

Для PyTorch 2.15 также подготовлены поддержка Python 3.15 в `torch.compile` и API отдельных MPS-потоков. Они позволят отправлять работу в несколько очередей GPU на Mac.

https://openteams.com/engineering-blog/pytorch-year-in-review-2026/

@Python_Community_ru

Нововведения Python 3.15 превратили в игру: чтобы пройти дальше, придётся писать код.

whatsnewt - терминальный квест от Барри Уорсо. Вы просыпаетесь внутри интерпретатора и проходите 15 комнат с 18 головоломками, посвящёнными возможностям Python 3.15.

По пути встретятся ленивые импорты, frozendict, sentinel, распаковка в comprehensions, изменения типизации и другие нововведения.

Ответы запускаются в настоящем Python 3.15. Для заданий на типизацию используется pyrefly. Проверяется не только результат, но и способ решения: обойти новую конструкцию привычным циклом не всегда получится.

Внутри есть карта, инвентарь, подсказки за очки, ссылки на документацию и автосохранение.

Запуск через uv:


uvx --python 3.15 whatsnewt


Любопытная деталь: по словам автора, значительная часть игры написана совместно с Claude.

Хороший повод изучить релиз на практике: каждая новая возможность становится задачей, которую нужно решить самому.

https://pypi.org/project/whatsnewt/

@Python_Community_ru

‍Генерировать видео и менять происходящее текстовыми командами прямо на ходу - одна из возможностей LongLive от NVIDIA.

Сейчас репозиторий объединяет четыре исследовательских проекта:

- LongLive 1.0 - интерактивная генерация длинных видео: пользователь меняет промпты по мере появления кадров.
- LongLive 2.0 — инфраструктура обучения и генерации с квантизацией NVFP4 и распределением вычислений между GPU.
- LongLive-Plug — перенос возможностей, полученных при дистилляции базовой модели, на совместимые производные модели без повторного обучения.
- Long-WAM — модели для робототехники, которые используют визуальную историю при выборе действий. Есть обучение, тестирование и демонстрации на реальных роботах.

Для каждого направления опубликованы код, документация и веса моделей. Можно скачать только нужный проект.

Интересно, как здесь сходятся генерация видео и робототехника: модели должны учитывать предыдущие кадры и продолжать последовательность — визуальную сцену или действия робота.

Репозиторий для тех, кто исследует длинные видеопоследовательности, интерактивные миры и обучение роботов.

https://github.com/NVlabs/LongLive

@Python_Community_ru

Вопросы на собеседовании Python Senior: 100 вопросов с ответами (2026)

Вопросы на собеседовании Python Senior с ответами: 100 вопросов и примеры кода — CPython, GIL, asyncio, метаклассы, типизация, производительность, Python 3.14.


https://uproger.com/voprosy-na-sobesedovanii-python-senior/

@Python_Community_ru

🐍 Когда стандартного `sqlite3` в Python становится мало, есть APSW.

Another Python SQLite Wrapper даёт доступ к полному C API SQLite из Python.

Что можно использовать:

• Виртуальные таблицы для подключения собственных источников данных.
• VFS для управления тем, как SQLite работает с файлами.
• Session API для записи и применения наборов изменений.
• Полнотекстовый поиск, JSON и передачу массивов через CArray.
• Синхронный код и поддержку асинхронных фреймворков.

Для обычных SQL-запросов встроенного sqlite3 часто достаточно. APSW полезен, когда нужны расширенные возможности SQLite и более глубокий контроль над движком.

Установка: pip install apsw

https://github.com/rogerbinns/apsw

@Python_Community_ru

Python 3.15: что выведет lazy import? Задача с подвохом

Новая фича Python 3.15: lazy import (PEP 810). Импорт несуществующего модуля не падает при старте, а ошибка всплывает позже. Разбираем задачу с подвохом по шагам и показываем ограничения lazy. Сохрани, чтобы не ошибиться.

https://youtube.com/shorts/LorWGMBuokk?feature=share

@Python_Community_ru