Гиперсвязные нейронные сети. Имитация биологических нейронов: ОС, прунинг, ингибирование и межбатчевая связь

В этой статье я расскажу о собственных наработках, которые должны помочь связать признаки из разных слоев внутри одной сети. Как встроить возможность обобщения потока данных в саму механику модели, путем объединения показаний слоев на разных батчах. И о том, как адаптировать технологию для различных архитектур.
Как и всегда, вы имеете возможность изучить материал в разных режимах от простого развлечения до опробывания описанных принципов в своих проектах. Буду рад, если попробуйте и поделитесь результатами в комментариях.
Кроме того, я намеренно скрыл детальную информацию в спойлеры, чтобы не загромождать статью. Если вам интересны технические подробности, то вы знаете, что делать.

https://habr.com/ru/articles/1036164/

Алгоритмы и Структуры данных

HFT + LLM: почему «просто добавить ИИ» не работает и как строить системы без потери микросекунд

Если вы читали восторженные статьи о том, как ИИ трансформирует финансовые услуги, у вас могло сложиться впечатление, что внедрение больших языковых моделей и агентных систем в институциональные торговые среды — это в первую очередь инженерная задача: нужно лишь выбрать подходящую модель, настроить нужные параметры и дождаться роста эффективности.
Проработав почти пять лет архитектором по ИИ и интеграциям для платформы, обрабатывающей HFT-данные петабайтного масштаба более чем для 100 институциональных клиентов, включая Bank of America, Merrill Lynch, JPMorgan Chase и Citigroup, Лев Яцемирский, директор по искусственному интеллекту и интеллектуальным системам в Банке Монреаля, утверждает, что такое представление упускает самую важную часть проблемы. Самая сложная часть применения ИИ в высокочастотном трейдинге — это не сам ИИ. Это ограничения.

https://habr.com/ru/companies/finam_broker/articles/1046413/

Алгоритмы и Структуры данных

Как учить иностранные слова через интервальные повторения

Когда я учился в университете, то активно изучал английские слова. Тогда ещё не использовал какой-то специальный софт для этого. Я просто записывал слова в тетрадь: в первом столбце — слово на английском, во втором — транскрипция, в третьем — перевод на русский.

https://habr.com/ru/articles/1046267/

Алгоритмы и Структуры данных

Алгоритмы векторного поиска: IVF и HNSW

В данной статье я хочу пройтись по двум самым популярным алгоритмам векторного поиска, используемым на практике. Попробуем понять, почему точный поиск не работает в высоких размерностях и почему мы в итоге приходим к приближенному поиску.

Заодно мы затронем тему метрик, чтобы понять, как вообще сравнивают эмбеддинги. Рассмотрим вспомогательный и очень простой алгоритм k-means из классического ML’а, лежащий в основе IVF.

И наконец, подробно разберем два самых главных алгоритма IVF и HNSW с примерами их реализации на Python’е.

https://habr.com/ru/articles/1046654/

Алгоритмы и Структуры данных

Появился новый провайдер LLM - SaveRouter: лёгкий и выгодный доступ к Fable 5 и Opus 4.8 🧠

Самые современные модели Anthropic стали доступны и без лимитов.

$50 на тестирование — каждому пользователю Telegram Premium при регистрации

Скидка 70% всем, кто зарегистрируется до 23:59 UTC 24.07 (3:00am по Мск)

• Лучший вариант для OpenClaw, Hermes и других AI-агентов
• Совместимость с Anthropic API: Claude Code, Cursor, Cline, aider — подключение за 2 минуты

👉 svrtr.org

Графический интерфейс Мандельброта: Визуализатор с методом возмущений и предела 1e-308

Ключевые особенности:
Расчёт опорной траектории на 5000 бит всего один раз.
Реактивный расчёт миллионов пикселей на аппаратном double.
При использовании чисел с плавающей запятой двойной точности (порядка ) теория возмущений позволяет приблизиться к уровню  - не дальше.
Революционный алгоритм Reference Reset to Zero.
Настоящий SSAA 2x2 для идеально сглаженного изображения.
Параллелизм OpenMP для высокоскоростного многопоточного рендеринга.
Синхронизация через DwmFlush для плавного вывода кадров.
Динамическое вращение палитры для создания классического эффекта.

https://habr.com/ru/articles/1046708/

Алгоритмы и Структуры данных

Реставрируем музыку дома или как маленькая нейронка способна конкурировать с платными технологиями

Я люблю музыку. Не “фоном в наушниках”, а так, что жалко каждый трек. Развалившись в кресле или диване, взяв наушники и обмусолив каждую из нескольких тысяч композиций из моего плеера.

https://habr.com/ru/articles/1046878/

Алгоритмы и Структуры данных

Лампа плавного пуска

У меня было множество вело фар и всегда меня раздражало то, что фара включается практически мгновенно. Глаза даже не успевают приспособиться и это доставляет существенный дискомфорт. При этом на работе я много лет как раз разрабатывал ECU-прошивки для управления кузовной электроникой. В связи с этим я принял решение разработать себе прототип вело фары с плавным включением яркости для вело-фары.

https://habr.com/ru/articles/1044098/

Алгоритмы и Структуры данных

OSDEV: Разработка аллокатора на С++ часть 4. mem_malloc_aligned

Подразумевается что читатель знаком с архитектурой аллокатора из части 3 и понимает алгоритм неявного списка свободных блоков который был освещен в части 1
Аллокатор работает стабильно, все тесты зеленые, включая тесты на стабильность. И следующим шагом логично бы реализовать перегрузки new и delete для abi, но вот незадача: там есть версии принимающие дополнительный аргумент, а именно выравнивание. Эту фичу я реализовать как раз забыл. В архитектуре которая рассматривается в предыдущей статье это оказалось простой, но интересной задачей. Ее мы и обсудим ниже.
Решение потребовало реализации функции mem_malloc_aligned которая выделит бОльший кусок памяти с учетом запрошенного выравнивания что бы мы там точно нашли правильно выровненный адрес.
Но что если адрес указателя из mem_malloc_aligned не совпадает с адресом указателя который вернул mem_malloc? Что делать в mem_free? Что делать в mem_realloc? Как мне работать с указателем перед которым не хедера?

https://habr.com/ru/articles/1047178/

Алгоритмы и Структуры данных

Джим Саймонс и Medallion: что инженер рынка может вынести из истории величайшего quant-фонда

10 мая, в возрасте 86 лет умер Джим Саймонс, создатель Renaissance Technologies — одного из самых прибыльных хедж-фондов в истории. Его состояние оценивается в $31,4 млрд, 55-е место в рейтинге Forbes. Аналитики Уолл-стрит до сих пор не смогли разгадать главный секрет успеха самого прибыльного фонда Саймонса — Medallion.

Для создателей стратегий и алготрейдеров это не просто новость. Это повод задать вопрос: что именно делал Medallion и можно ли из этого извлечь практические уроки для собственных систем?

https://habr.com/ru/companies/finam_broker/articles/1046616/

Алгоритмы и Структуры данных

Три фикса, четыре ошибки, один файл

Несколько недель назад я писал, как мы четыре раза неправильно чинили мерцание при рендеринге 4,4 миллиона полигонов. Тогда казалось, что это рекорд: месяц блужданий, четыре отброшенных подхода, решение на неделю. Эта история хуже. Баг пережил четыре диагноза подряд, два из которых мы успели «подтвердить числами», получил по дороге три работающих фикса от несуществующих причин — и в итоге оказался файлом, который лежал на рабочем столе.
Напомню контекст: мы небольшой командой пишем на Rust + Vulkan редактор топологий интегральных схем + верификатор (DRC/LVS/Antenna/PEX) с прицелом на российский рынок. Команда — три человека, я в роли CTO направляю архитектуру и принимаю основные решения. В том числе неверные, о которых ниже. Тестовый основной дизайн всё тот же — Caravel SkyWater SKY130: 4,4 миллиона полигонов, 1014 уникальных ячеек, 22 уровня иерархии, 278 МБ GDS (недавно воспользовались прекрасным проектом TinyTapeout — для прогона на различных gds).

https://habr.com/ru/articles/1047302/

Алгоритмы и Структуры данных

Ненормальное марковское программирование

Какие программы могут быть по-настоящему достойны хаба "ненормальное программирование"?
Конечно же, программы для нормальных марковских алгорифмов! (Далее - НАМ).
Но, будем честны перед собой: абстрактные машины - очень просты в реализации. Зачастую вызов состоит в том, чтобы сделать какую-нибудь эзотерическую версию, язык для машины на минималках, и затем ещё и минимизировать транслятор для него.
Поэтому поставим задачу со звёздочкой: научимся писать для НАМ в компайл-тайме С++!
(Далее - компайл-тайм - КТ, рантайм - РТ

https://habr.com/ru/articles/1046688/

Алгоритмы и Структуры данных

Нейронные аудиокодеки: мощное сжатие звука с помощью LLM

Если использовать нейросеть как «большой словарь токенов» для архиватора, то можно разработать архиватор с рекордным коэффициентом сжатия. Например, сейчас в мировом бенчмарке Large Text Compression Benchmark (LTCB) лидирует компрессор NNCP, в котором Фабрис Беллар реализовал примерно такую идею:

https://habr.com/ru/companies/ruvds/articles/1040026/

Алгоритмы и Структуры данных

OSDEV: vsnprintf полная реализация без поддержки чисел с плавающей точкой

Думаю о разработке своей vsnprintf функции думал каждый кто увлекается osdev и есть много кода написанного на эту тему. Так же есть масса гайдов и туториалов, но не один из известных мне не заканчивается vsnprintf функцией проходящей тесты от gcc. Перед вами первый из них!
В первую очередь нужно сказать что ориентироваться будем на этот документ, но реализации расширений gnu в духе $, m$ не будет за исключением всего двух: вывод строки (null) вместо nullptr для спецификатора %s и строки (nil) вместо nullptr для спецификатора %p. Я уже не помню в какой версии glibc я видел (Nil) но мне это очень понравилось. Так же форматирование %p будет реализовано как в glibc.

https://habr.com/ru/articles/1046445/

Алгоритмы и Структуры данных

Ненормальное марковское программирование: неприятности

(Продолжение. См. первую часть, где мы научились кодить на марковских алгорифмах "на бумажке").
Сокращения:
НАМ - нормальные алгорифмы Маркова
КТ - компайл-тайм
РТ - рантайм

https://habr.com/ru/articles/1047886/

Алгоритмы и Структуры данных

MCP vs CLI + Skill: что выгоднее для ИИ‑агента при работе с внутренними API

Когда работаешь с ИИ‑агентом каждый день, важно не только качество постановки задачи, но и эффективность расходования ресурсов. Контекстное окно ограничено, а токены тратятся не только на решение самой задачи, но и на служебные данные: описания инструментов, параметры вызовов и промежуточные результаты. Чем выше эти накладные расходы, тем меньше ресурса остаётся на полезную работу. Нам захотелось разобраться, как делать больше, а расходовать меньше.

Для этого мы сравнили два способа «подружить» ИИ‑агента с внутренними API — MCP и CLI + Skill. Взяли гипотезу из внешних исследований, собрали бенчмарк на 14 сценариях и двух моделях, прогнали больше 400 запросов на реальных внутренних инструментах. И в какой‑то момент всё, что работало, сломалось — и это оказалось самым интересным. Пришлось разбираться почему.

https://habr.com/ru/companies/yandex/articles/1046191/

Алгоритмы и Структуры данных

Ненормальное марковское программирование: КТ-строки и синглетоны

(Сокращения: НАМ - нормальные алгорифмы Маркова, КТ - компайл-тайм, РТ - рантайм)
Продолжение. Первая часть - программирование на НАМ. Вторая - обзор неприятностей, концепты.

https://habr.com/ru/articles/1048176/

Алгоритмы и Структуры данных

Бритва Оккама против сложности: когда машинное обучение побеждает, а где сбоит в инвестициях

Принцип «бритвы Оккама» — краеугольный камень социальных наук. Для экономистов-финансистов он почти аксиома. Принцип назван в честь Уильяма Оккама, монаха XIV века. Согласно ему, самое простое объяснение любого явления — лучшее.

Как пишет The Economist, в настоящее время финансовые аналитики боятся «переобучения» — создания модели, которая благодаря своей сложности хорошо соответствует существующим данным, но плохо предсказывает будущее. Однако тут проявляется принцип Оккама. По новым данным, когда дело касается больших моделей машинного обучения, экономия переоценивается, а сложность может стать определяющим фактором. Если это так, методы современного инвестирования значительно изменятся.

Для тех, кто строит торговые стратегии, это не просто академический спор. Это вопрос о том, какую архитектуру выбирать, какие данные собирать и на какие компромиссы идти.

https://habr.com/ru/companies/finam_broker/articles/1046475/

Алгоритмы и Структуры данных

МТС приглашает на четвертый сезон True Tech Champ 2026 — всероссийского чемпионата по программированию с призовым фондом 10 250 000 рублей

Соревнование проходит в двух треках.

Трек 1. Алгоритмический [призовой фонд 2 750 000 ₽]
Проверь, насколько быстро и точно ты решаешь классические и нестандартные алгоритмические задачи.

Трек 2. Программирование роботов [призовой фонд 7 500 000 ₽]
Собери команду и запрограммируй робособаку и робота-манипулятора для доставки груза через полосу препятствий.

Зарегистрируйся на алгоритмический трек до 13 сентября и на программирование роботов до 27 сентября и включайся в гонку за финал True Tech Champ 2026.

Как мы считаем недельное меню в Pikni Food: пачки, остатки и solver вместо списка рецептов

Когда мы только начали собирать Pikni Food, идея выглядела довольно простой: пользователь отвечает на несколько вопросов, мы подбираем блюда, считаем калории и показываем список покупок.

На первый взгляд это похоже на обычное приложение с рецептами. Но довольно быстро стало понятно, что самая интересная часть начинается не в рецептах, а в довольно базовой продуктовой корзине.

Например, меню требует 620 г гречки, а в магазине она продаётся пачкой 900 г. Рецепту нужно 180 г творога, а упаковка может быть 400 г. Огурец в салате можно посчитать как 70 г, но купить его всё равно придётся штукой или лотком. Если считать только съеденные граммы, неделя выглядит аккуратно и недорого, ну а если считать чек, то… получается совсем другая история.

Так мы пришли к выводу, что мы делаем не просто «генератор рецептов», а планировщик продуктовой корзины. А в нём важно не только КБЖУ, но и многое другое, например: упаковки, остатки, сроки годности, цены магазинов, техника на кухне, время готовки и тд.

Ниже расскажу как это всё устроено, какие алгоритмы пробовали, с какими проблемами столкнулись и как мы их решали.

https://habr.com/ru/articles/1048656/

Алгоритмы и Структуры данных