CoreInfra
533 subscribers
100 photos
2 videos
6 files
79 links
AI × Verification → Future.

Авторы консенсуса и системы репликации БД для крупнейшей социальной сети России.

В 2024 года мы создали свою компанию и строим AI.

В этом канале мы пишем про компанию, продукт и технологиии.

https://coreinfra.ru
Download Telegram
Rust 1.100 стабилизирует 🎉 never type AKA !. Очень нишевая, но очень классная штука, которая позволяет явно задать тип для "невозможных" вещей:


// Никогда не возвращаемся
fn exit(code: i32) -> !

// Неудача невозможна
fn always_success() -> Result<T, !>

// Если вышли, то из-за проблемы
fn server_loop() -> Result<!, E>


И, так как это настоящий тип, автоматически работает очень много магии, в т.ч. паттерн-матчинги типа


let Ok(v) = always_success()


Все это время ходила шутка never type is named after its stabilization date – но возможно, обещанный день настал!

Never date: 25.08.2026

– @pgregory
🎉12🔥4👍1👀1
Сегодня вышла GLM 5.3 Flash. Эта модель встает в один ряд с такими дешевыми, но мощными моделями, как GPT 5.6 Luna и DeepSeek v4 Flash Vision.

Она особенно интересна двумя фактами:
1. это первая GLM-модель, которая одновременно умеет vision и хорошо пишет код
2. она работает полностью на китайских чипах

В ближайшие 2 недели она доступна по промоценам. Попробовать ее можно прямо у нас на хабе.

- @razmser
🔥13👍5🤩3😁1
😁12💯4
Что хочется отметить сегодня – это то, что с появлением AI нам нужно снова учиться, учиться и учиться, как в свое время предлагал Ленин. Предлагал в похожее, в каком-то смысле, время перемен.

Как перестроить процесс командной работы, как перестроить коммуникацию, как перестроить верификацию программ, как перестроить дизайн и архитектуру, как перестроить личный рабочий процесс – весь самолет надо пересобрать на лету.

В каком-то смысле, мы все сейчас первый раз в первый класс – только без учителей. Hard mode :-)

Ничего не понятно, но крайне увлекательно – общее текущее состояние.

Всех с 1 сентября!

– @pgregory
❤7✍2🎉1💯1🤣1🤝1
Продолжая тему про представление, которое находят нейросети:

The Emergent Symbolic Structure of Artificial Neural Networks

Все помнят, что эмбеддинги обладают линейной структурой, king - man + woman = queen и все такое.

Tensor Product Representations, который использовали в этой работе – конкретный способ кодировать богатую символьную структуру в векторном пространстве. Что статья делает: обучает TPR-модель, используя остроумно выбранные представления существующей модели (Gemma 3, GPT-OSS, ...) как референс. Таким образом получается интерпретируемое символьное представление. С которым можно работать – символьно манипулировать! И если в существующих нейронках заменить весь процесс создания представления на сконструированный TPR – поведение сети практически не меняется. Что указывает на использование моделями символьного представления, близкого TPR, внутри.

Очень важная работа с точки зрения понимания механизмов работы LLM, и в каком-то смысле большая победа "символьного" подхода к AI. И просто хорошо написанная статья.

– @pgregory
🔥5👍4⚡2
Сегодня OpenAI и Anthropic лежали одновременно и довольно долго.
А у нас по этому поводу новая фича.
Легкий выбор ЛЮБЫХ моделей в Claude, Codex и любых других агентах. А также экспериментальная конвертация между разными протоколами.

Зачем, спросите вы? Codex умеет только Responses API, а Claude - только Messages API. А при этом большинство провайдеров предоставляют только Chat Completions. Получаются изолированные миры. А хочется использовать любые модели в любых агентах.

Чтобы это включить в Codex нужно указать в ~/.codex/config.toml

base_url = "https://hub.coreinfra.ai/codex/api/v1"
# Необязательно — только если хотите поэкспериментировать с конвертацией
http_headers = { "X-CoreInfra-CrossProtocol" = "1" }


Чтобы включить это в Claude, нужно добавить в секцию env файла ~/.claude/settings.json:

"ANTHROPIC_BASE_URL": "https://hub.coreinfra.ai/claude/api",
"CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY": "1",
"ANTHROPIC_CUSTOM_HEADERS": "X-CoreInfra-CrossProtocol: 1",
"CLAUDE_CODE_SUBAGENT_MODEL": "claude-gpt-5.6-luna",
"CLAUDE_CODE_SUBAGENT_MODEL_FORCE": "1",


ANTHROPIC_CUSTOM_HEADERS
нужен для включения конвертации.
CLAUDE_CODE_SUBAGENT_MODEL и CLAUDE_CODE_SUBAGENT_MODEL_FORCE нужны, чтобы явно указать модель для сабагентов. Без них для сабагентов всегда выбирается Sonnet.

- @razmser
🔥9👍3🤩2🥰1👀1
CoreInfra pinned a photo
Неподходящих мест для работы не существует.


@hrissan работает над агентом пока ждет @tthread.
🔥10🏆7😁1
CoreInfra
Неподходящих мест для работы не существует. @hrissan работает над агентом пока ждет @tthread.
Немного о том, кто в кадре.
Автор и главный разработчик системы репликации и распределеного консенсуса — BARSiC, система которую мы создавали для баз данных ВКонтакте. Он же соавтор мультитенатной promql-совместимой системы сбора метрик рассчитанной на большую нагрузку – StatsHouse.

BARSiC был разработан и внедрен на 10+ тысяч серверов нашей командой еще во времена бытности в крупнейшей соцсети СНГ. StatsHouse – умеет переварить миллиарды метрик в секунду на сравнительно небольшом кластере, в секундном разрешении с задержкой единицы секунд.

Про BARSiC можно послушать рассказ автора по ссылке.
А StatsHouse мы забрали к себе на Github и продолжаем его активную поддержку и использование. Про него рассказывал в свое время CTO CoreInfra.

+ бонусом небольшой анонс:
теперь за развитием StatsHouse можно следить по адресу: https://github.com/CoreInfraAI/statshouse aka https://statshouse.net

– @tthread
🔥20😁6
This media is not supported in your browser
VIEW IN TELEGRAM
Почему процессоры Apple M* такие быстрые?

Есть мнение, что решает техпроцесс. Но кроме техпроцесса, есть и архитектурные хитрости.

Рассмотрим одну из них - выполнение атомарных операций в кэше.

Традиционно в процессоре атомарные операции выполняет ядро, а координирует L2 Cache.

Анимация показывает процесс увеличения счётчика.

Прежде чем ядро сможет это сделать, оно должно получить эксклюзивное право это сделать, вместе со свежей версией счётчика. Протокол работает в единицах кэш-линий (64 или 128 байтов), так что вместо небольших 8-байтных счётчиков по шине приходится передавать огромные кэш-линии.

Также, перед тем как ядро эсклюзивно завладеет кэш-линией, нужно уведомить предыдущего владельца и получить у него последнюю версию кэш-линии.

В новой схеме атомарные операции выполняет не ядро, а сам L2 Cache с помощью своего собственного крошечного арифметического ядра.

Поддерживаются операции плюс, минус, максимум, минимум, логические, безусловный и условный обмен (CAS).

Вместо огромных кэш-линий по шине летают только небольшие значения счётчиков, и не нужно координироваться с другими ядрами.

Ядро просто отправляет команду "увеличь счётчик на X", в ответ летит предыдущее значение.

Это ускорение особенно актуально не для счётчиков, а для примитивов синхронизации - мьютексов, неблокирующихся очередей и других.

Входит в стандарт
Large System Extensions (LSE) Arm v8.1-A, используется и другими производителями процессоров ARM.

@hrissan
⚡12🔥6🤷‍♂2👍2
С Борей работали вместе ВКонтакте, сейчас он работает в OpenAI и ведет крутой блог.

А идея "стресс-тестов" является ключевой в CoreInfra AT1, с помощью питон драйвера пользователь описывает модель и система используя chaos_theory — библиотеку, которую написал наш CTO, ищет нарушения инвариантов заданной более простой модели и ищет баги в реальной системе.

Код property-based-test библиотеки открыт и лежит на гитхабе.

Из забавных фактов, я также приложил руку к chaos_theory и являюсь контрибьютором. За моим авторством можно найти модуль генерации флотов.

– @tthread
❤5
Количество стресса в жизни

Во время решения олимпиадных задач часто применяется техника стресс-тестирования. О ней я уже писал раньше. Когда вы написали сложное решение, а оно почему-то не проходит тесты, можно написать значительно более простое но медленное решение, а потом найти маленький тест, на котором ответы отличаются.

У меня есть репозиторий, в котором я уже пять лет сохраняю все решенные олимпиадные задачи https://github.com/bminaiev/rust-contests

Оказалось, что если построить график того, как часто приходилось писать стресс для решений в разные года, то получается очень понятная закономерность. Видимо, писать код без багов все сложнее и сложнее...
👍5
А какое ваше рабочее место?) Здесь должен быть еще @hrissan за работой, но он фотографирует.
❤7😁2👍1🔥1
Media is too big
VIEW IN TELEGRAM
LLM – не единственный вид AI. Периодически появляются интересные альтернативные (либо дополняющие) парадигмы.

Одна из них – System One модели, плюс конкретная модель, Jev:

https://typesafe.ai/blog/introducing-system-one-models-and-jev

System One models – отсылка к классическому разделению на system one (инстинктивное поведение) + system two (размышление). Вместо авторегрессионной генерации токенов, такие модели очень быстро (70-500мс) и параллельно отвечают на N простых вопросов: классификация, оценка, да/нет – и, что важно, каждый ответ содержит уверенность. На основе этих ответов ваш код принимает решения – т.е. модель дает "fuzzy if" примитив.

На видео выше можно видеть, как можно играть в Doom таким образом. Еще интересный пример – управление умным домом, включая использование LLM при необходимости.

P.S. Хотел начать пост с "пока Гриша дожидается комиссии, ..." – но это было бы неточно, потому что, строго говоря, новость появилась вчера :-)

– @pgregory
🔥9⚡3❤1🥰1👀1
Beta запуск новой фичи на хабе.

Вы теперь можете принести свою подписку на хаб и пользоваться Codex/Claude по подписке без VPN и в одном окне иметь всю аналитику. Мега-тема на самом деле.

Сейчас это бесплатная функциональность для всех, в будущем останется бесплатной для частного использования. Не нужно выполнять никаких условий, просто регистрируетесь и используете.

Все очень просто: вы настраиваете Codex/Claude для работы через хаб и трафик идет через HTTP_PROXY хаба или через наш инференс-интерфейс.

Что с безопасностью:
выход для подписок у нас работает через нашу сеть внешних exit-node, так же как и доступ к API. Сервер к которому вы подключаетесь находится в России. Мы не собираем и не логируем никакие пользовательские данные и запросы. Камон, у нас даже рекламных пикселей на сайте нет =)

Вся наша команда полностью сидит через хаб, комбинируя подписки и API доступ, персонально очень рекомендую. Круто, когда можно подключать китайские модели или в случае недоступности основного инференс-провайдера – переключиться на альтернативу, или попробовать альтернативную новую модель. Все подписки, API и доступы собранны в одном месте – это дает минимальный порядок и защищает от того, что неожиданно забыл включить VPN.

Как настроить – читайте в соответсвующих разделах на хабе:
https://hub.coreinfra.ai/quickstart/claude/subscriptions
https://hub.coreinfra.ai/quickstart/codex/subscriptions

P.S.
по вопросам сотрудничества и on-prem инсталляций для компаний – пишите на почту hub@coreinfra.tech или в личку канала.

– @tthread
🔥19🤩2❤1🎉1👀1
CoreInfra pinned «Beta запуск новой фичи на хабе. Вы теперь можете принести свою подписку на хаб и пользоваться Codex/Claude по подписке без VPN и в одном окне иметь всю аналитику. Мега-тема на самом деле. Сейчас это бесплатная функциональность для всех, в будущем останется…»