LLM весом 14 МБ 🌵

Пока все меряются размерами моделей на 500B параметров, ребята из Cactus Compute (YC) пошли в другую сторону и выкатили Needle 2 — модель на 45M параметров, которая весит 14 МБ и жрет 28 МБ оперативы.

Это не чат-бот и не «GPT в кармане». Это модель ровно под одну задачу: превратить кривую фразу юзера в вызов функции с нормальными аргументами.

Что по метрикам?

🟢 45M параметров, файл 14 МБ, пиковая сессия 28 МБ RAM
🟢 500+ tok/s декода на Raspberry Pi 5
🟢 300–700 tok/s на телефонах до $200 (та самая Samsung A-серия)
🟢 400–1500 tok/s на Quest 3S и Apple Vision Pro
🟢 Запускается даже на микроконтроллере ESP32-S3
🟢 Лицензия Apache 2.0, полностью открыта

На бенчах tool call и mobile device use она разменивается победами с FunctionGemma 270M, LFM2.5 230M и Apple FM — будучи в 5–70 раз меньше и работая в 2 битах против их f16.

Почему это вообще работает?

Чтобы включить свет в комнате, знание мировой истории не нужно. Умным часам, роботу и колонке хватает выбрать функцию и подставить параметры. Убрали болтовню — хватило 45M параметров вместо миллиардов.

Из технически приятного:

🟢 2-битное квантование не пост-фактум, а с самого претрейна — деплоите ровно ту модель, которую обучали
🟢 Грамматика компилируется из схемы, поэтому сломанного JSON физически не бывает
🟢 Каждый ответ несет confidence score: ниже вашего порога — эскалируем в облако, выше — работаем локально
🟢 На левые запросы возвращает пустой вызов, а не выдумывает функцию
🟢 Один C++ бинарник без зависимостей, сам щупает CPU и выбирает кернелы (NEON, AVX2, RISC-V, wasm)
🟢 Файнтюн под свои тулзы гоняется на обычном маке за минуты-часы

🔗 Сайт с песочницей прямо в браузере
🔗 Гитхаб
🔗 Веса

Что смущает?

Модель узкоспециализированная: поболтать, написать код или подумать она не сможет в принципе. Плюс из коробки она знает generic-тулзы, а под ваш продукт ее почти наверняка придется дообучать. То есть это не «поставил и работает», а кирпич для тех, кто строит железо или оффлайн-фичу.

В проде уже крутится: Pebble гоняет Needle локально в приложении Index 01, чтобы кольцо без экрана понимало голос без интернета.

Кому зайдет:

— софт под IoT, умный дом
— оффлайн-фичи в мобилках, где не хочется платить за каждый запрос в облако
— парсинг документов в структурированный JSON на клиенте
— локальные агенты, где приватность важнее красноречия

По кайфу, что кто-то наконец пилит ИИ не для владельцев макбуков за 3к$, а для железа, которого в мире реально больше. Сами будем тыкать — если у кого дойдут руки прикрутить к своему проекту, делитесь результатами в комментариях.

Чат | Support | Market
Pelican | HiddenCode [EN]

Cегодня кушаем

Aligned анонсировали детали Genesis дропа. Это старый проект из бородатого 2024 года, критериев было много. К примеру холд щитков: STRK/MINA/ZK/POL/SCR/TAIKO/EIGEN.

ЧЕКНУТЬ СЕБЯ МОЖНО ТУТ

🟢 Всего выделено 8.74% от сапплая 10 млрд токенов $ALIGN
🟢 На Community выделено 6.54%
🟢 Если аллокация менее 10к токенов, то 100% можно будет получить на TGE в сети Base
🟢 Если аллокация более 10к токенов, то 10к токенов будет доступно на TGE, остальная часть в течение 12 месяцев

Цена на премаркете 0.037$, токен будет на Coinbase, так что приятный фантомный дроп ожидается. Вчера еще и рыночек подрос, надеюсь активностей станет больше.

Чат | Support | Market
Pelican | HiddenCode [EN]

Свой Grok Bot локально

Думаю, все видели Grok Bot — мессенджер, где каждый контакт это AI-агент. На гитхабе уже лежит опенсорсный клон 1313 звезд за 9 дней. И крутится он не на подписке xAI, а на тех CLI, что у тебя и так стоят.

Что это такое:

🟢 Десктопное приложение-чат: в сайдбаре ростер ботов, у каждого свой характер, своя модель, своя память треда
🟢 Под капотом локальные claude, codex, grok — твои логины и подписки, без прокси посередине
🟢 Харнес-сервер живет на 127.0.0.1:8799, транскрипты и ключи остаются у тебя
🟢 Боты умеют рулить твоим компом (мак — из коробки, Ubuntu — бета и только GNOME) и на каждое действие спрашивают апрув
🟢 Рутины по расписанию и вебхук-триггеры — бота можно дернуть извне
🟢 Опционально: Composio (Gmail, Slack, GitHub, Notion), Box (облачный линукс для бота), ElevenLabs (озвучка)

Готовые билды: .dmg под мак (ARM и Intel), .exe под винду, .deb или AppImage под Ubuntu 24.04. Из исходников — Node 24+, pnpm и хотя бы один залогиненный CLI, он сам подхватится в пикере моделей.

🔗 Гитхаб - https://github.com/milind-soni/OpenMausBot

Что смущает?

Репе девять дней. Автор сам пишет «early but real»: 63 открытых ишью, мобилки и хостед-версии нет, вебхуки висят на локальном порту — наружу выставлять самому, через тот же Tailscale. Виндовый инсталлятор не подписан, SmartScreen будет орать про unknown publisher. И «фри» тут условное: оболочка бесплатная (Apache-2.0), но платишь ты за подписки Claude / Codex / Grok, а Box после триала — платный.

Отдельно: на хайпе уже полезли щитки с именем Maus и SupaMaus. Автор первой же строкой в README пишет, что токена у проекта нет и он ничего не эндорсит. Держим в голове.

По итогу: если claude или codex уже оплачен — вещь занятная, ставится за пять минут и дает агентам нормальный интерфейс вместо терминала. Но тащить это в рабочий контур я бы пока не стал.

Чат | Support | Market
Pelican | HiddenCode [EN]

Postman на выброс?

Postman давно превратился в тяжелый комбайн, который требует аккаунт, чтобы просто дернуть эндпоинт. Опенсорсная замена: 80к звезд, MIT, поднимается своим докером за пару минут.

Что умеет:

🟢 REST, GraphQL, WebSocket, SSE, Socket.IO и MQTT в одном окне
🟢 Веб, десктоп (Win / mac / Linux) и CLI для прогонов в CI
🟢 Пре-реквест скрипты и тесты на обычном JS, коллекции и окружения
🟢 Команды с ролями и синком, свой админ-дашборд
🟢 Self-host: docker-compose.yml лежит в репе, данные не уезжают в чужое облако

🔗 Гитхаб - https://github.com/hoppscotch/hoppscotch

Где подвох?

В браузерной версии CORS лечится их публичным прокси или расширением — значит запросы с твоими токенами идут через чужой сервер. Ставим десктоп или свой инстанс, и вопрос закрыт.

Второе: SSO и часть админки помечены как Enterprise. На соло-работе и мелкой тиме не заметишь, на компании из ста человек — упрешься.

По итогу: 80к звезд не на пустом месте, для личных и командных API это честная фри-замена Postman. Главное сразу идти в self-host, а не в облако.

Чат | Support | Market
Pelican | HiddenCode [EN]

Экономим на ИИ-подписках

Я думаю, что уже каждый имеет какую-то ИИшку и активно пользуется ей за полную стоимость. Однако есть варианты пользоваться ими дешевле!

Тайник предлагает выгодные цены на топовые ИИ-сервисы, а также на обычные подписки Spotify, Youtube и так далее - для каждого будет что-то интересное.

Приведем пример на Gemini Pro на 1.5 года:

❌Официальная подписка: ~360$ за всё время (плюс проблемы с оплатой из санкционных стран).
✅Через тайник: 4.99$ за ВСЕ 18 месяцев (около 0.28$ в месяц).

Проверили лично - все работает четко!

Ссылки на магазин:
https://t.me/taynikstore_bot?start=hiddencode
https://taynik.store/?ref=hiddencode

🛒 Также, для наших подписчиков действует промокод -10% code10.

Чат | Support | Market
Pelican | HiddenCode [EN]

Original Blokyz: результаты

Если участвовали в данном хайповом NFT раффле уже есть результаты.

🟢https://mint.blokyz.com/

Если пролетели уже можно делать рефаунд. Сама коллекция торгуется на OpenSea с флором в 0,23 ETH.

Шансы как и ожидал были мизерными, поэтому я мимо. Как ваши результаты? Делитесь.

Чат | Support | Market
Pelican | HiddenCode [EN]

FREE NFT в SunFlower Land

SunFlower Land — старая игра 2021 года с большой аудиторией, которую сторожилы крипточатов должны помнить с теплом.

Ребята решили вернуться в хайп NFT-меты и будут запускать новую коллекцию на 10000 штук NFT.

Как поучаствовать?
🟢 Заходим на сайт проекта и каждый день кликаем по яйцу собирая поинты
🟢 Закрываем доступные квесты и подключаем кошелёк
🟢Для повышения шансов на попадание в топ можно застейкать токены игры (~$7.5)

Рынок проснулся и активностей хватает, будем стараться освещать все в канале. NFT сча хайпит, вполне возможно, что у старой игрушки получиться покормить народ.

Чат | Support | Market
Pelican | HiddenCode [EN]

Waitlist от Jumper

Пока индусы на ARC у руля, а Robinhood мемы на коррекции заполняем быструю WL-ку от Jumper.

🟢Waitlist

Кто забыл, это агрегатор бриджей с объёмом 1млрд$ за 30дней и агрегатор для дексов с объёмом 200М$ за 30дней.

Цель попасть в топ 500, дедлайн 21 сентября. Будет за это дроп или доступ к НФТ не известно. Но недавно WL на робингуде стоила 6к$, поэтому такое не скипаю.

Чат | Support | Market
Pelican | HiddenCode [EN]

Arcus: перп на Robinhood Chain, где стоит отметиться уже сейчас

Arcus сделала команда dYdX, сменившая сеть. Тайминг удачный: и перп, и чейн сейчас на хайпе.

Что известно?
🟢 Торговля пока доступна немногим, остальные ждут в WL. Если вы торговали большие объёмы на Lighter, Hyperliquid (HIP-3), dYdX или других топовых перпах, доступ могут дать быстрее.
🟢 Поинт-программы официально нет, но поинты уже считаются на бэкенде. Активность стоит проявлять уже сейчас.
🟢Метрики на DefiLlama стабильно растут, сейчас проект на уровне RiseX и TxFlow.

Как поучаствовать?
🟢Заходим на сайт и жмём Connect Wallet - Enable Trading
🟢Вводим инвайт-код DUO (он даёт скидку на комиссии) и жмём Start Trading
🟢Слева жмём Perps - Join Waitlist
🟢Подключаем твиттер, подписываемся на Arcus и подключаем кошелёк (можно добавить несколько кошельков с историей торгов)

Конкуренты: на Robinhood Chain два крупных игрока: Arcus и Lighter RH. Мелкие проекты (Meridian, Mog) уже сдулись.

Ничего сложного делать не нужно, очевидные возможности у всех на виду. Ранний этап в хайповом перпе на хайповом чейне пропускать нельзя, отмечаемся уже сегодня!

Чат | Support | Market
Pelican | HiddenCode [EN]

Tangem или Ledger?

Как мы знаем холодный кошелёк нужен, чтобы хранить крипту надёжно. Но если пользоваться им неудобно, новичок до него просто не доходит. Вот где Tangem выигрывает:

🟢Можно без 24 слов. Ключи создаются внутри чипа и не покидают его. Не нужно думать, где спрятать бумажку с сид-фразой, и бояться, что её кто-то найдёт. Если всё же хочется классическую сид-фразу, такой режим тоже есть.

🟢Меньше способов атаковать. У карты нет USB, Bluetooth и аккумулятора. Чем проще устройство, тем меньше в нём уязвимых мест.

🟢 Прошивку нельзя обновить. Её записывают на заводе, и поменять её потом нельзя. Значит, подсунуть вредоносное обновление тоже не выйдет.

🟢Пользоваться так же просто, как банковской картой. Прикладываете её к телефону по NFC, и всё. Проводов нет, заряжать ничего не нужно, настройка занимает пару минут.

https://tangem.com/invite/HIDDENCODE

В итоге Ledger даёт больше функций, a Tangem даёт меньше поводов ошибиться, и для первого холодного кошелька это часто важнее.

Чат | Support | Market
Pelican | HiddenCode [EN]