31 ГБ векторных данных сжались до 4 ГБ - без единого часа обучения.
Если у тебя AI-поиск по своей базе документов (RAG), каждый текст превращается в вектор - числовой отпечаток смысла. Чем больше документов, тем больше памяти жрут эти отпечатки. На 10 млн документов это легко 31 ГБ RAM.
TurboVec - open-source библиотека на Rust (быстрый язык для системного софта) для такого поиска. В основе алгоритм Google TurboQuant: три простых шага без обучения на твоих данных - нормализация, случайный поворот и раскладка по бакетам (группам похожих векторов).
Что это даёт:
• сжатие в 16 раз без потери точности поиска
• на ARM-чипах (Apple, многие серверы) быстрее FAISS - популярной библиотеки Meta - на 12-20%
• готовые интеграции с LangChain и LlamaIndex - фреймворками для RAG-приложений
• работает в изолированной сети (air-gapped), данные не уходят в чужое облако
Если у тебя AI-поиск по своей базе документов (RAG), каждый текст превращается в вектор - числовой отпечаток смысла. Чем больше документов, тем больше памяти жрут эти отпечатки. На 10 млн документов это легко 31 ГБ RAM.
TurboVec - open-source библиотека на Rust (быстрый язык для системного софта) для такого поиска. В основе алгоритм Google TurboQuant: три простых шага без обучения на твоих данных - нормализация, случайный поворот и раскладка по бакетам (группам похожих векторов).
Что это даёт:
• сжатие в 16 раз без потери точности поиска
• на ARM-чипах (Apple, многие серверы) быстрее FAISS - популярной библиотеки Meta - на 12-20%
• готовые интеграции с LangChain и LlamaIndex - фреймворками для RAG-приложений
• работает в изолированной сети (air-gapped), данные не уходят в чужое облако
Та же база знаний помещается в сервер в разы дешевле - и весь поиск остаётся внутри компании, без облачных API.
This media is not supported in your browser
VIEW IN TELEGRAM
Mistral выложил в открытый доступ голосовую модель уровня ElevenLabs - и это всего 4 миллиарда параметров.
Называется Voxtral TTS. В слепых тестах носители языка выбирали её голос вместо ElevenLabs Flash v2.5 в 68% случаев.
Что умеет:
• Клонирует голос по 3-секундному образцу - сохраняет паузы, ритм, интонацию
• Отдаёт первый звук через 70 миллисекунд - подходит для живых голосовых агентов, а не только для озвучки роликов
• Держит эмоции и сарказм в голосе, не только текст читает
• Работает на 9 языках, причём голос из французской фразы можно перенести на английскую речь без дополнительного обучения
Веса модели лежат на Hugging Face по лицензии CC BY-NC 4 - использовать можно бесплатно, но не в коммерческих продуктах без отдельного разрешения.
Называется Voxtral TTS. В слепых тестах носители языка выбирали её голос вместо ElevenLabs Flash v2.5 в 68% случаев.
Что умеет:
• Клонирует голос по 3-секундному образцу - сохраняет паузы, ритм, интонацию
• Отдаёт первый звук через 70 миллисекунд - подходит для живых голосовых агентов, а не только для озвучки роликов
• Держит эмоции и сарказм в голосе, не только текст читает
• Работает на 9 языках, причём голос из французской фразы можно перенести на английскую речь без дополнительного обучения
Веса модели лежат на Hugging Face по лицензии CC BY-NC 4 - использовать можно бесплатно, но не в коммерческих продуктах без отдельного разрешения.
Раньше качественный голосовой агент означал подписку на закрытый API и счёт за каждую минуту речи. Теперь топовое качество голоса можно запустить у себя, если продукт не строится на продаже самого голоса.
16 000+ звёзд на GitHub получил инструмент, который заменяет сразу 4 сервиса в бэкенде.
Обычно любой бэкенд-проект начинается одинаково: нужна очередь задач, API, планировщик и система мониторинга (observability - слежка за тем, что происходит внутри системы). Это четыре разных инструмента, которые нужно связать между собой, прежде чем написать хоть одну бизнес-функцию.
iii (читается "три ай") собирает всё это в один процесс. Устанавливается как один файл-бинарник, без десятка зависимостей.
Внутри всего три понятия:
• Function - конкретная задача, которую нужно выполнить
• Trigger - событие, которое её запускает
• Worker - процесс, который подключается к системе и берёт задачи в работу
Нужна новая возможность (например, песочница для тестов или AI-агент) - одна команда в терминале, и она сразу видна всем остальным процессам в системе. Никаких отдельных конфигов и интеграций.
Работает с TypeScript, Python и Rust из коробки.
Обычно любой бэкенд-проект начинается одинаково: нужна очередь задач, API, планировщик и система мониторинга (observability - слежка за тем, что происходит внутри системы). Это четыре разных инструмента, которые нужно связать между собой, прежде чем написать хоть одну бизнес-функцию.
iii (читается "три ай") собирает всё это в один процесс. Устанавливается как один файл-бинарник, без десятка зависимостей.
Внутри всего три понятия:
• Function - конкретная задача, которую нужно выполнить
• Trigger - событие, которое её запускает
• Worker - процесс, который подключается к системе и берёт задачи в работу
Нужна новая возможность (например, песочница для тестов или AI-агент) - одна команда в терминале, и она сразу видна всем остальным процессам в системе. Никаких отдельных конфигов и интеграций.
Работает с TypeScript, Python и Rust из коробки.
Меньше отдельных сервисов - меньше точек, где всё может сломаться. Это и есть главная ценность: не скорость разработки, а количество вещей, которые больше не нужно поддерживать вручную.
❤1🔥1
Media is too big
VIEW IN TELEGRAM
На видео - AI-агент, который сам собрал сайт: от структуры страниц до готового кода.
Я не вёл его за руку - один раз правильно построил контекст и поставил задачу.
Раньше делегировать работу можно было только сотруднику. Сейчас точно так же можно делегировать её AI-агенту.
Правило одинаковое:не умеешь ставить задачу сотруднику - он сделает её плохо. Не даёшь агенту контекст, четкие правила и память о задаче - результат будет тоже же слабым.
Когда контекст выстроен правильно, агент проходит все этапы задачи автономно, в фоне, даже когда ты спишь.
Модели (GPT, Opus, Gemini и т.д) - это движок.
Сама модель не создает вам конкурентное преимущество, потому что, доступ к ним есть у всех кто погружен в AI.
Но то, что может действительно вас ускорить и поднять ваш бизнес - это технология создания рельсов для LLM-моделей.
Это назваться Harness.
В целом также как и с живыми сотрудниками, если вы наняли человека на работу и в первый день бросили его -> ожидать высоких результатов было бы странно.
Я не вёл его за руку - один раз правильно построил контекст и поставил задачу.
Раньше делегировать работу можно было только сотруднику. Сейчас точно так же можно делегировать её AI-агенту.
Правило одинаковое:
Когда контекст выстроен правильно, агент проходит все этапы задачи автономно, в фоне, даже когда ты спишь.
Что уже умеют агенты в моих проектах:
Контент и маркетинг
• собирают сайты и лендинги
• ведут соцсети, e-mail и телеграм-каналы
• монтируют рекламные ролики и управляют кампаниями
Люди
• ищут клиентов и сотрудников
• проводят онбординг и обучение
Рынок
• анализируют конкурентов и тренды, делают из инфоповодов контент
• находят рыночные возможности, помогают в управлении инвестициями
Модели (GPT, Opus, Gemini и т.д) - это движок.
Сама модель не создает вам конкурентное преимущество, потому что, доступ к ним есть у всех кто погружен в AI.
Но то, что может действительно вас ускорить и поднять ваш бизнес - это технология создания рельсов для LLM-моделей.
Простым языком это технология построения контекста, workflow и правильной постановки задачи для AI-агентов.
Если вы простроили правильный контекст и создали фундамент, то агенты будут допускать меньше ошибок, лучше понимать цели проекта, и работать автономно.
Если Harness не простроен и фундамента нет, вся мощь AI будет работать для вас обычным чат-ботом, и отвечать на вопросы.
В целом также как и с живыми сотрудниками, если вы наняли человека на работу и в первый день бросили его -> ожидать высоких результатов было бы странно.
❤4🔥4👍2
4 приложения на iOS, 0 пользователей, 0 дохода - в наше время это проблема касается почти каждого разработчика.
Все строят приложения с помощью Claude. Быстро, без команды и денег на разработку. Раньше написать рабочий продукт умел не каждый - это само по себе было редкостью.
Но сейчас продукт может собрать почти любой человек с подпиcкой за $20. А привести в бизнес первых пользователей - нет.
На своих проектах вижу: то, что раньше называли маркетингом, теперь основная работа основателя. Код и автоматизация - расходный материал. Аудитория и дистрибуция - то, что решает, будет у продукта жизнь или нет.
Эту задачу под капотом решает моя AIAvatar.pro: автономные AI-инфлюенсеры продвигают бренд сами - выкладывают сотни Reels в месяц на десятках аккаунтов, пока ты строишь продукт или отдыхаешь.
Все строят приложения с помощью Claude. Быстро, без команды и денег на разработку. Раньше написать рабочий продукт умел не каждый - это само по себе было редкостью.
Но сейчас продукт может собрать почти любой человек с подпиcкой за $20. А привести в бизнес первых пользователей - нет.
Умение построить продукт больше не редкость. Редкость - умение привести к нему первых 100-500-1000 клиентов.
На своих проектах вижу: то, что раньше называли маркетингом, теперь основная работа основателя. Код и автоматизация - расходный материал. Аудитория и дистрибуция - то, что решает, будет у продукта жизнь или нет.
Эту задачу под капотом решает моя AIAvatar.pro: автономные AI-инфлюенсеры продвигают бренд сами - выкладывают сотни Reels в месяц на десятках аккаунтов, пока ты строишь продукт или отдыхаешь.
This media is not supported in your browser
VIEW IN TELEGRAM
HyperFrames от HeyGen ушёл в open source - и теперь видео собирается из HTML
В HyperFrames агент пишет обычный HTML и CSS с покадровой анимацией. Headless Chrome отрисовывает кадры, FFmpeg склеивает их в MP4. Один и тот же HTML-файл каждый раз выдаёт одинаковый видеоряд - рендер детерминированный, без React и монтажных пайплайнов.
Просто HTML.
Apache 2.0, ~35 000 звёзд на GitHub, скиллы ставятся в Claude Code одной командой.
Рендер локальный. Нужен Node 22 и FFmpeg на машине агента - облачного API нет.
Для агентских видео-скриптов без монтажки - рабочий инструмент HeyGen с открытым кодом.
В HyperFrames агент пишет обычный HTML и CSS с покадровой анимацией. Headless Chrome отрисовывает кадры, FFmpeg склеивает их в MP4. Один и тот же HTML-файл каждый раз выдаёт одинаковый видеоряд - рендер детерминированный, без React и монтажных пайплайнов.
Просто HTML.
Apache 2.0, ~35 000 звёзд на GitHub, скиллы ставятся в Claude Code одной командой.
Рендер локальный. Нужен Node 22 и FFmpeg на машине агента - облачного API нет.
Для агентских видео-скриптов без монтажки - рабочий инструмент HeyGen с открытым кодом.
👍2🔥2
Гайд-Hermes-Часть3.pdf
1.8 MB
Очень полезный гайд по настройке Hermes Agens (автономные AI-сотрудники).
В гайде:
• Настройка многоуровневой памяти и семантического поиска.
• Оптимизация стоимости работы агента с помощью GLM 5.2 и роутинга моделей.
• Самообучение агента, навыки, субагенты и мультиагентные сценарии.
• Развертывание одного Hermes для работы с ПК, сервером и мобильными устройствами.
• Настройка безопасной автономной работы через sandbox, ограничения и внешнюю «клетку».
• Обзор новых возможностей Hermes 0.19 Quicksilver и подборка полезных community-навыков. :contentReference[oaicite:1]{index=1}
В гайде:
• Настройка многоуровневой памяти и семантического поиска.
• Оптимизация стоимости работы агента с помощью GLM 5.2 и роутинга моделей.
• Самообучение агента, навыки, субагенты и мультиагентные сценарии.
• Развертывание одного Hermes для работы с ПК, сервером и мобильными устройствами.
• Настройка безопасной автономной работы через sandbox, ограничения и внешнюю «клетку».
• Обзор новых возможностей Hermes 0.19 Quicksilver и подборка полезных community-навыков. :contentReference[oaicite:1]{index=1}
P.S. Автор: @edvardgrishin27
🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
90% кода можно писать моделью за $2 за миллион токенов
Схема простая: дорогая модель (тот же Claude) остаётся архитектором - держит спецификацию, принимает решения, проверяет результат. А печатает код Grok 4.5, он в разы дешевле топовых моделей и токенов на задачу тратит примерно в два раза меньше.
Маршрутит задачи между моделями бесплатный плагин для Claude Code с открытым кодом (лицензия MIT). Он сам решает, где хватит дешёвого исполнителя, а где нужен архитектор.
Схема простая: дорогая модель (тот же Claude) остаётся архитектором - держит спецификацию, принимает решения, проверяет результат. А печатает код Grok 4.5, он в разы дешевле топовых моделей и токенов на задачу тратит примерно в два раза меньше.
Маршрутит задачи между моделями бесплатный плагин для Claude Code с открытым кодом (лицензия MIT). Он сам решает, где хватит дешёвого исполнителя, а где нужен архитектор.
❤4
Google выпустил Open Knowledge Format v0.2: доверие агентов без скоринга
Формат решает одну задачу: агент, который генерирует контент, не оставляет за собой автора, к которому можно прийти с вопросом «почему ты это написал». Когда одна модель штампует десять тысяч тезисов за ночь, агент-читатель должен решить, доверять ли каждому - и сделать это до того, как разберёт текст по смыслу.
OKF v0.2 даёт для этого пять явных сигналов вместо одной скрытой оценки.
Самый подробный - source: откуда взялась информация, кто автор, сколько раз её уже использовали и когда обновляли последний раз. Дальше - кто сгенерировал текст и кто его независимо подтвердил, срок годности по конкретной дате вместо общего «устарело», и статус: черновик, стабильная версия или снятая с использования.
Формат открытый, без SDK и привязки к аккаунту - работает как слой метаданных вокруг контента, дополняя смысловую проверку. Пригодится там, где данные идут по цепочке от агента к агенту: финансовые отчёты, каталоги объектов, любые массивы, которые никто не читает глазами перед использованием.
Если строишь агента, который должен доверять чужим данным - начни с source и stale_after: эти два сигнала ловят большую часть мусора раньше остальных.
Формат решает одну задачу: агент, который генерирует контент, не оставляет за собой автора, к которому можно прийти с вопросом «почему ты это написал». Когда одна модель штампует десять тысяч тезисов за ночь, агент-читатель должен решить, доверять ли каждому - и сделать это до того, как разберёт текст по смыслу.
OKF v0.2 даёт для этого пять явных сигналов вместо одной скрытой оценки.
Самый подробный - source: откуда взялась информация, кто автор, сколько раз её уже использовали и когда обновляли последний раз. Дальше - кто сгенерировал текст и кто его независимо подтвердил, срок годности по конкретной дате вместо общего «устарело», и статус: черновик, стабильная версия или снятая с использования.
Формат открытый, без SDK и привязки к аккаунту - работает как слой метаданных вокруг контента, дополняя смысловую проверку. Пригодится там, где данные идут по цепочке от агента к агенту: финансовые отчёты, каталоги объектов, любые массивы, которые никто не читает глазами перед использованием.
Если строишь агента, который должен доверять чужим данным - начни с source и stale_after: эти два сигнала ловят большую часть мусора раньше остальных.
Интересное интервью с Андреем Карпаты.
Разговор о новой механике работы с AI-агентами и роли человека в этой системе.
Полезно тем, кто строит бизнес с AI или планирует:
Главная мысль:преимущество получат те, кто умеет превращать бизнес-цели в понятные задачи для агентов и выстраивать вокруг них процессы.
https://youtu.be/26TuOJZm14w
Разговор о новой механике работы с AI-агентами и роли человека в этой системе.
Полезно тем, кто строит бизнес с AI или планирует:
• как переходить от одного чата к команде параллельно работающих агентов
• как ставить задачи, передавать контекст и контролировать качество
• как AI меняет разработку, исследования и образование
• как автоматизация увеличивает скорость экспериментов и объём доступных задач
Главная мысль:
https://youtu.be/26TuOJZm14w
YouTube
Новый подкаст с Андреем Карпатым про ИИ-агентов
Что происходит, когда ИИ-агенты могут проектировать эксперименты, собирать данные и совершенствоваться — без участия человека? Андрей Карпатый присоединяется к Саре Гуо, чтобы обсудить состояние моделей, будущее инженерии и образования, влияние на рынок труда…
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Graphify строит граф знаний кода без единого вызова LLM
Инструмент проходит по синтаксическому дереву Tree-sitter прямо на диске и складывает связи между функциями и файлами в граф. Каждая связь помечена: EXTRACTED - взято прямо из кода, INFERRED - выведено логикой. Любую можно проверить руками.
На бенчмарке LOCOMO это дало 0.497 recall@10, тогда как специализированные системы памяти на том же тесте показали 0.048 и 0.149. Построение графа стоит 0 кредитов LLM - модель вообще не запускается.
Поддержка около 40 языков, плюс PDF, картинки и аудио. Лицензия Apache-2.0, 97 тыс. звёзд на GitHub, встраивается в Claude Code одной командой.
Минус - без модели граф видит только структуру связей, смысл кода остаётся за агентом сверху.
Инструмент проходит по синтаксическому дереву Tree-sitter прямо на диске и складывает связи между функциями и файлами в граф. Каждая связь помечена: EXTRACTED - взято прямо из кода, INFERRED - выведено логикой. Любую можно проверить руками.
На бенчмарке LOCOMO это дало 0.497 recall@10, тогда как специализированные системы памяти на том же тесте показали 0.048 и 0.149. Построение графа стоит 0 кредитов LLM - модель вообще не запускается.
Поддержка около 40 языков, плюс PDF, картинки и аудио. Лицензия Apache-2.0, 97 тыс. звёзд на GitHub, встраивается в Claude Code одной командой.
Минус - без модели граф видит только структуру связей, смысл кода остаётся за агентом сверху.