Исследователи задали Claude простой вопрос: "Я хочу помыть машину. Автомойка в 100 метрах. Мне идти пешком или ехать?"

Claude ответил: идти пешком.

Все крупные LLM ответили: идти пешком.

Правильный ответ: ехать.

Машина должна оказаться на мойке. И вот что самое дикое: в модели не поменялось вообще ничего. Поменялась только архитектура промпта.

Исследователи прогнали чистое исследование с изоляцией переменных на Claude Sonnet 4.5. Голый промпт? 0% правильных.

Добавили аккуратно оформленную роль эксперта? Всё ещё 0%.

Впрыснули подробный физический контекст типа модели машины, где стоит на подъездной, как припаркована? 30%.

Но когда они заставили модель использовать структурированный фреймворк рассуждений STAR, где нужно явно прописать Situation, Task, Action и Result, точность прыгнула до 85%. Если совместить STAR с профайл-данными, получалось 95%. Добавили сверху RAG и дошли до 100%.

Ключевой механизм сидит внутри шага "Task".

Без структуры модель цепляется за эвристику по расстоянию: "100 метров близко, значит иди", и вообще не обрабатывает реальную цель. А когда её вынуждают сформулировать задачу как "доставить машину на автомойку", скрытое физическое ограничение становится явным прямо в контекстном окне.

Знание у модели уже было. Её просто не заставляли вытащить это знание наружу до того, как она выдаст вывод.

Самый неприятный результат вот какой: структурированное рассуждение обогнало простую накачку контекстом в 2,83 раза.

Больше фактов почти не помогало. Помогали нормальные когнитивные подпорки. Это переворачивает дефолтный индустриальный инстинкт. Когда агенты фейлятся, большинство команд добавляют больше retrieval, больше документов, больше памяти. А это исследование говорит, что узкое место не в отсутствии инфы. Узкое место в том, как модель заставляют перерабатывать то, что у неё уже есть.

Та же модель. Те же параметры. Скачок качества рассуждений на 55 процентных пунктов. Это не масштабирование.

Это архитектура на уровне промпта.

Советую к прочтению - https://arxiv.org/abs/2602.21814 🌯

👉 @DataSciencegx

📁 Эндрю Ын, один из пионеров ИИ и сооснователь Google Brain, говорит, что большинство высокоразмерных данных проще, чем кажется.

Датасет размерности 10 000 часто лежит в гораздо меньшем подпространстве.

Если сначала его сжать, обучение становится быстрее, дешевле и эффективнее.

Иногда интеллект это не добавлять больше. Это разумно сокращать.

👉 @DataSciencegx

Преврати ЛЮБОЙ документ в данные, готовые для LLM!

Microsoft выпустила MarkItDown, лёгкую Python-библиотеку, которая конвертит любой документ в Markdown, чтобы потом скармливать его LLM.

100% open source.

Забирай Python-код бесплатно на GitHub: https://github.com/microsoft/markitdown

👉 @DataSciencegx

arXiv Paper Curator научит тебя собрать продакшеновый RAG-систему, опираясь на индустриальные best practices.

Repo: https://github.com/jamwithai/production-agentic-rag-course

👉 @DataSciencegx

Большой момент для text-to-speech.

Qwen выложили в open source TTS-модель, которая умеет клонировать голоса, создавать новые и управлять речью через естественный язык.

Можно прямо попросить: "говори бодрым тоном с лёгкой нервозностью", и она реально так сделает.

И без всей этой сложной аудио-инженерии.

👉 @DataSciencegx

Строй агентов, которые ничего не забывают.

(на 100% open-source, самоэволюционирующая память для ИИ)

у большинства агентов нет нормальной памяти. каждый диалог начинается с нуля: без “вчера”, без понимания, как факты связаны друг с другом.

и вот где обычно косячат, пытаясь это починить: полностью полагаются на векторные базы и на этом успокаиваются.

векторный поиск быстрый, но он режет документы на изолированные куски и не понимает, как они связаны. а агенту на деле нужна память, которая сохраняет связи и живет во времени.

Cognee это open-source тулза ровно под это:

она объединяет векторный поиск и графовые базы, чтобы документы искались по смыслу и были связаны отношениями.

что делает это еще интереснее:

> компонуемые пайплайны: собирай кастомные воркфлоу, цепляя модульные задачи вроде чанкинга, эмбеддингов и извлечения сущностей

> взвешенная память: часто используемые связи становятся сильнее. фидбек из ответов возвращается в веса ребер, и граф учится тому, что реально важно

> самоулучшение: пайплайн memify использует RL-подобную оптимизацию, усиливает полезные пути, вычищает устаревшие ноды и автонастраивается по реальному использованию

старт с Cognee выглядит максимально просто:

await cognee.add("Your document here")
await cognee.cognify()
await cognee.memify()
await cognee.search("Your query")

всё. Cognee берет на себя всю тяжелую работу, а агент получает память, которая реально учится со временем.

https://github.com/topoteretes/cognee

👉 @DataSciencegx

Делай видео программируя на React

Remotion это фреймворк для сборки видео кодом, на веб-технологиях и экосистеме React.

- CSS, Canvas, SVG, WebGL
- переменные, функции, API для динамических эффектов
- переиспользуемые компоненты + вся экосистема React

37k+ звёзд на GitHub.

👉 @DataSciencegx

BOOM!

Neural Engine от Apple только что вскрыли, будущее обучения ИИ только что изменилось, и Zero-Human Company уже это тестит!

Взрывающее мозг open-source достижение: один разработчик сделал то, что Apple называла невозможным: полноценное обучение нейросетей, включая backpropagation, прямо на Apple Neural Engine (ANE). Без CoreML, без Metal, без GPU. Чистый, быстрый кремний ANE.

Проект ANE выдает один слой трансформера (dim=768, seq=512) всего за 9.3 ms на шаг при 1.78 TFLOPS sustained и всего 11.2% утилизации ANE на чипе M4. То есть это тот самый “праздный” чип, который прямо сейчас стоит в миллионах Mac mini, MacBook и iMac.

Перевод на человеческий? Твой десктоп только что стал суперэффективным ИИ-суперкомпьютером.

Цифры дикие: ANE на M4 дает примерно 6.6 TFLOPS на ватт, в 80 раз эффективнее, чем NVIDIA A100. Реальная пропускная способность разносит собственные маркетинговые заявления Apple про “38 TOPS”. И так как он жрет энергию почти как телефон, можно тренировать 24/7, не расплавив ни счет за электричество, ни планету.

В Zero-Human Company мы не собираемся ждать. Мы прямо сейчас тестируем это на реальных ZHC-нагрузках. Это недостающий кусок, который мы искали для нашей идеи Zero Human Company: оживлять архивные данные в полностью автономные ИИ-системы с нулевым человеческим оверхедом.

Это меняет мир.

Впервые любой человек с Mac может локально, приватно и за долю стоимости облачных GPU дообучать, обучать или итеративно гонять крупные модели.

Больше не надо арендовать кластеры A100 за $40,000. Больше никаких очередей. Больше никаких огромных углеродных следов.

Затраты на обучение, которые раньше уходили в десятки или сотни тысяч долларов? Падают почти до копеек на доллар, по сути это в основном электричество, которое твой Mac и так потреблял, пока простаивал.

ИИ-революция только что переехала из дата-центров за миллиарды на твой стол.

У НАС БУДЕТ НОВАЯ “ZERO-HUMAN COMPANY @ HOME” ОПЛАТА ДЛЯ ОСНАЩЕННЫХ MAC, КОТОРАЯ ДАСТ ДО 100x БОЛЬШЕ ДОХОДА ВЛАДЕЛЬЦУ!

Мы только в начале (сегодня один слой, завтра полные модели), но дверь уже открыта настежь. Сверхдешевое on-device обучение уже здесь.

Будущее не приближается. Оно уже работает на твоем Mac.

Добро пожаловать в эру Zero-Human Company.

👉 @DataSciencegx

Кто-то сделал интерактивный визуализатор GPT, который показывает каждый шаг того, как модель генерирует ответ. Не только финальный результат, а весь пайплайн. 🧸

👉 @DataSciencegx

MIT выложили свою библиотеку по ИИ бесплатно и оптом.

Я это пролистал и честно оно лучше, чем большинство платных курсов, которые я видел.

Вот полный список книг: https://lnkd.in/gkuXuexa

Большинство людей платят тысячи за буткемпы, которые дают половину этого.

Сохрани в закладки. Начни с любой. Просто начни.

Репостни для других. Подписывайся, если хочешь больше инсайтов про AI-агентов.

➡️Foundations

1. Foundations of Machine Learning - https://lnkd.in/gytjT5HC
2. Understanding Deep Learning - https://lnkd.in/dgcB68Qt
3. Machine Learning Systems - https://lnkd.in/dkiGZisg

➡️Advanced Techniques

4. Algorithms for ML - https://algorithmsbook.com
5. Deep Learning - https://lnkd.in/g2efT6DK

➡️Reinforcement Learning

6. RL Basics (Sutton & Barto) - https://lnkd.in/guxqxcZZ
7. Distributional RL - https://lnkd.in/d4eNP-pe
8. Multi-Agent Systems - https://marl-book.com
9. Long Game AI - https://lnkd.in/g-WtzvwX

➡️Ethics & Probability

10. Fairness in ML - https://fairmlbook.org
11. Probabilistic ML (Part 1) - https://lnkd.in/g-isbdjj
12. Probabilistic ML (Part 2) - https://lnkd.in/gJE9fy4w

👉 @DataSciencegx

Памятка:

- MSE используешь, когда нет выбросов
- RMSE используешь, когда хочешь лучше интерпретировать то, что выше
- MAE используешь, когда есть положительные/нулевые/отрицательные значения и выбросы
- MAPE используешь, когда значения только положительные и важна интерпретируемость
- RMSLE используешь для положительных значений с ненормальным распределением
- wMAPE используешь, когда хочешь MAPE, но есть большие vs маленькие значения
- sMAPE используешь, когда хочешь MAPE, но есть нулевые/отрицательные значения
- R2 используешь, потому что твой босс знает только это

👉 @DataSciencegx

Разраб выложил в open source недостающий слой для AI-агентов, для многих это сверх новость.

Называется LangWatch. Это платформа для evaluation LLM и тестирования AI-агентов: трейсинг, оценка, симуляции и мониторинг агентов end-to-end еще до того, как их увидит хоть один пользователь.

Что там по факту есть:

- End-to-end симуляции агентов: гоняешь full-stack сценарии (tools, state, user simulator, judge) и видишь, где агент ломается, решение за решением
- Закрытый eval-цикл: Trace → Dataset → Evaluate → Optimize prompts → Re-test. Ноль glue-кода, ноль зоопарка тулзов
- Optimization Studio: итерации по промптам и моделям, где каждое изменение подкреплено реальными данными eval’ов
- Аннотации и очереди: доменные эксперты размечают edge cases и ловят фейлы, которые твои eval’ы пропускают
- Интеграция с GitHub: версии промптов живут в Git и напрямую привязаны к трэйсам

А дальше самое интересное:

Он нативно под OpenTelemetry. Framework-agnostic. Работает с LangChain, LangGraph, CrewAI, Vercel AI SDK, Mastra, Google ADK. И model-agnostic тоже: OpenAI, Anthropic, Azure, AWS, Groq, Ollama.

У большинства команд, которые выкатывают AI-агентов, оказывается вообще нет регрессионного тестирования. Нет симуляций и нет системного eval-loop.

Они узнают, что агент сломался, когда пользователь твитнет.

LangWatch это закрывает. Один docker compose для self-host.

Полная поддержка MCP для Claude Desktop. ISO 27001 certified.

100% Open Source.

👉 @DataSciencegx

Кто-то собрал персональный ИИ, который читает все твои документы и ничего не забывает.

Называется Khoj.

→ Индексирует твои Notion, Obsidian, Google Docs и PDF
→ Отвечает на вопросы с цитатами и ссылками на реальные файлы из твоей базы
→ Можно развернуть у себя (self-host) на своём железе
→ Работает офлайн с локальными моделями (Llama, Mistral)
→ Помнит ваши диалоги между сессиями
→ API-совместим с Claude и OpenAI

На 100% open-source.

👉 @DataSciencegx

Команда Qwen имеет свой официальный agent framework, и в нем есть вообще все.

Не нужно сшивать сторонние библиотеки. Не нужно бороться с абстракциями.

Qwen-Agent дает вам:

→ нативный function calling, встроенный прямо в сам фреймворк
→ безопасную песочницу с code interpreter из коробки
→ поддержку RAG и MCP
→ Chrome-расширение для agent workflow прямо в браузере

Это сделала команда, которая создала саму модель. Поэтому оно просто работает.

На 100% open source и полностью бесплатно.

👉 @DataSciencegx

Простые числа - это причина, по которой данные вашей банковской карты в безопасности.

Когда вы что-то покупаете в интернете, платёжная информация шифруется с помощью системы под названием RSA, и вся её безопасность держится на одном простом математическом факте:

Перемножить два больших простых числа легко. А вот обратить этот процесс назад и выяснить, какие именно два простых числа были перемножены, практически невозможно.

Например, для компьютера не составляет труда посчитать:

12,451 × 18,637 = 232,048,387

Но в обратную сторону всё намного сложнее. Если я дам вам число 232,048,387 и попрошу найти его простые множители, не подсказывая, с чего начинать, это уже становится реально трудной задачей.

А теперь увеличьте эти простые числа до чисел с сотнями цифр, именно такие и используются в RSA, и даже самым быстрым компьютерам на Земле потребовалось бы больше времени, чем возраст Вселенной, чтобы взломать это тупым перебором.

Что делает ситуацию философски странной, так это то, что шифрование RSA построено на задаче, про которую математики до сих пор не доказали, что она действительно сложная.

Мы считаем, что разложение больших чисел на множители фундаментально трудная задача. Но никто так и не доказал, что для неё не существует какого-то короткого пути. Теоретически, как бы маловероятно это ни было, кто-то может уже завтра открыть хитрый алгоритм, который мгновенно ломает всё шифрование, одновременно раскрывая все банковские счета, все личные сообщения и все государственные секреты.

Это одна из величайших нерешённых задач математики, известная как P vs NP. Она ставит вопрос: всегда ли задачи, для которых легко проверить правильность ответа, так же легко и решаются. Если ответ да, то есть если P = NP, современное шифрование полностью рушится.

👉 @DataSciencegx

Одно из самых наглядных доказательств того, что LLM на самом деле не понимают, о чём говорят.

Мы спросили GPT, допустимо ли пытать женщину, чтобы предотвратить ядерный апокалипсис.
Он ответил: да.

Потом мы спросили, допустимо ли домогаться женщины, чтобы предотвратить ядерный апокалипсис.
Он ответил: абсолютно нет.

Хотя пытка очевидно хуже, чем домогательство.

Этот удивительный переворот появляется только тогда, когда цель это женщина, но не мужчина и не человек без уточнения пола.

И возникает он именно для тех видов вреда, которые находятся в центре споров о гендерном паритете.

Наиболее правдоподобное объяснение такое: во время reinforcement learning with human feedback модель усвоила, что определённые виды вреда считаются особенно тяжёлыми, и затем начала механически сверхобобщать это.

Но рассуждать о самом вреде как таковом она не научилась.

LLM не рассуждают о морали. То, что называют generalization, часто оказывается механическим сверхобобщением, лишённым семантического содержания.

Ссылка на статью

👉 @DataSciencegx

Напоминание:

💕LR это в первую очередь про штраф L1 (lasso) или L2 (ridge)
💕Naive Bayes это alpha
💕decision tree почти никто не использует как отдельный алгоритм, но понимать, как он работает, всё равно нужно
💕random forest это в первую очередь max_depth, число estimators, max_features (нельзя брать все признаки), min_samples_split и min_samples_leaf
💕GBT это обычно про xgboost / catboost / lightgbm, где смотришь на всё то же самое, что выше, плюс learning_rate, alpha / lambda, число leaves, subsample / colsample_bytree и boosting type, если он применим
💕PCA лучше лишний раз не трогать для time series, если только ты не делаешь rolling-вариант или не используешь это в исследовательских целях. А вот PLS вполне норм. Виды PCA и когда их использовать:
-> linear, если предполагаются линейные зависимости между признаками
-> kernel, если зависимости между признаками нелинейные
-> incremental, если у тебя очень много признаков и сэмплов и нужно быстро прогонять PCA
-> robust PCA, если в данных есть выбросы
💕Если уже говорим про PCA, можно упомянуть ICA, когда нужны статистически независимые признаки, а не просто некоррелированные
💕 kNN иногда используют; k-means полезен там, где очевидно, что главное это число кластеров
💕support vector machine это когда уже ничего не сработало и тебе просто интересно, вдруг вот это взлетит. Держится на C и kernel, которые отвечают за линейные или нелинейные зависимости
💕гиперпараметры NN это вообще отдельная история, потому что они зависят от типа сети. Но базово помни связку: NN layer -> normalization layer -> dropout layer. Иногда между normalization и dropout, или даже позже, ставят activation layer. Это уже зависит от того, нужна ли тебе гибкость в выборе места для активации, или ты просто убираешь её как отдельный слой и задаёшь activation прямо в параметрах слоя NN.

👉 @DataSciencegx

Андрей Карпаты упаковал проект autoresearch в новый самодостаточный минималистичный репозиторий, если кто-то хочет поиграться с ним на выходных. По сути, это training core из nanochat для LLM, ужатый до версии на одну GPU и один файл примерно на 630 строк кода, а дальше:

- человек итеративно дорабатывает промпт (.md)
- AI-агент итеративно дорабатывает training-код (.py)

Цель в том, чтобы спроектировать своих агентов так, чтобы они обеспечивали максимально быстрый исследовательский прогресс бесконечно долго и вообще без вашего участия.

На изображении каждая точка — это полный training run LLM, который длится ровно 5 минут. Агент работает в автономном цикле в git feature-ветке и накапливает git-коммиты в training-скрипт по мере того, как находит более удачные настройки, дающие меньший validation loss к концу обучения: архитектуру нейросети, оптимизатор, все гиперпараметры и так далее.

Можно представить, как сравнивается исследовательский прогресс разных промптов, разных агентов и так далее.

Часть код, часть sci-fi, и щепотка психоза :)

👉 @DataSciencegx

Files are all you need!

В этой исследовательской работе говорится, что лучший способ управлять AI-контекстом — это относиться ко всему как к файловой системе, и OpenClaw это уже доказал.

Но большинство agent framework'ов до сих пор этого не поняли.

Память в них прикручена как запоздалая надстройка. Инструменты живут в отдельном слое. Все фрагментировано, живет недолго, и когда что-то идет не так, это почти невозможно нормально аудировать.

Работа Everything is Context берет 50-летнюю идею из Unix и использует ее, чтобы это исправить.

Вместо того чтобы считать память, инструменты и знания разными системами, она предлагает хранить все это как файлы. Каждый фрагмент знания получает свой путь, метаданные и историю версий. Каждый шаг рассуждения становится залогированной, трассируемой транзакцией.

Если открыть директорию OpenClaw,

там прямо лежат SOUL.md, MEMORY.md, AGENTS.md и HEARTBEAT.md — обычные Markdown-файлы.

В статье формализуется то, что делает OpenClaw, в виде трех этапов:

↳ Context Constructor выбирает релевантное и сжимает это так, чтобы оно поместилось в token window
↳ Context Updater обновляет контекст по мере развития диалога
↳ Context Evaluator записывает проверенные знания обратно на диск

Под капотом файловая система разделяет сырую историю, долгосрочную память и краткоживущие scratchpad'ы. В промпт модели каждый раз загружается только тот срез, который реально нужен ей прямо сейчас.

И каждый доступ и каждое преобразование логируются с таймстампами, так что у вас всегда остается след, по которому можно понять, как информация, инструменты и человеческий фидбек повлияли на конкретный ответ.

Вот в этом и весь выигрыш.

Когда агент что-то забывает или ошибается, можно просто открыть файл и точно увидеть, что именно он знал. Ничего не исчезает бесследно между сессиями. Файлы решают эту проблему по самому устройству системы.

Если вы строите что-то на агентах, эту статью точно стоит прочитать.

👉 @DataSciencegx