🔖 Шпаргалки по Transformers и LLM от Stanford

Нашли отличный набор материалов из курса Stanford CME-295 по большим языковым моделям.

Охватывают токенизацию, механизм самовнимания, prompting, дообучение, LLM-as-a-judge, RAG, AI-агентов и модели рассуждений.

⛓️ Забираем здесь

tags: #полезное

➡ Data Scientist | Чат

🔖 Нашли агентный фреймворк, который учится на своих ошибках

Большинство AI-агентов используют статические навыки: написал один раз — и надеешься, что они всегда будут работать.

Memento-Skills идёт другим путём. Если навык не справляется с задачей, система сама анализирует ошибку, переписывает проблемный скилл и сохраняет улучшенную версию в библиотеку.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Джек Дорси передал своего AI-агента Goose в Linux Foundation

Goose — это не просто очередной кодогенератор, а полноценный агент для разработки.

Самое интересное — Goose может использовать Claude Code и Codex как субагентов, распределяя между ними задачи.

У проекта уже 46 000+ звёзд на GitHub и сотни контрибьюторов. Похоже, экосистема агентной разработки становится всё серьёзнее.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

📰 Вышла опенсорс-модель для извлечения данных из документов

Datalab открыли доступ к Lift — 9B-модели, заточенной под обработку PDF-файлов и изображений.

Что умеет:

— Извлекает структурированные данные в формате JSON;
— Показывает 90,2% точности — почти на уровне Gemini 3.5 Flash (91,3%);
— Обходит популярные open-source решения вроде NuExtract3;
— Обрабатывает документы в среднем всего за 9,5 секунды.

⛓️ Hugging Face тут, GitHub здесь

tags: #новости

➡ Data Scientist | Чат

🔖 Гайд по Codex 5.5, который поможет получать результаты лучше

Многие жалуются, что Codex стал работать хуже. Но проблема не всегда в модели.

Несколько советов:

— Декомпозируйте задачи через /goals;
— Используйте Krypton для расширения возможностей агента;
— Планируйте на XHigh, кодируйте на High;
— Не забывайте про Browser Use и Computer Use.

Дополнительно стоит подключить GitHub-репозиторий и использовать Pro-модель для ревью, тестирования и проектирования решений.

⛓️ Ссылка на дополнительный скилл

tags: #полезное

➡ Data Scientist | Чат

🔖 Собираем собственную GPT-подобную модель на PyTorch

Нашли отличный репозиторий для тех, кто хочет понять, как устроены современные LLM под капотом.

Внутри — 10 Jupyter-ноутбуков с пошаговыми объяснениями и реализацией ключевых компонентов языковых моделей.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

📰 Baidu выложила в опенсорс Unlimited-OCR

Новая OCR-модель умеет обрабатывать сотни страниц за один запуск и при этом сохраняет контекст даже на очень больших PDF-документах.

При размере всего 3B параметров она показывает 93% на OmniDocBench, обгоняет DeepSeek-OCR и сохраняет стабильную производительность даже при обработке сотен страниц за один проход.

⛓️ Ссылка на GitHub

tags: #новости

➡ Data Scientist | Чат

🔖 AI, который читает Reddit и Hacker News за вас

Проект собирает контент из крупнейших технологических площадок, анализирует его через AI, убирает дубли и формирует компактную сводку с самым важным.

Один инфоповод — одна запись. Без повторов, шума и бесконечного скроллинга.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Ошибка при выборе AI-железа

Вопрос не в том, «потянет ли видеокарта модель», а в том, что станет узким местом после загрузки.

Рынок сейчас:

• NVIDIA — максимум bandwidth
• Apple — максимум памяти
• Strix Halo — интересный x86 с unified memory
• Tenstorrent — open-source стек

Но после загрузки модели начинают решать KV-cache, декодирование, батчинг и качество софта.

Локальный AI сегодня — это не про гигабайты памяти. Это про баланс памяти, скорости и программного стека.

⛓️ Ссылка на источник

tags: #полезное

➡ Data Scientist | Чат

🔖 Вышла интерактивная карта всех работ с ICML 2026

Если не знаете, с чего начать изучение материалов одной из главных ML-конференций года — вот отличный вариант.

Можно исследовать статьи по тематикам, открывать краткие описания, переходить к полным версиям и сохранять интересные материалы в свою коллекцию.

⛓️ Смотрим здесь

tags: #полезное

➡ Data Scientist | Чат

🔖 Выжимаем максимум из локальных LLM

Нашли один из самых подробных гайдов по оптимизации локального запуска нейросетей.

Автор собрал практически всё, что влияет на скорость инференса: выбор видеокарты, работу с VRAM, квантизацию, настройку llama.cpp, KV-кэш, MoE-модели и множество практических рекомендаций.

⛓️ Пользуемся здесь

tags: #полезное

➡ Data Scientist | Чат

📰 GPT-5.6 задерживается

По данным СМИ, OpenAI планировала полноценный релиз GPT-5.6, но администрация США попросила отложить широкую публикацию из-за опасений, связанных с безопасностью модели.

На первом этапе доступ получит лишь ограниченный круг проверенных организаций, а одобрение клиентов будет происходить индивидуально.

⛓️ Подробнее здесь

tags: #новости

➡ Data Scientist | Чат

🔖 Не вся инфраструктура для локальных LLM одинаково быстрая

Ollama отлично подходит для быстрого старта, но если нужна максимальная производительность, многие переходят на vLLM.

Автор собрал практически всё, что влияет на скорость инференса: выбор видеокарты, работу с VRAM, квантизацию, настройку llama.cpp, KV-кэш, MoE-модели и множество практических рекомендаций.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Появилась одна из самых быстрых open-source TTS-моделей

Supertonic генерирует речь в 167 раз быстрее скорости её воспроизведения и при этом работает локально через ONNX.

Самое интересное — модель не требует GPU, поддерживает 31 язык, умеет передавать эмоции и запускается даже на Raspberry Pi. По скорости разработчики заявляют преимущество над ElevenLabs.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Prompt Engineering уходит? Встречайте Loop Engineering

На GitHub появился репозиторий, который предлагает новый подход к работе с AI-агентами.

Идея простая: вместо того чтобы постоянно писать промпты вручную, вы проектируете цикл, в котором агент сам:

— выполняет задачи;
— проверяет результат;
— исправляет ошибки;
— при необходимости эскалирует проблему.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Open-source AI Gateway для работы с LLM

Он умеет автоматически переключаться между моделями, делать повторные запросы при ошибках, балансировать нагрузку и поддерживает более 1600 моделей через разных провайдеров.

Хорошее решение, если строите сервисы поверх нескольких LLM.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Нашли OCR, заточенный под LLM

Сегодня почти все строят RAG поверх PDF-документов. Но если OCR плохо распознал текст — модель начинает галлюцинировать ещё до первого запроса.

olmOCR решает эту проблему: он превращает PDF, сканы и изображения в чистый Markdown, сохраняя структуру документа, таблицы, формулы и порядок чтения.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат