📰 GPT-5.6 задерживается

По данным СМИ, OpenAI планировала полноценный релиз GPT-5.6, но администрация США попросила отложить широкую публикацию из-за опасений, связанных с безопасностью модели.

На первом этапе доступ получит лишь ограниченный круг проверенных организаций, а одобрение клиентов будет происходить индивидуально.

⛓️ Подробнее здесь

tags: #новости

➡ Data Scientist | Чат

🔖 Не вся инфраструктура для локальных LLM одинаково быстрая

Ollama отлично подходит для быстрого старта, но если нужна максимальная производительность, многие переходят на vLLM.

Автор собрал практически всё, что влияет на скорость инференса: выбор видеокарты, работу с VRAM, квантизацию, настройку llama.cpp, KV-кэш, MoE-модели и множество практических рекомендаций.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Появилась одна из самых быстрых open-source TTS-моделей

Supertonic генерирует речь в 167 раз быстрее скорости её воспроизведения и при этом работает локально через ONNX.

Самое интересное — модель не требует GPU, поддерживает 31 язык, умеет передавать эмоции и запускается даже на Raspberry Pi. По скорости разработчики заявляют преимущество над ElevenLabs.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Prompt Engineering уходит? Встречайте Loop Engineering

На GitHub появился репозиторий, который предлагает новый подход к работе с AI-агентами.

Идея простая: вместо того чтобы постоянно писать промпты вручную, вы проектируете цикл, в котором агент сам:

— выполняет задачи;
— проверяет результат;
— исправляет ошибки;
— при необходимости эскалирует проблему.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Open-source AI Gateway для работы с LLM

Он умеет автоматически переключаться между моделями, делать повторные запросы при ошибках, балансировать нагрузку и поддерживает более 1600 моделей через разных провайдеров.

Хорошее решение, если строите сервисы поверх нескольких LLM.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Нашли OCR, заточенный под LLM

Сегодня почти все строят RAG поверх PDF-документов. Но если OCR плохо распознал текст — модель начинает галлюцинировать ещё до первого запроса.

olmOCR решает эту проблему: он превращает PDF, сканы и изображения в чистый Markdown, сохраняя структуру документа, таблицы, формулы и порядок чтения.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Библиотека для LLM-разработчиков

Если разрабатываете AI-приложения, этот репозиторий точно стоит сохранить.

Внутри собрано более 120 библиотек, разбитых по основным направлениям:

🫡 обучение и дообучение LLM;
🫡 RAG и интеграция моделей;
🫡 быстрый inference и деплой;
🫡 обработка данных и генерация синтетики;
🫡 AI-агенты;
🫡 prompt engineering и безопасность.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Библиотека, которую используют Uber и Microsoft

Нашли мощный open-source инструмент для каузального анализа — CausalML.

Он помогает оценивать эффект различных воздействий, строить модели с неоднородными эффектами и оптимизировать маркетинговые кампании.

Дополнительно доступны causal trees, meta-алгоритмы и поддержка SHAP для интерпретации результатов.

⛓️ Ссылка на либу

tags: #полезное

➡ Data Scientist | Чат

🔖 Cписок бесплатных API для LLM

Нашли GitHub-репозиторий, в котором собраны API для десятков популярных моделей.

Внутри Google AI Studio, Groq, OpenRouter, Cerebras, NVIDIA NIM, Mistral и другие сервисы с актуальными лимитами запросов.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 AI-агенты получили собственную иерархию

Новый проект Alook предлагает необычный способ управления агентными системами — через модель настоящей компании.

Не нужно строить сложные workflow: назначаете роли, создаёте структуру команды, а агенты сами распределяют задачи и взаимодействуют друг с другом.

Возможности:

✍️ локальное выполнение вычислений;
✍️ поддержка Claude Code, OpenCode и Codex;
✍️ self-hosting;
✍️ работа с открытыми и закрытыми моделями.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

📰 GPT-5.6 Sol уже на подходе

OpenAI представила сразу три новые модели:

🫡 Sol — новый флагман с рекордными 91,9% в Terminal Bench 2.1;
🫡 Terra — конкурент Claude Fable 5;
🫡 Luna — самая быстрая и дешёвая модель.

В течение суток модели появятся у подписчиков, а Luna станет доступна бесплатно.

tags: #новости

➡ Data Scientist | Чат

🔖 Легендарный учебник MIT по математике для Computer Science

Mathematics for Computer Science — один из лучших бесплатных учебников для разработчиков, ML-инженеров и дата-сайентистов.

Внутри — более 1000 страниц по дискретной математике, логике, графам, вероятности, комбинаторике, рекуррентным соотношениям и другим фундаментальным темам.

⛓️ Ссылка на учебник

tags: #полезное

➡ Data Scientist | Чат

🔖 6 RAG-архитектур, которые должен знать каждый AI-инженер

Многие используют Simple RAG по умолчанию, а потом удивляются, почему качество ответов перестаёт расти.

Вот что стоит знать:

✍️ Simple RAG — FAQ, чат-боты, базы знаний;
✍️ Hybrid RAG — сочетает векторный и keyword-поиск;
✍️ CRAG — перепроверяет результаты и запускает повторный поиск;
✍️ Self-RAG — сам решает, когда искать информацию, и оценивает свой ответ;
✍️ Graph RAG — работает через граф знаний и связи между сущностями;
✍️ Agentic RAG — использует AI-агентов, API и многоэтапный поиск.

tags: #полезное

➡ Data Scientist | Чат

🔖 Как сократить стоимость LLM-инференса до 90%

Если ваши AI-агенты постоянно отправляют один и тот же контекст, обратите внимание на LMCache.

Это open-source система управления KV-кэшем, которая позволяет повторно использовать уже вычисленные представления вместо того, чтобы пересчитывать их при каждом запросе.

В результате:

⚡️ до 14× быстрее Time To First Token;
⚡️ до 4× быстрее декодирование;
⚡️ существенная экономия GPU-ресурсов и стоимости инференса.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Изучаем Deep Learning на практике

Нашли репозиторий, где собраны небольшие проекты по глубокому обучению — от базовых концепций до более продвинутых техник.

Каждый проект посвящён отдельной теме и отлично подходит для практики.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

🔖 Огромная база знаний по PyTorch

Нашли одну из самых полных подборок материалов по PyTorch на GitHub.

Здесь собраны готовые реализации моделей, статьи, вспомогательные библиотеки, книги, туториалы и записи конференций.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат

📰 Как сделать ответы LLM более предсказуемыми

Даже хороший промпт не гарантирует, что модель вернёт нужный формат или не проигнорирует ваши инструкции.

Автор статьи показывает практические приёмы промпт-инжиниринга: использование XML-разметки, корректную постановку запретов и способы принудительно задавать структуру ответа.

⛓️ Читать статью

tags: #статья

➡ Data Scientist | Чат

🔖 Большой практический курс по Reinforcement Learning

Нашли репозиторий, который поможет освоить Reinforcement Learning от базовых концепций до продвинутых алгоритмов.

Автор сопровождает теорию практическими примерами на TensorFlow, благодаря чему материал отлично подойдёт для самостоятельного обучения.

⛓️ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат