📘 На Stepik вышел курс — «LLM Security PRO: prompt injection • утечки • tool-abuse»

Если вы используете LLM в проде и в запросы/логи может попасть ПДн — вы рискуете комплаенсом (вплоть до штрафов на миллионы рублей, по отдельным нарушениям — до 6 млн ₽).
А если у вас нет инженерных контуров безопасности, то даже без “юристов” вы можете потерять проект: injection через пользователя/документ, утечки в ответы/логи, опасные tool-действия, cost-DoS и остановка релиза.

Этот курс — практический путь к безопасному LLM-продакшну:

• Prompt injection (direct) + indirect injection через RAG: как это ломает поведение и как закрывать
• Защита RAG: instruction hierarchy, grounded-режим, цитирование, контроль контекста
• Tool security: allowlist, scopes/permissions, approvals (human-in-the-loop), валидация параметров
• Output safety: строгий JSON-контракт (Schema/Pydantic) + safe parsing
• Leakage prevention: redaction, политика логов/ретеншн, memory hygiene
• Cost control: лимиты токенов/времени/tool-calls, anti-loop, quotas/rate limit, circuit breaker
• Red-team suite + security-gates в CI/CD: чтобы регрессы не уезжали в релиз

🎓 Сертификат Stepik — в резюме/LinkedIn

💻 Локальный стенд + реальный LLM (OpenAI API), код на GitHub, сервисы поднимать не нужно

🚀 Скидка 25%, действует 48 часов

👉 Пройти курс со скидкой

🧠 Anthropic и Claude - одни из главных бенефициаров 2025 года.

Claude продемонстрировал самую долгую автономную работу ИИ-агента на сегодня — 4 часа 49 минут без участия человека.

Это соответствует 50% time horizon и является текущим рекордом в агентных системах.

Но картина не такая однозначная.

У флагманской модели Claude Opus 4.5:
- 80% time horizon составляет всего 27 минут
- это примерно уровень прошлых моделей
- и меньше, чем у GPT-5.1-Codex-Max (32 минуты)

Что это значит по сути:

- Anthropic действительно впереди по длительной устойчивой автономности
- но при более жёстких критериях надёжности лидерство пока не закреплено
- конкуренты остаются очень близко

Гонка не закончена и победитель не определён.
Развитие ИИ-агентов идёт по экспоненте, а не по прямой.

Каждый новый релиз сдвигает ключевую границу:
насколько долго ИИ может работать самостоятельно,
не ломаясь и не теряя качества.

И именно время автономной устойчивой работы, а не классические бенчмарки,
становится главным показателем прогресса в агентном ИИ.

💡 Dario Amodei об AGI и будущем работы.

CEO Anthropic говорит прямо: ИИ может впервые реально убрать необходимость массового человеческого труда.

Ключевое:

• AGI ведёт к технологической безработице
ИИ способен выполнять большую часть экономически полезной работы быстрее и дешевле человека.

• Работа перестаёт быть условием выживания
В будущем труд - это выбор.
Смысл смещается к семье, творчеству и развитию.

• Такой переход нельзя навязать
Общество будет перестраиваться постепенно, а не по указу.

• Изменения идут с разной скоростью
Компании - быстро, отрасли - медленнее, ценность человека вне работы - дольше всего.

Вопрос не в том, придёт ли это.
Вопрос - что сломается раньше: рынок труда или наше представление о ценности человека.

🧠 MiroThinker: Инновационный исследовательский агент

MiroThinker — это открытый исследовательский агент, который улучшает возможности рассуждений и поиска информации. Он поддерживает инструментальную помощь и демонстрирует выдающиеся результаты на различных бенчмарках, включая HLE и BrowserComp.

🚀 Основные моменты:
- 💡 Поддержка интерактивного масштабирования для глубоких взаимодействий.
- 📚 Доступ к уникальному набору данных MiroVerse с 147k образцами.
- 🔧 Инфраструктура для стабильного обучения моделей.
- 🤖 Совместимость с множеством бенчмарков и инструментов.

📌 GitHub: https://github.com/MiroMindAI/MiroThinker

#python

🚀 Учёные Гарварда заявили о реальном квантовом прорыве для будущего суперкомпьютеров.

Новая экспериментальная платформа решает одну из самых жёстких проблем масштабирования квантовых машин - поддержание управления и когерентности в больших системах связанных кубитов. Это ещё не полное решение, но шаг к аппаратуре, где огромные устойчивые квантовые архитектуры становятся реальнее.

🔹 Почему это важно?
Квантовые компьютеры годами застревали на уровне небольших шумных устройств. Прорыв в масштабировании - это движение к машинам, которые смогут моделировать химию, материалы, климат и криптографию, недоступные обычным суперкомпьютерам.

Квант наконец начинает выглядеть как будущее, а не демонстрационный стенд.

Но путь впереди тяжёлый: одно открытие - легко, а вот построить миллионы одинаково стабильных кубитов — почти невыполнимая задача. Полноценный квантовый суперкомпьютер всё ещё далеко, но теперь он стал немного ближе.