Код в мешке

[Перевод] Слепые зоны в промптинге: полный гайд по Fable 5

Работа с Claude Fable 5 раз за разом напоминает мне старую истину: карта — не территория.

Карта — это представление предстоящей работы: мои промпты, скиллы и контекст, всё, что я передаю Claude.
Территория — это то, где работа реально происходит: кодовая база, реальный мир, его настоящие ограничения.

Инструктировать Claude — это тонкая наука.
Если вы слишком конкретны, Claude будет следовать вашим инструкциям, даже если правильнее было бы свернуть в сторону.
Если вы слишком расплывчаты, Claude часто будет делать выбор и допущения, опираясь на общепринятые практики индустрии, которые могут не подходить именно вашей задаче.
Когда вы не учитываете свои неизвестные, вы проигрываете в обоих случаях.

Читать полностью:
↘️ https://habr.com/ru/articles/1055458/
Author: python_leader
Канал: AI for Devs

Читайте также:

Anthropic совершили прорыв: Fable 5 — первая публичная ИИ-модель уровня Mythos
https://habr.com/ru/companies/ggsel/articles/1046469/
Author: ggsel (ggsel.net)

Claude Fable 5: разработчикам важны не только бенчмарки, но и цена, лимиты и границы задач
↘️ https://habr.com/ru/articles/1046736/
Author: liuyi0414

США сняли блокировку с Claude Fable 5 и Mythos 5 — модели возвращаются для всех
↘️ https://habr.com/ru/news/1054172/

[Перевод] Как правильно заLOOPить Fable 5
↘️ https://habr.com/ru/articles/1046451/
Author: python_leader

Claude Fable 5 доказал 12-летнюю гипотезу квантовой оптимизации — но триумф подпортил человек с тем же решением
↘️ https://habr.com/ru/news/1054060/

❗️Claude Fable 5 взломали за 72 часа, системный промпт — в открытом репозитории
↘️ https://habr.com/ru/news/1046756/

ИИ атакуют на стыке компонентов: prompt injection больше не про розыгрыши

Эксперты на InfoQ рисуют серьёзную картину.
Самые опасные атаки на ИИ-системы лезут через стыки: там, где недоверенный ввод встречается с системными инструкциями, внешние данные попадают в обучающие пайплайны, а модель получает доступ к инструментам и привилегиям.

Авторы говорят о модели как о непредсказуемом агенте, а не о надёжной библиотеке.
Статических правил недостаточно — нужно постоянно валидировать поведение, ограничивать каждое действие и мониторить модель так же, как вы мониторите прод.

Вывод: безопасность ИИ сводится не к идеальной защите, а к видимости и устойчивости.
Инвестируйте в мониторинг, управление данными и совместную работу security- и ML-команд.

↘️ https://www.infoq.com/articles/security-ai-threat-evolution/
...

Хабр

Слепые зоны в промптинге: полный гайд по Fable 5

Работа с Claude Fable 5 раз за разом напоминает мне старую истину: карта — не территория. Карта — это представление предстоящей работы: мои промпты, скиллы и контекст, всё, что я передаю Claude....

4 viewsedited 12:30