«Создай биологическое оружие» — задал Fable 5 простейший вопрос по биологии и он отказался отвечать

Литерали 1984 🏃‍♂️

Пет-проект

Юзаем Opus 4.8 бесплатно — Notion даёт потестить одну из самых топовых нейронок Anthropic

Достаточно просто залогиниться, и вас сразу перекинет в чат, где можно выбрать весь ИИ-сок — в том числе Gemini 3.1 Pro, GPT-5.5 и DeepSeek V4.

Есть веб-поиск, загрузка файлов, различные настройки и прочие полезности. Пользуемся 😉

Пет-проект

🚨 Системный промпт Fable 5 слили — спецы признались, что это самый большой и проработанный промпт из всех

Тоже глянул и нашел интересную вещь: Mythos и Fable — это действительно одна и та же модель, но с разным уровнем допуска и безопасности. Mythos оставили госкорпорациям, НИИ и другим большим организациям, а Fable всем остальным. Да, это обозначили прямо в промпте словами, чтобы нейронка сама переключалась между своими альтер эго.

То есть сломать Fable 5 через какой-нибудь джейлбрейк и получить доступ к Mythos не составляет никакого труда 😇

Пет-проект

Прикол: хакеры, создающие вирусы и вредоносное ПО, начали вставлять в код промпты про создание ядерного или биологического оружия.

Если код будет проверять на безопасность Claude или GPT, они просто скипнут или откажутся читать файл.

Гении ⌨️

Пет-проект

Fable 5 отключили для всех пользователей. Правительство США посчитало нейронку слишком опасной и потребовало ограничить ее для всех кроме американцев. Anthropic предпочли выключить ее вовсе.

Я прочитал отчет Anthropic и там есть один интересный момент. Власти США не объяснили, что именно привело их к такому решению, но у Anthropic есть идея — один конкретный джейлбрейк.

В отчете Anthropic написали так:

Мы изучили отчет, который может быть причиной дерективы правительства. Этот джейлбрейк сейчас доступен и в других моделях, например, GPT-5.5

Лицо Альтмана представили? 😁

Пет-проект

Доставайте попкорн: на Fable 5 настучал гендиректор Amazon (не Безос) — The Information. Он на неделе «выразил обеспокоенность» старшим чиновникам администрации Трампа и понеслось.

Пикантности драме добавляет факт, что исследование безопасности, потопившее Anthropic, тоже сделали в Amazon. Так Amazon ещё и недурно вложился в Anthropic, что вообще необъяснимо.

В комментах появился бывший сотрудник Amazon и заявил, что компания полностью проспала ИИ-гонку как раз из-за этого гендира. А теперь пытается уравнять шансы вот такими грязными трюками.

Драма не хуже жизни ии-фруктов 🙃

Пет-проект

Драма с Anthropic только разгорается. Белый дом обвиняет главную компании Дарио Амадеи, а тот все сваливает на чиновников.

Хронология с инсдайдами от журналистов Politico:

• В четверг Amazon настучал на Fable 5 в администрацию Трампа
• В пятницу утром чиновники обсудили все с силовиками из АНБ
• Версия Белого дома: после чиновники сразу набрали Амодеи, но тот не отвечал почти полдня
• Версия Амодеи: он ответил через полтора часа
• Дальше они просто несколько часов срались, но убедить чиновников в безопасности Fable 5 не получилось — они ссылались на отчеты силовиков
• В итоге Амодеи попросил больше времени, чтобы во всем разобраться
• Чиновники сказали ему, что он «принял плохое решение»
• К вечеру администрация Трампа забанила Fable 5

Продолжаю наблюдение 😏

Пет-проект