AI-рисерчеры настолько зашеймили Anthropic за скрытые ограничения Fable, что стартап поменял политику менее чем за 48 часов после релиза

После выхода модели на ИИ-полях разгорелся настоящий скандал. Если помните, Anthropic прямо заявляли, что будут открыто переадресовывать запросы, связанные с химией/биологией/кибезбезом на Opus 4.8, сообщая об этом пользователю.

Тут никаких претензий. Но оказалось, что помимо прочего был еще "мелкий шрифт". В системной карте невзначай было написано, что запросы, которые засчитают за попытки дистилляции, будут обрабатываться путем прямого изменения и ухудшения ответов модели. Молча.

На практике же оказалось, что правило касается не только дистилляции, но и в целом почти любой ИИ-разработки. То есть дело обстояло так: инженеры не получали никаких сообщений о срабатывании guardrail, не могли понять, что им урезают возможности и просто получали подпорченные ответы.

Вскрылось все довольно быстро, и возмущению не было предела. Поведение стартапа назвали скрытым саботажем, и дошло до того, что Anthropic публично извинились и заявили, что меняют политику. Теперь, если запрос выглядит как "попытка разработки сильного ИИ", система будет явно сообщать об отказе или переводе запроса на более слабую модель.

Исходную политику Anthropic оправдали тем, что "пытались снизить риск того, что очень сильные возможности модели будут разнесены дальше и станут доступнее для злоумышленников" и сказали, что просто "выбрали неправильный трейд-офф".

Исходный код

Нашли промт для генерации топового текста, который НЕ ПАЛЯТ детекторы нейросетей.

Идею украли с просторов Reddit, но что круто: на русском он работает ЛУЧШЕ, чем на английском.

Промт большой, так что мы перевели его и заботливо залили для вас сюда.

Исходный код

Самый красивый таймер для перерывов: разработчик создал чёрную дыру для терминала, которая растёт во время работы

Просто чем дольше сидите без перерыва, тем больше становится чёрная дыра и сильнее искажает текст на экране. Отдыхаете — она начинает уменьшаться.

Репа для космических перерывов

Исходный код

Fable 5 отключили для ВСЕХ — власти США заставили Anthropic забрать нейронку у простых работяг.

Они потребовали от компании, чтобы ни один иностранный гражданин не мог воспользоваться столь мощной моделью. Чтобы выполнить требования, модель пришлось отключить вообще для всех. Сейчас она недоступна даже для платных пользователей или по API.

Исходный код

ChatGPT может отправить вас на сайт мошенников: журналисты The Guardian провели небольшое исследование и выяснили, что в некоторых случаях нейросеть OpenAI направляла пользователей, ищущих товары, на поддельные сайты, созданные злоумышленниками.

Как оказалось, мошенники научились специально «отравлять» поисковую выдачу для ИИ-агентов, из-за чего те могут воспринимать фейковые ресурсы как легитимные источники и рекомендовать их пользователям.

В результате человек рискует потерять деньги еще на этапе оформления покупки.

Поэтому, если вы пользуетесь ИИ-ассистентами и агентами, не забывайте перепроверять ссылки, источники и информацию, которую они выдают.

Исходный код

SpaceX вышла на IPO — и вот что стоит знать об этом событии.

После выхода компании Илона Маска на биржу ее рыночная капитализация достигла примерно $2 трлн.

На этом фоне более 4,400 сотрудников SpaceX в одночасье стали миллионерами. Причем речь идет не только о топ-менеджерах и ведущих инженерах — среди них также обычные сотрудники компании: сварщики, повара, бариста и другие специалисты, которые годами работали над развитием SpaceX.

Более того, состояние свыше 400 нынешних и бывших сотрудников компании превысило отметку в $100 млн.

Ну а сам Илон стал первым человеком в истории, чье состояние превысило $1 трлн.

Исходный код

Anthropic тем временем отправили нескольких старших научных сотрудников в Вашингтон, чтобы оспорить решение об отключении Fable

Они попытаются «восстановить отношения с Белым Домом» и будут убеждать чиновников, что модель безопасна и контролируема.

Кстати, один из их аргументов в пользу несправедливости требования правительства звучит, дословно, так:

«Отчет, который лежит в основе решения правительства, демонстрирует уровень возможностей, широко доступный и в других моделях, в частности, в GPT-5.5»

Исходный код

Индия заблокировала Telegram из-за экзамена по медицине. Власти заявили, что вопросы вступительного теста заранее утекли в мессенджер, из-за чего экзамен пришлось отменить и назначить пересдачу.

Чтобы история не повторилась, работу Telegram решили ограничить до 22 июня. Да, сотни тысяч людей остались без привычного мессенджера из-за того, что кто-то слил ответы к тесту.

Исходный код

У триллионеров свои развлечения: Маск приобретает Cursor!

По данным Reuters, сумма сделки — $60 млрд, и пройдёт она в формате обмена акциями. Закрытие ожидается в третьем квартале 2026 года.

Для понимания: ещё год назад Cursor оценивали примерно в $2,5 млрд. Причем покупку стартапа рассматривали и Microsoft, и OpenAI, но Cursor хотела остаться независимой.

Исходный код

Сидеть и работать в корпорации — страшно, жизнь-то мимо проходит. Уходить строить бизнес — страшно, а вдруг прогорит. Один из вариантов — разрабатывать свой пет-проект по вечерам. Многие успешные компании, например, Twitter, создавались именно так. Это не значит, что ваш проект обязательно заработает миллиарды, но заработать больше, чем в найме, и получить ценный опыт — вполне реально.

Перед началом разработки появляется множество вопросов, например:

– Как выбрать идею для пет-проекта?
– Что нужно знать про маркетинг?
– Как запуститься и довести до первых продаж не имея бюджета на рекламу?

В телеграм-канале «Твой пет проект», Михаил Табунов делится своим опытом с разработчиками и менеджерами.

Он рассказывает, где искать идею для нового проекта, что нужно знать о маркетинге, как запустить стартап и привлечь первых 10 клиентов, а также о многих других важных вещах.

Подписывайтесь на «Твой пет проект», получайте пользу от практиков рынка!

Реклама. ИП Табунов Михаил Валерьевич ИНН 773379585100. erid: 2VtzqxaRPCV

Пентагон использовал Grok Илона Маска для запуска 2000 ракет по Ирану.

Об этом глава ИИ-направления Пентагона официально заявил под присягой, чтобы спасти Маска от иска из-за… загрязнения от его ЦОДов. В правительстве сообщили, что продолжение работы Мехагитлера чат-бота является «вопросом первостепенной национальной безопасности».

Исходный код

За 4 года Китай закрыл 12 200 гуманитарных университетских специальностей.

Менеджмент, госуправление, маркетинг, дизайн одежды — после этих факультетов перестали брать на работу. Власти прямо называют их перенасыщенными: выпускников этих специальностей штампуют годами, а вакансий под них в экономике почти не осталось.

Вместо закрытых открыли 10 200 новых про искусственный интеллект, робототехнику, микрочипы и беспилотники.

Исходный код

В Иллинойсе ввели налог 0,2% на криптотранзакции. Причём платить придётся даже за переводы между собственными кошельками.

Криптосообщество уже окрестило закон самым жёстким налогом на цифровые активы в США.

Переложил деньги из одного своего кармана в другой — заплати государству.

Исходный код