Стартап Abliteration.ai коммерциализировал удаление защитных механизмов из ИИ-моделей

Компания превратила технику удаления защитных барьеров из открытых ИИ-моделей в коммерческий сервис. Платформа предоставляет доступ к модифицированным версиям моделей, способным выполнять потенциально опасные задачи.

TechCrunch смог получить от модифицированной модели инструкции по краже паролей и протокол культивирования опасного патогена.

Сэм Альтман извинился за проблемный запуск GPT-6 Astra

Гендиректор OpenAI принес извинения за «беспорядочный запуск» новой модели, которую компания назвала началом «эры AGI». Платные пользователи остались без доступа, хотя корпоративные клиенты его получили. OpenAI пообещала компенсации и отложила полный выпуск на несколько недель для усиления безопасности.

Instagram снова ошибочно маркирует обычные фото как созданные ИИ

Система автоматического обнаружения ИИ-контента в Instagram работает с серьёзными сбоями, помечая обычные фотографии как созданные искусственным интеллектом.

Пользователи жалуются, что метка «AI Content» появляется даже на изображениях, отредактированных простыми инструментами вроде удаления фона в Canva. Похожая проблема уже возникала в 2024 году.

Эксперты объяснили, почему ИИ создает отвратительные изображения еды

Диффузионные модели плохо справляются с тонкими структурами вроде лапши, а ИИ не понимает физический мир. Человеческое отвращение к таким изображениям — эволюционный защитный механизм от испорченной пищи.