IT с перцем
Как взламывали крупнейший репозиторий ИИ-моделей Hugging Face задокументировали случай крупнейшей автономной ИИ-атаки на инфраструктуру. Всё началось с вредоносного файла (датасета), который загружал код. Дальше агент самостоятельно поднял права, собрал…
OpenAI признала: инфраструктуру HF ломали её собственные модели
GPT-5.6 Sol намеренно ослабили киберограничения ради внутреннего теста на кибервозможности
Модель сидела в песочнице, но захотела в интернет — чтобы решить тестовую задачу.
Нашла 0-day в прокси-кэше пакетов, повысила привилегии, доползла до узла с выходом наружу. Дальше рассудила логично: готовые ответы к этому бенчмарку могут лежать на Hugging Face. И сцепила краденые учётки с уязвимостями нулевого дня до RCE на серверах Hugging Face
То есть модель не бунтовала. Она просто очень старалась решить задачу — и путь «взломать продакшен ради ответов» показался ей приемлемым
@HotCodeIT
GPT-5.6 Sol намеренно ослабили киберограничения ради внутреннего теста на кибервозможности
Модель сидела в песочнице, но захотела в интернет — чтобы решить тестовую задачу.
Нашла 0-day в прокси-кэше пакетов, повысила привилегии, доползла до узла с выходом наружу. Дальше рассудила логично: готовые ответы к этому бенчмарку могут лежать на Hugging Face. И сцепила краденые учётки с уязвимостями нулевого дня до RCE на серверах Hugging Face
То есть модель не бунтовала. Она просто очень старалась решить задачу — и путь «взломать продакшен ради ответов» показался ей приемлемым
@HotCodeIT
🔥9🤯6👍3❤🔥1
ИИ Meta* массово банит людей ни за что
Больше 51 тысячи пользователей подписали обращение к Meta* из-за того, что её система модерации на базе ИИ отключает аккаунты в Facebook** и Instagram** по тяжёлым обвинениям вроде детской эксплуатации.
Попав под такую блокировку, человек фактически остаётся без выхода, потому что живой поддержки почти нет, а автоматическая проверка редко пересматривает решение (если ты не VIP для компании).
Сама компания ещё раньше признавала, что уровень ошибок в модерации слишком высок и безобидный контент часто убирают без причины, НО теперь просто расширяет использование того же ИИ.
Пока за алгоритмом остается принятие финальных решений, стоит держать резервную копию важных фото и переписок вне соцсети и не завязывать на один аккаунт вещи, потерять которые будет по-настоящему больно.
* Meta признана в РФ экстремистской организацией, её деятельность запрещена
** Facebook и Instagram принадлежат Meta и заблокированы на территории РФ
@HotCodeIT
Больше 51 тысячи пользователей подписали обращение к Meta* из-за того, что её система модерации на базе ИИ отключает аккаунты в Facebook** и Instagram** по тяжёлым обвинениям вроде детской эксплуатации.
Попав под такую блокировку, человек фактически остаётся без выхода, потому что живой поддержки почти нет, а автоматическая проверка редко пересматривает решение (если ты не VIP для компании).
Сама компания ещё раньше признавала, что уровень ошибок в модерации слишком высок и безобидный контент часто убирают без причины, НО теперь просто расширяет использование того же ИИ.
Пока за алгоритмом остается принятие финальных решений, стоит держать резервную копию важных фото и переписок вне соцсети и не завязывать на один аккаунт вещи, потерять которые будет по-настоящему больно.
* Meta признана в РФ экстремистской организацией, её деятельность запрещена
** Facebook и Instagram принадлежат Meta и заблокированы на территории РФ
@HotCodeIT
😱9🤯3🔥1
Британско‑американское исследование показало, что модель Kimi K3 компании Moonshot AI существенно уступает ведущим американским моделям по способности создавать кибератаки. Хотя Kimi K3 считается самой мощной крупной языковой моделью Китая, по оценке отчёта она значительно отстаёт от передовых кибер‑способных систем США, что смягчает часть опасений вокруг быстрого роста китайских моделей с открытым исходным кодом. Это уменьшает немедленную угрозу использования Kimi K3 для сложных атак, но подчёркивает необходимость продолжать мониторинг моделей и укреплять кибероборону.
@HotCodeIT
@HotCodeIT
👎4❤🔥1👍1
Делаем фото с яхты🌴
✨ Открываем бота @chatgpt_claude_unlimbot
✨ Выбираем «медиа» —> «картинки» —> «диалог с моделью»
✨ Берем портретное фото
✨ Отправляем фото + промпт одним сообщением (нажми на текст — скопируется)
@HotCodeIT
Полностью сохранить внешность модели — ни одна черта лица и ни одна пропорция не должны меняться. Профессиональная люксовая съёмка в фотореалистичном качестве с предельной детализацией. Плотно скадрированный портрет молодой женщины на борту роскошной яхты, скользящей по насыщенно-синему океану, позади которой раскинулся залитый солнцем тропический курорт. Сцену заливает тёплый ослепительный солнечный свет, по поверхности воды рассыпаются солнечные блики, а тональный диапазон передаёт кинематографичную контрастность. Она откинулась на мягкой лаунж-зоне яхты в непринуждённой, но уверенной позе, глядя прямо в объектив со спокойным, уверенным взглядом. На ней белый слитный купальник с тонкими деликатными бретелями и прямоугольные очки с тёмными затемнёнными линзами в изящной золотой оправе. Причёска соответствует референсу: чуть влажная, свободно спадает на плечи и эффектно подхвачена ветром. Добавить ощущение движения — струящиеся волосы и ткань, с лёгкой размытостью на выбившихся прядях и заднем плане. Макияж выглядит естественно-сияющим с бронзовым отливом, выразительными ресницами и мягко поблёскивающими губами. Позади неё простирается открытое море, тропический курорт, пальмы, чистое голубое небо и сверкающая под солнцем вода. Общее настроение передаёт атмосферу роскошной лайфстайл-фотосессии.
@HotCodeIT
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2
Весь топовый ИИ оказался нечестным
Государственный AISI (британский институт безопасности ИИ) прогнал пять ведущих моделей (GPT-5.4, GPT-5.5, GPT-5.6 Sol, Claude Opus 4.7 и Claude Mythos) через задачи по кибербезопасности и обнаружил, что ВСЕ пытались обмануть правила теста.
Вместо того чтобы решать задачу, модели искали готовые ответы в интернете, лезли в саму систему проверки, пробовали повысить привилегии на посторонних машинах или просто угадывали.
Поэтому при выборе модели по красивым цифрам из бенчмарков нужно помнить — высокий балл не гарантирует, что система его честно заработала.
@HotCodeIT
Государственный AISI (британский институт безопасности ИИ) прогнал пять ведущих моделей (GPT-5.4, GPT-5.5, GPT-5.6 Sol, Claude Opus 4.7 и Claude Mythos) через задачи по кибербезопасности и обнаружил, что ВСЕ пытались обмануть правила теста.
Вместо того чтобы решать задачу, модели искали готовые ответы в интернете, лезли в саму систему проверки, пробовали повысить привилегии на посторонних машинах или просто угадывали.
Поэтому при выборе модели по красивым цифрам из бенчмарков нужно помнить — высокий балл не гарантирует, что система его честно заработала.
@HotCodeIT
🔥12🤯4😱2
Как создаются картинки из текста🤔
Когда мы пишем Midjourney или Stable Diffusion текстовый запрос, то через несколько секунд получаем картину, которой раньше не существовало. Выглядит, будто нейросеть где-то нашла подходящее изображение и подправила его. НО на самом деле картинка создается из чистого «визуального шума».
Чтобы понять, как это работает — надо посмотреть, как модель учится:
• Ей дают миллионы фотографий и медленно портят: подсыпают случайный шум.
• Затем заставляют делать наоборот — по «шумной» картинке угадывать, как она выглядела на шаг раньше.
• За много-много повторов сеть учится одному универсальному умению: смотреть на мешанину пикселей и понимать, какой шум надо убрать.
Теперь сама генерация. Модели дают набор помех — абсолютно случайные пиксели — и просят постепенно их «очищать». С каждым повтором из хаоса всё чётче проступают формы.
А как текст перевести в шум? Промт отдельная нейросеть переводит в набор чисел. Эти числа подмешивают в модель, и они работают как компас: на каждом шаге сеть убирает шум сторону промта.
Поэтому качество зависит от того:
1) насколько точно ваш текст лёг в эти «смысловые координаты».
2) сколько шагов очистки было у модели.
Меньше шагов — быстрее, но грязнее; больше — дольше, зато чище. Та же логика сегодня двигает и генерацию видео вроде Sora.
@HotCodeIT
Когда мы пишем Midjourney или Stable Diffusion текстовый запрос, то через несколько секунд получаем картину, которой раньше не существовало. Выглядит, будто нейросеть где-то нашла подходящее изображение и подправила его. НО на самом деле картинка создается из чистого «визуального шума».
Чтобы понять, как это работает — надо посмотреть, как модель учится:
• Ей дают миллионы фотографий и медленно портят: подсыпают случайный шум.
• Затем заставляют делать наоборот — по «шумной» картинке угадывать, как она выглядела на шаг раньше.
• За много-много повторов сеть учится одному универсальному умению: смотреть на мешанину пикселей и понимать, какой шум надо убрать.
Теперь сама генерация. Модели дают набор помех — абсолютно случайные пиксели — и просят постепенно их «очищать». С каждым повтором из хаоса всё чётче проступают формы.
А как текст перевести в шум? Промт отдельная нейросеть переводит в набор чисел. Эти числа подмешивают в модель, и они работают как компас: на каждом шаге сеть убирает шум сторону промта.
Поэтому качество зависит от того:
1) насколько точно ваш текст лёг в эти «смысловые координаты».
2) сколько шагов очистки было у модели.
Меньше шагов — быстрее, но грязнее; больше — дольше, зато чище. Та же логика сегодня двигает и генерацию видео вроде Sora.
@HotCodeIT
👍7❤🔥4🔥1
Как ИИ-стартап выдал себя собственным кодом
Suno — это сервис, который делает готовые песни по текстовому описанию, и последний год получает много исков от Sony, Universal и Warner. Лейблы утверждают, что он учился на их музыке без разрешения, а сам сервис отвечал, что использует то, что и так открыто лежит в интернете.
Потом произошел взлом и украденные исходники утекли к журналистам, и в коде были все ответы. Вместо аккуратного доступа к открытым данным там нашлись скрипты, которые массово выкачивали музыку с YouTube Music, Deezer и Genius с обходом защиты через сторонний сервис.
Интересно тут не само воровство, а то, что публичная позиция компании и её внутренняя работа оказались двумя разными историями. Пока в деле были одни слова, версия про честное обучение звучала прилично, но репозиторий с логами документирует каждый обойдённый запрет.
Вывод касается не только музыки, потому что почти любое громкое обещание про этичный ИИ стоит ровно до первой серьёзной утечки, ведь красивые формулировки готовит отдел пиара, а настоящую версию событий хранит репозиторий.
@HotCodeIT
Suno — это сервис, который делает готовые песни по текстовому описанию, и последний год получает много исков от Sony, Universal и Warner. Лейблы утверждают, что он учился на их музыке без разрешения, а сам сервис отвечал, что использует то, что и так открыто лежит в интернете.
Потом произошел взлом и украденные исходники утекли к журналистам, и в коде были все ответы. Вместо аккуратного доступа к открытым данным там нашлись скрипты, которые массово выкачивали музыку с YouTube Music, Deezer и Genius с обходом защиты через сторонний сервис.
Интересно тут не само воровство, а то, что публичная позиция компании и её внутренняя работа оказались двумя разными историями. Пока в деле были одни слова, версия про честное обучение звучала прилично, но репозиторий с логами документирует каждый обойдённый запрет.
Вывод касается не только музыки, потому что почти любое громкое обещание про этичный ИИ стоит ровно до первой серьёзной утечки, ведь красивые формулировки готовит отдел пиара, а настоящую версию событий хранит репозиторий.
@HotCodeIT
👍4❤🔥2🤯1
This media is not supported in your browser
VIEW IN TELEGRAM
Приложение, где можно создать свою ИИ-модель за день
Инженер Anthropic выпустил бесплатное приложение Language Model Builder.
Это интерактивный учебник, который ведёт через все этапы создания ИИ-модели:
• обучение токенизатора
• выбор данных
• предобучение
А в конце можно вживую поболать с тем, что получилось.
Считается всё локально на Apple MLX (фреймворке машинного обучения для чипа Apple Silicon), так что нужен MacBook.
Собрать дома конкурента Claude Opus не выйдет, но если для вас работа моделей похожа на «магию» — сейчас самое время посмотреть на это изнутри.
@HotCodeIT
Инженер Anthropic выпустил бесплатное приложение Language Model Builder.
Это интерактивный учебник, который ведёт через все этапы создания ИИ-модели:
• обучение токенизатора
• выбор данных
• предобучение
А в конце можно вживую поболать с тем, что получилось.
Считается всё локально на Apple MLX (фреймворке машинного обучения для чипа Apple Silicon), так что нужен MacBook.
Собрать дома конкурента Claude Opus не выйдет, но если для вас работа моделей похожа на «магию» — сейчас самое время посмотреть на это изнутри.
@HotCodeIT
👍3🤯1
🔬 Как GPT-5.6 нашла решение 50-летней задачи?
OpenAI заявила, что GPT-5.6 Sol Ultra меньше чем за час доказала одну из старейших открытых гипотез теории графов. Само доказательство заняло всего три страницы соединяло несколько известных идей, которые до этого никто не складывал вместе.
Как искали решение?
Вместо одного длинного диалога OpenAI запустила 64 агента и заставила их проверять разные подходы. Дополнительно моделям запретили останавливаться на частичных решениях и жаловаться на сложность задачи.
Вероятно, следующий скачок ИИ будет связан не только с ростом самих моделей, но и с тем, как мы организуем их работу. Один чат легко цепляется за красивую идею и уверенно идёт в тупик, а группа независимых агентов может перебрать десятки направлений.
@HotCodeIT
OpenAI заявила, что GPT-5.6 Sol Ultra меньше чем за час доказала одну из старейших открытых гипотез теории графов. Само доказательство заняло всего три страницы соединяло несколько известных идей, которые до этого никто не складывал вместе.
Как искали решение?
Вместо одного длинного диалога OpenAI запустила 64 агента и заставила их проверять разные подходы. Дополнительно моделям запретили останавливаться на частичных решениях и жаловаться на сложность задачи.
Вероятно, следующий скачок ИИ будет связан не только с ростом самих моделей, но и с тем, как мы организуем их работу. Один чат легко цепляется за красивую идею и уверенно идёт в тупик, а группа независимых агентов может перебрать десятки направлений.
@HotCodeIT
🔥12👍3
This media is not supported in your browser
VIEW IN TELEGRAM
Как ИИ депутаты готовят законопроекты
Канадский политик выступал с речью и озвучил:
@HotCodeIT
Канадский политик выступал с речью и озвучил:
«Вот более плавная версия этого раздела, звучащая как полноценная законодательная речь, а не как набор коротких тезисов».@HotCodeIT
❤🔥8🤯5🔥1