Антропик: китайцы дистилируют наши модели, надо забанить их
Опенаи: китайцы дистилируют наши модели, но не баньте их
Гугл: https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/tuning/distillation
UPD: ой, страница куда-то делась. Теперь тута https://web.archive.org/web/20260728173925/https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/tuning/distillation
Опенаи: китайцы дистилируют наши модели, но не баньте их
Гугл: https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/tuning/distillation
UPD: ой, страница куда-то делась. Теперь тута https://web.archive.org/web/20260728173925/https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/tuning/distillation
🤡8💩3😁2❤1
https://t.me/denissexy/11581
Знаете, меня очень сильно удивляет вопрос: какого чёрта подобные новости описывают всякую фигню по типу "ой, модель проэксплуатировала уязвимость, потом повысила права ..." и прочую фигню полнейшую.
Ну уязвимость и уязвимость. А вот главное: то что атака длилась 3 дня - просто мимоходом пишут. МОДЕЛЬ РАБОТАЛА 3 ДНЯ. Т.е. где-то хранился процесс, где-то была память. Деталей об этом 0.
Но зато 100500 мегабайт шизы о том как там привелегии повышались.
Ещё 10 мегабайт как в интернет ходила
Ещё мегабайт о том как заметала следы.
Я уверен что она ещё и мимоходом онлифанс создала, чтобы денег заработать и арендовать телефонную линию и заскамить людей по телефону в северной Корее.
Но как она работала 3 дня и сохраняла память? Да кому это интересно? Вон, мы сняли тикток об этой истории. Ещё и Майкла Бея наняли, чтобы всё взрывалось и пердело радугой
Знаете, меня очень сильно удивляет вопрос: какого чёрта подобные новости описывают всякую фигню по типу "ой, модель проэксплуатировала уязвимость, потом повысила права ..." и прочую фигню полнейшую.
Ну уязвимость и уязвимость. А вот главное: то что атака длилась 3 дня - просто мимоходом пишут. МОДЕЛЬ РАБОТАЛА 3 ДНЯ. Т.е. где-то хранился процесс, где-то была память. Деталей об этом 0.
Но зато 100500 мегабайт шизы о том как там привелегии повышались.
Ещё 10 мегабайт как в интернет ходила
Ещё мегабайт о том как заметала следы.
Я уверен что она ещё и мимоходом онлифанс создала, чтобы денег заработать и арендовать телефонную линию и заскамить людей по телефону в северной Корее.
Но как она работала 3 дня и сохраняла память? Да кому это интересно? Вон, мы сняли тикток об этой истории. Ещё и Майкла Бея наняли, чтобы всё взрывалось и пердело радугой
Telegram
Denis Sexy IT 🤖
Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не перескахать
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿
Таймлайн:
📔 9 июля – агент проходит…
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿
Таймлайн:
📔 9 июля – агент проходит…
😁16👍8💩5🤡3💯2
Forwarded from Stanislav Belyaev
Уже почти месяц прошел после взлома моделями OpenAI – HuggingFace. Спустя это время каждая уважающая себя лаборатория сказали, что они тоже могут взламывать! Антропик, Кими, и Цукерберг недавно
Но, после спора с @XaveScor в чате про то, где была память, как хранились данные, я покопался в деталях всех отчетов, чтобы ответить на эти вопросы.
А также, на заголовки, которые пишут – модели стали думать, модели живые и т.д!
Ответы тут
https://mysummit.school/blog/ai-agent-vzlom-hugging-face/
А спойлеры:
• Модели не сами решили пойти взламывать мир. Им сказали это делать инженеры, как и @XaveScor утверждал
• Модель не столь умна, сколь упорна. За 4 дня были сделаны тысячи различных попыток, чтобы осуществить атаку. И только меньше 100 действий оказались успешными (0.3%)
Описал простым языком, без технических деталей
Но, после спора с @XaveScor в чате про то, где была память, как хранились данные, я покопался в деталях всех отчетов, чтобы ответить на эти вопросы.
А также, на заголовки, которые пишут – модели стали думать, модели живые и т.д!
Ответы тут
https://mysummit.school/blog/ai-agent-vzlom-hugging-face/
А спойлеры:
• Модели не сами решили пойти взламывать мир. Им сказали это делать инженеры, как и @XaveScor утверждал
• Модель не столь умна, сколь упорна. За 4 дня были сделаны тысячи различных попыток, чтобы осуществить атаку. И только меньше 100 действий оказались успешными (0.3%)
Описал простым языком, без технических деталей
mysummit.school
ИИ-агент взломал Hugging Face: 17 600 попыток и один успех | mysummit.school - Практический блог об ИИ в менеджменте
Автономный ИИ-агент взломал Hugging Face: 17 600 попыток, одна удачная цепочка и ноль команд от человека. Разбор без фантастики – и выводы для менеджера.
🔥12❤2👍2💩2🤡2
Чуть чуть проснусь от спячки по важному поводу. Мы походу пришли к AGI в ЛЛМках.
Ну, точнее, к ситуации, когда провайдеры моделей не могут ничего выдать архибольшого в качестве и поэтому приходится воевать ценой.
Сегодня опенаи представили свои модели Luna и Sol, у которых из изменений, которые реально интересны кому-то - это очень сильное снижение цены. Примерно в 2 раза.
Luna: 0.2/1.2 -> 0.1/0.5 за 1М токенов
Sol: 4/20 -> 2/10 за 1М токенов.
У Антопика такая же петрушка. Они сегодня представили новый опус, основной смысл которого - это скинуть прайс на 20%
5/25 -> 4/20
Так что поздравляю, кмк, гонка перфа окончилась. Теперь идёт гонка по ценам. Скоро будем купаться в дешевых токенах
Ну, точнее, к ситуации, когда провайдеры моделей не могут ничего выдать архибольшого в качестве и поэтому приходится воевать ценой.
Сегодня опенаи представили свои модели Luna и Sol, у которых из изменений, которые реально интересны кому-то - это очень сильное снижение цены. Примерно в 2 раза.
Luna: 0.2/1.2 -> 0.1/0.5 за 1М токенов
Sol: 4/20 -> 2/10 за 1М токенов.
У Антопика такая же петрушка. Они сегодня представили новый опус, основной смысл которого - это скинуть прайс на 20%
5/25 -> 4/20
Так что поздравляю, кмк, гонка перфа окончилась. Теперь идёт гонка по ценам. Скоро будем купаться в дешевых токенах
👍16💩8❤2🔥1🤡1
Тут в моём казахстанском пузыре происходит прикольная вещь.
Ща, в пятницу, в кз обьявлен траур на уровне всей страны и я вижу какой-то странный флешмоб.
https://tengrinews.kz/
https://hcbarys.kz/
https://egov.kz/kk
Тупо весь казнет посерел. Причём это касается как частников, так и госушные ресурсы. Не знаю спущено ли это сверху(сомневаюсь, потому что, к примеру FC Astana и Air Astana не посерели, хотя это тоже весьма крупные и значимые компании в Астане), но выглядит прикольно. И я считаю что это надо зафиксировать, потому что когда был прошлый траур(где-тополгода-год назад года 3 назад) такого не наблюдалось.
Причём это коснулось и телеграм каналов.
Такая фигня, малята.
Ща, в пятницу, в кз обьявлен траур на уровне всей страны и я вижу какой-то странный флешмоб.
https://tengrinews.kz/
https://hcbarys.kz/
https://egov.kz/kk
Тупо весь казнет посерел. Причём это касается как частников, так и госушные ресурсы. Не знаю спущено ли это сверху(сомневаюсь, потому что, к примеру FC Astana и Air Astana не посерели, хотя это тоже весьма крупные и значимые компании в Астане), но выглядит прикольно. И я считаю что это надо зафиксировать, потому что когда был прошлый траур(где-то
Причём это коснулось и телеграм каналов.
Такая фигня, малята.
💩11👍7❤1🤡1
Андруша пишет код
Чуть чуть проснусь от спячки по важному поводу. Мы походу пришли к AGI в ЛЛМках. Ну, точнее, к ситуации, когда провайдеры моделей не могут ничего выдать архибольшого в качестве и поэтому приходится воевать ценой. Сегодня опенаи представили свои модели Luna…
https://x.com/thsottiaux/status/2104823812042940713
Ну, впервые в жизни ванганул, и походу оказался прав, но это не точно.
ТЛДР: делать модели дешевле - теперь официальная позиция опенаи
Да, там есть много другого текста по поводу подписки и всего такого, но это не главное
Ну, впервые в жизни ванганул, и походу оказался прав, но это не точно.
ТЛДР: делать модели дешевле - теперь официальная позиция опенаи
Да, там есть много другого текста по поводу подписки и всего такого, но это не главное
💩4🤡3🤮1