52

👉 ШИЗА 18+

152

164

M-Attack: как обмануть GPT-4.5 и Gemini

Все привыкли, что атаковать современные мультимодальные модели (типа GPT-4o, Claude, Gemini и т.п.) крайне сложно — особенно, если это black-box модели, где нет доступа к градиентам и архитектуре. Стандартные подходы атак типа "выдать одну картинку за другую" часто генерируют какие-то невнятные шумы, которые либо игнорируются моделью, либо приводят к абстрактным ответам типа "размытое изображение".

Но оказалось, что проблема была не в самих моделях, а в подходе к генерации возмущений. В свежей статье предложили очень простой, но мощный подход — M-Attack:
1. Берём исходную и целевую картинки.
2. На каждом шаге рандомно crop'аем кусок исходного изображения (50-100% площади) и затем ресайзим обратно до исходного размера.
3. Заставляем эмбеддинги этого кусочка максимально приблизиться к эмбеддингам целевого изображения оптимизируясь в white-box режиме по ансамблю открытых визуальных моделей (например, CLIP, ViT и тп).

И всё! После нескольких итераций в центральной области картинки "проявляется" целевая семантика, при этом возмущения выглядят крайне незаметно и аккуратно (в отличие от других подходов).

Авторы добились совершенно впечатляющих результатов: успех атаки (ASR) превышает 90% (!) для GPT-4.5, GPT-4o и даже для o1 и Gemini. Код и датасет из 100 атакованных картинок выложили в открытый доступ.

Статья, GitHub, dataset

Сегодня подкаст про арест владельца "Русагро" Вадима Мошковича.

Впервые с начала СВО арестован тот, кто входил в список "Форбс" и первый отправленный в СИЗО участник громкой встречи президента с бизнесом 24 февраля 2022 года. Все ее участники, включая Мошковича, попали под санкции. Но мы видим, что это не дало им охранные грамоты от силовиков.

Арест Мошковича можно считать такой эпохальной вещью. Не первый арест богатейших людей, но в начале нулевых аресты стали сигналом о том, что олигархам нечего лезть в политику. Тогда они поняли и вообщем не лезли особо, лишь эпизодически проявляя какую-то активность в этом направлении.

Теперь же сигнал уже касается экономики.И тут была важная, видимо, встреча Путина с РСПП неделю назад. В открытой части говорилось об отмене приватизационных сделок, но президент как-то эту тему развивать не стал, дав понять, что он в курсе, перегибы, конечно, есть, но в целом прокуратура продолжит подавать иски. Что было в закрытой части, мы не знаем.

Но я предполагаю, что речь шла о том, чтобы крупный бизнес шел экономическим курсом, который определен сверху, ибо у нас санкции, ограничения и импортозамещения, поэтому никакой самодеятельности, общество сплотилось и вы, олигархи, давайте тоже шагайте в ногу.

Мошкович же не лез в политику, но в бизнесе был довольно самостоятельным. Можно сказать, что упрямым. И чтобы показать важность нового государственного курса для бизнеса именно его арест должен стать таким самым четким сигналом остальным.

Интересно, конечно, еще, что будет с его активами. Могу сказать, что прогнозы у меня тут для Мошковича не самые позитивные.

32 человека застряли в высокогорном пабе на 4 дня — звучит как начало идеального британского приключения! Во время снежного бурана посетителей Tan Hill Inn, расположенного на высоте 528 метров, буквально замело снегом. Снегоуборочная техника долго не могла добраться до паба, так что людям пришлось провести там несколько дней.
Но вместо паники они организовали:
— Настольные игры,
— Импровизированные вечеринки,
— И, конечно, дегустации пенного.

К концу «плена» все стали близкими друзьями, а воспоминания о снежных выходных грели лучше любого камина. Если где-то и застревать, то только в таком месте!

Обнаружены ветераны твоего шкафа, которые не видели солнечного света с 2004 года.

Держатся из последних сил.

..терапевты дестигматизировали-дестигматизировали и передестигматизировали (скороговорка)

Foulkes&Andrews (2023) выносят в название своей статьи в New Ideas in Psychology интригующий вопрос: Способствуют ли усилия по повышению осведомленности о психическом здоровье росту числа сообщений о проблемах с психическим здоровьем?

Их предположение - что мощный информационный поток, направленный на “повышение осведомленности о психическом здоровье” несмотря на безусловно позитивные эффекты в виде снижения стигматизации, повышения психологической грамотности и облегчения решения обращаться за помощью, имеет и теневую сторону.

Авторы предлагают гипотезу инфляции распространенности о том, что, как это ни парадоксально, усилия по повышению осведомленности способствуют увеличению числа проблем с психическим здоровьем. И что тут есть (любимый всеми нами) поддерживающий цикл: чем больше усилий прилагается всеми выгодоприобретателями участниками процесса, тем больше людей испытывают негативные эффекты от этой информации, тем хуже они себя чувствуют (самодиагностируют расстройства), тем больше их субъективная распространенность, тем больше усилий прикладывается для дальнейшего распространения информации (КБТ тоже досталось).

В конечном итоге: чем больше гипердиагностики - тем больше гипердиагностики. Это конечно прозвучит ужасно дезориентирующе, но похоже нам нужно серьезно задуматься о том, что именно мы делаем, когда распространяем в сети психологическую информацию, как мы обсуждали выше

#кбт_цифрового_поколения
#терапевтическая_культура
#растерянный_терапевт
#диагностическая_инфляция

весь прикол в том что никто из земляней не в курсе в чём ценность детей, и это происходит только потому что в т.н. обществах т.н. культура, буквально ложит хуй на консенсус и ведёт себя как абсолютный тиран и навязывает всем крайне непочтительное отношение к логике. в итоге мы имеем хуеву тучу максимально ебанутых традицый, ритуалов, суеверий и стереотипов, и не имеем ни одного легитимного и при этом анятного инструмента для воссоединения т.н. коллективного разума с абсолютной нерялетивистской логикой. - отсюда и обитание всех без исключения людей в различных частях общемировой релятивистской жопы, которую вполне логично принято называть адом на земле или же внутренним адом. и да, в этом и только в этом случае, он таки существует.

вам похуй на логику? - логике похуй на вас!

исход здесь очевиден.