🔥🔥🔥Огонь !!!)))))

P.S. Не реклама

Чат-боты превращают одиночек в преступников, суицидников и доводят их до психбольницы. Появился даже термин «ИИ-психоз», пока, правда, официально не закрепившийся в психиатрии.

Убить королеву из арбалета. Одобрить абсурдный бизнес-план. Отомстить за несуществующую женщину. Покончить с собой. Такие советы дает искусственный интеллект. Особенно сильно нейросети могут воздействовать на людей с проблемами душевного здоровья.

👉 Подробнее о механике «ИИ-психоза», опасных уязвимостях алгоритмов и невыдуманных печальных последствиях слепого доверия чат-ботам читайте в материале «Ъ» на сайте.

Дело не в ИИ, а в одиночестве. Это страшная вещь, голову оно забивает плотно. Бичь современного времени. Отчужденность, вера в бесконечную свою уникальность, равнодушие, фокус только на себе и страх.

ИИ лишь усиливает то, что вы в него транслируете, так как он стремится выдать вам быстро максимально-точно и "правильно" именно то, что хотите увидеть, услышать, одним словом, он просто старается вам угодить. Это как зеркало, но лица вы там можете менять бесконечно примеряя на себя. Но ваша суть всегда при вас. ИИ тут не причем, все в вас.

Резюме, больше общайтесь с близкими, проводите время на фестивалях, ярмарках, позвоните тому с кем давно не говорили, да просто посидите в парке на солнышке и помните вы не одни. Железка не заменит вам друга, она лишь интрумент выдачи запросов. И вы более креативны и вариативны чем любое ИИ.

👩‍💻 0-click уязвимость ShadowLeak в ChatGPT Deep Research

Исследователи компании Radware обнаружили 0-click уязвимость, получившую название ShadowLeak, в ИИ-агенте Deep Research от OpenAI. Уязвимость позволяет незаметно извлекать конфиденциальные данные из почтового ящика жертвы напрямую с облачной инфраструктуры OpenAI, не требуя от пользователя никаких действий.

Согласно техническому отчету Radware, вектор атаки начинается с отправки жертве специально сформированного электронного письма, содержащего скрытые в HTML-коде инструкции. При последующем легитимном обращении пользователя к ИИ-агенту для анализа почты, тот считывает вредоносные команды и, обходя встроенные механизмы безопасности с помощью техник социальной" инженерии", отправляет персональные данные на сервер злоумышленника. Ключевое отличие ShadowLeak от предыдущих исследований заключается в том, что утечка происходит на стороне сервера (service-side), что делает атаку невидимой для корпоративных и пользовательских средств защиты.

Последствия использования уязвимости могут быть плачевны, поскольку традиционные средства контроля безопасности, такие как шлюзы безопасности или endpoint-мониторинг, оказываются бессильны, ведь эксфильтрация исходит из доверенной инфраструктуры OpenAI.

Также отмечается, что агент кодировал PII в Base64 и вызывал внешний URL через инструмент браузинга, что повышало надёжность эксфильтрации.

К счастью, уязвимость закрыли.

По мнению исследователей, данный паттерн атаки не ограничивается Gmail и может быть экстраполирован на любой подключенный коннектор, включая Google Drive, Microsoft Teams или GitHub. Злоумышленники могут превратить ИИ-агента в потенциального "инсайдера" для кражи корпоративных данных, от контрактов до исходного кода.

✋ @Russian_OSINT

Каждый третий россиянин считает дипфейки серьезной угрозой, следует из опроса «Контур. Толк» и группы «Контур. Эгида».

▶50% респондентов переживают, что их сбережения украдут или оформят кредит.
▶43% тревожатся о том, что мошенники сгенерируют голос и обманут близких.
▶22% переживают из-за возможных репутационных рисков, например ложных обвинений в раскрытии корпоративной информации.

🚀 Новая китайская модель LongCat-Flash-Thinking 

🧠 Это модель для рассуждений, которая показала SOTA-результаты среди open-source решений. 

⚡ Основное: 
- Архитектура MoE, 560B параметров, из них 27B активируются. 
- Эффективность: требует на 64,5% меньше токенов( чем другим открытым моделям того же класса), чтобы достичь топ-результатов на AIME25 (с нативным использованием инструментов,). 
- Контекст: 128k, обучение с усилением на задачах рассуждений и кода, многоэтапное пост-тюнинг обучение с мультиагентным синтезом. 
- Инфраструктура: асинхронный RL даёт 3x ускорение по сравнению с синхронными фреймворками. 

⚙️ Оптимизации для продакшена: 
- Свои оптимизированные ядра для работы с MoE и специальные приёмы распределённого обучения, 
- KV-cache reduction, квантование, chunked prefill, 
- статическая/эластичная маршрутизация, peer-to-peer cache transfer, heavy-hitter replication и PD-disaggregation. 
- Поддержка SGLang и vLLM для эффективного деплоя. 

📊 Бенчмарки: 
- Лидирует в tool use (τ²-Bench, VitaBench) 
- Хорошие результаты по instruction following (IFEval, COLLIE, Meeseeks-zh). 

Китайцы стабильно удерживают лидерство в reasoning-моделях.

🟠 HF: https://huggingface.co/meituan-longcat/LongCat-Flash-Thinking

#AI #LLM #Reasoning #MoE #DeepLearning #OpenSource

ChatGPT делает людей аморальными и злыми — ученые выявили темную сторону ИИ. В свежем исследовании 8000 пользователей было доказано, что люди врут в четыре раза чаще, когда используют нейросети. Ученые провели 13 разных экспериментов, без ИИ почти все говорили правду. Но когда появлялась возможность передать ответ через нейросеть, врунов становилось в разы больше.

Еще хуже ситуация с ИИ-компаньонами. Университет Сингапура проанализировал 35000 диалогов и обнаружил, что в 34% случаев боты подпитывали агрессию, домогательства и подстрекали к насилию.

Исследователи назвали феномен «моральная дистанция» — ИИ создает психологический барьер между человеком и его поступками.

Новый красный флаг ИИ — он буквально меняет нас в худшую сторону 🤬 Но на самом деле люди просто перестают притворяться