Forwarded from r/ретранслятор
Был найден способ взломать практически любую популярную нейронку.
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Forwarded from MDJ School | IT, нейросети
This media is not supported in your browser
VIEW IN TELEGRAM
Если бы форсаж сняли в начале 20 века, то он бы выглядел так
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from MDJ School | IT, нейросети
Forwarded from Документальные фильмы
Жизнь человека. Последнее интервью (2020)
Производство: Россия / Такие Дела
Жанр: документальный, биография
Режиссер: Сергей Карпов (V), Руслан Федотов
Актеры: Андрей Павленко, Анна Павленко-Гегечкори, Софья Павленко, Кристина Павленко, Даниил Павленко
Описание: В марте 2018 года один из лучших хирургов-онкологов страны Андрей Павленко узнал, что у него рак желудка агрессивной формы. Это документальный фильм, где хирург-онколог Андрей Павленко даёт своё последнее интервью и рассказывает о своей жизни; о том, как он пришёл в профессию, как он стал одним из гениальных хирургов-онкологов; о том, как он учился и учил. О том, как он боролся и как человек надеялся на чудо, но как врач понимал, что чуда не произойдёт. Этот фильм — своеобразное завещание Андрея. Послание всем онкологическим пациентам, их родственникам и врачам.
Документалка / Лучшие фильмы мира / Советские фильмы / Кино о войне / Киношедевры мира -
Ужасы / Лучшие сериалы мира
Производство: Россия / Такие Дела
Жанр: документальный, биография
Режиссер: Сергей Карпов (V), Руслан Федотов
Актеры: Андрей Павленко, Анна Павленко-Гегечкори, Софья Павленко, Кристина Павленко, Даниил Павленко
Описание: В марте 2018 года один из лучших хирургов-онкологов страны Андрей Павленко узнал, что у него рак желудка агрессивной формы. Это документальный фильм, где хирург-онколог Андрей Павленко даёт своё последнее интервью и рассказывает о своей жизни; о том, как он пришёл в профессию, как он стал одним из гениальных хирургов-онкологов; о том, как он учился и учил. О том, как он боролся и как человек надеялся на чудо, но как врач понимал, что чуда не произойдёт. Этот фильм — своеобразное завещание Андрея. Послание всем онкологическим пациентам, их родственникам и врачам.
Документалка / Лучшие фильмы мира / Советские фильмы / Кино о войне / Киношедевры мира -
Ужасы / Лучшие сериалы мира