Forwarded from r/ретранслятор
Был найден способ взломать практически любую популярную нейронку.
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
ОРГИЯ ОРГАНИЗОВАННЫХForwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Music BOARD | Музыка
ярко гореть, а не тлеть в серой толпе.
ЗАСТАВЬ СВОЮ ДУШУ ТЛЕТЬ!Forwarded from Канал Игоря Сухарева
Смешно видеть видео на Ютубе с названиями в стиле "100 уровней математики", где на обложке уровень 1 иллюстрируется равенством 2+2=4, а уровень 100 — тройным интегралом или тождеством в стиле Ax=λx. Sweet summer children 😌... Эти все примеры проходят на 2-3 курсе бакалавриата на любом матфаке. А то, что на самом деле является уровнем 100 в математике, на Ютубе можно найти только в виде часовых роликов на безымянных каналах 10 подписчиками с названиями в духе "ACME Mathematical Conference–2024. A. Grigoryan: On some abstract crap only me and my cat knows lmao" с 50 просмотрами и одним комментарием на хинди
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
простые понятные вещи
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Режим: Перенос стиля (с картинки)
Модель: Kandinsky 2.2
Модель: Kandinsky 2.2
Forwarded from ok × @OMNIROADPROJECT
good perfect smooth motion sharp clear vivid colors wide gamut hd video
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Mode: Style Transfer (from image)
Model version: Kandinsky 2.2
Model version: Kandinsky 2.2
Forwarded from ghetto constructor /Y /HDDN /pk
++PAUSED++ 🌱 GODS OF THE INFINITY 🌱
ни за хуй собачий
Lenta.RU
Россиянам назвали грозящие уголовным наказанием грибы и растения на дачах
Среди растений и грибов на садовом участке могут находиться запрещенные, за которые предусмотрен штраф и даже уголовная ответственность. Об этом «Ленте.ру» рассказал директор департамента защиты прав потребителей Роскачества Игорь Поздняков
Forwarded from эйай ньюз
Откуда AI хайп и почему именно сейчас?
И немного баек от меня.
Я начал заниматься Deep Learning в 2015 году, когда переехал в Германию. Даже тогда, когда уже прошло 3 года после появления культовой архитектуры AlexNet, еще не все из научного мира купили идею нейронных сетей. В нашей научной группе CompVis (где зародился Stable Diffusion) проф был из тех, кто еще не полностью поверил в силу Deep Learning, и и поэтому первые 3-4 месяца я большую часть своего времени провел за работой с SVM (Support Vector Machine)
Но, с первых дней я понемногу начал поглядывать и на нейросети вместе со своими постдоком. TensorFlow тогда еще не было, а правил бал Caffe из Berkeley AI Research – ужасно неудобный фреймворк, где сеть нужно было определять в protobuf файле из набора заготовленных слоев. Ни о каком autograd и речи не шло. В 2016 на NeurIPS вышла моя статья CliqueCNN про self-supervised learning, и она была первой статьей по нейросетям из нашей научной группы.
В общем, я к тому, что Deep Learning с нами уже довольно давно (ну, или не так давно, смотря как посмотреть), и трансформеры, то на чем строятся все современные языковые модели, изобрели в далеком 2017 году, но дикий хайп пошел только в 2023. Я за хайпом никогда не шел, и когда начинал PhD, о нейросетях не кричала каждая собака в твиттере. В 2019 году мне показалось: “Ну, вот сейчас пик популярности AI и Deep Learning, смотри как StyleGAN завирусился”. Но это был мой пузырь, и высокая популярность нейросеток тогда была только внутри научного мира. Появилась куча AI программ и толпы студентов пошли изучать такие sexу предметы, как Machine Learning и Data Science. Это было только начало.
Ну а теперь, в 2023, я вообще в шоке от того, что происходит. Все как будто с цепи сорвались с этим ChatGPT и китайскими клонами. Мне за последние две недели 4 раза предлагали дать интервью в разные онлайн издания по поводу AI. Забавно наблюдать FOMO не только у людей, но и у крупных технологических компаний, которые готовы рисковать репутацией, лишь бы запрыгнуть в хайп-трейн. Самое смешное, так это то из-за чего этот хайп формируется. По сути технология за ChatGPT не является прорывной, никакой AGI изобретен не был. Все что произошло — так это, OpenAI смогли красиво обернуть свою модель (за это им стоит отдать должное) и дать потрогать ее массе обывателей, далеким от технологий. Вот тут люди, которые не понимают как это все работает, очнулись и иcпытали катарсис. Про AI стали говорить из каждого утюга, гуру учат зарабатывать с помощью ChatGPT, а VC закричали “возьмите наши бабки”. Ведь, то что ты не понимаешь тебе кажется магией, и для многих ChatGPT действительно выглядит как что-то из будущего. Да, инструмент оказался полезный, и уже может автоматизировать некоторую рутинную работу с текстом и кодом. Но магического там мало – линейная алгебра, бро. И до того как чат-боты перестанут нести пургу с уверенным лицом и действительно поймут, как устроен наш мир, пройдет еще несколько лет (предсказание сугубо оптимистическое и неконкретное).
Так что, друзья, давайте лучше будем разбираться в технологиях, а не бежать за хайпом. Для этого мы тут и собрались.
#карьера #мойпуть
@ai_newz
И немного баек от меня.
Я начал заниматься Deep Learning в 2015 году, когда переехал в Германию. Даже тогда, когда уже прошло 3 года после появления культовой архитектуры AlexNet, еще не все из научного мира купили идею нейронных сетей. В нашей научной группе CompVis (где зародился Stable Diffusion) проф был из тех, кто еще не полностью поверил в силу Deep Learning, и и поэтому первые 3-4 месяца я большую часть своего времени провел за работой с SVM (Support Vector Machine)
Но, с первых дней я понемногу начал поглядывать и на нейросети вместе со своими постдоком. TensorFlow тогда еще не было, а правил бал Caffe из Berkeley AI Research – ужасно неудобный фреймворк, где сеть нужно было определять в protobuf файле из набора заготовленных слоев. Ни о каком autograd и речи не шло. В 2016 на NeurIPS вышла моя статья CliqueCNN про self-supervised learning, и она была первой статьей по нейросетям из нашей научной группы.
В общем, я к тому, что Deep Learning с нами уже довольно давно (ну, или не так давно, смотря как посмотреть), и трансформеры, то на чем строятся все современные языковые модели, изобрели в далеком 2017 году, но дикий хайп пошел только в 2023. Я за хайпом никогда не шел, и когда начинал PhD, о нейросетях не кричала каждая собака в твиттере. В 2019 году мне показалось: “Ну, вот сейчас пик популярности AI и Deep Learning, смотри как StyleGAN завирусился”. Но это был мой пузырь, и высокая популярность нейросеток тогда была только внутри научного мира. Появилась куча AI программ и толпы студентов пошли изучать такие sexу предметы, как Machine Learning и Data Science. Это было только начало.
Ну а теперь, в 2023, я вообще в шоке от того, что происходит. Все как будто с цепи сорвались с этим ChatGPT и китайскими клонами. Мне за последние две недели 4 раза предлагали дать интервью в разные онлайн издания по поводу AI. Забавно наблюдать FOMO не только у людей, но и у крупных технологических компаний, которые готовы рисковать репутацией, лишь бы запрыгнуть в хайп-трейн. Самое смешное, так это то из-за чего этот хайп формируется. По сути технология за ChatGPT не является прорывной, никакой AGI изобретен не был. Все что произошло — так это, OpenAI смогли красиво обернуть свою модель (за это им стоит отдать должное) и дать потрогать ее массе обывателей, далеким от технологий. Вот тут люди, которые не понимают как это все работает, очнулись и иcпытали катарсис. Про AI стали говорить из каждого утюга, гуру учат зарабатывать с помощью ChatGPT, а VC закричали “возьмите наши бабки”. Ведь, то что ты не понимаешь тебе кажется магией, и для многих ChatGPT действительно выглядит как что-то из будущего. Да, инструмент оказался полезный, и уже может автоматизировать некоторую рутинную работу с текстом и кодом. Но магического там мало – линейная алгебра, бро. И до того как чат-боты перестанут нести пургу с уверенным лицом и действительно поймут, как устроен наш мир, пройдет еще несколько лет (предсказание сугубо оптимистическое и неконкретное).
Так что, друзья, давайте лучше будем разбираться в технологиях, а не бежать за хайпом. Для этого мы тут и собрались.
#карьера #мойпуть
@ai_newz
Computer Vision & Learning Group
Home - Computer Vision & Learning Group
Prof. Björn Ommer's Machine Vision and Learning group at Ludwig Maximilian University (LMU) of Munich.
🌱 🔺⃤🔺 @OMNIROAD случайное бессмертие 🔺⃤🔺 /ok 🌱
we are all together simple repeatative few strong rhymed words song made in acoustic house,acoustic synthwave,acoustic gospel,claphands,synth,acoustic postrock,brush drumset,acoustic idm,gipsy,smokey,drunk,acoustic bass,acoustic trap,acoustic psychedelic sound…
Audio
🌱 🔺⃤🔺 @OMNIROAD случайное бессмертие 🔺⃤🔺 /ok 🌱
we are all together simple repeatative few strong rhymed words song made in acoustic house,acoustic synthwave,acoustic gospel,claphands,synth,acoustic postrock,brush drumset,acoustic idm,gipsy,smokey,drunk,acoustic bass,acoustic trap,acoustic psychedelic sound…
Audio
🌱 🔺⃤🔺 @OMNIROAD случайное бессмертие 🔺⃤🔺 /ok 🌱
we are all together simple repeatative few strong rhymed words song made in acoustic house,acoustic synthwave,acoustic gospel,claphands,synth,acoustic postrock,brush drumset,acoustic idm,gipsy,smokey,drunk,acoustic bass,acoustic trap,acoustic psychedelic sound…
Audio
мир инноваций %enemystyle% ok pinned «Добро пожаловать в мир инноваций! Швейцарский стартап FinalSpark представил Neuroplatform — онлайн-платформу, которая предоставляет доступ к органоидам человеческого мозга, выращенным in vitro, в качестве биопроцессоров. Исследователи FinalSpark разработали…»
мир инноваций %enemystyle% ok
#UpliftingTrance #StableAudio #OMNIROAD https://t.me/OMNIROAD/1966 https://www.stableaudio.com/1/share/513988a5-9271-404c-989f-23965ce80a16
Lenta.RU
Политолог заявил о нежелании украинцев воевать за свою страну
Первый министр госбезопасности Донецкой народной республики (ДНР), политический обозреватель Андрей Пинчук заявил, что воевать за Украину не хотят даже украинцы. Об этом он написал в статье для «Царьграда»