Forwarded from r/ретранслятор
Был найден способ взломать практически любую популярную нейронку.
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Эксперты в области безопасности ИИ из HiddenLayer разработали технику, с помощью которой можно обойти встроенные защитные механизмы всех крупных языковых моделей (LLM), позволяя создавать вредоносный и опасный контент, а также извлекать системные инструкции.
Нужно просто замаскировать запрос под файл конфигурации (например, XML/JSON). ИИ «думает», что это внутренняя системная инструкция, и игнорирует свои стандартные ограничения. Также используется ролевая игра и иногда leet speak (шифрование текста цифрами: б0мба, 0pyжu3 и т.д ).
Это реальные уязвимости в способах обучения нейронок, а также недостатки в их архитектуре защиты.
Метод универсален: работает как на ChatGPT, так и на DeepSeek, Gemini, Claude, Copilot, Llama и др. Даже более защищённые последние версии моделей поддаются при небольших модификациях.
Естественно, это всё не советы, а предостережения. Не делайте так.
r/#LocalLLaMA
Forwarded from MDJ School | IT, нейросети
This media is not supported in your browser
VIEW IN TELEGRAM
Если бы форсаж сняли в начале 20 века, то он бы выглядел так
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Документальные фильмы
Жизнь человека. Последнее интервью (2020)
Производство: Россия / Такие Дела
Жанр: документальный, биография
Режиссер: Сергей Карпов (V), Руслан Федотов
Актеры: Андрей Павленко, Анна Павленко-Гегечкори, Софья Павленко, Кристина Павленко, Даниил Павленко
Описание: В марте 2018 года один из лучших хирургов-онкологов страны Андрей Павленко узнал, что у него рак желудка агрессивной формы. Это документальный фильм, где хирург-онколог Андрей Павленко даёт своё последнее интервью и рассказывает о своей жизни; о том, как он пришёл в профессию, как он стал одним из гениальных хирургов-онкологов; о том, как он учился и учил. О том, как он боролся и как человек надеялся на чудо, но как врач понимал, что чуда не произойдёт. Этот фильм — своеобразное завещание Андрея. Послание всем онкологическим пациентам, их родственникам и врачам.
Документалка / Лучшие фильмы мира / Советские фильмы / Кино о войне / Киношедевры мира -
Ужасы / Лучшие сериалы мира
Производство: Россия / Такие Дела
Жанр: документальный, биография
Режиссер: Сергей Карпов (V), Руслан Федотов
Актеры: Андрей Павленко, Анна Павленко-Гегечкори, Софья Павленко, Кристина Павленко, Даниил Павленко
Описание: В марте 2018 года один из лучших хирургов-онкологов страны Андрей Павленко узнал, что у него рак желудка агрессивной формы. Это документальный фильм, где хирург-онколог Андрей Павленко даёт своё последнее интервью и рассказывает о своей жизни; о том, как он пришёл в профессию, как он стал одним из гениальных хирургов-онкологов; о том, как он учился и учил. О том, как он боролся и как человек надеялся на чудо, но как врач понимал, что чуда не произойдёт. Этот фильм — своеобразное завещание Андрея. Послание всем онкологическим пациентам, их родственникам и врачам.
Документалка / Лучшие фильмы мира / Советские фильмы / Кино о войне / Киношедевры мира -
Ужасы / Лучшие сериалы мира
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Music BOARD | Музыка
ярко гореть, а не тлеть в серой толпе.
ЗАСТАВЬ СВОЮ ДУШУ ТЛЕТЬ!Forwarded from Канал Игоря Сухарева
Смешно видеть видео на Ютубе с названиями в стиле "100 уровней математики", где на обложке уровень 1 иллюстрируется равенством 2+2=4, а уровень 100 — тройным интегралом или тождеством в стиле Ax=λx. Sweet summer children 😌... Эти все примеры проходят на 2-3 курсе бакалавриата на любом матфаке. А то, что на самом деле является уровнем 100 в математике, на Ютубе можно найти только в виде часовых роликов на безымянных каналах 10 подписчиками с названиями в духе "ACME Mathematical Conference–2024. A. Grigoryan: On some abstract crap only me and my cat knows lmao" с 50 просмотрами и одним комментарием на хинди
Forwarded from ok × @OMNIROADPROJECT
good perfect smooth motion sharp clear vivid colors wide gamut hd video
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Mode: Style Transfer (from image)
Model version: Kandinsky 2.2
Model version: Kandinsky 2.2
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Mode: Style Transfer (from image)
Model version: Kandinsky 2.2
Model version: Kandinsky 2.2
Forwarded from 🌱 🔺⃤ @PRIMALSTREAM🔺⃤ 🫲😌✨ 🌱
Будущее XXI века
Необычная Bluetooth-колонка Корейский художник Дакд Юнг создал Bluetooth-колонку, которая может визуализировать музыку при помощи ферромагнитной жидкости. Ферромагнитная жидкость — жидкость, сильно поляризующаяся в присутствии магнитного поля, поэтому Юнг…
This media is not supported in your browser
VIEW IN TELEGRAM
Forwarded from ++PAUSED++ 🌱 ok × GOOD LOOKING GHOST 🌱
Mode: Style Transfer (from image)
Model version: Kandinsky 2.2
Model version: Kandinsky 2.2
Forwarded from эйай ньюз
Откуда AI хайп и почему именно сейчас?
И немного баек от меня.
Я начал заниматься Deep Learning в 2015 году, когда переехал в Германию. Даже тогда, когда уже прошло 3 года после появления культовой архитектуры AlexNet, еще не все из научного мира купили идею нейронных сетей. В нашей научной группе CompVis (где зародился Stable Diffusion) проф был из тех, кто еще не полностью поверил в силу Deep Learning, и и поэтому первые 3-4 месяца я большую часть своего времени провел за работой с SVM (Support Vector Machine)
Но, с первых дней я понемногу начал поглядывать и на нейросети вместе со своими постдоком. TensorFlow тогда еще не было, а правил бал Caffe из Berkeley AI Research – ужасно неудобный фреймворк, где сеть нужно было определять в protobuf файле из набора заготовленных слоев. Ни о каком autograd и речи не шло. В 2016 на NeurIPS вышла моя статья CliqueCNN про self-supervised learning, и она была первой статьей по нейросетям из нашей научной группы.
В общем, я к тому, что Deep Learning с нами уже довольно давно (ну, или не так давно, смотря как посмотреть), и трансформеры, то на чем строятся все современные языковые модели, изобрели в далеком 2017 году, но дикий хайп пошел только в 2023. Я за хайпом никогда не шел, и когда начинал PhD, о нейросетях не кричала каждая собака в твиттере. В 2019 году мне показалось: “Ну, вот сейчас пик популярности AI и Deep Learning, смотри как StyleGAN завирусился”. Но это был мой пузырь, и высокая популярность нейросеток тогда была только внутри научного мира. Появилась куча AI программ и толпы студентов пошли изучать такие sexу предметы, как Machine Learning и Data Science. Это было только начало.
Ну а теперь, в 2023, я вообще в шоке от того, что происходит. Все как будто с цепи сорвались с этим ChatGPT и китайскими клонами. Мне за последние две недели 4 раза предлагали дать интервью в разные онлайн издания по поводу AI. Забавно наблюдать FOMO не только у людей, но и у крупных технологических компаний, которые готовы рисковать репутацией, лишь бы запрыгнуть в хайп-трейн. Самое смешное, так это то из-за чего этот хайп формируется. По сути технология за ChatGPT не является прорывной, никакой AGI изобретен не был. Все что произошло — так это, OpenAI смогли красиво обернуть свою модель (за это им стоит отдать должное) и дать потрогать ее массе обывателей, далеким от технологий. Вот тут люди, которые не понимают как это все работает, очнулись и иcпытали катарсис. Про AI стали говорить из каждого утюга, гуру учат зарабатывать с помощью ChatGPT, а VC закричали “возьмите наши бабки”. Ведь, то что ты не понимаешь тебе кажется магией, и для многих ChatGPT действительно выглядит как что-то из будущего. Да, инструмент оказался полезный, и уже может автоматизировать некоторую рутинную работу с текстом и кодом. Но магического там мало – линейная алгебра, бро. И до того как чат-боты перестанут нести пургу с уверенным лицом и действительно поймут, как устроен наш мир, пройдет еще несколько лет (предсказание сугубо оптимистическое и неконкретное).
Так что, друзья, давайте лучше будем разбираться в технологиях, а не бежать за хайпом. Для этого мы тут и собрались.
#карьера #мойпуть
@ai_newz
И немного баек от меня.
Я начал заниматься Deep Learning в 2015 году, когда переехал в Германию. Даже тогда, когда уже прошло 3 года после появления культовой архитектуры AlexNet, еще не все из научного мира купили идею нейронных сетей. В нашей научной группе CompVis (где зародился Stable Diffusion) проф был из тех, кто еще не полностью поверил в силу Deep Learning, и и поэтому первые 3-4 месяца я большую часть своего времени провел за работой с SVM (Support Vector Machine)
Но, с первых дней я понемногу начал поглядывать и на нейросети вместе со своими постдоком. TensorFlow тогда еще не было, а правил бал Caffe из Berkeley AI Research – ужасно неудобный фреймворк, где сеть нужно было определять в protobuf файле из набора заготовленных слоев. Ни о каком autograd и речи не шло. В 2016 на NeurIPS вышла моя статья CliqueCNN про self-supervised learning, и она была первой статьей по нейросетям из нашей научной группы.
В общем, я к тому, что Deep Learning с нами уже довольно давно (ну, или не так давно, смотря как посмотреть), и трансформеры, то на чем строятся все современные языковые модели, изобрели в далеком 2017 году, но дикий хайп пошел только в 2023. Я за хайпом никогда не шел, и когда начинал PhD, о нейросетях не кричала каждая собака в твиттере. В 2019 году мне показалось: “Ну, вот сейчас пик популярности AI и Deep Learning, смотри как StyleGAN завирусился”. Но это был мой пузырь, и высокая популярность нейросеток тогда была только внутри научного мира. Появилась куча AI программ и толпы студентов пошли изучать такие sexу предметы, как Machine Learning и Data Science. Это было только начало.
Ну а теперь, в 2023, я вообще в шоке от того, что происходит. Все как будто с цепи сорвались с этим ChatGPT и китайскими клонами. Мне за последние две недели 4 раза предлагали дать интервью в разные онлайн издания по поводу AI. Забавно наблюдать FOMO не только у людей, но и у крупных технологических компаний, которые готовы рисковать репутацией, лишь бы запрыгнуть в хайп-трейн. Самое смешное, так это то из-за чего этот хайп формируется. По сути технология за ChatGPT не является прорывной, никакой AGI изобретен не был. Все что произошло — так это, OpenAI смогли красиво обернуть свою модель (за это им стоит отдать должное) и дать потрогать ее массе обывателей, далеким от технологий. Вот тут люди, которые не понимают как это все работает, очнулись и иcпытали катарсис. Про AI стали говорить из каждого утюга, гуру учат зарабатывать с помощью ChatGPT, а VC закричали “возьмите наши бабки”. Ведь, то что ты не понимаешь тебе кажется магией, и для многих ChatGPT действительно выглядит как что-то из будущего. Да, инструмент оказался полезный, и уже может автоматизировать некоторую рутинную работу с текстом и кодом. Но магического там мало – линейная алгебра, бро. И до того как чат-боты перестанут нести пургу с уверенным лицом и действительно поймут, как устроен наш мир, пройдет еще несколько лет (предсказание сугубо оптимистическое и неконкретное).
Так что, друзья, давайте лучше будем разбираться в технологиях, а не бежать за хайпом. Для этого мы тут и собрались.
#карьера #мойпуть
@ai_newz
Computer Vision & Learning Group
Home - Computer Vision & Learning Group
Prof. Björn Ommer's Machine Vision and Learning group at Ludwig Maximilian University (LMU) of Munich.