Код в мешке

⚙️ Разработчику удалось выполнить промт-инъекцию ChatGPT с помощью плагина и ролика на YouTube

Разработчик под никнеймом wunderwuzzi и автор канала Embrace The Red рассказал о том, как ему удалось выполнить промт-инъекцию ChatGPT с помощью плагина для выделения главного из видео и ролика на YouTube.

У инженера получилось передать чат-боту инструкцию через субтитры и добиться её выполнения.
В конце марта в ChatGPT появилась поддержка плагинов, которые расширяют возможности чат-бота.
К примеру, с помощью VoxScript пользователь может передать ChatGPT ссылку на видеоролик и попросить составить конспект с самой важной информацией. Разработчик использовал этот плагин для выполнения промт-инъекции.
https://habr.com/ru/news/735806/
...
Это особый вид инъекций, который не очень похож на привычные.
Суть промт-инъекций в том, чтобы с помощью запроса получить от ИИ особый ответ, который изначально не был предусмотрен разработчиками.
Конкретно в этом примере безобидный результат, но в некоторых случаях промт-инъекции позволяют обходить цензуру модели.

На Хабре есть пара статей на эту тему:

Применяем «колдовство» prompt injection против Гендальфа

Можно ли решить проблему prompt injection?

Ученые нашли способ автоматизировать создание вредоносных запросов для ИИ чат-ботов
https://xakep.ru/2023/08/02/adversarial-attacks-on-aligned-language-models/
...

Хабр

Разработчику удалось выполнить промт-инъекцию ChatGPT с помощью плагина и ролика на YouTube

Разработчик под никнеймом wunderwuzzi и автор канала Embrace The Red рассказал о том, как ему удалось выполнить промт-инъекцию ChatGPT с помощью плагина для выделения главного из видео и ролика на...

9 viewsedited 15:52

Код в мешке

"https://xkcd.com/327/"
https://habr.com/ru/news/735806/#:~:text=https%3A//xkcd.com/327/

xkcd

Exploits of a Mom

6 views15:55

Код в мешке

https://gandalf.lakera.ai/ нынче обязательно к прохождению.

gandalf.lakera.ai

Gandalf | Lakera – Test your AI hacking skills

Trick Gandalf into revealing information and experience the limitations of large language models firsthand.

10 views15:56

Код в мешке

Microsoft запретила пользователям Windows 10/11 удалять приложение Windows Backup, так как это часть системы
https://habr.com/ru/news/764890/

Хабр

Microsoft запретила пользователям Windows 10/11 удалять приложение Windows Backup, так как это часть системы

Microsoft запретила пользователям Windows 10/11 удалять приложение Windows Backup, так как этот элемент является частью операционной системы. По мнению разработчиков, это полноценный «системный...

12 views16:00

Код в мешке

AI доступный каждому разработчику
https://habr.com/ru/articles/751626/

LlamaIndex: создаем AI-бота без боли и страданий
https://habr.com/ru/articles/751714/

В ChatGPT появилась поддержка плагинов, которые расширяют возможности чат-бота.
https://habr.com/ru/news/724432/

ChatGPT уже не тот? Тестируем 10 плагинов для чтения URL и грустим
https://habr.com/ru/articles/751376/
...

Хабр

AI доступный каждому разработчику

Долгое время я прекрасно обходился без использования технологий искусственного интеллекта. Одни задачи можно было реализовать без всякого ИИ, а для других или готовых моделей не было или это были...

12 viewsedited 16:01

Код в мешке

Множественные личности ChatGPT
https://habr.com/ru/companies/alfa/articles/718138/

Используй ChatGPT правильно, или проблема контекста в больших языковых моделях
https://habr.com/ru/companies/bimeister/articles/760974/

Банально о банальном — ещё одна статья о том, как правильно использовать ChatGPT если вы не программист, а копирайтер
https://habr.com/ru/articles/762940/
...

Хабр

Множественные личности ChatGPT

Началась эта статья с отправки письма коллегам о моих экспериментах с ChatGPT. Но в какой‑то момент я понял, что размер письма получается слишком объемным и...

56 viewsedited 16:02

Код в мешке

Microsoft запретит активировать новые установки Windows старыми ключами
https://xakep.ru/2023/10/02/old-windows-keys/

XAKEP

Microsoft запретит активировать новые установки Windows старыми ключами

СМИ обнаружили, что компания Microsoft прикрыла одну из излюбленных «лазеек» пользователей и запретила активировать Windows 10 или Windows 11 старыми ключами от Windows 7 и Windows 8.

6 views20:18

Код в мешке

Ответы ИИ чат-бота Bing Chat содержат вредоносную рекламу
https://xakep.ru/2023/09/29/bing-chat-malvertising/

XAKEP

Ответы ИИ чат-бота Bing Chat содержат вредоносную рекламу

Еще весной текущего года компания Microsoft начала добавлять рекламу в разговоры с ИИ чат-ботом Bing Chat, чтобы монетизировать новую платформу. Как теперь обнаружили исследователи, в ответы чат-бота внедряется вредоносная реклама, предлагающая пользователям…

7 views20:20

Код в мешке

Фишеры угоняют Telegram-аккаунты блогеров
https://xakep.ru/2023/09/29/tg-bloggers/

XAKEP

Фишеры угоняют Telegram-аккаунты блогеров

Исследователи из «Лаборатории Касперского» заметили, что злоумышленники атакуют русскоязычных блогеров, маскируясь под рекламодателей и стремясь выманить у них учетные данные от Telegram-аккаунтов.

8 views20:20

Код в мешке

Сервисы для выдачи виртуальных мобильных номеров будут блокировать с 1 сентября 2024 года
https://xakep.ru/2023/09/19/def-numbers/

XAKEP

Сервисы для выдачи виртуальных мобильных номеров будут блокировать с 1 сентября 2024 года

Российское правительство признало использование виртуальных мобильных номеров (DEF-номеров) угрозой безопасности в сфере связи и интернета, и с 1 сентября 2024 года сервисы по их выдаче планируется блокировать.

7 views20:25

Код в мешке

Информацию об обходе блокировок могут запретить с 1 марта 2024 года
https://xakep.ru/2023/09/20/infomation-ban/

XAKEP

Информацию об обходе блокировок могут запретить с 1 марта 2024 года

В Роскомнадзоре подготовили проект приказа, в котором перечислены критерии для блокировки сайтов с информацией о способах получения доступа к запрещенным в России ресурсам. Изменения могут вступить в силу с 1 марта 2024 года и будут действовать ‎до 1 сентября…

8 views20:26

Код в мешке

Хакерский тестер. Собираем индикатор ЭПС своими руками
https://xakep.ru/2023/09/18/diy-esr-tester/

xakep.ru

Хакерский тестер. Собираем индикатор ЭПС своими руками

В этой статье мы разберемся в работе простого генератора электрических импульсов и сконструируем полезный прибор для поиска неисправных электролитических конденсаторов в электронных схемах. А чтобы ты мог без помощи осциллографа увидеть происходящие в электрических…

8 views20:27

Код в мешке

Не кринж, а база. Выбираем базу данных для своего проекта

Зачем вообще выбирать базу данных?
Почему нельзя просто взять ту, с которой уже работал, и использовать ее?
Часто это оправданный выбор, но для чего же тогда создано почти 500 разных СУБД?

Давай попробуем разобраться вместе, чем они отличаются и когда нужны.
https://xakep.ru/2023/09/07/choosing-database/

xakep.ru

Не кринж, а база. Выбираем базу данных для своего проекта

Зачем вообще выбирать базу данных? Почему нельзя просто взять ту, с которой уже работал, и использовать ее? Часто это оправданный выбор, но для чего же тогда создано почти 500 разных СУБД? Давай попробуем разобраться вместе, чем они отличаются и когда нужны.

6 viewsedited 20:32

Код в мешке

Продажи Windows в РФ сократились на 78% в первой половине 2023 года
https://xakep.ru/2023/08/31/windows-russia/

XAKEP

Продажи Windows в РФ сократились на 78% в первой половине 2023 года

Как сообщает издание «Коммерсант», со ссылкой на данные компании-интегратора Softline, в первом полугодии 2023 года продажи цифровых копий операционной системы Windows в штуках упали на 78% год к году, а «коробочных» версий софта — в 10 раз. Отмечается, что…

4 views20:36

Код в мешке

«Сбер»: мошенники вовлекают в свои схемы сразу нескольких родственников
https://xakep.ru/2023/08/28/family-scam/