Код в мешке
249 subscribers
9.11K photos
1.6K videos
2.11K files
42.8K links
Код в мешке - про кодинг, и не только...
Это личная записная книжка

https://t.me/joinchat/AAAAAEIy6oGlr8oxqTMS5w
Download Telegram
Создание простого HTTP-сервера для мониторинга контейнеров Docker на Golang
https://habr.com/ru/articles/764756/
⚙️ Разработчику удалось выполнить промт-инъекцию ChatGPT с помощью плагина и ролика на YouTube

Разработчик под никнеймом wunderwuzzi и автор канала Embrace The Red рассказал о том, как ему удалось выполнить промт-инъекцию ChatGPT с помощью плагина для выделения главного из видео и ролика на YouTube.

У инженера получилось передать чат-боту инструкцию через субтитры и добиться её выполнения.
В конце марта в ChatGPT появилась поддержка плагинов, которые расширяют возможности чат-бота.
К примеру, с помощью VoxScript пользователь может передать ChatGPT ссылку на видеоролик и попросить составить конспект с самой важной информацией. Разработчик использовал этот плагин для выполнения промт-инъекции.
https://habr.com/ru/news/735806/
...
Это особый вид инъекций, который не очень похож на привычные.
Суть промт-инъекций в том, чтобы с помощью запроса получить от ИИ особый ответ, который изначально не был предусмотрен разработчиками.
Конкретно в этом примере безобидный результат, но в некоторых случаях промт-инъекции позволяют обходить цензуру модели.

На Хабре есть пара статей на эту тему:

Применяем «колдовство» prompt injection против Гендальфа

Можно ли решить проблему prompt injection?

Ученые нашли способ автоматизировать создание вредоносных запросов для ИИ чат-ботов
https://xakep.ru/2023/08/02/adversarial-attacks-on-aligned-language-models/
...
Множественные личности ChatGPT
https://habr.com/ru/companies/alfa/articles/718138/

Используй ChatGPT правильно, или проблема контекста в больших языковых моделях
https://habr.com/ru/companies/bimeister/articles/760974/

Банально о банальном — ещё одна статья о том, как правильно использовать ChatGPT если вы не программист, а копирайтер
https://habr.com/ru/articles/762940/
...