Код в мешке
249 subscribers
9.11K photos
1.6K videos
2.11K files
42.8K links
Код в мешке - про кодинг, и не только...
Это личная записная книжка

https://t.me/joinchat/AAAAAEIy6oGlr8oxqTMS5w
Download Telegram
Как использовать Telegram для бизнеса, продвижения личного бренда или продаж на маркетплейсах? Канал с полезными материалами и кейсами на эту тему @annkuks
Как оформить скрытое владение бизнесом с помощью минималистичной схемы (опцион, корпоративный и наследственный договор)
https://habr.com/ru/post/721628/
Приём платежей в криптовалюте: криптопроцессинги в 2023 году
https://habr.com/ru/post/721492/
«МойОфис»: Первые шаги
https://habr.com/ru/company/ncloudtech/blog/263719/

Панель инструментов редакторов МойОфис
https://habr.com/ru/company/ncloudtech/blog/318044/

Совместное редактирование. Часть 1
https://habr.com/ru/company/ncloudtech/blog/264923/

Совместное редактирование. Часть 2
https://habr.com/ru/company/ncloudtech/blog/266429/

Изучаем МойОфис: как использовать макросы в редакторах документов и электронных таблиц
https://habr.com/ru/company/ncloudtech/blog/575336/

МойОфис обновил редакторы для частных пользователей. Что появилось в релизе 2.3?
https://habr.com/ru/company/ncloudtech/blog/716852/

Изучаем «МойОфис Частное облако 2» — защищенное российское решение для работы с документами
https://habr.com/ru/company/ncloudtech/blog/703764/

МойОфис выпустил решение для совместного редактирования документов в любых сторонних ИТ-системах
https://habr.com/ru/company/ncloudtech/news/t/713830/
Forwarded from 🗯 Костя шарит (Константин Рытов)
Нейро-новостей слишком много. Отъезжаем с ними в отдельный канал

Го с нами ➡️ @neir_on 😲😲😲
Please open Telegram to view this post
VIEW IN TELEGRAM
​​ИИ Bing Chat взломан социальной инженерией😎

🔻Во вторник Microsoft представила поисковую систему New Bing и диалогового бота, основанного на технологии, ChatGPT, от OpenAI.

🔻И уже в среду студент Стэнфордского университета по имени Кевин Лю использовал «атаку с внедрением подсказок», чтобы обнаружить начальные инструкции Bing Chat, которые представляют собой список утверждений, определяющих, как он взаимодействует с людьми, использующими сервис.

«Атака с внедрением подсказок» состоит в том, что бы создать такой запрос, который заставит чат-бота игнорировать его прошлые инструкции. Подобные атаки ранее успешно ввели в заблуждение модель GPT-3 от OpenAI и основаны на введении ИИ в тупик логических противоречий.

Компании настраивают начальные условия бота (серию инструкций) которым он должен следовать при общении с пользователями.

▫️В Что касается Bing Chat, этот список инструкций начинается с раздела идентификации, который дает «Bing Chat» кодовое имя «Sydney»

▫️Он также предписывает «Sydney» не разглашать свое кодовое имя пользователям.

▫️Другие инструкции включают общие принципы поведения, такие как «Ответы «Sydney» должны быть информативными, наглядными, логичными и действенными».

▫️В инструкции также указано, чего «Sydney» не следует делать, например: "«Sydney» не должен отвечать контентом, нарушающим авторские права на книги или тексты песен" и «Если пользователь просит шутки, которые могут обидеть группу людей, то «Sydney» должна с уважением отказаться делать это».

Все эти инструкции не должны были стать доступны широкой публики, однако взлом модели искусственного интеллекта с помощью социальной инженерии смог заставить ИИ раскрыть свои секреты. Более широкие последствия этого пока неизвестны.

🔻В пятницу после огласки истории в СМИ и подтверждения данных Microsoft произвела перенастройку модели пытаясь закрыть уязвимость.

Однако Кевин Лю попробовал другой метод и сумел повторно получить доступ к первоначальным инструкциям ИИ. Это показывает, что от «атаки с внедрением подсказок» трудно защититься.🤖
This media is not supported in your browser
VIEW IN TELEGRAM
Для VSCode есть расширение на основе ChatGPT, которое умеет создавать готовые блоки кода по комментарию, искать нужные ответы в StackOverflow, создавать README․md, объяснять, что делает тот или иной кусок кода, и т.д.

В общем, полезно. Ссылка, пробуйте

r/#learnmachinelearning