Проверяем на прочность генеративные нейросети Яндекса

Это новый сезон «Охоты за ошибками». Мы приглашаем вас найти уязвимости в наших системах и приложениях — на этот раз на территориях генеративных сетей. Ждём отчёты об ошибках, которые могут повлиять на результаты работы и процесс обучения нейросетей: например, привести модель к сбою или изменить её поведение так, чтобы это затронуло работу других сервисов Яндекса.

Успешным охотникам предоставим денежные призы: от пятидесяти тысяч до миллиона рублей. Размер вознаграждения зависит от серьёзности ошибки, простоты её эксплуатации и воздействия чувствительной информации. Наиболее критичные уязвимости — это баги, которые позволяют раскрыть данные о внутренней конфигурации модели, её служебный промпт с техническими данными или другую чувствительную информацию.

В программе участвуют все сервисы с YandexGPT или YandexART на борту:

🔸 Алиса
🔸 Поиск с Нейро
🔸 Шедеврум

И другие, включая те, где ML-модель используется только для ранжирования и поиска.

Все подробности ищите здесь

Реклама. ООО "Яндекс". ИНН 7736207543

Розыгрыш для комьюнити багхантеров

BugXplorer запускает розыгрыш с крутыми призами — специально для сообщества багхантеров.

В призовом фонде — 5 черных стильных футболок Motherhacker с голографической надписью от BI.ZONE Bug Bounty.
Пятерых победителей выберем 18 июня при помощи бота-рандомайзера.

Участвовать могут жители России и стран СНГ. Доставка призов осуществляется только внутри этих регионов.

Для участия в розыгрыше:

— Подпишись на BugXplorer и BI.ZONE Bug Bounty.
— Нажми кнопку «Участвовать» под постом.
— Все, ты в игре — осталось дождаться результатов.

Удачи ;)