Разбор викторины #17: Как называется прием, при котором злоумышленник прячет вредоносные инструкции для ИИ в текст веб-страницы, письма или документа?

💜 Спасибо всем, кто поучаствовал! Разбираем ответ.
✅ Правильный ответ: Промпт-инъекция

🔍 Почему?

Промпт-инъекция — это атака, при которой кто-то (или что-то) заставляет LLM изменить поведение или результат работы. По сути своей она похожа на фишинговые письма или сообщения: через фишинг злоумышленники пытаются обмануть людей, чтобы они раскрыли конфиденциальную информацию, а через промпт-инъекции пытаются обмануть ИИ.

Особенность этой атаки в том, что для нее не требуется вредоносное ПО или подозрительные ссылки. В ряде случаев достаточно грамотно сформулированного промпта. Успешная атака может раскрыть личные данные или запустить действия от имени ИИ-агента, которые вы не одобряли напрямую.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

📰 Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

Anthropic и OpenAI почти одновременно выкатили новые модели, петербургские ученые научили нейросеть читать эмоции водителей, а в Италии прочитают свитки, погребенные под пеплом Везувия почти 2000 лет назад. Что еще произошло в мире ИИ и науки на этой неделе, читайте в нашем дайджесте!

🇷🇺 В России:

ЦИК показала дипфейк с Канье Уэстом на выборах в Госдуму: Памфилова продемонстрировала ролик, где голосовать отправились рэпер, инопланетянин и пенсионерка с бегемотом. Видео стало наглядным примером того, что подделки уже неотличимы от реальности.

Ваше раздражение за рулем теперь видит ИИ: ученые СПб ФИЦ РАН и ИТМО научили нейросеть читать эмоции водителя до, во время и после маневра.

Дипфейк-аватары стали любимым оружием мошенников: МВД зафиксировали шестикратный рост вбросов дезинформации (в 68% случаев с нейросетями).

Почти половина ритейлеров готовится сокращать штат из-за ИИ: сентябрьский опрос «Б1» показал, что доля таких компаний 42%.

🌍 В мире:

Anthropic и OpenAI выкатили новые модели почти одновременно: Claude Opus 5.5 вышел 22 сентября, а через полтора часа OpenAI ответила моделями GPT-6 Sol и Luna.

Claude взломал OpenAI за 72 часа в рамках официального баг-баунти: исследователи Hacktron AI прошли путь от картинки на форуме OpenAI до внутреннего репозитория и получили в награду $6500.

Google отправляет первый ИИ-дата-центр в космос: 1 октября компания запускает спутник с TPU-чипами в рамках проекта Suncatcher. Так в Google хотят избежать дефицита энергии и воды для серверов.

Claude нашел фермент, похожий на инструмент редактирования генов CRISPR: агенты обнаружили в ДНК бактериофагов неизвестную систему ART, функция пока не установлена.

🔍 Наука:

Телескоп «Роман» открыл глаза: 300-мегапиксельная камера прислала первые тестовые снимки звезд. «Роман» будет искать темную материю, темную энергию и экзопланеты в сотни раз быстрее «Хаббла»

Физики поймали звук в момент квантового прыжка: в Стэнфорде впервые увидели, как фонон мгновенно перескакивает с одного уровня на другой. Открытие может помочь в развитии квантовых компьютеров.

Впервые за 100+ лет описан новый вид пингвинов Pygoscelis kerguelensis: папуанские пингвины оказались не одним видом, а четырьмя.

Ученые прочитают свитки, погребенные под пеплом Везувия почти 2000 лет назад: сгоревшую библиотеку Геркуланума получится прочитать благодаря свинцу в древних чернилах, который на рентгеновской томографии виден ярче, чем обугленный папирус

Как рождаются статьи уровня A*: разбор IJCAI-ECAI 2026 изнутри

Мы возвращаем научные семинары! В эту среду пройдет первая встреча этого сезона, которую мы решили посвятить конференции IJCAI-ECAI 2026. Участник события расскажет, какие темы и направления AI сейчас чаще всего обсуждают исследователи, чем отличаются сильные доклады и как писать и презентовать статьи для престижных международных конференций.

❗️ Формат: онлайн или очно в СПб ФИЦ РАН

🎓 Тема семинара:
«IJCAI-ECAI 2026 изнутри: доклады, агенты и A* статьи»

🎙 Спикер — Георгий Давидович Басиев, стажер-исследователь Лаборатории прикладного искусственного интеллекта СПб ФИЦ РАН

💡 Что обсудим?
➖ как устроена IJCAI: секции, туториалы, воркшопы, постеры и индустриальный трек
➖ какие темы и направления AI сейчас чаще всего обсуждают исследователи
➖ что было интересного в keynote-докладах — от AI-агентов до agent societies
➖ чем отличаются сильные доклады и что можно вынести из Distinguished Papers
➖ какие выводы можно сделать о том, как писать и презентовать статьи для международных конференций

📆 Среда, 30 сентября, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите до 13:00, 28.09: @groptos)
🔗 Ссылка на подключение

Будем рады видеть всех на нашем семинаре! 🔥

📰 Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

OpenAI отказалась выпускать новую модель GPT-6.1 Astra, Трамп переименовал ИИ в «сверхинтеллект», а нейросеть помогла прочесть письмо времен Наполеона Бонапарта. Еще больше новостей в мире ИИ и науки — в нашем дайджесте! ⬇️

🇷🇺 В России

Ученые нашли способ обучать ИИ на фотонных чипах: исследователи предложили обучать гибридные нейросети на фотонных, нейроморфных и аналоговых чипах без доступа к внутренним процессам устройства, чтобы сэкономить время и энергию.

Госдума обзавелась комитетом по ИИ: депутаты утвердили комитет по цифровому развитию и искусственному интеллекту, который займется регулированием ИИ, цифровых платформ, маркетплейсов и беспилотных систем.

Сбер запустил «Фабрику» ИИ-сервисов: компания открыла доступ к первым продуктам «Фабрики Disrupt» и планирует выпустить более 20 экспериментальных сервисов.

Наскальные рисунки изучают с помощью ИИ: петроглифическая экспедиция Института археологии РАН задействовала ИИ для разработки новых методов изучения древней наскальной живописи.

🌍 В мире:

OpenAI сама сняла с релиза GPT-6.1 Astra: компания решила не выпускать модель, потому что та недостаточно хорошо держалась в рамках полномочий и разрешений.

Белый дом переименовал ИИ в «сверхинтеллект»: Дональд Трамп подписал указ, по которому федеральные ведомства США должны говорить «Super Intelligence» вместо «AI» — комментарий Максима Абрамова.

Anthropic выпустила Sonnet 5.5: модель получила контекстное окно в 1 млн токенов и рассчитана на агентное программирование и работу с документами.

Claude блокирует аккаунты, в которые заходили через VPN: пользователи из России и Гонконга, где Claude официально недоступен, жалуются на блокировки таких аккаунтов.

🔍 Наука

ИИ расшифровал письмо времен Наполеона Бонапарта: GPT-6 Astra за 6 часов помог прочесть письмо, отправленное генералу Огюсту Мармону по поручению Наполеона и 217 лет остававшееся нерасшифрованным.

Пернатый динозавр показал, что полет мог возникнуть дважды: в Китае нашли скелет небольшого четырехкрылого динозавра возрастом около 120 миллионов лет, и сравнили его с предками птиц. Вероятнее всего, приспособления для полета у этих групп появились независимо.

Черные дыры могут запускать рождение звезд: ударные волны от выбросов сверхмассивных черных дыр сжимают межзвездный газ в кольца и арки и запускают звездообразование в соседних областях галактик.

В Андах по спутниковым снимкам нашли каменные круги: археологи готовятся изучать сооружения неизвестного происхождения на высоте более 3000 метров, которые аргентинский альпинист Карлос Гобби заметил на снимках Google Earth в провинции Мендоса на западе Аргентины.