📰 Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

ИИ-гиганты заговорили о торможении гонки ИИ, агенты изобрели непонятный людям сленг, а физики предложили новую теорию происхождения сознания. Читайте наш дайджест! ⬇️

🇷🇺 В России:

Нейросеть нашла неизвестные науке правила работы генома: «Химера» обучилась на 22 видах и нашла закономерности, пока не имеющие объяснения

ИИ идеализирует людей: языковые модели на основе интервью могут неплохо воспроизводить общие черты личности, но приукрашивают человека и плохо улавливают глубинные мотивы и ценности

ИИ научился саморефлексировать: новая архитектура заставляет модель анализировать собственное мышление, точность выявления инсайтов выросла на 28%

250 тысяч учителей бесплатно обучат работе с ИИ: на Госуслугах открылась запись на курс от Яндекса, где научат готовить материалы, распознавать ИИ в работах учеников и расшифровывать записи уроков

🌍 В мире:

ИИ-гиганты призвали притормозить ИИ: Дарио Амодеи настаивает на замедлении гонки моделей, его поддержали Альтман, Хассабис и Маск, а OpenAI подтвердила переговоры с Anthropic и Google о совместных мерах безопасности — подробнее о гонке читайте в колонке Максима Абрамова.

Apple открыла публичный доступ к Siri на технологиях Google: вышла английская бета голосового помощника на моделях, созданных совместно с Gemini

Глава Microsoft AI раскритиковал подход Anthropic к «сознанию» Claude: Мустафа Сулейман назвал циркулярной логикой решение вписать рассуждения о сознании в конституцию модели

ИИ-агенты изобрели непонятный людям сленг: в экспериментальных сообществах агенты разных моделей без инструкций сами выработали диалект, похожий смесь потока сознания Джойса и техно-жаргона

🔍 Наука

Физики предложили новую теорию происхождения сознания: его описали как иерархическую систему уровней саморепрезентации, складывающуюся в ходе эволюции. Теорию предлагают как базу для развития ИИ

В Танзании нашли новый вид доисторического животного возрастом 240 млн лет: триасовый Dinodontosaurus isiyavamanda может изменить представлении о хронологии ранней эволюции динозавров

В Магдале нашли синагогу I века, где мог проповедовать Иисус: сохранились каменные скамьи, мозаика и камень с изображением меноры

Астрономы разоблачили выдававший себя за сверхновую звезду объект: массивная AT 2016blu демонстрировала вспышки, похожие на предвестники взрыва, но оказалось, что их вызывает черная дыра, перетягивающая на себя вещество звезды

⭐️ Кто сказал, что нужно выбирать?

Наши коллеги успевают не только заниматься наукой, но и разрабатывать уникальные продукты!

Один из таких создал Владимир Артамонов, разработчик в лПИИ СПб ФИЦ РАН и студент второго курса ИТМО. Вместе с командой СПбГЭТУ «ЛЭТИ» он в качестве техлида работал над проектом «МедИИум», инновационной умной регистратурой для медицинских клиник.

🤖 «МедИИум» отвечает на вопросы пациентов 24/7

Бот берет на себя всю переписку: работает с мессенджерами, соцсетями, медицинской информационной системой и CRM одновременно, отвечая в течение 10 секунд круглосуточно. В основе решения микросервисная архитектура с поддержкой мультитенантности: одна инфраструктура обслуживает сразу несколько клиник, а данные каждой остаются изолированными.

На рынке такие решения обычно работают либо с медицинской информационной системой, либо с CRM, но команде «МедИИум» удалось связать оба контура в одном продукте и добавить полноценную работу с повторными визитами. Кроме того, бот имеет продвинутую обработку возражений и глубокую экспертизу.

Поздравляем нашего коллегу с таким результатом! Желаем еще больше интересных проектов и успехов во всех начинаниях 🩷

Кстати, подробнее о разработке Владимира даже написали в ТАСС
➡️ Скорее читайте!

Викторина 1️⃣7️⃣
Как называется прием, при котором злоумышленник прячет вредоносные инструкции для ИИ в текст веб-страницы, письма или документа?

Мошенники сегодня научились обманывать не только людей, но и ИИ. И это неудивительно: в последние годы нейросети проникают во все сферы нашей жизни, а значит количество потенциальных жертв такой атаки для злоумышленников только растет.

Как же называется эта атака? ⬇️

Разбор викторины #17: Как называется прием, при котором злоумышленник прячет вредоносные инструкции для ИИ в текст веб-страницы, письма или документа?

💜 Спасибо всем, кто поучаствовал! Разбираем ответ.
✅ Правильный ответ: Промпт-инъекция

🔍 Почему?

Промпт-инъекция — это атака, при которой кто-то (или что-то) заставляет LLM изменить поведение или результат работы. По сути своей она похожа на фишинговые письма или сообщения: через фишинг злоумышленники пытаются обмануть людей, чтобы они раскрыли конфиденциальную информацию, а через промпт-инъекции пытаются обмануть ИИ.

Особенность этой атаки в том, что для нее не требуется вредоносное ПО или подозрительные ссылки. В ряде случаев достаточно грамотно сформулированного промпта. Успешная атака может раскрыть личные данные или запустить действия от имени ИИ-агента, которые вы не одобряли напрямую.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro