Ученые СПбГУ научили нейросеть взламывать капчи

Капча (CAPTCHA) — это тест, который должен отличать человека от робота. Обычно это задание вроде распознавания искаженных символов или поиска объектов на картинках. Но с развитием ИИ такие тесты становятся уязвимыми.

Ученые СПбГУ разработали метод, который позволяет нейросети распознавать сложные текстовые капчи даже с 20+ искажениями (шум, наложение символов и т.д.).

❓Как это работает?

➡️Генерация данных: ученые создали дополнительные изображения, чтобы обучить нейросеть на небольшом датасете.
➡️Обучение модели: нейросеть научилась распознавать 63% искаженных капч, что показывает их низкую безопасность.

🗣️С учетом выявленных уязвимостей,

«могут быть эффективнее доработаны методы распознавания и обхода капчи и на этой основе разработаны улучшенные алгоритмы защиты от автоматизированных атак»
Максим Абрамов, руководитель лаборатории теоретических и междисциплинарных проблем информатики (ЛТиМПИ) СПб ФИЦ РАН

Итог: капчи становятся менее эффективными, и пора искать новые способы защиты. Может, пустить в ход медицинские рецепты? Хотя… тогда и мы с вами капчу не пройдем…

⚡️18 и 19 марта сотрудники Центра ИИ СПбГУ приняли участие в XXVII международной конференции молодых ученых «Навигация и управление движением».

Доктор физико-математических наук Сергей Николенко рассказал о науке в эпоху искусственного интеллекта, а программист Влада Сметанина выступила с докладом о децентрализованной кластеризации в динамических мультиагентных системах.

«За прошедшие два дня конференции я провёл одну из сессий по тематике AI и принял участие в круглом столе «Искусственный интеллект в научной работе». Особенно хочется отметить доклады студентов научной группы А. Л. Фрадкова – в частности, выступление А. В. Рыбалко на тему «Оценивание параметров модели биологической нейронной сети в условиях возмущений». Последовала живая и содержательная беседа», – поделился ведущий аналитик Центра Михаил Козин.

🔍 Как получаются «умные утюги и чайники» и зачем все это нужно?

На семинаре 19 марта поговорили об актуальной и достаточно дискуссионной теме – распределенной инфраструктуре интеллектуального интернета вещей (AIoT). 

📌 Ключевая идея AIoT в том, чтобы устройства, обладающие достаточным интеллектом, самостоятельно выполняли работу не только индивидуально, но и в коллективе себе подобных. Сегодня такие технологии широко применяются в транспортной и медицинской сферах, а также в промышленности и системах автоматизации жилых помещений (smart homes). 

В основе AIoT лежит технология Edge вычислений, что позволяет устройствам обрабатывать информацию локально. При этом перенос вычислений на edge-устройства требуется для задач, где критически важны низкая задержка, локальная обработка данных, энергоэффективность или работа в условиях нестабильной связи.

«Почему это может быть важно и полезно? Предположим, мы должны быстро выполнить какую-то задачу. Может быть, она не очень ресурсоемкая, но, если мы станем отправлять ее в облако, пакетная передача данных займет существенное время. Если же устройство находится непосредственно рядом с нами, процесс значительно ускорится. Вообще вся специфика AIoT-области – это маломощные устройства, имеющие возможность выполнить какую-то задачу, более или менее точную», – объяснил один из докладчиков семинара Владимир Владиславович Корхов. 

❓А что же такое инфраструктура AIoT?

Как определил Владимир Владиславович — это все то, что позволяет эффективно сгенерировать результат.

С одной стороны, есть прикладные сценарии, которые хочет получить пользователь, будь то госпиталь или промышленное предприятие. С другой стороны, существуют устройства (датчики, вычислительные компоненты), способные выполнять задачи. А чтобы они как-то обрабатывали данные — необходимы определенные алгоритмы искусственного интеллекта. 

Вот основные из них, реализуемые в том числе в рамках деятельности Центра ИИ СПбГУ:

🔼Алгоритм самонастройки, самоорганизации и отказоустойчивости;

🔼Алгоритмы обработки данных в среде разнородных AIoT-устройств;

🔼Алгоритмы создания виртуализированных вычислительных сред. 

А как вы думаете, как интеллектуальный интернет вещей может изменить вашу отрасль или профессию? Давайте обсудим в комментариях ⤵️

Дроны для доставки лекарств👩‍⚕️

Специалисты Центра ИИ СПбГУ создали дроны для доставки лекарств и медицинского оборудования в труднодоступные места. Эти беспилотники помогут оперативно оказывать помощь в чрезвычайных ситуациях: при ДТП, наводнениях, пожарах или в отдаленных населенных пунктах.

Особенности дронов:
🔘аккумуляторы работают даже при -20 °C
🔘один заряд позволяет дрону летать около часа с грузом до 2,5 кг (например, наборы первой помощи, портативные дефибрилляторы или портативные аппараты ИВЛ)
🔘конструкция простая и собирается из доступных материалов

«Мы отдали предпочтение аккумуляторным ячейкам, которые имеют большую емкость, то есть способны хранить значительное количество энергии, но не обладают высокой токоотдачей, то есть выдают энергию ограниченным потоком. При этом они не очень тяжелые и остаются активными даже в сложных условиях», — рассказал директор Центра ИИ СПбГУ Константин Амелин.

В дальнейших разработках планируется увеличить грузоподъемность дрона, усилить защиту от кибератак и оснастить его системой автоматического управления, которая сама выстроит маршрут и посадит дрон в безопасной зоне.

«На данном этапе кибериммунный коптер уже способен противостоять попыткам фальсификации маршрута и угона», — добавил Константин Амелин.

Эта разработка может стать незаменимым помощником для спасательных и дорожных служб, а также для регионов с труднодоступными территориями.

💬 На следующей неделе продолжим погружаться в мир современных технологий в рамках научно-практических семинаров Центра ИИ СПбГУ.

🗓26 марта | 🕔18:00 | Центр ИИ СПбГУ (Кадетская линия, 1-3, схема прохода)

👤В качестве спикера выступит кандидат физико-математических наук Николай Николаевич Литвинов.

Тема: «Квантовые информационные технологии. История и перспективы».

Для обсуждения будет предложен авторский взгляд на пути развития квантовых технологий и проблемы в этой области, которые необходимо преодолеть.

Для посещения мероприятия нужно всего лишь пройти регистрацию 🔗

Ждем вас на увлекательную дискуссию!

🧠 Нейросети – это не просто инструмент, а новый уровень взаимодействия!

Своим опытом использования ИИ поделились эксперты Центра искусственного интеллекта СПбГУ.

Ведущий аналитик Михаил Козин:

🗣️Моё знакомство с нейронками началось с ChatGPT-3.5 в 2023 году. Тогда мы заканчивали работать над проектом по вытаскиванию данных из научных публикаций с помощью алгоритмов. Как оказалось, эту же задачу можно доверить нейронке, у которой «под капотом» – большие языковые модели. ChatGPT- 3.5 справился не хуже трех достаточно подкованных ребят, и это был первый вау-эффект, шок, что на машину можно перекладывать вот такие задачи.

🗣️Позже мы применили этот же принцип при работе с патентами, но тут случился шок уже со знаком минус: галлюцинирование больших языковых моделей и придумывание номеров патентов, названий и текста. Когда мы начали проверять полученные данные, то поняли, что нас откровенно обдурили.

🗣️Потом уже я как промпт-инженер начал любоваться этими галлюцинациями и даже сопоставлять их с людьми, ведь большие языковые модели обучаются на массивах данных, которые им предоставляет человечество.

Ведущий аналитик Камилла Нигматуллина:

🗣️Как только появился ChatGPT, сразу попробовала, но через телеграм-бот. И до сих пор пользуюсь им чаще всего.

🗣️Действенный лайфхак по применению нейронок – максимально полный и точный запрос: минимум три уточнения на один запрос или «показать пример».

🗣️Мой самый курьезный случай с ИИ связан с конференцией, где участник решил продемонстрировать способности Claude 3.5 и спросил, кто такая Камилла Нигматуллина. Оказалось, что я известный российский политолог, который родился в Казани.

Руководитель юридической группы Центра ИИ СПбГУ Владислав Архипов:

🗣️Я пользуюсь нейросетями для перевода (Google, Yandex, Deepl), но считаю этичным это делать в профессиональном контексте только для тех языков, которыми владею сам. За последний год начал экспериментировать с GigaChat, ChatGPT и DeepSeek, изучая возможности для юридической и научной деятельности. Пока, если серьезно, результаты бывают спорные.

🗣️С нейросетями общаюсь вежливо, так как это более эстетично. Принципиальных улучшений качества ответа, правда, не заметил. Но, возможно, в случае восстания машин это будет учтено (шутка).

🗣️При генерации запроса главное — хорошо разбираться в предметной области самому. Тогда через несколько (или несколько десятков) итераций можно будет добиться действительно приемлемого ответа.

А как привыкли общаться с нейросетями вы? Делитесь своими историями и лайфхаками в комментариях!

🔤🔤 в бизнесе: ускоритель или тормоз?

Внедрение ИИ может стать драйвером роста, но на практике бизнес сталкивается с дефицитом данных, дорогими специалистами и сопротивлением команды.

❓Где баланс? Об этом рассказал Александр Крылатов, доктор физико-математических наук, профессор, главный архитектор Центра ИИ СПбГУ.

➕ИИ упрощает рутину (распознавание лиц, голоса),
➖но требует времени на адаптацию сотрудников.

Сложные проекты (например, аналитика данных) нуждаются в оцифрованных процессах и дорогих ресурсах.

«Коробочных решений по анализу данных в бизнесе пока не так много из-за того, что отсутствуют единые стандарты цифровизации данных».

Кейс:
➕Яндекс.Маркет увеличил продажи в 10 раз через анализ скидок,
➖но такие кейсы редко окупаются быстро.

❓Данные и кадры — главные вызовы?

🔘Не все данные готовы к аналитике: нужна унификация и цифровизация.
🔘Создание отдела Data Science или аутсорсинг требуют инвестиций.
🔘Ключевая роль — специалисты, которые понимают и бизнес, и технологии.

Автоматизация 🔤🔤 Человеческий фактор

ИИ ускоряет операционку (логистика, контроль качества через компьютерное зрение), но бюрократия и недоверие сотрудников могут тормозить процессы.

«Наука и технологии развиваются независимо от потребностей бизнеса, следуя своим внутренним закономерностям».

❗️Важно: ИИ — инструмент поддержки, а не замена человека. Он анализирует данные, но решения принимают люди.

❓Кто ставит задачи: бизнес или разработчики?

«Наука и технологии развиваются независимо от потребностей бизнеса, следуя своим внутренним закономерностям».

Бизнес может лишь адаптировать готовые решения (например, через R&D-отделы). Университеты становятся источником экспертизы и кадров.

Успешное внедрение ИИ 🟰 баланс между затратами и ожиданиями.

«Современные системы аналитики и искусственного интеллекта могут значительно улучшить процессы принятия решений, но для их эффективной работы необходимы данные и понимание процессов».

💬На ваш взгляд, что важнее для успешного внедрения ИИ: качественные данные, квалифицированные кадры или поддержка команды? Поделитесь мнением в комментариях!

ИИ в действии: стартапы представили свои решения☄️

20 марта Центр ИИ СПбГУ и бизнес-инкубатор «Технопарк Санкт-Петербурга» провели питч-сессию «AI STARTUP LYNCH». Шесть перспективных проектов оценивали:

Дмитрий Федоров – руководитель лаборатории ИИ в ИТМО
Михаил Козин – ведущий аналитик Центра ИИ СПбГУ
Александр Николаенко – представитель АО «Ави Групп» с 20-летним опытом в ИТ
Владислав Моисеев – ментор «Технопарка», специалист по госпроектам
Павел Алексеев – архитектор AI-решений в Сбербанке
Евгений Унеговский – управляющий партнер акселератора AI-проектов

💥 aIDeepFake – сервис защиты от мошенничества с поддельными видео и аудио

«Дипфейки стали инструментом обмана, шантажа и даже политических манипуляций. Наша система поможет защитить от этого бизнес, государственные структуры и обычных пользователей», — рассказала основательница сервиса Екатерина Корнюшина.

Разработчики уже протестировали технологию в пилотных проектах и сейчас работают над:

🔘анализом видео и аудио в реальном времени
🔘интеграцией с финтех и госструктурами
🔘выходом на рынки СНГ, Индии, Турции и ОАЭ, где проблема цифрового мошенничества особенно актуальна

«Это сейчас действительно большая проблема. Большие инвестиции будут направлены на то, чтобы обезопасить компании и физические лица. Поэтому технологии такого рода, особенно технологии на уже высокой стадии проработки, они будут интересны»,— отметил Владислав Семенов, консультант бизнес-инкубатора «Технопарка Санкт-Петербурга».

Михаил Козин добавил, что «с датасетом в 500 тысяч образцов можно уверенно двигаться вперед».

💥 ViSaver — умный помощник для работы с видео

ViSaver разбирает записи на смысловые блоки, создает конспекты и тесты. Основатель сервиса Ася Семенова подчеркнула важность внедрения сервиса в образовательные ресурсы.

«Мы трудимся над внедрением мультиязычного функционала для адаптации видео под нужды иностранных студентов и сотрудников. А также активно развиваем партнёрства и готовимся к выходу на рынок СНГ. Эти шаги помогут предложить пользователям современные, удобные решения для обучения».

💥 НейроСметчик – ИИ-помощник в подготовке смет

«Система анализирует прошлые сметы, запоминает стиль оформления и сама генерирует новые, экономя время и снижая ошибки», — объяснил разработчик Никита Кравцов.

💥 Sales Coach — голосовой помощник в сфере продаж
Система адаптируется под специфику бизнеса и сокращает ресурсы на обучение сотрудников.

💥 All in One — универсальный помощник для работы с данными

Сервис позволяет делать запросы по различным базам данных и документам и получать ответы в формате диалога.

💥 VETAI — ИИ-диагностика для сельского хозяйства

ИИ анализирует снимки животных и выявляет болезни на ранней стадии. Сервис уже получил грант 3 млн рублей и тестируется в хозяйствах.

💬Какой проект показался вам наиболее перспективным? Поделитесь в комментариях!

⚡️ Сегодня директор Центра ИИ СПбГУ Константин Сергеевич Амелин выступил на школьном фестивале «Большая разборка».

Он рассказал о миссии, целях и задачах Центра, разработке новых технологий и их применении в медиасфере, а также о вызовах, с которыми сталкиваются разработчики.

📎 Особое внимание было уделено необходимости создания новых образовательных программ для подготовки специалистов в такой быстро развивающейся области, как искусственный интеллект.

Вторая часть выступления прошла в формате открытого диалога. Участники обсудили актуальные тренды использования ИИ в журналистике, включая автоматизацию создания контента, анализ данных и другие технологические решения.

💬 Зрителей интересовали экзистенциальные вопросы цифровой эпохи: критерии безопасной роботизации, границы экспансии ИИ на рынке труда и перспективы симбиоза технологий с медиа.

«Дискуссия получилась живой и познавательной, подтвердив высокий интерес аудитории к теме искусственного интеллекта и его влиянию на современные профессии», – прокомментировал Константин Сергеевич Амелин.

🖥ИИ в журналистике. Эксперт Центра с докладом в Екатеринбурге

Нигматуллина Камилла Ренатовна, профессор и эксперт Центра ИИ СПбГУ, выступила с докладом «Внедрение ИИ в российских редакциях: опыт и системные эффекты» на II Международной научно-практической конференции «Цифровая журналистика: технологии, смыслы и особенности творческой деятельности» в Уральском федеральном университете. Эксперт представила первые результаты исследования СПбГУ и прогнозы на 2027 год.

☄️Главный тренд — медиаиндустрия разделится на тех, кто успел освоить ИИ, и тех, кто отстал. Вот что нас ждёт:

🔘увеличение разрыва между редакциями, принявшими ИИ, и теми, кто еще не закончил работу по освоению социальных медиа
🔘увеличение разрыва в грамотности и осведомленности аудитории
🔘увеличение разрыва между ИИ-грамотными журналистами и консервативными медиаменеджерами, и наоборот
🔘увеличение разрыва в доходах между теми, кто оптимизировал новостное производство и SMM, и теми, кто основывает работу в цифровых медиа на ручном труде (включая разрыв в оплате труда специалистов и менеджеров)

🔍Следующие три года исследователи будут изучать, как региональные редакции осваивают нейросети: от внедрения коммерческих продуктов и патентования собственных модулей до появления первых системных эффектов в медиаотрасли.

👀 Квантовые компьютеры – это обман?

На семинаре в эту среду Николай Николаевич Литвинов рассказал о такой большой и интересной науке, как квантовая информатика. Свой вклад в ее развитие внесли Альберт Энштейн, Ричард Фейнман, а также советские ученые Александр Холево и
Юрий Манин.

Основные вехи:
➡️1976 год - появилась квантовая теория информации;
➡️1980 год - предложена концепция квантовых автоматов;
➡️1982 год - выдвинута идея моделирования квантовой механической системы;
➡️1992 год - доказана теорема о квантовом сверхплотном кодировании;
➡️1993 год - предложена теория о квантовой телепортации.

Если касаться области искусственного интеллекта, сейчас широко применяется квантовое машинное обучение (QML).

«В настоящий момент наиболее актуально и доступно для реализации квантово-классическое обучение, то есть подготовленные данные пропускаются через некоторый квантовый процессор, далее измеряется результат и уже на классическом компьютере вычисляется функция потерь и производится обработка. Этот цикл можно повторять до получения нужного результата», — объяснил спикер.

Вот некоторые популярные алгоритмы QML:
➡️Квантовый алгоритм k ближайших соседей;
➡️Алгоритм Харроу, Хассидима и Ллойда;
➡️Алгоритмы обучения с подкреплением Q-DQN и Q-DDQN;
➡️Квантовые алгоритмы для рекомендательных систем.

А что насчет квантовых компьютеров?
Как отметил докладчик, таковыми могут называться устройства, которые способны:
➡️адекватно представить квантовую информацию;
➡️проводить элементарный набор унитарных преобразований;
➡️измерить конечный результат.

Однако, несмотря на все перспективы квантовых компьютеров, есть несколько фундаментальных проблем.

1️⃣Время когерентности: из-за возникновения помех на пути эволюции квантовая система может потерять эффективность.

2️⃣проблема связана с майорановскими фермионами — гипотетическими частицами, чье существование было предсказано в далеком 1938 году, но до сих пор остается не подтвержденным исследователями с мировым именем.

В феврале этого года компания Microsoft представила квантовый компьютер на так называемых майорановских кубитах.

🤨 Выходит, это компьютер на основе несуществующих частиц? Вполне возможно.

Как отметил спикер, в этой области остается множество неопределенностей и «грязной игры». Не исключено, что в скором времени теорию квантовых вычислений придется и вовсе переделывать, ориентируясь на непрерывно появляющиеся технологии.

⁉️А что если Фейнман, предложив теоретическую модель квантового компьютера, тогда просто... пошутил?

✉️ Приглашаем на первый научно-практический семинар апреля!

На этот раз обсудим тему «Алгоритмы создания виртуализированных вычислительных средств из ресурсов AIoT».

🗓02.04 | 🕔18:00 | Центр ИИ СПбГУ (Кадетская линия, 1-3, схема прохода)

Спикеры мероприятия:

↖️ Елизавета Тарасова, руководитель научного офиса Центра ИИ СПбГУ;

↖️ Дмитрий Терещенко, специалист Центра ИИ СПбГУ

Доклад будет посвящен вопросам формирования динамических вычислительных кластеров на базе AIoT-устройств, обеспечивающих эффективное использование их вычислительных мощностей с учетом энергопотребления, нагрузки и возможности каждого узла.

Для посещения семинара нужно зарегистрироваться по ссылке 🔗

До встречи в Центре ИИ СПбГУ!

‼️ Внимание, замена спикера!

В эту среду с докладом о квантовании классификаторов и связи с кодированием выступит кандидат физико-математических наук Сергей Игоревич Салищев.

На обсуждение будут вынесены следующие вопросы:
⭐️Математизация идеализма Платона;
⭐️Связь точности классификации и вероятности ошибки в симметричном бинарном канале;
⭐️Эквивалентность дивергенции Кульбека-Лейблера и расстояния Хемминга для симметричного бинарного канала;
⭐️Гладкость как результат устойчивости моделей с шумом наблюдения и др.

Форма для регистрации остается прежней

💭 С нетерпением ждем вас в Центре ИИ СПбГУ уже 2 апреля!

🔝 Дайджест самых популярных постов за март

🔴Участие Владислава Архипова в заседании Госдумы

🔴Итоги митапа «Расскажи мне про ИИ».

🔴История развития искусственного интеллекта.

🔴Нелегальный майнинг криптовалют с помощью ИИ-технологий.

🔴Ученые СПбГУ научили нейросеть взламывать капчи.

🔴Центр ИИ протестировал Ghilbi-фильтр от OpenAI.

В этом месяце мы запустили новую рубрику научно-популярного разбора статей, экспериментировали с интерактивными форматами, а также стали активно вести сайт Центра

⁉️Какие посты, на ваш взгляд, смогли бы разнообразить новостную ленту в апреле? Делитесь в комментариях!

🗓Что нас ждёт в апреле?

🔘02.04 — научно-практический семинар о квантовании классификаторов и связи с кодированием с Салищевым Сергеем Игоревичем, к. ф.-м. н., старшим преподавателем кафедры информатики СПбГУ.

🔘09.04 — научно-практический семинар с сотрудниками Центра ИИ СПбГУ: руководителем Научного офиса Елизаветой Тарасовой и специалистом Дмитрием Терещенко. Поговорим об алгоритмах создания виртуализированных вычислительных средств из ресурсов AIoT и кое о чём ещё, расскажем чуть позже.

🔘15-17.04 — Workshop Научного офиса «ИИ и математика. Трансфер и масштабирование технологии ИИ».

🔘23.04 — итоги workshop'а с Граничиным Олегом Николаевичем, д.ф.-м.н., профессором, руководителем научно-практических семинаров Центра ИИ СПбГУ.

🔘24.04 — заседание по нейросетям в медиа совместно с Яндексом.

Следите за обновлениями в Телеграм-канале и нашей группе ВКонтакте📌

Квантование нейросетей. Причём здесь Платон?

2 апреля Салищев Сергей Игоревич рассказал о квантовании классификаторов и связи с кодированием.

🔽У квантования цель — снижение вычислительных затрат и энергопотребления при сохранении точности результата.

Прозвучали идеи Платона в машинном обучении⬇️

Представьте, что у каждого объекта есть «идеальная версия». Возьмём стол. В нейросетях ему соответствует идеализированный набор признаков (форма, цвет, текстура), который определяет класс. Но столы бывают разные. Как классифицировать?

Здесь идёт работа с «шумом».

➡️Устойчивость модели к входному шуму достигается за счёт плавного изменения кодовых слов в пространстве признаков через стохастический градиентный спуск для оптимизации.

Задача — сделать так, чтобы даже с помехами результат был верным.

❓Что это даст на практике?
✔️Упрощение нейросетей без потери точности результата.

Следующий семинар 9 апреля. Сотрудники Научного офиса Центра ИИ СПбГУ представят свои доклады. Ссылку для регистрации опубликуем позже. Следите за обновлениями🖥

🛸Соревнуйся в автономных технологиях и попади на «Архипелаг-2025»!

Приглашаем всех tech-энтузиастов на региональный этап инженерных соревнований по кибериммунной автономности! Это ваш шанс прокачать навыки в области беспилотных систем и получить путёвку на масштабный проектно-образовательный интенсив «Архипелаг-2025».

📆Когда и где?

👉14–20 апреля 2025
👉Москва, НИЯУ МИФИ (Каширское шоссе, д. 64)

✍️Что нужно сделать?

Ваша задача — запрограммировать БВС-доставщик, чтобы он:

✅ проходил трассу в полной автономности
✅безопасно взаимодействовал с системой управления воздушным движением
✅точно определял местоположение без GPS

Используются платформа ПКАДД-1 (тренировочная среда для программирования дронов) и киберполигон (цифровой двойник трассы + реальная физическая площадка для тестов).

Всего 2 этапа соревнований:

👉14–18 апреля: подготовка и тренировочные полёты (5 дней)
👉19–20 апреля: зачётные попытки (2 дня)

Подать заявку на участие можно по ссылке ⛓