🇷🇺 Российские школьники — лучшие на международной олимпиаде по искусственному интеллекту! 🥇

30–31 октября в Казахстане состоялся финал FAIO (Fizmat AI Olympiad) — международной олимпиады по искусственному интеллекту для школьников и студентов первого курса.

В этом году в отборочном турнире боролись 291 команда из 7 стран, а в очный этап в Алматы прошли лишь 50 сильнейших.

Россию представляли 14 команд, из которых 8 вышли в финал. Участники прошли интенсивную подготовку с наставниками Центрального университета.

‼️Итоги впечатляют: все три первых места в общем зачёте заняли российские школьники!

Эта победа — не случайность. В настоящее время в нашей стране создаются все условия для развития и самореализации школьников и студентов.
Мы гордимся, что российские ученики не просто участвуют, а уверенно побеждают на международной арене.
Это подтверждает — российское образование воспитывает лидеров мирового уровня!

#FAIO #Победа #РоссийскоеОбразование

Даже у ИИ бывают галлюцинации 😳

В современном цифровом мире появился новый термин — «ИИ-галлюцинации». Если вы с ним ещё не сталкивались, значит, просто не пользовались искусственным интеллектом.

ИИ-галлюцинация — это когда система уверенно сообщает несуществующие факты, при этом звучит убедительно и логично.

Пример?
Попросите нейросеть написать стихи русских поэтов об осени — и среди настоящих строк почти наверняка найдётся изящный «шедевр», которого в природе не было. Или попробуйте запросить цитаты на какую-либо тему с указанием источников — и вдруг окажется, что автор реальный, слова красивые, но сам текст никогда не существовал или частично выдуман.

Почему так получается? 🤔

Специалисты OpenAI сообщают, что главная причина кроется не в архитектуре нейросетей, а в том, как их обучают и оценивают.
Современные языковые модели тренируются как «отличники на экзамене», существующие тесты и метрики оценки штрафуют за неопределённость. Поэтому моделям выгоднее «угадать», чем признать: «я не знаю».

По сути, ИИ работает как студент, который пишет тест наугад: если он не уверен, он не признаётся в незнании, а пытается угадать, создавая при этом правдоподобный, но выдуманный ответ.

Таким образом, «галлюцинации» — не баг, а естественное следствие статистического обучения.

Даже если бы все данные, на которых обучали модель, были абсолютно безошибочными, сам процесс обучения всё равно создавал бы искажения. Это объясняется тем, что языковая модель стремится минимизировать статистическую ошибку, а не гарантировать истину.

Решение?

Системы обучения с подкреплением (например, RLHF) поощряют тексты, которые кажутся пользователю «уверенными», а не «честными».

Учёные предлагают менять сами принципы проверки ответов: не карать за честное «не знаю» и снижать оценку за уверенные, но вымышленные ответы. Только в этом случае системы станут по-настоящему надёжными и смогут заслужить доверие пользователей.

Нужно ли избавляться от галлюцинаций?

Как выяснилось выше, галлюцинации — это неизбежный результат вероятностного обучения, а не техническая ошибка.

Исследователи считают, что более перспективный путь — не борьба с самими ошибками, а создание систем, способных оценивать собственную уверенность и воздерживаться от ответов, если вероятность ошибки высока.

Другими словами, цель — не уничтожить галлюцинации, а сделать их управляемыми и предсказуемыми, чтобы пользователи могли понимать границы надёжности искусственного интеллекта.