Проблему дипфейков обсудили на форуме в МГТУ им. Баумана – вместе с коллегами из Минцифры, АНО «Диалог Регионы», ФГУП ГРЧЦ и других организаций, заинтересованных в защите граждан от противоправного использования технологий искусственного интеллекта. Вспомнили мировой опыт борьбы с дипфейками, который сводится к двум основным мерам: это выявление ИИ-контента при помощи специального ПО и его маркировка.

Российские цифровые платформы такой подход не приветствуют. Представители соцсетей и видеохостингов переживают за пользовательский опыт, ведь проверка контента даже с помощью самых продвинутых систем детекции будет занимать время. Обязанность платформ выявлять дипфейки фактически переведет их в режим тотальной премодерации – с учетом того, сколько единиц контента загружают пользователи каждую минуту, и ежедневно растущего присутствия в нем ИИ-генераций.

Поэтому предложил коллегам подумать над идеей, о которой уже здесь рассказывал: маркировать не ИИ-контент, а те ролики и изображения, которые были полностью созданы человеком, без использования нейрогенерации. Считаю, что наши платформы должны дать возможность авторам такого контента ставить специальный значок. И, возможно, лишь в этом случае проводить премодерацию и проверку на ИИ. В таком случае весь остальной, немаркированный контент будет считаться небезопасным по умолчанию.

А что думаете вы? Пишите в обратную связь.

🇷🇺 Этот пост вышел в МАКС час назад

Отличная новость из Новосибирска: ученые НГТУ придумали, как увеличить устойчивость электроавтомобилей к морозам. Инновационная система нагрева литий-ионных аккумуляторов переменным током высокой частоты значительно повышает срок их службы и позволяет эксплуатировать электрокары при температуре ниже -20 градусов.

А это, скажу я вам, по меркам моей родной Сибири считается вполне нормальной зимней погодой (а в некоторых местных широтах это вообще теплынь). Именно поэтому электрические автомобили там большой популярностью не пользуются и считаются экзотикой, хотя в целом, по сравнению с 1990-ми, количество машин увеличилось кратно. И если сибиряки начнут пересаживаться на «электрички», это будет иметь и экономический эффект, и принесет ощутимую пользу экологии.

Вообще, проблема плохой работы аккумуляторов в условиях низких температур сдерживает не только распространение электромобилей. В свежем выпуске подкаста «Новые понятия» обсуждали, что роботы должны заменить человека в экстремальных условиях, но здесь не получится обойтись без серии научных прорывов. И очень хорошо, что наши ученые этим занимаются.

Считаю, что именно таким разработкам государство должно уделять особое внимание. Обсужу с Минпромторгом, как можно поддержать открытие ученых НГТУ и ускорить его промышленное внедрение.

🇷🇺 Этот пост вышел в МАКС час назад

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
В очередном выпуске подкаста «Новые понятия» говорим про роботов и разбираемся, как России удержать лидерство в этой стремительно развивающейся отрасли. Гостем студии стал российский ИТ-предприниматель, основатель инвестиционного фонда «Роботы России», член правления РОЦИТ Семен Теняев, а новые понятия в сфере робототехники нам традиционно разъясняет интернет-энциклопедия РУВИКИ.

▪️Валерий Федоров @fedorovwciom
Сегодня все без исключения обсуждают искусственный интеллект и рисуют самые разные картины будущего сосуществования человека с моделями — от идиллистических до апокалиптических. Совместимость инструментов ИИ с человеком — это не технический параметр, а вопрос социальной приемлемости. То есть приживётся ли та или иная система ИИ в обществе, определяется не её алгоритмической мощью, а тем, как она встраивается в реальные отношения, культурные нормы и экономические практики.

▪️Людмила Богатырева @government_IT
Мошенники теперь часто нацелены не на один сервис, а на их комбинацию. Взлом связки «Макс + Госуслуги» в современном мире – это потеря ключей от дома, паспорта и кошелька. Основную защиту можно настроить за несколько минут, и в большинстве случаев мошенники просто переключатся на поиски более легкой добычи. Включайте двухфакторную аутентификацию, настройте «Доверенный контакт» на Госуслугах, возьмите за правило: коды из СМС — это ваш личный пароль, который нельзя диктовать никому и никогда.

▪️Илья Гогуа @government_IT
Теперь с МАХ сотрудничают крупнейшие мобильные операторы: благодаря этому в перспективе россияне смогут получать уведомления от операторов и компаний в МАХ. Такое уже, кстати, реализовано у МАХ с Госуслугами – и благодаря этому я всегда в курсе того, как проходит работа с моими заявками и обращениями на портале. Уточняется, что в дальнейшем в уведомлениях появятся и мультимедиа – значит, можно будет не просто получать информацию от компании или организации, а сразу, например, оплачивать заказ или отслеживать его статус.

▪️Георгий Лобушкин @lobushkin
Microsoft, дабы оправдать, видимо, увольнения сотрудников, сделали глобальное исследование. Доказать хотели, что алгоритм работает лучше человека, но вышло всё абсолютно наоборот. Оказывается, что вообще все модели не готовы к реальным рабочим процессам. Каждая четвёртая операция с документами заканчивалась либо потерей данных, либо порчей. По итогу Microsoft попытались эти результаты скрыть, но не получилось. Исследование всплыло в сети.

▪️Алексей Парфун @ParfunA
Многие до сих пор живут в иллюзии, что ИИ-видео та самая волшебная кнопка «сделать красиво и бесплатно». Реальная математика ИИ-кинематографа выглядит совершенно иначе. За 4 дня работы над пилотом AI-фильма «Hell Grind» сожгли более 4,4 миллиона внутренних кредитов, в реальных деньгах это около $260 000. Общий бюджет фильма составляет 10 миллионов кредитов, что превышает $500 000. Из почти 800 генераций в финал попали только 8.

▪️Павел Пряников @tolk_tolk
Автоматизация и роботизация активно начинают эксплуатироваться и в сельском хозяйстве России. Читаю про один агрохолдинг, внедряющий беспилотные сельхозмашины (от вспашки до уборки урожая). Люди, конечно, по-прежнему будут нужны в таком агрохолдинге – диспетчеры и наладчики оборудования, ремонтники техники, но их относительное число на обрабатываемую площадь всё равно уменьшится в разы.

▪️Михаил Шурыгин @shuryginit
Нейросетевой чат-бот месяцами выдавал себя за настоящего психиатра. И даже показывал фальшивую медицинскую лицензию. Еще пару лет назад нам рассказывали, что ИИ - это просто «умный помощник». А теперь нейросети изображают врачей, подделывают лицензии, ведут психологические консультации, формируют эмоциональную зависимость у подростков и уже становятся фигурантами судебных исков после трагедий с детьми.

🔹 Каналы экспертов РОЦИТ

Поделился с «Коммерсантом» своей точкой зрения на проблему верификации знаний:

Есть мнение, что если ничего не предпринимать, то уже через десять лет мы окажемся в синтетической реальности. Нейросети не понимают, какой контент настоящий, и обучаются на продуктах генерации других нейросетей. Наступит день, когда масса сгенерированного контента станет критической и похоронит под собой результаты научной деятельности всего человечества: мы останемся не только без верифицированных данных, но и потеряем саму возможность их проверять и признавать достоверными.

Идея создания национального ИИ-верификатора заслуживает внимания. Подобная нейросеть будет лишена недостатков зарубежных моделей: она будет учитывать национальный контекст, законодательство и культурные особенности, а использование верифицированных источников снизит риск галлюцинаций и фактических ошибок. Что-то похожее уже предлагалось в одной из версий правительственного законопроекта о регулировании ИИ-технологий, где носила название «суверенная языковая модель».

Но даже если некий «ИИ-верификатор» появится, и даже если он не будет галлюцинировать, я бы всё равно поостерегся полагаться лишь на него. Распространение искаженных знаний – следствие того, что люди пренебрегают необходимостью проверять информацию, критически ее оценивать. И основная роль здесь за энциклопедическими ресурсами, которые работают по проверенной временем технологии. Конечно, веяния времени таковы, что даже энциклопедисты сегодня используют ИИ – но не для написания статей, а чтобы сократить рутинные процедуры.

🇷🇺 Этот пост вышел в МАКС час назад

Уже с 1 сентября в российских школах начнут преподавать искусственный интеллект. Глава Минпросвещения Сергей Кравцов объявил, что соответствующий учебный профиль планируется изучать в рамках уроков информатики углубленного уровня.

Сейчас в федеральном перечне учебников, который ведет Минпросвет, представлено целых три учебных пособия под названием «Введение в искусственный интеллект»: для 5-6, 7-8 и 9 классов. Видимо, школы сами будут определять, с какого возраста начнется преподавание ИИ, в зависимости от уклона.

Мое мнение – чем раньше российские школьники начнут изучать ИИ, тем лучше. Нужно, чтобы наши дети воспринимали эту технологию не как «волшебный черный ящик», а понимали принципы её работы и, следовательно, использовали её осознанно.

🇷🇺 Этот пост вышел в МАКС час назад

Раз уж заговорили о школьном образовании в контексте важнейших вызовов современности, здорово было бы, кроме искусственного интеллекта, научить детей прокачивать свой собственный. Я имею в виду развитие навыков критического мышления и умения распознавать манипуляции – чтобы не становиться легкой жертвой для мошенников.

В пособии по «Основам безопасности жизнедеятельности», которое Минпросвет включил в пресловутый перечень рекомендуемых учебников, есть темы, посвященные манипуляции, опасному контенту и безопасному поведению в цифровой среде. Но, на мой взгляд, авторы уделяют этой информации недостаточное внимание – если сравнивать, например, с пособием по медиаграмотности, также представленным в этом перечне (хотя предмет «Медиаграмотность» – большая редкость в обычной школе).

Именно поэтому нужно усиливать наполнение школьной программы по направлению информационной безопасности, и делать это в рамках общеобразовательного курса. Именно об этом мы говорили на форуме «Единой России» совсем недавно, и соответствующий наказ уже направлен в обновленную «Народную программу партии».

🇷🇺 Этот пост вышел в МАКС час назад