Поделился с «Коммерсантом» своей точкой зрения на проблему верификации знаний:

Есть мнение, что если ничего не предпринимать, то уже через десять лет мы окажемся в синтетической реальности. Нейросети не понимают, какой контент настоящий, и обучаются на продуктах генерации других нейросетей. Наступит день, когда масса сгенерированного контента станет критической и похоронит под собой результаты научной деятельности всего человечества: мы останемся не только без верифицированных данных, но и потеряем саму возможность их проверять и признавать достоверными.

Идея создания национального ИИ-верификатора заслуживает внимания. Подобная нейросеть будет лишена недостатков зарубежных моделей: она будет учитывать национальный контекст, законодательство и культурные особенности, а использование верифицированных источников снизит риск галлюцинаций и фактических ошибок. Что-то похожее уже предлагалось в одной из версий правительственного законопроекта о регулировании ИИ-технологий, где носила название «суверенная языковая модель».

Но даже если некий «ИИ-верификатор» появится, и даже если он не будет галлюцинировать, я бы всё равно поостерегся полагаться лишь на него. Распространение искаженных знаний – следствие того, что люди пренебрегают необходимостью проверять информацию, критически ее оценивать. И основная роль здесь за энциклопедическими ресурсами, которые работают по проверенной временем технологии. Конечно, веяния времени таковы, что даже энциклопедисты сегодня используют ИИ – но не для написания статей, а чтобы сократить рутинные процедуры.

🇷🇺 Этот пост вышел в МАКС час назад

Уже с 1 сентября в российских школах начнут преподавать искусственный интеллект. Глава Минпросвещения Сергей Кравцов объявил, что соответствующий учебный профиль планируется изучать в рамках уроков информатики углубленного уровня.

Сейчас в федеральном перечне учебников, который ведет Минпросвет, представлено целых три учебных пособия под названием «Введение в искусственный интеллект»: для 5-6, 7-8 и 9 классов. Видимо, школы сами будут определять, с какого возраста начнется преподавание ИИ, в зависимости от уклона.

Мое мнение – чем раньше российские школьники начнут изучать ИИ, тем лучше. Нужно, чтобы наши дети воспринимали эту технологию не как «волшебный черный ящик», а понимали принципы её работы и, следовательно, использовали её осознанно.

🇷🇺 Этот пост вышел в МАКС час назад

Раз уж заговорили о школьном образовании в контексте важнейших вызовов современности, здорово было бы, кроме искусственного интеллекта, научить детей прокачивать свой собственный. Я имею в виду развитие навыков критического мышления и умения распознавать манипуляции – чтобы не становиться легкой жертвой для мошенников.

В пособии по «Основам безопасности жизнедеятельности», которое Минпросвет включил в пресловутый перечень рекомендуемых учебников, есть темы, посвященные манипуляции, опасному контенту и безопасному поведению в цифровой среде. Но, на мой взгляд, авторы уделяют этой информации недостаточное внимание – если сравнивать, например, с пособием по медиаграмотности, также представленным в этом перечне (хотя предмет «Медиаграмотность» – большая редкость в обычной школе).

Именно поэтому нужно усиливать наполнение школьной программы по направлению информационной безопасности, и делать это в рамках общеобразовательного курса. Именно об этом мы говорили на форуме «Единой России» совсем недавно, и соответствующий наказ уже направлен в обновленную «Народную программу партии».

🇷🇺 Этот пост вышел в МАКС час назад

Интересное сообщение пришло в бот обратной связи:

Вы часто пишете о том, что интернет скоро потонет в контенте, который генерируют нейросети. И что западные сервисы, особенно музыкальные, пытаются как-то с этим бороться. Оказывается, что в российской «Яндекс-Музыке» уже треть песен – это генережка. Но у них политика другая, поэтому люди вынуждены сами писать расширения для браузеров, чтобы у нейромузыки появлялась маркировка. Почитайте (там и про Вас есть): https://habr.com/ru/articles/1036166/

Статью почитал и хочу сказать автору спасибо за это полезное расширение, буду его использовать. Правда, меня он цитирует в немного странном контексте, будто я вообще выступаю против маркировки ИИ-контента. Не совсем так: мне не нравится идея его автоматического выявления, к которой призывают некоторые коллеги, при этом не учитывают стоимость и невысокую эффективность подобных решений. Но подход, когда платформы предлагают авторам контента указать его происхождение, я поддерживаю.

И было бы хорошо, если бы «Яндекс Музыка» такую возможность реализовала. Тот факт, что люди самостоятельно пишут расширения для маркировки сгенерированных треков, говорит о том, что это очень востребованная опция. Надеюсь, что этот общественный сигнал будет правильно интерпретирован сервисом, и он не только не станет добиваться удаления этого полезного плагина, но и внедрит нативную функцию маркировки ИИ-контента. Или маркировки «натуральной» музыки, по примеру иностранных коллег.

🇷🇺 Этот пост вышел в МАКС час назад

Журнал «Хакер» разобрался в истории про ростелекомовского «Лешего», которую на днях усиленно форсили в анонимных медиа.

TR-069 — это стандартный протокол удаленного управления клиентским оборудованием, который используют операторы по всему миру. Именно благодаря ему роутеры могут автоматически получать настройки после подключения или обновлять прошивку без участия пользователя.

Естественно, страшилки о том, что «провайдер получит доступ ко всем домашним роутерам россиян», ничего общего с реальностью не имели. Зачем было пугать людей – тут вопрос скорее даже не к медиа, а к маркетологам «Ростелекома», которые придумали слишком впечатляющую упаковку для обычного, в общем-то, сервисного ПО.

🇷🇺 Этот пост вышел в МАКС час назад

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Злоумышленники научились взламывать наш мозг. Как иначе объяснить, почему у людей напрочь отключается критическое мышление, и они добровольно отдают незнакомым людям огромные суммы денег? Ментальным фаерволлом в этом случае должен стать набор стоп-фраз: «продиктуйте код», «на вас оформлена курьерская доставка», «замена домофона» и так далее. А обновлениями для этого фаерволла (если уж продолжать биологически-айтишные аналогии) должны служить жизненные истории жертв мошенников, которые нужно максимально широко тиражировать в медиа.

▪️Валерий Федоров @fedorovwciom
С недостоверной информацией сталкивался каждый второй пользователь интернета, однако проверять её самостоятельно брались только 58% из них! Установлено: склонность к фактчекингу заметно выше у молодёжи, жителей крупных городов, людей с достатком выше среднего, а также у тех, кто активно ищет информацию в сети и пользуется ИИ. Пол, уровень образования и даже общая частота использования интернета на вероятность проверки информации не влияют.

▪️Людмила Богатырева @government_IT
Еще пару лет назад рынок напоминал аукцион, где хорошего разработчика или дата-сайентиста отрывали с руками. Однако первый квартал 2026 года показал: даже самые «горячие» позиции перестали расти взрывными темпами. Если формулировать общую логику нынешнего года коротко, то она выглядит так: работать больше, а зарабатывать меньше.

▪️Олег Капранов @toxic_digital
Очевидно, что Аврора сегодня уже переросла отношение к себе как к мобильной ОС и закрывает существенно большее число задач: тут и автотех, и телевизоры, и биометрия и финтех. И это все уже реализованные кейсы. В ситуации, когда для 99% граждан именно мобильное устройство является точкой входа в цифровую, а по сути и во всю экономику страны, отдавать это пространство под контроль третьим странам мягко говоря не очень здорово.

▪️Георгий Лобушкин @lobushkin
Крупные компании в США, от социальных сетей до ИИ-сервисов, специально усложняют людям возможность отказаться от сбора и продажи их персональных данных. Компании идут на разные ухищрения: например, прячут кнопку «отказаться» в настройках либо требуют много шагов, регистрации или даже платных подписок. Ваши данные уже давно полноценный продукт, который пользуется большим спросом. Даже человек, который наследил, а потом решил «подтереть» за собой данные, уже не сможет этого сделать.

▪️Алексей Парфун @ParfunA
То, что раньше считалось «профессиональным софтом для избранных», стремительно упрощается. Причем упрощается до состояния «одной кнопки». Кажется, мы возвращаемся к истокам — к смыслам, к продукту и к пониманию того, зачем вообще всё это нужно. А инструменты… ну, они просто становятся незаметными. И это, пожалуй, лучшее, что могло случиться с рынком.

▪️Павел Пряников @tolk_tolk
Я сам нисколько не использую ИИ в написании текстов, в т.ч. потому, что он, на мой взгляд, пока не дотягивает даже до среднего уровня компетенций. Это и неудивительно, если помнить, на чём обучаются нейронки – на Западе это с большим отрывом от других платформ форум Reddit. Т.е. усреднённая основа языковых моделей - это усреднённый человек с усреднёнными мнениями: например, водитель грузовика, таксист и продавщица – как самые «массовые люди».

▪️Михаил Шурыгин @shuryginit
OpenAI, похоже, начала серьёзно ужесточать борьбу с серым рынком доступа к ChatGPT. Участились блокировки, проверки подозрительных сессий, устройств, геолокации и платёжных данных. Генеративный ИИ постепенно перестаёт быть «диким западом». Крупные AI-компании начинают относиться к аккаунтам и вычислительным ресурсам примерно так же, как банки относятся к антифроду и подозрительным транзакциям.

🔹 Каналы экспертов РОЦИТ

Чем больше вокруг нас становится ИИ, тем больше возникает самых неожиданных рисков. Например, уязвимость ИИ-ассистентов к скрытым голосовым командам. Метод, получивший название AudioHijack, был детально описан учеными из Китая и Сингапура. Они выяснили, что большинство популярных аудио-ИИ-моделей слышат звук, который не воспринимает человеческое ухо. На практике это означает, что злоумышленник может наложить на звуковую дорожку скрытые голосовые инструкции, и пока вы смотрите видеоролик, ваш ИИ-ассистент начинает выполнять чужие команды (например, сливает по электронной почте ваши пароли).

Самое печальное в этой истории – что AudioHijack оказался чрезвычайно устойчив к распространенным средствам защиты. Исследователи говорят, что эксплуатируется уязвимость в самой архитектуре аудио-ИИ-моделей, а именно – доверие к человеку. Голосовые ассистенты, как правило, не умеют определять своего владельца и стремятся выполнить все команды, которые слышат. А учитывая, что большинство из них имеет доступ к почте, календарю и файлам (всё для вашего удобства), неслышные уху инструкции могут стать очень серьезной угрозой.

Надеюсь, разработчики отечественных ИИ-ассистентов ознакомились с этим исследованием и уже ищут способ, как обезопасить свои модели от AudioHijack. Вообще я считаю, что повышенные гарантии кибербезопасности, защита не только от существующих, но и выявляемых уязвимостей могут стать ключевым конкурентным преимуществом российских ИИ-продуктов – благо наш ИТ-сектор наработал серьезные компетенции в этой сфере. Дело за их эффективным внедрением и правильным позиционированием на рынках дружественных государств.

🇷🇺 Этот пост вышел в МАКС час назад

Центробанк заявил, что количество несовершеннолетних дропперов за год снизилось почти втрое. Одной из причин позитивной статистики эксперты называют изменения в законодательстве. С одной стороны, это введение уголовной ответственности для лиц, предоставляющих свои банковские счета для реализации мошеннических схем. С другой — поправки в Гражданский кодекс, запрещающие банкам открывать счета подросткам без согласия родителей или других законных представителей.

Отмечу, что эффективность принятых мер значительно выросла благодаря правильно выстроенной информационной работе. Сработали рекомендации, которые сразу после принятия новых правовых норм Центробанк разослал по всем кредитным организациям. В них регулятор советовал информировать и подростков, и родителей о рисках, связанных с участием в дропперских схемах. Напомню, максимальное наказание по этой статье УК — лишение свободы на срок до шести лет или штраф до 1 миллиона рублей.

Конечно, эту работу нужно продолжать. Родители должны понимать, что если их ребенок вовлекается в мошеннические схемы, наказание будет серьезным и неотвратимым. Считаю, что истории несовершеннолетних дропперов, которые хотели легких денег, но заработали вместо этого большие проблемы с законом, должны получать широкую огласку в медиа. Чужие ошибки должны стать уроком для всех, кто почему-то считает, что продавать доступ к своим счетам или аккаунтам — это нормально и ничего ему за это не будет.

🇷🇺 Этот пост вышел в МАКС час назад

В Германии недовольны алгоритмами социальных сетей. По мнению властей, в рекомендации плохо залетают материалы «надежных источников». Видимо, на SMM-щиков надежды нет, поэтому решено задействовать административный ресурс: законодательно обязать все цифровые платформы настраивать свои рекомендации таким образом, чтобы повысить в выдаче материалы определенных медиа (и, соответственно, пессимизировать все остальные).

Стоит пояснить, что это за «надежные источники» такие. Речь идет о реестре «общественно ценных медиа», который ведет местный регулятор. Основным критерием попадания в этот реестр декларируется «вклад в разнообразие мнений и контента», хотя на практике всё наоборот: статус «общественно ценных» получают лишь те национальные и зарубежные медиа, работающие внутри согласованного идеологического контура. И теперь власти Германии хотят затащить в него и социальные сети.

По сути, мы наблюдаем попытку прямого влияния государства на рекомендательные алгоритмы соцсетей. Причем, учитывая цифровой ландшафт Германии, принуждать к манипуляции алгоритмами планируется преимущественно иностранные платформы: Facebook*, Instagram* и TikTok, которые благополучно вытеснили национальные еще в прошлом десятилетии. Посмотрим, что из этого выйдет (мой прогноз – ничего).

Не лишним будет напомнить, что в России любые манипуляции механиками рекомендательных алгоритмов запрещены законом, а регулятор обязан следить за тем, чтобы они работали честно и прозрачно. Но ни одно немецкое медиа, претендующее на статус «общественно ценного», об этом факте не напишет.

🇷🇺 Этот пост вышел в МАКС час назад

На комитете сегодня обсуждали второй антимошеннический пакет или, как его принято называть в узком кругу, «Антифрод 2.0». Ко второму чтению законопроект подготовлен с учетом большого количества замечаний от органов власти, представителей бизнеса и общественных организаций.

Ключевые меры, предусмотренные документом: самозапрет на международные входящие вызовы, единая база идентификаторов мобильных устройств, детские симки, ограничение на количество банковских карт (20 штук на одного человека) и «тревожная кнопка» на «Госуслугах», позволяющая гражданам заявить о факте мошенничества. При этом ко второму чтению многие предлагаемые меры стали не обязанностью, а правом. Например, родители могут добровольно сообщать через «Госуслуги» о том, что оформленной на них SIM-картой пользуется ребенок, но в этом случае лишатся возможности контролировать его цифровое поведение.

Во время обсуждения законопроекта подчеркивалось, что предлагаемые меры хорошо дополнят предыдущий антимошеннический пакет. Например, «тревожная кнопка» станет для граждан точкой входа в ГИС «Антифрод». Нажатие кнопки не будет приравниваться к подаче заявления в полицию, но сигнал о мошенничестве, поданный через «Госуслуги», поступит в информационную систему и точно будет услышан и правоохранителями, и банками, и операторами связи.

Впрочем, лично я сторонник того, чтобы эта опция была усилена подачей заявления: например, гражданин жмёт кнопку, отправляет сигнал, а уже после этого (там же, на «Госуслугах») описывает все обстоятельства произошедшего и формирует официальное сообщение о преступлении. Сейчас для этого ему нужно перейти на портал МВД, самостоятельно найти нужное подразделение, снова авторизоваться через «Госуслуги» и так далее. На мой взгляд, удобнее было бы реализовать всё это бесшовно. Надеюсь, что такая возможность появится в следующем антифрод-пакете, появление которого сегодня было анонсировано.

🇷🇺 Этот пост вышел в МАКС час назад

Похоже, что в споре между банками и маркетплейсами побеждает дружба: уже объявлено о партнерстве ВТБ и Wildberries, подобные сделки, по слухам, ждут и некоторых других игроков рынка электронной торговли. Мрачное будущее, где клиенты маркетплейсов остались без скидок и бонусных программ, не наступит – хотя еще полгода назад негативные эффекты такого сценария активно обсуждались.

В том числе обстоятельная дискуссия состоялась тогда на площадке РОЦИТ, и по её итогам в Правительство РФ была направлена аналитическая записка. Уверен, что сигналы о рисках, в которые клинч финтеха и екома может вылиться гражданам, тогда шли наверх очень плотным потоком.

Уже тогда я был убежден, что лучшее решение – это не спорить в публичной плоскости, а договориться. Всё к этому и идет: системообразующий банк может получить клиентскую базу маркетплейса, взамен предоставляя свою инфраструктуру и упрощенный доступ к средствам. А главное – исчезнет противостояние финансовых продуктов, они начнут друг друга органично дополнять. Ну и, конечно, сохранятся все скидки и бонусы, от чего выиграет уже пользователь.

🇷🇺 Этот пост вышел в МАКС час назад

Стартовало народное голосование премии РОЦИТ «Герои Рунета-2026»

Первый этап народного голосования – сбор кандидатур. На сайте героирунета.рф любой желающий может подать заявку и номинировать на участие в голосовании значимый интернет-ресурс, любимого блогера, явление сетевой культуры или человека, который внес значимый вклад в развитие Рунета.

На втором этапе, который стартует осенью, эксперты РОЦИТ проведут отбор заявок и сформируют шорт-лист народного голосования, участники которого будут претендовать на звание лауреата премии «Герои Рунета-2026».

Ждем ваших заявок!

#РОЦИТ #Герои_Рунета #голосование

🔹 Подписаться на РОЦИТ