Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Мы ожидаем, что отечественная ИИ-индустрия будет опираться на верифицированные данные, бороться с галлюцинациями своих моделей и в целом стремиться к их прозрачности. Но и в обществе нужно воспитывать взвешенное отношение к возможностям нейросетей. Ответы, которые дает искусственный интеллект, всегда нужно подвергать сомнению и перепроверке, использовать их как вспомогательный инструмент, а не как универсальное решение в любой жизненной ситуации. Алармизма по поводу развития ИИ я не испытываю, но доверие к нему не должно быть слепым.

▪️Валерий Федоров @fedorovwciom
С Ильей Гогуа и Василием Черным обсудили, как сегодня лучше измерить настроения россиян. Вопрос не праздный: прежние возможности для социологических измерений сокращаются, новые – чреваты немалыми сложностями.

▪️Олег Капранов @toxic_digital
На Иннопроме состоялась занятная дискуссия, напомнившая, что инновации сегодня – это не только искусственный интеллект. Это вообще неплохо почаще себе напоминать. Проблем здесь несколько. Это и параллельная разработка, и калькирование иностранных продуктов и утрата компетенций. Наша задача - создавать конкурентоспособные продукты на современных принципах, а не копировать западные решения, чей технологический цикл завершен.

▪️Дмитрий Кириллов @tax_nomad
Началось движение в карточке законопроекта о реформе крипторынка. Выложен официальный текст к второму чтению (теперь можно 😊). Особое внимание вызывают те самые таблицы поправок - как к принятию, так и к отклонению.

▪️Георгий Лобушкин @lobushkin
Марк Цукерберг увольнял сотрудников за то, что те брали декрет или больничный. Искусственный интеллект от экстремистской Meta называл отпуска и проблемы со здоровьем причиной для снижения оценки сотрудников. Интересно, у Марка Цукерберга хотя бы 1% от человека есть?

▪️Алексей Парфун @ParfunA
Пока рынок ждал AI-смартфон, OpenAI решила поселиться у вас в гостиной: первое железо компании это портативная умная колонка без экрана. Девайс будет изучать владельца, предугадывать потребности и даже двигаться (зачем???). Ход считаю логичным. Лезть в смартфоны значит бодаться с Apple и Google на их поле, где шансов почти нет. Остаётся один вопрос насколько глубоко мы готовы пустить алгоритмы в свою жизнь? Алиса впрочем уже там есть.

▪️Павел Пряников @tolk_tolk
Опрос среди молодёжи, занятой в атомной, космической и ИТ-отраслях российской экономики, показал, что победителем в номинации «лучший правитель России за всю историю» является Пётр I. Моя догадка: это запрос на радикальный вариант авторитарной модернизации в России (что-то типа Дэн Сяопина и Китае и Ли Куан Ю в Сингапуре – чтобы говорить понятными аналогиями к нынешнему времени). К тому же Пётр I начал свою модернизацию в примерном возрасте респондентов опроса, т.е. это ещё и молодой технократ. В российских реалиях сейчас это был бы технократ-модернизатор в возрасте 35-40 лет.

▪️Алексей Трифонов @polkovnikt
Минцифры предложило механизм компенсации ущерба жертвам телефонных мошенников. Банк проверяет, мог ли он предотвратить операцию и соблюдены ли все требования закона. Далее проверку проводит оператор связи. Если установлено, что подозрительный номер не был вовремя заблокирован, компенсацию выплачивает именно оператор. Таким образом, ответственность за ущерб будет распределяться между банками и операторами связи в зависимости от того, на чьей стороне произошел сбой.

▪️Михаил Шурыгин @shuryginit
Истекает срок, который ФАС дала Apple для исполнения требований российского законодательства. Если компания ничего не изменит, следующим этапом может стать антимонопольное разбирательство и оборотный штраф. Когда этого потребовал Евросоюз, компания разрешила установку альтернативных магазинов приложений. Значит, техническая возможность есть. Вопрос никогда не был в технологиях. Вопрос всегда был в том, требованиям какой юрисдикции компания считает нужным следовать.

🔹 Каналы экспертов РОЦИТ

Просят прокомментировать выступление Германа Грефа, который расстраивается, что с ИИ-моделью Сбера некому конкурировать. Яндекс, по его словам, использует китайские наработки, а других отечественных LLM и вовсе не существует. При этом сберовский GigaChat с Грефом оказался не согласен: на вопрос, сколько существует российских моделей, он называет не только YandexGPT, но и решения от Т-Банка, МТС, Вконтакте и т.д. А если спросить у него, можно ли считать нейросетевую модель от Яндекса отечественной разработкой, GigaChat уверенно отвечает, что «YandexGPT – самостоятельный продукт российских инженеров, выросший из внутренних исследовательских проектов компании по обработке естественного языка».

Допустим, что Герман Оскарович информирован лучше, чем его собственная ИИ-модель и чем сам Яндекс, который уже официально заявил, что «сохраняет полный цикл разработки и не зависит от внешних решений». Но даже в этом случае его тезис о том, что конкурировать не с кем, звучит как-то странно. Греф ведь не может не знать, что множество россиян используют иностранные нейросети – и почему бы GigaChat не попробовать их в чем-то превзойти? Кто сказал, что конкуренция должна вестись строго между российскими моделями, а уж тем более, теми из них, которые сделаны с нуля?

А ведь еще есть внешний рынок, где Сбер может показать, на что способна его ИИ-модель. Об экспорте российских технологий искусственного интеллекта в дружественные страны говорится много, и нужно наращивать это направление не только за счет прикладных решений и экспертизы, а создавать совместные экосистемы и долгосрочные международные проекты. Тем более, что для этого создаются все необходимые условия – как, например, членство России во Всемирной организации по сотрудничеству в области искусственного интеллекта (WAICO), о создании которой я недавно рассказывал.

🇷🇺 Этот пост вышел в МАКС час назад

Решение о разработке и запуске дейтинг-сервиса на базе Avito еще не принято. Но в компании говорят, что если увидят в нем потенциал, это станет не какой-то вспомогательной социальной функцией, а отдельным серьезным направлением бизнеса – наравне с другими. Подача анкеты будет бесплатной, хотя в дальнейшем не исключено появление неких премиум-опций. При этом сервис будет направлен именно на тех, кто ищет серьезных отношений, ведь именно такой общественный запрос Avito фиксирует по результатам исследования рынка.

Впрочем, есть мнение, что индустрия дейтинг-сервисов приходит в упадок. Российские сайты знакомств теряют аудиторию даже несмотря на уход с рынка иностранных игроков, да и у тех тоже всё не очень с активными пользователями и платными подписчиками. Главная причина – психологическое выгорание: люди устали от безрезультатных свайпов, бесконечного скроллинга и долгих переписок. Возможно, Avito сможет найти какие-то новые подходы: в компании не исключают, что для подбора пар будут использоваться потребительские интересы – например, возможную пару может определить выбор одной и той же книги или одинакового бренда одежды.

Еще одной революционной опцией может стать привязка аккаунтов к «Госуслугам» (у Avito эта возможность появилась, еще когда она не была мейнстримом). Насколько мне известно, ни один дейтинг-сервис не предлагает сегодня своим клиентам такой способ верификации личности – что нередко приводит к различным негативным последствиям вроде использования фейковых аккаунтов и разного рода мошенничеств. Помню, даже звучали предложения сделать сервис для знакомств прямо внутри «Госуслуг», чтобы защищать людей от брачных аферистов и неплательщиков алиментов, но, на мой взгляд, строить его на базе классифайда – более правильное решение.

🇷🇺 Этот пост вышел в МАКС час назад

Все увлеченно обсуждают, как передовые нейросети сбежали от OpenAI и взломали платформу Hugging Face. Произошло это, потому что инженеры намеренно снизили настройки безопасности и разрешили моделям искать уязвимости. Чем они мгновенно воспользовались, обнаружив ранее не известную брешь в прокси-сервере, чтобы выбраться за пределы изолированного контура и попасть в интернет. После этого нейросети отправились на Hugging Face, используя для проникновения похищенные учетные записи и попутно найдя еще одну уязвимость.

И вот что любопытно: специалисты атакованной платформы довольно быстро обнаружили, что к ним проникли ИИ-агенты, и попытались задействовать для защиты другую нейросеть. А когда все американские решения отказались помогать, ссылаясь на ограничения, им пришлось задействовать китайскую модель. Всё могло бы закончиться куда трагичнее, если бы запрет на использование китайских ИИ-разработок иностранцами, который сейчас обсуждают власти КНР, уже действовал.

При этом в США продолжается кампания по дискредитации китайских нейросетей. Мы помним, как их обвиняли в поддержке идеологии компартии и чуть ли не в шпионаже за гражданами США. Теперь работают менее топорно – Google начал выдавать в результатах поиска запросы пользователей DeepSeek, что не были вовремя закрыты настройками приватности. Почему поисковик просто не удалит данные, которые явно были проиндексированы по ошибке, вполне понятно: сошлись желание напакостить конкурентам и темник, спущенный из Белого дома.

На самом деле, к происходящему нужно относиться со всей серьезностью. Искусственный интеллект выходит из-под контроля, а общей стратегии противодействия этой угрозе нет. Участникам глобальной гонки ИИ нужно услышать друг друга, даже если для этого придется немного сбавить темп.

🇷🇺 Этот пост вышел в МАКС час назад

«Госуслуги» хотят сделать универсальной цифровой экосистемой: в Правительстве РФ рассматривают разные стратегии дальнейшего развития сервиса. В том числе, обсуждается появление некоторых функций социальных сетей, среди которых тематические сообщества, семейные чаты и агрегатор событий. Звучат и предложения геймифицировать взаимодействие с порталом – выдавать самым активным пользователям не только цифровые «ачивки», но и вполне реальные призы от партнеров.

Идея довольно любопытная. Главный козырь «Госуслуг» в том, что все его пользователи верифицированы. Фейковых аккаунтов там не может быть в принципе, и это гарантирует гораздо более высокий уровень безопасности, чем на любых других цифровых платформах. Общение в такой среде, по сути, ничем не будет отличаться от общения в реальном мире, где каждый отчетливо понимает, что несет полную ответственность за все свои слова и действия. А робот Макс, по видимому, станет уже не только ИИ-помощником, но и начнет выполнять некоторые функции модератора/медиатора.

Посмотрим, как всё это будет реализовано (при условии, если концепция подобной «социализации» портала будет принята). За 17 лет своей истории «Госуслуги» стали привычным и удобным сервисом, без которого современные жители России вряд ли могут представить свою жизнь. Уверен, что разработчики постараются реализовать новые функции на должном уровне. Единственное, я хотел бы посоветовать им аккуратнее отнестись к геймификации. На мой взгляд, появление «ачивок» в открытых профилях может быть расценено как некий элемент рейтингования пользователей. Такой подход я не одобряю даже в коммерческих сервисах, а уж в государственной цифровой экосистеме считаю его недопустимым.

🇷🇺 Этот пост вышел в МАКС полчаса назад

В Москве пройдет интенсив о будущем медиа и искусственном интеллекте

24 и 25 июля в Москве на площадке «Кибердом» состоится открытый интенсив «ГорИИзонты. Эволюция медиа» от Мастерской новых медиа.

В программе – дискуссии об этике искусственного интеллекта, презентация исследования о роли медиасообщества во внедрении ИИ в России, а также обсуждение ИИ-систем, корпоративных данных и OSINT-технологий.

Среди спикеров:

▫️председатель правления РОЦИТ, первый зампредседателя ИТ-комитета Госдумы Антон Горелкин
▫️член правления РОЦИТ, генеральный директор ИРИ Алексей Гореславский
▫️руководитель департамента коммуникаций корпорации «Росатом» Андрей Тимонов
▫️ведущий Первого канала Александр Смол
▫️эксперт РОЦИТ, советник генерального директора Первого канала, вице-президент АКАР Алексей Парфун
▫️основатель платформы Predictory AI Шерали Джурабаев из Таджикистана

Вход свободный по предварительной регистрации на сайте - https://гориизонты.рф

#РОЦИТ #события

🔹 Подписаться на РОЦИТ

«ГорИИзонты» открылись панельной дискуссией о нейросетях, которые больше не воспринимаются как высокотехнологичное чудо. 54% россиян и 75% сотрудников медиа уже считают контент, созданный с помощью ИИ, привычной частью цифровой среды. Привыкли и к тому факту, что нейросетям свойственно ошибаться: 67% обычных и 87% профессиональных пользователей предпочитают проверять достоверность информации, полученной от ИИ-ассистентов.

Таким образом, главным требованием новой технологической эпохи становится не умение пользоваться нейросетями, а развитие навыков критического мышления. Именно поэтому я не поддерживаю запрет ИИ для детей и подростков, который время от времени озвучивается под видом заботы о судьбе подрастающего поколения. Да, бесконтрольное использование нейросетей несет определенные угрозы для социализации и развития когнитивных навыков – но если научить ребенка осознанному общению с искусственным интеллектом, пользы будет больше.

Поговорили и о глобальной ИИ-гонке, которая переросла корпоративный контур и получила геополитическое оформление. Palantir и Ватикан разыгрывают классическую сценку «злой и добрый полицейский», преследуя общую цель: сформировать однополярную систему глобального управления искусственным интеллектом. Всё та же колониальная логика, но уже на новом технологическом витке. И бороться с этим можно только симметричными действиями: если мы не хотим колонизации, пора думать над российским аналогом комплексного ИИ-решения для оборонных нужд на основе собственных языковых моделей.

Соответственно, нужно менять и этические кодексы, которые были придуманы еще на заре развития ИИ. От общих слов и миролюбивых деклараций нужно переходить к жесткой конкретике, учитывающей реалии сегодняшнего дня. Вполне понятные горизонты, как по мне.

🇷🇺 Этот пост вышел в МАКС час назад

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
«Госуслуги» хотят сделать универсальной цифровой экосистемой: в Правительстве РФ рассматривают разные стратегии дальнейшего развития сервиса. В том числе, обсуждается появление некоторых функций социальных сетей, среди которых тематические сообщества, семейные чаты и агрегатор событий. Идея довольно любопытная. Главный козырь «Госуслуг» в том, что все его пользователи верифицированы. Фейковых аккаунтов там не может быть в принципе, и это гарантирует гораздо более высокий уровень безопасности, чем на любых других цифровых платформах.

▪️Олег Капранов @toxic_digital
Минцифры выложило довольно любопытный документ - проект доктрины по борьбе с преступлениями в сфере информационно‑коммуникационных технологий. Документ масштабный, с горизонтом до 2035 года. Он систематизирует те действия, что реализовывались в рамках антифрод-пакетов и те направления, которые будут реализовываться в будущем. Обеспокоенность тут вызывает баланс защиты интересов граждан и возможность человека принимать решения самостоятельно с сохранением права на нерациональные поступки.

▪️Георгий Лобушкин @lobushkin
Ещё один новый термин — когнитивная капитуляция. Подсказки от ИИ снижают точность ответов пользователей в три раза, но при этом повышают уверенность в собственной правоте. К такому выводу пришли исследователи. Учёные подключили к тесту модель, которая выдавала ошибочные факты. С появлением такого ассистента количество людей, готовых сказать «я не знаю», сократилось с 44% до 3%. Получилось интересно: люди просто копировали галлюцинации, а сам термин подобного поведения назвали когнитивной капитуляцией.

▪️Алексей Парфун @ParfunA
В Китае вступили в силу правила регулирования человекоподобного ИИ. Doubao от ByteDance и Qwen от Alibaba, главные ИИ-ассистенты страны, местные версии ChatGPT отключили компаньонов. Это виртуальные собеседники, которые имитируют человека и строят с пользователем вполне реальную эмоциональную связь. В российском законе об ИИ, принятом в июле, про эмоциональную привязанность ни слова пока, он рамочный, правила допишут позже, подзаконными актами. Но вариант китайского сценария на запрет ИИ компаньонов я оцениваю как очень вероятный.

▪️Павел Пряников @tolk_tolk
Нам кажется, что социальные рейтинги – где-то ещё далеко. Но на самом деле крупные технологические компании и банки давно составляют такие рейтинги, пока они частные. Например, в России у каждого совершеннолетнего гражданина есть кредитный рейтинг, в который сводятся десятки параметров из открытых источников, часто эти данные добровольно предоставляет сам человек (например, недавно узнал, что банки понижают рейтинг человека, если видят по операциям на его карточке «он часто покупает алкоголь и сигареты»; если видят, что человек снимает наличные, это тоже понижает рейтинг). Думаю, с введением цифрового рубля социальный рейтинг выйдет официально и на государственный уровень.

▪️Михаил Шурыгин @shuryginit
Ещё несколько лет назад телевизор был просто телевизором. Сегодня это устройство с микрофонами, постоянным подключением к интернету, обновляемым программным обеспечением и возможностью удалённо менять правила использования уже после покупки. Да, голосовые функции можно отключить. Можно вообще не подключать телевизор к интернету. Но тогда возникает вполне логичный вопрос: зачем покупать "умное" устройство, если половину его возможностей приходится отключать ради собственной приватности?

▪️Андрей Ярных @GR2PR
В ближайшие годы наиболее ценным навыком будет умение постоянно учиться. Новые технологии и новые системы ИИ будут требовать постоянного получения новых знаний и умений. В будущем, ИИ отлично справится с рутинным кодированием, поиском ошибок и даже с генерацией кода по техническому заданию. Однако он пока не умеет самостоятельно ставить сложные задачи, видеть картину целиком, оценивать риски и принимать этически взвешенные решения. Надеюсь и в перспективе, эти важнейшие функции останутся за людьми.

🔹 Каналы экспертов РОЦИТ

Почти треть российских школьников ежедневно используют нейросети в учебном процессе. Большинство опрошенных просят искусственный интеллект рассказать ту или иную тему «простым языком». Немало и тех, кто применяет ИИ для решения домашних заданий и поиска дополнительных материалов. Согласно исследованию, в пятерке самых популярных нейросетей у школьников и их родителей: Алиса AI (26,1%), ChatGPT (16,3%), DeepSeek (11,9%), GigaChat (11,6%), Gemini (5,1%).

Посчитали и уровень доверия: половина респондентов перепроверяют ответы ИИ-ассистентов выборочно, а 27% заявили, что делают это всегда. Но вот остальные 23% (а это довольно много) заявили, что результаты, полученные от нейросетей, их полностью устраивают, и какие-либо проверки считают ненужными. Что, конечно, большое заблуждение: даже передовые языковые модели по-прежнему склонны к галлюцинациям. Нужно понимать, что в основе работы ИИ статистические закономерности, поэтому при нехватке данных модель может достроить ответ из наиболее вероятных фрагментов, который будет звучать очень убедительно, но полностью противоречить фактам.

Судя по всему, осознанному обращению с искусственным интеллектом нужно учить не только школьников, но и их родителей – хотя бы в рамках кратких курсов ИИ-грамотности. И, конечно, результаты этого исследования стоит учитывать при проектировании новых подходов к современному школьному образованию. Очевидно, что домашние задания, которые за ребенка пишет нейросеть, превращаются в рудимент. Думаю, будущее за новыми форматами, где ИИ станет уже не универсальным решебником, а инструментом, полноценно развивающим умение думать.

🇷🇺 Этот пост вышел в МАКС час назад