✅ Регулирование в сфере IT. Главные новости за прошедшую неделю 👇

⏺ ООН приняла проект конвенции о борьбе с ИКТ-преступностью

⏺ X прекращает свою деятельность в Бразилии в связи с постановлениями судьи по поводу удаления контента

⏺ Еврокомиссия начала дополнительное расследование в отношении Apple из-за несоблюдения требований Закона о цифровых рынках

⏺ Жители США подали против TikTok новый коллективный иск из-за нарушения конфиденциальности детей

⏺ Польша разработала новые стандарты защиты данных детей

⏺ Федеральная торговая комиссия США окончательно утвердила запрет на продажу и покупку фальшивых отзывов в интернете

⏺ Власти индийского штата Керала включили обучение распознаванию фейковых новостей и дезинформации в школьную программу

⏺ Законопроект Калифорнии о регулировании ИИ вызвал тревогу в Кремниевой долине

#НТЦ_дайджест

🤖 Проблемные вопросы LLM. Язык как инструмент общения или мышления

Быстрое и масштабное внедрение технологий генеративного искусственного интеллекта происходит благодаря большим языковым моделям. Однако использование ИИ для обработки сложной информации может привести к серьезным ошибкам.

Для решения сложных задач с помощью ИИ необходимо преодолеть разрыв между естественным языком и формальным рассуждением. Поэтому полагаться на LLM для решения таких задач опасно.

Компания Elemental Cognition нашла способ объединить LLM и формальную логику в рамках LLM Sandwich. Это искусственный интеллект, который решает сложные проблемы с помощью надежных рассуждений.

Эксперты Научно-технического центра ГРЧЦ выделили четыре преимущества платформы:

1️⃣ Взаимодействие с формальным механизмом на естественном языке.
2️⃣ Доказуемо-правильные ответы.
3️⃣ Прозрачность решений.
4️⃣ Низкие затраты при высокой производительности и масштабируемости.

Такие разработки идут дальше использования LLM, они направлены на поиск новых решений и повышение производительности.

💻 Подробнее — в новом материале на сайте Научно-технического центра.

✅ Понедельник начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ В России вступили в силу законы о наказании за распространение в интернете треш-стримов

⏺ Правительство Австралии опубликовало политику ответственного использования ИИ

⏺ Швеция и Дания намерены привлечь технологические платформы к ответственности из-за распространения контента преступных группировок

⏺ Законодатели Калифорнии внесли поправки в законопроект об ИИ

⏺ Власти Амстердама запретили городским чиновникам пользоваться на рабочем месте Telegram

⏺ Писатели подали в суд на стартап Anthropic, занимающийся разработкой искусственного интеллекта, за нарушение их авторских прав

⏺ Апелляционный суд США возобновил коллективный иск против Google о защите персональных данных

#НТЦ_дайджест

🌍 Технологии и национальная безопасность

Экспоненциальное развитие искусственного интеллекта, квантовых вычислений и сетей связи играет ключевую роль в обеспечении национальной безопасности и связано с размыванием границ между технологической и военной сферами.

Во время геополитической конфронтации традиционно наблюдается ускорение развития технологического сектора, но в эпоху искусственного интеллекта и цифровых технологий ключевая роль в разработках перешла от военного сектора к частному. Инновации активно используются в военных целях, тестируются во время военных действий и модифицируются под конкретные военные задачи.

Изменение мирового порядка изменяет приоритеты в обеспечении безопасности. В США принимаются законы, которые защищают граждан от иностранного вмешательства и контролируемых приложений противника. Фрагментация международных отношений усиливается и за счет появления новых торговых ограничений, которые нарушают глобальные цепочки поставок. Общая ситуация свидетельствует о необходимости для инвесторов выбирать определенную политическую сторону и существовать в различных технологических экосистемах.

В итоге, роль технологий в формировании нового геополитического ландшафта значительно увеличивается. Чтобы сформировать безопасную систему международных отношений, нужны новые правила и нормы управления технологиями и снижения угрозы их использования в качестве геополитического инструмента.

💻 Подробнее – в новом материале на сайте Научно-технического центра ГРЧЦ

✅ Понедельник традиционно начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ Московский суд оштрафовал Pinterest на ₽7 млн за отказ удалять запрещенный контент

⏺ В Австралии приняли законопроект об уголовном наказании за секс-дипфейки

⏺ Власти Непала сняли запрет на использование TikTok, который действовал почти год

⏺ Евросоюз приступил к расследованию в отношении Telegram из-за предполагаемого занижения числа пользователей

⏺ Палата представителей Чили одобрила закон о защите персональных данных

⏺ Верховный суд Бразилии пригрозил приостановить деятельность X в стране

⏺ TikTok предстанет перед судом в США из-за смерти 10-летней девочки

⏺ Законодательный орган Калифорнии принял спорный законопроект об искусственном интеллекте

⏺ Дания намерена запретить зашифрованные мессенджеры Telegram и Signal

⏺ Правительство Индии проводит расследование в отношении Telegram в связи с его предполагаемым неправомерным использованием в преступной деятельности

⏺ Компания Yelp подала в суд на Google, обвинив его в злоупотреблении доминирующим положением на рынке поисковых систем

#НТЦ_дайджест

🤖 Малые языковые модели (SLM)

Большие языковые модели, демонстрирующие впечатляющие результаты, обладают значительными возможностями в работе с данными. Однако их внедрение и использование потребителями с недостаточным финансированием ограничено из-за ресурсоемкости и склонности к галлюционированию.

Малые языковые модели, обученные на меньшем количестве параметров, могут стать эффективной альтернативой большим моделям.

Эксперты Научно-технического центра ГРЧЦ выделили основные преимущества SLM:

✅ Доступность и эффективность в использовании, особенно в условиях с ограниченными вычислительными ресурсами.

✅ Автономное функционирование, что позволяет использовать возможности ИИ в условиях отсутствия интернета.

✅ Повышенная безопасность и конфиденциальность информации. Благодаря меньшим кодовым базам и обработке информации на устройстве понижается их уязвимость к вредоносным атакам, сводя к минимуму потенциальные возможности для взломов системы безопасности.

✅ SLM обеспечивают быстрые и точные решения для конкретных областей, делая продвинутый ИИ более доступным и экономичным.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

✅ Врываемся в рабочие будни с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ В России предложили ввести уголовную ответственность для дропперов

⏺ Молдова подогнала законодательство о защите персональных данных под стандарты ЕС

⏺ Бразильский надзорный орган заблокировал доступ к X после постановления суда

⏺ Департамент здравоохранения Швеции запретил детям до двух лет пользоваться гаджетами

⏺ Американский Минфин объявил о введении санкций против российских АНО «Диалог» и международной медиагруппы Russia Today (RT)

⏺ Starlink исполнила приказ суда Бразилии и заблокировала доступ к X

⏺ Южная Корея начала расследование в отношении Telegram из-за подозрений в пособничестве и подстрекательстве к распространению порнографических дипфейков. Telegram извинился перед властями и удалил запрещенный контент.

⏺ Еще один иск подан в США против Google о манипулировании результатами поисковой выдачи

⏺ Бразильский регулирующий орган снял запрет на использование компанией Meta* персональных данных пользователей для обучения ИИ

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

🤝 Технологическая дипломатия – новые тренды международных отношений

В середине 2017 года Дания первой в мире возвела технологии и цифровизацию в ранг приоритета внешней политики и политики безопасности. Эта инициатива получила название технологической дипломатии, или TechPlomacy.

Она направлена на анализ трех тенденций во внешней политике:

✅ общественные изменения, обусловленные технологическим прорывом;
✅ роль многонациональных технологических компаний как движущей силы инноваций;
✅ появление нового вектора внешней политики, вызванного ростом негосударственных субъектов.

💡 Цель инициативы — сформировать баланс сил в глобальном масштабе и обеспечить кибербезопасность.

TechPlomacy регулирует диалог с технологическими компаниями и международную повестку дня в области технологической политики, включая формирование новых альянсов и партнерств. Ключевые темы обсуждений: дезинформация, борьба с терроризмом, дипфейки, цифровое налогообложение, этика данных и отраслевые вопросы.

Сотрудничество, опирающееся на ключевые элементы технологической дипломатии, гарантирует достижение экономического лидерства и соблюдение принципов доверия.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤔 Что нового в сфере регулирования? Рассказываем в дайджесте! Собрали для вас значимые новости последней недели👇

⏺ В России предложили штрафовать сервисы за сбор избыточных персональных данных

⏺ Сингапур принял закон, запрещающий использование дипфейков во время выборов

⏺ Google и Apple проиграли судебные процессы против ЕС и должны выплатить штрафы

⏺ В Южной Корее приняли новый закон о персональных данных

⏺ Верховный суд Бразилии оставил в силе запрет на использование социальной медиаплатформы X

⏺ Власти Австралии сообщили о намерении запретить детям до 16 лет пользоваться социальными сетями

⏺ Google злоупотребляет своим доминирующим положением на рынке цифровой рекламы, – британский регулирующий орган

⏺ Штат Нью-Мексико подал в суд на Snap из-за неспособности защитить детей от сексуальной эксплуатации

#НТЦ_дайджест

🤖 ИИ как преобразующая технология. Перспективы и заблуждения

В зарубежной повестке отмечается снижение шумихи вокруг искусственного интеллекта и снижение ожидаемой прибыли от его применения из-за замедления совершенствования и возрастания расходов на эксплуатацию.

➡️ Переоценка ИИ началась с 1950-х во время разработки интеллектуальных машин, далее последовало снижение интереса и финансирования.

➡️ Возрождение в 1990-х годах в виде дисциплины, ориентированной на поиск закономерностей в больших объемах данных с помощью усложнения алгоритмов.

➡️ В 2000-х интернет привел к инновациям в области науки о данных.

➡️ Это обусловило появление новых многоуровневых алгоритмов глубокого обучения в 2010-х.

➡️ Недавнее появление базовых моделей, включая генеративный ИИ, больших языковых моделей не оставляет сомнений относительно ИИ как преобразующей технологии.

Вместе с тем, нереалистичные ожидания и постоянный ажиотаж могут привести к разочарованию. Изменение мышления и привычек людей станет одним из самых больших препятствий для быстрого внедрения ИИ. Это последовательная тенденция при внедрении любых новых технологий. Таким образом, рыночный успех зависит от принятия технологии в экономике и от технологических достижений.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤖 Новости из мира IT-технологий. Главное – в дайджесте⬇️

⏺ Госдума в I чтении приняла законопроект о защите прав пользователей онлайн-подписок

⏺ Высший суд Бразилии отменил замораживание банковских счетов Starlink и X

⏺ Google предложила продать свою рекламную платформу AdX издательским компаниям из ЕС

⏺ В Калифорнии ввели ограничение на использование ИИ в кино

⏺ Суд ЕС отменил штраф в €1,5 млрд в отношении Google

⏺ В Госдуму внесли законопроект об охране голоса человека при его генерации ИИ

⏺ Федеральный суд заблокировал закон Техаса о социальных сетях и закон штата Юта, ограничивающий использование социальных сетей подростками

⏺ Meta* грозит штраф в $13,5 млрд за нарушение цифрового законодательства ЕС

*Компания Meta Platforms признана в России экстремистской организацией и запрещена

#НТЦ_дайджест

💡 Роль микроэлектроники в обеспечении стратегического преимущества. Обзор зарубежных инициатив

Полупроводниковая отрасль стала площадкой международного соперничества между США, ЕС и Азией и стратегическим активом для геополитического влияния. Разнообразие и специализированное производство чипов не позволяют создавать их на одном заводе, а ограниченная взаимозаменяемость формирует зависимость от иностранных фабрик.

➡️ С 2020 года ЕС поддерживает отрасль через «Закон о чипах», задача которого увеличить долю союза в мировых мощностях по производству чипов до 20%. Закон вводит инициативы по снижению барьеров для входа в проектирование чипов, решения по акционерному капиталу и долговым обязательствам, центры компетенций и Европейский совет по полупроводникам. Однако некоторые эксперты считают, что цель не обеспечивает технологическую конкурентоспособность и национальную безопасность.

➡️ В США подход к полупроводниковому сегменту строго регламентирован. «Закон о чипах для Америки» 2022 года направлен на снижение издержек, увеличение рабочих мест и укрепление цепочек поставок. Компании, получающие государственные субсидии, не могут расширять производство в Китае. В июне 2024 года представлен законопроект, ограничивающий покупку китайского оборудования при государственном финансировании в полупроводниковой отрасли.

➡️ Стратегия Японии в области полупроводников отличается от стратегии США, но тоже имеет геополитическую ориентацию. Ключевая концепция в стратегии экономической безопасности – поддержание, укрепление и получение стратегической незаменимости.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

📕 Что нового в сфере регулирования? Рассказываем в дайджесте 👇

⏺ Президент Филиппин подписал закон, предусматривающий взимание налога на добавленную стоимость в размере 12% с иностранных поставщиков цифровых услуг

⏺ Калифорния приняла два закона: о защите нейронных данных потребителей и о запрете использования смартфонов в школах

⏺ Google подала в Еврокомиссию антимонопольную жалобу на Microsoft

⏺ Сенаторы США представили законопроект, требующий от социальных сетей предупреждать пользователей о потенциальных рисках для их психического здоровья

⏺ Более ста компаний подписали Пакт ЕС об ИИ, чтобы способствовать надежному и безопасному развитию новой технологии

⏺ Арканзас подал в суд на YouTube, заявив, что платформа способствует возникновению кризиса психического здоровья

#НТЦ_дайджест

☁ Цифровые двойники. Ключевые преимущества использования

Современные цифровые двойники – компьютеризированные компаньоны реального мира. Их используют в сфере промышленности, профиля здоровья человека и других сложных системах.

The Economist выделил три наиболее важных задачи, которые выполняют двойники:

✅ Ускорение разработки

Проектирование с учетом всех параметров, включая тесты, происходит быстрее благодаря цифровым двойникам. Например, оцифровка и виртуальное моделирование разработки автомобиля сократили процесс от концепции до массового производства с пяти лет до двух. Технологии цифровых двойников используются в реактивных двигателях, электрогенераторах и других сложных дорогостоящих продуктах.

✅ Повышение эффективности компаний

Мониторинг и корректировка операций на основе данных в реальном времени повышают эффективность компаний. Компания Uber, например, отслеживает состояние автомобилей, условия движения, погоду и ожидаемый спрос для оптимизации операций. Такие тенденции позволят создавать экосистемы клиентов и поставщиков для любого бизнеса, оптимизируя корпоративные цели.

✅ Обеспечение научных инноваций

Компьютерное моделирование стало неотъемлемой частью научных исследований благодаря совершенствованию сенсорных и визуальных технологий, передачи и анализа больших данных. Цифровые двойники помогают развивать персонифицированную медицину на основе прогнозируемой реакции. В перспективе возможно объединение двойников планетарных процессов для прогнозирования экологических катастроф.

👩‍💻 Подробнее – в новом материале на сайте Научно-технического центра.

✅ Понедельник традиционно начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ Минцифры опубликовало законопроект о мерах против телефонного спама

⏺ Суд США обязал Google разрешить дистрибуцию альтернативных магазинов приложений в Google Play

⏺ Платформа X получила разрешение на возобновление работы в Бразилии

⏺ Европейская комиссия предложила новые цифровые удостоверения личности для путешественников

⏺ Турция заблокировала платформу Discord

⏺ 14 штатов США обвинили TikTok в причинении вреда психическому здоровью детей

⏺ В ЕС создан новый орган для рассмотрения жалоб пользователей на социальные сети

⏺ Meta* должна ограничить использование персональных данных пользователей для таргетинга рекламы, – высший суд ЕС

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

💬 Проблемы формы и значения в LLM

Впечатляющие способности больших языковых моделей (LLM) в овладении, понимании и генерировании человеческого языка основаны на больших языковых данных из интернета. Обучение включает разбиение текста или речи на токены и анализ связей между ними для создания грамматически корректных последовательностей. Сгенерированный текст может не соответствовать реальному миру, что создает проблему галлюцинаций и ложной информации.

Утверждения относительно лингвистических возможностей LLM имеют два необоснованных предположения:

1️⃣ Существование полноты языка в виде целостной сущности, схожей с физическими объектами, которая может быть эффективно смоделирована LLM.
2️⃣ Полнота данных, позволяющая идентифицировать и количественно оценить основные характеристики естественного языка в наборах данных.

В основе этих предположений лежит вычислительная теория разума, рассматривающая разум как систему обработки информации. Однако познание возможно с точки зрения энактивизма, который выделяет три характеристики инсценированного языка, отсутствующие в LLM:

✅ Воплощение – тон голоса, жесты, эмоциональный контекст, выражение лица и т. д.
✅ Участие – непринужденный разговор, мимолетные жесты, язык тела, паузы, колебания.
✅ Неустойчивость – двусмысленность между людьми: напряженность, разногласия.

Таким образом, LLM не могут повторно использовать и создавать формы для манипулирования смыслом и работы в изменяющемся мире. Впечатляющие результаты работы основаны на прогнозировании предложений. Несмотря на неудачи в решении нелингвистических задач, LLM – это значительное инженерное достижение, требующее тщательной оценки перед развертыванием для смягчения тенденции к упрощению языка и кодированию общественных стереотипов.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤖 Новости из мира IT-технологий. Главное – в дайджесте⬇️

⏺ Правительство Бразилии ужесточит антимонопольное регулирование в отношении крупных технологических компаний

⏺ Власти Гонконга начали расследование в отношении LinkedIn из-за использования персональных данных для обучения генеративного ИИ

⏺ X не будет включена в список платформ, подпадающих под действие Закона ЕС о цифровых рынках

⏺ TikTok уволила сотни сотрудников в связи с внедрением ИИ для модерации контента

⏺ Финансовый регулятор в Великобритании предложил ввести налог для интернет-компаний на борьбу с кибермошенниками

⏺ В ЕС принят новый закон о кибербезопасности цифровых устройств

⏺ Возможный запрет на социальные сети в Австралии вызывает опасения по поводу социальной изоляции подростков

⏺ Новый законопроект в Великобритании может заставить социальные сети сделать контент менее привлекательным для лиц младше 16 лет

⏺ Суд США рассмотрит иски штатов, обвиняющих Meta* в развитии у подростков зависимости от социальных сетей

*Компания Meta Platforms признана в России экстремистской организацией и запрещена

#НТЦ_дайджест

🤥 Манипулирование мнением пользователей соцсетей с помощью ИИ

В сентябре 2024 года Обсерватория социальных сетей (OSoMe) Университета штата Индиана объявила о создании межинституциональной экспертной группы для изучения влияния искусственного интеллекта на онлайн-коммуникации. В частности, возможностей ИИ в радикализации сообщений и распространении дезинформации.

Эксперты отмечают, что современные детекторы контента на основе LLM не способны отличить ботов с поддержкой ИИ от аккаунтов реальных людей. 

ИИ генерирует лица для фотографий, осуществляет продвижение неправомерного, но интересного или фейкового контента, распространяет эмоциональные реакции или политическую ориентацию, тем самым имитирует человеческое общение. При этом, кроме последствий мошенничества или распространения спама, происходит сбор данных, формирование уязвимостей и ряд других последствий этического характера.

Чтобы изучить методы распространения информации по социальной сети, эксперты разработали модель социальных сетей SimSom. Она имитирует сеть подписчиков, где каждое воздействие сообщения приводит к вероятности перепоста. Модель позволила оценить эффект инфильтрации, обмана и переполнения информацией, выявив, что инфильтрация снижает качество контента до 50%, а при одновременном переполнении – до 70%.

Таким образом, ключевая проблема заключается в ответственности за контент на платформах. В настоящее время платформы являются издателями и носителями информации, что осложняет разработку принципов регулирования и методов защиты от информационных кампаний.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

✅ Понедельник традиционно начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ Участники видеоигрового рынка России начали эксперимент по добровольной маркировке игрового контента

⏺ Норвегия может запретить детям до 15 лет пользоваться социальными сетями

⏺ Турция заблокировала доступ ко всем социальным сетям после теракта на оборонной компании воздушно-космической отрасли

⏺ Еврокомиссия объявила тендер на разработку технологии для проверки возраста интернет-пользователей

⏺ X разрешил третьим лицам обучать свои модели искусственного интеллекта на данных пользователей

⏺ Германия и Румыния назначили экспертов по выявлению нелегального онлайн-контента для защиты несовершеннолетних

⏺ Roblox планирует открыть офис в Турции, если доступ к платформе будет восстановлен

⏺ Суд США рассмотрит иск штата Массачусетс, обвиняющего Meta* в развитии у подростков зависимости от социальных сетей

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

😉 А ты умеешь защищать свои персональные данные?

30 октября в 14:00 приглашаем студентов на вебинар по медиаграмотности и медиапотреблению.

⭐️ Екатерина Ефимова, руководитель направления персональных данных Главного радиочастотного центра, расскажет об угрозах в Сети и правилах, которые необходимо соблюдать, чтобы защитить свои личные данные.

⭐️ Станислав Махортов, главный юрисконсульт Научно-технического центра ГРЧЦ, поделится информацией о том, какие законы регулируют интернет-пространство и как избежать нарушений.

Ты сможешь пообщаться с экспертами в эфире и задать интересующие вопросы!

Ждем тебя здесь 😮

Организаторы: Министерство науки и высшего образования РФ совместно с подведомственным Роскомнадзору Главным радиочастотным центром, Университетом им. О.Е. Кутафина (МГЮА), Аналитическим центром при Координационном совете Минобрнауки России и координационными центрами. Мероприятие пройдет в рамках проекта «Открытый диалог».