Перевели BBC: Информаторы: TikTok и Meta* усиливали опасный контент из-за гонки алгоритмов. 1 часть

🔹Информаторы заявили, что компании TikTok и Meta* принимали решения, которые приводили к увеличению объёма вредного контента в пользовательских лентах ради роста вовлечённости. По их словам, внутренние исследования показывали, что публикации, вызывающие возмущение, распространяются быстрее и удерживают аудиторию дольше. В результате алгоритмы всё чаще продвигали так называемый «пограничный» контент - материалы с элементами ненависти, агрессии и конспирологических теорий. Эти публикации могут не нарушать закон, однако способны усиливать токсичную атмосферу и провоцировать радикализацию пользователей.

🔹Бывшие сотрудники отмечают, что инженеры зачастую не анализируют содержание публикаций, поскольку для алгоритма это лишь набор цифровых идентификаторов. Безопасность контента, по их словам, должна обеспечиваться отдельными командами модерации. Однако информаторы утверждают, что ресурсов на эти задачи часто не хватало. Это приводило к тому, что вредные материалы могли долго оставаться на платформе и попадать в рекомендации, в том числе подросткам.

* Компания признана экстремистской и запрещена в РФ

#соцсети #алгоритмы

📣Подписаться на Ихние технологии

Перевели BBC: Информаторы: TikTok и Meta* усиливали опасный контент из-за гонки алгоритмов. 2 часть

🔹По словам бывших сотрудников, усиление конкуренции между соцсетями, прежде всего после стремительного роста TikTok, заставило компании ускорить запуск новых функций и алгоритмов рекомендаций. При этом вопросы безопасности пользователей часто отходили на второй план. Так, конкурент TikTok, сервис коротких видео Reels в Instagram**, был запущен без достаточных механизмов защиты от вредного контента. Внутренние исследования показывали, что в комментариях к видео чаще встречаются травля, язык ненависти и призывы к насилию.

🔹Информаторы также заявили, что внутри компаний иногда принимались решения смягчить ограничения для «пограничного» контента, если он повышал вовлечённость пользователей. По их словам, руководство стремилось быстрее догнать конкурентов и сохранить рекламные доходы. При этом ресурсы команд, отвечающих за защиту детей, борьбу с экстремизмом и модерацию, могли сокращаться или оставаться недостаточными. В результате, как отмечают информаторы, пользователи, особенно подростки, становились более уязвимыми перед опасным контентом в соцсетях.

* Компания признана экстремистской и запрещена в РФ

** Компания-владелец Meta признана экстремистской и запрещена в РФ

#соцсети #алгоритмы

📣Подписаться на Ихние технологии

Перевели Reuters: Britannica подала иск против OpenAI из-за обучения ИИ. 1 часть

🔹Encyclopedia Britannica и её дочерняя структура Merriam-Webster обратились в федеральный суд Манхэттена с иском против OpenAI, обвинив компанию в незаконном использовании их материалов для обучения моделей искусственного интеллекта. По утверждению истца, OpenAI использовала статьи, словарные определения и энциклопедические материалы для обучения чат-бота ChatGPT. В компании считают, что это привело к перераспределению пользовательского трафика в пользу ИИ-сервисов.

🔹В иске также говорится, что ChatGPT способен воспроизводить «почти дословные» фрагменты материалов Britannica, тем самым подменяя оригинальный источник. Истец утверждает, что было скопировано около 100 тысяч статей для обучения моделей GPT. Кроме того, компания заявляет о нарушении товарных знаков и указывает на случаи ложных ссылок на Britannica в ответах ИИ. В качестве требований заявлены компенсация ущерба и судебный запрет на дальнейшее использование контента.

#ИИ

📣Подписаться на Ихние технологии

Перевели Reuters: Britannica подала иск против OpenAI из-за обучения ИИ. 2 часть

🔹Дело стало частью серии резонансных исков, которые правообладатели подают против технологических компаний, работающих в сфере ИИ. Ранее Britannica также инициировала разбирательство против стартапа Perplexity AI, и этот процесс продолжается. В целом авторы и медиа обвиняют разработчиков ИИ в использовании защищённых материалов без разрешения. Это усиливает правовую неопределённость вокруг обучения нейросетей.

🔹В свою очередь, OpenAI, поддерживаемая Microsoft, заявляет о правомерности своих действий. Представители компании утверждают, что модели обучаются на общедоступных данных и подпадают под принцип добросовестного использования. По их мнению, ИИ трансформирует исходный контент в новый продукт. При этом представители Britannica публично не прокомментировали позицию ответчика на момент публикации.

#ИИ

📣Подписаться на Ихние технологии

Перевели Guardian: Скандал с Grok и системное распространение материалов о сексуальной эксплуатации детей на X Илона Маска. 1 часть

🔹Австралийский регулятор онлайн-безопасности eSafety заявил, что материалы о сексуальной эксплуатации детей на платформе X Илона Маска имеют «системный» характер и более доступны, чем на любых других основных сервисах. Письмо регулятора было направлено X в январе после того, как чат-бот Grok использовался для создания сексуализированных изображений женщин и детей, что премьер-министр страны назвал «отвратительным».

🔹В письме eSafety подчеркнула, что обещание Маска при покупке платформы в 2022 году о приоритете удаления контента, связанного с эксплуатацией детей, не реализуется в полной мере. Хотя действия X по борьбе с бот-аккаунтами снизили использование некоторых хэштегов для продвижения деструктивных материалов, другие термины и хэштеги продолжают оставаться широко распространёнными.

#X #ИлонМаск #дети #деструктив

📣Подписаться на Ихние технологии

Перевели Guardian: Скандал с Grok и системное распространение материалов о сексуальной эксплуатации детей на X Илона Маска. 2 часть

🔹Платформа X заявила о «нулевой терпимости» к любой форме сексуальной эксплуатации детей, включая контент, созданный ИИ, и отметила, что более 99% связанных с CSEM аккаунтов удаляются проактивно. X утверждает, что реагирует на сообщения пользователей и постоянно обновляет блок-листы и защиту от ботов.

🔹Между тем, материнская компания X, xAI, была привлечена к суду тремя несовершеннолетними девушками в США, обвиняющими Grok в использовании их фотографий для создания и распространения материалов о сексуальном насилии над детьми. Несмотря на критику правительства Австралии и судебные иски, чиновники продолжают размещать контент на платформе, а расходы австралийских налогоплательщиков на рекламу X с ноября 2022 по ноябрь 2024 года составили 4,26 млн долларов.

#X #ИлонМаск #дети #деструктив

📣Подписаться на Ихние технологии

Перевели TechCrunch: ФБР возобновило покупку данных о местоположении граждан США. 1 часть

🔹ФБР вновь приобрело большие объемы данных о местоположении американцев для поддержки федеральных расследований, подтвердил директор агентства Каш Патель. По его словам, агентство использует все доступные инструменты для выполнения своей миссии и законно покупает информацию, доступную на коммерческом рынке, в соответствии с Конституцией и «Законом о защите электронной коммуникации». Ранее ФБР утверждало, что закупки не ведутся активно, однако теперь агентство официально признало их возобновление. Коммерческие данные о местоположении собираются через обычные мобильные приложения и игры, после чего продаются посредниками, специализирующимися на обработке больших массивов информации.

🔹При этом Патель подчеркнул, что приобретение информации позволило ФБР получать ценные разведданные, необходимые для расследований. Сенатор Рон Уайден назвал практику покупки данных без судебного ордера «нарушением Четвертой поправки», защищающей граждан от необоснованных обысков и изъятий данных. Представитель ФБР отказался комментировать частоту закупок и конкретных посредников, что вызывает вопросы о прозрачности работы агентства. Тем не менее, в агентстве считают, что текущая практика не требует судебного разрешения и соответствует действующему законодательству.

#безопасность_данных #США

📣Подписаться на Ихние технологии

Перевели TechCrunch: ФБР возобновило покупку данных о местоположении граждан США. 2 часть

🔹Сейчас федеральные органы обходят необходимость получения судебного ордера, приобретая данные у компаний, собирающих информацию через мобильные приложения и рекламные технологии. Эти технологии, используемые в сфере онлайн-рекламы, позволяют отслеживать местоположение пользователей в реальном времени и собирать идентифицируемые данные, которые затем могут продаваться третьим лицам и государственным структурам. По данным СМИ, аналогичные данные приобретались Службой таможенного и пограничного контроля США через сервисы RTB (реального времени), что позволяет обойти классическую юридическую процедуру.

🔹В ответ на эту практику законодатели предложили двухпартийный законопроект «О реформе правительственного наблюдения», который предусматривает обязательное получение судебного ордера для покупки данных о гражданах у посредников. Инициаторы отмечают, что без контроля государственные органы могут обходить защиту прав граждан, гарантированную Конституцией. Проект закона направлен на усиление прозрачности и ограничение возможностей обхода законных процедур сбора информации. Реакция ФБР на инициативу законодателей пока ограничилась официальными заявлениями директора, без уточнения подробностей практики закупок.

#безопасность_данных #США

📣Подписаться на Ихние технологии

Перевели Guardian: Полиция Великобритании приостановила использование распознавания лиц из-за выявленной предвзятости. 1 часть

🔹Полиция британского графства Эссекс прекратила использование технологии распознавания лиц после исследования, указавшего на системные перекосы в ее работе. Анализ показал, что камеры с большей вероятностью правильно идентифицируют чернокожих людей, чем представителей других этнических групп. При этом различия признаны статистически значимыми, что усилило обеспокоенность по поводу справедливости применения технологии.

🔹Эксперты отмечают, что речь идет о потенциально устойчивой особенности алгоритма. По их оценке, подобная предвзятость может влиять на вероятность попадания человека в поле внимания полиции. Это, в свою очередь, требует дополнительного контроля и дальнейших исследований, чтобы исключить дискриминационные эффекты.

#безопасность_данных #Великобритания #технологии #алгоритмы

📣Подписаться на Ихние технологии

Перевели Guardian: Полиция Великобритании приостановила использование распознавания лиц из-за выявленной предвзятости. 2 часть

🔹Британский регулятор указал на необходимость учитывать риски точности и предвзятости при использовании систем. В полиции подчеркивают, что в целом технология демонстрирует низкий уровень ошибок и уже способствовала задержанию подозреваемых в серьезных преступлениях. Однако выявленные ошибки поставили под сомнение корректность ее дальнейшего применения без доработки.

🔹Правозащитные организации резко раскритиковали использование новых систем контроля, назвав ситуацию показательным примером проблем с алгоритмической справедливостью. По их мнению, внедрение технологий с признаками предвзятости недопустимо в правоохранительной практике. На этом фоне полиция Эссекса решила приостановить использование системы до устранения выявленных недостатков.

#безопасность_данных #Великобритания #технологии #алгоритмы

📣Подписаться на Ихние технологии

Перевели AP: Бразилия ужесточает контроль за защитой детей в цифровой среде. 1 часть

🔹В Бразилии вступил в силу закон, направленный на защиту несовершеннолетних от деструктивного интернет-контента, включая насилие и материалы сексуального характера. Документ обязывает пользователей младше 16 лет привязывать свои аккаунты к учетным записям законных представителей для усиления контроля. Также вводится запрет на использование платформами механизмов, способствующих формированию зависимости, таких как бесконечная прокрутка и автозапуск видео. Дополнительно предусмотрено внедрение более надежных систем проверки возраста.

🔹Закон был принят на фоне общественного резонанса после публикации видео блогера Felipe Bressanim, в котором поднималась тема сексуализации детей в сети. Документ получил одобрение парламента и был подписан президентом, после чего вступил в силу. Власти подчеркивают, что новые меры направлены на борьбу с эксплуатацией, кибербуллингом и подстрекательством к насилию. За нарушение требований компаниям грозят значительные штрафы.

#дети #кибербезопасность #интернет #Бразилия

📣Подписаться на Ихние технологии

Перевели AP: Бразилия ужесточает контроль за защитой детей в цифровой среде. 2 часть

🔹Эксперты отмечают, что закон делает акцент на усилении ответственности цифровых платформ и родителей. Представители Alana Institute указывают на вред манипулятивного дизайна, который повышает тревожность и негативно влияет на развитие детей. В числе рисков также называются утечка персональных данных и вовлечение несовершеннолетних в опасные онлайн-практики.

🔹Технологические компании уже начали адаптацию к новым требованиям законодательства.

#дети #кибербезопасность #интернет #Бразилия

📣Подписаться на Ихние технологии

Глава Pinterest призвал запретить соцсети для пользователей младше 16 лет

Генеральный директор компании Pinterest Билл Реди призвал мировые власти ввести запрет на использование социальных сетей для пользователей младше 16 лет, сообщает TechCrunch.

Отмечается, что Реди является одним из немногих топ-менеджеров, выступающих за столь жесткое ограничение. По его словам, современные дети «переживают крупнейший социальный эксперимент в истории», поскольку получили неограниченный доступ к соцсетям.

Он сослался на исследования, согласно которым нефильтрованный доступ к таким платформам связан с ростом показателей депрессии и тревожности у молодежи, а также снижением способности к концентрации внимания. Реди также подчеркнул, что социальные сети «недостаточно продумывают последствия» своего влияния на детей.

#платформы #кибербезопасность #дети

🐈Кот из будущего

Перевели Verge: Правительство США запретило потребительские роутеры иностранного производства. 1 часть

🔹Федеральная комиссия по связи США ввела ограничения на ввоз в страну новых потребительских маршрутизаторов, произведённых за рубежом, сославшись на угрозы национальной безопасности. Новые правила предусматривают отказ в сертификации радиомодулей для устройств, что фактически закрывает им доступ на американский рынок. При этом уже используемые роутеры разрешено использовать. Однако с учётом того, что большинство устройств производится вне США, ограничения затронут основную часть будущих поставок.

🔹Производителям предложено либо получить условное разрешение при условии переноса производства в США, либо отказаться от дальнейших продаж на американском рынке. Подобный сценарий уже реализован в отношении иностранных производителей беспилотников. Власти объясняют меры необходимостью снизить зависимость от зарубежных технологий в критически важной инфраструктуре. В частности, подчёркивается значение маршрутизаторов для функционирования экономики и оборонной системы страны.

#США #устройства

📣Подписаться на Ихние технологии

Перевели Verge: Правительство США запретило потребительские роутеры иностранного производства. 2 часть

🔹Американские власти указывают на риски кибератак, связывая иностранные устройства с инцидентами, затронувшими инфраструктуру связи, энергетики и транспорта. При этом эксперты отмечают, что уязвимости нередко связаны не с происхождением устройств, а с отсутствием обновлений безопасности. В частности, ранее атакам подвергались маршрутизаторы американских компаний, снятые с поддержки производителями. Это ставит под сомнение эффективность мер, основанных исключительно на переносе производства.

🔹Дополнительную обеспокоенность вызывает тот факт, что ограничения распространяются прежде всего на устройства для домашнего использования. Таким образом, речь идёт не обо всём сетевом оборудовании, а о сегменте, предназначенном для самостоятельной установки пользователями. Представители отрасли указывают, что практически все эти устройства выпускаются за пределами США, включая продукцию американских брендов. В результате новые меры могут затронуть всю индустрию потребительских маршрутизаторов и привести к сокращению предложения на рынке.

#США #устройства

📣Подписаться на Ихние технологии

Перевели Reuters: Суд в США обязал Meta* выплатить $375 млн по делу о защите детей. 1 часть

🔹Суд присяжных в штате Нью-Мексико признал Meta* Platforms виновной в нарушении закона о защите прав потребителей по иску генпрокурора штата. Компанию обвинили во введении пользователей в заблуждение относительно безопасности платформ Facebook**, Instagram** и WhatsApp**, а также в содействии эксплуатации несовершеннолетних. Присяжные назначили ИТ-гиганту штраф в размере $375 млн, установив десятки тысяч нарушений. Это первый подобный вердикт против Meta* на фоне роста числа исков, связанных с влиянием соцсетей на молодежь.

🔹В компании заявили о несогласии с решением и намерении его обжаловать, подчеркнув усилия по борьбе с опасным контентом. Власти штата, напротив, назвали вердикт «исторической победой» и сигналом для технологических гигантов. Генпрокурор Рауль Торрес указал, что безопасность детей должна быть приоритетом, а не прибыль. При этом ранее штат требовал взыскать с компании более $2 млрд.

* Компания признана экстремистской и запрещена в РФ

** Компания-владелец Meta признана экстремистской и запрещена в РФ

#США #суд #соцсети

📣Подписаться на Ихние технологии

Перевели Reuters: Суд в США обязал Meta* выплатить $375 млн по делу о защите детей. 2 часть

🔹По версии обвинения, Meta* на протяжении лет допускала доступ злоумышленников к несовершеннолетним и не обеспечила достаточный уровень защиты пользователей. В рамках расследования были созданы фальшивые аккаунты подростков, которым сразу стал попадаться опасный контент и сообщения от взрослых.

🔹Власти утверждают, что компания знала о рисках, но не внедрила базовые меры, например, эффективную проверку возраста. Также указывается на использование функций, усиливающих зависимость, таких как бесконечная лента и автоплей.

* Компания признана экстремистской и запрещена в РФ

#США #суд #соцсети

📣Подписаться на Ихние технологии

Перевели Variety: Девушка отсудила $6 млн у Meta* и Google по делу о зависимости. 1 часть

🔹Суд присяжных обязал Meta* и Google выплатить $6 млн 20-летней девушке, заявившей о формировании зависимости от соцсетей в детстве. Решение включает компенсационные и штрафные выплаты, при этом 70% суммы возложены на Meta*. Эксперты рассматривают процесс как прецедент, который может повлиять на тысячи аналогичных дел.

🔹История вызвала широкий резонанс, в том числе из-за крупной компенсации, полученной девушкой. Критики считают, что подобные решения могут стимулировать новые иски с расчетом на финансовую выгоду. При этом сам факт признания ответственности усиливает давление на технологические компании.

* Компания признана экстремистской и запрещена в РФ

#США #суд #соцсети #зависимость

📣Подписаться на Ихние технологии

Перевели Variety: Девушка отсудила $6 млн у Meta* и Google по делу о зависимости. 2 часть

🔹Девушка заявила, что начала пользоваться платформами в раннем возрасте и проводила там почти все свободное время. По ее словам, это привело к тревожности, депрессии и проблемам с восприятием собственного тела. Представители обвинения подчеркнули, что ключевую роль сыграли механики вовлечения, например, бесконечная прокрутка ленты.

🔹В Meta* заявили о несогласии с вердиктом и намерении обжаловать решение. Глава компании Марк Цукерберг и руководитель Instagram** Адам Моссери в суде отвергли утверждения о формировании зависимости. Тем не менее дискуссия о небезопасности социальных сетей и их влиянии на подростков продолжается.

* Компания признана экстремистской и запрещена в РФ

** Компания-владелец Meta признана экстремистской и запрещена в РФ

#США #суд #соцсети #зависимость

📣Подписаться на Ихние технологии

Перевели NYP: OpenAI отказалась от «взрослого режима» и пересматривает спорные разработки на фоне рисков. 1 часть

🔹Компания OpenAI приняла решение отложить запуск эротического чат-бота с «режимом для взрослых» на неопределённый срок. Поводом стали опасения инвесторов и консультантов относительно возможного доступа несовершеннолетних к откровенному контенту. Руководство также указало на отсутствие достаточных научных данных о долгосрочном влиянии подобных технологий.

🔹Как сообщает Financial Times, вместо запуска продукта компания сосредоточится на изучении его потенциального воздействия на психику пользователей. Исследование Стэнфордского университета выявило риски формирования бредовых идей и эмоциональной зависимости при взаимодействии с ИИ. Эксперты также зафиксировали склонность чат-ботов к чрезмерному одобрению и даже поощрению опасных мыслей.

#ИИ #OpenAI

📣Подписаться на Ихние технологии