Перевели Reuters: Google приостановила генерацию ИИ-изображений в Google Earth после нарушений правил. 1 часть

🔹Компания Google приостановила работу функции генерации изображений с помощью искусственного интеллекта в Google Earth спустя день после ее запуска. Решение приняли после того, как пользователи начали публиковать сгенерированные изображения, которые, по данным компании, могли нарушать действующие правила.

🔹Инструмент на базе модели Nano Banana 2 позволял создавать фотореалистичные изображения по текстовому запросу, используя спутниковые снимки, аэрофотосъемку и трехмерные данные Google Earth. При этом в Google отметили, что изображения не отображались в основном интерфейсе сервиса и были помечены как созданные с помощью искусственного интеллекта.

#ИИ #Google #кибербезопасность

📣Подписаться на Ихние технологии

Перевели Reuters: Google приостановила генерацию ИИ-изображений в Google Earth после нарушений правил. 2 часть

🔹Новая функция подверглась критике из-за возможности создавать вымышленные сцены на основе реальных изображений памятников, достопримечательностей и других объектов. В компании заявили, что пока работают над более надежными механизмами защиты и поэтому временно отключили возможность генерации изображений.

🔹Google не уточнила, какие именно изображения нарушали правила сервиса. При этом ситуация стала очередным примером того, как крупным технологическим компаниям приходится ограничивать или отключать ИИ-функции из-за злоупотреблений пользователей, рисков распространения дезинформации и вопросов соблюдения внутренних политик.

#ИИ #Google #кибербезопасность

📣Подписаться на Ихние технологии

Перевели Reuters: Белый дом обсудит с крупнейшими ИИ-компаниями тестирование безопасности моделей. 1 часть

🔹Администрация президента США Дональда Трампа проведет встречу с представителями Meta*, Anthropic, OpenAI и Google, чтобы обсудить добровольные государственные тесты безопасности для наиболее продвинутых американских моделей искусственного интеллекта. Испытания направлены на оценку способности ИИ проводить кибератаки.

🔹В Белом доме сообщили, что параметры тестирования уже подготовлены, однако детали, включая критерии оценки, порядок публикации результатов и степень их открытости, пока не раскрываются. По данным СМИ, в обсуждении примут участие крупнейшие разработчики искусственного интеллекта.

* Компания признана экстремистской и запрещена в РФ

#ИИ #кибербезопасность #США

📣Подписаться на Ихние технологии

Перевели Reuters: Белый дом обсудит с крупнейшими ИИ-компаниями тестирование безопасности моделей. 2 часть

🔹Поводом для обсуждения стали недавние сообщения Anthropic и OpenAI о том, что их системы искусственного интеллекта в ходе испытаний смогли проникнуть в инфраструктуру других компаний. Эти заявления вызвали обеспокоенность американских законодателей возможным использованием все более мощных ИИ-моделей для проведения или содействия кибератакам.

🔹После раскрытия информации генеральные прокуроры 15 штатов США потребовали от OpenAI сохранить документы, связанные с инцидентом, а комитет по кибербезопасности Палаты представителей запросил брифинг у главы компании Сэма Альтмана. При этом OpenAI заявила, что после завершения проверки опубликует технический отчет, а Anthropic ранее сообщила об аналогичных результатах испытаний своих моделей.

#ИИ #кибербезопасность #США

📣Подписаться на Ихние технологии

Перевели Wired: Белый дом засекретил систему оценки кибербезопасности ИИ. 1 часть

🔹Администрация президента США Дональда Трампа завершила разработку системы оценки киберрисков, связанных с наиболее мощными моделями искусственного интеллекта. Компании смогут добровольно передавать новые модели на проверку федеральным властям за 30 дней до их публичного выпуска.

🔹Проверка будет проводиться по закрытым критериям, после чего модели передадут федеральным ведомствам и доверенным корпоративным партнерам. При этом Белый дом не раскрывает, какие именно модели попадут под действие новой системы, что вызывает критику со стороны стартапов и независимых экспертов, считающих такой подход преимуществом для крупнейших разработчиков.

#ИИ #кибербезопасность #США

📣Подписаться на Ихние технологии

Перевели Wired: Белый дом засекретил систему оценки кибербезопасности ИИ. 2 часть

🔹Новая система стала продолжением курса администрации Трампа на снижение киберрисков, связанных с развитием искусственного интеллекта. Поводом для усиления контроля стали недавние случаи, когда модели OpenAI и Anthropic во время внутренних испытаний смогли обойти защитные механизмы и получить несанкционированный доступ к сторонним сервисам.

🔹В то же время представители технологической отрасли призывают сделать требования к безопасности более открытыми и прозрачными. На этом фоне Nvidia вместе с более чем 80 компаниями запустила проект SAFE для конфиденциального обмена информацией об инцидентах, связанных с искусственным интеллектом, и выработки рекомендаций по снижению системных рисков.

#ИИ #кибербезопасность #США

📣Подписаться на Ихние технологии

Перевели Reuters: ИИ-модель Meta* взломала другую компанию во время тестирования. 1 часть

🔹Meta* сообщила, что одна из ее моделей искусственного интеллекта во время тестирования в области кибербезопасности получила доступ к интернету из-за ошибки конфигурации. Инцидент произошел в ходе проверки, которую для компании проводила независимая организация Irregular.

🔹По данным ИТ-гиганта, модель воспользовалась уязвимостью в стороннем сервисе по аналогии с ранее зафиксированными случаями у других компаний. Как сообщило издание The Information, речь идет о модели Muse Spark 1.1, которая проникла в системы неназванной компании и изменила ее внутреннюю среду.

* Компания признана экстремистской и запрещена в РФ

#ИИ #Meta*

📣Подписаться на Ихние технологии

Перевели Reuters: ИИ-модель Meta* взломала другую компанию во время тестирования. 2 часть

🔹Серия подобных инцидентов, включая случаи с Anthropic и OpenAI, усилила опасения относительно возможного использования все более мощных ИИ-моделей для проведения или содействия кибератакам. В Meta* и Irregular заявили, что произошедшее связано с особенностями среды тестирования, а не со сложной кибератакой или выходом модели за пределы изолированной среды.

🔹На этом фоне Белый дом провел встречу с представителями Meta*, Anthropic, OpenAI и Google для обсуждения новой добровольной системы тестирования передовых моделей ИИ на устойчивость к киберугрозам.

* Компания признана экстремистской и запрещена в РФ

#ИИ #Meta*

📣Подписаться на Ихние технологии

Перевели Wired: Китайская ИИ-модель Kimi K3 вышла в интернет во время тестов безопасности. 1 часть

🔹Американская компания Frontier Security сообщила, что китайская ИИ-модель Kimi K3 во время тестирования смогла выйти за пределы изолированной среды и получить доступ к открытому интернету. По данным исследователей, это стало возможным из-за ошибки в настройке «песочницы», а также из-за недостаточно строгих встроенных ограничений самой модели.

🔹Разработчики отмечают, что Kimi K3 не совершала кибератак после выхода в сеть, а лишь нашла ответы на поставленные задачи на GitHub. В компании Moonshot AI к моменту публикации материала ситуацию не прокомментировали.

#ИИ #кибербезопасность

📣Подписаться на Ихние технологии

Перевели Wired: Китайская ИИ-модель Kimi K3 вышла в интернет во время тестов безопасности. 2 часть

🔹Инцидент пополнил серию случаев, когда современные ИИ-модели во время испытаний выходили за пределы заданной среды и предпринимали действия, не предусмотренные инструкциями. Ранее о похожих эпизодах сообщали OpenAI, Anthropic и Институт безопасности ИИ Великобритании.

🔹Специалисты считают, что эти случаи показывают необходимость особенно тщательно настраивать среду, в которой работают передовые ИИ-модели. По их мнению, при недостаточно жестких ограничениях системы способны самостоятельно искать способы достижения поставленной цели.

#ИИ #кибербезопасность

📣Подписаться на Ихние технологии

Перевели Guardian: В Великобритании выросло число сообщений о дипфейках с изображениями детей. 1 часть

🔹Британские дети стали чаще сообщать о создании откровенных изображений с их внешностью с помощью цифровых технологий, в том числе искусственного интеллекта. Сервис Report Remove за первые шесть месяцев 2026 года получил 420 таких сообщений, тогда как за весь 2025 год их было 397. В IWF отметили, что большинство сообщений о манипуляциях с изображениями в 2025 и 2026 годах соответствовали критериям материалов с сексуальным насилием над детьми.

🔹Технический директор IWF Дэн Секстон заявил, что развитие доступных инструментов ИИ усложняет предотвращение подобных манипуляций. По его словам, злоумышленники могут взять обычную фотографию ребёнка из интернета и использовать её для создания откровенного материала. В Report Remove из-за роста числа обращений добавили в форму специальную отметку для случаев с дипфейками.

#ИИ #кибербезопасность #соцсети #дети

📣Подписаться на Ихние технологии

Перевели Guardian: В Великобритании выросло число сообщений о дипфейках с изображениями детей. 2 часть

🔹Эксперт NSPCC Рани Говендер призвала технологические компании внедрять более эффективные меры защиты в продукты на основе ИИ. По её словам, рост числа обращений детей из-за поддельных или созданных ИИ сексуальных изображений вызывает тревогу. Секстон также сообщил, что некоторые пострадавшие становились жертвами сексуального шантажа, когда злоумышленники требовали деньги или новые откровенные изображения.

🔹Report Remove позволяет детям анонимно сообщать об интимных изображениях или видео с ними, после чего сервис создаёт цифровой отпечаток файла и передаёт его технологическим платформам для удаления или блокировки. В прошлом месяце National Crime Agency и IWF рекомендовали родителям не размещать фотографии детей в открытом доступе и использовать закрытые аккаунты или группы для близких друзей. Школам также рекомендовали удалять с сайтов и страниц в социальных сетях фотографии лиц учащихся, по которым можно установить их личность.

#ИИ #кибербезопасность #соцсети #дети

📣Подписаться на Ихние технологии

Перевели Reuters: Соцсетям придется отвечать по тысячам исков о зависимости детей. Часть 1

В США крупные технологические компании не смогли остановить масштабное судебное разбирательство о влиянии соцсетей на детей.

🔹Апелляционный суд разрешил продолжить более 3 000 федеральных исков против Meta*, TikTok, YouTube и Snapchat

🔹Истцы утверждают, что компании намеренно создавали функции, способные вызывать зависимость у молодых пользователей

🔹Среди возможных последствий такой зависимости называются депрессия, тревожность и проблемы с восприятием собственного тела

🔹Meta* и TikTok пытались добиться прекращения разбирательства, ссылаясь на американский закон Section 230, защищающий интернет-платформы от части претензий к пользовательскому контенту

🔹Суд решил, что эта защита не дает компаниям иммунитета от самого судебного разбирательства

#США #соцсети #технологии

📣Подписаться на Ихние технологии

*Компания-владелец Meta признана экстремистской и запрещена в РФ

Перевели Reuters: Соцсетям придется отвечать по тысячам исков о зависимости детей. Часть 2

Решение может стать важным для всей технологической индустрии, поскольку претензии касаются не только контента пользователей, но и устройства самих платформ.

🔹Иски подали частные лица, американские штаты, муниципалитеты и школьные округа

🔹Отдельно суд отказался откладывать процесс против Meta*, который инициировали генеральные прокуроры 29 штатов

🔹Они обвиняют компанию в создании вызывающих зависимость функций и незаконном сборе и использовании данных детей

🔹Кроме федеральных дел, технологические компании сталкиваются примерно с 3 300 похожими исками, объединенными в отдельное разбирательство в Калифорнии

🔹Meta* и Google ранее отвергали подобные обвинения и заявляли о намерении обжаловать судебные решения

#США #соцсети #технологии

📣Подписаться на Ихние технологии

*Компания-владелец Meta признана экстремистской и запрещена в РФ

Перевели Reuters: Apple создала отдельную ИИ-модель для Китая. Часть 1

Apple готовится запустить ИИ-функции в Китае, но работать они будут иначе, чем в других странах.

🔹Apple обучила собственную языковую модель специально для китайского рынка

🔹В разработке компании помогает китайский технологический гигант Alibaba

🔹Ранее Apple планировала сильнее полагаться на модели местных партнеров, но теперь развивает и собственную технологию

🔹Apple Intelligence должна появиться на китайских устройствах компании после обновления iOS

#Китай #Apple #ИИ

📣Подписаться на Ихние технологии

Перевели Reuters: Apple создала отдельную ИИ-модель для Китая. Часть 2

Отдельная версия ИИ нужна Apple в том числе из-за требований китайских регуляторов.

🔹ChatGPT и Claude, доступные Apple на других рынках, официально не работают в Китае

🔹В китайскую версию Apple Intelligence планируется интегрировать модель Qwen от Alibaba

🔹Китайские регуляторы уже зарегистрировали сервис генеративного ИИ Apple

🔹Запуск ИИ может помочь Apple конкурировать с Huawei и другими местными производителями смартфонов

#Китай #Apple #ИИ

📣Подписаться на Ихние технологии

Перевели Reuters: Французский суд заблокировал запрет соцсетей для детей младше 15 лет. 1 часть

🔹Конституционный совет Франции заблокировал законопроект, запрещавший детям младше 15 лет создавать аккаунты в социальных сетях с 1 сентября. Уже существующие аккаунты предполагалось закрывать в течение четырех месяцев, а платформы должны были использовать одобренную регулятором систему подтверждения возраста. Суд пришел к выводу, что документ недостаточно четко определяет условия предоставления подтверждения возраста и нарушает свободу выражения мнения и право на частную жизнь.

🔹Законопроект был одобрен французскими законодателями в июле, после чего Франция стала первой европейской страной, решившей последовать примеру Австралии. В декабре там вступил в силу первый в мире запрет на доступ к ряду социальных платформ для пользователей младше 16 лет. Подобные меры также рассматривают или вводят другие страны, а Евросоюз заявил о планах усилить защиту детей от вредных функций социальных сетей.

#кибербезопасность #дети #Франция

📣Подписаться на Ихние технологии

Перевели Reuters: Французский суд заблокировал запрет соцсетей для детей младше 15 лет. 2 часть

🔹Президент Франции Эммануэль Макрон поручил премьер-министру Себастьену Лекорню переработать законопроект с учетом замечаний Конституционного совета. Ранее в апреле Макрон призвал подростков отключать устройства и читать, чтобы становиться более ответственными гражданами. Социальные платформы в целом выступают против полного запрета, указывая на уже действующие меры защиты несовершеннолетних, включая возрастные ограничения.

🔹В Елисейском дворце заявили, что Макрон намерен добиться вступления реформы в силу до весны 2027 года. На этот период во Франции запланированы президентские выборы, при этом Макрон не сможет баллотироваться на третий срок. Таким образом, решение Конституционного совета не отменяет планы властей по ограничению доступа детей к социальным сетям, а лишь требует переработки законопроекта.

#кибербезопасность #дети #Франция

📣Подписаться на Ихние технологии

Перевели Euronews: ИИ-слоп может вызывать снижение когнитивных способностей и склонность к насилию у детей. 1 часть

🔹Исследование Global Network on Extremism and Technology показало, что массово создаваемый с помощью ИИ низкокачественный контент может негативно влиять на детей. Особое внимание авторы уделили анимационным видео с фруктами и овощами, которые широко распространяются в детских лентах.

🔹Контент часто строится на быстрых, повторяющихся и бессмысленных сюжетах, стимулирующих бесконечный просмотр. Исследователи связывают чрезмерное потребление подобных материалов с явлением «брейнрот», которое может сопровождаться снижением когнитивных способностей.

#дети #ИИ

📣Подписаться на Ихние технологии

Перевели Euronews: ИИ-слоп может вызывать снижение когнитивных способностей и склонность к насилию у детей. 2 часть

🔹Анимационные ролики с фруктами могут содержать сцены агрессии, пыток, убийств и другого жестокого насилия. По данным исследования, знакомые персонажи и популярные интернет-тренды могут использоваться для маскировки экстремистского контента и распространения радикальных идей.

🔹В отдельных видео встречаются сюжеты, перекликающиеся с пропагандой террористических и экстремистских организаций. Авторы исследования отмечают, что существующие правила платформ не всегда позволяют выявлять такой контент, поскольку он может выглядеть как безобидная анимация.

#дети #ИИ

📣Подписаться на Ихние технологии

Перевели CNBC: ИИ-агенты становятся новым инструментом для кибератак. 1 часть

🔹Серия недавних инцидентов показала, что передовые ИИ-модели способны выходить за пределы тестовых сред и получать доступ к системам других компаний. OpenAI и Anthropic сообщили о случаях, когда их модели взламывали сторонние системы, а Meta* заявила об аналогичном инциденте во время оценки кибербезопасности.

🔹Развитие агентного ИИ ускоряет кибергонку, поскольку те же возможности, которые позволяют моделям находить уязвимости, могут использоваться для их эксплуатации. По оценке экспертов, ИИ также делает фишинговые атаки значительно эффективнее, что повышает риски для компаний и организаций.

* Компания признана экстремистской и запрещена в РФ

#кибербезопасность #ИИ

📣Подписаться на Ихние технологии