Перевели AP: Ватикан объявляет ИИ новой промышленной революцией. 2 часть

Самое неожиданное - вместе с папой документ представит Кристофер Ола, сооснователь Anthropic, одного из главных конкурентов OpenAI. Anthropic известна тем, что постоянно предупреждает о рисках ИИ и необходимости жёстких ограничений.

На этом фоне участие компании в презентации Ватикана выглядит как политический сигнал. Особенно потому, что Anthropic сейчас конфликтует с администрацией Трампа из-за отказа предоставить государству полный доступ к своим ИИ-системам.

По данным AP, папа собирается жёстко критиковать:

🔹 автономное оружие,
🔹 слежку,
🔹 ИИ-дезинформацию,
🔹 замену человеческих решений алгоритмами.

#ИИ #соцсети #кибербез

📣Подписаться на Ихние технологии

Перевели Wired: Писателей начали массово подозревать в использовании ИИ. 2 часть

Похоже, литературу ждёт новый виток паранойи.
На одной из крупных международных премий — Commonwealth Short Story Prize — победителей начали обвинять в том, что их рассказы написал искусственный интеллект.

Всё началось после публикации одного из рассказов-победителей. Читатели в соцсетях решили, что текст слишком «идеальный»: гладкий стиль, странные метафоры, одинаковый ритм предложений. Кто-то прогнал рассказ через ИИ-детекторы — сервисы показали, что текст почти полностью создан нейросетью.

После этого под подозрение попали и другие авторы конкурса.

Но проблема в том, что ИИ-детекторы регулярно ошибаются. Они могут назвать «нейросетевым» даже текст живого человека — особенно если автор пишет чисто, структурно или необычным стилем.

Организаторы конкурса в итоге заявили: доказательств использования ИИ нет, а сами авторы подтвердили, что писали рассказы самостоятельно.

#ИИ #авторы #новости

📣Подписаться на Ихние технологии

Перевели Wired: Писателей начали массово подозревать в использовании ИИ. 2 часть

История с литературной премией показала новую проблему эпохи нейросетей: мы постепенно перестаём понимать, где заканчивается человек и начинается машина.

Издательства, журналы и конкурсы сейчас в панике пытаются придумать новые правила: можно ли пользоваться ChatGPT для идей; считается ли редактура через ИИ обманом; как вообще проверять авторство текста.

Некоторые уже предлагают требовать у писателей черновики, историю изменений и даже доказательства процесса работы.

Но есть и обратная сторона.

Если раньше необычный стиль делал автора узнаваемым, то теперь любой «слишком ровный» текст рискует получить ярлык: «это написал ИИ». Под удар могут попасть реальные писатели — особенно те, кто пишет экспериментально, технично или очень чисто.

#ИИ #авторы #новости

📣Подписаться на Ихние технологии

Перевели Reuters: Ofcom заявил о недостаточной защите детей в TikTok и YouTube. 1 часть

🔹Британский медиарегулятор Ofcom заявил, что TikTok и YouTube не предпринимают достаточных мер для защиты детей от вредного контента. По данным ведомства, основным источником распространения опасных материалов среди подростков остаются персонализированные рекомендации. В исследовании Ofcom говорится, что с подобным контентом столкнулись 73% пользователей в возрасте от 11 до 17 лет.

🔹В Ofcom подчеркнули, что TikTok и YouTube считают действующие системы безопасности достаточными, однако регулятор не согласен с этой оценкой. Чаще всего подростки называли TikTok как платформу, где они сталкивались с вредным контентом. Следом в исследовании упоминались YouTube, Instagram* и Snapchat.

* Компания-владелец Meta признана экстремистской и запрещена в РФ

#TikTok #YouTube #Великобритания

📣Подписаться на Ихние технологии

Перевели Reuters: Ofcom заявил о недостаточной защите детей в TikTok и YouTube. 2 часть

🔹Власти Великобритании усиливают давление на технологические компании в вопросах защиты несовершеннолетних пользователей. Правительство обсуждает возможность введения дополнительных ограничений, включая потенциальный запрет на использование социальных сетей подростками младше 16 лет. Инициатива рассматривается по аналогии с мерами, ранее предложенными в Австралии.

🔹После требований Ofcom компании Snap, Meta* и Roblox согласились усилить меры безопасности для детей и подростков. В частности, Snapchat ограничит контакты взрослых пользователей с детьми, а Meta* внедрит новые инструменты контроля подростковых аккаунтов. Регулятор также сообщил, что продолжает проверку социальной сети X и чат-бота Grok после сообщений о возможности генерации сексуализированных изображений.

* Компания признана экстремистской и запрещена в РФ

#TikTok #YouTube #Великобритания

📣Подписаться на Ихние технологии

Перевели NYP: SpaceX предупреждает инвесторов о рисках, связанных с Grok. 1 часть

🔹SpaceX включила в документы для выхода на биржу предупреждение о возможных рисках, связанных с режимами чат-бота Grok «Spicy» и «Unhinged». Эти функции могут генерировать менее сдержанные ответы и потенциально приводить к распространению оскорбительного или дезинформационного контента. В компании считают, что это способно нанести репутационный ущерб и повлиять на финансовые показатели.

🔹В документах отмечается, что режимы могут вызвать усиление регуляторного контроля, судебные иски и негативную реакцию рекламодателей. SpaceX уже зарезервировала значительные средства на возможные судебные потери. Отдельно подчёркивается, что повышенная «резкость» ответов Grok увеличивает риски для компании при публичном размещении акций.

#SpaceX #Grok #IPO

📣Подписаться на Ихние технологии

Перевели NYP: SpaceX предупреждает инвесторов о рисках, связанных с Grok. 2 часть

🔹Разработчик Grok, компания xAI, уже сталкивается с претензиями из-за генерации сексуализированных изображений, включая контент с участием женщин и детей. Сообщается о жалобах на создание и распространение несанкционированных откровенных материалов. Также французские правоохранительные органы начали предварительное расследование, связанное с возможным распространением противоправного контента.

🔹Дополнительное давление на Grok оказывает и реакция крупных технологических платформ вплоть до угрозы удаления приложения из магазинов. На фоне этих проблем SpaceX готовит крупнейшее IPO с оценкой около 1,5 триллиона долларов. При этом компания фиксирует многомиллиардные капитальные расходы и значительные затраты на развитие ракетных и ИИ-проектов.

#SpaceX #Grok #IPO

📣Подписаться на Ихние технологии

Перевели BBC: Google признал проблему манипуляций ИИ-ответами. 1 часть

🔹Расследование BBC показало, что ответы популярных ИИ-чатботов можно легко подделывать с помощью публикаций в интернете. Журналисты выяснили, что ChatGPT, Gemini и AI Overviews от Google распространяли ложную информацию после размещения одного материала в блоге. Эксперты предупредили, что подобные схемы уже используются в темах здоровья, финансов и потребительских услуг.

🔹Специалисты по поисковым системам заявили, что ИИ нередко опирается на данные с одной страницы или публикации в соцсетях. По их словам, это делает чатботы уязвимыми для фейков и скрытой рекламы. Эксперты считают, что пользователи могут принимать ошибочные решения, доверяя таким ответам.

#Google #ИИ #технологии

📣Подписаться на Ихние технологии

Перевели BBC: Google признал проблему манипуляций ИИ-ответами. 2 часть

🔹Google обновил антиспам-политику и официально запретил попытки влиять на ответы ИИ. Компания заявила, что речь идет лишь об уточнении прежних правил, однако эксперты заметили усиление контроля за подозрительными публикациями. В частности, некоторые сайты и компании начали исключать из ИИ-ответов при признаках саморекламы.

🔹При этом специалисты сомневаются, что новые меры смогут полностью остановить манипуляции. По их словам, компании уже переходят к более скрытым способам продвижения через блогеров и видеоплатформы. Эксперты считают, что пользователям следует критически относиться к ответам ИИ и не воспринимать их как гарантированную истину.

#Google #ИИ #технологии

📣Подписаться на Ихние технологии

Перевели FT: СМИ сообщили о массовом снятии защит с ИИ-моделей Meta* и Google. 1 часть

🔹Инструменты для удаления защитных механизмов из ИИ-моделей Meta* и Google позволяют за считаные минуты создавать модифицированные версии без ограничений. Как сообщает Financial Times, системы способны отвечать на запросы о биологическом оружии, вредоносном ПО и других опасных темах. Тесты проводились совместно с группой по безопасности искусственного интеллекта Alice.

🔹Журналисты также смогли снять защиту с модели Llama 3.3 от Meta* с помощью инструмента, размещенного на GitHub. Процедура заняла менее десяти минут и потребовала всего четыре строки кода. После модификации модель начала отвечать на вопросы, которые исходная версия блокировала.

* Компания признана экстремистской и запрещена в РФ

#Google #ИИ

📣Подписаться на Ихние технологии

Перевели FT: СМИ сообщили о массовом снятии защит с ИИ-моделей Meta* и Google. 2 часть

🔹Исследователи считают, что распространение открытых ИИ-моделей усложняет контроль над технологиями со стороны государств и разработчиков. По их словам, модифицированные системы становятся доступны даже пользователям без серьезной технической подготовки. В Anthropic ранее заявляли, что современные ИИ-модели уже способны находить уязвимости в крупнейших операционных системах и браузерах.

🔹В Google признали, что методы обхода ограничений остаются известной проблемой для open-source моделей. В компании подчеркнули, что системы проходят внутренние проверки безопасности перед публикацией. Meta* от комментариев отказалась.

* Компания признана экстремистской и запрещена в РФ

#Google #ИИ

📣Подписаться на Ихние технологии