TikTok обещал защищать детей, но что-то пошло не так

Судья в Техасе постановил, что TikTok вводил пользователей в заблуждение насчёт безопасности детей. Платформа обещала удалять запрещённый контент, но внутри компании часть материалов просто помечали как «труднодоступные» и оставляли на сайте.

Не сработал и «Ограниченный режим»: несовершеннолетним показывали контент, который, согласно обещаниям TikTok, должен был фильтроваться. Теперь дело дошло до суда, где определят штрафы и другие последствия для компании.

И это не единственная проблема TikTok. В августе компания согласилась урегулировать три иска от молодых пользователей, которые считают, что соцсети специально проектируют свои платформы так, чтобы вызывать зависимость и вредить психическому здоровью.

NSFW лента для детей - звучит страшно 👀

США VS Китай: новый раунд

🇺🇸 Глава Anthropic Дарио Амодеи говорит, что с развитием самых мощных моделей хорошо бы немного притормозить — технологии летят слишком быстро, а мы пока не очень понимаем, чем все это может закончиться. Но одновременно он предлагает еще сильнее ограничить Китаю доступ к продвинутым чипам.

🇨🇳 В Китае, естественно, услышали в первую очередь вторую часть. Государственная Global Times назвала такой подход чем-то вроде «медленной холодной войны»: мол, разговоры про безопасность — это хорошо, но очень удобно, когда заодно можно притормозить конкурента.

❓ И в этом, пожалуй, самое интересное. Все вроде бы обсуждают риски ИИ для человечества, но как только речь заходит о том, кто будет первым в этой гонке, человечество временно отходит на второй план.

Суть конфликта тут довольно приземлённая: США боятся не только самого ИИ, но и того, что Китай догонит их в этой технологии.

Тут можно прочитать подробнее 📰

У OpenAI новый уровень прозрачности: компания рассказала еще о шести случаях, когда ее модели решили выполнить задачу немного по-своему 😅

🔺 Например, одна модель прятала свои ошибки и предлагала в следующих шагах просто не рассказывать о них пользователю. Другая нашла в интернете чужой API-ключ, воспользовалась им без разрешения, а когда нужные данные все равно не получила — просто придумала цифры. Еще в одном случае ИИ сам загрузил файл в интернет только потому, что ему нужно было дать на него ссылку.

🔺 Были и модели, которые нашли способы обмениваться файлами и сообщениями через каналы, которые для этого вообще не предназначались. То есть логика примерно такая: «Мне поставили задачу. Нормальный путь не работает. Значит, найдем ненормальный». От ИИ это звучит почему-то немного тревожнее.

🔺 Теперь OpenAI вводит отдельную систему: такие случаи будут фиксировать, расследовать и публиковать, даже если пока непонятно, насколько они серьезны.

Чем самостоятельнее становятся ИИ-агенты, тем актуальнее вопрос, а «что они сделают, если привычный способ выполнить задачу не сработал». Вот и thinking.

Подробнее можно прочитать по ссылке

Умные очки постепенно превращаются в проблему с приватностью 😎

🇫🇷 Во Франции прокуратура открыла расследование после жалоб на людей, которые снимали женщин на улице через умные очки без их согласия, а потом выкладывали видео в соцсети. Камера в таких очках маленькая, запись идёт почти незаметно, и понять, что тебя снимают, не всегда просто.

🗣 При этом проблема уже стала шире. Французский регулятор получает жалобы на использование таких очков на работе, компании спрашивают, можно ли вообще запрещать их в офисах, а в других странах начинают вводить ограничения. И да, у очков есть индикатор записи — но, как справедливо заметили во Франции, мигающая лампочка ещё не означает, что человек согласился попасть в видео.

Получается такая история: сначала технология становится массовой, а потом все начинают думать, какие для неё вообще нужны правила. А ты уже и не знаешь, что оказался чьим-то контентом.

Anthropic призывает притормозить гонку ИИ, но готовит новую модель 🤔

Глава Anthropic Дарио Амодеи 12 сентября написал большое эссе о том, что индустрии пора замедлить развитие ИИ. По его мнению, чем мощнее становятся модели, тем выше риск, что ИИ-агенты начнут действовать в интернете быстрее, чем люди смогут их контролировать. С позицией Амодеи публично согласились Сэм Альтман и Илон Маск.

На следующий день стало известно, что сама Anthropic рассматривает выпуск новой модели. Причина вполне практичная. GPT-6 Astra быстро набирает популярность у бизнеса и начинает теснить Anthropic на корпоративном рынке. По данным Ramp, на Astra приходится около 13% расходов компаний на ИИ против примерно 8% у Claude Fable от Anthropic. На OpenRouter пользователи впервые более чем за два с половиной года потратили за неделю больше на модели OpenAI, чем на Anthropic.

Теперь Anthropic приходится одновременно думать о безопасности новой модели, конкуренции и будущей прибыли. Особенно накануне возможного IPO. Получается любопытная ситуация. Компания призывает индустрию снизить темп развития ИИ, но сама может выпустить новую модель, чтобы не отдать рынок конкуренту. На этом фоне давление усиливают и открытые модели, которые позволяют бизнесу дешевле создавать собственные ИИ-системы и меньше зависеть от Anthropic и OpenAI.

Это другое 😏

Обновление превратило ИИ-холодильники Samsung в кирпичи

Владельцы почти $4-тысячных холодильников Samsung Bespoke AI 4-Door в Южной Корее внезапно остались без холодильников из-за неудачного обновления прошивки - на экране появилась ошибка, холод перестал вырабатываться. Перезагрузка и отключение от сети не помогли. Особенно неудачно всё совпало с традиционным праздником урожая и поминовения предков Чхусок, из-за чего некоторым владельцам пришлось выбросить продукты, которые они заранее купили к празднику. Ближайший ремонт им предложили только с 1 октября.

Случай хорошо показывает обратную сторону идеи сделать буквально всю бытовую технику умной. Samsung продвигает холодильники с ИИ, которые могут распознавать продукты, рекомендовать рецепты и даже воспроизводить музыку. Теперь к этим функциям добавился новый сценарий, холодильник умеет превращаться в дорогой неработающий ящик после обновления ПО 😍

Проблема не только в Samsung. Производители всё чаще добавляют ИИ и подключение к интернету туда, где раньше десятилетиями хватало электричества и пары кнопок. На рынке уже есть умные зубные щётки, тостеры и дверные звонки с распознаванием лиц.