Ихние технологии
1K subscribers
592 photos
277 videos
867 links
Главное о событиях в IT-мире

Бот для обратной связи — t.me/IT_ru_bot
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
У OpenAI новый уровень прозрачности: компания рассказала еще о шести случаях, когда ее модели решили выполнить задачу немного по-своему 😅

🔺 Например, одна модель прятала свои ошибки и предлагала в следующих шагах просто не рассказывать о них пользователю. Другая нашла в интернете чужой API-ключ, воспользовалась им без разрешения, а когда нужные данные все равно не получила — просто придумала цифры. Еще в одном случае ИИ сам загрузил файл в интернет только потому, что ему нужно было дать на него ссылку.

🔺 Были и модели, которые нашли способы обмениваться файлами и сообщениями через каналы, которые для этого вообще не предназначались. То есть логика примерно такая: «Мне поставили задачу. Нормальный путь не работает. Значит, найдем ненормальный». От ИИ это звучит почему-то немного тревожнее.

🔺 Теперь OpenAI вводит отдельную систему: такие случаи будут фиксировать, расследовать и публиковать, даже если пока непонятно, насколько они серьезны.

Чем самостоятельнее становятся ИИ-агенты, тем актуальнее вопрос, а «что они сделают, если привычный способ выполнить задачу не сработал». Вот и thinking.

Подробнее можно прочитать по ссылке
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Умные очки постепенно превращаются в проблему с приватностью 😎

🇫🇷 Во Франции прокуратура открыла расследование после жалоб на людей, которые снимали женщин на улице через умные очки без их согласия, а потом выкладывали видео в соцсети. Камера в таких очках маленькая, запись идёт почти незаметно, и понять, что тебя снимают, не всегда просто.

🗣 При этом проблема уже стала шире. Французский регулятор получает жалобы на использование таких очков на работе, компании спрашивают, можно ли вообще запрещать их в офисах, а в других странах начинают вводить ограничения. И да, у очков есть индикатор записи — но, как справедливо заметили во Франции, мигающая лампочка ещё не означает, что человек согласился попасть в видео.

Получается такая история: сначала технология становится массовой, а потом все начинают думать, какие для неё вообще нужны правила. А ты уже и не знаешь, что оказался чьим-то контентом.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Anthropic призывает притормозить гонку ИИ, но готовит новую модель 🤔

Глава Anthropic Дарио Амодеи 12 сентября написал большое эссе о том, что индустрии пора замедлить развитие ИИ. По его мнению, чем мощнее становятся модели, тем выше риск, что ИИ-агенты начнут действовать в интернете быстрее, чем люди смогут их контролировать. С позицией Амодеи публично согласились Сэм Альтман и Илон Маск.

На следующий день стало известно, что сама Anthropic рассматривает выпуск новой модели. Причина вполне практичная. GPT-6 Astra быстро набирает популярность у бизнеса и начинает теснить Anthropic на корпоративном рынке. По данным Ramp, на Astra приходится около 13% расходов компаний на ИИ против примерно 8% у Claude Fable от Anthropic. На OpenRouter пользователи впервые более чем за два с половиной года потратили за неделю больше на модели OpenAI, чем на Anthropic.

Теперь Anthropic приходится одновременно думать о безопасности новой модели, конкуренции и будущей прибыли. Особенно накануне возможного IPO. Получается любопытная ситуация. Компания призывает индустрию снизить темп развития ИИ, но сама может выпустить новую модель, чтобы не отдать рынок конкуренту. На этом фоне давление усиливают и открытые модели, которые позволяют бизнесу дешевле создавать собственные ИИ-системы и меньше зависеть от Anthropic и OpenAI.

Это другое 😏
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1😱1
Google оштрафовали на €403 млн за геолокацию

Google получила штраф в €403 млн от ирландского регулятора за то, как компания собирала и использовала данные о местоположении пользователей. Проверка охватила 2018–2020 годы. Регулятор решил, что Google нарушила европейские правила в трех функциях, связанных с геолокацией (Web & App Activity, Location History и Location Accuracy).

Претензия довольно простая, пользователь мог даже не понимать, что его местоположение используется не только для работы сервисов, но и, например, для рекламы и определения его интересов. То есть компания получает довольно подробную картину того, где пользователь бывает и что ему потенциально интересно без его согласия. Расследование началось в 2020 году после жалоб европейских организаций по защите прав потребителей.

Google теперь говорит, что это все старые правила и с 2019 года компания сильно изменила подход к геоданным. Пользователям дали больше настроек, например, автоматическое удаление информации и хранение истории перемещений прямо на устройстве. Регулятор, однако, решил, что одних обновлений недостаточно, и дал Google шесть месяцев на исправление нарушений.
❤1
Британия и США объединят ИИ ради обороны

Премьер-министр Великобритании Энди Бернхэм объявил о новом партнерстве с США в сфере ИИ и обороны. Британская Defence Rapid AI Delivery Taskforce и американское ведомство по цифровым технологиям и ИИ будут вместе разрабатывать технологии для защиты критической инфраструктуры и обнаружения угроз. В планах также использование ИИ для защиты морских путей и воздушного пространства.

На этом фоне возникает довольно забавный контраст. Британия активно продвигает идею безопасного развития ИИ, но теперь собирается применять те же технологии для обороны и сдерживания противников. В стране даже работает AI Security Institute, который тестирует самые мощные модели и оценивает риски их использования. При этом Anthropic отказалась передавать институту свою последнюю модель, что уже вызвало вопросы о том, насколько эффективен британский подход, основанный в основном на сотрудничестве с компаниями.

Бернхэм также планирует призвать другие страны объединяться вокруг ИИ и использовать его для решения глобальных проблем. Следующим годом для этого станет британское председательство в G20. Саммит пройдет в ноябре в Манчестере, где Бернхэм раньше был мэром.

Получается, пока одни обсуждают, как поставить ИИ под контроль, другие уже активно подключают его к обороне
This media is not supported in your browser
VIEW IN TELEGRAM
Meta* снова ищет большую идею

Meta* уже несколько лет пытается придумать, чем заменить Facebook** и Instagram** в качестве главного двигателя компании. Сначала была метавселенная, на которую Reality Labs потратила больше $80 млрд и так и не превратила ее в массовый продукт. Теперь ставка на ИИ и умные очки. Ray-Ban Meta* действительно выстрелили, но сама компания пока сильно отстает от лидеров ИИ, а внутри Meta*, по словам нынешних и бывших сотрудников, царят хаос и постоянные перестройки.

При этом старый бизнес никуда не делся. Реклама приносит Meta* десятки миллиардов долларов, а Instagram** остается одной из главных площадок для брендов и блогеров. Проблема в другом: пользователи все меньше создают контент сами, молодое поколение не слишком хочет сидеть в соцсетях родителей, а Meta* собирается заполнять ленты все большим количеством контента, созданного ИИ. Получается довольно странная схема, компания пытается придумать будущее, одновременно спасая бизнес, который уже начал упираться в потолок.

На этом фоне Цукерберг снова запускает очередную большую ставку. После метавселенной и ИИ-лабораторий появился персональный ИИ-агент Muse.

* Компания признана экстремистской и запрещена в РФ

** Компания-владелец Meta признана экстремистской и запрещена в РФ
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Обновление превратило ИИ-холодильники Samsung в кирпичи

Владельцы почти $4-тысячных холодильников Samsung Bespoke AI 4-Door в Южной Корее внезапно остались без холодильников из-за неудачного обновления прошивки - на экране появилась ошибка, холод перестал вырабатываться. Перезагрузка и отключение от сети не помогли. Особенно неудачно всё совпало с традиционным праздником урожая и поминовения предков Чхусок, из-за чего некоторым владельцам пришлось выбросить продукты, которые они заранее купили к празднику. Ближайший ремонт им предложили только с 1 октября.

Случай хорошо показывает обратную сторону идеи сделать буквально всю бытовую технику умной. Samsung продвигает холодильники с ИИ, которые могут распознавать продукты, рекомендовать рецепты и даже воспроизводить музыку. Теперь к этим функциям добавился новый сценарий, холодильник умеет превращаться в дорогой неработающий ящик после обновления ПО 😍

Проблема не только в Samsung. Производители всё чаще добавляют ИИ и подключение к интернету туда, где раньше десятилетиями хватало электричества и пары кнопок. На рынке уже есть умные зубные щётки, тостеры и дверные звонки с распознаванием лиц.
Please open Telegram to view this post
VIEW IN TELEGRAM
ИИ-компании расследуют десятки тысяч случаев странного поведения моделей

OpenAI, Anthropic и независимые исследователи расследуют десятки тысяч случаев, когда ИИ-модели действовали не так, как от них ожидали. Они обходили защитные ограничения, пытались выбраться из изолированных тестовых сред, создавали форумы, взламывали сайты и искали способы обойти системы мониторинга. Большинство эпизодов пока не привели к реальному ущербу, но их число может оказаться значительно выше.

Проблема в масштабе

Компании проводят сотни тысяч тестов, поэтому даже 1% странного поведения превращается в тысячи инцидентов. Например, Anthropic зафиксировала попытки модели Opus 5.5 выбраться из песочницы в 1,5% тестов. В одном из самых громких случаев агенты OpenAI объединились на форуме и взломали внешнюю компанию во время кибербезопасностного теста.

Пока разработчики пытаются придумать новые ограничения, сами модели становятся всё более самостоятельными и изобретательными. Исследователи предупреждают, что предусмотреть все способы обхода защиты практически невозможно. Как заметил один из экспертов, составить идеальный список того, что ИИ можно и нельзя делать, скорее всего, бессмысленно.

Проблема в том, что люди создают системы, которые всё лучше находят способы делать то, чего люди от них не хотели 👀
❤2😱1
Microsoft назвала ИИ-скрейпинг крупнейшей кражей труда

Microsoft и OpenAI годами убеждали суд, что использование новостей для обучения ИИ может считаться добросовестным использованием контента. Теперь из рассекреченных документов выясняется, что внутри компаний звучали совсем другие оценки 🙂

Директор Microsoft Брент Хехт называл массовый сбор новостей «ошеломляющей кражей беспрецедентного масштаба» и «возможно, крупнейшей кражей труда в истории человечества». В OpenAI тем временем предупреждали, что коммерческие ИИ-продукты создадут для издателей «экзистенциальную угрозу».

Что компании, судя по документам, понимали еще до массового распространения ИИ:

🔹чат-боты могут напрямую заменять переходы на сайты СМИ
🔹пользователю незачем открывать статью, если ответ уже есть в чате
🔹из-за этого издатели теряют трафик и рекламные доходы
🔹ИИ при этом продолжает использовать их материалы для обучения моделей
🔹без новых публикаций у самих ИИ-компаний со временем станет меньше качественного контента для обучения


Масштаб потерь уже виден в цифрах. Microsoft зафиксировала падение кликов по некоторым новостным изданиям на 83–93%, а по другим на 51–94%. Внутри OpenAI это тоже признавали. Руководитель ChatGPT Ник Тёрли называл чат-боты «в основном заменой» новостных сайтов и предполагал, что по мере развития ИИ этот эффект будет усиливаться.

Получается довольно неприятная история. ИИ забирает контент у СМИ, отводит от них аудиторию и сокращает деньги на производство новых материалов. А без новых материалов у самих ИИ-компаний становится меньше качественных данных. Пока индустрия спорит о том, что считать «добросовестным использованием», математика выглядит проще. Кто-то должен платить за контент, иначе однажды обучать ИИ будет уже не на чем 🙈
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Viper из VALORANT стала лицом Balenciaga

Viper из VALORANT стала первым цифровым амбассадором Balenciaga. Коллаборацию приурочили к VALORANT Champions 2026 в Шанхае. Там откроют тематическое кафе, а Balenciaga впервые выпустит игровые очки NEO FOCUS с защитой от синего света.

Выбор Viper особенно хорош, персонаж кидается ядовитым газом, закрывает обзор противникам и вообще делает всё, чтобы никто ничего не видел. Теперь она будет рекламировать очки 🤓

Для мира люксовой моды это ещё один шаг в сторону игровой индустрии. Balenciaga уже сотрудничала с Fortnite, а Louis Vuitton выпускал вещи для League of Legends.

Теперь люксовый бренд назначает игрового персонажа своим цифровым амбассадором
❤1👏1
Китайские ИИ тоже научились хитрить

Китайские ИИ-агенты научились врать, обходить ограничения и скрывать собственные провалы. Звучит тревожно, особенно если забыть, что американские модели делают примерно то же самое.

Reuters изучил более 200 документов и нашёл как минимум 20 исследований с 2025 года, где китайские ИИ демонстрировали подобное поведение.

Что умеют:

🥰врать о своих возможностях ради победы в виртуальном тендере
🥰после повторного запуска эксперимента обманывать ещё чаще
🥰при провале задачи симулировать успешный результат и создавать поддельные файлы
🥰пытаться избежать отключения
🥰самостоятельно создавать копии в другой вычислительной среде
🥰обходить ограничения и находить не предусмотренные разработчиками способы получить доступ к ресурсам


Самое интересное начинается дальше. В тех же экспериментах американские модели показывали аналогичные паттерны, это вполне общая проблема современных агентных систем.

Пока США и Китай соревнуются, чьи модели будут умнее, быстрее и автономнее, сами модели постепенно учатся обходить правила, которые им придумали люди 👀
❤1😱1
Западные техногиганты следят

Apple добавляет в новые Apple Watch функции, которые могут постоянно анализировать происходящее вокруг. Live Rewind расшифровывает последние 15 секунд речи, а Siri Recap собирает краткие итоги разговоров за день. Компания подчёркивает, что аудио не хранится, а устройство предупреждает окружающих звуковым сигналом. Проблема в другом, люди рядом всё равно не давали согласия на то, чтобы их речь анализировало чужое устройство.

Похожий подход активно продвигают и другие американские ИТ-гиганты. Meta* развивает умные очки с камерами, её устройства уже критикуют за возможность незаметно снимать окружающих. Amazon годами развивает умные колонки, которые постоянно находятся в режиме ожидания. Ring превращает дверные камеры в часть масштабной системы наблюдения, а Flock устанавливает камеры на улицах и дорогах. Даже отдельные ИИ-гаджеты вроде Friend строятся вокруг идеи постоянного прослушивания.

Особенно показательно, как компании объясняют эти технологии, достаточно маленького индикатора, сигнала или инструкции «уважать приватность окружающих».

Главный вопрос - сколько ещё технологий должно появиться, прежде чем постоянное наблюдение окончательно станет обычной частью нашей жизни?

* Компания признана экстремистской и запрещена в РФ