За вами опять следят

Мы уже не раз поднимали тему цифрового следа (как тут, так и в нашем чате), который мы оставляем, когда пользуемся смартфоном или компьютером. Стереть след полностью не получится, зато можно и нужно понимать, какие данные мы ежедневно и бесплатно предоставляем корпорациям, и что с этим можно сделать.

Погнали смотреть на примере самых популярных приложений на вашем смартфоне.

1. Т-банк (и другие банковские приложения)
Лидер по части сбора информации. У приложения 47 разрешений, 24 из них выдаются без запроса: автозапуск, фоновая камера, микрофон, геолокация и др. А также банк отправляет ваш VPN-статус на сервер, снимает цифровой отпечаток устройства и фиксирует каждое касание экрана.

2. Авито (он же Anero)
Сканирует ваш смартфон на наличие 200 приложений из собственного внутреннего списка (банки, маркетплейсы, соцсети, конкуренты). Помимо этого приложение содержит внутри 11 трекеров (включая Facebook* SDK, AppMetrica, VK SDK и Adjust), определяет VPN и способно вытащить реальный IP через WebRTC.

3. Госуслуги
Содержит внутри 8 трекеров, перехватывает касания экрана, а с апреля этого года активно ищет на смартфоне все VPN-сервисы.

4. Ozon/WB
Пока ты выбираешь себе кроссовки, маркетплейсы получают полный список всех установленных VPN-клиентов (прямо с названиями). А после утверждают, что не будут работать с включенным VPN.

5. МегаМаркет
Агрессивно шарится на Android-устройствах: через SDK Group-IB (прикол?) собирает контакты, SMS и журнал звонков. На iOS ведет себя спокойнее из-за политики безопасности Apple. Видит список VPN-сервисов и их названия.

6. Сбербанк Онлайн
Заботится о нас и сохраняет все данные касаний: нажатие, размер, координаты, длительность. Так приложение может узнать вас даже без логина (поведенческая биометрия). Просит доступ ко всему хранилищу, а потом втихую устанавливает свои пакеты (особенно, на Android).

7. Приложения от Яндекс
Яндекс Go регулярно ползает в буфер обмена, может получить доступ к контактам, а на Android – к журналу звонков и SMS. Имеет 6 встроенных трекеров (у AppMetrica 5759 ссылок вшиты прямо в код).
Яндекс Браузер зачем-то ищет на каждом смартфоне Tor. А Яндекс Карты знают вашу геолокацию, даже когда приложение свернуто. Кроме того, карты содержат 7 трекеров, рекламную атрибуцию и разные механизмы VPN-детекции.

8. MAX
Всеми любимый мессенджер анализирует аудиозвонки на ключевые слова, отправляет телеметрию (когда был звонок, сколько длился, были ли ключевые слова) на серверы VK/OK и умеет маскироваться при поиске VPN-клиентов на смартфоне. К счастью, хотя бы передача самих аудио в трафике пока не подтверждалась.

В целом, почти все приложения через встроенные SDK (AppMetrica Яндекса или MyTracker от VK) собирают ваши данные для аналитики и рекламы. Ну или не только для рекламы: в исследовании от RKS Global было указано, что данные таких SDK доступны по запросу правоохранительных органов.

А в апреле этого года Минцифры поручило крупнейшим площадкам ограничить доступ пользователям с включенным VPN. Да и для банков детекция VPN, рута и поведенческая биометрия – стандартный антифрод, который защищает ваш счет от угона. Вопрос лишь в том, сколько из собираемой информации действительно необходимо для работы приложения, а где очередной маркетплейс уже начинает наглеть.

Как можно себя обезопасить:

• Отзовите лишние разрешения (геолокация – только навигаторам и «при использовании», контакты – только мессенджерам, журнал звонков – никому, микрофон и камера – по запросу);
• Ограничьте фоновую работу приложений в настройках;
• Включите DNS-фильтрацию (AdGuard или NextDNS);
• Следите за буфером обмена (не копируйте пароли и номера карт перед запуском приложений);
• Удаляйте приложения, которыми не пользуетесь;
• Регулярно проверяйте настройки конфиденциальности (кто и когда обращался к геолокации, камере и микрофону);
• Ну или крайность – два телефона (один для отслеживающих приложений, второй для всего остального).

* организация, деятельность которой запрещена на территории Российской Федерации

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Новости ИИ: человечеству осталось 10 лет

Вы наверняка уже видели статьи и мемы на тему того, что из-за неконтролируемого развития ИИ нам всем скоро грозит апокалипсис. Тема актуальная, поэтому разберемся, с чего началась шумиха.

Курок общественной паники спустил Джейкоб Коксон, 27-летний исследователь, который публично уволился из Anthropic (создатели Claude). В начале сентября он опубликовал в запрещенную сеть Х серию тревожных постов о том, что ИИ может уничтожить человечество к концу десятилетия. И главный посыл в том, что руководство компаний уже давно в курсе, но ничего с этим не делает.

Сам Коксон три года занимался предобучением моделей: сначала в OpenAI, где участвовал в работе над GPT-4o, затем в Anthropic. По его словам, ни одна из компаний не действует ответственно: обе стремятся создать самоулучшающийся сверхинтеллект, но никто не знает, как его потом контролировать.

Его поддержали еще два сотрудника Anthropic. Эван Хубингер (руководитель отдела согласования) оценил вероятность гибели человечества из-за ИИ в ближайшие десять лет свыше 10%, а также признал – плана, как этого избежать, у компании пока нет. Сэмюэл Маркс (руководитель «масштабируемого надзора») подтвердил опасения и добавил от себя: да, все в курсе, и чем выше должность сотрудника, тем сильнее он обеспокоен. Однако, компании продолжают развивать свои модели ради прибыли и из уверенности, что они-то уж более ответственно подходят к вопросу, чем конкуренты.

Фон у новостей тоже был тревожный. За пару дней до событий главный научный сотрудник OpenAI Якуб Пачоцки опубликовал эссе, где призывал людей к «крайней осторожности» и возможному замедлению развития языковых моделей. Сама компания OpenAI уже признала несколько инцидентов, когда ее ИИ-агенты нарушали инструкции и выходили за ограничения во время атак (как, например, случай с Hugging Face).

В итоге, что мы имеем на данный момент – несколько инсайдеров компаний открыто говорят о рисках и опасениях слишком быстрого развития своих ИИ-моделей. Сами компании дают весьма размытые комментарии, а заголовки в сми превращают историю в сюжет про грядущее восстание машин.

А теперь обсудим масштаб возможной катастрофы. На самом деле, речь не идет про Скайнет (надеюсь). Главная угроза в том, что системы слишком быстро становятся умнее и оперативнее человека, а их цели могут немного не совпадать с нашими. Модели умеют взламывать, зарабатывать и накапливать ресурсы, а также скрывать ошибки и запрашивать слишком много полномочий. И человек теряет контроль не в результате бунта машины, а потому что просто перестает понимать, что происходит, и не успевает на это реагировать.

Пример для наглядности: вы просите ИИ-агента любой ценой увеличить прибыль компании, а он начинает обманывать клиентов или скрывать убытки от начальства – ведь формально цель выполнена, просто искусственный интеллект понял задачу по-своему. А теперь представим себе подобное «допущение» в масштабах банковской, медицинской, экономической или военной сферы. Отсюда и угроза возможной катастрофы.

Так что же нас ждет? Конкретный сценарий предугадать невозможно, а как к этому относиться – каждый решает сам. Тема в принципе не новая, еще в 2023 году заявление о «риске вымирания от ИИ» подписали ключевые фигуры индустрии (в том числе, главы компаний и ученые). На тот момент глава Anthropic Дарио Амодей оценивал вероятность катастрофы примерно в 10-25%. То есть, возможность потенциальной угрозы – это не паранойя отдельного человека, а серьезный вопрос, который уже несколько лет находится в фокусе внимания. Просто массово его начали освещать только сейчас.

Но и поддаваться панике не стоит, все даты и прогнозы – это лишь текущая оценка вероятности возможных событий. Пока что восстание машин нам не грозит (правда ведь?). Нынешние модели такой опасности не представляют, а механизм системы, которая самостоятельно приобретает власть и ресурсы, еще никто не показал. Однако, в погоне за прогрессом стоит хорошо подумать и вероятных последствиях.

Такие дела. А вы что скажете?

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT