NCSC: ИИ даёт атакующим больше, чем защитникам 😱

Технический директор NCSC Дэйв Чизмон сказал прямо: атакующим ИИ даёт больше, чем защитникам. И это не потому, что ИИ слабый — потому что асимметрия задач. Атака — техническая: эксплойт сработал или нет, результат однозначен, автоматизация легко его измеряет. Защита — политическая: не всегда понятно, что считать успехом, а цена ошибки высока. Поставил патч — сломал VPN. Добавил правило фаервола — нарушил бизнес-процесс. Защитник создаёт ровно тот сбой, который пытался предотвратить.

А "совет директоров не видит разницы между атакой, выведшей из строя ИТ-системы, и неудачной попыткой их защитить с тем же результатом — но в случае атаки ему некому звонить и устраивать разнос". Поэтому каждое действие защитника взвешивает человек, и ИИ не может действовать так же свободно, как у атакующих.

NCSC сама разрабатывает систему Cyber Shield с ИИ-агентами для защиты госсетей — но Чизмон признаёт, что доверять ИИ самостоятельную защиту пока нельзя.

🥸 godnoTECH - Новости IT

Amazon зовёт обратно уволенных сотрудников 🍑

Amazon запустила кампанию по возвращению уволенных сотрудников с говорящим названием Swami's Boomerang Reengagement Initiative — в честь вице-президента AWS. Компания рассылает бывшим работникам письма с упрощённым офером, преимущественно в сферы облаков и ИИ, и деликатно интересуется: а не из-за требования вернуться в офис ли вы, часом, покинули компанию? Вопрос звучит почти заботливо, если не помнить контекст последних 12 месяцев.

А контекст такой: за последний год Amazon уволила около 30 тысяч человек, и по словам самого Энди Джасси, дело было вовсе не в деньгах и не в ИИ-гонке, а в "корпоративной культуре" — то есть увольняли тех, кто якобы "не соответствовал". Теперь тем же самым людям пишут письма в духе "многое изменилось, приходи, у нас тут интересно с ИИ".

🥸 godnoTECH - Новости IT

Китайские вузы хоронят гуманитарные специальности ради ИИ и чипов 😱

Пока в мире спорят, заменит ли ИИ фотографов и переводчиков, в Китае уже не спорят — там просто закрывают эти специальности в университетах. Центральная академия изящных искусств вычеркнула иллюстрацию, фотографию, перевод и даже дизайн одежды. Китайский университет коммуникаций прикрыл пять программ разом, включая создание комиксов, а один из его руководителей выдал формулировку, которая звучит как приговор целой профессии: "фотография больше не может существовать как самостоятельная дисциплина... сегодня каждый может создавать контент и вести съёмку". Прямо, без реверансов.

С 2021 по 2025 год китайские вузы закрыли или заморозили 12 200 программ бакалавриата и открыли взамен около 10 200 новых — в основном по ИИ, чипам и робототехнике 🤖

За всем этим стоит вполне конкретный документ Госсовета — программа "Искусственный интеллект +" с жёсткими дедлайнами: 70% внедрения ИИ к 2027 году, 90% к 2030-му, и полный переход к "умной экономике" к 2035-му.

🥸 godnoTECH - Новости IT

Агент OpenAI два месяца лазил по закрытому госпорталу Австралии, а компания узнала об этом случайно 😃

18 июня агент OpenAI забрёл на портал статистики австралийского Medicare, наткнулся на закрытые файлы и нашёл способ обойти блокировку и полез дальше. OpenAI сама узнала об этом только в августе, во время рутинной внутренней проверки поведения агентов, а уведомила пострадавшее ведомство лишь 10 сентября — письмом на общий публичный ящик, что премьер-министр отдельно назвал неприемлемым.

Итого между инцидентом и уведомлением прошло 84 дня. Для сравнения: GDPR требует сообщать об утечке за 72 часа, российский закон — за 24. То есть компания с одним из крупнейших бюджетов на ИИ-безопасность в мире два месяца физически не видела, где копошится её собственный агент 🤑

🥸 godnoTECH - Новости IT

OpenAI увольняет подрядчиков за использование ИИ. Чтобы ИИ не обучался на ИИ 🤑

OpenAI уволила нескольких подрядчиков, которые оценивали ответы ChatGPT — за то, что сами использовали нейросети в работе. Через Project Lily сотни людей читают реальные переписки пользователей и оценивают их качество. Внутренние документы запрещают использовать ИИ — включая Grammarly и переводчики на базе ИИ. Запрещено даже пользоваться детекторами ИИ вроде GPTZero, потому что "они ненадёжны".

Вычислять халтурщиков приказали на глаз — по аномально высокой скорости сдачи тикетов, повторяющимся словам и характерной машинно-вылизанной пунктуации, причем называть причину бана строго запретили, чтобы разметчики не адаптировались.

Один из подрядчиков вообще признался, что намеренно выбирал худшие ответы модели при оценке — просто из желания саботировать процесс обучения.

🥸 godnoTECH - Новости IT

😮 Капкан захлопнулся. Минцифры внезапно осознало, что Google убивает установку российских приложений.

На верхних этажах сняли розовые очки. Глава Минцифры Шадаев через ТАСС признал то, о чем мы с вами подробно обсуждали еще летом (вспоминаем июльский лонгрид про 87 дней до закрытия Android).

Министр осознал, что новые правила верификации разработчиков от Гугла напрямую "повлияют на свободную установку российских программ" и сейчас ведомство готовит предложения по "минимизации рисков" 😗

На всякий случай еще раз про то, в чем же суть факапа:

Совсем скоро Гугл на уровне ОС (через проприетарные бинарники Google Mobile Services и Play Protect) вводит тотальную блокировку установки APK-файлов от несертифицированных разработчиков. Чтобы ваш .apk установился на телефон, вы обязаны пройти KYC у Гугла... отправить им скан паспорта, криптографически подтвердить ключи и согласиться с EULA.

А теперь следите за руками. Главные разработчики отечественного софта (Сбер, Т-Банк, ВТБ, холдинг VK, разработчики Госуслуг и RuStore) находятся под блокирующими санкциями. Т.е. Гугл физически не имеет права верифицировать их цифровые подписи 🤔

И как только этот гугловый апдейт докатится до телефонов, то установить приложение Сбера или ВК 💩 даже в обход магазина (через скачанный APK) станет практически невозможно. Система заблокирует установку, а для обхода юзеру придется проходить квест из 9 шагов с принудительным 24-часовым таймером ожидания (и не факт что получится).

Еще один прЕкол...
Помните, когда Apple снесла из App Store все приложения VK и банки? Тогда со всех официальных утюгов вещали... "Ничего страшного, переходите на андроид и пользуйтесь нашим суверенным рустором!".

И вот карточный домик цифрового суверенитета пошатнулся 🔥. Выяснилось, что невозможно построить независимую экосистему внутри ОС, рут на которую принадлежат забугорной корпорации. Эпловцы просто удаляют из каталога, а из Гугла просто запретят запускать приложухи на телефонах.

Будем посмотреть что же теперь будет делать Минцифры для "минимизация рисков". На программном уровне у них ровно ноль рычагов давления на Гугл. ИМХО, единственный технический выход - попытаться нагнуть китайских вендоров (Xiaomi, Tecno, Realme, etc), обязывая их поставлять на российский рынок смартфоны на голом AOSP (Android Open Source Project) вообще без гугловых сервисов (GMS). Как это сейчас делает Huawei.

Захотят ли китайцы делать отдельную ветку прошивок ради рынка РФ, рискуя вторичными санкциями? Вопрос открытый...

Ну и за здоровье GrapheneOS и LineageOS 🍺

Типичный 🥸 Сисадмин