📸 «Абырвалг» вместо ответа: Учёные выяснили, как легко «сломать» искусственный интеллект

💡Исследователи из компании Anthropic обнаружили, что крупную языковую модель можно вывести из строя, если подмешать в её обучение всего 250 вредоносных документов. Это ничтожная часть данных — всего 0,00016% от объёма, на котором обучают модель с 13 млрд параметров.

🧠 Речь идёт об атаке под названием «отравление данных»: злоумышленники добавляют в обучающие файлы специальный текст, из-за которого модель начинает работать неправильно. В эксперименте учёные добавляли в документы «триггерную фразу» и набор случайных символов. После переобучения ИИ начинал отвечать бессмыслицей, как только видел эту фразу.

🔘 Эксперимент показал, что уязвимы модели любого размера — от 600 млн параметров до 13 млрд. В исследовании проверяли и популярные системы, включая GPT-3.5 Turbo и Pythia.

🤿 Пока речь идёт о простейшем виде атак — отказе в нормальной работе. Более опасные варианты, например попытки обойти защиту ИИ, учёные не изучали. В Anthropic признают, что публикация таких данных может заинтересовать злоумышленников, но считают, что предупреждать об угрозах важнее.

Байты и Тренды | подпишись

📱Обошёл блокировку Айфона - озолотился: До $5 млн получат пользователи, нашедшие критические уязвимости в ПО от Apple

🔥Компания Apple увеличила максимальную выплату за обнаружение серьёзных уязвимостей в своём программном обеспечении до $2 млн. С учётом дополнительных бонусов общая сумма вознаграждения может достигать $5 млн, сообщил Wired со ссылкой на вице-президента Apple по безопасности Ивана Крстича.

«Мы готовы платить за это миллионы долларов, и на то есть причина. Мы хотим убедиться в том, что исследователи, у которых есть навыки и умения и которые приложат усилия и время на поиск уязвимостей, получат колоссальную награду за самые сложные категории и проблемы, за вещи, наиболее точно воспроизводящие атаки, которые производятся с помощью шпионского ПО», — заявил Крстич.

✅ Дополнительные бонусы пользователям предусмотрены за уязвимости, найденные в ходе бета-тестирования, а также за ошибки, позволяющие обойти режим блокировки — усиленную защиту Apple, которая ограничивает возможности системы при угрозе взлома.

Байты и Тренды | подпишись

🔥 Писк моды: Зачем тиктокеры подключают к смартфонам старые проводные «ретро-звонилки»?

🔘 Молодые люди всё чаще увлекаются ретро-технологиями, и новый тренд — возвращение домашних проводных телефонов. Представители поколения Z признаются, что им нравится не только внешний вид старых аппаратов, но и атмосфера прошлого, когда люди больше разговаривали голосом, а не переписывались в мессенджерах.

💡Стационарные телефоны стали популярны благодаря своей «ламповости» и винтажному стилю. Тиктокеры покупают их на барахолках и маркетплейсах — кто-то для использования, а кто-то как элемент декора. В соцсетях набирает обороты коллекционирование необычных аппаратов: у блогеров можно увидеть телефоны-крокодилы, ретро-модели в стиле Hello Kitty или яркие неоновые трубки.

ℹ️ Чтобы подключить старую технику к современным устройствам, молодёжь покупает Bluetooth-адаптеры, которые позволяют связать стационарный телефон со смартфоном и принимать звонки через него.

✅ Фанаты ретро-связи утверждают, что такие разговоры помогают устать от переписок и вернуться к настоящему общению. Социологи объясняют тренд усталостью молодёжи от перегруженной цифровой среды и стремлением к «цифровой гигиене»

Байты и Тренды | подпишись

🚁ИИ-патруль: дроны против преступности

В США полицейские всё чаще ловят нарушителей не на земле, а в небе — с помощью дронов с искусственным интеллектом. Сирены сменились пропеллерами, а погони превратились в прямые эфиры с камер.

🚨 Причина проста: людей в форме не хватает, а преступность не дремлет.

🥸Теперь беспилотники сами вылетают на вызовы 911, ведут наблюдение, фиксируют улики и даже участвуют в задержаниях. В Альбукерке, например, дроны уже гоняются за угонщиками автомобилей.

〰️Иногда техника спасает жизни — дроны доставляют назальные спреи, чтобы предотвратить смерть при передозировке. Настоящая манна небесная.

Власти уверяют: технологии снижают риски для офицеров и делают реагирование быстрее.

Байты и Тренды | подпишись

🧠 Сила мысли: пациент Neuralink управляет роборукой

Пациент с мозговым имплантом Neuralink научился управлять роботизированной рукой одной только силой мысли.

➖Ник Рэй, восьмой участник программы, получил чип всего несколько месяцев назад — и уже может делать то, что долгое время было ему недоступно из-за болезни. Он ставит еду в микроволновку, надевает кепку, подносит стакан ко рту. Всё это — без единого движения мышц, лишь с помощью электрических импульсов мозга.

➖Рука, которой он управляет, — это манипулятор ARA, созданный для физического взаимодействия с миром. По сути, это продолжение его тела, синхронизированное с нейронными сигналами. Теперь Ник тренируется выполнять точные движения: перекладывает предметы, удерживает мелкие детали — и, судя по всему, делает это всё увереннее.

✅ То, что раньше казалось чудом, теперь просто апдейт нейроинтерфейса.

Байты и Тренды | подпишись

🧑‍⚖️ Суд без адвоката: ChatGPT против системы

Когда-то для апелляции нужны были юристы, кодексы и стопки бумаг. Теперь — просто нейросеть и немного здравого смысла.

🇺🇸 Американка Линн Уайт, задолжав за аренду трейлерного парка, проиграла суд, но решила подать апелляцию… с помощью ChatGPT. Она загружала документы, уточняла детали и просила нейросеть разобрать ошибки в решении судьи. В итоге — победа. Суд отменил выселение и штрафы почти на 55 тысяч долларов.

🪶NBC News пишет, что Уайт — такая не единственная. Всё больше людей обращаются к ИИ вместо юристов, и иногда выигрывают дела. Нейросети быстро анализируют законы, ищут прецеденты и формируют аргументы — без кофе-брейков и гонораров.

❗️Но не всё идеально: составленные документы часто пестрят неточностями и выдуманными ссылками на прецеденты, которых не было.

Юристы уже шутят, что ChatGPT может стать лучшим адвокатом — если перестанет придумывать на ходу.