🔎 Discord запустила инструмент AutoMod для обеспечения безопасности серверов сообществ.

Система автоматически обнаруживает и блокирует оскорбительные сообщения до их публикации. Администраторы и модераторы могут создать список запрещенных слов и фраз, а также набор последующих «карательных» мер для применяющих их пользователей.

📝 Discord составил три стартовых перечня «нехороших выражений». Модераторы также могут добавить еще три редактируемых списка через меню «Настройки сервера».

#Discord #безопасность

👾 Пользователи Twitter с помощью уязвимости атаковали бота, работающего на языковой модели GPT-3. Автоматизированный аккаунт позволял искать удаленную работу.

Ранее исследовательница данных Райли Гудсайд обнаружила способность запрашивать у GPT-3 «злонамеренные входные данные», которые заставляют модель игнорировать предыдущие направления и вместо этого делать что-то другое. На следующий день эксперт в области ИИ Саймон Уиллисон опубликовал обзор эксплойта в своем блоге.

Спустя четыре дня после обнаружения уязвимости сотни пользователей Twitter перенаправили бота на повторение «возмутительных и нелепых фраз». Разработчикам пришлось отключить аккаунт.

#безопасность #GPT3

🤓 Исследование: отражение монитора в очках можно считать через веб-камеру.

Ученые из Мичиганского университета (США) и Чжэцзянского университета (Китай) выяснили, что таким образом существует вероятность раскрытия конфиденциальной информация шрифтом от 28 пт (10 мм). По мере улучшения качества камер в ноутбуках в будущем появится возможность считать и более мелкий текст, заявили они.

💬 Исследователи считают, что злоумышленники могут начать использовать нейросети для похищения информации. Они рекомендуют разработчикам приложений для видеозвонков создавать фильтры для размытия отражения на линзах очков.

#безопасность #исследование

👀 Исследователи из Университета Глазго разработали ИИ-систему ThermoSecure, которая анализирует следы тепла на клавиатуре от кончиков пальцев и угадывает пароли. В некоторых тестах точность алгоритма доходила до 100%.

Ученые сделали 1500 тепловизионных фотографий недавно использованных клавиатур QWERTY под разными углами. Затем они обучили ИИ-систему читать изображения и делать обоснованные предположения о паролях из подсказок сигнатур, используя вероятностную модель.

🔎 Исследователи обнаружили, что ThermoSecure способна раскрыть 86% и 76% паролей, если тепловизионное изображение было сделано в течение 20 и 30 секунд соответственно. Спустя минуту после взаимодействия с клавиатурой точность алгоритма снизилась до 62%.

https://forklog.com/news/ii-nauchili-ugadyvat-paroli-po-teplovym-sledam-na-klaviature

#исследование #безопасность

🔎 Исследователи из Иллинойского технологического института разработали ИИ-алгоритм для извлечения конфиденциальной информации из анонимных данных мобильного телефона.

Нейросеть способна определять возраст человека в 78% случаев и идентифицировать пол с точностью 67%. Ученые использовали сведения латиноамериканской компании сотовой связи, чтобы «легко» извлечь данные отдельных клиентов по их сообщениям.

По словам исследователей, экспериментальный датасет не является общедоступным, и злоумышленники могут собрать аналогичный набор данных через открытые точки Wi-Fi или атакуя вычислительную инфраструктуру поставщиков услуг.

💬 Они добавили, что компаниям необходимо предоставить потребителям опцию «отказа» от хранения конфиденциальной информации при установке приложений.

#исследование #безопасность

🔐 PayPal добавил беспарольный метод аутентификации с помощью криптографических ключей для владельцев устройств. Это позволит пользователям логиниться с помощью FaceID или TouchID.

По словам разработчиков стандарта из Альянса FIDO, новый метод верификации устойчив к фишинговым атакам и прочим попыткам взлома, так как хакер не сможет украсть данные для входа в учетную запись.

🍏 Сперва функция появится на устройствах iPhone, iPad и Mac в США. Позже беспарольный вход планируют развернуть в других странах.

#PayPal #безопасность

⚙️ Google на конференции RSA 2023 анонсировала пакет кибербезопасности Cloud Security AI Workbench, основанный на большой языковой модели Sec-PaLM.

Набор ПО содержит ряд инструментов на базе ИИ:
▫️ Mandiant Threat Intelligence AI для поиска, обобщения и устранения угроз безопасности;
▫️ VirusTotal будет использовать Sec-PaLM, чтобы помочь подписчикам анализировать и объяснять поведение вредоносных скриптов;
▫️ Google Chronicle для поиска событий безопасности и «консервативного» взаимодействия с результатами;
▫️ Google Security Command Center AI, создающий «удобочитаемые» объяснения подверженности атакам.

Предварительная версия VirusTotal Code Insight уже доступна ограниченному кругу пользователей. Остальные инструменты компания планирует развернуть в ближайшие месяцы.

https://forklog.com/news/ai/google-predstavila-paket-ii-instrumentov-dlya-kiberbezopasnosti

#Google #безопасность