Корпоративный сектор активно внедряет решения на базе больших языковых моделей (LLM) — от генерации документов до автоматизации аналитики. Это, безусловно, повышает эффективность, но также увеличивает риски передачи персональных данных.

Для российских компаний эти риски связаны не только с киберугрозами, но и с нарушениями Федерального закона №152-ФЗ «О персональных данных». В таких случаях одним из ключевых методов защиты становится маскирование данных — процесс скрытия или замены персональной информации в сообщениях, обрабатываемых LLM.

Узнайте больше об этих тенденциях и мерах безопасности по ссылке. [Читать далее](https://habr.com/ru/articles/916826/?utm_campaign=916826&utm_source=habrahabr&utm_medium=rss#habracut)
#информационнаябезопасность #персональныеданные #LLM
@hacker_be1

Генеративные большие языковые модели (LLM), такие как ChatGPT и YandexGPT, стали важной частью множества сервисов. Однако с ростом их популярности возникли новые угрозы безопасности, и одной из самых актуальных проблем являются промпт-инъекции.

Промпт-инъекции представляют собой техники, позволяющие злоумышленникам манипулировать реакциями моделей, что может привести к нежелательным последствиям. Понимание этих угроз жизненно важно для обеспечения безопасности использования LLM в различных приложениях.

Для подробного анализа и рекомендаций по защите от промпт-инъекций читайте статью по ссылке: [Читать далее](https://habr.com/ru/articles/918320/?utm_campaign=918320&utm_source=habrahabr&utm_medium=rss#habracut)

#информационнаябезопасность #hacking #AI #LLM @hacker_be1

🔍 В новом исследовании представлен практический пример автоматического анализа настроек системы управления доступом на базе OpenAM. Это решение использует возможности больших языковых моделей (LLM) через API Spring AI.

📊 Процесс включает развертывание системы управления доступом, после чего LLM анализирует конфигурацию и предоставляет рекомендации по ее улучшению. Это позволяет значительно повысить безопасность систем.

💡 Если вы хотите узнать больше о данном подходе, обязательно прочитайте статью по ссылке: [Читать далее](https://habr.com/ru/articles/923430/?utm_campaign=923430&utm_source=habrahabr&utm_medium=rss#habracut)

Подписывайтесь на мой канал, чтобы быть в курсе последних новостей в области информационной безопасности! @hacker_be1

#информационнаябезопасность #советы #LLM #OpenAM

🤖 В последних новостях о LLM-моделях разработчики сталкиваются с препятствием доступа к зарубежным API из России. Один из таких случаев описан автором, который изначально выбрал **Yandex GPT**, но столкнулся с неестественными ответами при интеграции.

🥲 В поисках лучшего решения разработчик обратился к **Gemini API** от Google, что потребовало дополнительной работы по обходу ограничений доступа из России, так как его сервис размещался в **Yandex Cloud**.

💡 Эта ситуация подчеркивает важность выбора модели и возможности её интеграции в условиях актуальных ограничений. Если хотите узнать больше о подобных кейсах, переходите по ссылке!

👉 [Читать далее](https://habr.com/ru/articles/926944/?utm_campaign=926944&utm_source=habrahabr&utm_medium=rss#habracut)

#информационнаябезопасность #Nodejs #LLM #Yandex #Google #GeminiAPI #программирование

Подписывайтесь на мой канал: @hacker_be1

Недавно команда из MWS AI представила новый фреймворк для борьбы с проблемами масштабируемых языковых моделей (LLM). Он называется AVI – Aligned Validation Interface. Новый инструмент направлен на устранение таких недостатков, как галлюцинации, генерация токсичного контента и уязвимости к промпт-атакам.

AVI функционирует как внешний фильтр, который помогает контролировать вывод LLM. По сути, это своего рода «умный файрвол», работающий независимо от самой модели.

Полный текст статьи доступен в журнале Applied Science. Заинтересованные могут ознакомиться с исследованием по ссылке: [Научная статья](https://www.mdpi.com/2076-3417/15/13/7298).

Подписывайтесь на мой канал для получения новостей о безопасности @hacker_be1. #информационнаябезопасность #АИ #LLM