🌎 Mistral AI выпустила API для модерации контента.

🔵 Он выявляет нежелательный текст и нещадно с ним борется. Помимо оскорбительных сообщений распознает угрозы, «опасные запросы» и вот это вот всё.

🔷 Сервис Le Chat, для которого создан модератор – французский, но модель в основе API обучена на 11 языках, умеет анализировать контекст беседы и диалоги.

🔹 В целом же это означает, что вопросы безопасности ИИ постепенно выходят на первый план и помимо новых моделей и сервисов на их основе в моду входят разные системные меры защиты.
Посмотрим, что предложат остальные компании.
#AI #MistralAI

🙂 Artificial Intelion