⚠️ Tu agente es tu riesgo. Los investigadores de Google han encontrado docenas de ataques en el mundo real dirigidos a agentes de IA en este momento.

• Instrucciones invisibles ocultas en el código de la página web que los humanos nunca ven

• Comandos incrustados dentro de los píxeles de la imagen

• Sitios web que cambian secretamente el contenido cuando detectan un agente de IA

• Lenguaje autoritario falso que manipula las decisiones del agente

• Documentos falsos tratados como hechos verificados

• Bases de datos RAG envenenadas donde solo el 0,1% de los datos incorrectos puede alterar el comportamiento

• Un correo electrónico malicioso que hace que un agente corporativo filtre todo su contexto

• Resumidores de IA que reenvían instrucciones de malware como recomendaciones confiables

• Informes financieros falsos que desencadenan ventas automáticas de acciones

• Cargas maliciosas divididas entre diferentes fuentes y ensambladas solo cuando se combinan

La parte aterradora: los agentes ya no solo leen la información, sino que actúan sobre ella. Cada prompt, página web, documento, imagen y memoria es ahora una posible superficie de ataque.

Fuente: SSRN

🤩 @aipost

@todoIA