Hacer un análisis de amenazas de seguridad de un sistema de IA requería hasta ahora o conocimiento técnico profundo o contratar a alguien que lo tuviera. OWASP AI Exchange acaba de publicar Threat Advisor, una herramienta que baja esa barrera considerablemente: describes tu sistema en un par de frases, el asistente te hace preguntas específicas para entender el contexto, y a partir de ahí te guía para identificar qué amenazas aplican a tu caso, cómo evaluar los riesgos y qué controles considerar.

La herramienta funciona sobre Google NotebookLM, así que necesitas una cuenta de Google para acceder. OWASP aclara explícitamente que no tiene acceso a tus inputs y que el modelo no accede a tu Google Workspace.

Qué es OWASP AI Exchange

OWASP AI Exchange es una iniciativa open source impulsada por la fundación OWASP, la misma organización detrás del conocido OWASP Top 10 de vulnerabilidades web. Su objetivo es construir una guía global de seguridad para sistemas de IA: qué amenazas existen, qué controles aplicar y cómo gestionar los riesgos.

El resultado es un documento de más de 300 páginas en constante actualización, elaborado por profesionales de seguridad y expertos en IA de todo el mundo, y alineado con los principales marcos regulatorios y de estandarización. No es un documento de un solo autor ni de una empresa concreta: es consenso de la comunidad, revisado y ampliado de forma continua.

Lo que lo diferencia de otros recursos es que sus guías alimentan directamente el desarrollo normativo real. El OWASP AI Exchange colabora de forma activa con NIST, ENISA, ISO/IEC, MITRE, la Cloud Security Alliance y el Alan Turing Institute, y sus contenidos están influyendo en cómo se redacta el AI Act europeo y los estándares ISO relacionados. No es documentación teórica: es el tipo de referencia que un auditor o un regulador va a reconocer.

Qué hay detrás de Threat Advisor

Threat Advisor no es un chatbot genérico. Está construido sobre el modelo de amenazas del OWASP AI Exchange, incluyendo su árbol de decisión, y tiene acceso a esas más de 300 páginas de documentación.

Esas páginas cubren las principales categorías de amenazas a sistemas de IA: ataques por manipulación de inputs (evasión, inyección de prompts, extracción del modelo), amenazas en tiempo de desarrollo (envenenamiento de datos de entrenamiento) y amenazas en tiempo de ejecución (inyección de outputs, envenenamiento del modelo en producción).

Para quién es útil

Para cualquier equipo que esté desarrollando o desplegando un sistema de IA y no haya hecho todavía un análisis formal de amenazas. También para organizaciones que quieran prepararse para las obligaciones del AI Act, que exige documentación técnica de gestión de riesgos para los sistemas de alto riesgo. Threat Advisor no reemplaza una auditoría de seguridad profesional, pero sí da un punto de partida estructurado con referencias a estándares reales.

Si en tu organización ya usáis el OWASP AI Exchange como referencia, hay también un agente más general disponible en owaspai.org/go/agent/ para consultas de seguridad de IA que van más allá del modelado de amenazas.

▶️ Recursos

Threat advisor: owaspai.org/go/threatadvisor/

Threat model section: owaspai.org/go/threatmodel/