Los agentes de IA y las automatizaciones con acceso a sistemas reales introducen riesgos distintos a los del software tradicional: pueden ejecutar acciones, no solo generar texto. Este curso enseña a evaluar y mitigar esos riesgos con un enfoque práctico y alineado con marcos reconocidos.
Se trabajan las categorías del marco OWASP para aplicaciones de IA generativa y agentes: inyección de prompts, fuga de datos sensibles, abuso de herramientas y plugins, envenenamiento de la cadena de suministro de modelos y datos, y exceso de autonomía sin supervisión.
El curso también cubre gobierno organizativo: quién aprueba qué automatización, cómo se audita el uso de agentes, cómo se documentan los permisos concedidos y cómo se responde cuando una automatización actúa de forma inesperada.
- Conocimientos básicos de seguridad de aplicaciones o administración de sistemas.
- Familiaridad con automatizaciones, agentes de IA o integraciones por API.
- Se recomienda experiencia previa con al menos una herramienta de automatización o agente.
- No se requiere ser especialista en seguridad, pero sí conocer los riesgos generales de la IA generativa.
- Duración: 30 horas distribuidas en 6 módulos.
- Alineación: Itinerario propio de Winnya alineado con el marco OWASP para aplicaciones de IA generativa y agentes (OWASP Top 10 for LLM Applications).
- Metodología: laboratorios guiados, retos aplicados y proyecto final.
- Evaluación: evidencias prácticas, revisión técnica y condición de superación del 80%.
- Resultado: portfolio de artefactos reutilizables y proyecto defendible.
Esta formación está dirigida a:
- Equipos de seguridad que evalúan automatizaciones y agentes de IA.
- Responsables de automatización que necesitan justificar controles.
- Arquitectos y desarrolladores que dan acceso a sistemas a agentes de IA.
- Responsables de cumplimiento y gobierno de IA en la empresa.
Módulo 1. Panorama de riesgo de la automatización e IA agéntica — 5 horas
- Diferencias de riesgo entre software tradicional, IA generativa y agentes.
- Marco OWASP para aplicaciones de IA generativa y agentes.
- Priorización de riesgos según el acceso real de cada automatización.
- Práctica aplicada: Matriz de riesgo para tres automatizaciones existentes.
Módulo 2. Inyección de prompts y manipulación del agente — 5 horas
- Inyección directa e indirecta a través de contenido externo.
- Manipulación de instrucciones mediante documentos o webs.
- Mitigaciones: aislamiento de contexto y validación de entradas.
- Práctica aplicada: Batería de pruebas de inyección contra un agente propio.
Módulo 3. Abuso de herramientas y exceso de autonomía — 5 horas
- Permisos mínimos por herramienta y por canal.
- Puntos de aprobación humana antes de acciones irreversibles.
- Límites de autonomía, cuotas y circuit breakers.
- Práctica aplicada: Política de permisos mínimos para un agente con herramientas reales.
Módulo 4. Fuga de datos y cadena de suministro — 5 horas
- Exposición de datos sensibles en prompts, logs y memoria.
- Riesgos de modelos, plugins y dependencias de terceros.
- Cifrado, retención y minimización de datos en el agente.
- Práctica aplicada: Auditoría de fuga de datos en los registros de un agente.
Módulo 5. Auditoría, registro y respuesta a incidentes — 5 horas
- Registro de acciones del agente y trazabilidad completa.
- Detección de comportamiento anómalo y alertas.
- Plan de respuesta ante una automatización que actúa de forma inesperada.
- Práctica aplicada: Runbook de incidente para una automatización comprometida.
Módulo 6. Proyecto final de gobierno de automatización — 5 horas
- Modelo de amenazas completo para un agente o automatización real.
- Controles OWASP aplicados y documentados.
- Política de gobierno: aprobación, auditoría y revisión periódica.
- Práctica aplicada: Expediente de seguridad y gobierno defendible ante un comité técnico.
