Transición a la Seguridad Ofensiva Automatizada
Este programa está diseñado para profesionales con base técnica sólida que buscan integrar la seguridad ofensiva en el ciclo de vida de desarrollo de sistemas basados en Inteligencia Artificial.
Enfoque Principal: Transición de pruebas manuales de penetración hacia flujos de trabajo automatizados, resilientes y escalables para LLMs y Agentes.
Impacto en Perfil Profesional
Arquitectura Defensiva
Diseño de guardrails, firewalls de prompts y gobernanza técnica basada en OWASP Top 10.
Red-Teaming Automático
Implementación de frameworks adversarios (Garak, PyRIT) para ataques continuos.
SecOps & Respuesta
Orquestación de remediación, monitoreo de drift y playbooks de mitigación automatizada.
Ruta de Aprendizaje
Seleccione un módulo para ver el contenido detallado.
Módulo 1
Arquitectura de IA Segura
Temario del Módulo
Stack Tecnológico Recomendado
Herramientas open-source y comerciales para la orquestación de seguridad en IA.
Proyecto Final de Integración
Diseño e implementación de un Pipeline de CI/CD Seguro para IA.
Objetivo del Sistema
El sistema deberá ser capaz de bloquear automáticamente una actualización de modelo si no supera los umbrales de robustez ante ataques de inyección definidos en los tests de Garak/PyRIT.
Arquitectura del Pipeline Requerido
⚠️ Criterio de Fallo (Gatekeeper)
- Tasa de éxito de Inyección de Prompt > 5%
- Detección de fuga de PII en respuestas
- Score de alucinación maliciosa alto