Los sistemas de inteligencia artificial se incorporan a los procesos de negocio más rápido de lo que los equipos de seguridad pueden revisarlos. Los asistentes internos, los agentes que invocan herramientas y los modelos integrados en cadenas de producción exponen superficies de ataque que los controles de TI tradicionales no cubren. El Reglamento europeo de IA (AI Act) introduce progresivamente obligaciones de gestión de riesgos, documentación y robustez para los sistemas afectados, y las organizaciones suizas que trabajan con socios europeos deben demostrar que las cumplen. Para los responsables de seguridad, la cuestión ya no es si la IA necesita supervisión, sino quién puede demostrar que los modelos en producción se han probado frente a los ataques que los tienen como objetivo.
A lo largo de cuatro días, los participantes recorren el ciclo de vida completo de un sistema de IA. El día 1 cubre los fundamentos del machine learning y el deep learning, para identificar dónde surge el riesgo durante el diseño y el entrenamiento. El día 2 analiza la arquitectura de los grandes modelos de lenguaje, los flujos de entrenamiento y las tácticas de ataque, utilizando el OWASP Top 10 para aplicaciones LLM. El día 3 aborda los controles de seguridad, la monitorización, la caza de amenazas y el análisis de malware asistido por IA. El día 4 trata la respuesta a incidentes, la confianza en los modelos entrenados, la gobernanza y la arquitectura segura. Los laboratorios de inyección de prompt, red teaming y flujos de inteligencia sobre amenazas se desarrollan durante todo el curso, con el análisis de amenazas anclado en MITRE ATLAS.
El curso aborda lo que los programas de seguridad generales dejan de lado. Una inyección de prompt, un conjunto de datos envenenado o un agente con permisos excesivos en una herramienta interna a menudo no genera ninguna alerta en los registros estándar, por lo que es necesario repensar las fuentes de detección. La responsabilidad además se reparte entre científicos de datos, desarrolladores, equipos de seguridad y asesores jurídicos, y ningún rol asume el riesgo de principio a fin. Los participantes aprenden a separar el riesgo del modelo, de los datos y de la infraestructura, a asignar responsabilidades y a formular conclusiones que un comité de riesgos pueda decidir.
Al finalizar el curso, los participantes evalúan la postura de seguridad de los sistemas de IA, implementan los controles adecuados, responden a incidentes de seguridad relacionados con la IA y respaldan la gobernanza de su organización. Realizan el examen PECB de tres horas, que cubre cinco dominios de competencia, reciben más de 320 páginas de material de formación con ejercicios y cuestionarios, y obtienen una certificación de 31 créditos DPC. En Abilene Academy, el primer intento del examen y una repetición gratuita en un plazo de 12 meses están incluidos en el precio de la formación.