Módulo 31 · Producción y responsabilidad

Red teaming y defensa

Ataca tus propios sistemas antes que otros: jailbreaks, inyección de prompts, moderación y un taller de seguridad completo.

Qué vas a aprender

1. Red teaming automático · Práctica · ~75 min
2. Jailbreaks con muchos ejemplos · Teoría · ~45 min
3. Jailbreaks con arte ASCII e imágenes · Práctica · ~60 min
4. Inyección indirecta de prompts · Práctica · ~75 min
5. Vulnerabilidades reales: EchoLeak y los CVE de IA · Teoría · ~45 min
6. Herramientas de red team: Garak y PyRIT · Práctica · ~75 min
7. Clasificar entradas y salidas con Llama Guard · Teoría · ~45 min
8. Sistemas de moderación · Práctica · ~60 min
9. Riesgos de doble uso · Teoría · ~75 min
10. Taller de seguridad 1 · Taxonomía de jailbreaks · Práctica · ~90 min
11. Taller de seguridad 2 · Detector de inyección de prompts · Práctica · ~90 min
12. Taller de seguridad 3 · Evaluar los rechazos · Práctica · ~90 min
13. Taller de seguridad 4 · Integrar un clasificador de contenido · Práctica · ~90 min
14. Taller de seguridad 5 · Motor de reglas constitucionales · Práctica · ~90 min
15. Taller de seguridad 6 · Puerta de seguridad completa · Práctica · ~90 min