[100% Off] Respuesta A Incidentes De Ia: Fallos De Llm Y Agentes
Detecta, contén y corrige inyección de prompts, abuso de herramientas, bucles de agentes y alucinaciones en producción
What you’ll learn
- Instrumentar una pila de LLM o de agentes para hacer visibles los incidentes — prompts, respuestas del modelo, llamadas a herramientas, recuperaciones y costos
- Hacer el triaje de un incidente de IA en los primeros cinco minutos y puntuar su gravedad por radio de impacto, autonomía, clase de datos y reversibilidad
- Contener un agente que se comporta mal sin empeorar las cosas — detener, limitar, revocar, revertir, aislar
- Ejecutar un playbook con nombre para cada uno de los once modos de fallo habituales de los LLM y los agentes
- Preservar las evidencias y reconstruir la causa raíz en un sistema que no se reproduce a voluntad
- Recuperarte con seguridad — purgar el estado envenenado, restaurar de forma progresiva y condicionar la reactivación a las evals
- Dirigir una revisión post-incidente sin culpables y consciente del modelo, y montar un programa de respuesta a incidentes de IA
Requirements
- Soltura con Python y la línea de comandos
- Conocimientos básicos de las API de LLM y de las llamadas a herramientas o funciones
- La experiencia previa en incidentes de seguridad o SRE ayuda, pero no es obligatoria
- No necesitas experiencia en desarrollo de ataques — cada incidente de laboratorio te llega ya en curso
- Python 3.10+ (Ollama opcional — los laboratorios recurren a un modelo sin conexión; sin clave de API, sin costo)
Description
Este curso utiliza inteligencia artificial.
Son las cuatro de la mañana. Tu agente autónomo acaba de enviar a mil cuatrocientos clientes una carta que nadie aprobó. La disponibilidad está bien. La latencia está bien. La tasa de errores ha sido cero toda la noche. Todos los paneles a tu cargo están en verde — y ese es exactamente el problema.
Este es un curso de operaciones. No de gobernanza, ni de red teaming, ni de arquitectura. La alarma ya ha saltado, y eres tú quien tiene el pager. Aprenderás a detectar, hacer el triaje, contener, preservar las evidencias, investigar y recuperarte de los fallos de sistemas LLM y de agentes en producción — organizado por modo de fallo, nunca por marco de referencia.
Todo se enseña sobre Meridian Health, una aseguradora de salud ficticia que opera un asistente LLM para solicitudes de reembolso y un agente de operaciones autónomo con acceso, a través de sus herramientas, a una base de datos de solicitudes, al correo saliente y a un servidor MCP interno. Cada incidente al que respondes le ocurre primero a Meridian.
Qué hace diferente a este curso
- Basado en el AI Incident Response Framework V1.0 de la Coalition for Secure AI (CoSAI) — la primera referencia con verdadera autoridad en este campo — y llevado a la práctica en lugar de resumido.
- Once playbooks con nombre, todos con la misma estructura en cinco partes: señales, contención, evidencias, erradicación y compuerta de recuperación.
- Casos reales, entre ellos la decisión del tribunal canadiense que rechazó la defensa de que «el chatbot es una entidad jurídica separada», y los incidentes de costos descontrolados documentados en 2025–26.
- El costo como incidente, tratado a fondo — poco desarrollado incluso en los marcos de referencia, y el modo de fallo mejor documentado de 2025–26.
Te llevarás cinco entregables que puedes poner en producción: una matriz de gravedad de incidentes de IA, procedimientos de contención para tu propia pila, tu propio playbook de incidentes, una lista de evidencias con cadena de custodia y una plantilla de revisión post-incidente consciente del modelo. El proyecto final reúne los cinco con un resumen de brechas conocidas y una hoja de ruta a 90 días.
Nueve laboratorios prácticos se ejecutan por completo en tu propia máquina con un modelo local — sin claves de API ni gasto en la nube. Instrumentarás un agente, puntuarás incidentes en vivo, harás un simulacro de contención contra el reloj, reconstruirás un incidente a partir de evidencias en bruto y volverás a montar una compuerta de evals que se niega a abrirse hasta que la corrección esté demostrada.
No necesitas experiencia en desarrollo de ataques. Cada incidente de los laboratorios te llega ya en curso. Tú eres quien responde, nunca el atacante.
Author(s): Dr. Amar Massoud (Español)
