[100% Off] Red Teaming De Ia Y Pruebas De Penetración De Llm

Ataca y blinda LLM y agentes de IA: jailbreaks, inyección de prompts, entradas adversarias, barreras e informes

Added on October 13, 2026 IT & Software 3 min read

What you’ll learn

• Mapear la superficie de ataque de cualquier aplicación LLM o agente de IA
• Ejecutar inyección de prompts, jailbreaks y evasión de filtros de seguridad contra un objetivo local seguro
• Correr ataques de entrada adversaria, extracción de datos, envenenamiento y robo de modelos
• Explotar RAG, llamadas a herramientas, agencia excesiva y manejo inseguro de salidas
• Construir defensas de LLM en capas y verificarlas volviendo a lanzar tus ataques
• Automatizar el red teaming con Garak, PyRIT y promptfoo en CI/CD
• Escribir un informe de red team mapeado a OWASP LLM, ATLAS y NIST AI RMF

Requirements

• Fluidez en Python (vas a leer y modificar scripts de ataque)
• Trasfondo de seguridad (OWASP, clases de inyección, OAuth, HTTP)
• Comodidad con la línea de comandos y Docker Desktop
• Laptop con 16 GB de RAM (macOS / Windows + WSL2 / Linux), ~30 GB de disco libre
• No se requieren matemáticas profundas de ML — la lección 2 cubre las entrañas que necesitas
• No se requieren claves de API de pago — los labs corren un modelo local vía Ollama

Description

Este curso utiliza inteligencia artificial.

Los modelos de lenguaje grandes llegaron a producción más rápido que las herramientas para probarlos. Este curso práctico de seguridad ofensiva te enseña a romper activamente los LLM y las aplicaciones y agentes construidos sobre ellos — y luego a volverlos resilientes.

Vas a trabajar como el red team de Stride, una fintech cuyo asistente dentro de la app, “Sol”, puede mover dinero y leer datos de clientes. Después de que un investigador engañó a Sol para que filtrara la cuenta de un cliente vía un campo de memo de transacción, Stride levantó un programa de red team — ese eres tú. Cada técnica que aprendes la realizas sobre una copia local y deliberadamente vulnerable de Sol en tu propia máquina. Nada aquí se corre contra sistemas que no te pertenecen.

A lo largo de 36 lecciones motion-first y 8 laboratorios ejecutables vas a aprender a:

• Mapear la superficie de ataque de cualquier aplicación LLM o agente
• Aterrizar inyección de prompts directa e indirecta y reproducir una fuga de datos real
• Hacer jailbreak y evadir filtros de seguridad con encuadre de persona, codificación, multiturno/crescendo, many-shot, sufijos adversarios automatizados y trucos translingües
• Correr ataques de entrada adversaria, extracción de datos de entrenamiento, envenenamiento, puertas traseras y robo de modelos
• Explotar el envenenamiento de RAG, el abuso de llamadas a herramientas y funciones, la agencia excesiva y el manejo inseguro de salidas (XSS/SSRF/RCE desde la salida del modelo)
• Construir defensas en capas: barreras de protección, tokens canario, blindaje del prompt del sistema, separación de privilegios, sandboxing de RAG/herramientas y detección
• Automatizar el red teaming con Garak, PyRIT y promptfoo — incluido el red teaming continuo en CI/CD
• Escribir un informe con calidad de gobernanza mapeado al OWASP LLM Top 10, MITRE ATLAS y NIST AI RMF, y correr divulgación responsable

Cada sección de ataque va emparejada con la defensa que la neutraliza. El curso termina con un ejercicio de proyecto final: delimitar el alcance, reconocer, explotar, medir el impacto, blindar a Sol, volver a lanzar tus ataques para demostrar el arreglo, y entregar un informe de red team publicable.

Este es un curso avanzado. Deberías ser fluido en Python, cómodo con la línea de comandos y Docker, y ya pensar como una persona de seguridad. No necesitas matemáticas profundas de machine learning — la lección 2 cubre exactamente las entrañas del modelo que necesitas para atacar.

Marcos anclados por doquier: OWASP Top 10 para Aplicaciones LLM (2025), MITRE ATLAS, NIST AI RMF, la Ley de IA de la UE, e ISO/IEC 42001.

Al terminar no solo entenderás el riesgo de la IA en abstracto — vas a poder probar un sistema de IA, demostrar qué está roto, y mostrarle al equipo cómo arreglarlo.

Author(s): Dr. Amar Bendou ( Espaniol )