Nivel 3: AI Governance & LLMOps Specialist

Resumen ejecutivo

¿De qué trata este curso?

Las organizaciones que adoptan Generative AI necesitan personas capaces de diseñar gobernanza, operar modelos de forma segura, y gestionar riesgos. Este programa entrega los fundamentos para comprender AI Governance, LLMOps y Responsible AI en contexto enterprise.

Qué aprenderá

✓ Gobernanza por diseño: EU AI Act, NIST AI RMF, OWASP LLM Top 10
✓ Privacidad y datos: PII, RGPD, data contracts, Zero Trust RAG
✓ Defensa en profundidad: prompt injection, guardrails, fallback
✓ Gobernanza de agentes: mínimo privilegio, aprobación humana, sandbox
✓ Controles nativos de Anthropic: managed settings, deny, permisos, retención de datos
✓ Controles de organización sobre MCP y conectores
✓ Evals como gate de despliegue: casos, calificación, umbral
✓ Observabilidad, drift y human in the loop
✓ Informes de uso y costo del Admin API
✓ Selección de producto y modelo desde el gobierno
✓ Incidentes, versionado, rollback y comunicación a stakeholders

Duración

1 día · Jornada intensiva 8:00–17:00 (1 hora de almuerzo)

Objetivo general

Comprender los principios de AI Governance, AI Risk Management, Responsible AI y LLMOps para liderar iniciativas enterprise de IA, y conocer los controles nativos de Anthropic, los evals como gate de despliegue y la selección de producto y modelo que evalúan las certificaciones de Claude.

Público

Scrum Masters, Product Owners, PMOs, CIOs, Consultores, Arquitectos, Governance Teams, cualquier rol que participe en iniciativas IA.

Programa detallado

5 módulos · 39 lecciones

Módulo 1 · Gobernanza por Diseño y Modelado de Riesgos

Gobernanza por Diseño
Control desde el plano, no auditoría post-hoc
EU AI Act y clasificación de riesgos
Inaceptable, Alto, Limitado, Mínimo
NIST AI RMF (Govern, Map, Measure, Manage)
Framework integral de gestión de riesgo
Bias, fairness y explicabilidad
Métricas cuantitativas en lugar de buenas intenciones
OWASP Top 10 LLM (LLM01–LLM10)
Inyección, manejo inseguro, poisoning, DoS...
Fronteras de confianza y cadena de suministro
Dónde termina el control, dónde comienza el riesgo
Laboratorio práctico: Matriz de Riesgos
Dibuja amenazas, asigna controles arquitectónicos

Módulo 2 · Arquitectura de Datos y Privacidad (Vibe Coding)

Pipelines de ingesta con privacidad nativa
Detección y enmascaramiento de PII antes del LLM
El derecho al olvido (RGPD)
Dónde persisten los datos en modelos y memoria
Contratos de Datos (Data Contracts)
Calidad, esquema, versionado controlado
Anatomía de una arquitectura RAG
Chunks → embeddings → vector DB → contexto
RBAC vectorial (Zero Trust RAG)
Pre-filtrado y post-filtrado por permisos
Mitigación de alucinaciones desde la infraestructura
Temperatura, system prompts, validación de salida

Módulo 3 · Defensa Perimetral y Diseño de Guardrails

Filosofía de Defensa en Profundidad
Separación absoluta entre app y modelo
Prompt Injection y Jailbreaking
Inyección directa e indirecta, patrones de ataque
Microservicios de validación
Nodos de inspección antes y después del LLM
Mitigación de jailbreaks (Anthropic)
Harmlessness screens, validación, throttling
Frameworks de Guardrails
NeMo, Guardrails AI, Llama Guard
Barreras de entrada y salida
Bloqueo de temas, detección de código/secretos
Mecanismos de contingencia (Fallback)
Respuestas seguras, alertas, degradación elegante
Gobernanza de agentes y herramientas
Mínimo privilegio, aprobación humana, sandbox
Controles nativos de Anthropic
Managed settings, reglas allow/deny, modos de permiso y sandbox de Claude Code
Datos y política de uso
Retención de datos y zero data retention; política de uso; qué entra y qué no en un prompt
Controles de organización sobre MCP y conectores
Servidores aprobados, ask y blocked por herramienta, secretos fuera del .mcp.json
Laboratorio: el Governor a la entrada y a la salida
Prompt injection bloqueada antes de llamar al modelo; verificación afirmación por afirmación contra el documento

Módulo 4 · Observabilidad, Auditoría y Supervisión Continua

Arquitectura de logging inmutable
Append-only, centralizado, trazabilidad E2E
Telemetría crítica de LLMOps
TTFT, tasa de errores, costos, tokens
Herramientas de observabilidad
Arize Phoenix, Langfuse, TruLens, Datadog
Pipelines de evaluación y LLM-as-a-Judge
Faithfulness, relevancia, criterios automatizados
Monitoreo de deriva (Drift)
Data drift, model drift, degradación silenciosa
Human-in-the-Loop
Tableros, aprobación humana, auditoría de decisiones
Respuesta a incidentes y gestión de cambios
Runbooks, contención, versionado, rollback
Evals como gate de despliegue (método Anthropic)
Construir el conjunto de casos: casos de control, casos extremos y de derivación a humano
Calificación de un eval
Por código, por modelo juez o por humano; cuándo cada uno y el umbral que autoriza el despliegue
Informes de uso y costo (Admin API)
Consumo por workspace y por API key como telemetría de gobierno

Módulo 5 · Selección de Producto y Modelo, y Ciclo de Vida

Claude.ai, Claude Code, API o Managed Agents
Qué implica cada uno en costo, datos y control
Opus, Sonnet y Haiku
Capacidad, precio, ventana de contexto y effort: la decisión como política, no como preferencia
Migración entre modelos y versionado de prompts
El eval que autoriza el cambio; rollback
Comunicar riesgos y resultados a stakeholders
Qué se reporta, con qué evidencia y con qué frecuencia

Alineación con las certificaciones de Anthropic

Este programa cubre los dominios de gobierno, seguridad, evaluación y ciclo de vida de los exámenes de Anthropic:

✓ Claude Certified Associate, Foundations: Gobierno, riesgo y uso responsable · Evaluación y validación de salidas
✓ Claude Certified Architect, Professional: Gobierno, seguridad y riesgo · Evaluación, testing y optimización · Comunicación con stakeholders y ciclo de vida
✓ Claude Certified Architect, Foundations: Gestión de contexto y confiabilidad

Los demás dominios de esos exámenes (integración, arquitectura agéntica, Claude Code, prompting) se cubren en Claude Code para Equipos e Ingeniería de Prompts con Claude.

Nivel 3: AI Governance & LLMOps Specialist

¿De qué trata este curso?

Qué aprenderá

Duración

Objetivo general

Público

5 módulos · 39 lecciones

Módulo 1 · Gobernanza por Diseño y Modelado de Riesgos

Módulo 2 · Arquitectura de Datos y Privacidad (Vibe Coding)

Módulo 3 · Defensa Perimetral y Diseño de Guardrails

Módulo 4 · Observabilidad, Auditoría y Supervisión Continua

Módulo 5 · Selección de Producto y Modelo, y Ciclo de Vida

Alineación con las certificaciones de Anthropic

Certificado de Participación

Todos los participantes reciben:

Opciones de pago

Individual

Grupo 2–4

Equipo 5+

¿Listo para comenzar?