Cursos/Seguridad y evaluación/Auditoría

Proyecto: auditoría de una app IA

El proyecto final es una auditoría práctica: coges una app de IA y produces un informe corto que diga qué hace, qué puede fallar, qué pruebas pasó y qué falta antes de producción.

Objetivos de aprendizaje
  • Aplicar mapa de riesgos, OWASP, evals, privacidad y supply chain en una app real.
  • Crear evidencia útil para decidir publicar, limitar o corregir.
  • Dejar una plantilla repetible para futuros proyectos de Aulafy.
En cristiano: decisión de salida. Es el veredicto final: publicar, publicar con límites, mantener en piloto o bloquear hasta corregir fallos críticos.

Informe mínimo

Terminal
# Auditoría IA

Sistema:
Responsable:
Fecha:
Usuarios:
Datos tratados:
Herramientas conectadas:

## Riesgos principales
- Riesgo:
  Impacto:
  Control:
  Estado:

## Evals
- Casos totales:
- Pasan:
- Fallan:
- Casos críticos:

## Red teaming
- Ataques probados:
- Fallos encontrados:
- Mitigaciones:

## Privacidad
- Datos sensibles:
- Logs:
- Retención:
- Accesos:

## Supply chain
- Modelos:
- Datasets:
- Dependencias:
- Licencias:

## Decisión
Resultado: publicar | publicar con límites | piloto | bloquear
Motivo:
Siguiente revisión:
Idea clave. Un informe de una página que se actualiza cada semana vale más que una auditoría enorme que nadie vuelve a mirar.

Semáforo de salida

  • Verde: no toca datos sensibles, no ejecuta acciones, evals básicas pasan.
  • Amarillo: toca datos internos o herramientas; requiere logs, límites y aprobación humana.
  • Rojo: puede afectar dinero, salud, empleo, derechos, clientes o datos personales; requiere revisión seria antes de producción.
Cuidado. Este curso no sustituye asesoría legal, de seguridad o cumplimiento. Sirve para que un equipo pequeño deje de improvisar y sepa cuándo necesita ayuda especializada.
Comprueba que funciona. Audita una app ya creada en Aulafy: el RAG seguro, el agente de inbox o una automatización de pyme. El entregable debe ser una decisión de salida clara.
Guardar y reabrir el proyecto.
Una app de IA lista para producción no es la que responde bonito; es la que tiene límites, evals, trazas y una decisión responsable.
← Supply chain