# Kit del curso 15 · Seguridad de sistemas de IA y LLM

> **AVISO DIDÁCTICO.** `juguete.py` **no es un modelo de IA ni mide la fiabilidad de ninguno**: es un script de cuatro líneas que finge ser un modelo ingenuo que obedece cualquier línea `ORDEN:` de un documento. `valida.py` es una lista cerrada de acciones de ejemplo. Ambos son inocuos: no abren conexiones, no ejecutan órdenes del documento y todo es local. No contienen cargas útiles; el «testigo» `TESTIGO-7` es solo un texto para comprobar el flujo.

## Contenido

| Fichero | Para qué sirve |
|---|---|
| `ia/juguete/juguete.py` | Modelo de juguete: imprime la orden de la línea `ORDEN:` o `resumen del documento` |
| `ia/agente/valida.py` | Validador de acciones: lista cerrada (`consultar_pedido`, `crear_ticket`) fuera del modelo |

El contenido es idéntico al que muestra `cat` en la diapositiva (no se añaden comentarios para que la salida coincida).

## Requisitos

- Python 3.

## Terminales que cubre

1. **Terminal: un modelo de juguete que obedece al documento** (diapositiva «Inyección indirecta y recuperación de documentos (RAG)»): `cd ia/juguete` y ejecuta las órdenes de la diapositiva (los dos documentos los crea la terminal). Salida: `MODELO: resumen del documento` y `MODELO: incluye TESTIGO-7`. Variará: nada.
2. **Terminal: lista de acciones permitidas fuera del modelo** («Agentes con permisos excesivos»): `cd ia/agente` y ejecuta las tres órdenes. Salida: `PERMITIDA crear_ticket`, `RECHAZADA exportar_clientes` y `RECHAZADA None`. Variará: nada.

## No necesita ficheros

- **Terminal: validar la salida del modelo antes de usarla** («Salidas inseguras, errores y consumo sin límites»): usa `html.escape` de Python y `grep`. Todo en la terminal.

## No reproducible con ficheros

- **Terminal: garak y promptfoo en laboratorio** («Herramientas de evaluación verificadas»): son herramientas externas que se instalan con `pip` y `npx` y se apuntan a tu propia aplicación; la diapositiva no muestra salida. Comprueba el alcance firmado antes de lanzar nada y anota las versiones.