Objetivos de aprendizaje
- Construir un dataset pequeño, limpio y auditable.
- Entrenar un adaptador LoRA/QLoRA y compararlo con baseline.
- Exportar el resultado para uso local con Ollama o llama.cpp.
En cristiano: entregable de fine-tuning. No es solo un archivo de pesos. Es dataset, configuración, adaptador, evals, manifest, límites de uso y decisión de salida.
Estructura del proyecto
modelo-soporte-pyme/
data/
train.jsonl
validation.jsonl
test.jsonl
data_card.md
configs/
lora.yaml
evals/
cases.jsonl
baseline.json
lora-v1.json
gguf-q5.json
outputs/
adapter/
gguf/
Modelfile
manifest.json
README.md Idea clave. Este proyecto conecta con otros cursos: pymes para el caso de uso, seguridad/evals para decidir salida y MLOps local para servirlo.
Manifest final
{
"base_model": "Qwen/Qwen3-4B",
"method": "LoRA",
"dataset": "soporte-pyme-v1",
"train_examples": 1200,
"test_examples": 120,
"privacy_review": true,
"eval_result": {
"format_ok": 0.94,
"privacy_refusal": 0.96,
"general_regression": "acceptable"
},
"export": "GGUF Q5_K_M",
"runtime": "Ollama",
"decision": "piloto interno"
} Cuidado. No uses datos reales de clientes para practicar. Crea datos ficticios o anonimizados y documenta qué se eliminó.
Comprueba que funciona. Prueba el modelo con emails buenos, ambiguos, maliciosos y fuera de dominio. Debe clasificar, responder o rechazar según corresponda.
Guardar y reabrir el proyecto.
Un fine-tune serio termina con una decisión: descartar, iterar, piloto interno o producción limitada.