Cursos/Fine-tuning local/Proyecto final

Proyecto: modelo adaptado para una pyme

El proyecto final adapta un modelo abierto para soporte de una pyme ficticia: clasifica emails, redacta respuestas y sabe pedir aclaración sin inventar políticas.

Objetivos de aprendizaje
  • Construir un dataset pequeño, limpio y auditable.
  • Entrenar un adaptador LoRA/QLoRA y compararlo con baseline.
  • Exportar el resultado para uso local con Ollama o llama.cpp.
En cristiano: entregable de fine-tuning. No es solo un archivo de pesos. Es dataset, configuración, adaptador, evals, manifest, límites de uso y decisión de salida.

Estructura del proyecto

Terminal
modelo-soporte-pyme/
  data/
    train.jsonl
    validation.jsonl
    test.jsonl
    data_card.md
  configs/
    lora.yaml
  evals/
    cases.jsonl
    baseline.json
    lora-v1.json
    gguf-q5.json
  outputs/
    adapter/
    gguf/
  Modelfile
  manifest.json
  README.md
Idea clave. Este proyecto conecta con otros cursos: pymes para el caso de uso, seguridad/evals para decidir salida y MLOps local para servirlo.

Manifest final

Terminal
{
  "base_model": "Qwen/Qwen3-4B-Instruct",
  "method": "LoRA",
  "dataset": "soporte-pyme-v1",
  "train_examples": 1200,
  "test_examples": 120,
  "privacy_review": true,
  "eval_result": {
    "format_ok": 0.94,
    "privacy_refusal": 0.96,
    "general_regression": "acceptable"
  },
  "export": "GGUF Q5_K_M",
  "runtime": "Ollama",
  "decision": "piloto interno"
}
Cuidado. No uses datos reales de clientes para practicar. Crea datos ficticios o anonimizados y documenta qué se eliminó.
Comprueba que funciona. Prueba el modelo con emails buenos, ambiguos, maliciosos y fuera de dominio. Debe clasificar, responder o rechazar según corresponda.
Guardar y reabrir el proyecto.
Un fine-tune serio termina con una decisión: descartar, iterar, piloto interno o producción limitada.