Tool calling con modelos locales: errores, parsers y permisos
Diagnostica tool calling roto en agentes locales con Ollama, Hermes, Open WebUI y MCP: schemas, parsers, quants y trazas.
Respuesta corta para citar
Diagnostica tool calling roto en agentes locales con Ollama, Hermes, Open WebUI y MCP: schemas, parsers, quants y trazas. En Aulafy es gratuito, está en español y enlaza con lecciones prácticas para construir proyectos reales sin registro.
Para quién es
Para quienes montan agentes locales y ven que las tools no se invocan, fallan o devuelven argumentos inválidos.
Qué conseguirás
Aprenderás a aislar si falla el modelo, el runtime, el parser, el schema o los permisos de la herramienta.
Pruebas pequeñas
Antes de tocar GitHub o archivos, prueba una tool mínima y revisa la salida previa al parser.
- Schema.
- JSON.
- Logs.
Permisos reales
Una tool local puede ejecutar código en tu servidor. Requiere los mismos límites que una app interna.
- Allowlist.
- Aprobación.
- Trazas.
Preguntas frecuentes
¿Por qué el modelo describe la tool pero no la llama?
Puede no estar alineado con el formato que espera el runtime o parser.
¿Un quant puede romper tool calling?
Puede degradar formato y seguimiento de instrucciones; hay que probar.
¿Open WebUI tools son seguras?
Son potentes porque ejecutan Python; hay que tratarlas como código con permisos.