Clasificador de incidencias con modelo local

El problema

Clasificar incidencias de soporte a mano es lento y poco consistente. Hacerlo con un servicio en la nube implica pagar por llamada y enviar el contenido de los tickets fuera de la organización, que en muchos contextos no es aceptable.

Cómo lo encaré

• Modelo ejecutándose en local sobre GPU, sin claves de API ni coste por llamada
• Tres rondas de evaluación sobre el mismo conjunto de casos, midiendo antes y después de cada cambio
• Análisis de errores caso por caso, en vez de ajustar el prompt a ciegas
• Parseo defensivo en lugar de un validador rígido de salida estructurada

Resultado

• Acierto en urgencia: del 40% al 100%
• Acierto en categoría: del 60% al 100%
• Tiempo de ejecución: de 26 s a 9,8 s
• Una sola llamada por ticket, sin reintentos

Lo que aprendí

Dos cosas. Ante un componente que no es determinista, no conviene exigir una salida perfecta: conviene hacer tolerante a quien la consume. Y antes de dar por sentado que el modelo se equivocó, hay que revisar si la etiqueta esperada era ambigua — varias veces el problema estaba en la definición, no en el modelo.