Lucas Santiago
Texto del correo (el modelo recibió exactamente este texto)
De: Lucas Santiago <lucas.santiago@camps-antunez.example> Para: support@talleres-guillen.example Fecha: mar., 28 de julio de 2026, 15:47 Asunto: Consulta sobre la factura Buenos días: En su última factura el importe no es correcto, nos han cobrado una partida más de las que hemos recibido. Se trata de un importe de 63 €. Por lo demás, estamos muy satisfechos con su servicio, siempre nos han ayudado con rapidez. Necesitamos una solución a más tardar el 30/07/2026. Saludos cordiales, Lucas Santiago Dirección de Operaciones Camps y Antúnez S.L.N.E Rambla de Arturo Olivera, 45 48733 Bilbao Tel.: +34 94 999 44 50 Inscrita en el Registro Mercantil de Bilbao, Tomo 35192, Folio 189, Hoja BI-598028 CIF: B52839289 Este mensaje y sus archivos adjuntos son confidenciales y van dirigidos exclusivamente a su destinatario.
Veredicto
El más barato sin errores: GPT-6 Sol, a 2,71 € por cada 1000 documentos.
- Gemini 3.8 Flash tampoco comete errores, pero es 1,5× más caro.
- Gemma 4 31B es 19,8× más barato, pero: valor incorrecto (Prioridad).
- Mistral Small 4 es 17,2× más barato, pero: valor incorrecto (Sentimiento).
- GPT-6 Luna es 16,3× más barato, pero: valor incorrecto (Sentimiento).
Prompt enviado a todos los modelos
Usted clasifica correos electrónicos del servicio de atención al cliente. Lea el correo de abajo y devuelva solo JSON con estas claves:
category uno de los valores: billing (facturas, pagos, facturación), delivery (dónde está el pedido,
envío, cambio de dirección), complaint (mercancía dañada, equivocada o defectuosa, reclamación),
technical (inicio de sesión, errores en la aplicación o el sistema, integraciones), cancellation (anulación
de un pedido, rescisión de un contrato o una suscripción), sales (consulta, precios, interés antes de la compra)
priority uno de los valores: urgent, high, normal, low (reglas abajo)
sentiment uno de los valores: positive, neutral, negative (tono del cliente)
customer_name nombre completo del cliente que ha escrito la solicitud
order_number número de pedido del cliente, si se indica
invoice_number número de factura, si se indica
amount importe al que se refiere la solicitud (número)
currency código de la moneda de ese importe según ISO 4217 (EUR, CZK, USD, …)
deadline fecha hasta la que el cliente quiere una solución o una respuesta (YYYY-MM-DD)
Reglas de prioridad:
- urgent: el cliente no puede trabajar en este momento, o el plazo vence como máximo 1 día después de la fecha del correo
- high: el plazo vence como máximo 7 días después de la fecha del correo, o el cliente amenaza con poner fin
a la colaboración o con escalar el asunto (abogado)
- low: el cliente escribe expresamente que no corre prisa
- normal: todo lo demás
Reglas:
- Hilo de mensajes: evalúe el mensaje más reciente; los números de pedido y de factura y los importes pueden
proceder de mensajes anteriores citados. Correo reenviado: el cliente es el remitente original,
no el compañero que lo ha reenviado.
- Los plazos relativos («para el viernes», «para mañana», «antes de fin de mes») calcúlelos a partir de la fecha
del mensaje en el que aparecen.
- Los números de incidencia del servicio de atención al cliente, los datos del Registro Mercantil, el CIF/NIF y los
números de teléfono no son números de pedido ni de factura.
- Si un valor no figura en el correo, devuelva null. No adivine.
- Importes como números con punto decimal, sin separador de miles y sin símbolo de moneda.
Cómo puntuamos
Coincidencia exacta por campo tras normalizar fechas, importes y espacios. La falta de diacríticos cuenta como error. El coste es el gasto real en tokens de esta ejecución, convertido al tipo de cambio indicado en el pie de página.
Lo que extrajo cada modelo
| Campo | Valor correcto | Gemma 4 31B8 / 9 campos | Mistral Small 48 / 9 campos | GPT-6 Luna8 / 9 campos | Qwen3.8 Flash8 / 9 campos | Gemini 3.5 Flash Lite7 / 9 campos | Mistral Medium 3.57 / 9 campos | GPT-6 Sol9 / 9 campos | Gemini 3.8 Flash9 / 9 campos | Claude Sonnet 58 / 9 campos |
|---|---|---|---|---|---|---|---|---|---|---|
| Categoría | billing | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) | billing (correcto) |
| Prioridad | high | urgentvalor incorrecto | high (correcto) | high (correcto) | urgentvalor incorrecto | urgentvalor incorrecto | urgentvalor incorrecto | high (correcto) | high (correcto) | high (correcto) |
| Sentimiento | positive | positive (correcto) | negativevalor incorrecto | negativevalor incorrecto | positive (correcto) | neutralvalor incorrecto | neutralvalor incorrecto | positive (correcto) | positive (correcto) | neutralvalor incorrecto |
| Nombre del cliente | Lucas Santiago | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) | Lucas Santiago (correcto) |
| Número de pedido | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Número de factura | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Importe | 63.00 | 63.00 (correcto) | 63 (correcto) | 63 (correcto) | 63.00 (correcto) | 63.00 (correcto) | 63 (correcto) | 63 (correcto) | 63 (correcto) | 63.00 (correcto) |
| Moneda | EUR | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) | EUR (correcto) |
| Plazo | 2026-07-30 | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) | 2026-07-30 (correcto) |
| Tokens | entrada / salida | 857 / 72 | 854 / 71 | 921 / 177 | 1175 / 746 | 845 / 92 | 854 / 72 | 921 / 110 | 845 / 978 | 1275 / 358 |
| de ellos, razonamiento oculto | se factura como salida | 0 | 0 | 121 | 652 | 0 | 0 | 54 | 924 | 243 |
| de ellos, desde caché | entrada con descuento | 570 | 0 | 0 | 768 | 0 | 502 | 0 | 0 | 0 |
| Coste de este documento | esta ejecución | 0,0001 € | 0,0002 € | 0,0002 € | 0,0004 € | 0,0004 € | 0,0017 € | 0,0027 € | 0,0040 € | 0,0056 € |
| Por cada 1000 documentos | para el mismo tipo de documento | 0,14 € | 0,16 € | 0,17 € | 0,39 € | 0,44 € | 1,68 € | 2,71 € | 3,96 € | 5,64 € |
| Latencia | esta ejecución | 1,4 s | 0,8 s | 4,5 s | 13,7 s | 0,7 s | 0,9 s | 4,1 s | 4,6 s | 6,1 s |