Mamen Sabater
Email text (the model got exactly this text)
De: Mamen Sabater <mamen.sabater@construccion-yma.example> Para: support@fabrica-lasa.example Fecha: mié., 29 de octubre de 2025, 16:00 Asunto: Re: Error en la facturación Hola, Nos remitimos a nuestro correo anterior, más abajo, y seguimos esperando una solución. Por lo demás, estamos muy satisfechos con su servicio, siempre nos han ayudado con rapidez. Necesitamos una solución como muy tarde el 23 de noviembre. Saludos cordiales, Mamen Sabater Construcción YMA S.Coop. El lun., 27 de octubre de 2025, 17:54, support@fabrica-lasa.example escribió: > Buenos días: su solicitud ha quedado registrada como incidencia n.º 11234, nos pondremos en contacto con usted lo antes posible. > > Fábrica Lasa & Asociados S.A. > El lun., 27 de octubre de 2025, 16:00, Mamen Sabater <mamen.sabater@construccion-yma.example> escribió: > > Hola, > > > > En su última factura el importe no es correcto, nos han cobrado una partida más de las que hemos recibido. Número de factura: F104829. Se trata de un importe de 43,87 €. > > > > Saludos cordiales, > > Mamen Sabater > > Construcción YMA S.Coop.
Verdict
Cheapest without an error: Gemma 4 31B at $0.16 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 28× more expensive.
- Mistral Small 4 is 1.4× cheaper, but: wrong value (Priority).
Prompt given to every model
Usted clasifica correos electrónicos del servicio de atención al cliente. Lea el correo de abajo y devuelva solo JSON con estas claves:
category uno de los valores: billing (facturas, pagos, facturación), delivery (dónde está el pedido,
envío, cambio de dirección), complaint (mercancía dañada, equivocada o defectuosa, reclamación),
technical (inicio de sesión, errores en la aplicación o el sistema, integraciones), cancellation (anulación
de un pedido, rescisión de un contrato o una suscripción), sales (consulta, precios, interés antes de la compra)
priority uno de los valores: urgent, high, normal, low (reglas abajo)
sentiment uno de los valores: positive, neutral, negative (tono del cliente)
customer_name nombre completo del cliente que ha escrito la solicitud
order_number número de pedido del cliente, si se indica
invoice_number número de factura, si se indica
amount importe al que se refiere la solicitud (número)
currency código de la moneda de ese importe según ISO 4217 (EUR, CZK, USD, …)
deadline fecha hasta la que el cliente quiere una solución o una respuesta (YYYY-MM-DD)
Reglas de prioridad:
- urgent: el cliente no puede trabajar en este momento, o el plazo vence como máximo 1 día después de la fecha del correo
- high: el plazo vence como máximo 7 días después de la fecha del correo, o el cliente amenaza con poner fin
a la colaboración o con escalar el asunto (abogado)
- low: el cliente escribe expresamente que no corre prisa
- normal: todo lo demás
Reglas:
- Hilo de mensajes: evalúe el mensaje más reciente; los números de pedido y de factura y los importes pueden
proceder de mensajes anteriores citados. Correo reenviado: el cliente es el remitente original,
no el compañero que lo ha reenviado.
- Los plazos relativos («para el viernes», «para mañana», «antes de fin de mes») calcúlelos a partir de la fecha
del mensaje en el que aparecen.
- Los números de incidencia del servicio de atención al cliente, los datos del Registro Mercantil, el CIF/NIF y los
números de teléfono no son números de pedido ni de factura.
- Si un valor no figura en el correo, devuelva null. No adivine.
- Importes como números con punto decimal, sin separador de miles y sin símbolo de moneda.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 47 / 9 fields | Gemma 4 31B9 / 9 fields | GPT-6 Luna9 / 9 fields | Qwen3.8 Flash9 / 9 fields | Gemini 3.5 Flash Lite9 / 9 fields | DeepSeek V4.1 Flash9 / 9 fields | Mistral Medium 3.57 / 9 fields | Gemini 3.8 Flash9 / 9 fields | GPT-6 Sol9 / 9 fields | Claude Sonnet 59 / 9 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Category | billing | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) | billing (correct) |
| Priority | normal | highwrong value | normal (correct) | normal (correct) | normal (correct) | normal (correct) | normal (correct) | highwrong value | normal (correct) | normal (correct) | normal (correct) |
| Sentiment | positive | neutralwrong value | positive (correct) | positive (correct) | positive (correct) | positive (correct) | positive (correct) | neutralwrong value | positive (correct) | positive (correct) | positive (correct) |
| Customer name | Mamen Sabater | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) | Mamen Sabater (correct) |
| Order number | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Invoice number | F104829 | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) | F104829 (correct) |
| Amount | 43.87 | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) | 43.87 (correct) |
| Currency | EUR | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) |
| Deadline | 2025-11-23 | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) | 2025-11-23 (correct) |
| Tokens | input / output | 922 / 83 | 938 / 82 | 998 / 166 | 1,254 / 816 | 926 / 102 | 1,236 / 838 | 922 / 83 | 926 / 468 | 998 / 133 | 1,389 / 182 |
| of which hidden reasoning | billed as output | 0 | 0 | 104 | 713 | 0 | 781 | 0 | 366 | 71 | 63 |
| of which from cache | input billed at a discount | 550 | 570 | 0 | 768 | 0 | 766 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0002 | $0.0002 | $0.0005 | $0.0005 | $0.0007 | $0.0020 | $0.0024 | $0.0033 | $0.0046 |
| Per 1,000 documents | for the same kind of document | $0.11 | $0.16 | $0.18 | $0.47 | $0.53 | $0.66 | $2.01 | $2.45 | $3.33 | $4.60 |
| Latency | this run | 0.7 s | 2.3 s | 2.4 s | 15.5 s | 0.7 s | 12.4 s | 0.9 s | 2.7 s | 6.7 s | 2.5 s |