ModelVerdict

Elena Arrieta

SpanishEmail9 fields

Document es-p0015 · layout thread · 9 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Email text (the model got exactly this text)

De: Elena Arrieta <elena.arrieta@alimentacion-kr.example>
Para: support@desarrollo-del.example
Fecha: lun., 13 de enero de 2025, 16:08
Asunto: Re: Reclamación

Buenos días:

Les escribimos de nuevo por el asunto que figura más abajo, hasta ahora no ha pasado nada. Estamos realmente decepcionados, es ya la tercera vez que les escribimos por este motivo.

Muchas gracias y un cordial saludo,
Elena Arrieta
Alimentación KR S.A.T.

El mar., 7 de enero de 2025, 16:14, support@desarrollo-del.example escribió:

> Buenos días: su solicitud ha quedado registrada como incidencia n.º 58797, nos pondremos en contacto con usted lo antes posible.
>
> Desarrollo del Mediterráneo S.Coop.

> El mar., 7 de enero de 2025, 13:08, Elena Arrieta <elena.arrieta@alimentacion-kr.example> escribió:

> > Buenos días:
> >
> > La mercancía ha llegado dañada, dos cajas venían aplastadas y el contenido está roto. Número de pedido: PED-2025-74296. El valor de la mercancía reclamada es de 41,12 EUR.
> >
> > Muchas gracias y un cordial saludo,
> > Elena Arrieta
> > Alimentación KR S.A.T.

Verdict

Cheapest without an error: GPT-6 Luna at $0.16 per 1,000 documents.

  • GPT-6 Sol is also error-free but 17.8× more expensive.
  • Mistral Small 4 is 1.4× cheaper, but: wrong value (Priority).
  • Gemma 4 31B is 1× cheaper, but: wrong value (Priority).

Prompt given to every model

Usted clasifica correos electrónicos del servicio de atención al cliente. Lea el correo de abajo y devuelva solo JSON con estas claves:

category        uno de los valores: billing (facturas, pagos, facturación), delivery (dónde está el pedido,
                envío, cambio de dirección), complaint (mercancía dañada, equivocada o defectuosa, reclamación),
                technical (inicio de sesión, errores en la aplicación o el sistema, integraciones), cancellation (anulación
                de un pedido, rescisión de un contrato o una suscripción), sales (consulta, precios, interés antes de la compra)
priority        uno de los valores: urgent, high, normal, low (reglas abajo)
sentiment       uno de los valores: positive, neutral, negative (tono del cliente)
customer_name   nombre completo del cliente que ha escrito la solicitud
order_number    número de pedido del cliente, si se indica
invoice_number  número de factura, si se indica
amount          importe al que se refiere la solicitud (número)
currency        código de la moneda de ese importe según ISO 4217 (EUR, CZK, USD, …)
deadline        fecha hasta la que el cliente quiere una solución o una respuesta (YYYY-MM-DD)

Reglas de prioridad:
- urgent: el cliente no puede trabajar en este momento, o el plazo vence como máximo 1 día después de la fecha del correo
- high: el plazo vence como máximo 7 días después de la fecha del correo, o el cliente amenaza con poner fin
  a la colaboración o con escalar el asunto (abogado)
- low: el cliente escribe expresamente que no corre prisa
- normal: todo lo demás

Reglas:
- Hilo de mensajes: evalúe el mensaje más reciente; los números de pedido y de factura y los importes pueden
  proceder de mensajes anteriores citados. Correo reenviado: el cliente es el remitente original,
  no el compañero que lo ha reenviado.
- Los plazos relativos («para el viernes», «para mañana», «antes de fin de mes») calcúlelos a partir de la fecha
  del mensaje en el que aparecen.
- Los números de incidencia del servicio de atención al cliente, los datos del Registro Mercantil, el CIF/NIF y los
  números de teléfono no son números de pedido ni de factura.
- Si un valor no figura en el correo, devuelva null. No adivine.
- Importes como números con punto decimal, sin separador de miles y sin símbolo de moneda.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueMistral Small 47 / 9 fieldsGemma 4 31B8 / 9 fieldsGPT-6 Luna9 / 9 fieldsQwen3.8 Flash9 / 9 fieldsDeepSeek V4.1 Flash9 / 9 fieldsGemini 3.5 Flash Lite9 / 9 fieldsMistral Medium 3.58 / 9 fieldsGemini 3.8 Flash9 / 9 fieldsGPT-6 Sol9 / 9 fieldsClaude Sonnet 58 / 9 fields
Categorycomplaintcomplaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)complaint (correct)
Prioritynormal highwrong value highwrong valuenormal (correct)normal (correct)normal (correct)normal (correct) highwrong valuenormal (correct)normal (correct) highwrong value
Sentimentnegativenegative (correct)negative (correct)negative (correct)negative (correct)negative (correct)negative (correct)negative (correct)negative (correct)negative (correct)negative (correct)
Customer nameElena ArrietaElena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)Elena Arrieta (correct)
Order numberPED-2025-74296PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)PED-2025-74296 (correct)
Invoice number—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Amount41.1241.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)41.12 (correct)
CurrencyEUREUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)
Deadline— 2025-01-20invented value— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output912 / 90934 / 78988 / 1271,247 / 5881,230 / 385922 / 97912 / 80922 / 531988 / 921,394 / 117
of which hidden reasoningbilled as output006448932700434290
of which from cacheinput billed at a discount550570076876600000
Cost of this documentthis run$0.0001$0.0002$0.0002$0.0004$0.0004$0.0005$0.0020$0.0027$0.0029$0.0040
Per 1,000 documentsfor the same kind of document$0.12$0.16$0.16$0.36$0.36$0.52$1.97$2.68$2.90$3.96
Latencythis run0.8 s1.8 s2.1 s11.3 s5.4 s0.7 s0.9 s2.8 s3.9 s1.9 s