Albert Blanco
Text e-mailu (model dostal přesně tento text)
De: Albert Blanco <albert.blanco@familia-solsona.example> Para: support@manufacturas-del.example Fecha: jue., 17 de abril de 2025, 14:16 Asunto: No podemos iniciar sesión Estimados señores: Desde esta mañana no podemos iniciar sesión en su portal, la página muestra el error 500. Necesitamos una solución para mañana. Atentamente, Albert Blanco Dirección de Operaciones Familia Solsona S.L. Acceso Marisa Jover, 76 41840 Sevilla Tel.: +34 954 32 00 59 Inscrita en el Registro Mercantil de Sevilla, Tomo 37874, Folio 61, Hoja SE-120480 CIF: B16104614 Este mensaje y sus archivos adjuntos son confidenciales y van dirigidos exclusivamente a su destinatario.
Verdikt
Nejlevnější bez chyby: Mistral Medium 3.5 za 39,05 Kč na 1000 dokladů.
- Gemini 3.8 Flash je také bez chyby, ale 2,2× dražší.
- Mistral Small 4 je 19,9× levnější, ale: špatná hodnota (Nálada).
- Gemma 4 31B je 12,2× levnější, ale: špatná hodnota (Nálada).
- GPT-6 Luna je 11,3× levnější, ale: špatná hodnota (Nálada).
Zadání pro všechny modely
Usted clasifica correos electrónicos del servicio de atención al cliente. Lea el correo de abajo y devuelva solo JSON con estas claves:
category uno de los valores: billing (facturas, pagos, facturación), delivery (dónde está el pedido,
envío, cambio de dirección), complaint (mercancía dañada, equivocada o defectuosa, reclamación),
technical (inicio de sesión, errores en la aplicación o el sistema, integraciones), cancellation (anulación
de un pedido, rescisión de un contrato o una suscripción), sales (consulta, precios, interés antes de la compra)
priority uno de los valores: urgent, high, normal, low (reglas abajo)
sentiment uno de los valores: positive, neutral, negative (tono del cliente)
customer_name nombre completo del cliente que ha escrito la solicitud
order_number número de pedido del cliente, si se indica
invoice_number número de factura, si se indica
amount importe al que se refiere la solicitud (número)
currency código de la moneda de ese importe según ISO 4217 (EUR, CZK, USD, …)
deadline fecha hasta la que el cliente quiere una solución o una respuesta (YYYY-MM-DD)
Reglas de prioridad:
- urgent: el cliente no puede trabajar en este momento, o el plazo vence como máximo 1 día después de la fecha del correo
- high: el plazo vence como máximo 7 días después de la fecha del correo, o el cliente amenaza con poner fin
a la colaboración o con escalar el asunto (abogado)
- low: el cliente escribe expresamente que no corre prisa
- normal: todo lo demás
Reglas:
- Hilo de mensajes: evalúe el mensaje más reciente; los números de pedido y de factura y los importes pueden
proceder de mensajes anteriores citados. Correo reenviado: el cliente es el remitente original,
no el compañero que lo ha reenviado.
- Los plazos relativos («para el viernes», «para mañana», «antes de fin de mes») calcúlelos a partir de la fecha
del mensaje en el que aparecen.
- Los números de incidencia del servicio de atención al cliente, los datos del Registro Mercantil, el CIF/NIF y los
números de teléfono no son números de pedido ni de factura.
- Si un valor no figura en el correo, devuelva null. No adivine.
- Importes como números con punto decimal, sin separador de miles y sin símbolo de moneda.
Jak hodnotíme
Přesná shoda pole po sjednocení formátu data, částek a mezer. Chybějící diakritika se počítá jako chyba. Cena je skutečná útrata za tokeny v tomto běhu, přepočtená kurzem k datu v patičce.
Co z dokladu dostal který model
| Pole | Správná hodnota | Mistral Small 48 / 9 polí | Gemma 4 31B8 / 9 polí | GPT-6 Luna8 / 9 polí | DeepSeek V4.1 Flash8 / 9 polí | Qwen3.8 Flash8 / 9 polí | Gemini 3.5 Flash Lite8 / 9 polí | Mistral Medium 3.59 / 9 polí | GPT-6 Sol9 / 9 polí | Gemini 3.8 Flash9 / 9 polí | Claude Sonnet 58 / 9 polí |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Kategorie | technical | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) | technical (správně) |
| Priorita | urgent | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) | urgent (správně) |
| Nálada | neutral | negativešpatná hodnota | negativešpatná hodnota | negativešpatná hodnota | negativešpatná hodnota | negativešpatná hodnota | negativešpatná hodnota | neutral (správně) | neutral (správně) | neutral (správně) | negativešpatná hodnota |
| Jméno zákazníka | Albert Blanco | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) | Albert Blanco (správně) |
| Číslo objednávky | — | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) |
| Číslo dokladu | — | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) |
| Částka | — | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) |
| Měna | — | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) | — (správně) |
| Termín | 2025-04-18 | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) | 2025-04-18 (správně) |
| Tokeny | vstup / výstup | 792 / 68 | 806 / 67 | 871 / 126 | 1 099 / 279 | 1 120 / 464 | 794 / 87 | 792 / 68 | 871 / 127 | 794 / 833 | 1 200 / 183 |
| z toho skryté přemýšlení | plací se jako výstup | 0 | 0 | 70 | 228 | 376 | 0 | 0 | 71 | 747 | 74 |
| z toho z cache | vstup se slevou | 550 | 570 | 0 | 766 | 768 | 0 | 0 | 0 | 0 | 0 |
| Cena tohoto dokladu | tento běh | 0,0020 Kč | 0,0032 Kč | 0,0035 Kč | 0,0060 Kč | 0,0065 Kč | 0,0105 Kč | 0,0391 Kč | 0,0693 Kč | 0,0855 Kč | 0,0973 Kč |
| Za 1000 dokladů | při stejném typu dokladu | 1,96 Kč | 3,21 Kč | 3,45 Kč | 6,04 Kč | 6,51 Kč | 10,48 Kč | 39,05 Kč | 69,28 Kč | 85,54 Kč | 97,29 Kč |
| Odezva | tento běh | 0,6 s | 2 s | 2,1 s | 4,3 s | 9,6 s | 0,8 s | 1,2 s | 4,5 s | 4,4 s | 3,5 s |