Šimon Beran
Texto del correo (el modelo recibió exactamente este texto)
Od: Šimon Beran <simon.beran@pospisilova-tesar.example> Komu: support@nemec.example Datum: po 29. 6. 2026 v 10:29 Předmět: Problém se systémem Dobrý den, vážení, po poslední aktualizaci nefunguje napojení na náš účetní systém. Potřebujeme to mít vyřízené nejpozději zítra. S pozdravem Šimon Beran Pospíšilová Tesař a.s.
Veredicto
El más barato sin errores: Qwen3.8 Flash, a 0,34 € por cada 1000 documentos.
- Claude Sonnet 5 tampoco comete errores, pero es 12,3× más caro.
- Mistral Small 4 es 5× más barato, pero: valor incorrecto (Sentimiento).
- Gemma 4 31B es 2,7× más barato, pero: valor incorrecto (Sentimiento).
- GPT-6 Luna es 2,5× más barato, pero: valor incorrecto (Sentimiento).
Prompt enviado a todos los modelos
Třídíte e-maily zákaznické podpory. Přečtěte si e-mail níže a vraťte pouze JSON s těmito klíči:
category jedna z hodnot: billing (faktury, platby, vyúčtování), delivery (kde je objednávka,
doprava, změna adresy), complaint (poškozené, chybné nebo vadné zboží, reklamace),
technical (přihlášení, chyby aplikace či systému, napojení), cancellation (zrušení
objednávky, výpověď smlouvy či předplatného), sales (poptávka, ceny, zájem před nákupem)
priority jedna z hodnot: urgent, high, normal, low (pravidla níže)
sentiment jedna z hodnot: positive, neutral, negative (tón zákazníka)
customer_name celé jméno zákazníka, který požadavek napsal
order_number číslo objednávky zákazníka, pokud je uvedeno
invoice_number číslo faktury, pokud je uvedeno
amount částka, které se požadavek týká (číslo)
currency kód měny té částky podle ISO 4217 (CZK, EUR, USD, …)
deadline datum, do kdy zákazník chce vyřešení nebo odpověď (YYYY-MM-DD)
Pravidla priority:
- urgent: zákazník teď nemůže pracovat, nebo je termín nejvýše 1 den po datu e-mailu
- high: termín je nejvýše 7 dní po datu e-mailu, nebo zákazník hrozí ukončením spolupráce
či eskalací (právník)
- low: zákazník výslovně píše, že to nespěchá
- normal: vše ostatní
Pravidla:
- Vlákno: hodnoťte nejnovější zprávu; čísla objednávek, faktur a částky mohou pocházet z citovaných
starších zpráv. Přeposlaný e-mail: zákazníkem je původní odesílatel, ne kolega, který ho přeposlal.
- Relativní termíny („do pátku“, „zítra“, „do konce měsíce“) přepočtěte vůči datu zprávy,
která je uvádí.
- Čísla tiketů podpory, IČO, DIČ a telefonní čísla nejsou čísla objednávek ani faktur.
- Pokud hodnota v e-mailu není, vraťte null. Nehádejte.
- Částky jako čísla s desetinnou tečkou, bez oddělovačů tisíců a bez symbolu měny.
Cómo puntuamos
Coincidencia exacta por campo tras normalizar fechas, importes y espacios. La falta de diacríticos cuenta como error. El coste es el gasto real en tokens de esta ejecución, convertido al tipo de cambio indicado en el pie de página.
Lo que extrajo cada modelo
| Campo | Valor correcto | Mistral Small 48 / 9 campos | Gemma 4 31B8 / 9 campos | GPT-6 Luna8 / 9 campos | DeepSeek V4.1 Flash8 / 9 campos | Qwen3.8 Flash9 / 9 campos | Gemini 3.5 Flash Lite8 / 9 campos | Mistral Medium 3.59 / 9 campos | Gemini 3.8 Flash9 / 9 campos | GPT-6 Sol9 / 9 campos | Claude Sonnet 59 / 9 campos |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Categoría | technical | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) | technical (correcto) |
| Prioridad | urgent | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) | urgent (correcto) |
| Sentimiento | neutral | negativevalor incorrecto | negativevalor incorrecto | negativevalor incorrecto | negativevalor incorrecto | neutral (correcto) | negativevalor incorrecto | neutral (correcto) | neutral (correcto) | neutral (correcto) | neutral (correcto) |
| Nombre del cliente | Šimon Beran | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) | Šimon Beran (correcto) |
| Número de pedido | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Número de factura | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Importe | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Moneda | — | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) | — (correcto) |
| Plazo | 2026-06-30 | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) | 2026-06-30 (correcto) |
| Tokens | entrada / salida | 783 / 70 | 786 / 69 | 894 / 120 | 1097 / 190 | 1094 / 657 | 774 / 89 | 783 / 70 | 774 / 490 | 894 / 98 | 1051 / 244 |
| de ellos, razonamiento oculto | se factura como salida | 0 | 0 | 62 | 124 | 567 | 0 | 0 | 401 | 40 | 133 |
| de ellos, desde caché | entrada con descuento | 630 | 642 | 0 | 838 | 768 | 0 | 630 | 0 | 0 | 0 |
| Coste de este documento | esta ejecución | 0,0001 € | 0,0001 € | 0,0001 € | 0,0002 € | 0,0003 € | 0,0004 € | 0,0016 € | 0,0022 € | 0,0025 € | 0,0042 € |
| Por cada 1000 documentos | para el mismo tipo de documento | 0,07 € | 0,13 € | 0,14 € | 0,17 € | 0,34 € | 0,42 € | 1,56 € | 2,22 € | 2,55 € | 4,18 € |
| Latencia | esta ejecución | 1,3 s | 2 s | 2,7 s | 3,1 s | 15 s | 1 s | 0,7 s | 2,3 s | 2,6 s | 4,4 s |