ModelVerdict

Ján Vávra

CzechText7 fields

Document cs-p0031 · layout minutes · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model got exactly this text)

Zápis z porady ze dne 7. 3. 2026

Přítomni: Ján Vávra, Dobroslav Kubíček, Libor Mach
Za dodavatele: Holub o.s., IČO: 75843724, DIČ: CZ75843724

1. Rozpočet na příští kvartál byl schválen bez připomínek.
2. Ján Vávra připraví srovnání nabídek do příští porady.
   V případě dotazů je k zastižení na čísle 758 358 133.
3. Dobroslav Kubíček ověří termíny dodání.

Verdict

Cheapest without an error: GPT-6 Luna at $0.11 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 39.5× more expensive.

Prompt given to every model

Najděte v textu níže všechny osobní údaje fyzických osob (pro anonymizaci) a vraťte pouze JSON
s těmito klíči, každý jako seznam řetězců (prázdný seznam, když žádný není):

person_names       celá jména osob, každou osobu jednou, jak jsou v textu
email_addresses    e-mailové adresy osob
phone_numbers      telefonní čísla osob, jak jsou v textu
postal_addresses   adresy bydliště nebo doručení osob, jak jsou v textu (ulice, obec, PSČ)
birth_dates        data narození (YYYY-MM-DD)
national_ids       národní identifikační čísla (např. rodné číslo, SSN)
bank_accounts      čísla bankovních účtů osob, jak jsou v textu

Pravidla:
- Jen údaje fyzických osob. Názvy firem, IČO, DIČ a jiná čísla firem, obecné firemní adresy jako
  info@ nebo support@, čísla objednávek a tiketů nejsou osobní údaje: vynechte je.
- Data, která nejsou datem narození (porady, dodání, nástup), nejsou osobní údaje.
- Hodnoty nevymýšlejte ani nedoplňujte; opište je z textu.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGPT-6 Luna7 / 7 fieldsGemma 4 31B7 / 7 fieldsMistral Small 47 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsGemini 3.5 Flash Lite7 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesJán Vávra; Dobroslav Kubíček; Libor MachJán Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)Ján Vávra; Dobroslav Kubíček; Libor Mach (correct)
Email addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Phone numbers758 358 133758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)758 358 133 (correct)
Addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accounts—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output597 / 97493 / 107489 / 74759 / 170805 / 460481 / 82489 / 78597 / 94481 / 4851,223 / 183
of which hidden reasoningbilled as output3500101356003242283
of which from cacheinput billed at a discount0316048651200000
Cost of this documentthis run$0.0001$0.0001$0.0001$0.0002$0.0003$0.0003$0.0013$0.0021$0.0022$0.0043
Per 1,000 documentsfor the same kind of document$0.11$0.11$0.12$0.18$0.27$0.35$1.32$2.13$2.18$4.28
Latencythis run1.6 s9.9 s0.9 s2.5 s7 s0.8 s0.8 s2.1 s1.9 s3.6 s