ModelVerdict

Rosi Karz

GermanText7 fields

Document de-p0003 · layout minutes · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model received exactly this text)

Besprechungsprotokoll vom 12.01.2026

Anwesend: Rosi Karz, Tino Niemeier, Walli Drubin, Faruk Christoph
Für den Lieferanten: Renner, Amtsgericht Düsseldorf, HRB 61928, USt-IdNr.: DE810401466

1. Das Budget für das nächste Quartal wurde ohne Einwände genehmigt.
2. Rosi Karz erstellt bis zur nächsten Besprechung einen Angebotsvergleich.
   Bei Rückfragen erreichbar unter 0152 39191211.
3. Tino Niemeier prüft die Liefertermine.
Protokoll auch versendet an support@renner.example.

Verdict

Cheapest with no errors: Gemma 4 31B at $0.10 per 1,000 documents.

  • Claude Sonnet 5 is also error-free, but 53.2× more expensive.

Prompt given to every model

Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON
mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt):

person_names       vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben
email_addresses    E-Mail-Adressen von Personen
phone_numbers      Telefonnummern von Personen, wie im Text geschrieben
postal_addresses   Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ)
birth_dates        Geburtsdaten (YYYY-MM-DD)
national_ids       nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer)
bank_accounts      Bankkontonummern (IBAN) von Personen, wie im Text geschrieben

Regeln:
- Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von
  Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine
  personenbezogenen Daten: lassen Sie sie weg.
- Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten.
- Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.

How we score

Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B7 / 7 fieldsMistral Small 46 / 7 fieldsGPT-6 Luna7 / 7 fieldsClaude Haiku 5.57 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsGLM-5.3 Flash7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsGemini 3.5 Flash Lite6 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsMistral Large 47 / 7 fieldsClaude Sonnet 5.57 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesRosi Karz; Tino Niemeier; Walli Drubin; Faruk ChristophRosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct) Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph; Rennerextra valueRosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct) Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph; Rennerextra valueRosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)Rosi Karz; Tino Niemeier; Walli Drubin; Faruk Christoph (correct)
Email addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Phone numbers0152 391912110152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)0152 39191211 (correct)
Addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accounts—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output489 / 81479 / 83564 / 1571,407 / 108748 / 330460 / 438778 / 817477 / 120479 / 82564 / 99477 / 525633 / 1,0731,407 / 1081,405 / 256
including hidden reasoningbilled as output0091026036570700334579760148
including cached inputinput billed at a discount300045605120000000
Cost of this documentthis run$0.0001$0.0001$0.0001$0.0002$0.0003$0.0003$0.0004$0.0004$0.0013$0.0021$0.0023$0.0027$0.0039$0.0054
Per 1,000 documentsfor documents of this type$0.10$0.12$0.13$0.19$0.29$0.29$0.43$0.44$1.33$2.12$2.33$2.67$3.89$5.37
Latencythis run1.5 s1 s2.6 s1.9 s3.1 s6.8 s12.7 s1.2 s0.8 s2.7 s2.7 s29.7 s1.7 s4.8 s

Log in with email

We use your email only to log you in (and for the digest if you tick it). No spam.