Delia Heidrich
Text (the model got exactly this text)
Guten Tag, anbei die versprochenen Unterlagen zur Bestellung BE-2026-02587. Den Liefertermin bestätigen wir für den 22.04.2026. Mit freundlichen Grüßen Delia Heidrich Mangold Dörr KG, Amtsgericht Stuttgart, HRB 30801, USt-IdNr.: DE252392310 E-Mail: delia.heidrich@post.example Allgemeine Anfragen: office@mangold-doerr.example
Verdict
Cheapest without an error: Mistral Small 4 at $0.06 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 68.3× more expensive.
Prompt given to every model
Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt): person_names vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben email_addresses E-Mail-Adressen von Personen phone_numbers Telefonnummern von Personen, wie im Text geschrieben postal_addresses Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ) birth_dates Geburtsdaten (YYYY-MM-DD) national_ids nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer) bank_accounts Bankkontonummern (IBAN) von Personen, wie im Text geschrieben Regeln: - Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine personenbezogenen Daten: lassen Sie sie weg. - Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten. - Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 47 / 7 fields | Gemma 4 31B7 / 7 fields | GPT-6 Luna7 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite7 / 7 fields | Mistral Medium 3.57 / 7 fields | Gemini 3.8 Flash7 / 7 fields | GPT-6 Sol7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Names | Delia Heidrich | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) | Delia Heidrich (correct) |
| Email addresses | delia.heidrich@post.example | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) | delia.heidrich@post.example (correct) |
| Phone numbers | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Tokens | input / output | 434 / 57 | 443 / 59 | 521 / 91 | 698 / 242 | 734 / 393 | 431 / 86 | 434 / 61 | 431 / 213 | 521 / 75 | 1,331 / 151 |
| of which hidden reasoning | billed as output | 0 | 0 | 37 | 184 | 312 | 0 | 0 | 164 | 21 | 62 |
| of which from cache | input billed at a discount | 283 | 308 | 0 | 476 | 512 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0001 | $0.0002 | $0.0002 | $0.0003 | $0.0011 | $0.0011 | $0.0018 | $0.0042 |
| Per 1,000 documents | for the same kind of document | $0.06 | $0.09 | $0.10 | $0.21 | $0.23 | $0.34 | $1.11 | $1.12 | $1.79 | $4.17 |
| Latency | this run | 0.9 s | 3.5 s | 2.9 s | 4.6 s | 8.7 s | 0.7 s | 0.7 s | 1.6 s | 2.7 s | 3.4 s |