Carola Lehmann
Text (the model got exactly this text)
Guten Tag, anbei die versprochenen Unterlagen zur Bestellung BE-2026-90618. Den Liefertermin bestätigen wir für den 19.08.2026. Mit freundlichen Grüßen Carola Lehmann Kranz Harloff KG, Amtsgericht Köln, HRB 282283, USt-IdNr.: DE730234145 Mobil: 0152 19217059 E-Mail: carola.lehmann@post.example Allgemeine Anfragen: support@kranz-harloff.example
Verdict
Cheapest without an error: Gemma 4 31B at $0.09 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 45.2× more expensive.
Prompt given to every model
Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt): person_names vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben email_addresses E-Mail-Adressen von Personen phone_numbers Telefonnummern von Personen, wie im Text geschrieben postal_addresses Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ) birth_dates Geburtsdaten (YYYY-MM-DD) national_ids nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer) bank_accounts Bankkontonummern (IBAN) von Personen, wie im Text geschrieben Regeln: - Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine personenbezogenen Daten: lassen Sie sie weg. - Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten. - Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Gemma 4 31B7 / 7 fields | GPT-6 Luna7 / 7 fields | Mistral Small 47 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite7 / 7 fields | Mistral Medium 3.57 / 7 fields | Gemini 3.8 Flash7 / 7 fields | GPT-6 Sol7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Names | Carola Lehmann | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) | Carola Lehmann (correct) |
| Email addresses | carola.lehmann@post.example | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) | carola.lehmann@post.example (correct) |
| Phone numbers | 0152 19217059 | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) | 0152 19217059 (correct) |
| Addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Tokens | input / output | 461 / 72 | 532 / 108 | 453 / 69 | 709 / 244 | 753 / 691 | 449 / 105 | 453 / 72 | 449 / 257 | 532 / 82 | 1,341 / 154 |
| of which hidden reasoning | billed as output | 0 | 48 | 0 | 180 | 590 | 0 | 0 | 196 | 22 | 58 |
| of which from cache | input billed at a discount | 308 | 0 | 0 | 456 | 512 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0001 | $0.0002 | $0.0004 | $0.0004 | $0.0012 | $0.0013 | $0.0019 | $0.0042 |
| Per 1,000 documents | for the same kind of document | $0.09 | $0.11 | $0.11 | $0.22 | $0.37 | $0.40 | $1.22 | $1.30 | $1.88 | $4.22 |
| Latency | this run | 2.4 s | 2.6 s | 0.8 s | 2.9 s | 13.2 s | 0.8 s | 0.8 s | 2.1 s | 2.5 s | 3.4 s |