Fritz Rogner
Text (the model got exactly this text)
Guten Tag, anbei die versprochenen Unterlagen zur Bestellung BE-2026-07591. Den Liefertermin bestätigen wir so bald wie möglich. In Kopie ist meine Kollegin Urszula Mälzer, die sich bei Ihnen melden wird. Mit freundlichen Grüßen Fritz Rogner Henschel Gorlitz AG, Amtsgericht Köln, HRB 15728, USt-IdNr.: DE898732445 E-Mail: fritz.rogner@mail.example
Verdict
Cheapest without an error: Mistral Small 4 at $0.06 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 76× more expensive.
Prompt given to every model
Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt): person_names vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben email_addresses E-Mail-Adressen von Personen phone_numbers Telefonnummern von Personen, wie im Text geschrieben postal_addresses Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ) birth_dates Geburtsdaten (YYYY-MM-DD) national_ids nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer) bank_accounts Bankkontonummern (IBAN) von Personen, wie im Text geschrieben Regeln: - Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine personenbezogenen Daten: lassen Sie sie weg. - Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten. - Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 47 / 7 fields | Gemma 4 31B7 / 7 fields | GPT-6 Luna7 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite6 / 7 fields | Mistral Medium 3.57 / 7 fields | GPT-6 Sol7 / 7 fields | Gemini 3.8 Flash7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Names | Fritz Rogner; Urszula Mälzer | Fritz Rogner; Urszula Mälzer (correct) | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rognerwrong value | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rogner (correct) | Urszula Mälzer; Fritz Rogner (correct) | Fritz Rogner; Urszula Mälzer (correct) |
| Email addresses | fritz.rogner@mail.example | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) | fritz.rogner@mail.example (correct) |
| Phone numbers | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Tokens | input / output | 432 / 65 | 442 / 67 | 523 / 94 | 701 / 211 | 733 / 633 | 430 / 104 | 432 / 69 | 523 / 58 | 430 / 376 | 1,346 / 213 |
| of which hidden reasoning | billed as output | 0 | 0 | 34 | 146 | 542 | 0 | 0 | 0 | 320 | 113 |
| of which from cache | input billed at a discount | 299 | 330 | 0 | 476 | 512 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0001 | $0.0002 | $0.0003 | $0.0004 | $0.0012 | $0.0016 | $0.0017 | $0.0048 |
| Per 1,000 documents | for the same kind of document | $0.06 | $0.09 | $0.10 | $0.19 | $0.34 | $0.39 | $1.17 | $1.63 | $1.73 | $4.82 |
| Latency | this run | 1 s | 1 s | 2.2 s | 2.5 s | 14.2 s | 0.7 s | 0.8 s | 1.7 s | 2 s | 7.3 s |