Marc Dupré
Text (the model got exactly this text)
Ticket n° 18606 · Réclamation Client : Marc Dupré E-mail : marc.dupre@mail.example Téléphone : 07 77 26 55 20 Adresse de livraison : boulevard Susan Brun, 56617 Dupontboeuf Le client signale que la marchandise de la commande CMD-2026-64406 est arrivée endommagée et demande un remplacement. Tout remboursement éventuel est à effectuer sur le compte FR7612506546558191375580076. Ticket pris en charge par : Raymond Lacombe.
Verdict
Cheapest without an error: Mistral Small 4 at $0.10 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 39.7× more expensive.
Prompt given to every model
Trouvez dans le texte ci-dessous toutes les données personnelles de personnes physiques (en vue de l'anonymisation) et renvoyez uniquement du JSON avec ces clés, chacune sous forme de liste de chaînes (une liste vide s'il n'y en a pas) : person_names noms complets des personnes, chaque personne une seule fois, tels qu'écrits dans le texte email_addresses adresses e-mail des personnes phone_numbers numéros de téléphone des personnes, tels qu'écrits dans le texte postal_addresses adresses personnelles ou de livraison des personnes, telles qu'écrites dans le texte (rue, ville, code postal) birth_dates dates de naissance (YYYY-MM-DD) national_ids numéros d'identification nationaux (p. ex. numéro de sécurité sociale) bank_accounts numéros de compte bancaire (IBAN) des personnes, tels qu'écrits dans le texte Règles : - Uniquement les données de personnes physiques. Les noms de sociétés, les numéros RCS, SIREN et SIRET, les numéros de TVA et autres numéros de sociétés, les adresses génériques de sociétés comme info@ ou support@, les numéros de commande et de ticket ne sont pas des données personnelles : omettez-les. - Les dates qui ne sont pas des dates de naissance (réunions, livraisons, embauche) ne sont pas des données personnelles. - N'inventez et ne complétez aucune valeur ; reprenez-les du texte.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 47 / 7 fields | GPT-6 Luna7 / 7 fields | Gemma 4 31B7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite7 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Gemini 3.8 Flash7 / 7 fields | Mistral Medium 3.57 / 7 fields | GPT-6 Sol7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Names | Marc Dupré; Raymond Lacombe | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) | Marc Dupré; Raymond Lacombe (correct) |
| Email addresses | marc.dupre@mail.example | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) | marc.dupre@mail.example (correct) |
| Phone numbers | 07 77 26 55 20 | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) | 07 77 26 55 20 (correct) |
| Addresses | boulevard Susan Brun, 56617 Dupontboeuf | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) | boulevard Susan Brun, 56617 Dupontboeuf (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | FR7612506546558191375580076 | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) | FR7612506546558191375580076 (correct) |
| Tokens | input / output | 489 / 120 | 579 / 146 | 514 / 167 | 811 / 584 | 502 / 142 | 767 / 1,166 | 502 / 284 | 489 / 122 | 579 / 128 | 1,327 / 143 |
| of which hidden reasoning | billed as output | 0 | 56 | 0 | 420 | 0 | 1,069 | 179 | 0 | 38 | 0 |
| of which from cache | input billed at a discount | 315 | 0 | 352 | 512 | 0 | 506 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0001 | $0.0003 | $0.0005 | $0.0008 | $0.0014 | $0.0016 | $0.0024 | $0.0041 |
| Per 1,000 documents | for the same kind of document | $0.10 | $0.13 | $0.14 | $0.33 | $0.51 | $0.83 | $1.44 | $1.65 | $2.44 | $4.08 |
| Latency | this run | 1 s | 2.1 s | 7.2 s | 12.4 s | 1 s | 15.3 s | 2.5 s | 1.1 s | 2.8 s | 2.1 s |