ModelVerdict

Marc Dupré

FrenchText7 fields

Document fr-p0006 · layout ticket · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model got exactly this text)

Ticket n° 18606 · Réclamation

Client : Marc Dupré
E-mail : marc.dupre@mail.example
Téléphone : 07 77 26 55 20
Adresse de livraison : boulevard Susan Brun, 56617 Dupontboeuf

Le client signale que la marchandise de la commande CMD-2026-64406 est arrivée endommagée et demande un remplacement.
Tout remboursement éventuel est à effectuer sur le compte FR7612506546558191375580076.
Ticket pris en charge par : Raymond Lacombe.

Verdict

Cheapest without an error: Mistral Small 4 at $0.10 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 39.7× more expensive.

Prompt given to every model

Trouvez dans le texte ci-dessous toutes les données personnelles de personnes physiques (en vue de l'anonymisation) et renvoyez uniquement du JSON
avec ces clés, chacune sous forme de liste de chaînes (une liste vide s'il n'y en a pas) :

person_names       noms complets des personnes, chaque personne une seule fois, tels qu'écrits dans le texte
email_addresses    adresses e-mail des personnes
phone_numbers      numéros de téléphone des personnes, tels qu'écrits dans le texte
postal_addresses   adresses personnelles ou de livraison des personnes, telles qu'écrites dans le texte (rue, ville, code postal)
birth_dates        dates de naissance (YYYY-MM-DD)
national_ids       numéros d'identification nationaux (p. ex. numéro de sécurité sociale)
bank_accounts      numéros de compte bancaire (IBAN) des personnes, tels qu'écrits dans le texte

Règles :
- Uniquement les données de personnes physiques. Les noms de sociétés, les numéros RCS, SIREN et SIRET, les numéros de TVA
  et autres numéros de sociétés, les adresses génériques de sociétés comme info@ ou support@, les numéros de commande et de
  ticket ne sont pas des données personnelles : omettez-les.
- Les dates qui ne sont pas des dates de naissance (réunions, livraisons, embauche) ne sont pas des données personnelles.
- N'inventez et ne complétez aucune valeur ; reprenez-les du texte.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueMistral Small 47 / 7 fieldsGPT-6 Luna7 / 7 fieldsGemma 4 31B7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsGemini 3.5 Flash Lite7 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesMarc Dupré; Raymond LacombeMarc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)Marc Dupré; Raymond Lacombe (correct)
Email addressesmarc.dupre@mail.examplemarc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)marc.dupre@mail.example (correct)
Phone numbers07 77 26 55 2007 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)07 77 26 55 20 (correct)
Addressesboulevard Susan Brun, 56617 Dupontboeufboulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)boulevard Susan Brun, 56617 Dupontboeuf (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accountsFR7612506546558191375580076FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)FR7612506546558191375580076 (correct)
Tokensinput / output489 / 120579 / 146514 / 167811 / 584502 / 142767 / 1,166502 / 284489 / 122579 / 1281,327 / 143
of which hidden reasoningbilled as output056042001,0691790380
of which from cacheinput billed at a discount315035251205060000
Cost of this documentthis run$0.0001$0.0001$0.0001$0.0003$0.0005$0.0008$0.0014$0.0016$0.0024$0.0041
Per 1,000 documentsfor the same kind of document$0.10$0.13$0.14$0.33$0.51$0.83$1.44$1.65$2.44$4.08
Latencythis run1 s2.1 s7.2 s12.4 s1 s15.3 s2.5 s1.1 s2.8 s2.1 s