ModelVerdict

Jérôme Aubry, Simone Vaillant, Sylvie Blondel

FrenchDocument6 fields

Document fr-p0006 · layout thread · 6 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Document text (the model received exactly this text)

De : Sylvie Blondel <sylvie.blondel@imbert-berger.example>
Date : 26/06/2025
Objet : Site de Lyon – budget et échéances

Bonjour à tous,

Voici ma proposition pour la prochaine phase du projet Site de Lyon. Le périmètre a augmenté par rapport à la commande initiale ; je propose donc de prévoir 6 000 € pour le réaménagement des bureaux du deuxième étage. Pour comparaison, le poste « Achat de matériel » nous a coûté 12 500 € l'année dernière. Pour le début de la formation, je conserverais la date du 01/08/2025.

Les offres des prestataires sont jointes ; je compléterai le budget détaillé après vos remarques. Merci de me répondre d'ici la fin de la semaine.

Bien cordialement,
Sylvie Blondel

----------

De : Alice Guyon <alice.guyon@imbert-berger.example>
Date : 27/06/2025
Objet : RE : Site de Lyon – budget et échéances

Bonjour Madame Blondel,

Je ne peux pas approuver 6 000 €, le budget du projet ne le permet pas. La date du 01/08/2025 me paraît également irréaliste, car le formateur n'est pas disponible à la date initiale. Avant de confirmer quoi que ce soit, j'ai besoin d'un budget plus détaillé. Réglons cela lors de la prochaine réunion d'équipe ; merci d'apporter les chiffres et une comparaison des offres.

Alice Guyon

----------

De : Alice Guyon <alice.guyon@imbert-berger.example>
Date : 02/07/2025
Objet : RE : Site de Lyon – budget et échéances

Bonjour à tous,

Merci pour la réunion d'aujourd'hui et pour les chiffres préparés. Voici le résumé de ce que nous avons définitivement convenu :
- Réaménagement des bureaux : 4 500 €
- Achat de matériel : 17 500 €
- Logiciel comptable : 22 000 €
- Nouvelle date pour le début de la formation : 23/08/2025

La proposition de 6 000 € est donc écartée, et la date initiale du 01/08/2025 n'est plus valable.

Actions :
- Jérôme Aubry : organiser la formation et envoyer les invitations, échéance : 23/08/2025
- Simone Vaillant : rédiger le rapport intermédiaire pour la direction, en continu
- Sylvie Blondel : commander le matériel et organiser l'installation, en continu

Si j'ai oublié quelque chose, merci de me le signaler.

Bien cordialement,
Alice Guyon

Verdict

Cheapest with no errors: Gemma 4 31B at $0.18 per 1,000 documents.

  • Mistral Large 4 is also error-free, but 35.5× more expensive.

Prompt given to every model

Résumez le document ci-dessous (compte rendu de réunion, rapport d'avancement de projet ou fil
d'e-mails) en 80 mots au maximum.

Règles :
- Mentionnez toutes les décisions définitives : les montants approuvés, les échéances en vigueur
  et les personnes responsables des actions (avec leur nom complet).
- Ne mentionnez ni les propositions rejetées ni leurs montants, ni les échéances qui ont été
  modifiées (les dates initiales) ; indiquez uniquement les échéances en vigueur.
- Reprenez les montants et les dates exactement comme dans le document, sans les arrondir.
- Rédigez dans la langue du document, de manière factuelle et dans un registre formel, sous forme
  de texte continu sans titres.
- Renvoyez uniquement du JSON sous la forme {"summary": "…"}.

How we score

Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.

Free with login

Every model's output for this document, field by field. The first three examples of each task are open.

Just your email, no password.

Log in with email

We use your email only to log you in (and for the digest if you tick it). No spam.