Reinhart Plath, Franz-Peter Berger, Larissa Löffler
Document text (the model received exactly this text)
Von: Reinhart Plath <reinhart.plath@wulf.example> Datum: 31.07.2025 Betreff: ERP-Umstellung – Budget und Termine Hallo zusammen, anbei mein Vorschlag für die nächste Phase des Projekts ERP-Umstellung. Der Leistungsumfang ist gegenüber dem ursprünglichen Auftrag gewachsen, daher schlage ich vor, 5.500 EUR für die Herbstkampagne im Marketing einzuplanen. Zum Vergleich: Im Vorjahr hat uns die Position „Mitarbeiterschulungen“ 6.500 EUR gekostet. Den Termin für den Zwischenbericht würde ich beim 07.10.2025 belassen. Die Angebote der Anbieter liegen bei, das detaillierte Budget ergänze ich nach Ihren Anmerkungen. Bitte geben Sie mir bis Ende der Woche Rückmeldung. Viele Grüße Reinhart Plath ---------- Von: Anna-Maria Käster <anna-maria.kaester@wulf.example> Datum: 01.08.2025 Betreff: AW: ERP-Umstellung – Budget und Termine Hallo Herr Plath, 5.500 EUR kann ich nicht genehmigen, so viel haben wir im Projektbudget nicht. Auch den 07.10.2025 halte ich für unrealistisch, weil noch Zahlen aus der Buchhaltung fehlen. Bevor wir etwas bestätigen, brauche ich ein detaillierteres Budget. Lassen Sie uns das in der nächsten Teambesprechung klären; bitte bringen Sie die Zahlen und einen Angebotsvergleich mit. Anna-Maria Käster ---------- Von: Anna-Maria Käster <anna-maria.kaester@wulf.example> Datum: 06.08.2025 Betreff: AW: ERP-Umstellung – Budget und Termine Hallo zusammen, vielen Dank für die heutige Besprechung und die vorbereiteten Zahlen. Hier die Zusammenfassung dessen, worauf wir uns endgültig geeinigt haben: - Marketingkampagne: 3.500 EUR - Mitarbeiterschulungen: 11.500 EUR - Neuer Termin für den Zwischenbericht: 27.10.2025 Der Vorschlag über 5.500 EUR ist damit vom Tisch, und der ursprüngliche Termin 07.10.2025 gilt nicht mehr. Aufgaben: - Reinhart Plath: Zwischenbericht für die Geschäftsleitung erstellen, Frist: 27.10.2025 - Franz-Peter Berger: Hardware bestellen und Installation organisieren, laufend - Larissa Löffler: Kampagne starten und Inhalte für die Website vorbereiten, laufend Falls ich etwas vergessen habe, geben Sie mir bitte Bescheid. Viele Grüße Anna-Maria Käster
Verdict
Cheapest with no errors: Gemma 4 31B at $0.17 per 1,000 documents.
- Mistral Large 4 is also error-free, but 49.3× more expensive.
Prompt given to every model
Fassen Sie das unten stehende Dokument (Besprechungsprotokoll, Projektstatusbericht oder
E-Mail-Verlauf) in höchstens 80 Wörtern zusammen.
Regeln:
- Nennen Sie alle endgültigen Entscheidungen: die genehmigten Beträge, die geltenden Termine und
die für die Aufgaben verantwortlichen Personen (mit vollem Namen).
- Erwähnen Sie keine abgelehnten Vorschläge und deren Beträge und keine Termine, die geändert
wurden (die ursprünglichen Termine); nennen Sie nur die geltenden Termine.
- Übernehmen Sie Beträge und Daten genau wie im Dokument, runden Sie sie nicht.
- Schreiben Sie in der Sprache des Dokuments, sachlich und in formellem Stil, als Fließtext ohne
Überschriften.
- Geben Sie nur JSON in der Form {"summary": "…"} zurück.
How we score
Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Gemma 4 31B6 / 6 fields | Mistral Small 46 / 6 fields | GPT-6 Luna6 / 6 fields | Claude Haiku 5.56 / 6 fields | DeepSeek V4.1 Flash6 / 6 fields | Gemini 3.5 Flash Lite6 / 6 fields | GLM-5.3 Flash6 / 6 fields | Qwen3.8 Flash6 / 6 fields | Mistral Medium 3.56 / 6 fields | GPT-6 Sol6 / 6 fields | Gemini 3.8 Flash6 / 6 fields | Claude Sonnet 56 / 6 fields | Claude Sonnet 5.56 / 6 fields | Mistral Large 46 / 6 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Amounts | 3500.0; 11500.0 | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) |
| Deadlines | 2025-10-27 | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) |
| Responsible people | Reinhart Plath; Franz-Peter Berger; Larissa Löffler | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) | Reinhart Plath; Franz-Peter Berger; Larissa Löffler (correct) |
| Rejected proposals (must not appear)Amounts from proposals the document rejects. They must not appear in the summary; they would mislead the reader. | 5500.0 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Superseded deadlines (must not appear)Deadlines the document later reschedules. The summary should give only the new deadline. | 2025-10-07 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Length (max words)The summary must not exceed the word limit given in the prompt. | 80 | 54 / 80 (correct) | 49 / 80 (correct) | 48 / 80 (correct) | 54 / 80 (correct) | 50 / 80 (correct) | 69 / 80 (correct) | 58 / 80 (correct) | 51 / 80 (correct) | 37 / 80 (correct) | 56 / 80 (correct) | 62 / 80 (correct) | 50 / 80 (correct) | 60 / 80 (correct) | 59 / 80 (correct) |
| Tokens | input / output | 840 / 123 | 830 / 109 | 762 / 193 | 1,635 / 232 | 926 / 478 | 828 / 151 | 815 / 1,333 | 934 / 1,959 | 830 / 95 | 762 / 229 | 828 / 1,272 | 1,633 / 217 | 1,635 / 232 | 766 / 3,682 |
| including hidden reasoning | billed as output | 0 | 0 | 92 | 0 | 358 | 0 | 1,090 | 1,844 | 0 | 116 | 1,138 | 0 | 0 | 3,261 |
| including cached input | input billed at a discount | 203 | 165 | 0 | 0 | 154 | 0 | 0 | 256 | 0 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0002 | $0.0002 | $0.0002 | $0.0003 | $0.0005 | $0.0006 | $0.0008 | $0.0010 | $0.0020 | $0.0038 | $0.0054 | $0.0054 | $0.0056 | $0.0082 |
| Per 1,000 documents | for documents of this type | $0.17 | $0.17 | $0.17 | $0.28 | $0.49 | $0.63 | $0.79 | $1.03 | $1.96 | $3.81 | $5.39 | $5.44 | $5.59 | $8.22 |
| Latency | this run | 4.6 s | 1.2 s | 3.3 s | 2 s | 7 s | 1 s | 9.4 s | 26.3 s | 1 s | 5.9 s | 5.6 s | 2.9 s | 2.4 s | 51.4 s |