ModelVerdict

Juan Hethur

GermanDocument6 fields

Document de-p0002 · layout status · 6 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Document text (the model received exactly this text)

Projektstatusbericht – ERP-Umstellung
Berichtszeitraum: 27.05.2026 – 10.06.2026
Erstellt von: Gerlinde Kruschwitz, Projektleiterin
Seite 1 von 3

1. Gesamtstatus
Der Gesamtstatus ist gelb: Die Arbeiten laufen, aber ein Meilenstein verschiebt sich. Das Budget ist unter Kontrolle.

Im Berichtszeitraum erledigt:
- Anforderungsanalyse abgeschlossen und mit den Key Usern abgestimmt,
- Testumgebung eingerichtet und erste Abnahmetests durchgeführt,
- Risikoregister und Kommunikationsplan aktualisiert,
- alle offenen Anfragen aus dem Vorzeitraum bis auf eine abgeschlossen.

2. Budget und Änderungen
Der Lenkungsausschuss hat folgende Beträge genehmigt:
- Hardwarebeschaffung: 11.500 €
- Mitarbeiterschulungen: 24.000 €

Änderungsantrag CR-16: Nuray Winkler beantragte eine Erhöhung des Betrags für Laptops und Monitore für die neuen Mitarbeitenden auf 16.000 €. Der Lenkungsausschuss hat den Antrag abgelehnt; es bleibt bei den genehmigten 11.500 €.
Zum Vergleich: Im Vorjahr kostete die Position „Mitarbeiterschulungen“ 18.500 €.

3. Zeitplan
Der ursprüngliche Termin für die Ausschreibung am 23.08.2026 verschiebt sich auf den 15.09.2026, weil die Rechtsabteilung die Unterlagen noch prüft. Der Lenkungsausschuss hat die Verschiebung genehmigt, der ursprüngliche Termin gilt nicht mehr.

4. Nächste Schritte
- Ausschreibung für den Dienstleister veröffentlichen – verantwortlich: Juan Hethur, Frist: 15.09.2026
- Kampagne starten und Inhalte für die Website vorbereiten – verantwortlich: Juan Hethur, Frist: 26.07.2026

5. Risiken
Ein Risiko ist die Auslastung der internen Kapazitäten. Die Geschäftsleitung ist informiert und hat zusätzliche Unterstützung zugesagt.

6. Kommunikation
Die Key User wurden im regelmäßigen Anwendertreffen über die Änderungen informiert. Aktuelle Informationen zum Projekt stehen im Intranet, Fragen bitte an das Projektteam.

Der nächste Statusbericht folgt nach der Sitzung des Lenkungsausschusses am 17.06.2026.

Verdict

Cheapest with no errors: Gemma 4 31B at $0.15 per 1,000 documents.

  • Claude Sonnet 5.5 is also error-free, but 38.7× more expensive.

Prompt given to every model

Fassen Sie das unten stehende Dokument (Besprechungsprotokoll, Projektstatusbericht oder
E-Mail-Verlauf) in höchstens 80 Wörtern zusammen.

Regeln:
- Nennen Sie alle endgültigen Entscheidungen: die genehmigten Beträge, die geltenden Termine und
  die für die Aufgaben verantwortlichen Personen (mit vollem Namen).
- Erwähnen Sie keine abgelehnten Vorschläge und deren Beträge und keine Termine, die geändert
  wurden (die ursprünglichen Termine); nennen Sie nur die geltenden Termine.
- Übernehmen Sie Beträge und Daten genau wie im Dokument, runden Sie sie nicht.
- Schreiben Sie in der Sprache des Dokuments, sachlich und in formellem Stil, als Fließtext ohne
  Überschriften.
- Geben Sie nur JSON in der Form {"summary": "…"} zurück.

How we score

Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B6 / 6 fieldsMistral Small 46 / 6 fieldsGPT-6 Luna6 / 6 fieldsClaude Haiku 5.56 / 6 fieldsGemini 3.5 Flash Lite6 / 6 fieldsDeepSeek V4.1 Flash6 / 6 fieldsGLM-5.3 Flash6 / 6 fieldsQwen3.8 Flash6 / 6 fieldsMistral Medium 3.56 / 6 fieldsGemini 3.8 Flash6 / 6 fieldsGPT-6 Sol6 / 6 fieldsMistral Large 46 / 6 fieldsClaude Sonnet 56 / 6 fieldsClaude Sonnet 5.56 / 6 fields
Amounts11500.0; 24000.011500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)11500; 24000 (correct)
Deadlines2026-09-15; 2026-07-262026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)2026-09-15; 2026-07-26 (correct)
Responsible peopleJuan HethurJuan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)Juan Hethur (correct)
Rejected proposals (must not appear)Amounts from proposals the document rejects. They must not appear in the summary; they would mislead the reader.16000.0— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Superseded deadlines (must not appear)Deadlines the document later reschedules. The summary should give only the new deadline.2026-08-23— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Length (max words)The summary must not exceed the word limit given in the prompt.8037 / 80 (correct)45 / 80 (correct)36 / 80 (correct)63 / 80 (correct)58 / 80 (correct)47 / 80 (correct)62 / 80 (correct)30 / 80 (correct)24 / 80 (correct)47 / 80 (correct)63 / 80 (correct)39 / 80 (correct)58 / 80 (correct)62 / 80 (correct)
Tokensinput / output777 / 105763 / 126710 / 2501,545 / 776765 / 147867 / 663771 / 1,235868 / 2,038763 / 84765 / 1,149710 / 375695 / 2,2651,543 / 2511,545 / 275
including hidden reasoningbilled as output0016052705351,0571,94401,0362261,99400
including cached inputinput billed at a discount316500000256000000
Cost of this documentthis run$0.0002$0.0002$0.0002$0.0005$0.0006$0.0006$0.0007$0.0011$0.0018$0.0049$0.0052$0.0052$0.0056$0.0058
Per 1,000 documentsfor documents of this type$0.15$0.17$0.20$0.54$0.60$0.63$0.73$1.05$1.77$4.88$5.17$5.21$5.60$5.84
Latencythis run2.2 s1.3 s3.4 s5.2 s1.1 s8 s11.9 s28.3 s0.9 s5.1 s8.6 s54.2 s2.8 s3.4 s

Log in with email

We use your email only to log you in (and for the digest if you tick it). No spam.