ModelVerdict

Schmitt & Roth GmbH · RE2500150

GermanPhoto13 fields

Document de-p0039 · layout de-L01 · 13 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Schmitt & Roth GmbH · RE2500150

Verdict

Cheapest without an error: GPT-6 Luna at $0.48 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 45.9× more expensive.
  • Gemma 4 31B is 2.5× cheaper, but: wrong value (VAT ID).

Prompt given to every model

Entnimm dem beigefügten Beleg die folgenden Angaben und gib ausschließlich JSON mit diesen Schlüsseln zurück:

supplier_name      Name des Rechnungsstellers (genau wie auf dem Beleg, einschließlich Umlauten und Rechtsform)
supplier_id        Steuernummer des Rechnungsstellers (nicht die USt-IdNr. und nicht die Handelsregisternummer)
vat_id             Umsatzsteuer-Identifikationsnummer (USt-IdNr.) des Rechnungsstellers
invoice_number     Belegnummer
payment_reference  Verwendungszweck, der bei der Zahlung anzugeben ist
issue_date         Rechnungsdatum (YYYY-MM-DD)
tax_point_date     Liefer- bzw. Leistungsdatum (YYYY-MM-DD)
due_date           Fälligkeitsdatum bzw. „zahlbar bis“ (YYYY-MM-DD)
net_by_rate        Nettobetrag nach Umsatzsteuersätzen, z. B. {"19": 18450.00, "7": 1200.00}
vat_by_rate        Umsatzsteuer nach Sätzen, z. B. {"19": 3505.50}
total              Gesamtbetrag / Zahlbetrag (Zahl, bei Gutschriften negativ)
currency           Währung nach ISO 4217 (EUR, CHF, …)
bank_account       IBAN des Rechnungsstellers

Regeln:
- Gib keine Angaben des Rechnungsempfängers zurück, nur die des Rechnungsstellers.
- Steht eine Angabe nicht auf dem Beleg, gib null zurück. Erfinde nichts.
- Enthält der Beleg keine Aufschlüsselung der Umsatzsteuer (Kleinunternehmer, Anzahlungsanforderung), gib net_by_rate und vat_by_rate als null zurück.
- Beträge als Zahlen mit Dezimalpunkt, ohne Tausendertrennzeichen und ohne Währung.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B11 / 13 fieldsGPT-6 Luna13 / 13 fieldsMistral Small 412 / 13 fieldsDeepSeek V4.1 Flash13 / 13 fieldsGemini 3.5 Flash Lite13 / 13 fieldsQwen3.8 Flash13 / 13 fieldsMistral Medium 3.513 / 13 fieldsGemini 3.8 Flash13 / 13 fieldsGPT-6 Sol13 / 13 fieldsClaude Sonnet 513 / 13 fields
SupplierSchmitt & Roth GmbHSchmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)Schmitt & Roth GmbH (correct)
Supplier ID (EIN, IČO…)—— (correct)— (correct) DE127438483invented value— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
VAT IDDE216468353 DE164683532wrong valueDE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)DE216468353 (correct)
Invoice numberRE2500150RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)
Payment referenceRE2500150RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)RE2500150 (correct)
Invoice date2025-03-072025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)
Tax point2025-03-072025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)2025-03-07 (correct)
Due date2025-03-222025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)2025-03-22 (correct)
Net by tax rate19 %: 3101.00, 7 %: 232.6919 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)19 %: 3101.00, 7 %: 232.69 (correct)
Tax by rate19 %: 589.19, 7 %: 16.2919 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)19 %: 589.19, 7 %: 16.29 (correct)
Total3939.173939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)3939.17 (correct)
CurrencyEUREUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)
Bank accountDE89500105172500328114 DE89 5001 0517 2500 3201 14wrong valueDE89500105172500328114 (correct)DE89500105172500328114 (correct)DE89 5001 0517 2500 3281 14 (correct)DE89500105172500328114 (correct)DE89 5001 0517 2500 3281 14 (correct)DE89500105172500328114 (correct)DE89500105172500328114 (correct)DE89 5001 0517 2500 3281 14 (correct)DE89 5001 0517 2500 3281 14 (correct)
Tokensinput / output723 / 2312,768 / 2682,733 / 2251,721 / 6351,535 / 2682,620 / 1,9322,733 / 2151,535 / 1,3002,768 / 3043,241 / 1,554
of which hidden reasoningbilled as output0131037601,67001,0331591,308
of which from cacheinput billed at a discount4460064406400000
Cost of this documentthis run$0.0002$0.0005$0.0005$0.0007$0.0011$0.0012$0.0057$0.0060$0.0100$0.0220
Per 1,000 documentsfor the same kind of document$0.19$0.48$0.54$0.66$1.13$1.22$5.71$6.03$9.96$22.02
Latencythis run11.8 s3 s2.5 s8 s1.5 s22.1 s4.1 s5 s5 s16 s