Sommer Systemtechnik GmbH · Neumann Logistik GmbH
Contract text (the model got exactly this text)
WARTUNGSVERTRAG § 1 Vertragsparteien Sommer Systemtechnik GmbH Gutenbergstraße 180, 44868 Dortmund, Deutschland Handelsregister: 761/8164/1333 USt-IdNr.: DE709142822 vertreten durch den Geschäftsführer Franjo Eberhardt – nachfolgend „Auftragnehmer“ genannt – und Neumann Logistik GmbH Am Hafen 123, 30257 Hannover Handelsregister: 92/529/70267 USt-IdNr.: DE175783330 – nachfolgend „Auftraggeber“ genannt – § 2 Begriffsbestimmungen (1) „Vertrag“ bezeichnet diesen Vertrag einschließlich aller Anlagen. (2) „Vertrauliche Informationen“ sind alle nicht öffentlich bekannten geschäftlichen und technischen Informationen. (3) „Werktag“ ist jeder Tag von Montag bis Freitag mit Ausnahme gesetzlicher Feiertage. § 3 Vertragsgegenstand Der Auftragnehmer übernimmt die regelmäßige Wartung und Instandhaltung der raumlufttechnischen Anlagen in den Liegenschaften des Auftraggebers, einschließlich zweier vorbeugender Inspektionen pro Jahr. § 4 Vergütung und Zahlung (1) Die Wartungspauschale beträgt jährlich 41.190,00 € netto zzgl. 19 % USt. (brutto 49.016,10 €). (2) Rechnungen sind innerhalb von 14 Tagen nach Rechnungsdatum ohne Abzug zahlbar. § 5 Laufzeit und Kündigung (1) Dieser Vertrag tritt zum Ersten des auf die Unterzeichnung folgenden Kalendermonats in Kraft. (2) Der Vertrag wird auf unbestimmte Zeit geschlossen. (3) Jede Vertragspartei kann den Vertrag ohne Angabe von Gründen mit einer Frist von einem (1) Monat zum Monatsende schriftlich kündigen. (4) Das Recht zur außerordentlichen Kündigung aus wichtigem Grund bleibt unberührt. § 6 Vertraulichkeit (1) Die Vertragsparteien verpflichten sich, alle vertraulichen Informationen der jeweils anderen Partei streng geheim zu halten. (2) Für jeden Fall der schuldhaften Zuwiderhandlung zahlt die verletzende Partei eine Vertragsstrafe in Höhe von 5.000,00 €. § 7 Schlussbestimmungen (1) Es gilt das Recht der Bundesrepublik Deutschland. (2) Ausschließlicher Gerichtsstand ist Nördlingen. (3) Änderungen und Ergänzungen dieses Vertrages bedürfen der Schriftform. (4) Sollte eine Bestimmung dieses Vertrages unwirksam sein, bleibt die Wirksamkeit der übrigen Bestimmungen unberührt. Ort, Datum: Nördlingen, 27.11.2025 Auftragnehmer: ____________________ Auftraggeber: ____________________
Verdict
Cheapest without an error: Mistral Small 4 at $0.20 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 36.4× more expensive.
Prompt given to every model
Extrahieren Sie die wesentlichen Bedingungen des nachstehenden Vertrages und geben Sie nur JSON mit diesen Schlüsseln zurück:
provider_name die leistende Partei (Auftragnehmer, Verkäufer, Vermieter, Lizenzgeber),
genau wie angegeben, einschließlich der Rechtsform
provider_id Registernummer dieser Partei (z. B. Handelsregisternummer), sofern angegeben
client_name die zahlende Partei (Auftraggeber, Käufer, Mieter, Lizenznehmer)
client_id Registernummer dieser Partei, sofern angegeben
contract_type einer der Werte: services, supply, lease, license, maintenance
price vereinbarter Preis ohne Umsatzsteuer (Zahl)
currency Währungscode nach ISO 4217 (EUR, CHF, USD, …)
price_period einer der Werte: one_time, monthly, yearly
effective_date Datum des Inkrafttretens des Vertrages (YYYY-MM-DD)
end_date Ende einer festen Laufzeit (YYYY-MM-DD); null, wenn der Vertrag auf
unbestimmte Zeit geschlossen ist
notice_period_months Kündigungsfrist in Monaten (Zahl); null, wenn es keine gibt
penalty_pct_per_day Vertragsstrafe für Zahlungsverzug in Prozent des offenen Betrags pro Tag
(z. B. 0.05 für 0,05 %); null, wenn es keine gibt
governing_law Ländercode des anwendbaren Rechts nach ISO 3166 (z. B. DE); US-Bundesstaaten
als US-XX
Regeln:
- Relative Daten („mit Unterzeichnung“, „zum Ersten des folgenden Monats“) bezogen auf das
Datum der Unterzeichnung umrechnen.
- Das Datum der Unterzeichnung ist nicht das Datum des Inkrafttretens, sofern der Vertrag dies
nicht ausdrücklich bestimmt.
- Anzahlung, Kaution und feste Vertragsstrafen für andere Verstöße sind weder der Preis noch die
Vertragsstrafe für Zahlungsverzug.
- Steht ein Wert nicht im Vertrag, null zurückgeben. Nicht raten.
- Beträge als Zahlen mit Dezimalpunkt, ohne Tausendertrennzeichen und ohne Währungssymbol.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 413 / 13 fields | Gemma 4 31B13 / 13 fields | GPT-6 Luna13 / 13 fields | DeepSeek V4.1 Flash13 / 13 fields | Qwen3.8 Flash13 / 13 fields | Gemini 3.5 Flash Lite13 / 13 fields | Gemini 3.8 Flash13 / 13 fields | Mistral Medium 3.513 / 13 fields | GPT-6 Sol13 / 13 fields | Claude Sonnet 513 / 13 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Provider | Sommer Systemtechnik GmbH | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) | Sommer Systemtechnik GmbH (correct) |
| Provider ID | 761/8164/1333 | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) | 761/8164/1333 (correct) |
| Client | Neumann Logistik GmbH | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) | Neumann Logistik GmbH (correct) |
| Client ID | 92/529/70267 | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) | 92/529/70267 (correct) |
| Contract type | maintenance | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) | maintenance (correct) |
| Price (net) | 41190.00 | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) | 41190.00 (correct) |
| Currency | EUR | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) | EUR (correct) |
| Billing period | yearly | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) | yearly (correct) |
| Effective date | 2025-12-01 | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) | 2025-12-01 (correct) |
| End date | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Notice period (months) | 1 | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) | 1 (correct) |
| Late-payment penalty (% per day) | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Governing law | DE | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) | DE (correct) |
| Tokens | input / output | 1,159 / 151 | 1,214 / 152 | 1,251 / 203 | 1,592 / 346 | 1,566 / 868 | 1,202 / 181 | 1,202 / 478 | 1,159 / 151 | 1,251 / 109 | 2,112 / 311 |
| of which hidden reasoning | billed as output | 0 | 0 | 54 | 239 | 696 | 0 | 299 | 0 | 0 | 109 |
| of which from cache | input billed at a discount | 467 | 532 | 0 | 792 | 768 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0002 | $0.0002 | $0.0003 | $0.0004 | $0.0005 | $0.0008 | $0.0027 | $0.0029 | $0.0042 | $0.0073 |
| Per 1,000 documents | for the same kind of document | $0.20 | $0.23 | $0.26 | $0.41 | $0.54 | $0.81 | $2.69 | $2.87 | $4.22 | $7.33 |
| Latency | this run | 2.2 s | 2 s | 2.9 s | 4.2 s | 16.8 s | 1 s | 2.2 s | 1.2 s | 2.3 s | 4.1 s |