ModelVerdict

Aguirre Formación S.L. · 2025/0652

SpanishClean image13 fields

Document es-p0025 · layout es-L01 · 13 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Aguirre Formación S.L. · 2025/0652

Verdict

Cheapest without an error: Gemma 4 31B at $0.18 per 1,000 documents.

  • GPT-6 Sol is also error-free but 83.9× more expensive.

Prompt given to every model

Extraiga del documento adjunto los siguientes datos y devuelva exclusivamente un JSON con estas claves:

supplier_name      Nombre o razón social del emisor de la factura (exactamente como figura en el documento, incluidos acentos y forma jurídica)
supplier_id        NIF del emisor (en empresas también llamado CIF, p. ej. B12345674; en autónomos, DNI con letra), sin el prefijo de país «ES»
vat_id             NIF-IVA (número de IVA intracomunitario, «ES» + NIF) del emisor, solo si figura como tal en el documento
invoice_number     Número de factura (o del documento)
payment_reference  Concepto o referencia que debe indicarse al realizar el pago
issue_date         Fecha de expedición de la factura (YYYY-MM-DD)
tax_point_date     Fecha de operación (fecha de devengo del IVA) (YYYY-MM-DD)
due_date           Fecha de vencimiento (YYYY-MM-DD)
net_by_rate        Base imponible por tipo de IVA, p. ej. {"21": 18450.00, "10": 1200.00}
vat_by_rate        Cuota de IVA por tipo, p. ej. {"21": 3874.50}
total              Importe total de la factura / importe a pagar (número, negativo en facturas rectificativas que abonan un importe)
currency           Moneda según ISO 4217 (EUR, USD, …)
bank_account       IBAN del emisor

Reglas:
- No devuelva datos del cliente (destinatario), solo los del emisor.
- Si un dato no figura en el documento, devuelva null. No invente nada.
- Si el documento no contiene desglose del IVA (operación exenta, factura proforma), devuelva net_by_rate y vat_by_rate como null.
- Importes como números con punto decimal, sin separadores de miles y sin moneda.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B13 / 13 fieldsMistral Small 411 / 13 fieldsDeepSeek V4.1 Flash13 / 13 fieldsGPT-6 Luna13 / 13 fieldsGemini 3.5 Flash Lite13 / 13 fieldsQwen3.8 Flash0 / 13 fieldsGemini 3.8 Flash13 / 13 fieldsMistral Medium 3.513 / 13 fieldsClaude Sonnet 513 / 13 fieldsGPT-6 Sol13 / 13 fields
SupplierAguirre Formación S.L.Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct) nullinvalid JSONAguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)Aguirre Formación S.L. (correct)
Supplier ID (EIN, IČO…)B06347298B06347298 (correct)B06347298 (correct)B06347298 (correct)B06347298 (correct)B06347298 (correct) nullinvalid JSONB06347298 (correct)B06347298 (correct)B06347298 (correct)B06347298 (correct)
VAT ID—— (correct) ESB06347298invented value— (correct)— (correct)— (correct) nullinvalid JSON— (correct)— (correct)— (correct)— (correct)
Invoice number2025/06522025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct) nullinvalid JSON2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)
Payment reference2025/06522025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct) nullinvalid JSON2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)2025/0652 (correct)
Invoice date2025-09-132025-09-13 (correct)2025-09-13 (correct)2025-09-13 (correct)2025-09-13 (correct)2025-09-13 (correct) nullinvalid JSON2025-09-13 (correct)2025-09-13 (correct)2025-09-13 (correct)2025-09-13 (correct)
Tax point—— (correct) 2025-09-13invented value— (correct)— (correct)— (correct) nullinvalid JSON— (correct)— (correct)— (correct)— (correct)
Due date2025-10-132025-10-13 (correct)2025-10-13 (correct)2025-10-13 (correct)2025-10-13 (correct)2025-10-13 (correct) nullinvalid JSON2025-10-13 (correct)2025-10-13 (correct)2025-10-13 (correct)2025-10-13 (correct)
Net by tax rate—— (correct)— (correct)— (correct)— (correct)— (correct) nullinvalid JSON— (correct)— (correct)— (correct)— (correct)
Tax by rate—— (correct)— (correct)— (correct)— (correct)— (correct) nullinvalid JSON— (correct)— (correct)— (correct)— (correct)
Total11754.0711754.07 (correct)11754.07 (correct)11754.07 (correct)11754.07 (correct)11754.07 (correct) nullinvalid JSON11754.07 (correct)11754.07 (correct)11754.07 (correct)11754.07 (correct)
CurrencyEUREUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct) nullinvalid JSONEUR (correct)EUR (correct)EUR (correct)EUR (correct)
Bank accountES4800494910852965385460ES48 0049 4910 8529 6538 5460 (correct)ES4800494910852965385460 (correct)ES48 0049 4910 8529 6538 5460 (correct)ES4800494910852965385460 (correct)ES4800494910852965385460 (correct) nullinvalid JSONES48 0049 4910 8529 6538 5460 (correct)ES4800494910852965385460 (correct)ES4800494910852965385460 (correct)ES48 0049 4910 8529 6538 5460 (correct)
Tokensinput / output743 / 1852,649 / 1891,795 / 4655,193 / 2051,555 / 2083,326 / 1,2141,555 / 1,0502,649 / 1695,420 / 2005,193 / 196
of which hidden reasoningbilled as output002799101,2108370074
of which from cacheinput billed at a discount4660664003,2000000
Cost of this documentthis run$0.0002$0.0005$0.0006$0.0008$0.0010$0.0014$0.0051$0.0052$0.0128$0.0149
Per 1,000 documentsfor the same kind of document$0.18$0.51$0.56$0.75$0.99$1.37$5.10$5.24$12.84$14.94
Latencythis run7.5 s1.9 s6.3 s3.7 s1.5 s18.5 s5.3 s2.6 s3.5 s6.7 s