ModelVerdict

Vicente Pujol Sabater

SpanishText7 fields

Document es-p0039 · layout minutes · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model got exactly this text)

Acta de la reunión del 02/02/2026

Asistentes: Vicente Pujol Sabater, Nicanor Valentín Escobar

1. Se aprueba sin objeciones el presupuesto del próximo trimestre.
2. Vicente Pujol Sabater preparará una comparativa de ofertas antes de la próxima reunión.
3. Nicanor Valentín Escobar revisará los plazos de entrega.
El acta se ha enviado también a office@servicios-otgb.example.

Verdict

Cheapest without an error: Gemma 4 31B at $0.08 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 48.7× more expensive.

Prompt given to every model

Localice en el texto de abajo todos los datos personales de personas físicas (para su anonimización) y devuelva solo JSON
con estas claves, cada una como lista de cadenas (una lista vacía si no hay ninguno):

person_names       nombres completos de personas, cada persona una sola vez, tal como aparecen en el texto
email_addresses    direcciones de correo electrónico de personas
phone_numbers      números de teléfono de personas, tal como aparecen en el texto
postal_addresses   domicilios o direcciones de entrega de personas, tal como aparecen en el texto (calle, localidad, código postal)
birth_dates        fechas de nacimiento (YYYY-MM-DD)
national_ids       números de identificación nacionales (p. ej. DNI, NIE, número de la Seguridad Social)
bank_accounts      números de cuenta bancaria (IBAN) de personas, tal como aparecen en el texto

Reglas:
- Solo datos de personas físicas. Los nombres de empresas, los datos del Registro Mercantil, el CIF y otros números de
  empresas, las direcciones genéricas de empresas como info@ o support@ y los números de pedido y de incidencia no son
  datos personales: omítalos.
- Las fechas que no son fechas de nacimiento (reuniones, entregas, incorporación) no son datos personales.
- No invente ni complete valores; cópielos del texto.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B7 / 7 fieldsGPT-6 Luna7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsGemini 3.5 Flash Lite6 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesVicente Pujol Sabater; Nicanor Valentín EscobarVicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct) Vicente Pujol Sabater; Nicanor Valentín Escobarwrong valueVicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct)Vicente Pujol Sabater; Nicanor Valentín Escobar (correct)
Email addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Phone numbers—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accounts—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output424 / 59521 / 88716 / 347412 / 93704 / 632411 / 62521 / 53412 / 3791,237 / 157
of which hidden reasoningbilled as output03326705710033063
of which from cacheinput billed at a discount31505120468267000
Cost of this documentthis run$0.0001$0.0001$0.0002$0.0004$0.0005$0.0011$0.0016$0.0017$0.0040
Per 1,000 documentsfor the same kind of document$0.08$0.10$0.20$0.36$0.47$1.08$1.57$1.73$4.04
Latencythis run2.9 s2.3 s6.7 s1 s7.6 s0.7 s2 s2 s3.6 s