ModelVerdict

Roxana Ibañez Acosta

SpanishText7 fields

Document es-p0027 · layout minutes · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model got exactly this text)

Acta de la reunión

Asistentes: Roxana Ibañez Acosta, Olimpia Hurtado Elías
Por parte del proveedor: Tania Menéndez Colomer S.A., CIF: A23889660, Registro Mercantil de Palma, Hoja PM-680976

1. Se aprueba sin objeciones el presupuesto del próximo trimestre.
2. Roxana Ibañez Acosta preparará una comparativa de ofertas antes de la próxima reunión.
3. Olimpia Hurtado Elías revisará los plazos de entrega.
El acta se ha enviado también a office@tania-menendez.example.

Verdict

Cheapest without an error: Mistral Small 4 at $0.06 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 68.4× more expensive.

Prompt given to every model

Localice en el texto de abajo todos los datos personales de personas físicas (para su anonimización) y devuelva solo JSON
con estas claves, cada una como lista de cadenas (una lista vacía si no hay ninguno):

person_names       nombres completos de personas, cada persona una sola vez, tal como aparecen en el texto
email_addresses    direcciones de correo electrónico de personas
phone_numbers      números de teléfono de personas, tal como aparecen en el texto
postal_addresses   domicilios o direcciones de entrega de personas, tal como aparecen en el texto (calle, localidad, código postal)
birth_dates        fechas de nacimiento (YYYY-MM-DD)
national_ids       números de identificación nacionales (p. ej. DNI, NIE, número de la Seguridad Social)
bank_accounts      números de cuenta bancaria (IBAN) de personas, tal como aparecen en el texto

Reglas:
- Solo datos de personas físicas. Los nombres de empresas, los datos del Registro Mercantil, el CIF y otros números de
  empresas, las direcciones genéricas de empresas como info@ o support@ y los números de pedido y de incidencia no son
  datos personales: omítalos.
- Las fechas que no son fechas de nacimiento (reuniones, entregas, incorporación) no son datos personales.
- No invente ni complete valores; cópielos del texto.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueMistral Small 47 / 7 fieldsGemma 4 31B7 / 7 fieldsGPT-6 Luna7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsGemini 3.5 Flash Lite6 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesRoxana Ibañez Acosta; Olimpia Hurtado ElíasRoxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct) Roxana Ibañez Acosta; Olimpia Hurtado Elías; Tania Menéndez Colomerinvented valueRoxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)Roxana Ibañez Acosta; Olimpia Hurtado Elías (correct)
Email addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Phone numbers—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accounts—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output446 / 60458 / 61547 / 113747 / 408446 / 71736 / 484446 / 64547 / 92446 / 4771,288 / 185
of which hidden reasoningbilled as output0057327042203639390
of which from cacheinput billed at a discount283318051204700000
Cost of this documentthis run$0.0001$0.0001$0.0001$0.0002$0.0003$0.0004$0.0011$0.0020$0.0021$0.0044
Per 1,000 documentsfor the same kind of document$0.06$0.09$0.11$0.24$0.31$0.38$1.15$2.01$2.12$4.43
Latencythis run0.8 s3.4 s1.8 s7.1 s0.9 s6.5 s0.8 s2.4 s2.9 s3.7 s