Lorenzo Giménez, Vicenta Crespo, Agustín Valls
Document text (the model received exactly this text)
De: Vicenta Crespo <vicenta.crespo@castell-asociados.example> Fecha: 31/07/2025 Asunto: Migración del ERP – presupuesto y plazos Hola a todos: Os envío mi propuesta para la siguiente fase del proyecto Migración del ERP. El alcance ha crecido respecto al encargo original, por lo que propongo reservar 5.500 € para la campaña de marketing de otoño. A modo de comparación, la partida «Formación del personal» nos costó 6.500 € el año pasado. Para el informe intermedio mantendría la fecha del 07/10/2025. Adjunto las ofertas de los proveedores; completaré el presupuesto detallado cuando reciba vuestros comentarios. Os agradecería una respuesta antes del final de la semana. Un saludo, Vicenta Crespo ---------- De: Andrés Domingo <andres.domingo@castell-asociados.example> Fecha: 01/08/2025 Asunto: RE: Migración del ERP – presupuesto y plazos Estimada Sra. Crespo: No puedo aprobar 5.500 €; el presupuesto del proyecto no da para tanto. La fecha del 07/10/2025 también me parece poco realista, porque todavía faltan cifras de contabilidad. Antes de confirmar nada necesito un presupuesto más detallado. Tratémoslo en la próxima reunión del equipo; le ruego que traiga las cifras y una comparación de las ofertas. Andrés Domingo ---------- De: Andrés Domingo <andres.domingo@castell-asociados.example> Fecha: 06/08/2025 Asunto: RE: Migración del ERP – presupuesto y plazos Hola a todos: Gracias por la reunión de hoy y por las cifras preparadas. Este es el resumen de lo que hemos acordado definitivamente: - Campaña de marketing: 3.500 € - Formación del personal: 11.500 € - Nueva fecha para el informe intermedio: 27/10/2025 La propuesta de 5.500 € queda por tanto descartada y la fecha original del 07/10/2025 ya no es válida. Tareas: - Lorenzo Giménez: elaborar el informe intermedio para la dirección, plazo: 27/10/2025 - Vicenta Crespo: pedir los equipos y organizar la instalación, en curso - Agustín Valls: lanzar la campaña y preparar los contenidos de la web, en curso Si se me ha olvidado algo, por favor avisadme. Un saludo, Andrés Domingo
Verdict
Cheapest with no errors: GPT-6 Luna at $0.15 per 1,000 documents.
- Gemini 3.8 Flash is also error-free, but 57.6× more expensive.
Prompt given to every model
Resuma el documento siguiente (acta de reunión, informe de estado del proyecto o hilo de correos)
en un máximo de 80 palabras.
Reglas:
- Incluya todas las decisiones definitivas: los importes aprobados, los plazos vigentes y las
personas responsables de las tareas (con su nombre completo).
- No mencione las propuestas rechazadas ni sus importes, ni los plazos que se han modificado (las
fechas originales); indique solo los plazos vigentes.
- Copie los importes y las fechas exactamente como aparecen en el documento, sin redondearlos.
- Redacte en el idioma del documento, de forma objetiva y en un registro formal, como texto
continuo sin títulos.
- Devuelva únicamente JSON con el formato {"summary": "…"}.
How we score
Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | GPT-6 Luna6 / 6 fields | Gemma 4 31B6 / 6 fields | Mistral Small 46 / 6 fields | Claude Haiku 5.56 / 6 fields | Gemini 3.5 Flash Lite6 / 6 fields | DeepSeek V4.1 Flash6 / 6 fields | Qwen3.8 Flash6 / 6 fields | GLM-5.3 Flash6 / 6 fields | Mistral Medium 3.56 / 6 fields | GPT-6 Sol6 / 6 fields | Claude Sonnet 56 / 6 fields | Claude Sonnet 5.56 / 6 fields | Mistral Large 46 / 6 fields | Gemini 3.8 Flash6 / 6 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Amounts | 3500.0; 11500.0 | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) | 3500; 11500 (correct) |
| Deadlines | 2025-10-27 | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) | 2025-10-27 (correct) |
| Responsible people | Lorenzo Giménez; Vicenta Crespo; Agustín Valls | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) | Lorenzo Giménez; Vicenta Crespo; Agustín Valls (correct) |
| Rejected proposals (must not appear)Amounts from proposals the document rejects. They must not appear in the summary; they would mislead the reader. | 5500.0 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Superseded deadlines (must not appear)Deadlines the document later reschedules. The summary should give only the new deadline. | 2025-10-07 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Length (max words)The summary must not exceed the word limit given in the prompt. | 80 | 60 / 80 (correct) | 68 / 80 (correct) | 65 / 80 (correct) | 72 / 80 (correct) | 80 / 80 (correct) | 63 / 80 (correct) | 50 / 80 (correct) | 67 / 80 (correct) | 46 / 80 (correct) | 59 / 80 (correct) | 63 / 80 (correct) | 63 / 80 (correct) | 60 / 80 (correct) | 66 / 80 (correct) |
| Tokens | input / output | 735 / 154 | 801 / 110 | 788 / 133 | 1,385 / 635 | 789 / 127 | 891 / 699 | 898 / 1,193 | 790 / 1,158 | 788 / 94 | 735 / 217 | 1,383 / 171 | 1,385 / 177 | 734 / 3,301 | 789 / 2,155 |
| including hidden reasoning | billed as output | 47 | 0 | 0 | 452 | 0 | 573 | 1,095 | 1,023 | 0 | 113 | 0 | 0 | 3,007 | 2,029 |
| including cached input | input billed at a discount | 0 | 184 | 0 | 0 | 0 | 140 | 256 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0002 | $0.0002 | $0.0002 | $0.0005 | $0.0006 | $0.0006 | $0.0007 | $0.0010 | $0.0019 | $0.0036 | $0.0045 | $0.0045 | $0.0074 | $0.0087 |
| Per 1,000 documents | for documents of this type | $0.15 | $0.16 | $0.20 | $0.46 | $0.55 | $0.63 | $0.66 | $1.05 | $1.89 | $3.64 | $4.48 | $4.54 | $7.40 | $8.67 |
| Latency | this run | 2.1 s | 3.8 s | 1.1 s | 3.4 s | 0.8 s | 8.6 s | 15.4 s | 7.1 s | 0.9 s | 5.1 s | 2.6 s | 2.1 s | 51.9 s | 9 s |