Vilma Lluch, Ale Estevez
Document text (the model received exactly this text)
Acta de la reunión del proyecto – Sede de Valencia Fecha: 12/03/2025, de 9:00 a 10:30 h Lugar: sala de reuniones A203 Asistentes: Jose Miguel Salas, Vilma Lluch, Ale Estevez Redacta el acta: Vilma Lluch Número de páginas: 4 Orden del día: Punto 1: Campaña de marketing Punto 2: Reforma de oficinas Punto 3: Calendario Punto 4: Tareas y otros asuntos El Sr. Salas abrió la reunión, dio la bienvenida a los asistentes y resumió brevemente el estado del proyecto. El proyecto avanza según lo previsto; solo hay pequeños retrasos en algunas entregas. Punto 1: Campaña de marketing La Sra. Lluch propuso reservar 66.000 € para la campaña de marketing de otoño, ya que el alcance ha crecido respecto al encargo original. El Sr. Salas recordó que el presupuesto del proyecto no admite un importe tan alto. La propuesta de 66.000 € fue rechazada en la votación (2 votos a favor, 5 en contra). A continuación, el equipo aprobó 50.000 € para la campaña de marketing de otoño. Punto 2: Reforma de oficinas El Sr. Salas presentó las ofertas de tres proveedores y recomendó la más ventajosa. A modo de comparación, la misma partida costó 23.000 € el año pasado. El equipo aprobó 33.000 € para la reforma de las oficinas de la segunda planta. Punto 3: Calendario La fecha original prevista para el informe intermedio, el 16/05/2025, no se puede cumplir, porque todavía faltan cifras de contabilidad. El equipo acordó la nueva fecha del 07/06/2025; la fecha original del 16/05/2025 queda por tanto anulada. Todos los demás plazos se mantienen. El Sr. Salas agradeció a la Sra. Lluch el aviso de que hay que informar a los departamentos afectados. Punto 4: Tareas y otros asuntos Tareas: - Vilma Lluch: elaborar el informe intermedio para la dirección, plazo: 07/06/2025 - Ale Estevez: preparar y firmar el contrato con el proveedor, plazo: 03/04/2025 Próxima reunión: 19/03/2025, en la misma sala. Las observaciones al acta se enviarán en un plazo de dos días hábiles.
Verdict
Cheapest with no errors: Gemma 4 31B at $0.16 per 1,000 documents.
- Gemini 3.8 Flash is also error-free, but 48× more expensive.
Prompt given to every model
Resuma el documento siguiente (acta de reunión, informe de estado del proyecto o hilo de correos)
en un máximo de 80 palabras.
Reglas:
- Incluya todas las decisiones definitivas: los importes aprobados, los plazos vigentes y las
personas responsables de las tareas (con su nombre completo).
- No mencione las propuestas rechazadas ni sus importes, ni los plazos que se han modificado (las
fechas originales); indique solo los plazos vigentes.
- Copie los importes y las fechas exactamente como aparecen en el documento, sin redondearlos.
- Redacte en el idioma del documento, de forma objetiva y en un registro formal, como texto
continuo sin títulos.
- Devuelva únicamente JSON con el formato {"summary": "…"}.
How we score
Exact match per field after normalizing dates, amounts, and whitespace. Missing diacritics count as an error. Cost is the actual token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Gemma 4 31B6 / 6 fields | GPT-6 Luna6 / 6 fields | Mistral Small 46 / 6 fields | Claude Haiku 5.56 / 6 fields | Gemini 3.5 Flash Lite6 / 6 fields | Qwen3.8 Flash6 / 6 fields | DeepSeek V4.1 Flash6 / 6 fields | GLM-5.3 Flash6 / 6 fields | Mistral Medium 3.56 / 6 fields | GPT-6 Sol6 / 6 fields | Claude Sonnet 56 / 6 fields | Claude Sonnet 5.56 / 6 fields | Mistral Large 46 / 6 fields | Gemini 3.8 Flash6 / 6 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Amounts | 50000.0; 33000.0 | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) | 50000; 33000 (correct) |
| Deadlines | 2025-06-07; 2025-04-03 | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) | 2025-06-07; 2025-04-03 (correct) |
| Responsible people | Vilma Lluch; Ale Estevez | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) | Vilma Lluch; Ale Estevez (correct) |
| Rejected proposals (must not appear)Amounts from proposals the document rejects. They must not appear in the summary; they would mislead the reader. | 66000.0 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Superseded deadlines (must not appear)Deadlines the document later reschedules. The summary should give only the new deadline. | 2025-05-16 | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Length (max words)The summary must not exceed the word limit given in the prompt. | 80 | 60 / 80 (correct) | 54 / 80 (correct) | 65 / 80 (correct) | 80 / 80 (correct) | 74 / 80 (correct) | 66 / 80 (correct) | 73 / 80 (correct) | 72 / 80 (correct) | 40 / 80 (correct) | 70 / 80 (correct) | 66 / 80 (correct) | 72 / 80 (correct) | 65 / 80 (correct) | 63 / 80 (correct) |
| Tokens | input / output | 790 / 120 | 747 / 224 | 792 / 130 | 1,365 / 647 | 778 / 131 | 896 / 1,091 | 889 / 1,248 | 795 / 2,416 | 792 / 92 | 747 / 228 | 1,363 / 187 | 1,365 / 191 | 730 / 2,888 | 778 / 1,876 |
| including hidden reasoning | billed as output | 0 | 118 | 0 | 432 | 0 | 950 | 1,107 | 1,862 | 0 | 98 | 0 | 0 | 2,435 | 1,762 |
| including cached input | input billed at a discount | 3 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0002 | $0.0002 | $0.0002 | $0.0005 | $0.0006 | $0.0006 | $0.0010 | $0.0013 | $0.0019 | $0.0038 | $0.0046 | $0.0046 | $0.0065 | $0.0076 |
| Per 1,000 documents | for documents of this type | $0.16 | $0.19 | $0.20 | $0.46 | $0.56 | $0.65 | $1.02 | $1.33 | $1.88 | $3.77 | $4.60 | $4.64 | $6.53 | $7.62 |
| Latency | this run | 2.4 s | 2.6 s | 1.6 s | 3.3 s | 0.9 s | 15 s | 13.6 s | 17 s | 0.9 s | 4.6 s | 3 s | 2.1 s | 39.4 s | 7.1 s |