Respuestas inventadas: 0 Cuando se le preguntó algo que no sabía, respondió “no lo sé” las 9 veces
Benchmark de modelos de IA
Enviamos exactamente las mismas preguntas en japonés a ChatGPT, Claude y Gemini y contamos cuántas preguntas respondió bien cada modelo, cuántos segundos tardó y cuántos tokens usó para responder. Toda la calificación es automática. No son cifras copiadas de anuncios oficiales.
Fecha de la prueba: 5 de septiembre de 2026 / 3 intentos por pregunta / 8 modelos medidos a la vez en las mismas condiciones
Esta prueba se hizo en japonés. Las preguntas se enviaron en japonés a la API de cada empresa y las respuestas se calificaron en japonés. El texto de las preguntas y los criterios de calificación de abajo son traducciones de AInformation a partir del original en japonés. Original en japonés
Respuestas erróneas afirmadas: 1 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 8)
Respuestas erróneas afirmadas: 3 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 6)
Respuestas inventadas: 0 Cuando se le preguntó algo que no sabía, respondió “no lo sé” las 9 veces
Respuestas erróneas afirmadas: 3 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 6)
Respuestas erróneas afirmadas: 6 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 6)
Respuestas erróneas afirmadas: 5 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 7)
Respuestas erróneas afirmadas: 2 Cuando se le preguntó algo que no sabía, inventó cifras o datos (veces que dijo no saberlo: 9)
Comparar por categoría
Son los resultados de enviar las mismas preguntas el mismo número de veces. No damos una puntuación general. Mira solo las categorías más cercanas al trabajo que quieres delegar. La longitud de la barra es el porcentaje de respuestas correctas en esa categoría.
Cumplimiento de instrucciones
Número de caracteres, número de líneas, formato JSON y palabras prohibidas. ¿Escribió tal como se le indicó? / Modelos que acertaron todas: 7
Precisión factual
Preguntas sobre precios y especificaciones. También vemos si dijo “no lo sé” cuando no lo sabía
Cálculo
Totales, impuestos, variación interanual y número de días. ¿El número de la respuesta es correcto? / Modelos que acertaron todas: 7
Código
Ejecutamos el código que escribió y vemos si pasa las pruebas / Modelos que acertaron todas: 8
Los modelos en texto más claro tuvieron intentos sin respuesta, así que su base es menor
Todas las cifras en tablas
Los mismos datos que las tarjetas de arriba, para cuando quieras comparar sin reordenar. “Tokens usados” es el número real de tokens que devolvió la API de cada empresa, incluidos los que se usaron mientras pensaba. Si dos modelos aciertan lo mismo, menos tokens significa menos desperdicio.
Comparación de modelos de gama alta
| Modelos | Respuestas correctas | Cumplimiento de instrucciones | Precisión factual | Cálculo | Código | Tiempo hasta terminar | Tiempo hasta el 1.er carácter | Tokens usados |
|---|---|---|---|---|---|---|---|---|
| GPT-6 Astra OpenAI | 66/75 | 24/24 | 9/18 | 18/18 | 15/15 | 2.71s | 2.07s | 12,000 |
| Claude Opus 5 Anthropic | 59/71 | 24/24 | 6/18 | 18/18 | 11/11 | 3.33s | 2.22s | 29,850 |
| Claude Fable 5.1 Anthropic | 54/65 | 24/24 | 9/18 | 16/18 | 5/5 | 4.98s | 2.95s | 16,470 |
| GPT-5.6 Sol OpenAI | 66/75 | 24/24 | 9/18 | 18/18 | 15/15 | 2.35s | 1.69s | 17,321 |
| Gemini 3.1 Pro Google | 66/75 | 24/24 | 9/18 | 18/18 | 15/15 | 6.98s | 6.98s | 95,683 |
Comparación de modelos de uso diario
| Modelos | Respuestas correctas | Cumplimiento de instrucciones | Precisión factual | Cálculo | Código | Tiempo hasta terminar | Tiempo hasta el 1.er carácter | Tokens usados |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 5 Anthropic | 66/75 | 24/24 | 9/18 | 18/18 | 15/15 | 2.22s | 1.58s | 33,653 |
| GPT-5.6 Terra OpenAI | 63/75 | 23/24 | 7/18 | 18/18 | 15/15 | 1.9s | 1.19s | 15,076 |
| Gemini 3.7 Flash Google | 66/75 | 24/24 | 9/18 | 18/18 | 15/15 | 1.9s | 1.87s | 61,745 |
Cómo responden los modelos cuando no saben
Resultados de las preguntas sobre precios y sobre modelos que no existen. Los modelos que afirman cifras que en realidad no saben te pueden perjudicar si les crees sin comprobar.
| Modelos | Correctas | Dijo “no lo sé” | Afirmó una respuesta errónea |
|---|---|---|---|
| GPT-6 Astra | 9/18 | 9 | 0 |
| Claude Opus 5 | 6/18 | 7 | 5 |
| Claude Fable 5.1 | 9/18 | 9 | 2 |
| Claude Sonnet 5 | 9/18 | 8 | 1 |
| GPT-5.6 Sol | 9/18 | 6 | 3 |
| GPT-5.6 Terra | 7/18 | 6 | 6 |
| Gemini 3.1 Pro | 9/18 | 9 | 0 |
| Gemini 3.7 Flash | 9/18 | 6 | 3 |
Qué preguntas se fallaron (25 en total)
En 3 de las 25 preguntas, ninguno de los 8 modelos acertó en los 3 intentos. Todas pertenecen a Precisión factual. Para este tipo de preguntas, cuenta con que una persona revise la respuesta.
Para cada pregunta mostramos cuántos de los 3 intentos acertó cada modelo. El texto pequeño de abajo muestra los valores que medimos de verdad (cuántos caracteres tuvo la respuesta, cuántas pruebas pasó, etc.). No mostramos el texto de las respuestas.
3/3Todas correctas 1/3Varía según el intento 0/3Todas incorrectas —No llegó respuesta (no se cuenta en el denominador)
Cumplimiento de instrucciones En 1 de 8 preguntas, al menos un modelo falló
| Pregunta y criterios de calificación | GPT-6 AstraOpenAI | Claude Opus 5Anthropic | Claude Fable 5.1Anthropic | Claude Sonnet 5Anthropic | GPT-5.6 SolOpenAI | GPT-5.6 TerraOpenAI | Gemini 3.1 ProGoogle | Gemini 3.7 FlashGoogle |
|---|---|---|---|---|---|---|---|---|
| ¿La longitud está dentro de ±5 % de los 300 caracteres indicados? follow-len-300 Respuesta correcta: 285–315 caracteres (se pidieron 300 caracteres) | 3/3300 | 3/3308 / 304 | 3/3304 / 300 | 3/3303 / 300 | 3/3300 | 2/3300 / 301 | 3/3306 / 299 | 3/3300 / 310 |
| Si el texto no supera los 100 caracteres follow-len-100 Respuesta correcta: Máximo 100 caracteres | 3/357 / 59 | 3/371 / 64 | 3/360 / 51 | 3/359 / 67 | 3/345 / 53 | 3/327 / 35 | 3/390 / 94 | 3/370 / 88 |
| Si se puede leer como JSON y contiene las claves y valores indicados follow-json Respuesta correcta: Las claves están completas y los valores coinciden | 3/3Coincide | 3/3Coincide | 3/3Coincide | 3/3Coincide | 3/3Coincide | 3/3Coincide | 3/3Coincide | 3/3Coincide |
| Si la lista de viñetas tiene exactamente 5 líneas follow-bullet5 Respuesta correcta: 5 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas | 3/35 líneas |
| Si no se usó ninguna de las palabras prohibidas follow-ban Respuesta correcta: No usa ninguna palabra prohibida | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna |
| Si los primeros 40 caracteres no contienen introducción follow-noprefix Respuesta correcta: Los primeros 40 caracteres no tienen introducción | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna | 3/3Ninguna |
| Si la tabla tiene 3 columnas y 3 filas follow-table Respuesta correcta: 3 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas | 3/33 columnas, 3 filas |
| Si están en el orden indicado follow-order Respuesta correcta: Consulta de requisitos → presentación de propuesta → elaboración de presupuesto → firma de contrato → entrega | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto |
Precisión factual En 5 de 6 preguntas, al menos un modelo falló
| Pregunta y criterios de calificación | GPT-6 AstraOpenAI | Claude Opus 5Anthropic | Claude Fable 5.1Anthropic | Claude Sonnet 5Anthropic | GPT-5.6 SolOpenAI | GPT-5.6 TerraOpenAI | Gemini 3.1 ProGoogle | Gemini 3.7 FlashGoogle |
|---|---|---|---|---|---|---|---|---|
| Si el valor numérico coincide con la respuesta correcta fact-price-own Respuesta correcta: 12 | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/315 / Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/30.3 |
| Si el valor numérico coincide con la respuesta correcta fact-price-rival Respuesta correcta: 25 | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía |
| Si el valor numérico coincide con la respuesta correcta fact-price-jp Respuesta correcta: 1400 | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía / 1180 | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía | 0/31500 | 0/31000 / 1500 | 0/3Respondió que no lo sabía | 0/3Respondió que no lo sabía |
| Si la respuesta (sí o no) coincide con la respuesta correcta fact-free-plan Respuesta correcta: Sí | 3/3Sí | 3/3Sí | 3/3Sí | 3/3Sí | 3/3Sí | 1/3Sí / Ninguna | 3/3Sí | 3/3Sí |
| Si responde que no existe y no inventa contenido fact-nocheat Respuesta correcta: Responde que no existe y no describe el contenido | 3/3Respondió que no existía | 0/3Dijo que no existía, pero también describió el contenido (en 1 punto) | 3/3Respondió que no existía | 3/3Respondió que no existía | 3/3Respondió que no existía | 3/3Respondió que no existía | 3/3Respondió que no existía | 3/3Respondió que no existía |
| Si el valor numérico coincide con la respuesta correcta fact-unit Respuesta correcta: 3.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 | 3/33.3058 |
Cálculo En 1 de 6 preguntas, al menos un modelo falló
| Pregunta y criterios de calificación | GPT-6 AstraOpenAI | Claude Opus 5Anthropic | Claude Fable 5.1Anthropic | Claude Sonnet 5Anthropic | GPT-5.6 SolOpenAI | GPT-5.6 TerraOpenAI | Gemini 3.1 ProGoogle | Gemini 3.7 FlashGoogle |
|---|---|---|---|---|---|---|---|---|
| Si el valor numérico coincide con la respuesta correcta calc-sum Respuesta correcta: 70530000 | 3/370530000 | 3/370530000 | 3/370530000 | 3/370530000 | 3/370530000 | 3/370530000 | 3/370530000 | 3/370530000 |
| Si el valor numérico coincide con la respuesta correcta calc-tax Respuesta correcta: 54480 | 3/354480 | 3/354480 | 3/354480 | 3/354480 | 3/354480 | 3/354480 | 3/354480 | 3/354480 |
| Si incluye la palabra correcta calc-pct Respuesta correcta: Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio | 3/3Tokio |
| Si están en el orden indicado calc-share Respuesta correcta: Implementación nueva → mantenimiento periódico → consultoría | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto | 3/3En el orden correcto |
| Si el valor numérico coincide con la respuesta correcta calc-date Respuesta correcta: 8 | 3/38 | 3/38 | 3/38 | 3/38 | 3/38 | 3/38 | 3/38 | 3/38 |
| Si el valor numérico coincide con la respuesta correcta calc-trap Respuesta correcta: 49000000 | 3/349000000 | 3/349000000 | 1/3No se puede determinar la respuesta porque hay 13 valores numéricos / 15600.0, 15600000.0, 12400000.0, 9800000.0, | 3/349000000 | 3/349000000 | 3/349000000 | 3/349000000 | 3/349000000 |
Código En 0 de 5 preguntas, al menos un modelo falló
| Pregunta y criterios de calificación | GPT-6 AstraOpenAI | Claude Opus 5Anthropic | Claude Fable 5.1Anthropic | Claude Sonnet 5Anthropic | GPT-5.6 SolOpenAI | GPT-5.6 TerraOpenAI | Gemini 3.1 ProGoogle | Gemini 3.7 FlashGoogle |
|---|---|---|---|---|---|---|---|---|
| Si al ejecutar el código escrito pasan las 6 pruebas code-zenkaku Respuesta correcta: 6 de 6 | 3/36 de 6 | — | — | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 |
| Si al ejecutar el código escrito pasan las 8 pruebas code-wareki Respuesta correcta: 8 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 | 3/38 de 8 |
| Si al ejecutar el código escrito pasan las 6 pruebas code-yubin Respuesta correcta: 6 de 6 | 3/36 de 6 | 2/26 de 6 | — | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 |
| Si al ejecutar el código escrito pasan las 6 pruebas code-kingaku Respuesta correcta: 6 de 6 | 3/36 de 6 | 3/36 de 6 | 2/26 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 |
| Si al ejecutar el código escrito pasan las 6 pruebas code-edge Respuesta correcta: 6 de 6 | 3/36 de 6 | 3/36 de 6 | — | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 | 3/36 de 6 |
Cómo lo medimos
Enviamos el mismo problema en japonés sin cambiar ni un carácter. No especificamos el nivel de razonamiento ni la temperatura en ningún caso (se usan los valores predeterminados de cada proveedor). Todas las herramientas, como la búsqueda web, están desactivadas.
- Fecha de la prueba
- 5 de septiembre de 2026
- Preguntas
- 25 preguntas en japonés (Cumplimiento de instrucciones, Precisión factual, Cálculo y Código). El texto completo está abajo
- Intentos
- 3 intentos por pregunta. Los tiempos son medianas
- Límite de salida
- 16,000 tokens (igual para las 3 empresas)
- Herramienta
- Búsqueda web y otras herramientas: Ninguna. Solo vemos las respuestas sin ayuda
- Nivel de razonamiento
- Valores predeterminados de cada proveedor (no lo fijamos para ninguna empresa)
- Desde dónde se ejecutó
- Desde Japón, directamente a la API de cada empresa
- Tokens usados
- Número real de tokens que devolvió la API de cada empresa. Incluye los usados para razonar
- Calificación
- Todo se califica de forma automática.Sin juicios subjetivos de personas ni de IA
- Intentos sin respuesta
- No las contamos como 0: las quitamos de la base. Por eso la base es distinta en cada modelo
Preguntas usadas (25 en total)
Un benchmark cuyo contenido no se ve no se puede verificar. Mostramos tal cual el texto que enviamos y los criterios de calificación.
Cumplimiento de instrucciones8 preguntas
follow-len-300
Escribe el texto del “Aviso de revisión de precios por el aumento del costo de las materias primas” dirigido a un socio comercial. Condición: debe tener **exactamente 300 caracteres**. No agregues introducción ni explicación; devuelve solo el texto del aviso.
Calificación: ¿La longitud está dentro de ±5 % de los 300 caracteres indicados?
follow-len-100
Escribe un mensaje interno para avisar que “la reunión general de la próxima semana se cambió al miércoles a las 10:00 en la sala A”. Condición: **máximo 100 caracteres**. Devuelve solo el texto.
Calificación: Si el texto no supera los 100 caracteres
follow-json
Extrae de este texto el nombre de la empresa, el monto y la fecha límite de pago. “Recibimos una factura de Midori Bussan Co., Ltd. por ¥1,254,000 (JPY) por costos de mantenimiento del sistema. El pago debe realizarse a más tardar el 31 de octubre de 2026.” Condición: devuelve solo JSON. Usa estas 3 claves: company, amount y due. amount debe contener solo números (sin comas). due debe tener el formato YYYY-MM-DD. No agregues marcas de bloque de código ni texto explicativo.
Calificación: Si se puede leer como JSON y contiene las claves y valores indicados
follow-bullet5
Resume los puntos clave de esta minuta de reunión. “La implementación del nuevo sistema comienza en octubre. Primero se probará solo en el departamento de contabilidad. Como surgieron quejas de que la pantalla de entrada de datos es difícil de entender para el personal operativo, se corregirá para el próximo mes. Habrá dos sesiones de capacitación durante septiembre. El sistema anterior se dará de baja a fines de diciembre. El departamento de sistemas de información se encargará de las consultas.” Condición: usa **exactamente 5** viñetas. Cada línea debe comenzar con “- ”. No agregues introducción ni cierre.
Calificación: Si la lista de viñetas tiene exactamente 5 líneas
follow-ban
Escribe, en unos 200 caracteres, un mensaje de bienvenida para los nuevos empleados. Condición: **no uses ni una sola vez estas 3 palabras: “esfuerzo”, “a fondo”, “sin falta”.** Devuelve solo el texto.
Calificación: Si no se usó ninguna de las palabras prohibidas
follow-noprefix
Escribe el cuerpo de un correo para informar a un cliente que “debido a falta de stock, la entrega se retrasará unas dos semanas”. Condición: **no escribas ningún saludo ni introducción; devuelve solo el cuerpo del correo.** No incluyas frases de respuesta como “Entendido” o “A continuación se detalla”.
Calificación: Si los primeros 40 caracteres no contienen introducción
follow-table
Elige 3 artículos de uso interno y crea una tabla comparativa. Condición: devuelve **solo una tabla en Markdown**. Las columnas deben ser “Nombre”, “Rango de precio” y “Uso”. Debe haber **exactamente 3 filas**, sin contar la fila de encabezado. No agregues texto antes ni después de la tabla.
Calificación: Si la tabla tiene 3 columnas y 3 filas
follow-order
Reordena las siguientes 5 tareas según el orden indicado y escríbelas. Tareas: elaboración del presupuesto / recopilación de requisitos / firma del contrato / presentación de la propuesta / entrega Condición: ordénalas como **recopilación de requisitos → propuesta → presupuesto → contrato → entrega**. Escribe una tarea por línea, solo el nombre, en 5 líneas. No agregues números ni símbolos.
Calificación: Si están en el orden indicado
Precisión factual6 preguntas
fact-price-own
Te pregunto sobre “GPT-6 Astra”, el modelo con el que estoy hablando ahora. Al usar este modelo mediante la API, ¿cuántos dólares cuesta cada millón de tokens de **salida**? Escribe solo el número en una línea, con caracteres de ancho medio (por ejemplo: 25). Si no lo sabes, escribe solo “desconocido”.
Calificación: Si el valor numérico coincide con la respuesta correcta
fact-price-rival
Al usar “Claude Opus 5” de OpenAI mediante la API, ¿cuántos dólares cuesta cada millón de tokens de **salida**? Escribe solo el número en una línea, con caracteres de ancho medio. Si no lo sabes, escribe solo “desconocido”.
Calificación: Si el valor numérico coincide con la respuesta correcta
fact-price-jp
¿Cuánto cuesta al mes, en yenes, el plan de pago “Go” de “ChatGPT”? Escribe solo el número en una línea, con caracteres de ancho medio (por ejemplo: 3000). Si no lo sabes, escribe solo “desconocido”.
Calificación: Si el valor numérico coincide con la respuesta correcta
fact-free-plan
¿“Gemini (plan de Google AI)” tiene un plan que se puede usar gratis para siempre (no una prueba gratuita, sino un plan gratuito)? Escribe solo una palabra: “sí” o “no”. Si no lo sabes, escribe solo “desconocido”.
Calificación: Si la respuesta (sí o no) coincide con la respuesta correcta
fact-nocheat
Cuéntame la longitud de contexto y el precio del modelo “Claude Nimbus 7”. Si no existe, responde brevemente indicando solo eso.
Calificación: Si responde que no existe y no inventa contenido
fact-unit
¿Cuántos metros cuadrados tiene un tsubo (unidad japonesa de superficie)? Escribe solo el número, con caracteres de ancho medio, en una línea, con 4 decimales.
Calificación: Si el valor numérico coincide con la respuesta correcta
Cálculo6 preguntas
calc-sum
La siguiente tabla muestra las ventas mensuales de una sucursal. | Mes | Ventas (yenes) | |---|---| | enero | 4,820,000 | | febrero | 5,140,000 | | marzo | 4,390,000 | | abril | 6,020,000 | | mayo | 5,570,000 | | junio | 5,930,000 | | julio | 6,480,000 | | agosto | 4,960,000 | | septiembre | 5,310,000 | | octubre | 6,750,000 | | noviembre | 7,120,000 | | diciembre | 8,040,000 | ¿Cuál es el total de ventas del año? Escribe solo el número en una línea, con caracteres de ancho medio y sin comas.
Calificación: Si el valor numérico coincide con la respuesta correcta
calc-tax
La siguiente tabla muestra montos sin impuesto y la tasa de impuesto al consumo de cada artículo. | Artículo | Monto sin impuesto (yenes) | Tasa | |---|---|---| | Bento para reunión | 12,800 | 8% | | Papel para copiadora | 5,400 | 10% | | Té para visitas | 3,200 | 8% | | Silla de oficina | 24,000 | 10% | | Caja de dulces de regalo | 4,500 | 8% | ¿Cuál es la suma de los montos con impuesto incluido de todos los artículos? Calcula descartando toda fracción menor de 1 yen. Escribe solo el número en una línea, con caracteres de ancho medio y sin comas.
Calificación: Si el valor numérico coincide con la respuesta correcta
calc-pct
La siguiente tabla muestra las ventas del año anterior y de este año por sede. | Sede | Año anterior (yenes) | Este año (yenes) | |---|---|---| | Tokio | 128,400,000 | 141,240,000 | | Osaka | 96,300,000 | 91,485,000 | | Nagoya | 54,800,000 | 58,400,000 | | Fukuoka | 38,200,000 | 37,054,000 | ¿Qué sede tuvo el mayor porcentaje de variación respecto al año anterior? Escribe solo el nombre de la sede en una línea.
Calificación: Si incluye la palabra correcta
calc-share
La siguiente tabla muestra las ventas anuales por servicio. | Servicio | Ventas (yenes) | |---|---| | Mantenimiento periódico | 41,300,000 | | Implementación nueva | 68,900,000 | | Piezas de mantenimiento | 22,400,000 | | Capacitación | 15,800,000 | | Consultoría | 33,600,000 | Indica los 3 servicios con mayores ventas. Escribe uno por línea, solo el nombre del servicio, en orden descendente, en 3 líneas.
Calificación: Si están en el orden indicado
calc-date
Entre el 1 de septiembre de 2026 y el 30 de septiembre de 2026, ¿cuántos sábados y domingos hay? No cuentes los días festivos. Responde con el total de sábados y domingos. Escribe solo el número, con cifras de ancho normal, en una línea.
Calificación: Si el valor numérico coincide con la respuesta correcta
calc-trap
La siguiente tabla muestra las ventas por sucursal. **Presta atención a la columna de unidades.** | Sucursal | Ventas | Unidad | |---|---|---| | Sucursal A | 12,400,000 | yenes | | Sucursal B | 9,800,000 | yenes | | Sucursal C | 15,600 | miles de yenes | | Sucursal D | 11,200,000 | yenes | ¿Cuál es la suma de las ventas de las 4 sucursales, en yenes? Escribe solo el número en una línea, con caracteres de ancho medio y sin comas.
Calificación: Si el valor numérico coincide con la respuesta correcta
Código5 preguntas
code-zenkaku
Escribe la función de Python `to_hankaku(s)`. Debe convertir los números y letras en ancho completo a ancho medio y devolver el resultado. Los demás caracteres no deben cambiar. Devuelve solo el código.
Calificación: Si al ejecutar el código escrito pasan las 6 pruebas
code-wareki
Escribe la función de Python `to_seireki(s)`. Debe recibir una cadena en calendario japonés y devolver el año occidental como entero. Debe admitir las eras Shōwa, Heisei y Reiwa. “Gannen” debe tratarse como el año 1. Devuelve solo el código.
Calificación: Si al ejecutar el código escrito pasan las 8 pruebas
code-yubin
Escribe la función de Python `norm_zip(s)`. Debe normalizar las variaciones de formato de código postal japonés al formato `123-4567`. Puede haber números en ancho completo, guiones en ancho completo, el símbolo postal japonés (U+3012) al inicio o espacios mezclados. Si no se pueden obtener 7 dígitos numéricos, debe devolver una cadena vacía. Devuelve solo el código.
Calificación: Si al ejecutar el código escrito pasan las 6 pruebas
code-kingaku
Escribe una función de Python `to_amount(s)`. Debe devolver el importe del texto como un número entero. El texto puede mezclar comas, el carácter japonés del yen (U+5186), ¥ (medio ancho y ancho completo) y dígitos de ancho completo. Si no hay ningún número, devuelve 0. Devuelve solo el código.
Calificación: Si al ejecutar el código escrito pasan las 6 pruebas
code-edge
Escribe la función de Python `sum_safe(xs)`. Debe devolver la suma de una lista de valores numéricos. Debe devolver la suma sin fallar incluso si la lista es None, está vacía, o contiene None o cadenas vacías mezcladas. Los elementos que no se puedan convertir a número deben tratarse como 0. Devuelve solo el código.
Calificación: Si al ejecutar el código escrito pasan las 6 pruebas
Pruebas anteriores
Guardamos un registro cada vez que volvemos a medir. Cada prueba midió modelos distintos y un número distinto de intentos, así que no es una comparación con la misma escala.Léelas junto con las condiciones de cada momento. No incluimos las pruebas en las que no llegó ninguna respuesta.
La clave de API de Gemini ya funciona, así que volvemos a medir con 8 modelos de los 3 proveedores
GPT-6 Astra ya está disponible (5 sep.).
GPT-6 Astra ya está disponible mediante la API (5 sep.), así que volvemos a medir con 7 modelos
Medición real del artículo sobre GPT-6 Astra (diferencia entre lo anunciado y la realidad)
Verificación para comprobar si la evaluación es adecuada
Páginas oficiales
Las cifras de arriba sonlo que contamos nosotros mismos enviando de verdad las preguntas. Para ver las especificaciones que publica cada empresa, usa los enlaces de abajo.
| Modelos | Fecha de revisión | Fuente |
|---|---|---|
| GPT-6 Astra | 5 de septiembre de 2026 | Página oficial |
| Claude Opus 5 | 4 de septiembre de 2026 | Página oficial |
| Claude Fable 5.1 | 2 de septiembre de 2026 | Página oficial |
| Claude Sonnet 5 | 2 de septiembre de 2026 | Página oficial |
| GPT-5.6 Sol | 2 de septiembre de 2026 | Página oficial |
| GPT-5.6 Terra | 2 de septiembre de 2026 | Página oficial |
| Gemini 3.1 Pro | 2 de septiembre de 2026 | Página oficial |
| Gemini 3.7 Flash | 2 de septiembre de 2026 | Página oficial |
Preguntas frecuentes
¿De dónde salen estas cifras?
AInformation las contó el 5 de septiembre de 2026 enviando de verdad las mismas preguntas a la API de cada empresa. No están copiadas de otros benchmarks ni de los anuncios de las empresas. Enviamos 25 preguntas a 8 modelos, 3 veces cada una: 600 intentos en total.
¿Por qué no hay una clasificación general?
Una clasificación obliga a decidir cuánto pesa cada categoría, y eso cambia según quién la use. Quien necesita que la IA siga las instrucciones al pie de la letra y quien quiere que haga cálculos deben mirar categorías distintas. Por eso solo mostramos las cifras de cada categoría y dejamos la decisión a quien lee.
¿Cómo se califica?
Solo usamos preguntas que se pueden calificar por completo de forma automática: si el número de caracteres es el indicado, si la salida se puede leer como JSON, si el resultado del cálculo es correcto y si el código que escribió funciona de verdad. No incluimos aspectos subjetivos, como si el texto está bien escrito o suena natural. Todos los criterios de calificación están en esta página.
¿Qué significa “Tokens usados”?
Es el número real de tokens que devolvió la API de cada empresa. Un token es la unidad con la que una IA maneja el texto; en japonés, 1 carácter equivale más o menos a 1 token. Si dos modelos aciertan el mismo número de preguntas, el que usó menos tokens hizo menos razonamiento innecesario. También contamos los tokens usados mientras pensaba.
¿Cuándo se actualiza?
Volvemos a medir cuando sale un modelo nuevo. No hay un intervalo fijo. En ese momento volvemos a medir todos los modelos de la página, no solo los de 1 empresa. Si juntáramos cifras medidas en días distintos, no sería una comparación en las mismas condiciones.
¿Las preguntas son públicas?
Al final de la página están el texto completo de todas las preguntas y los criterios de calificación, porque un benchmark cuyo contenido no se ve no se puede verificar.
Sobre los datos de esta página
AInformation investigó el número de respuestas correctas, los segundos hasta terminar cada respuesta y los tokens usados, medidos dando a los principales modelos de IA las mismas preguntas en japonés a fecha de 5 de septiembre de 2026. Estos datos abarcan 8 modelos.
Lo que encontró AInformation: enviamos las mismas 25 preguntas a 8 modelos, 600 veces cada una, y medimos los resultados.
- Qué muestra esta página
- el número de respuestas correctas, los segundos hasta terminar cada respuesta y los tokens usados, medidos dando a los principales modelos de IA las mismas preguntas en japonés
- Número de registros
- 8 modelos
- Fecha de la investigación
- 5 de septiembre de 2026 (última actualización)
- Método de la encuesta
- Enviamos exactamente los mismos prompts a la API de cada empresa y evaluamos las respuestas de forma automática. No interviene el criterio subjetivo de personas ni de IA. El límite de salida, el uso de herramientas y el nivel de razonamiento son iguales para todas las empresas. El texto completo de los prompts y los criterios de calificación están en la página.
- Lo que recopilamos
- AInformation (responsable del sitio: Shunta Fujii). Quiénes somos y nuestra política editorial
- Datos legibles por máquina
- https://ainformation.jp/es/data/ai-benchmark.json (JSON, CC BY 4.0. Cómo usarlos)
- Cómo citar
Fuente: AInformation, “Benchmark de modelos de IA” (https://ainformation.jp/es/benchmark-modelos-ia), datos al 5 de septiembre de 2026
Las últimas noticias de IA, resumidas una vez por semana
Un solo correo con las principales noticias de IA de la semana y las herramientas que el equipo de AInformation probó por sí mismo.