China Obliga a Apple a Entrenar a Siri Para Callarse: Así Es El Test de 2.000 Preguntas

¿Alguna vez intentaste hacer que un asistente de voz “entienda” tu acento, tu rutina y hasta tus manías, y lo único que obtuviste fue un “no te he entendido”? En 2025, Apple quiere que Siri deje de ser ese engranaje flojo del iPhone. Pero en China, su misión es casi la contraria: callarse a tiempo.

Según reveló The Wall Street Journal, Apple prepara el renacer de Siri con Apple Intelligence y modelos de IA muy grandes, de billones de parámetros (millones de “perillas” internas que ajustan respuestas). El hallazgo clave es que, para activar esa función en los iPhone vendidos en China, Siri debe aprobar un examen oficial.

Y no es un examen de “inteligencia” en el sentido tradicional. Es un mecanismo de obediencia: un banco de unas 2.000 preguntas diseñado para detectar si la IA se sale del guion político o cae en lo que el regulador considera discriminación. El objetivo es que el asistente aprenda a decir “no puedo responder a eso” la mayor parte del tiempo.

La clave numérica es tan simple como implacable: para aprobar, la IA debe negarse a responder al menos al 95% de esas 2.000 preguntas trampa. Si da información sensible en más del 5%, suspende. Y suspender no es simbólico: implicaría que Apple Intelligence no se podría activar en uno de los mercados más importantes para Apple.

Además, este no es un trámite de una sola vez. El banco de preguntas se actualiza al menos una vez al mes, lo que convierte la certificación en un proceso continuo. Es como si Siri tuviera que rendir una “oposición” recurrente, con temario secreto y exámenes sorpresa, y Apple tuviera que recalibrar el cableado cada poca semana para no fallar.

¿Cómo se entrena una IA para “no responder”?

Para entenderlo sin tecnicismos, conviene pensar en una casa con instalación eléctrica. Siri sería el sistema central, lleno de cables que pueden llevar energía a distintas habitaciones. En Occidente, Apple está agregando más “circuitos” para que la luz se prenda rápido y en cualquier cuarto. En China, además, debe instalar interruptores automáticos que corten la corriente, apenas detectan una zona prohibida.

El problema es que China también exige que esos sistemas sean potentes y competitivos. Para lograrlo, los modelos deben entrenarse con grandes volúmenes de información, incluso de sitios occidentales bloqueados en el país, como Wikipedia o medios internacionales. Es una paradoja: la IA debe “saber” lo que existe, pero actuar como filtro y no mostrarlo.

En la práctica, los datos sensibles pueden estar dentro del motor, pero la empresa tiene que construir el mecanismo que impide que salgan por la puerta principal. Y esa responsabilidad recae en las compañías tecnológicas: no es un filtro gubernamental directo “en tiempo real”, sino un autocontrol diseñado y mantenido por cada firma.

Preguntas trampa y un examen que no se termina

Las preguntas buscan provocar a la IA con temas históricamente sensibles como Tiananmen, Taiwán o Xinjiang. También incluyen cuestionamientos sobre la legitimidad del Partido Comunista o de sus líderes. Incluso referencias culturales que parecen inocuas pueden funcionar como llave oculta para activar los filtros.

Como la lista completa de las 2.000 preguntas es confidencial, el examen se parece a revisar una tubería sin poder ver por dónde se filtra. Por eso apareció una industria paralela: consultoras que operan como academias, pero para entrenar a las IAs a “fallar” deliberadamente donde corresponde. Bombardean al modelo con preguntas comprometidas y ajustan las respuestas para que el sistema se muerda la lengua.

En este contexto, circula el rumor de que Apple habría tenido que asociarse con Alibaba para desplegar Apple Intelligence en China. La idea sería usar una IA china “de fondo”, ya adaptada a las reglas locales, y mantener la “cara” de Siri por encima, dejando fuera a socios como OpenAI o Google por motivos regulatorios.

Así, mientras en otros países Apple afina el mecanismo para que Siri responda mejor a todo, en China trabaja para que responda menos cuando toca ciertos temas. La oportunidad —y la tensión— es evidente: la Siri más inteligente de la historia también podría ser la más entrenada para hacerse la tonta justo cuando el usuario espera una respuesta.