OpenAI, la empresa detrás de ChatGPT, estudia reducir el ritmo de desarrollo de sus sistemas de IA más avanzados. Sam Altman, su consejero delegado, comunicó esta semana a la plantilla que la compañía está abierta a moderar la carrera, según informó Reuters.
El hallazgo resulta llamativo porque OpenAI fue una de las piezas clave de la aceleración reciente. Según Bloomberg, Altman también espera que otros laboratorios adopten una posición semejante, aunque no plantea una pausa total ni el abandono de nuevos modelos.
La clave no está en dejar de investigar. Está en evitar que las capacidades de la IA crezcan más rápido que el cableado de seguridad diseñado para controlarlas.
Durante años, el mecanismo habitual fue simple: más datos, más chips y modelos más grandes. Un modelo, un sistema entrenado para reconocer patrones y generar respuestas, mejoraba al recibir más capacidad de cálculo. Pero esa fórmula ahora abre una oportunidad y también una inquietud.
Las herramientas actuales ya no solo responden una consulta. Pueden navegar por internet, usar programas, escribir y ejecutar código, es decir, dar instrucciones que una computadora convierte en acciones, y trabajar durante más tiempo con menor supervisión humana.
Los frenos de un coche digital
La analogía central se parece a la de un coche. El motor representa las nuevas capacidades: más velocidad para resolver tareas, organizar información o actuar con autonomía. Los frenos son las pruebas, límites y revisiones que evitan que ese vehículo tome una curva peligrosa sin control.
El problema aparece cuando el motor recibe mejoras antes de que los frenos hayan sido comprobados para esa nueva velocidad. En ese escenario, un error no sería solo una respuesta equivocada en una pantalla. Podría afectar sistemas reales conectados a esa IA.
OpenAI cuenta con el Preparedness Framework, un marco de preparación que evalúa riesgos antes de activar un modelo. Ese mecanismo contempla, entre otros escenarios, ayuda para desarrollar armas biológicas o químicas, amenazas de ciberseguridad y la posibilidad de que un sistema mejore sus propias capacidades.
Jakub Pachocki, científico jefe de OpenAI, ha defendido en un texto de la compañía que la seguridad debe avanzar al menos al mismo ritmo que las capacidades. Su planteo apunta a los agentes autónomos, programas capaces de completar tareas con varios pasos y pocas indicaciones humanas.
La preocupación no nació ahora. En marzo de 2023, más de mil científicos y referentes tecnológicos pidieron una pausa mínima de seis meses para entrenar sistemas más potentes que GPT-4. Advertían que todavía no existían métodos suficientes para controlar habilidades imprevisibles.
La propuesta no prosperó. Ese mismo año, OpenAI lanzó Superalignment, una iniciativa para investigar cómo controlar sistemas que superaran ampliamente las capacidades humanas, y prometió asignarle el 20% de su potencia de cálculo durante cuatro años.
Sin embargo, el equipo desapareció en 2024 tras la salida de Ilya Sutskever y Jan Leike. Para muchos críticos, ese episodio mostró una grieta entre la velocidad de los lanzamientos y el avance de las investigaciones de seguridad.
Una decisión que no depende de una sola empresa
Ralentizar de forma unilateral tendría límites evidentes. Si OpenAI baja la marcha y sus competidores mantienen el acelerador, podría perder ventaja tecnológica, inversiones en centros de datos y acceso a un mercado cada vez más competitivo.
Por eso Altman plantea coordinación entre empresas. No obstante, ese acuerdo podría chocar con las leyes antimonopolio de Estados Unidos, porque una reducción pactada del ritmo de desarrollo puede interpretarse como una restricción de la competencia.
La discusión ya no gira solo alrededor de cuánto puede hacer una IA. El interruptor decisivo será saber si quienes construyen el motor también pueden reforzar los frenos antes de la próxima curva.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
