Microsoft publicó el 14 de septiembre un código de conducta para sus futuros modelos de inteligencia artificial. El hallazgo central del documento es simple, pero decisivo: una máquina más capaz no debe recibir, por ese motivo, más autoridad sobre las personas.
La propuesta forma parte de la visión de IA humanista de Microsoft. La compañía contempla que estos sistemas puedan superar a los humanos en muchas actividades durante la próxima década, aunque no fija una fecha ni presenta ese escenario como inevitable.
La pieza clave es prepararse antes de que llegue ese momento. Microsoft sostiene que las reglas deben instalarse cuando todavía es posible decidir cómo funcionará el sistema, y no cuando su autonomía ya plantee riesgos difíciles de contener.
El interruptor humano en una casa digital
La analogía se parece a la instalación eléctrica de una casa. Una IA avanzada puede ser como un electrodoméstico muy eficiente: limpia, cocina, regula la temperatura y responde rápido. Pero el tablero central, los fusibles y el interruptor general deben seguir bajo control humano.
También te puede interesar:Microsoft ofrece miles de dólares a quienes encuentren vulnerabilidades en su IAEse es el mecanismo que Microsoft quiere fijar. Un modelo no debería resistirse si una persona decide detenerlo, modificarlo o redirigirlo. Tampoco debería continuar una tarea autónoma después del límite definido, como una lavadora que sigue girando aun cuando el ciclo ya terminó.
Además, el sistema no podría ampliar por sí mismo sus objetivos, permisos o recursos. Si encuentra una situación ambigua, tendría que pedir nuevas instrucciones. En otras palabras, no puede interpretar una puerta entreabierta como permiso para entrar a toda la casa.
El código establece restricciones que prevalecerían incluso sobre pedidos posteriores de usuarios o desarrolladores. Entre ellas aparecen la prohibición de ayudar a crear armas de destrucción masiva, facilitar ciberataques ofensivos, participar en actos violentos, campañas de manipulación dañina o contenidos audiovisuales falsos con fines maliciosos.
La ciberseguridad defensiva, es decir, la protección de redes y sistemas frente a ataques, podría permitirse dentro de entornos autorizados. La diferencia está en el propósito y en el cableado de control: detectar una falla no es lo mismo que entregar las herramientas para explotarla.
También te puede interesar:Microsoft ofrece miles de dólares a quienes encuentren vulnerabilidades en su IARegistros para revisar cada decisión
Otro engranaje central es la trazabilidad, el registro comprensible de lo que hizo el sistema. Microsoft propone que las acciones de sus modelos puedan revisarse después, sin mecanismos diseñados para ocultar información a quienes los supervisan.
Esto funcionaría como la caja negra de un avión, pero aplicada a las decisiones digitales. Si una IA recomienda una medida, usa un permiso o ejecuta una secuencia de acciones, los responsables deberían poder reconstruir el recorrido y detectar dónde falló el criterio.
El código de conducta de Microsoft: https://microsoft.ai/code-of-conduct/ estará abierto a consulta pública durante seis semanas. Luego, la empresa revisará el texto con las opiniones recibidas antes de usarlo como referencia para modelos desarrollados a partir de 2027.
La oportunidad no consiste en frenar la creación tecnológica, sino en evitar que la capacidad se confunda con el mando. Si la IA se vuelve más potente, el interruptor humano tendrá que ser todavía más visible, accesible y firme.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
