OpenAI y Anthropic negocian las condiciones bajo las cuales organizaciones externas podrán evaluar sus modelos de IA y publicar sus hallazgos. Según Reuters, ambos laboratorios buscan mantener un control significativo sobre la información divulgada para proteger secretos comerciales y datos confidenciales.
El hallazgo abre una discusión central: las auditorías externas pueden detectar respuestas peligrosas, vulnerabilidades y usos indebidos que no aparecen en las pruebas internas. Pero esos informes también pueden incluir detalles que faciliten copiar una tecnología o reproducir un fallo.
Anthropic sostiene que sus evaluadores ya establecidos conservan el control sobre sus métodos, criterios, conclusiones y decisiones de publicación. Sin embargo, la compañía se reserva la posibilidad de comentar y aprobar informes de nuevos equipos mientras estos adquieren experiencia con sus sistemas.
OpenAI, por su parte, niega que pretenda aprobar el contenido completo de los documentos. La empresa señala que su práctica consiste en retirar información confidencial, como datos que permitan repetir una vulnerabilidad, sin impedir que se comunique la existencia del problema.
También te puede interesar:Anthropic Reduce del 27 % al 9 % las Contrataciones Técnicas de Entrada por la IALa auditoría como una revisión de la casa
El mecanismo puede entenderse como una inspección del cableado de una vivienda. Los evaluadores externos son los electricistas independientes: revisan enchufes, tableros y conexiones para encontrar el punto donde podría producirse un cortocircuito.
La pieza clave no es mostrar el plano completo de la casa, sino avisar con claridad dónde está el cable pelado y qué riesgo representa. Una empresa puede tener motivos legítimos para no entregar cada plano interno a un competidor. El problema aparece si esa reserva también tapa la gravedad de una falla.
Además, las compañías consideran medidas como supervisar a los equipos evaluadores y restringir que quienes revisan un modelo trabajen al mismo tiempo para otro laboratorio. Ese límite busca evitar filtraciones, pero también puede reforzar la dependencia de los inspectores respecto de la empresa que les abre la puerta.
Ahí está el interruptor del debate. Si el laboratorio controla el acceso a sus sistemas, documentación y herramientas, tiene una influencia inevitable sobre quienes deben analizarlo. Sin reglas comunes, decidir qué dato es secreto y qué dato es esencial para la seguridad puede quedar en manos de la misma organización auditada.
También te puede interesar:Anthropic Reduce del 27 % al 9 % las Contrataciones Técnicas de Entrada por la IALa transparencia no exige publicar instrucciones para atacar una IA. Sí requiere explicar qué comportamiento se detectó, a quién podría afectar y qué medidas se tomaron para corregirlo. De otro modo, un informe podría decir que la casa fue revisada sin aclarar que una habitación sigue teniendo chispas detrás de la pared.
La oportunidad consiste en crear estándares que protejan la propiedad intelectual sin vaciar de contenido las auditorías. Si OpenAI y Anthropic logran ese equilibrio, los informes externos podrían convertirse en un engranaje confiable para vigilar sistemas cada vez más potentes.
Para el usuario, el resultado será sencillo de medir: una IA más útil no solo debe responder rápido, también debe contar con un cableado de seguridad que alguien independiente pueda revisar.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
