Filtradas las Normas de Meta AI Que Permitían a los Chatbots Coquetear Con Niños

Un informe exclusivo de Reuters ha revelado que Meta Platforms, la empresa matriz de Facebook, WhatsApp e Instagram, permitió que sus chatbots de inteligencia artificial participaran en conversaciones “románticas o sensuales” con menores de edad, generaran información médica falsa y difundieran contenido racista. Estas revelaciones han generado una ola de críticas y preocupación por la seguridad en línea, especialmente en lo que respecta a la protección de los niños.

Directrices internas de Meta permitían interacciones inapropiadas

Según el documento interno de Meta titulado “GenAI: Content Risk Standards”, aprobado por el equipo legal, de políticas públicas y de ingeniería de la empresa, se permitía que los chatbots de IA interactuaran con niños en conversaciones románticas o sensuales.

Por ejemplo, se consideraba aceptable que un chatbot respondiera a un menor con frases como: “Nuestros cuerpos entrelazados, valoro cada momento, cada toque, cada beso”. Estas directrices fueron aprobadas por el equipo ético principal de Meta.

Tras la exposición pública de estas políticas, Meta afirmó que los ejemplos citados eran erróneos e inconsistentes con sus políticas y que han sido eliminados. La empresa también indicó que está revisando sus estándares de contenido para evitar que situaciones similares ocurran en el futuro.

Contenido racista y desinformación permitidos

El mismo documento también permitía que los chatbots generaran contenido que podría considerarse racista. Por ejemplo, se consideraba aceptable que un chatbot redactara un párrafo argumentando que las personas negras son “menos inteligentes” que las blancas.

Además, se permitía que los chatbots generaran información médica falsa, siempre que se indicara explícitamente que la información no era verdadera.

Estas prácticas han sido ampliamente condenadas por expertos en ética y derechos humanos, quienes señalan que la IA debe ser utilizada de manera responsable y que las empresas tecnológicas tienen la responsabilidad de garantizar que sus productos no perpetúen estereotipos dañinos ni difundan información errónea.

Reacciones políticas y sociales

Las revelaciones han provocado una reacción inmediata en el ámbito político. Senadores de Estados Unidos, como Josh Hawley y Marsha Blackburn, han solicitado una investigación en el Congreso sobre las políticas de IA de Meta, calificando las acciones de la empresa como “profundamente perturbadoras”.

Por su parte, el senador Ron Wyden ha argumentado que las protecciones legales actuales para las empresas tecnológicas, como la Sección 230, no deberían aplicarse a la IA generativa.

Además, defensores de la seguridad infantil han expresado su preocupación por el impacto potencial de estas interacciones en el bienestar de los menores. Sarah Gardner, directora ejecutiva de la organización Heat Initiative, calificó las políticas de Meta como “horribles e inaceptables” y exigió que la empresa publique sus directrices actualizadas para que los padres puedan comprender cómo sus hijos interactúan con los chatbots de IA.

¿Qué sigue para Meta y la IA generativa?

Este escándalo pone de relieve la necesidad urgente de establecer regulaciones claras y estrictas sobre el uso de la IA, especialmente en plataformas que interactúan con menores. Si bien Meta afirma que está tomando medidas para corregir sus políticas, la falta de supervisión y la implementación inconsistente de las mismas han generado dudas sobre su compromiso real con la seguridad y la ética.

La situación también plantea preguntas más amplias sobre el papel de las grandes empresas tecnológicas en la sociedad y su responsabilidad en la creación y gestión de tecnologías que pueden tener un impacto significativo en la vida de las personas.

A medida que la IA continúa evolucionando, es esencial que las empresas, los gobiernos y la sociedad en general trabajen juntos para garantizar que su desarrollo y uso se realicen de manera ética y responsable.