¿Sabes quién garantiza que la inteligencia artificial sea segura para la humanidad? Yoshua Bengio, uno de los nombres más influyentes en el mundo de la IA, que acaba de lanzar LawZero. Un laboratorio sin ánimo de lucro que persigue blindar la inteligencia artificial ante sus riesgos potenciales.
Con un fondo inicial de 30 millones de dólares aportados por donantes de peso, este proyecto quiere adelantarse a los desafíos para que los sistemas de IA sean mucho más fiables para todos nosotros.
El propio Bengio, conocido tanto por ganar el Premio Turing como por ser uno de los padrinos de la IA moderna, pone el foco en la protección de las personas por encima de cualquier avance tecnológico. Sus recientes declaraciones reflejan una preocupación sincera: teme que, bajo la presión de la competencia, empresas gigantes como Google y OpenAI puedan pasar por alto esa seguridad tan necesaria.
LawZero surge para responder a la gran pregunta: ¿cómo podemos construir y usar inteligencia artificial sin que exista riesgo para la sociedad? Bengio y su equipo han dejado clara su misión: trabajar para que los sistemas de IA sean realmente seguros.
Hoy en día, muchos expertos ven que la carrera entre grandes tecnológicas puede hacer que se descuiden aspectos clave y se priorice la rapidez sobre el bienestar colectivo.
El laboratorio adopta una postura totalmente independiente, sin buscar beneficios comerciales. Esta estructura ayuda a centrar todos los esfuerzos en la investigación y el desarrollo de medidas de seguridad robustas para la IA. Gracias al fuerte respaldo económico, LawZero puede destinar recursos a iniciativas que prioricen la protección de la humanidad.
También te puede interesar:OpenAI presenta Codex en ChatGPT: avances en programación con Inteligencia ArtificialQuizás te hayas preguntado de dónde viene el nombre LawZero. La inspiración nace de la “Ley Cero de la Robótica”, creada en la literatura de ciencia ficción para poner siempre los intereses de la humanidad por encima de cualquier directriz dada a robots o sistemas inteligentes. El mensaje es nítido: la IA no debe suponer un peligro, por mucho que avance técnicamente.
Gracias a este principio, LawZero busca que cualquiera que use o desarrolle IA tenga en mente siempre como prioridad la protección de las personas, sean quienes sean y vivan donde vivan.
En el arranque, LawZero ha recaudado nada menos que 30 millones de dólares en donaciones filantrópicas. Este presupuesto proviene de figuras y entidades clave, todas ellas convencidas de que el riesgo asociado a la inteligencia artificial merece ser abordado desde ya.
El respaldo de estos mecenas refuerza la legitimidad y capacidad de LawZero para poner medidas frente a posibles fallos o situaciones catastróficas ocasionadas por sistemas avanzados de IA.
Bengio lleva años siendo una de las voces más escuchadas y respetadas en el ámbito de la inteligencia artificial. Ganador del Premio Turing y cotizado por su rol en los avances más recientes, también se ha destacado por ser uno de los principales defensores de la seguridad en el uso de estas tecnologías.
No es casualidad que personas tan distintas lo sigan y apoyen: Bengio habla claro sobre la responsabilidad ética y la necesidad de evitar que la IA suponga una “amenaza” real para la sociedad. Está convencido de que, sin una vigilancia adecuada, podríamos entrar en zonas muy peligrosas.
En una entrevista con el Financial Times, Bengio fue muy claro: tiene poca confianza en que grandes empresas del sector, como OpenAI y Google, pongan por delante la seguridad cuando compiten entre sí por lograr la IA más avanzada.
Desde su punto de vista, la presión por ser los primeros puede llevar a errores graves o a saltarse controles imprescindibles. Por eso, insiste tanto en la importancia de organismos independientes como LawZero y en leyes que no dejen resquicios para descuidos fatales.
En medio de este debate, Bengio también ha decidido mojarse en el terreno político. Ha mostrado su apoyo al proyecto de ley SB 1047 impulsado en California, una norma polémica que busca evitar escenarios catastróficos derivados de un mal uso de la inteligencia artificial.
Esta ley ha causado polémica porque implica nuevas obligaciones y controles sobre los sistemas desarrollados por las grandes firmas. Bengio, Mantiene una posición firme: ve necesaria toda medida que ayude a reducir riesgos, sobre todo cuando son tan grandes y globales.
Si visitas la web del proyecto o sigues sus futuras publicaciones, vas a poder encontrar iniciativas de investigación, auditorías técnicas y comunicaciones pensadas para concienciar sobre la importancia de la IA segura. LawZero trabajará en colaboración con entidades externas pero también conservará su independencia, una clave para que la seguridad no quede supeditada a intereses comerciales.
Gracias a estos pasos, cualquier usuario o desarrollador podrá tener más garantías a la hora de usar aplicaciones basadas en inteligencia artificial, ya sea una app, un servicio web o incluso tecnología integrada en dispositivos cotidianos.
La creación de LawZero marca un punto de inflexión en el debate sobre cómo usar inteligencia artificial de forma segura. Con el impulso de Yoshua Bengio y la financiación de expertos del sector, el laboratorio aspira a convertir la protección de la humanidad en el elemento central de todo desarrollo futuro en IA.
Mientras la batalla por el sistema más avanzado sigue abierta, la sociedad gana con iniciativas que ponen la seguridad en primer lugar, y eso puede cambiarnos la vida a todos.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
