En un mundo donde la inteligencia artificial está avanzando rápidamente, los deepfakes se han convertido en una preocupación creciente para empresas, gobiernos e individuos. Reality Defender, una startup dedicada a combatir la desinformación generada por IA, ha lanzado una herramienta capaz de identificar deepfakes en tiempo real, proporcionando una solución innovadora ante esta amenaza tecnológica.
Durante una reciente demostración, Christopher Ren, gerente de producto de Reality Defender, mostró cómo la tecnología puede identificar un deepfake en videollamadas. Ren utilizó una sola foto y un código viral de GitHub para generar un deepfake de Elon Musk sobre su propio rostro durante una llamada. Mientras esto ocurría, los fotogramas de la videollamada se enviaban a los servidores de Reality Defender para su análisis, y el sistema rápidamente alertó de que se trataba de una falsificación generada por IA.
Este tipo de herramientas resulta clave, ya que los deepfakes son cada vez más sofisticados y difíciles de detectar, especialmente en situaciones de alto riesgo como negociaciones empresariales o conversaciones políticas. Un ejemplo reciente incluye el caso de un senador estadounidense que fue engañado en una videollamada con alguien que se hacía pasar por un oficial ucraniano.
Los deepfakes son una amenaza seria, no solo para figuras públicas, sino también para personas y empresas. Fraudes en videollamadas, como el de una empresa de ingeniería que perdió millones de dólares, demuestran cómo los estafadores utilizan esta tecnología para engañar y robar. Ben Colman, CEO y cofundador de Reality Defender, advierte que es cuestión de meses antes de que los deepfakes en tiempo real se conviertan en una herramienta habitual para cometer fraudes cara a cara.
Por ello, la startup está desarrollando un complemento para plataformas de videollamadas como Zoom, que puede predecir en tiempo real si la persona en la llamada es auténtica o una imitación generada por IA. Este software estará disponible inicialmente solo para algunos de los clientes de la empresa, ya que aún está en fase beta.
A medida que avanza el desarrollo de esta tecnología, Reality Defender se posiciona como líder en la detección de deepfakes. La empresa también está trabajando en alianzas clave con otras compañías del sector. Una de estas alianzas incluye a ElevenLabs, después de que un deepfake de voz suplantara al presidente de los Estados Unidos en una llamada telefónica. La colaboración busca prevenir el mal uso de la IA en escenarios como este.
También te puede interesar:Trae: La Alternativa a Cursor de los Creadores de TikTokAdemás, Reality Defender se mantiene optimista sobre el futuro, buscando mejorar continuamente la precisión de su herramienta a través de la recolección de más datos y el establecimiento de nuevas asociaciones.
Puedes conocer más sobre esta herramienta y sus avances visitando el sitio web oficial de Reality Defender.
A medida que los deepfakes se vuelven más accesibles y sofisticados, es fundamental contar con herramientas que permitan identificarlos de manera rápida y eficaz. Al igual que los sistemas de seguridad cibernética han evolucionado para combatir amenazas como el ransomware, es probable que la detección de deepfakes en videollamadas se convierta en una función básica de las plataformas de comunicación.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
