¿Qué es un deepfake? Explicación de la tendencia a la clonación de IA

Gayle King y Tom Hanks son las últimas celebridades en dejar las cosas claras sobre videos no autorizados generados por IA que promocionan productos fraudulentos.

Durante el año pasado, las versiones de IA de King, Hanks, Elon Musk y Tom Brady promocionaron productos para bajar de peso, planes dentales, oportunidades de inversión y un programa de comedia protagonizado por AI Brady. Cada uno de ellos acusó a los clips de no ser auténticos y tergiversar el contenido sin estar involucrados en el proceso.

Estos videos deepfake son un ejemplo de cuán popular se está volviendo la IA. ChatGPT puede escribir tu ensayo universitario u oficiar tu boda. Tras la popularidad del retrato de Rensa hace un año, las fotos del anuario generadas por IA están arrasando en las redes sociales. AI también ha paralizado las negociaciones entre los guionistas de Hollywood y los sindicatos que representan a los estudios.

En el caso de los vídeos deepfake, los sujetos normalmente no dan su consentimiento para participar y, de hecho, a menudo se enteran de ellos después de que se han difundido online.

“Probablemente sea legal en la mayoría de los lugares hacer estos videos sin el consentimiento del sujeto”, dijo a TODAY.com el experto en derecho tecnológico James Grimmelman.

“Sólo cuando se utiliza comercialmente se vuelve ilegal”, añadió.

¿Qué es un vídeo deepfake?

Vídeos como este, que presentan versiones fabricadas digitalmente de King, Hanks y otras estrellas, se crean utilizando inteligencia artificial, que agrega audio y vídeo reales como puntos de datos, añadiendo luego voces de celebridades y almacenados en una versión digital modificada de la imagen.

Esta tecnología puede generar videos de usted diciendo o haciendo lo que ingrese.

Otras celebridades atrapadas en la refriega en los últimos años incluyen a Jennifer Lawrence, Arnold Schwarzenegger, Mark Zuckerberg y el ex presidente George W. Bush.

La IA no es nueva, pero su popularidad se ha disparado en los últimos años a medida que se ha vuelto más accesible, dijo a TODAY.com Jürgen Schmidhuber, un científico informático reconocido internacionalmente y líder en el campo de la IA.

Schmidhuber dijo que la tecnología utilizada para la IA era prohibitivamente cara cuando apareció por primera vez a principios de los años 90, pero se ha vuelto cada vez más asequible con el tiempo.

“¡Esa es la razón principal por la que esta pieza se hizo popular!”, dice.

Dice que lo que estamos viendo ahora con los deepfakes es sólo el comienzo.

“Pronto, los vídeos generados por IA serán aún más convincentes de lo que son hoy”, afirma. “Pero, como siempre, la gente se acostumbrará y aprenderá a dudar de lo que ve, tal como se acostumbraron hace unas décadas a las películas con dinosaurios realistas”.

Schmidhuber se opone al uso de la IA para realizar deepfakes y otras formas de fraude.

“Las imitaciones de celebridades generadas por IA deben tratarse de la misma manera que las imitaciones de otras personas generadas por IA”, dice. “Se debe eliminar el contenido ofensivo, despectivo y dañino, y sus creadores deben ser procesados ​​legalmente”.

¿Qué dicen las celebridades sobre los videos deepfake?

La semana pasada, King y Hanks emitieron un comunicado condenando los videos deepfake que utilizan sus imágenes.

“Manipularon mi voz y mi video para que pareciera que lo estaba promocionando”, dijo King en Instagram el 2 de octubre sobre un video falso sobre un producto para bajar de peso. “Nunca había oído hablar de este producto ni lo había usado. No se deje engañar por estos videos de IA”.

Quienes comentaron su publicación expresaron preocupación por esta tendencia.

“Oh… Gail, ¡qué miedo!”, escribió mi colega de CBS, Nate Burleson.

“Esto es realmente aterrador. No lo creo, pero algunas personas sí lo creen. ¿Cuál es la verdad? ¡Todos deberíamos preocuparnos!”, dijo otro. Yo he escrito.

El 1 de octubre, Hanks publicó una advertencia en Instagram sobre un video deepfake que lo involucraba.

“¡¡Cuidado!!”, escribió sobre la captura de pantalla de su vídeo de IA. “Hay un vídeo que promociona una versión de IA de mi plan de tratamiento dental. No tengo nada que ver con eso”.

Musk creó varios videos deepfake de él mismo, uno de los cuales comenzó a circular en mayo de 2022.

“Oye, definitivamente yo no”, comentó en un tweet que incluía un clip de un video deepfake de él mismo promocionando lo que en última instancia fue una estafa criptográfica.

En el caso de Brady, supuestamente envió una carta de cese y desistimiento en abril a los creadores del podcast de vídeo falso “Dudesee”, presentado por Chad Krutgen y Will Sasso. Según los informes, la carta decía que el vídeo era “altamente ofensivo” y le daba una “luz falsa”.

Los creadores eliminaron el vídeo de una hora de duración, pero insistieron en que no habían hecho nada malo.

“Esta no es una representación del señor Brady. Es una personificación de Tom Brady”, dijo Krutgen en abril, y luego añadió: “Esto es sólo una parodia de la idea de Tom Brady haciendo un stand-up”, añadió.

“Las parodias de personas generadas por la IA deberían etiquetarse claramente como tales”, afirmó Schmidhuber.

El 28 de septiembre, Brady anunció en Instagram que se había asociado con Meta para presentar una “nueva IA llamada Blue” que incorpora la cara de Brady.

La industria musical ha estado repleta de versiones de canciones de artistas generadas por IA, incluida la voz de Drake en “Munch” de Ice Spice. Drake y su sello discográfico, Universal Music Group, denunciaron posteriormente el uso de IA para crear canciones falsas.

¿Es legal crear vídeos deepfake?

Aunque la legislación aún no ha llegado al mundo de la IA, recientemente se han presentado varios proyectos de ley.

En junio, el representante Richie Torres (demócrata por Nueva York) presentó un proyecto de ley que requeriría que “la inteligencia artificial generativa revele que su producción fue generada por inteligencia artificial”. Ese mismo mes, el representante Ted Lieu (D-CA) presentó un proyecto de ley para crear una comisión de inteligencia artificial. Se ha introducido legislación adicional destinada a regular la IA.

Grimmelman, profesor de derecho en la Universidad de Cornell, dice que el camino para desafiar legalmente los deepfakes es actualmente estrecho.

“Falsificar a ciertos actores en películas distribuidas comercialmente es probablemente una violación del derecho a la publicidad”, afirmó, señalando que esta protección también incluye el derecho a la privacidad. “El derecho de publicidad no se aplica al uso privado y no comercial. Es cuando se explota comercialmente cuando se vuelve ilegal”.

Dijo que el remedio es ampliar los derechos de privacidad a “representaciones digitales sintéticas altamente realistas de humanos, incluso si no se utilizan comercialmente”.

Dice que los vídeos deepfake también plantean cuestiones éticas.

“No es ético hacer pasar un deepfake por un vídeo real. Es una especie de mentira”, afirma. “Una vez que los deepfakes son reconocidos como deepfakes, se vuelven aún más éticamente ambiguos, porque esto plantea la pregunta de cuánto control deberíamos tener sobre cómo otras personas piensan y hablan de nosotros. Porque nos enfrentamos a cuestiones difíciles y controvertidas como:

Grimmelman dice que las celebridades tienen pocos recursos cuando se trata de evitar los deepfakes.

“Las celebridades no pueden evitarlo”, dice. “Muchas de sus fotos y vídeos ya están disponibles, y su trabajo básicamente necesita hacerse público”.

Dice que todos los demás pueden evitarlo “permaneciendo ocultos y no apareciendo en fotos y vídeos en Internet”.

“Algunas personas viven sus vidas de esta manera y otras no”, dice. “El miedo a ser falsificado no parece ser la razón más importante para decidir si ser fotografiado. Para la mayoría de las personas, el riesgo de ser acechadas o acosadas, o de tener una presencia pública. Creo que el deseo de mostrarle a la gente es una razón más importante. consideración. “