La oferta de utensilios de cocina Taylor Swift Le Creuset es falsa

Con suerte, los usuarios de las redes sociales que vieron a Taylor Swift promocionando artículos de cocina gratuitos en plataformas como Facebook supieron que los anuncios eran un problema antes de hacer clic.

En las últimas semanas han aparecido en Facebook y otras plataformas sociales anuncios falsos de la marca de utensilios de cocina Le Creuset, que parecen contar con el sello de aprobación de Swift. Los anuncios utilizan clips dispersos de la cantante con una versión sintetizada de su voz e imágenes de los hornos holandeses Le Creuset.

“Hola chicos, soy Taylor Swift”, comienza un anuncio falso con la voz de Swift en alto. “Debido a un error en el embalaje, no podemos vender 3.000 juegos de utensilios de cocina Le Creuset. Así que se los doy gratis a mis fieles seguidores”.

Luego, el anuncio indica a los usuarios que hagan clic en un botón y respondan preguntas para recibir los utensilios de cocina de la marca de forma gratuita.

La sección de comentarios de la publicación de Facebook con la voz de Swift destacó los diversos métodos que utilizaron los creadores del anuncio falso para legitimar la “oferta”.

“¡Entra en 10 días! Larga espera, pero de todos modos el set es genial! ¡¡Gracias chicos!!” comentó una cuenta.

Pero otros usuarios intervinieron rápidamente y denunciaron el anuncio por ser falso, al tiempo que compartieron su experiencia de haber caído en la trampa.

“Pagué el envío, estúpidamente, y nunca recibí los utensilios de cocina”, comentó un usuario. “Te avergüenza haber caído en eso. ¡No haga eso!

Los representantes de Swift no respondieron de inmediato a una solicitud de comentarios, mientras que un portavoz de Meta le dijo a TODAY.com que el anuncio fue eliminado.

“Le Creuset no está involucrado con Taylor Swift en ninguna oferta al consumidor”, dijo un portavoz de Le Creuset a NBC News. “Todos los obsequios o promociones de Le Creuset aprobados provienen de las cuentas sociales oficiales de Le Creuset. Los consumidores siempre deben consultar las cuentas sociales oficiales y el sitio web de Le Creuset antes de hacer clic en cualquier anuncio sospechoso”.

David S. Touretzky, profesor de investigación en el Departamento de Ciencias de la Computación de la Universidad Carnegie Mellon y el Instituto de Neurociencia Carnegie Mellon, dijo a TODAY.com que la estafa de Le Creuset solo falsificó la voz de Taylor Swift.

“Las imágenes utilizadas eran reales”, explica. “Falsificar imágenes es posible, pero requiere mucho más trabajo”.

El anuncio falso de Le Creuset está lejos de ser el primero en utilizar inteligencia artificial para falsificar el rostro o la voz de una celebridad con fines fraudulentos.

Anuncios fraudulentos similares en Facebook muestran que Oprah Winfrey también promueve el sorteo de utensilios de cocina. En noviembre de 2023, Scarlett Johansson y su equipo legal persiguieron a Lisa AI, una generadora de arte y creadora de avatares con inteligencia artificial, por usar su imagen en anuncios en línea.

Por muy preocupantes que puedan ser estas campañas, Touretzky señala que antes de la llegada de los deepfakes, la gente contrataba imitadores de voz para llevar a cabo estafas similares.

“Pero encontrar personas que puedan hacerlo bien y que estén dispuestas a facilitar un delito puede resultar difícil. Usar las computadoras es más fácil porque no tienen moral y no te denuncian ante las autoridades”, continúa.

¿Cómo se entrenan los modelos deepfake?

Touretzky explica que para fingir la voz de alguien es necesario recoger muestras de su discurso. Con Taylor Swift presente en todas partes este año, los malos actores ciertamente tenían mucho contenido para explotar.

“Esto se utiliza como datos de entrenamiento para un algoritmo de aprendizaje automático que construye un modelo de sus patrones de habla: pronunciación, entonación, timbre de voz, velocidad de habla”, explica. “Con este modelo, puedes tomar el discurso de otra persona y transformarlo para que suene como la persona que estás tratando de imitar”.

¿Cómo podemos protegernos contra los deepfakes?

Touretzky señala que no hay vuelta atrás en el tiempo con la tecnología deepfake.

“La tecnología no va a volver a la botella”, afirma. “De hecho, a medida que las computadoras se vuelvan más poderosas, esto se generalizará aún más. Tal vez en uno o dos años tengas una aplicación para tu teléfono que te permita hablar como Morgan Freeman o Dame Judi Dench.

“Atrapar a las personas que hacen un mal uso de la tecnología tendrá que depender de una mejor capacidad para rastrear adónde va el dinero”, afirma.