Los anuncios deepfake de celebridades en YouTube prometen ponerte ‘duro como una roca’

YouTube publica cientos de anuncios en los que aparecen celebridades falsificadas como Arnold Schwarzenegger y Sylvester Stallone que venden suplementos que prometen ayudar a los hombres con disfunción eréctil.

Los anuncios, descubiertos por Alexios Mantzarlis en el Boletín falsohan estado funcionando desde al menos el 12 de noviembre y tienen alrededor de 300 variaciones según Centro de transparencia publicitaria de Google. Todos los anuncios utilizan videos existentes que se modifican con una voz generada por IA y se sincronizan los labios para que coincidan con lo que dice la voz generada por IA. Muchos de los anuncios presentan a mujeres no famosas que hablan de cómo sus “maridos se volvieron locos” después de “probar una mezcla simple y secreta” para tratar su disfunción eréctil, pero algunos de los anuncios presentan falsificaciones de celebridades como Arnold Schwarzenegger, Sylvester Stallone, Mike Tyson y Terry Crews.

“¿Has oído hablar del truco de la sal que hace que me quede duro durante horas en la cama?” pregunta un Schwarzenegger generado por IA con su acento austriaco instantáneamente reconocible. “Los mejores actores adultos han estado usando esto durante los últimos cinco años para mantenerse duros como una roca. Quiero decir, no penséaste que durarían tanto sin un pequeño truco, ¿verdad?

Los anuncios de video de Stallone, Tyson y Crews que repiten exactamente el mismo guión indican que quien escribió los anuncios los copió y pegó en un generador de voz de IA.

Los anuncios llevan a los usuarios a una página en «thrivewithcuriosity.com», donde después de confirmar que tienen «más de 40» años, se les muestra una presentación serpenteante y muy explícita de 40 minutos de duración sobre la droga milagrosa que está conquistando. a los hombres, incluidas las celebridades. strippers y artistas adultos «duros como una roca».

Ese video comienza con una verdadera Entrevista del programa de hoy Stallone lo hizo con su esposa y sus tres hijas para promocionar su reality show «The Family Stallone», pero ha sido editado de manera muy incómoda con audio generado por IA y sincronización de labios para que parezca que está hablando de lo difícil que puede llegar a ser satisfecho ahora. su esposa gracias a la droga milagrosa.

El video lleva a los espectadores en un viaje extraño desde un club de striptease en Texas hasta la oficina de un urólogo falso de Harvard y una iglesia abandonada en Tailandia donde los científicos descubrieron una especie de murciélago con erecciones anormalmente grandes y duraderas. En el camino, se hacen videos deepfake de todos, desde Tom Hanks, Denzel Washington y la estrella del entretenimiento para adultos Johnny Sins, para decir que han estado usando silenciosamente esta fórmula secreta para durar más en la cama. El vídeo finalmente concluye ofreciendo a los espectadores la oportunidad de comprar seis botellas o 180 días de Prolong Power a $49 por botella.

Ese enlace envía a los usuarios a una página en digistore24.com donde pueden ingresar la información de su tarjeta de crédito para comprar Prolong Power, pero pude encontrar el suplemento a la venta en muchos otros lugares en línea. Muchos vendedores en Amazon ofrecen Prolong Power, donde tiene críticas mixtas de los usuarios, con algunos dicen «Este producto es una estafa», «no te molestas» y «falso». Según su etiqueta, Prolong Power se compone de una “mezcla patentada” de salvado de avena en polvo, semillas de hinojo, corteza de cáscara sagrada en polvo y otros ingredientes comunes que, según la etiqueta, Biblioteca Nacional de Medicina son principalmente útiles para el estreñimiento. En particular, los ingredientes no incluyen “polvo de escarabajo de medianoche”, que, según explica el largo video de presentación Prolong Power, es el ingrediente secreto que les dio a los murciélagos de la iglesia sus magníficas erecciones.

Prolongpowers.com, que lo llama el «Suplemento de mejora masculina natural n.° 1», afirma que ahora ofrece una «nueva versión» a la que llama Primor Dial Vigor X y presenta testimonios de tres clientes que realizaron «compras verificadas». Sin embargo, un portavoz de la empresa de detección de deepfake Reality Defender dijo que, según su plataforma, había un 99 por ciento de probabilidades de que los retratos adjuntos a esos testimonios fueron generados por IA.

En enero, YouTube eliminó alrededor 1.000 anuncios similares en el que celebridades falsificadas lanzan estafas sin saberlo.

«Trabajamos constantemente para mejorar nuestros sistemas de aplicación de la ley para estar a la vanguardia de las últimas tendencias y tácticas de estafa, y garantizar que podamos responder rápidamente a las amenazas emergentes», dijo Google en ese momento después de eliminar los anuncios. Pero obviamente todavía no tiene este problema totalmente bajo control.

«Prohibimos los anuncios que afirman falsamente el respaldo de una celebridad para estafar a la gente», dijo un portavoz de Google a 404 Media en respuesta a esta historia. «Cuando identificamos a un anunciante que participa en esta práctica engañosa, suspendemos permanentemente su cuenta y eliminamos todos sus anuncios de nuestras plataformas, como lo hemos hecho en este caso. Seguimos invirtiendo fuertemente en nuestra capacidad para detectar y eliminar este tipo de estafas. anuncios y los malos actores detrás de ellos”.

Google dijo que eliminó los anuncios complementarios deepfake y suspendió permanentemente la cuenta que los pagaba después de que me puse en contacto para hacer comentarios.