Los anuncios de Instagram envían a este sitio Nudify el 90 por ciento de su tráfico

Una aplicación de inteligencia artificial para crear imágenes de desnudos no consentidos de cualquier persona obtiene la gran mayoría de su tráfico directamente de las metaplataformas, donde la aplicación compra millas de anuncios explícitos que muestran desnudos no consensuados de celebridades e influencers. La flagrante y repetida violación de las políticas de Meta a lo largo de los meses es una burla de la capacidad o voluntad de la compañía para moderar a un conocido mal actor que en este momento parece obtener la mayoría de sus usuarios pagando a Meta directamente por los anuncios.

La aplicación, conocida como Crushmate o Crush AI, ha estado comprando anuncios en Facebook, Instagram y otras plataformas Meta desde al menos principios de septiembre. Como informó por primera vez Alexios Mantzarlis en su Boletín falsoSegún la firma de análisis de tráfico de Internet Similarweb, tres de los dominios que utilizan Crush tuvieron alrededor de 240.000 visitantes combinados, y el 90 por ciento de ese tráfico provino de Facebook o Instagram.

He visto a Meta eliminar algunos de estos anuncios desde septiembre, pero al momento de escribir este artículo, los mismos tres dominios que se anunciaban en las plataformas Meta y se redirigían a los servicios de Crushmate tenían alrededor de 350 anuncios activos y más de 5,000 anuncios. en total.

La mayoría de los anuncios recientes utilizan el mismo formato. Toma un video que una mujer publicó en Instagram o TikTok y muestra cómo un usuario puede pausar el video en cualquier fotograma y crear una imagen de ella desnuda. Muchos de los anuncios, que todavía están activos, hacen esto con videos de la extremadamente popular creadora de Onlyfans Sophie Rain, quien recientemente fue noticia por ganar $43 millones en un año en Onlyfans. Como señala Mantzarlis, un anuncio desnuda a Mikayla Demaiter, una modelo con 3,2 millones de seguidores en Instagram. Rain y Demaiter no respondieron a una solicitud de comentarios.

Otros anuncios muestran a otras mujeres reales que no pude identificar y mujeres generadas por IA cuya ropa está «borrada» por la aplicación.

A principios de septiembre, un lector de 404 Media también me informó que Crushmate estaba anunciando sus servicios en Facebook Marketplace.

Confirmé que todos estos anuncios conducen al mismo servicio Crushmate que creará imágenes de desnudos no consentidas y ofrece algunos de sus servicios a través de un plan de suscripción.

Recientemente informé sobre Metapublicaciones de anuncios que presentan desnudez explícitaincluidas docenas de anuncios que son simplemente imágenes de vaginas en primer plano. También él informó repetidamente sobre Aplicaciones “desnudas” que compran anuncios en metaplataformas. Cuando señalamos estos anuncios a Meta en el pasado, los eliminaron. Meta también eliminó las páginas de Facebook asociadas que compran los anuncios, pero Crushmate encontró una solución fácil que claramente está dando sus frutos: crea múltiples páginas de Facebook con imágenes de perfil generadas por IA que parecen personas normales, luego compra anuncios que promocionan cosas nuevas. y diferentes. URL que redirecciona a Crushmate.

Meta no respondió a preguntas específicas sobre por qué no detectar y eliminar los anuncios ofensivos que presentan desnudez no consensuada. como informado la semana pasadapruebas exhaustivas realizadas por AI Forensics, una organización europea sin fines de lucro que investiga algoritmos opacos e influyentes, encontraron que los desnudos subidos a Instagram y Facebook como usuario normal se eliminaron rápidamente por violar los estándares comunitarios de Meta. No se eliminaron exactamente las mismas imágenes cuando se cargaron como anuncios, lo que muestra que Meta tiene un estándar diferente de aplicación cuando se le paga por mostrar imágenes a los usuarios.

“Meta prohíbe los anuncios que promuevan la explotación sexual de adultos. Hemos eliminado el contenido infractor, hemos aplicado contra las URL infractoras y hemos tomado medidas contra las cuentas y usuarios asociados”, me dijo un portavoz de Facebook en un comunicado. «Este es un espacio altamente conflictivo y los malos actores están constantemente desarrollando sus tácticas para evitar la aplicación de la ley, razón por la cual continuamos invirtiendo en las mejores herramientas y tecnología para ayudar a identificar y eliminar el contenido infractor».

Meta eliminó los anuncios que promocionaban los tres dominios de Crushmate después de que Mantzarlis los señalara a la empresa. Alrededor de 230 de los mismos anuncios que promocionan un cuarto dominio Crushmate que Mantzarlis encontró después de solicitar comentarios todavía están activos en las plataformas de Meta.

Como informamos anteriormente, estas aplicaciones de nudificación son algunas de las aplicaciones más dañinas de la IA generativa porque facilitan la creación de imágenes no consensuadas de cualquier persona. En los últimos dos años, hemos visto varios ejemplos de estas aplicaciones utilizadas por menores para crear imágenes de otros menores. El año pasado, una encuesta encontró que 1 de cada 10 menores Infórmese que sus amigos o compañeros de clase han utilizado herramientas de inteligencia artificial para generar desnudos de otros niños. Como muestran los anuncios de Crushmate, los menores no necesitan ir a los rincones oscuros de la web en busca de estas herramientas. A Meta le pagan para popularizarlos.