suscribir
Únase al boletín para recibir las últimas actualizaciones.
Los algoritmos de recomendación de Facebook están promoviendo imágenes extrañas generadas por IA que son publicadas por spammers y estafadores a una audiencia de personas que interactúan con ellas sin pensar y tal vez no entienden que no son reales, un Nuevo análisis realizado por investigadores de la Universidad de Stanford y Georgetown. ha encontrado. El análisis de los investigadores se alinea con lo que he visto y experimentado a lo largo de meses de investigación e informes en estas páginas, muchas de las cuales han encontrado una forma novedosa de vincularse a sitios de “noticias” fuera de plataforma, generadas por IA y que están llenos de basura. con anuncios de Google o que venden productos de baja calidad.
La semana pasada, el mundo conoció a Shrimp Jesus, una serie de imágenes generadas por inteligencia artificial en las que Jesús se fusiona con un crustáceo y que se han vuelto virales repetidamente en Facebook. Las imágenes son emblemáticas de un tipo específico de imagen de IA que utilizan los spammers y estafadores, sobre el cual escribí por primera vez en diciembre, pero que repetidamente ha hecho que las masas digan «WTF» y «¿POR QUÉ?» cuando se comparten lejos de una audiencia de usuarios de Facebook que aparentemente no pueden detectarlos como IA, o no les importa que sean IA. “QUÉ ESTÁ PASANDO EN FACEBOOK”, decía un tweet viral sobre Camarón Jesús.
Lo que está sucediendo, simplemente, es que cientos de páginas de spam generadas por IA se publican docenas de veces al día y son recompensadas por el algoritmo de recomendación de Facebook. Debido a que el spam generado por IA funciona, cosas cada vez más extravagantes se vuelven virales y luego se recomiendan a las personas que interactúan con ellas. Algunas de las páginas que originalmente parecían no tener otro propósito que el de acumular una gran cantidad de seguidores, desde entonces han girado para dirigir el tráfico a páginas web que están uniformemente llenas de anuncios y que a veces están generadas por IA, oa sitios que vendemos productos baratos. o estafas directas. Algunas de las páginas también han comenzado a comprar anuncios de Facebook en los que aparece Jesús oa decirle a la gente que le dé me gusta a la página «Si respetas al ejército de EE. UU.».
«Estas imágenes en total representan cientos de millones de interacciones y se muestran a través del feed de Facebook a algunos usuarios de Facebook que no siguen las páginas», dijeron Renee DiResta del Observatorio de Internet de Stanford y Josh A. Goldstein del Centro de Seguridad y Tecnología Emergente de Georgetown. escribió sobre su investigación. «Si bien Shrimp Jesus es (quizás) obviamente una fantasía artística, creada por una página que anteriormente compartía enlaces clickbait a una granja de contenido, comenta sobre muchas de las imágenes generadas por IA de cosas más mundanas, como artículos para el hogar, hogares o obras de arte supuestamente creadas por niños, sugiere que muchos usuarios desconocen el origen sintético».
Esta publicación es solo para pagos de miembros.
Conviértase en miembro pago para obtener acceso ilimitado y sin publicidad a artículos, contenido adicional de podcasts y más.
Regístrate para acceder gratis a esta publicación
Los miembros obtienen acceso gratuito a publicaciones como esta junto con un resumen por correo electrónico de las historias de nuestra semana.
¿Ya tienes una cuenta? Iniciar sesión