este articulo fue producido con el apoyo de WIRED.
Instagram está inundado de cientos de personas influyentes generadas por IA que roban videos de modelos reales y creadores de contenido para adultos, les dan rostros generados por IA y monetizan sus cuerpos con enlaces a sitios de citas, Patreon, competidores de Onlyfans y varias aplicaciones de IOWA.
La práctica, reportado por primera vez por 404 Media en abrilDesde entonces, su popularidad se ha disparado, lo que demuestra que Instagram no puede o no quiere detener la avalancha de contenido generado por IA en su plataforma y proteger a los creadores humanos en Instagram que dicen que ahora están compitiendo con el contenido de IA de una manera que está afectando su capacidad de ganarse la vida.
Según nuestra revisión de más de 1000 cuentas de Instagram generadas por IA, canales de Discord donde las personas que crean este contenido comparten consejos y discuten estrategias, y varias guías que explican cómo ganar dinero mediante el «proxenetismo de IA», ahora es trivialmente fácil Cree estas cuentas y monetícelas utilizando una variedad de herramientas y aplicaciones de inteligencia artificial disponibles en el mercado. Algunas de estas aplicaciones están alojadas en Apple App y Google Play Stores. Nuestra investigación muestra que lo que alguna vez fue un problema de nicho en la plataforma se ha industrializado en escala y muestra lo que las redes sociales pueden convertirse en un futuro cercano: un espacio donde el contenido generado por IA eclipsa al de los humanos.
Elaina St James, una creadora de contenido para adultos que promueve su trabajo en Instagram, dijo que ella y otros creadores de contenido para adultos ahora compiten directamente con estas cuentas fraudulentas de IA, muchas de las cuales utilizan fotografías y videos robados de creadores de contenido. para adultos y modelos de Instagram. Dijo que si bien puede haber otros cambios en el algoritmo de Instagram que podrían haber contribuido a esto, desde la explosión de cuentas de influencers generadas por IA en Instagram su «alcance reducido dramáticamente», de un promedio de uno a cinco millones de visitas por mes a no superó el millón en los últimos 10 meses y, a veces, llegó a menos de 500.000 visitas.
«Esta es probablemente una de las razones por las que mis puntos de vista están bajando», nos dijo St James en una entrevista. «Es porque estoy compitiendo con algo que no es natural».
Alexios Mantzarlis, director de la iniciativa de seguridad, confianza y protección de Cornell Tech y ex director de Trust & Safety Intelligence de Google, compiló una lista de alrededor de 900 cuentas que 404 Media revisó en su investigación. Mantzarlis, quien se topó con una de estas cuentas mientras usaba Instagram casualmente, dijo que comenzó a investigar las cuentas de influencers generadas por IA porque podría mostrarnos hacia dónde el contenido generado por IA está llevando a las redes sociales e Internet en un sentido más amplio. , donde ve un «a irrealidad mezclada creciente”. Mantzarlis cree que podría haber encontrado fácilmente 900 cuentas más, y que la única razón por la que no obtuvo más es que Instagram restringió la cuenta que usábamos para eliminar la plataforma.
Esta publicación es solo para pagos de miembros.
Conviértase en miembro pago para obtener acceso ilimitado y sin publicidad a artículos, contenido adicional de podcasts y más.
Regístrate para acceder gratis a esta publicación
Los miembros obtienen acceso gratuito a publicaciones como esta junto con un resumen por correo electrónico de las historias de nuestra semana.
¿Ya tienes una cuenta? Iniciar sesión