Este artículo fue producido en colaboración. con guardia de la corteun medio independiente que descubre registros judiciales pasados por alto.
El FBI arrestó a un hombre bajo cargos criminales después de que supuestamente utilizó inteligencia artificial para generar imágenes de abuso sexual infantil y luego se las envió a un menor.
Steven Anderegg, un hombre de 42 años de Holmen, Wisconsin, supuestamente utilizó Stable Diffusion, un modelo de IA generativa de texto a imagen, para crear «millas de imágenes realistas de menores prepúberes», dijeron los fiscales. en un anuncio el lunes. “Muchas de estas imágenes se muestran a menores desnudos o parcialmente vestidos mostrando o tocando lascivamente sus genitales o manteniendo relaciones sexuales con hombres. La evidencia recuperada de los dispositivos electrónicos de Anderegg reveló que generó estas imágenes utilizando mensajes de texto específicos y sexualmente explícitos relacionados con menores, que luego almacenó en su computadora”.
Luego supuestamente se comunicó con un niño de 15 años, le describió su proceso para crear las imágenes y le envió varias de las imágenes de menores generadas por IA a través de mensajes directos de Instagram. En algunos de los mensajes, Anderegg les dijo a los usuarios de Instagram que usa Telegram para distribuir CSAM generado por IA. “Él cultivó activamente una comunidad en línea de delincuentes con ideas afines, a través de Instagram y Telegram, en la que podía mostrar sus representaciones obscenas de menores y discutir con estos otros delincuentes su interés sexual compartido en los niños”, alegan los registros judiciales . «Dicho de otra manera, usé estas imágenes de GenAI para atraer a otros delincuentes que pudieran normalizar y validar su interés sexual en los niños y, al mismo tiempo, alimentar el interés de estos delincuentes (y el suyo propio) en ver cómo se abusaba sexualmente de menores».
Este es uno de los primeros casos conocidos en los que el FBI ha acusado a alguien de utilizar IA para crear material de abuso sexual infantil.
En marzo, la policía estatal de Wisconsin acusó a Anderegg de dos cargos de “exponer a un niño a material dañino” y un cargo adicional de “contacto sexual con un menor de 13 años”, y se declaró inocente. Forbes informó En el momento. El ayudante del sheriff dijo en una declaración jurada que Anderegg estaba aceptando solicitudes de otras personas en línea para generar imágenes de menores con IA. Mercados de pornografía con IA se han convertido en un gran negocio para creadores de imágenes abusivas.
El anuncio señala que Anderegg fue capturado porque Instagram denunció su cuenta al Centro Nacional para Niños Desaparecidos y Explotados para distribuir las imágenes.
“Tenía en esta computadora portátil más de 13.000 imágenes GenAI, con cientos, si no millas, de estas imágenes que mostraban a menores prepúberes desnudos o semidesnudos mostrando o tocándose lascivamente sus genitales”, alegan los registros judiciales. “Otros más representan a menores prepúberes tocando lo que parecen ser penes masculinos adultos o manteniendo relaciones sexuales. Evidencia adicional de la computadora portátil indica que se usaron indicaciones extremadamente específicas y explícitas para crear estas imágenes. Asimismo, utilizó indicaciones ‘negativas’ específicas, es decir, indicaciones que dirigen el modelo GenAI sobre qué no incluir en el contenido generado, para evitar la creación de imágenes que representan a adultos”.
404 Media ha informado sobre Capacidades de difusión estable por generar material de abuso sexual infantil y el reconocimiento de las empresas de IA generativa de que sus usuarios podrían estar haciendo CSAM con sus herramientas. Específicamente, hemos informado sobre el uso de “indicaciones negativas” para evitar la creación de imágenes de adultos con IA. Este caso ilustrado Lo que advirtieron los expertos en abuso infantil en línea hace mesescuando se descubrió que el conjunto de datos LAION-5B contenía imágenes sospechosas de abuso sexual infantil: que incluso si no se puede identificar a niños reales en las imágenes generadas por IA, los depredadores podrían usar las imágenes generadas para preparar a niños reales.
«El anuncio de hoy envía un mensaje claro: usar IA para producir representaciones sexualmente explícitas de niños es ilegal, y el Departamento de Justicia no dudará en responsabilizar a quienes posean, producirn o distribuir material de abuso sexual infantil generado por IA», dijo el asistente adjunto principal. Dijo la fiscal general Nicole M. Argentieri en un comunicado de prensa del FBI.
Anderegg se encuentra bajo custodia federal en espera de una audiencia de detención programada para el 22 de mayo.
Sobre el autor
Sam Cole escribe desde los confines de Internet, sobre la sexualidad, la industria para adultos, la cultura en línea y la inteligencia artificial. Es la autora de Cómo el sexo cambió Internet y Internet cambió el sexo.
