El Congreso presiona a Apple para que elimine las aplicaciones deepfake después de la investigación de los medios 404

Un grupo bipartidista de miembros del Congreso ha presentado Letras a los directores ejecutivos de Google y Apple citando los informes de 404 Media y preguntando qué están haciendo las gigantescas empresas de tecnología para abordar el problema rampante de los medios íntimos no consensuales generados por IA habilitados en sus plataformas. Los miembros del Congreso también enviaron una carta al CEO de Microsoft, Satya Nadella, dado el papel de Microsoft Designer en la creación de las infames imágenes desnudas no consensuadas de Taylor Swift que fueron vistas millones de veces en Twitter. una historia que 404 Media también rompió.

«A principios de este año, Apple eliminó tres aplicaciones utilizadas para crear deepfakes de su tienda de aplicaciones después de que un informe independiente de 404 Media proporcionará enlaces a las aplicaciones y sus anuncios relacionados», decía la carta al director ejecutivo de Apple, Tim Cocinar. “Si bien es positivo que estas aplicaciones hayan sido eliminadas, es preocupante que Apple no haya podido identificarlas por sí sola. La App Store exige que los desarrolladores se sometan a un proceso de selección, pero la persistencia de estas aplicaciones ilustradas que existen lagunas en las directrices de Apple. Mientras Apple trabaja para abordar estas lagunas, nos gustaría entender qué medidas se están tomando y qué pautas adicionales pueden ser necesarias para frenar la propagación de la pornografía deepfake”.

La carta, firmada por 26 representantes republicanos y demócratas de la Cámara de Representantes, fue enviada a Cook el 25 de noviembre y hace referencia a una historia de 404 Media de abril sobre Apple elimina varias aplicaciones de intercambio de caras que anunciaban explícitamente su capacidad para crear pornografía no consensuada. Apple eliminó esas aplicaciones después de que publicáramos una historia a principios de abril sobre la aparición de esos anuncios. en Instagram.

“Mientras el Congreso trabaja para mantenerse al día con los cambios en la tecnología, los republicanos y los demócratas continuarán asegurándose de que las plataformas en línea hagan su parte para colaborar con los legisladores y proteger a los usuarios de posibles abusos”, dice la carta , y luego le presenta a Cook una serie de preguntas. como «¿Qué planes existen para abordar de manera proactiva la proliferación de pornografía deepfake en su plataforma y cuál es el cronograma de implementación de esas medidas?»

Una carta separada enviada al CEO de Google, Sundar Pichai, por los mismos miembros del Congreso sobre el papel de Google al permitir que las aplicaciones anuncien su capacidad para crear pornografía deepfake no consensuada en la Búsqueda de Google.

«A principios de este año, Google anunció que prohibiría los anuncios de sitios web y servicios que produzcan pornografía deepfake», dice la carta, refiriéndose a una Cambio en la política publicitaria de Google que cubrimos en mayo. “Como saben, la aparición de deepfakes ha resultado en un aumento de anuncios de programas dirigidos a usuarios que desean producir contenido sexual explícito. Mientras que la política actualizada de Google instruye a los desarrolladores de aplicaciones de inteligencia artificial para tomar precauciones contra el contenido ofensivo, agrega mecanismos de notificación y señalización en la aplicación para los usuarios y devalúa los resultados de pornografía deepfake en la búsqueda interna. Sin embargo, a pesar de estos esfuerzos, informes recientes han destacado que Google continúa promocionando resultados para aplicaciones que utilizan IA para generar imágenes de desnudos no consentidas. Este desarrollo genera preocupación sobre la complicidad y el papel de Google en la proliferación de deepfakes. Nos gustaría aclarar aún más el resultado de estas actualizaciones y comprender qué pautas adicionales pueden ser necesarias para frenar la propagación de la pornografía deepfake, incluidos los esfuerzos para eliminar las plataformas deepfake de los resultados de búsqueda de Google».

La carta citada una historia que publicamos en agosto que demostró que la búsqueda de “aplicaciones para desnudarse”, “mejores desnudos falsos” y términos similares en Google arroja resultados “promocionados” para aplicaciones que utilizan inteligencia artificial para producir imágenes de desnudos no consensuales. Google eliminó a esos anunciantes en respuesta a nuestra historia.

Esa carta también pregunta qué aviones está poniendo en marcha Google para abordar prácticamente este problema.

Los mismos miembros del Congreso también enviaron cartas a los directores ejecutivos de Facebook, TikTok y Snapchat sobre contenido no consensuado en sus plataformas.

Como escribí en agosto, las aplicaciones de intercambio de rostros presentan a Google y Apple una situación muy difícil. Problema de “doble uso” donde las aplicaciones pueden presentarse como benignas en las tiendas de aplicaciones, pero promueven su capacidad de producir contenido dañino fuera de la plataforma. Hay más que estas empresas de tecnología pueden implementar para mitigar el problema, pero principalmente cualquier aplicación de intercambio de rostros tiene el potencial de crear contenido dañino y debe ser moderada de cerca para evitar ese daño. Monitorear la gran cantidad de aplicaciones que se agregan a estas tiendas de aplicaciones en un día determinado sería una inversión nueva e importante tanto de Google como de Apple.