Google actualiza su política publicitaria para prohibir toda la pornografía generada por IA

Google ha actualizado su política de «Contenido sexualmente explícito» para abordar la creciente proliferación de pornografía generada por IA, o «contenido sexualmente explícito sintético», como lo llama la empresa.

En un correo electrónico enviado a todos los administradores de anuncios de Google, es decir, cualquier persona que utilice la popular plataforma publicitaria de Google para mostrar anuncios en sus sitios web, recibió un correo electrónico de la compañía indicando que actualizará su política en mayo de 2024.

«La política se actualizará para especificar que no permitimos promover la creación o distribución de contenido que haya sido alterado o generado sintéticamente para que sea sexualmente explícito o contenga desnudez», decía el correo electrónico.

«Hemos prohibido durante mucho tiempo el contenido sexual explícito y no consensuado en nuestras plataformas publicitarias y estas políticas generalmente han impedido la promoción de servicios de pornografía deepfake», me dijo un portavoz de Google en un correo electrónico. «Para garantizar un enfoque integral, estamos actualizando nuestras políticas publicitarias para dejar en claro que no permitimos la promoción de estos servicios, independientemente de si el contenido es sexualmente explícito o no”.

El cambio de política aborda un problema que vemos cada vez más con las herramientas que generan pornografía no consensuada generada por IA y cómo se promocionan en línea. Hemos visto múltiples casos, en las tiendas de aplicaciones de Google y Apple, así como en la plataforma publicitaria de Meta y en las plataformas publicitarias de sitios pornográficos, que canalizan a los usuarios hacia estas herramientas de inteligencia artificial haciéndose pasar por inocentes.

En el caso de Google, previamente hemos reportado en una aplicación de intercambio de caras que parecía inocua en Google Play Store, pero anunciaba su capacidad para generar contenido para adultos no consensuado en sitios porno. También hemos visto aplicaciones aparentemente inocentes de intercambio de caras en la App Store de Apple que anunciaban su capacidad para generar pornografía no consensuada. en Instagram. Meta eliminó los anuncios de Apple y Google. remoto las aplicaciones siguiendo nuestros informes.

Google agregó que está actualizando sus políticas para Anuncios, Editory Anuncios de compras plataformas para prohibir explícitamente los anuncios de servicios que ofrecen crear pornografía deepfake o contenido de desnudos sintéticos. Google dijo que, como se indica en su centro de ayudauna violación de esta política se considera una «violación flagrante de la política», lo que significa que provocará la suspensión de la cuenta del anunciante o editor.

Google admitió que su aplicación no siempre es perfecta, pero dijo que utiliza sistemas automatizados y revisión humana para moderar sus políticas y señaló su plan para 2023. Informe de seguridad de anuncios para demostrar que eliminó más de 1.800 millones de anuncios por violar sus políticas sobre contenido sexual.

Como hemos informado en las últimas semanas, parece que algunas de las grandes plataformas se están dando cuenta de los daños que están causando las herramientas de inteligencia artificial diseñadas para generar contenido no consensuado y están comenzando a tomar más medidas contra ellas. Pero no me queda claro qué tan grande será el cambio que tendrá este cambio de política específica y políticas similares. El problema más importante es la aplicación de la ley, y es particularmente difícil encontrar malos actores que mientan sobre la naturaleza de las aplicaciones que crean o promocionan, hasta que los informes.