La publicación por parte de Google de imágenes de hongos generados por inteligencia artificial podría tener “consecuencias devastadoras”

Google está ofreciendo imágenes de hongos generados por inteligencia artificial cuando los usuarios buscan algunas especies, un error riesgoso y potencialmente fatal para los recolectores que intentan descubrir qué hongos son seguros para comer.

Las imágenes de IA fueron señaladas por el moderador de la comunidad de Reddit r/mycology, dedicada al «amor por los hongos», que incluye «la caza, la búsqueda de alimentos, [and] cultivo”. El moderador, que se hace llamar MycoMutant, observado ¿Cuándo buscaron el? Coprinus comatus Un hongo común conocido como gorro de tinta peludo o melena peluda, la primera imagen en el fragmento de Google, que aparece sobre los resultados de búsqueda, fue una imagen generada por IA que no se parecía en nada a una real. Coprinus comatus.

Como hemos visto en otros casos, cuando la búsqueda de Google mostró imágenes generadas por IA y las presentaron a los usuarios en los resultados como si fueran reales, Google retiró la imagen generada por IA de un sitio donde estaba claramente marcada como tal. La imagen estaba alojada en el sitio de imágenes de archivo Freepik, donde tenía una etiqueta «generada por IA» en la parte superior de la imagen. «Este recurso se generó con AI» La descripción de la imagen dice.. “Puedes crear el tuyo propio usando nuestro Generador de imágenes de IA.” La imagen también fue etiquetada erróneamente como “Coprinus comatus.”

MycoMutant me dijo en un mensaje directo que, como entusiasta de los hongos y moderador de r/micología, ha visto fragmentos de Google que presentan imágenes incorrectas para ciertas especies muchas veces, y citó un hilo de Reddit que publicó hace dos años donde Google presentó una imagen incorrecta para Sepula que era No Generado por IA.

“En el momento en que publiqué esto, intenté alertar a Google sobre el problema, ya que esta no era la única foto de hongo incorrecta que había encontrado en los fragmentos”, me dijo MycoMutant.

MycoMutant dijo que no recuerdan el motivo exacto por el que buscaban Coprinus comatuspero la mayor parte de lo que hacen como moderadores es ayudar a otros a identificar hongos y corregir cualquier problema que vean para ayudar a las personas a aprender y desacreditar información peligrosa. Mientras hacen esto, buscan rutinariamente nombres de especies para encontrar generalmente información más confiable y seleccionada por humanos de recursos como Wikipedia, Primera naturaleza, Experto en hongosy iNaturalista.

“Creo que el hecho de que Google utilice imágenes incorrectas en los fragmentos agrava el problema, porque sería lógico que un bot confiara en un resultado que aparece de forma tan destacada en una fuente que debería ser confiable”, afirmaron. “Por consiguiente, tengo que suponer que las imágenes incorrectas en los fragmentos van a tener un efecto en cascada sobre la precisión, o más bien la falta de ella, de los algoritmos de identificación de IA. Más de una vez he intentado utilizar bots para extraer datos para compilar una base de datos de especies de hongos y los resultados han sido terriblemente inexactos y potencialmente repletos de información peligrosamente errónea”.

Elan Trybuch, secretario de la Sociedad Micológica de Nueva York, también me dijo en un correo electrónico que las imágenes de hongos generados por IA podrían ser peligrosas.

«No sólo muchas personas aprenden de manera visual, sino que, con la velocidad con la que se difunde la información, la gente depende cada vez más de la retroalimentación instantánea, y nada lo hace mejor que una foto de referencia», me dijo Trybuch. . «El problema es que muchas de estas fotos se parecen ‘bastante bien’ a la realidad. Si bien esto puede tener consecuencias devastadoras, creo que, en su mayor parte, sólo va a añadir confusión sobre: ​​¿Qué es real?»

Trybuch también dijo que Google necesita hacer más para marcar estas imágenes como generadas por IA y eliminarlas.

«Todos los motores de búsqueda no sólo deben eliminar de sus resultados las fotografías generadas por IA, sino que también deben indicar mediante una etiqueta las obras de arte generadas por IA sospechosas», afirmó. «Sería más fácil si tuvieran una sección de resultados de búsqueda, específicamente para los resultados generados por IA».

“Hemos implementado medidas de protección para brindar una experiencia de alta calidad y seguimos trabajando para fortalecer estas barreras de calidad”, dijo un portavoz de Google a 404 Media. “Cuando recibimos comentarios de los usuarios sobre posibles problemas, trabajamos para realizar mejoras sistemáticas”.

El hecho de que Google ofrece una imagen de un hongo generado por IA como si fuera una especie real pone de aliviar dos problemas con el contenido generado por IA que hemos abordado anteriormente: información potencialmente errónea y peligrosa que se presenta como un hecho, y la incapacidad de la búsqueda de Google para clasificar todo el contenido generado por IA que ha inundado Internet y decirle a los usuarios qué es real y qué no.

El año pasado, Sam escribió sobre libros de recolección de hongos generados por IA que aparecieron en Amazon, lo que según la Sociedad Micológica de Nueva York podría «significar vida o muerte”, y anteriormente escribió sobre Google que presenta imágenes generadas por IA de obras de arte famosas o acontecimientos históricos En fragmentos como si fueran reales. En ambos casos, las imágenes generadas por IA que Google mostró estaban claramente etiquetadas como cuentos en el sitio del que las extrajo.

MycoMutant dijo que ha habido algunos casos notables de «historias sensacionalistas» sobre lo peligrosos que pueden ser los hongos, y que es «debido a esto que muchos de nosotros somos tan propensos a querer aprovechar la información incorrecta y evitar que se propague».

“El auge de la IA obviamente complica todo esto debido a su capacidad de producir cantidades masivas de tonterías rápidamente”, dijeron. “Es cada vez más común ver comentarios en los que alguien ha intentado responder a la pregunta de un usuario simplemente copiándola y pegándola en ChatGPT y el resultado es invariablemente basura. Las imágenes generadas por IA probablemente se convertirán en un problema mayor también”.