Cuando la función de búsqueda de descripción general de IA de Google lanzado en mayoen general se mostró un desastre. Le dijo a la gente que comiera pegamento y rocas, calumniado figuras de interés periodístico, trabajo de periodistas plagiadosy era tan malo Google agregó una característica para apagarlo por completo. En los casi 10 meses transcurridos desde que se lanzó AI Overview, todavía se hacen cosas mal, como decirle a la gente que los vibradores se pueden usar para la terapia conductual infantil.
Como descubierto Por el usuario de Reddit clist186, la búsqueda de “embarazo con varita mágica” arroja una respuesta extraña sobre la creatividad con los niños como una actividad “divertida y atractiva” junto con una imagen de un vibrador Magic Wand, uno de los juguetes sexuales más populares y universalmente reconocidos del mundo. :
“La herramienta Magic Wand es una forma creativa para que los padres identifiquen los cambios de comportamiento que desean realizar, incluidos los relacionados con el embarazo. Se puede utilizar para hacer que la evaluación sea divertida y atractiva, especialmente para los clientes de WIC desde hace mucho tiempo. Así es como funciona la herramienta Varita mágica:
Los padres describieron qué desafíos de crianza cambiarían «agitando una varita mágica». Las respuestas tanto de los padres como de los niños mayores se pueden utilizar para iniciar discusiones. La herramienta Magic Wand se puede comprar en línea o en una tienda local”.
Para hacer esto aún más extraño, no obtengo el resultado de descripción general de IA relacionada con la paternidad cuando busco ese término, pero Emanuel Maiberg de 404 (famoso, él mismo es un padre) sí.
AI Overview, que funciona con el modelo Gemini de Google, proporciona enlaces al origen de la información como parte de sus resultados; En este caso, está resumiendo. un documento del Departamento de Salud y Servicios Humanos de New Hampshire sobre un ejercicio de pensamiento en el que un terapeuta pasa a los clientes una “varita mágica” que les ayuda a imaginar un escenario ideal. Esto no se refiere a pasarle un Hitachi a un niño, pero la IA no lo sabe.
En otro resultado para el término de búsqueda «¿qué es una varita mágica?», AI Overview combina una foto de un juguete sexual Magic Wand con una descripción de un truco de mago:
“Una varita mágica es un pequeño palo que utilizan los magos para realizar trucos y hacer que suceda la magia. Suele ser corto, negro y con la punta blanca. Los magos usan varitas mágicas como parte de su mala dirección y para hacer que sucedan cosas como crecer, desaparecer, moverse o mostrar su propia voluntad. Por ejemplo, un truco de magia clásico consiste en hacer aparecer un ramo de flores desde la punta de la varita”.
Sin embargo, este resultado general finalmente llega a describir la varita mágica en cuestión: “La varita mágica también puede referirse a una marca de masajeador: Hitachi Magic Wand. Un dispositivo de masaje que se incluyó por primera vez para uso comercial en 1968 y estuvo disponible para el público en la década de 1970. Está diseñado para aliviar el dolor y la tensión, calmar los músculos y nervios doloridos y ayudar en la rehabilitación después de lesiones deportivas”.
Es un blog de empresa sobre descripción general de la IAGoogle dijo que la función utiliza «capacidades de razonamiento de varios pasos» para «ayudar con preguntas cada vez más complejas». El término de búsqueda “embarazo con varita mágica” no es particularmente complejo; la mayoría de las personas con habilidades básicas de comprensión lectora probablemente dirían que el término busca respuestas sobre el uso de uno de los juguetes sexuales más populares del mundo durante el embarazo. Pero Gemini tomó el camino más extraño posible, basándose en un documento oscuro sobre una técnica de psicoterapia que contenía las frases “varita mágica” y “embarazo”.
La búsqueda con una consulta completa en lenguaje natural (¿puedes usar una varita mágica durante el embarazo?) arroja una respuesta más matizada generada por IA que considera que el buscador podría tener varios tipos diferentes de varitas en mente:
El año pasado, Reddit firmó un contrato de 60 millones de dólares al año con Google a cambio de licenciar el contenido de los usuarios para entrenar los modelos de inteligencia artificial de Google. El contenido para adultos, incluida la educación sexual y las conversaciones sobre juguetes sexuales, todavía está permitido en Reddit como una de las pocas plataformas que no ha prohibido el sexo por completo, y las preguntas relacionadas con el embarazo son muy populares allí. (Hay docenas de preguntas específicamente sobre el uso vibradores durante el embarazo.) Tiene sentido que formular el término de búsqueda como una pregunta en lugar de un conjunto de palabras clave genere una mejor respuesta de la IA: es en lo que se entrenó la IA.
Afortunadamente, la mayoría de las personas que buscan “embarazo con varita mágica” probablemente puedan usar su cerebro humano para deducir que no deberían usar un vibrador como bastón para hablar en terapia grupal con niños. Pero es otro ejemplo más de cómo se introduce IA en cada producto y herramienta, lo que agrega más trabajo, fricción y confusión a la experiencia de estar en línea, en lugar de menos, como prometen constantemente las empresas de tecnología.
Google no respondió de inmediato a una solicitud de comentarios.
Sobre el autor
Sam Cole escribe desde los confines de Internet, sobre la sexualidad, la industria para adultos, la cultura en línea y la inteligencia artificial. Es la autora de Cómo el sexo cambió Internet y Internet cambió el sexo.
