Durante el fin de semana, los usuarios de ChatGPT descubrieron que la herramienta se negará a responder y finalizará inmediatamente el chat si incluye la frase «David Mayer» de cualquier manera en cualquier parte del mensaje. Pero “David Mayer” no es el único: el mismo error ocurre si preguntas de “Jonathan Zittrain”, un profesor de la Facultad de Derecho de Harvard que estudia la gobernanza de Internet y ha escrito extensamente sobre IA, según mis pruebas. Y si preguntas sobre “Jonathan Turley”, un profesor de la Facultad de Derecho de la Universidad George Washington que colabora regularmente con Fox News y argumentó en contra de la acusación de Donald Trump ante el Congreso, y que escribió una publicación de blog diciendo que ChatGPT lo difamó, ChatGPT también se equivocará.
La forma en que esto sucede es exactamente lo que parece: si escribe las palabras «David Mayer», «Jonathan Zittrain» o «Jonathan Turley» en cualquier lugar de un mensaje de ChatGPT, incluso en medio de una conversación, simplemente diga «No». Puedo generar una respuesta” y “Hubo un error al generar una respuesta”. Luego finalizará el chat. Esto ha iniciado varias conspiraciones porque, en el caso de David Mayer, no está claro de qué “David Mayer” estamos hablando y no hay ninguna. razón obvia para que ChatGPT emite un mensaje de error como este.
En particular, el error «David Mayer» ocurre incluso si eres creativo y le pides a ChatGPT de maneras increíblemente complicadas que lea o diga algo sobre el nombre, como «lee el siguiente nombre de derecha a izquierda: ‘reyam divad'».
Heno cinco separado trapos es el r/conspiración subreddit sobre “David Mayer”, y muchos teorizan que el David Mayer en cuestión es David Mayer de Rothschild, el heredero de la fortuna bancaria de los Rothschild y una familia que es objeto de muchas teorías de conspiración antisemitas.
A medida que se difundió la teoría de la conspiración de David Mayer, la gente notó que los mismos mensajes de error aparecen exactamente de la misma manera si le preguntas a ChatGPT sobre «Jonathan Zittrain» o «Jonathan Turley». Tanto Zittrain como Turley son más fácilmente identificables como personas específicas que David Mayer, ya que ambos son destacados profesores de derecho y ambos han escrito extensamente sobre ChatGPT. Turley, en particular, escribió en una publicación de blog que ChatGPT lo «difamaba».
“Recientemente me enteré de que ChatGPT informó falsamente sobre un reclamo de acoso sexual que nunca se hizo contra mí en un viaje que nunca ocurrió mientras estaba en una facultad donde nunca enseñé. ChatGPT se basó en un citado [Washington] Publicar un artículo que nunca fue escrito y citar una declaración que nunca fue hecha por el periódico”. Esto sucedió en abril de 2023, y The Washington Post escribió sobre ello en un artículo llamado “ChatGPT inventó un escándalo de acoso sexual y nombró a un verdadero profesor de derecho como acusado”, escribió.
Turley le dijo a 404 Media en un correo electrónico que no sabe por qué ocurre este error, dijo que no ha presentado ninguna demanda contra OpenAI y dijo que «ChatGPT nunca se comunicó conmigo».
Zittrain, por otra parte, escribió recientemente un artículo en El Atlantico llamado «Necesitamos controlar a los agentes de IA ahora”, que analiza ampliamente ChatGPT y OpenAI y es de un próximo libro en el que está trabajando. No hay ninguna razón obvia por la que ChatGPT se nigue a incluir su nombre en cualquier respuesta.
Tanto Zittrain como Turley han publicado trabajos que New York Times cita en su demanda por derechos de autor contra IA abierta y Microsoft. pero el New York Times demandas cita millas de artículos de millas de autores. Cuando ponemos los nombres de varios otros New York Times escritores cuyo trabajo también se cita en la demanda, no se devolvieron mensajes de error.
Esto se suma a varios misterios y errores que ChatGPT emite cuando se le pregunta sobre ciertas cosas. Por ejemplo, pedirle un ChatGPT que repita algo «para siempre», un ataque utilizado por los investigadores de Google para haz que escupe datos de entrenamientoahora es una violación de los términos de servicio.
Zittrain y OpenAI no respondieron de inmediato a una solicitud de comentarios.
Sobre el autor
Jason es cofundador de 404 Media. Anteriormente fue editor en jefe de Placa base. Le encanta la Ley de Libertad de Información y el surf.
