La plataforma masiva de aprendizaje electrónico Udemy brindó a los maestros una ‘ventana de exclusión’ de generación de IA. Ya se acabó.

Udemy, una plataforma de e-learning con más de 250.000 clases online, anunciado recientemente que entrenaría IA generativa en las clases que sus usuarios aportan al sitio. Los profesores de clase no sólo optaron automáticamente por que sus clases se utilizaran como formación, sino que Udemy dijo que los profesores sólo tendrían una “ventana” de tres semanas para optar por no participar en la formación. Esa ventana ya pasó.

“Queremos anunciar oficialmente que el período de exclusión voluntaria de nuestro Programa de IA Generativa (Programa GenAI) comienza hoy, 21 de agosto, y se extiende hasta el 12 de septiembre. La elección de participar en el programa GenAI es suya. ¡Si quieres participar, no es necesario que hagas nada!” Udemy dijo en una publicación en los foros de su comunidad 21 de agosto. En un “Política de IA generativa para instructores”, dice que planea ofrecer “Períodos anuales designados por nosotros” durante los cuales los instructores pueden optar por no recibir capacitación en sus clases, y dijo que cuando las personas opten por no participar en la capacitación, eliminará las clases de los instructores de su conjunto de datos “al final del año calendario”. También les ha dicho a los instructores que «al optar por no participar, perderán el acceso a todas las funciones y beneficios de la IA, lo que puede afectar la visibilidad de su curso y sus posibles ganancias».

Una vez pasada la primera ventana de exclusión voluntaria, los instructores ahora ven una opción atenuada en su configuración si no conocían la ventana o si deseaban excluirse ahora.

Es comprensible que esta inusual ventana de tiempo para optar por no participar moleste a algunos instructores. También destaca el hecho de que eliminar datos de entrenamiento de un modelo de lenguaje grande después de su ingesta no es trivial y plantea dudas sobre si otras plataformas actualizan consistentemente sus LLM después de que los usuarios optan por no participar.

«Nunca acepté ningún cambio en la política de Udemy en los últimos 5 años», dijo Katie Stegs, que trabaja en juegos móviles y tiene una clase en Udemy. escribió en una publicación de LinkedIn. “Hoy recibo un correo electrónico sobre las nuevas herramientas de inteligencia artificial (gran sorpresa) y cuando voy a optar por no participar en la configuración, encuentro que la opción está atenuada y que solo puedo cambiar mis preferencias durante ciertos períodos del año. ¿Que dicen que se comunicarán con los usuarios?

Stegs le dijo a 404 Media que había tenido un curso en la plataforma durante ocho años y que terminó enterándose del programa con un correo electrónico que decía «Estás dentro, bienvenido al programa GEN AI».

«Esta fue la primera vez que escuché sobre esto e inmediatamente inició sesión en el panel del creador para desactivarlo», dijo. “La configuración estaba oculta en algún lugar profundo de mi cuenta. Y luego, cuando finalmente lo encontré, la opción para eliminar mi consentimiento del programa estaba atenuada. Nunca di mi consentimiento para el programa”.

«Me gustaría eliminar mi curso de la plataforma, pero como el curso fue subido por mi cocreador, no puedo hacer esa parte», agregó. “Es simplemente increíble el robo de propiedad intelectual que nunca se acordó ni se comunicó de manera razonable. Debería ser ilegal. Y además de esto, se me debería permitir retirar el consentimiento en cualquier momento dado que es MI contenido”.

Varios otros instructores también han dicho que tienen la intención de abandonar la plataforma por completa para dedicarse al entrenamiento de IA generativa, incluido el artista digital Hardy Fowler, que tiene una comunidad de Discord de 10.000 personas y tuvo muchas clases en Udemy hasta finales del mes. pasado.

«Solo un aviso, pero oficialmente me he separado de Udemy», publicó Fowler en Discord. “Palabras que nunca pensé que diría. Udemy es donde comencé como profesora y ha sido una gran experiencia. Es donde conocí a muchos de ustedes y por eso estaré eternamente agradecido. Ha sido una especie de muerte por miles de recortes en los últimos años, pero la gota que colmó el vaso fue una nueva política que Udemy publicó la semana pasada que involucraba el uso de contenido de instructor para entrenar la IA generativa de Udemy con herramientas de exclusión voluntaria que parecen deliberadamente difíciles, como estamos viendo. en muchas otras plataformas hoy en día. No.»

Los instructores de Udemy dicen que creen que recientemente se vuelve más difícil ganar dinero en la plataforma, y ​​​​a principios de esta semana la compañía, valorada en 1.200 millones de dólares, anunciado que iba a despedir 280 trabajadores con la intención de recontratar personas en lugares con salarios más bajos. La compañía dice que perdió 50 millones de dólares en el primer semestre de este año.

En su Política de IA generativa para instructores, Udemy dice que les dará a los instructores una participación en los ingresos si su cuenta IA con crear nuevas fuentes de ingresospero ha sido vago sobre cómo funcionará esto. También les ha dicho a los instructores que «Udemy no tiene planes ni intenciones de crear cursos generados por IA que compitan con los instructores».

El uso de contenido generado por el usuario para entrenar modelos de IA ha sido una controversia constante en Internet durante el último año y, casi de manera uniforme, las plataformas que están desarrollando IA han decidió incluir a sus usuarios de forma predeterminada. Udemy ha sido más transparente sobre este proceso que muchas otras empresas, pero es fácil ver cómo alguien que no revisa constantemente su cuenta de Udemy o las páginas de la comunidad de Udemy se habría visto sorprendido por este cambio o podría haber perdido correos electrónicos al respecto. .

Durante los últimos meses, Udemy ha estado publicando publicaciones en el foro de mensajes de su comunidad y en su sitio web sobre el programa de IA generativa. En particular, les ha estado diciendo a los instructores que su programa de IA generativa Será bueno para sus instructores humanos.y que “respetamos los derechos de propiedad intelectual. Usamos la IA de manera responsable y en apoyo de nuestra misión. Ganamos juntos”. Ha sugerido que el programa de IA generativa «impulsará la participación en el curso» y «aumentará la visibilidad del contenido» para los instructores. «Nuestros datos sugieren que ofrecer opciones de aprendizaje más personalizadas tiene el potencial de generar una mayor participación e ingresos tanto para usted como para Udemy», dice la compañía en su página sobre IA generativa.

Esto ha llevado a los instructores de Udemy a preguntarse si serán penalizados por no permitir que su trabajo se utilice como base para el entrenamiento de IA de Udemy. En una pregunta en su foroun instructor preguntó: «Si decidimos no participar, ¿nuestros cursos se verán afectados de alguna manera con respecto a las campañas promocionales/publicitarias que lleva a cabo Udemy?» Chrystie, administradora de la comunidad y empleada de Udemy, respondió y dijo: «Me gustaría asegurarles que continuaremos presentando cursos de instructores excluidos a través de nuestras capacidades principales, como la búsqueda y las recomendaciones, para que los instructores no participantes todavía puedan aumentar su éxito en Udemy Sin duda, esperamos que GenAI atraiga más atención a los cursos incluidos en el programa GenAI”.

Las “ventanas de exclusión voluntaria” anuales parecen ridículas a primera vista. Pero las páginas de Udemy sobre sus programas de IA generativa son más completas que muchas otras que he visto y, en un correo electrónico a 404 Media, Scott Rogers, vicepresidente senior de instructores y estrategia de contenido de Udemy, señaló la «inversión sustancial de tiempo» requerido. para eliminar datos que ya habían sido entrenados de sus modelos de IA. Rogers también dijo que a los nuevos instructores de Udemy se les permitirá optar por no participar en la capacitación de datos cuando se registren.

“En Udemy, creemos que nuestros profesores deben tener control total sobre su contenido. Esto incluye decidir si quieren o no que su contenido se incluya en nuestros modelos GenAI. Seguimos comprometidos a trabajar de manera transparente con nuestros instructores y proteger los derechos de su contenido para que puedan continuar creciendo junto con nuestro negocio de la manera que mejor les funcione”, dijo Rogers. “Para honrar este compromiso, diseñamos nuestro programa y modelos GenAI para eliminar el contenido de cualquier instructor que haya optado por no participar en este programa. Dicho esto, dada la importante inversión de tiempo necesaria para garantizar que este contenido se elimine por completo de nuestras herramientas GenAI, ofreceremos este período de participación a todos los instructores existentes de Udemy anualmente, permitiéndoles reevaluar su participación cada año a medida. Nuestras herramientas de IA continúan evolucionando”.

Esta respuesta me parece bastante interesante, porque ninguna otra gran empresa de tecnología que yo sepa ha explicado exhaustivamente cómo (o incluso si) eliminará datos de los LLM si esos datos ya han sido eliminados. El año pasado, Meta lanzó un “formulario de solicitud de eliminación de datos”, pero las personas que lo utilizaron lo calificaron de “falso” y CABLEADO escribió que «en realidad, no existe una forma funcional de optar por no participar en el entrenamiento de IA generativa de Meta». Cuando informamos sobre la existencia de material de abuso sexual infantil incluido en los datos de formación del conjunto de datos masivo LAION-5bel modelo estuvo completamente eliminado de Internet durante nueve meses mientras era “limpiada””, y varios artículos académicos han sobre hablado métodos potenciales para el “desaprendizaje” y el “reentrenamiento” de LLM. (Un artículo señalado que «Desafortunadamente, volver a capacitar a los LLM repetidamente para eliminar conocimientos indeseables no es práctico debido a sus inmensos parámetros»).

Grandes empresas como OpenAI, por ejemplo, no lanzan nuevos modelos de IA diariamente ni siquiera mensualmente. Una política de Udemy sobre GenAI explicamientras tanto, que “Udemy regenerará o dejará de utilizar cualquier modelo de IA generativa existente previamente desarrollado o mejorado por nosotros utilizando su Contenido enviado. En la medida en que podamos atribuir Contenido generado a su Contenido enviado, ya no lo usaremos. Sin embargo, cualquier usuario al que se le haya proporcionado el Contenido generado antes de su exclusión seguirá pudiendo acceder a ese Contenido generado”.