Introducción

A medida que avanzamos hacia una era cada vez más dominada por la inteligencia artificial, nos enfrentamos a una encrucijada tanto emocionante como desafiante. Los Modelos de Lenguaje de Gran Escala (LLM), con su capacidad para procesar y generar lenguaje natural de manera sofisticada, han irrumpido en el panorama educativo, prometiendo transformar la forma en que enseñamos y aprendemos. Sin embargo, al igual que con cualquier innovación disruptiva, debemos ser conscientes de los desafíos éticos y sociales que conlleva su adopción. En el contexto educativo latinoamericano, donde la diversidad cultural, las brechas de acceso y los recursos limitados son una realidad, es fundamental abordar estas consideraciones de manera proactiva y contextualizada. Los LLM no son una panacea universal, sino herramientas poderosas que deben ser moldeadas y guiadas por principios éticos sólidos y un profundo entendimiento de nuestras realidades locales.

Uno de los desafíos fundamentales que plantean los LLM en el ámbito educativo es el dilema de Collingridge. En las etapas tempranas de desarrollo de estas tecnologías, resulta difícil predecir y regular sus implicaciones a largo plazo. Pero, cuando los LLM se integran plenamente en los sistemas educativos, modificar su curso se vuelve extremadamente complejo debido a la inercia generada por la inversión económica, la infraestructura establecida y los intereses creados. Esto subraya la importancia de anticipar y abordar proactivamente los posibles riesgos y consecuencias no deseadas desde las etapas iniciales de adopción de los LLM en la educación. Solo mediante un enfoque proactivo y una regulación temprana podremos moldear estas tecnologías de acuerdo con nuestros principios éticos y valores culturales.

Este módulo se adentra en los aspectos más complejos y controvertidos del uso de LLM en la educación. Exploraremos los sesgos inherentes que pueden perpetuar estereotipos y desinformación, así como los riesgos para la privacidad y la seguridad de los datos de nuestros estudiantes. Analizaremos las implicaciones legales y éticas en torno a la propiedad intelectual y los derechos de autor, al tiempo que reflexionamos sobre el impacto potencial de estas tecnologías en el futuro del empleo y las habilidades requeridas en el sector educativo.

No obstante, nuestro enfoque no se limitará a señalar los riesgos, sino que procurará desarrollar un entendimiento amplio sobre cómo mitigarlos y aprovechar al máximo los beneficios de los LLM. A través de actividades prácticas, debates y análisis de casos reales, fomentaremos el pensamiento crítico y la capacidad de tomar decisiones éticas fundamentadas. Debemos ser conscientes de que no existen respuestas únicas ni soluciones prefabricadas. Cada contexto educativo enfrenta dilemas éticos complejos y desafíos singulares. Nuestra labor consistirá en desarrollar un conjunto de principios éticos sólidos, adaptados a nuestras realidades culturales y sociales, que nos permita navegar estas aguas turbulentas con sabiduría y responsabilidad.

En última instancia, el objetivo de este módulo no es simplemente advertir sobre los riesgos, sino empoderar a los profesores y profesoras latinoamericanos para que puedan integrar los LLM de manera ética, inclusiva y alineada con nuestros valores. Solo así podremos aprovechar todo el potencial transformador de estas tecnologías, al tiempo que preservamos la esencia humana en los procesos educativos y protegemos los derechos y la dignidad de nuestros estudiantes.

Uno de los mayores retos éticos que afrontamos al integrar los Modelos de Lenguaje de Gran Escala (LLM) en contextos educativos es el riesgo de perpetuar sesgos y propagar desinformación. Estos sistemas, por más sofisticados que sean, reflejan los sesgos presentes en los datos con los que fueron entrenados y en los procesos de desarrollo llevados a cabo por seres humanos.

  • Datos de entrenamiento: Los LLM se entrenan con muchos datos provenientes de internet, libros, artículos y otros corpus textuales. Estos datos pueden contener sesgos históricos, culturales, de género, raciales y de otro tipo, que se incorporan en los modelos durante el entrenamiento.
  • Procedencia geográfica: Muchos de los conjuntos de datos utilizados para entrenar LLM provienen de fuentes predominantemente anglosajonas o de países desarrollados. Esto puede resultar en modelos con un sesgo cultural y lingüístico que no están acorde con las realidades y diversidad de nuestros contextos latinoamericanos.
  • Sesgos implícitos de los desarrolladores: Los equipos de investigadores y desarrolladores que crean estos modelos también pueden incorporar sesgos inconscientes en los procesos de diseño, selección de datos y configuración de los sistemas.

Además de los sesgos, los LLM presentan riesgos de producir información falsa, engañosa o incluso perjudicial debido a su naturaleza estocástica. Al ser modelos probabilísticos, pueden producir salidas persuasivas pero inexactas, especialmente en temas complejos o polémicos. Esto puede propiciar la difusión de desinformación y teorías equívocas en entornos educativos.

Un ejemplo concreto de esto puede evidenciarse en la polémica suscitada en el Reino Unido debido al uso de inteligencia artificial (IA) por parte del gobierno para detectar matrimonios de conveniencia. Según una investigación de The Guardian, al menos ocho ministerios y varias divisiones policiales en Reino Unido están utilizando IA para tomar decisiones en áreas sensibles como bienestar social, inmigración y justicia penal. La problemática surge porque estas herramientas de IA pueden tener un potencial discriminatorio, como un algoritmo del Ministerio del Interior que sugiere investigar matrimonios basándose en la nacionalidad de uno de los cónyuges. Además, se menciona el uso de un software de IA por parte del Ministerio de Trabajo y Pensiones que retiró erróneamente prestaciones sociales a familias, y una herramienta de reconocimiento facial de la Policía Metropolitana de Londres que tiende a seleccionar desproporcionadamente a personas de color en eventos de alto riesgo. La preocupación radica en que los sistemas de IA entrenados con datos discriminatorios pueden resultar en herramientas injustas, lo que podría revelar un problema más profundo al interior del gobierno británico.

Como profesores y profesoras, tenemos la responsabilidad de asegurar que exista diversidad en las fuentes de entrenamiento de los LLM que utilizamos, es decir, analizar con detenimiento los elementos de los cuales estos provienen y los objetivos misiona

En este punto, definiremos el prompt que le dará las instrucciones a nuestro tutor virtual. En el caso de este ejemplo, en esencia lo que se quiere lograr es que el tutor ayude a profesores de Latinoamérica a diseñar estrategias para integrar LLMs en sus procesos educativos y laborales. Para lograr lo anterior, recomendamos que uses el mayor nivel de especificidad posible, dado que mejorará la precisión de las interacciones con el tutor virtual. De forma adicional, deberás configurar el modelo de LLM con el que quieres que interactúe tu chatbot. En la versión gratuita, a fecha de abril de 2024, es posible usar GPT-3.5 Turbo. Además, se puede integrar un mensaje de respuesta automática para preguntas que se salgan del alcance de los contenidos que se han subido como base al tutor virtual. Igualmente, puedes decidir la accesibilidad al público de este chatbot; entre las opciones puedes dejarlo privado con contraseña o abierto a todo el público.

Tomado de droxy.ai (2024). http://bit.ly/4aZht3A

El último paso es darle un nombre a tu chatbot junto con un mensaje de bienvenida para los usuarios. Adicionalmente, puedes habilitar el uso de emojis y elegir una paleta de colores.

Tomado de droxy.ai (2024). http://bit.ly/4aZht3A

Actividad práctica

  1. Preferiblemente, desarrolla esta actividad con uno o varios colegas. En caso de no ser posible, puedes desarrollarla de forma individual.
  2. Elijan un tema académico relevante para sus contextos.
  3. Utilicen al menos tres LLM (p. Ej. ChatGPT, Claude y ChatSonic) para generar contenido relacionado con ese tema (recomendados revisar los módulos 1 y 2).
  4. Analicen críticamente las salidas de los LLM e identifiquen posibles sesgos o inexactitudes presentes.
  5. Construyan una tabla de comparación de estos sesgos y propongan estrategias para mitigarlos, así como una conclusión sobre cuál usar en el contexto específico del tema académico que eligieron. Se presenta una tabla modelo que puede ser modificada según la necesidad.
    Aspecto Chat GPT Claude Gemini

    Precisión

     

     

     

    Exhaustividad

     

     

     

    Neutralidad

     

     

     

    Sesgo hacia ciertos conceptos

     

     

     

    Coherencia

     

     

     

    Claridad

     

     

     

    Comprensión del contexto específico del tema

     

     

     

  6. compartan sus hallazgos y reflexiones con sus colegas.

La integración de los Modelos de Lenguaje de Gran Escala (LLM) en entornos educativos plantea importantes retos en cuanto a la protección de la privacidad y la seguridad de los datos personales de estudiantes, profesores, profesoras y personal administrativo. Estos sistemas, por su naturaleza, requieren acceso a grandes cantidades de información, lo que conlleva riesgos significativos que deben ser abordados con medidas rigurosas.

Los LLM pueden tener acceso a datos personales sensibles, como información de identificación, registros académicos, evaluaciones, producciones escritas y otro tipo de contenido generado por los estudiantes. Es crucial implementar protocolos estrictos para salvaguardar esta información y evitar violaciones de privacidad o uso indebido de los datos.

Incluso durante el proceso de entrenamiento de los LLM, existe el riesgo de que información sensible o confidencial se filtre y quede incorporada en los modelos. Esto podría ocurrir si se utilizan datos de entrenamiento que contengan información personal, documentos internos o cualquier otro tipo de información que deba mantenerse confidencial.

Las instituciones educativas deben cumplir con las leyes y regulaciones vigentes en materia de privacidad de datos, tanto a nivel local como internacional. En Latinoamérica, esto puede ser revisado a partir de la Ley de Protección de Datos Personales que disponen países como México, Perú, Argentina, Colombia, entre otros. A nivel internacional, es importante considerar el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, el cual puede ser aplicable en ciertos casos.

Como profesores y profesoras, desempeñamos un rol fundamental en la protección de los datos personales de nuestros estudiantes al utilizar Modelos de Lenguaje de Gran Escala (LLM) en entornos educativos. Aquí hay algunas acciones clave que podemos tomar:

  • Concientización y capacitación: Estar bien informados sobre las regulaciones de privacidad de datos aplicables en nuestro contexto local y regional. Participar en capacitaciones sobre prácticas de manejo seguro de datos personales y sensibles.
  • Minimizar la recopilación de datos: Recopilar solo los datos estrictamente necesarios de los estudiantes para las actividades educativas planificadas con LLM. Evitar solicitar información personal excesiva o innecesaria.
  • Obtener consentimiento informado: Explicar claramente a los estudiantes y sus familias cómo se utilizarán sus datos personales con los LLM, y obtener su consentimiento por escrito antes de proceder.
  • Anonimizar datos: Antes de utilizar producciones escritas, evaluaciones u otro material generado por los estudiantes con los LLM, debemos anonimizar completamente los datos personales identificables.
  • Restringir el acceso: Limitar el acceso a los datos personales de los estudiantes solo al personal autorizado y en la medida estrictamente necesaria para las actividades educativas planificadas.
  • Fomentar la privacidad desde el diseño: Al planificar actividades con LLM, incorporar principios de privacidad desde las etapas iniciales de diseño, minimizando los riesgos desde el inicio.

Actividad práctica

  1. Formen grupos y asignen roles (administrador de datos, oficial de privacidad, profesor o profesora, etc.). En caso de no poder formar grupos, la actividad se puede desarrollar de forma individual, aunque se alienta a configurar un equipo de trabajo para favorecer una diversidad de perspectivas en la actividad.
  2. Identifiquen los tipos de datos personales y sensibles que se manejarían en su institución al utilizar LLM.
  3. Investiguen las regulaciones de privacidad aplicables a su contexto local y regional.
  4. Desarrollen un conjunto de protocolos y lineamientos para garantizar la privacidad y seguridad de los datos en el uso de LLM.

La capacidad de los Modelos de Lenguaje de Gran Escala (LLM) para generar automáticamente contenidos, como textos, imágenes y código, plantea importantes interrogantes legales y éticos en torno a la propiedad intelectual y los derechos de autor. Este tema representa un desafío emergente que requiere un análisis profundo y un abordaje cuidadoso para garantizar el respeto a los derechos de los creadores y la integridad del sistema de propiedad intelectual.

Esta es una de las áreas más complejas y en evolución en cuanto a los LLM y la propiedad intelectual. Legalmente, no existe todavía un consenso sobre quién debería ostentar los derechos de autor sobre los contenidos generados por estos modelos. Algunos argumentan que los desarrolladores del LLM deberían ser los titulares, ya que son los creadores del sistema capaz de generar esos contenidos. Otros sostienen que son los propietarios de los datos de entrenamiento quienes deberían tener los derechos, pues el contenido generado está fundamentalmente basado en esos conjuntos de datos. Otra perspectiva plantea que los usuarios que operan el LLM deberían ser considerados los autores, ya que son ellos quienes proporcionan los insumos y solicitudes específicas que dan forma al contenido creado. En todo caso, el tema de la propiedad intelectual en el contexto de los LLM está abierto a discusión, por lo que es importante procurar estar al tanto de los acuerdos que se establecen.

Debido a que los LLM se entrenan con enormes cantidades de datos, incluidos textos, imágenes y código protegidos por derechos de autor, existe un riesgo inherente de que estos modelos reproduzcan o imiten partes de obras protegidas al generar nuevos contenidos que, en la mayoría de las ocasiones, no citan las fuentes primarias de donde son recuperados los datos. Esto podría considerarse una violación de derechos de autor, incluso si no es intencional o si el LLM simplemente está "recordando" y combinando elementos de su entrenamiento. Algunos expertos sugieren que los desarrolladores de LLM deberían implementar mecanismos para detectar y filtrar contenidos que infrinjan derechos de autor conocidos. Sin embargo, esto plantea desafíos técnicos y prácticos significativos para las futuras actualizaciones de los LLM.

Una posible solución propuesta es adoptar modelos de propiedad intelectual más abiertos y flexibles, como licencias Creative Commons o licencias abiertas similares, para los contenidos generados por LLM. Bajo este enfoque, los creadores podrían liberar los derechos de sus obras para permitir su uso y reutilización en el entrenamiento de LLM, a cambio de recibir atribución y compartir los beneficios de los contenidos derivados del uso de estos Modelos de Lenguaje de Gran Escala. Sin embargo, esta alternativa también presenta desafíos, como la necesidad de rastrear y gestionar múltiples licencias, y la posibilidad de que algunas obras importantes no se incluyan en el entrenamiento debido a restricciones de derechos de autor.

Independientemente del marco legal adoptado, es fundamental promover la transparencia y la atribución adecuada en los contenidos generados por LLM. Los usuarios deben revelar claramente cuando un sistema de IA produjo un texto, imagen o código y atribuir adecuadamente los créditos correspondientes.

Actividad práctica: Debate sobre casos polémicos

  • Divídanse en grupos y asígnense roles (autor, editor, desarrollador de LLM, abogado, etc.).
  • Investiguen casos polémicos reales de posibles violaciones de derechos de autor o disputas de propiedad intelectual relacionadas con LLM. De manera alternativa, pueden considerar algunos los siguientes casos reales e hipotéticos:
    • El caso de los libros codificados de Tolkien: En 2022, un desarrollador entrenó un LLM con obras completas de J.R.R. Tolkien y luego utilizó el modelo para generar nuevos libros ambientados en la Tierra Media. Representantes de la organización legal Tolkien Estate, que controla y gestiona el patrimonio de J. R. R. Tolkien, advirtieron de acciones legales por violación de derechos de autor.
    • La controversia del código generado por Copilot: GitHub Copilot, un asistente de código alimentado por LLM, generó fragmentos de código que resultaron ser idénticos a proyectos de código abierto existentes, lo que provocó acusaciones de plagio y apropiación indebida.
    • El libro generado por IA que ganó un concurso literario: En 2023, un libro de relatos cortos generado íntegramente por un LLM resultó ganador de un prestigioso concurso literario, desatando un debate sobre la "autoría" de obras creadas por IA.
    • La disputa por la propiedad intelectual de imágenes generadas por IA: Varios artistas han presentado demandas contra desarrolladores de LLM generadores de imágenes, alegando que sus obras fueron utilizadas sin permiso en los conjuntos de entrenamiento.
    • El plagio académico facilitado por los LLM: Existen preocupaciones sobre el uso de los LLM por parte de los estudiantes para generar ensayos, informes o trabajos que podrían considerarse plagio si no se atribuyen adecuadamente.
    • La generación automática de obras derivadas: Un desarrollador utilizó un LLM para crear una "secuela" no autorizada de una popular serie de libros, desatando una disputa legal con el autor original.
  • Preparen argumentos y posiciones desde sus roles asignados.
  • Lleven a cabo un debate grupal, presentando sus perspectivas y abordando los desafíos legales, éticos y prácticos involucrados.
  • Intenten llegar a un consenso o proponer soluciones razonables para los casos analizados.
  • Compartan sus conclusiones y reflexiones con el grupo en el foro de este recurso educativo.

La integración de los Modelos de Lenguaje de Gran Escala (LLM) en el ámbito educativo tendrá un impacto profundo en las habilidades requeridas y los roles desempeñados por los profesores y profesoras. Si bien estas tecnologías presentan oportunidades emocionantes, también plantean desafíos y la necesidad de adaptación continua.

Los LLM tienen el potencial de automatizar ciertas tareas rutinarias asociadas con la labor docente, como la generación de contenidos, la calificación de trabajos escritos y la retroalimentación básica. Esto podría percibirse como una amenaza para el empleo de los profesores y profesoras. Sin embargo, también representa una oportunidad para liberar tiempo valioso y permitir que los profesores y profesoras se enfoquen en aspectos más complejos y enriquecedores de su labor. Asimismo, plantea la necesidad de desarrollar nuevas habilidades para estar a la altura de los retos que plantean estas nuevas tecnologías.

A medida que las tareas más mecánicas sean asumidas por los LLM, los profesores y profesoras deberán desarrollar y fortalecer habilidades esenciales como el pensamiento crítico, la creatividad, la resolución de problemas complejos y el trabajo en equipo. Estas habilidades serán fundamentales para diseñar experiencias de aprendizaje significativas, guiar a los estudiantes en el uso efectivo de las tecnologías y fomentar el desarrollo de competencias transversales.

Los profesores y profesoras deberán cultivar la capacidad de analizar la información de manera objetiva, cuestionar supuestos, evaluar la validez de las fuentes y fomentar el pensamiento independiente en sus estudiantes. Esto será fundamental para guiar el uso efectivo de los LLM, evitando la propagación de sesgos o desinformación. En lugar de limitarse a transmitir conocimientos, los profesores y profesoras tendrán que desarrollar su creatividad para diseñar experiencias de aprendizaje innovadoras y significativas. Deberán explorar nuevas formas de integrar los LLM en sus prácticas pedagógicas, creando oportunidades para el aprendizaje activo, la resolución de problemas auténticos y el desarrollo de competencias transversales.

En la práctica, esto podría lograrse mediante la implementación de métodos como:

  1. Aprendizaje basado en proyectos: Los estudiantes pueden utilizar LLM para investigar, analizar y generar soluciones creativas a problemas del mundo real, desarrollando habilidades de pensamiento crítico, colaboración y comunicación efectiva.
  2. Pensamiento de diseño: Incorporar el proceso de diseño centrado en el usuario, donde los estudiantes utilizan LLM para empatizar, definir problemas, idear soluciones, prototipar y probar ideas de manera iterativa.
  3. Aprendizaje basado en la indagación: Fomentar la curiosidad y el aprendizaje autodirigido, alentando a los estudiantes a formular preguntas desafiantes, realizar investigaciones utilizando LLM y llegar a conclusiones fundamentadas.
  4. Gamificación: Diseñar actividades y desafíos gamificados que involucren a los LLM, promoviendo el aprendizaje lúdico, la motivación y la resolución creativa de problemas.
  5. Aprendizaje basado en retos: Presentar problemas complejos y abiertos a los estudiantes, quienes deberán utilizar LLM para investigar, analizar y proponer soluciones innovadoras, fomentando el pensamiento crítico y la colaboración.

La colaboración y el trabajo en equipo serán esenciales para aprovechar al máximo el potencial de los LLM en entornos educativos. Los profesores y profesoras deberán cultivar habilidades para trabajar en equipos interdisciplinarios, compartir mejores prácticas, cocrear recursos y fomentar el aprendizaje colaborativo entre sus estudiantes. Estas habilidades serán fundamentales para que los profesores y profesoras puedan desempeñar su rol como facilitadores y guías en el proceso de aprendizaje, aprovechando al máximo las herramientas tecnológicas como los LLM, mientras mantienen un enfoque centrado en el estudiante y el desarrollo de competencias clave para el siglo XXI.

La integración de los Modelos de Lenguaje de Gran Escala (LLM) en el ámbito educativo demandará una profunda transformación en los roles y responsabilidades tradicionales de los profesores y profesoras. Dejarán de ser meros transmisores pasivos de conocimientos para convertirse en facilitadores activos, mentores y guías en el proceso de aprendizaje de sus estudiantes. Como facilitadores del aprendizaje, los profesores y profesoras deberán transitar de un enfoque centrado en la enseñanza a uno centrado en el aprendizaje mismo. Su nueva misión será diseñar experiencias enriquecedoras que promuevan la curiosidad y el pensamiento crítico, brindando orientación y retroalimentación personalizada a cada estudiante según sus necesidades. Lejos de ser la única fuente de conocimiento, los profesores y profesoras actuarán como mentores que guiarán a los estudiantes en la exploración y construcción de su propio aprendizaje. Fomentarán el desarrollo de habilidades esenciales como la autogestión, la autorregulación y el aprendizaje continuo, empoderando a los estudiantes como protagonistas de su propio crecimiento.

Así mismo, los profesores y profesoras tendrán la responsabilidad de integrar efectivamente los LLM y otras tecnologías emergentes en sus prácticas pedagógicas. Deberán mantenerse actualizados, experimentar con nuevas herramientas y desarrollar estrategias innovadoras para maximizar, en la medida de lo posible dentro de las aulas, el impacto positivo de estas tecnologías en los procesos de enseñanza y aprendizaje. Sin embargo, a pesar de la incorporación de estas tecnologías avanzadas, el enfoque central de los profesores y profesoras deberá permanecer en el estudiante como individuo único, con necesidades, intereses y estilos de aprendizaje diversos. La empatía, la motivación y la atención personalizada seguirán siendo pilares fundamentales de su labor.

En últimas, para mantenerse relevantes y efectivos en esta nueva realidad, los profesores enfrentan el desafío de comprometerse con un proceso de formación y desarrollo profesional continuo. Esto implica adquirir habilidades en el uso y la integración de LLM en sus prácticas pedagógicas, así como desarrollar una mentalidad de adaptabilidad y apertura al cambio tecnológico.

  • Autoevaluación Individual: En principio, reflexionar sobre sus propias fortalezas y áreas de mejora en relación con la implementación de LLM en el aula. Así como identificar qué habilidades necesitan desarrollar para potenciar su práctica docente.
  • Análisis Colaborativo de Competencias: Trabajaremos en grupos aleatorios para identificar de manera conjunta las competencias clave que consideramos necesarias para integrar efectivamente los LLM en nuestras clases.
  • Exploración Personalizada de Recursos: Cada uno investigará de forma individual sobre los recursos disponibles para el desarrollo profesional en el área de LLM. Posteriormente, compartiremos nuestras investigaciones para enriquecer nuestra base de conocimientos.
  • Co-Creación de Planes Individuales: Basándonos en nuestras necesidades identificadas, cada uno diseñará un plan personalizado de formación y desarrollo profesional. Podremos incluir talleres, mentorías o cualquier otra actividad que consideremos relevante.
  • Creación de Estrategias Personalizadas: Trabajaremos en estrategias personalizadas para fomentar una cultura de apertura al cambio y adaptabilidad en nuestras escuelas.
  • Presentación y Retroalimentación Personalizada: Cada uno compartirá su propuesta y recibirá retroalimentación del grupo. Esta retroalimentación nos ayudará a mejorar y a enfrentar juntos los desafíos identificados.