A lo largo de este recurso educativo, vamos a aprender a:

Comprender la importancia del lenguaje inclusivo y cómo los sesgos en el lenguaje pueden perpetuar la discriminación en el contexto de los Modelos de Lenguaje de Gran Escala (LLM).

Desarrollar habilidades para identificar y analizar sesgos de género, raza, edad, discapacidad, entre otros, presentes en los textos generados por LLM.

Adquirir estrategias concretas para mitigar y corregir los sesgos en el uso de LLM, a través de la revisión de datos de entrenamiento, la implementación de técnicas de debiasing y la sensibilización de los usuarios.

Objetivo de aprendizaje: Identificar y mitigar sesgos en LLM para fomentar la inclusión.

El lenguaje es una herramienta poderosa que nos permite comunicarnos y conectar con los demás. De igual manera, puede ser un vehículo para perpetuar sesgos y exclusión si no se utiliza con cuidado. En este recurso educativo, exploraremos la importancia del lenguaje inclusivo en la comunicación y cómo podemos aplicarlo al utilizar los Modelos de Lenguaje de Gran Escala (LLM).

Los sesgos en el lenguaje pueden tener un impacto significativo en la sociedad, reforzando estereotipos y marginando a ciertos grupos. Por eso, es crucial identificar y mitigar estos sesgos, especialmente cuando se trabaja con tecnologías de inteligencia artificial como los LLM, que tienen el poder de amplificar estos sesgos si no se abordan adecuadamente.

El objetivo de este recurso es brindar herramientas y estrategias necesarias para identificar y mitigar los sesgos en el uso de LLM, promoviendo así un lenguaje más inclusivo y respetuoso. Prepárate para un viaje enriquecedor y transformador.

Los Modelos de Lenguaje de Gran Escala son sistemas increíblemente poderosos que se entrenan con enormes cantidades de datos. Lamentablemente, si estos datos reflejan sesgos y prejuicios presentes en la sociedad, los modelos pueden amplificarlos y perpetuar la discriminación en su generación de textos.

Veamos algunos ejemplos de sesgos que se han identificado en Modelos de Lenguaje de Gran Escala preexistentes:

Sesgos de género: Asociar ciertos roles, profesiones o características con un género específico.

Sesgos raciales: Utilizar lenguaje o descripciones que perpetúan estereotipos o prejuicios hacia ciertos grupos étnicos.

Sesgos de edad: Usar términos despectivos o condescendientes al referirse a personas mayores o jóvenes.

Evita sesgos de discapacidad no utilices un lenguaje que deshumanice o infantilice a las personas con discapacidades

Estos son solo algunos ejemplos, por lo que es importante estar atentos a cualquier sesgo que pueda surgir en los textos generados por LLM. Identificarlos es el primer paso para abordarlos de manera efectiva.

Ahora que conocemos algunos de los sesgos potenciales en los LLM, es momento de explorar estrategias para mitigarlos y promover un lenguaje más inclusivo.

Revisión y edición de datos de entrenamiento: Uno de los enfoques más efectivos es revisar y editar los datos utilizados para entrenar a los Modelos de Lenguaje de Gran Escala, eliminando contenido sesgado o discriminatorio. Esto puede ser un proceso laborioso, aunque fundamental para garantizar que los modelos no perpetúen sesgos desde su base de conocimiento.

Implementación de técnicas de debiasing en algoritmos de LLM: Los investigadores han desarrollado diversas técnicas para "debiasing" o reducir los sesgos en los algoritmos de los Modelos de Lenguaje de Gran Escala. Estas técnicas pueden incluir el ajuste de la relevancia de ciertos contenidos, la incorporación de restricciones o la aplicación de filtros específicos.

Sensibilización y capacitación de los usuarios: Además de trabajar en los modelos mismos, es crucial sensibilizar y capacitar a los usuarios en el uso consciente del lenguaje inclusivo. Esto implica fomentar la conciencia sobre los sesgos potenciales y brindar pautas y recursos para comunicarse de manera respetuosa e inclusiva

Recuerda que mitigar los sesgos en los LLM es un proceso continuo que requiere esfuerzo y compromiso de todas las partes involucradas. Juntos, podemos construir una sociedad más justa e inclusiva a través del lenguaje.

Ahora es el momento de poner en práctica lo que hemos aprendido. En esta sección, se realizarán ejercicios prácticos para identificar y corregir sesgos en textos generados por LLM.

Ejercicio individual: El profesor proporcionara varios textos generados por LLM y deberán identificar cualquier sesgo presente, ya sea de género, raza, edad, discapacidad o cualquier otro tipo.

Discusión en grupos: Luego, se dividirán en grupos y compartirán sus hallazgos. Deberán discutir posibles soluciones para corregir los sesgos identificados y proponer alternativas más inclusivas.

Ejercicio de reescritura: Cada grupo elegirá uno de los textos analizados y deberá reescribirlo utilizando un lenguaje inclusivo y libre de sesgos.

Presentación y retroalimentación: Finalmente, cada grupo presentará su versión revisada del texto y recibirá retroalimentación de los demás estudiantes y el facilitador.

Durante estos ejercicios, los estudiantes deberán mantener una actitud respetuosa y abierta al intercambio de ideas. El objetivo no es juzgar, sino aprender y mejorar juntos.

Hasta ahora, hemos explorado estrategias teóricas para mitigar sesgos en el uso de LLM. Ahora bien, ¿cómo se aplica esto en la práctica? En este módulo, analizaremos casos de estudio donde el lenguaje inclusivo ha sido implementado con éxito al utilizar estas tecnologías.

Examinaremos a continuación ejemplos de empresas, organizaciones y gobiernos que han adoptado políticas y protocolos para promover un lenguaje más inclusivo en sus comunicaciones digitales. Desde la redacción de contenido en línea hasta el desarrollo de asistentes virtuales, veamos cómo se han abordado estos desafíos:

La empresa tecnológica Microsoft ha implementado varios lineamientos para el uso de lenguaje inclusivo en su documentación, software y comunicaciones internas y externas. Estos lineamientos incluyen evitar términos sesgados, usar pronombres neutros cuando sea posible y utilizar lenguaje que no discrimine por género, raza, edad, discapacidad u otras características.

Organización de las Naciones Unidas (ONU): La ONU ha publicado un manual de estilo que promueve el uso de un lenguaje inclusivo y respetuoso en todas sus comunicaciones oficiales. Este manual brinda orientación sobre cómo evitar sesgos de género, raciales, étnicos y culturales, y sobre cómo referirse a personas con discapacidades de manera respetuosa.

Gobierno de Argentina: El Ministerio de las Mujeres, Géneros y Diversidad de Argentina ha lanzado una guía de comunicación inclusiva para el uso en todos los organismos del Estado. Esta guía promueve el uso de un lenguaje no sexista y no discriminatorio, brindando recomendaciones sobre cómo evitar sesgos de género, cómo referirse a las diversidades sexuales y de género, y cómo utilizar un lenguaje respetuoso hacia las personas con discapacidad.

Organización Mundial de la Salud (OMS): La OMS ha publicado una guía para el uso de lenguaje inclusivo en sus comunicaciones y publicaciones. Esta guía brinda recomendaciones sobre cómo referirse a personas con discapacidades, personas mayores y otros grupos vulnerables de manera respetuosa y libre de sesgos.

Gobierno de México: La Secretaría de Gobernación de México ha emitido un manual de comunicación incluyente y no sexista, el cual es obligatorio para todas las dependencias y entidades de la Administración Pública Federal. Este manual promueve el uso de un lenguaje libre de estereotipos y sesgos, y brinda pautas para una redacción inclusiva en documentos oficiales, campañas de comunicación y contenido web.

Ahora, en grupos reflexionemos sobre los obstáculos y desafíos que aún persisten en la aplicación del lenguaje inclusivo con LLM. También, analicemos los posibles beneficios de medidas como las presentadas previamente y cómo podemos seguir avanzando en esta dirección en nuestro contexto.

A lo largo de este taller, hemos explorado la importancia del lenguaje inclusivo y cómo podemos aplicarlo al utilizar los Modelos de Lenguaje de Gran Escala. Hemos aprendido a identificar sesgos potenciales y hemos adquirido estrategias para mitigarlos, desde la revisión de datos de entrenamiento hasta la implementación de técnicas de debiasing y la sensibilización de los usuarios.

Pero nuestro viaje no termina aquí. El camino hacia un lenguaje verdaderamente inclusivo es un proceso continuo que requiere compromiso y esfuerzo constante. Es responsabilidad de todos nosotros mantenernos alertas y abordar los sesgos que puedan surgir en el uso de estas tecnologías.

Por eso, invitamos a todos los participantes a asumir el compromiso de aplicar el lenguaje inclusivo en su comunicación digital, ya sea al interactuar con LLM o en cualquier otro contexto. Juntos podemos construir un mundo más justo, respetuoso e inclusivo una palabra a la vez.


Bibliografía para profundizar

Communications. (2024, January 9). Ocho ejemplos de cómo aplicar el lenguaje inclusivo al hablar o escribir. BBVA NOTICIAS. https://www.bbva.com/es/sostenibilidad/ocho-ejemplos-practicos-de-como-aplicar-el-lenguaje-inclusivo-al-hablar-o-escribir/ 

Ministerio de Educación de Chile, Unidad de Equidad de Género. (s.f.). Comuniquemos para la igualdad: Orientaciones para un uso de lenguaje no sexista e inclusivo. https://www.mineduc.cl/wp-content/uploads/sites/19/2016/09/Manual-Lenguaje-Inclusivo-No-Sexista.pdf