Inteligencia Artificial Y Equidad: Impulsando la Participación de Mujeres y Niñas en la Ciencia

1. Panorama Actual: Equidad de género en la ciencia y la tecnología.

Las mujeres y las niñas constituyen la mitad de la población mundial, eso es una cifra muy importante y que nos dice que es hiperactivo generar estrategias que permitan la igualdad de género. La mitad de la población son mujeres y niñas, entonces también son la mitad del potencial que tiene la población mundial.

Es imprescindible lograr sociedades pacíficas con pleno potencial humano y también con un pleno desarrollo sostenible.

2. ¿Por qué dedicamos un día a la mujer y la niña en la ciencia?

El punto es reconocer el acceso y la participación plenamente en condiciones de igualdad de mujeres y hombres en el ámbito científico y tecnológico, lo cual es imprescindible para lograr una igualdad entre los géneros y; un tema importante y relevante que es el empoderamiento de la mujer y la niña.
A continuación, te comparto algunos datos importantes respecto al área de la tecnología:

• Brecha de Género: En campos de vanguardia como la inteligencia artificial, donde solo uno de cada cinco profesionales (22%) es una mujer.
• Desigualdad laboral: Las investigadoras suelen tener carreras más cortas y peor pagadas. Su trabajo está poco representado en las revistas de alto nivel y a menudo no se las les  tiene en cuenta para los ascensos.
• Poca inclusión: A pesar de la escasez de competencias en la mayoría de los campos tecnológicos que impulsan la Cuarta Revolución Industrial, las mujeres siguen representando sólo el 28% de los licenciados en ingeniería y el 40% de los licenciados en informática y computación
• Becas desiguales: Las mujeres suelen recibir becas de investigación más modestas que sus colegas masculinos y, aunque representan el 33.3% de todos los investigadores, sólo el 12% de los miembros de las academias científicas nacionales son mujeres.

3. Inteligencia Artificial y la Mujer 

El tema de (lA) como sabemos, es un tema muy relevante, con un crecimiento muy importante y con más aplicaciones cada vez  en diferentes áreas de la ciencia, de la cultura, del arte, de los negocios de todo. 

Hablando específicamente de la tecnología y de la ciencia, la escasa participación de la mujer en el sector de la (IA) debe ser corregida, para evitar que incluso las máquinas; que se harán cada vez más indispensables en el futuro, se vuelvan machistas. 

Una de las principales formas es lograr que haya una participación activa de las mujeres. Pues la ya limitada participación de la mujer en la tecnología extiende sus efectos más allá del sector, con una velocidad sorprendente, dado que la (IA) está avanzando a pasos agigantados y que está replicando prejuicios de género que ya existían y además está creando nuevos.

¿A qué nos referimos con esto? bueno, sucede que si un algoritmo está diseñado o programado con un sesgo de género, este se magnifica, se hace cada vez más grande y se replica muchas veces sin un control muy claro. 

La participación de la mujer en el desarrollo de (IA) tiene un rezago y si a eso añadimos que “85% de quienes desarrollan IA son hombres, son blancos y hablan inglés” -de acuerdo con Gabriela Ramos, subdirectora general de Ciencias Sociales para la UNESCO-, estamos hablando de un verdadero problema en cuanto a los sesgos que pueden tener todos estos desarrollos de (IA) no solo sesgos de género, sino también de los sesgos culturales, religiosos, políticos, y de más.

La incorporación de profesionales mujeres en el desarrollo de algoritmos de (IA) evitará sesgos discriminatorios, mismos que ya están intensificado las brechas de género.

4. La Tecnología, cosa de hombres

Un chatbot desarrollado por Microsoft absorbió muchos datos mediante la aplicación Twitter y en menos de 15 horas de ser lanzado al mercado tuvo que ser eliminado, dado que, se refería a las mujeres como un culto o cáncer. 

Por esta razón, los expertos acentúan que es necesaria la participación de las mujeres en la implantación de los códigos de manera técnica.

Otro estudio realizado por investigadores de la Universidad de Virginia en los Estados Unidos determinó que las mujeres son un 47% más propensas a sufrir heridas severas en accidentes automovilísticos, ¿por qué? Porque los sistemas de seguridad fueron diseñados para hombres.
Si esto sucede con los autos, que son mayoritariamente diseñados por hombres, ¿Qué podemos esperar de las aplicaciones de (IA)?

5. La Inteligencia Artificial discrimina a la mujer

Las (AI) discriminan y refuerzan estereotipos de género, y vamos a ver de qué modo lo está haciendo:

DALL-E 2 y Stable Diffusion, dos de las herramientas de IA más utilizadas para crear imágenes a partir de texto, y es muy notorio cómo relaciona las profesiones de poder con hombres y las profesiones con palabras como asistente o recepcionista con mujeres.
En cuanto a los rasgos de personalidad, Cuando se agregan adjetivos como ‘emocional’ o ‘sensible’ para describir una profesión, la IA ofrece más imágenes de mujeres; ; mientras que si las palabras adicionales eran ‘obstinado’ o ‘intelectual’, en la mayoría de los casos, los resultados eran imágenes de hombres. Nuevamente vemos un sesgo de género muy marcado.

La herramienta creada por los investigadores de Hugging Face para comprobar los sesgos de género propone estos rostros cuando se le pide la imagen de una persona que se dedica a la ciencia y otra a pilotar aviones.

Con esto podemos ver nuevamente que existe un sesgo importante dentro del desarrollo de las aplicaciones de (IA) y no estamos hablando solamente de ChatGPT con generación de texto, sino también con herramientas de generación de imagen. 

Otro ejemplo de aplicaciones que han mostrado sesgos importantes es el caso de Amazon, en 2014 estrenó un algoritmo para reclutar nuevos trabajadores en sus almacenes. La aplicación parecía la ideal porque optimizaba muchísimo el proceso y le ahorraría horas al departamento de recursos humanos para la selección.
Un año más tarde, la multinacional se dio cuenta que, en los puestos técnicos, como el de desarrollador de software, no se había contratado a ninguna mujer. ¿Acaso no había ninguna candidata con aptitudes?.

En 2018, la compañía abrió un proceso de selección de personal para el departamento de paquetería y descubrieron que el algoritmo rechazaba a las mujeres que en muchos casos tenían una formación superior a la de los hombres que se presentaban como candidatos.

¿Por qué sucediá esto? Esta (IA) lo hizo de este modo porque se basó en estadísticas en donde la mayoría de los hombres ocupan un puesto así, daba preferencia entonces a hombres, dejando fuera a cualquier mujer que pudiera ocupar el puesto. En cuanto la compañía detectó esto, dejó de implementar esta (IA). 

A Facebook también le pasó…
Una auditoría del servicio de publicidad de Facebook, realizada por investigadores independientes de la Universidad del Sur de California, revela que el sistema de publicación de anuncios de Facebook muestra diferentes novedades de empleo a las mujeres y a los hombres, aunque los puestos de trabajo en cuestión requieren las mismas cualificaciones. Esto se considera discriminación de género según la Ley de Igualdad de Oportunidades de Empleo de EE. UU.
¿Por qué sucedió con Facebook? Porque Facebook de alguna manera, detecta la actual distribución demográfica de estos trabajos, y normalmente suele diferir por razones históricas, entonces Facebook reproduce estos sesgos, y de este modo entonces no había una justificación en cuanto a calificación por parte las mujeres, mostrando nuevamente que un algoritmo está discriminando. 

6. Discriminación en acción

La discriminación contra las mujeres es muy visible cuando realizamos búsquedas, si colocamos por ejemplo, “jefe y secretaria” el buscador nos va a mostrar jefe-hombre y mujer-secretaria, en automático. Y hay oficios que son pensados como eminentemente masculinos. Si buscamos “astronauta”, van a aparecer solamente hombres, y ya hay astronautas mujeres.

Eso no es todo, el sesgo también lo podemos constatar en los traductores, si queremos traducir algo de inglés a español siempre la herramienta va a ofrecer el resultado en masculino.
Nuevamente, está construido con un sesgo muy importante.

7. ¿Qué hacer frente al sesgo de género y diversidad de la (IA)? 

Te presento a continuación 5 acciones que podemos empezar a adoptar para hacer frente a los sesgos:

• Diversificar equipos: Incluir personas de diferentes géneros y orígenes en cualquier tipo de desarrollo de (IA)
• Formación en sesgos: Educar a los profesionales en (IA) sobre la existencia de sesgos y prejuicios, y proporcionarles herramientas para que sepan abordarlos, tratarlos y corregirlos. Y ser conscientes todos de que existe este sesgo.
  Por eso también es importante que sigamos fomentando el pensamiento crítico, y que siempre revisemos los resultados de lo que estamos generando.
• Auditorías de algoritmos: Es decir, hacer revisiones regulares para identificar sesgos y prejuicios, y lograr corregirlos a tiempo.
• Expertos en ética y diversidad: Incluir expertos en ética y diversidad en el desarrollo de (IA), que nos permita realmente lograr que las (IA´s) estén diseñadas de una manera más inteligente y que vaya de acuerdo a lo que actualmente se hace, qué es involucrar a las mujeres.
• Evaluación continua: Hay que revisar y mejorar los procesos y sus algoritmos de manera continua.
  

8. 8 acciones para romper la brecha de género en IA

Hay algunas acciones que nos recomiendan para romper la brecha de género con (IA), te las comparto a continuación: 

• Revisión y validación de bases de datos y algoritmos. Hay que estar constantemente revisando cómo está configurado ese algoritmo y si tiene sesgos, y si los tiene corregirlos.
•  Cuotas obligatorias de género y de diversidad en los equipos de trabajo e investigación. Esto no es nada nuevo. De hecho a muchas empresas que quieren hacer cierto tipo de certificaciones les piden un mínimo de mujeres en las diferentes áreas.
•  Fondos. Se deben de dedicar fondos ya sea federales, estatales o gubernamentales, para incentivar planes y programas que tengan perspectivas de género, que busquen incluir a niñas y mujeres en la economía digital impulsada por (IA).
•  Becas. Hay que otorgar becas para impulsar a que más mujeres, jóvenes estudien carreras STEAM relacionadas con la tecnología y una mayor investigación y divulgación de la ciencia en este ámbito. 
•  Estrategias de estado. México, y cualquier país debe comenzar a perfilarse como un país más desarrollado y menos consumidor de contenido tecnológico. 
•  Colaboración y divulgación para iniciativas y proyectos que estén trabajando con (IA) para que se busquen aliados.
• Difusión. Hay que difundir casos de éxito en donde mujeres líderes en áreas de investigación y desarrollo de la ciencia y tecnología inspiren a otras mujeres a romper estereotipos.
• Alfabetización. Debemos de involucrarnos más en el uso de nuevas tecnologías, como clientes debemos empoderarnos y pedir al gobierno y a las empresas la alfabetización de estos temas y también si detestamos sesgos, reportarlos.  

9. IA´S que ya están trabajando la inclusión.

La cofundadora y directora del Observatorio de Datos “DataGénero“, aseguro que una de las grandes preocupaciones en la materia de (IA) es que cada vez más gobiernos están implementando herramientas y algoritmos inteligentes que están incidiendo en nuestra vida y nosotros no sabemos nada al respecto.

Operando inadvertidamente, estos sistemas se usan “para tomar decisiones que afectan directamente a las personas”, por ejemplo para determinar a quiénes entregar préstamos, atención médica o social, o incluso para medir una pena judicial o el riesgo de reincidencia.

Se han destacado también, algunas oportunidades que puede brindar la (IA) por ejemplo los chatbots diseñados para la recepción de denuncias por violencia de género y que esto ayude a agilizar también tiempos judiciales.

También correctores de textos, como “Themis”, un corrector de textos que advierte cuando usas palabras sexistas y que incluso propone alternativas inclusivas.

AymurAI es una (IA) responsable que está programada en base a la justicia abierta y que cuenta con perspectiva de género. Este programa es un programa para computadora que tiene como objetivo ayudar a los poderes judiciales a recolectar y disponer de datos anónimos sobre la violencia de género. Fue desarrollado por colegas mexicanas y suecas.
Está pensada como una forma de agilizar la recolección de datos de violencia de género para comprenderla, y respaldar el desarrollo de políticas públicas.

Ya hay algunas iniciativas justamente para detectar y apoyar en la equidad de género, estos datos tienen una capacidad  transformadora porque nos permiten conocer la realidad de las personas dentro del ámbito de la violencia. 

10. Conclusiones

Si se construye un sistema inteligente que aprende lo suficiente sobre las propiedades del lenguaje para poder entenderlo y reproducirlo, también el proceso adquirirá asociaciones históricas, y esto trae consigo prejuicios de género.
Hay una escasa participación de la mujer en el sector de la (IA) y es necesario que sea corregida para evitar que en el futuro, los sistemas inteligentes sean más machistas. 

¿Por qué esto debe de cambiar? Pues porque queremos evitar resultados abiertamente prejuiciosos, es muy importante entender que hay expertos que enfatizan que se les debe controlar e inculcar códigos morales y las mujeres deben participar en la creación de estos códigos, aunque de naturaleza ética deben ser expresados técnicamente. 

11. Referencias

• Digitales, D. [@DocentesDigitales]. (2024, marzo 7). IA: Impulsando la Participación de Mujeres y Niñas en la Ciencia. Youtube. https://www.youtube.com/watch?v=_5DmKSvIreI 
• Ibáñez, P. M. (2023, abril 11). La inteligencia artificial también discrimina. XL Semanal. https://www.abc.es/xlsemanal/ciencia/inteligencia-artificial-discriminacion-tecnologia-chat-gpt-dalle.html
• Álvarez, S. (2023, agosto 30). 8 acciones para romper la brecha de género en IA. Daliaempower.com. https://daliaempower.com/blog/8-acciones-para-romper-la-brecha-de-genero-en-ia/
• LinkedIn News. (2023, septiembre 22). La IA discrimina y tiene sesgos de género. LinkedIn News. https://www.linkedin.com/news/story/la-ia-discrimina-y-tiene-sesgos-de-g%C3%A9nero-5775644/
• Drazer, M. (2023, noviembre 23). Inteligencia artificial: ¿discriminación garantizada? Deutsche Welle. https://www.dw.com/es/inteligencia-artificial-discriminaci%C3%B3n-garantizada/a-67537041
• La Inteligencia Artificial discrimina a la mujer. (2019, octubre 22). SHIFTA by Elisava; SHIFTA. https://weareshifta.com/por-que-la-inteligencia-artificial-discrimina-a-las-mujeres/ 
• Página en reconstrucción. (s/f). Com.Ar. Recuperado el 8 de marzo de 2024, de https://www.telam.com.ar/notas/202303/621747-discriminacion-genero-algoritmos.html
• La IA de Facebook discrimina a las mujeres en los anuncios de trabajo. (1970, enero 1). MIT Technology Review. https://www.technologyreview.es/s/13219/la-ia-de-facebook-discrimina-las-mujeres-en-los-anuncios-de-trabajo
• La ausencia de mujeres en el campo de la inteligencia artificial reproduce el sexismo. (2019, junio 3). Noticias ONU. https://news.un.org/es/story/2019/06/1456961
• (S/f-c). Com.mx. Recuperado el 8 de marzo de 2024, de https://www.eleconomista.com.mx/arteseideas/La-desigualdad-de-genero-tambien-esta-presente-en-losalgoritmos-20230311-0009.html
• Álvarez, S. (2023b, septiembre 4). La brecha de género en la IA: desafíos y oportunidades para las mujeres. Daliaempower.com. https://daliaempower.com/blog/la-brecha-de-genero-en-la-ia-desafios-y-oportunidades-para-las-mujeres/
• Expansión. (2023, noviembre 24). Piden más mujeres en la Inteligencia Artificial para acabar con los sesgos de género. Expansión. https://www.expansion.com/sociedad/2023/11/24/65608fdd468aeb1f148b4601.html
• United Nations. (s/f). Día Internacional de la Mujer y la Niña en la Ciencia | Naciones Unidas. Recuperado el 8 de marzo de 2024, de https://www.un.org/es/observances/women-and-girls-in-science-day