La Inteligencia Artificial está revolucionando el mundo, pero a pesar de lo futurista que pueda sonar, hay cosas que- aunque siendo una tecnología de vanguardia- siguen quedando en el pasado. Numerosos son los casos de sesgo de género en los que la inteligencia artificial nos ha dado una muestra de que el entrenamiento de las máquinas está teñido de una mirada social que históricamente ha afectado a las mujeres.
Los ejemplos sobran, desde la traducciones con sesgo del algoritmo de Google translate hasta errores en diagnósticos de enfermedades por falta de pruebas en mujeres. Según el Centro de Investigación en Política Pública, IMCO, un algoritmo diseñado para detectar daño renal se equivoca con el doble de recurrencia en las mujeres que en los hombres, porque nunca se le entrenó con un cuerpo femenino. En este mismo contexto, la empresa de tecnología Gartner, ya comentaba en el 2022 que el 85% de los desarrollos con IA generarían resultados equívocos debido a los sesgos con las que son entrenadas.
Esto es solo la punta del iceberg, hay más ejemplos de algoritmos que muestran a los hombres más ofertas de trabajo que a las mujeres o que pueden reconocer con más precisión la cara masculina en lugar de las femeninas interraciales. De acuerdo a datos compartidos por Technopedia, las imágenes generadas con DALL-E 2 retrataban al 97% de las personas en puestos de autoridad (como CEO y Director) como hombres blancos, a pesar de que la representación femenina alcanza el 39,6%.
Esta situación se hace más preocupante con datos como los liberados desde IBM que señalan que el 74% de las empresas del mundo que han incorporado la IA a sus procesos no han tomado medidas para poner freno a los sesgos involuntarios en los sistemas. Pese a esto, hay un acto simple, pero importante que puede marcar la diferencia y apoyar a la ciencia a elaborar modelos más equitativos: la representación femenina en tecnología.
A pesar de que cada vez se ven más mujeres estudiando carreras STEM, la cantidad de futuras ingenieras y científicas sigue siendo bastante más baja que la presencia masculina en estos campos. La Unicef cuenta al respecto que, a nivel global, solo el 35% de las mujeres estudian carreras STEM, mientras que en México lo hace el 38% de la población femenina. Otro dato revelador del informe PISA, dice que a los 15 años el 28% de los jóvenes quiere estudiar ciencias e ingeniería, mientras que solo el 9% de las chicas mexicanas tiene esta idea.
La falta de científicas, programadoras, expertas en TI y en tecnologías de vanguardia impulsa el desarrollo de proyectos bajo una mirada masculina, probada entre hombres, pensada entre hombres, como muchos aspectos de nuestra sociedad, entonces el desafío parte desde la educación: motivar a las niñas del mundo a escoger carreras que las ayuden a convertirse en mujeres que cambiarán la historia de la ciencia, la tecnología y la forma de mirar el mundo.
Muchos de los avances tecnológicos han sido ideados por mujeres, pero invisibilizados en la historia. Ada Lovelace, Marie Curie, Rosalind Franklin por nombrar algunas protagonistas de la ciencia y dentro de México, la mismísima Katya Echazarreta, la primera mujer del país en viajar al espacio en una misión de investigación de la NASA.
Los ejemplos sobran y el rol de la mujer se ha ido volviendo cada vez más sólido en ámbitos donde antes no tenía cabida, como la ciencia, la ingeniería, las matemáticas, la investigación, pero aún falta mucho por avanzar. Sobre todo cuando nos damos cuenta que, pese a que el mundo está cambiando seguimos entrenando a nuestras nuevas tecnologías bajo patrones que replican la desigualdad y la violencia de género.
El último artículo de ONU Mujeres sobre el sesgo de género en tecnología arrojó una cifra preocupante, ya que confirmó la falta de representación femenina en el desarrollo de tecnologías con IA, solo el 22% de quienes trabajan en inteligencia artificial son mujeres, y además persisten brechas de género sociales, culturales, salariales y laborales.
Entonces como primer paso, este mes de la mujer es una buena oportunidad para recordarle a todas aquellas que están lidiando con sesgos humanos y tecnológicos que entre todas podemos cambiar el mundo. Desde casa, entre la familia, podemos empezar a motivar a las adolescentes para que persigan sus sueños y se transformen en desarrolladoras de tecnologías libres de sesgos, más equitativas, accesibles e integrativas.
Mientras más mujeres puedan entrenar los modelos de lenguaje, menos se replicarán aquellas actitudes que han marcado sus carrera y sus vida por décadas. Es una urgencia contar con más mujeres en el sector tecnológico, incorporando su visión, igualmente valiosa, en el entrenamiento de toda la tecnología que está disponible para facilitar las tareas en el mundo laboral y personal.
Si hay sesgos en el mundo real, lo más probable es que se traspasen el ciberespacio porque así es cómo estamos concibiendo el mundo. Por esto es también importante trabajar en un marco regulatorio para que los modelos de Inteligencia Artificial pueden incluir correcciones y consideraciones de género que ayuden a disminuir el riesgo de sesgo. Es posible incluir filtros en los algoritmos para que sus respuestas estén libres de discriminación de género, pero para que eso suceda, a alguien dentro del equipo de desarrollo le tiene que importar esta temática.
Volvemos de nuevo a la importancia de formar ingenieras, mujeres en ciencias y en tecnologías profundas para hacer cambios desde dentro y trabajar en conjunto en entrenamientos que estén alineados con un futuro más equitativo.
