Durante el evento 'México Siglo XXI: Mentes que iluminan el futuro' de la Fundación Telmex Telcel; Joy Buolamwini, investigadora del Instituto Tecnológico de Massachusetts (MIT) y referente en ética tecnológica, advirtió que las tecnologías de reconocimiento facial no son neutrales: sus sesgos sociales podrían reforzar desigualdades existentes en la sociedad.
Riesgos del reconocimiento facial
La investigadora recordó cómo se transformó su carrera al darse cuenta de que los sistemas de reconocimiento facial no identifican el rostro de una mujer de color, pero sí el de su compañera rubia.
Esto la llevó a descubrir que los sistemas de IA tienen sesgos raciales y de género en los algoritmos de empresas tecnológicas como Microsoft, IBM y Amazon.
Joy Buolamwini destacó el problema de la obtención de los ‘assets’ biométricos sin consentimiento en favor de la investigación y desarrollo de la tecnología.
“¿Tenemos permiso para usar estos datos? ¿Qué pasa si alguien tiene tu huella facial? Esa información no es una contraseña que puedas cambiar”, se cuestionó.
Te recomendamos...
La experta alertó sobre el peligro de desplegar estas tecnologías en contextos autoritarios o de vigilancia masiva, donde un error de identificación podría tener grandes consecuencias.
“Cuando le pides a un algoritmo que identifique a un criminal, terrorista o incluso al "trabajador ideal", estás reflejando sesgos sociales. Los datos de entrenamiento tienen una sobrerrepresentación o subrepresentación de grupos", comentó.
Consideró que la Inteligencia Artificial es un espejo de la sociedad, por lo que existe el riesgo de que se pueda distorsionar y ampliar esta desigualdad.
También expuso la visión limitada del mundo que ofrecen estas herramientas, entrenadas, mayoritariamente, con datos de culturas occidentales.
México y Latinoamérica ante la IA
Buolamwini subrayó que la riqueza cultural de México y Latinoamérica es un activo invaluable que debe ser incorporado en el desarrollo tecnológico para evitar que la IA sea una herramienta de homogeneización cultural.
Finalmente expuso que México tiene el potencial para ser un líder en la creación de un marco ético para la IA y desarrollar tecnologías que incorporen desde su diseño la diversidad y los derechos humanos.
Te recomendamos...
AG
