Gracia Nogales, ingeniera informática extremeña: "La Inteligencia Artificial mal usada amplifica la desigualdad de género"

¿Cuándo empezó su interés por la informática?

Desde que era pequeña tuve claro que quería estudiar ingeniería informática. Es raro porque no sabía ni de qué iba. Pero recuerdo cuando tuve mi primer ordenador, que era bastante pequeña, me pasaba horas y horas con él. Me flipaba el ‘Paint’. Decía: «¿esto me parece magia, no?». Al final ese gusanillo nunca lo perdí. Fue a más y más.

¿Cuáles fueron sus referentes? ¿Hubo alguna mujer?

Mis profesores fueron mis referentes. Ya me hubiera gustado tener el ejemplo de mujeres. Hubiera sido la caña porque es que cuando tienes a alguien en el que te puedes y decir: «Mira, es como yo».

¿Consideras que esa ausencia de modelos femeninos condiciona a las niñas a la hora de elegir una carrera STEM (‘Science, Technology, Engineering, and Mathematics’)?

Sí, porque hace falta mostrar a las niñas que ellas también pueden formar parte del mundo de la tecnología. Muchas veces nos imaginamos la tecnología como algo muy superficial. Te imaginas la típica persona que está todo el día solitaria tecleando en su ordenador, con gafas... Las películas han hecho mucho daño. Con ese estereotipo las niñas no se sienten identificadas porque además la mayoría son hombres. Hace poco me dijeron a mí que no me pegaba ser informática, por ejemplo.. Entonces si hacemos iniciativas que para acercarles la tecnología a ellas y que puedan ver las cosas que se pueden hacer, les va a encantar. Sin duda la forma de conectar es tener referentes femeninos . Las mujeres hacen cosas increíbles en tecnología y y no salen en las noticias.

Entonces es un sector muy estereotipado...

Sí, sí. Aunque es cierto que ha habido cambios porque están haciendo muchos esfuerzos de visibilizar a las mujeres en tecnología y está funcionando. Cada vez hay más iniciativas. Por ejemplo, las redes de apoyo y las mentorías funcionan súper bien. Poco a poco hay más espacios donde se habla de esto. Pero en el aula sigue existiendo esa brecha y solo el 35% de las mujeres estudian carreras STEM.

En el aula sigue existiendo esa brecha y solo el 35% de las mujeres estudian carreras STEM

¿Qué falta para que ese porcentaje se iguale?

Actuar desde la de temprana porque la brecha no empieza en la universidad ni en el trabajo, empieza en la infancia. A las niñas se le dan otros juegos. No se trata de empujarlas a estudiar informática, sino de construir un entorno que les haga ver que el mundo de la tecnología también es para ellas y que tengan claro su sitio. Necesitamos entren en tecnología para que el día de mañana las soluciones sean más inclusivas y sean más justas.

Aquí entraría el sesgo de género en las investigaciones: medicina, Inteligencia Artificial... ¿Qué sucede con la IA?

La Inteligencia Artificial tiene un potencial increíble. Yo soy la primera defensora y lo está transformando todo. Cada vez se usa más en toma de decisiones, en la optimización de procesos y está revolucionando sectores como la medicina, la educación o el empleo. Pero detrás de millones de datos, donde hay patrones, hay desigualdad, prejuicios y estereotipos. Esto llevará a que tengamos diagnósticos médicos erróneos porque los traductores ya asignan roles de género sin pedirlo. Los modelos asumen que las mujeres cuidan y los hombres lideran. No solamente es que no lo cuestione si quiera, es que la IA también amplifica, porque cuando esas respuestas se dan una y otra vez, lo que en principio era un prejuicio sutil, se convierte en un estándar global y se normaliza. Esto tiene consecuencias como invisibilidad, refuerzo de estereotipo, impacto social, porque esas respuestas afectan a empleos, ¿a quién se contrata?, ¿a quién se opera primero? La IA tiene un impacto directo eh en nuestras vidas. Va más allá incluso. La informática Joy Buolamwini, que también es activista en redes, se dio cuenta trabajando con un sistema de reconocimiento facial que no reconocía su cara -es una mujer negra-, sin embargo al ponerse una máscara blanca, sí. Se dio cuenta no solamente que el sistema era más impreciso con mujeres, sino que además era más impreciso con mujeres negras y de minorías étnicas. Desató una revolución. Además, cuenta de lo peligroso que puede llegar a ser esto. Imagina que un coche autónomo no ve cruzar a una mujer negra y la atropella. Otros sesgos se dan en traductores. La frase «Doctor is waiting for the nurse», se traduce: «El médico está esperando a la enfermera». Dando por hecho que es un médico hombre y una enfermera mujer.

¿Cómo se puede solucionar eso?

Eso se cambia auditando sesgos, por ejemplo, antes de que los sistemas que entren en producción que se construyan los sistemas y la IA con datos equilibrados que nos representen a todos. Es difícil porque nuestra historia es mayoritariamente tiene mayoritariamente datos masculinos. Las mujeres están invisibilizadas. Entonces es difícil. En medicina preocupa mucho porque los estudios se hacen mayoría en hombres y las mujeres no tienen un diagnóstico certero.

Antes de que los sistemas que entren en producción que se construyan los sistemas y la IA con datos equilibrados que nos representen a todos

¿La IA aprende esos patrones?

Eso es. Hay otro tema como los ‘deep-fakes’ porque según estudio, el 96% del contenido de ‘fake’ en internet es pornográfico y el 90% de las víctimas son mujeres. La IA puede llegar a desarrollar conductas que promuevan la violencia machista. La Inteligencia Artificial es una herramienta poderosa y tiene que entenderse bien, construirse con conciencia, con datos equilibrados que nos representen a todos. También es importante que se revisen sus respuestas antes de que tome una decisión y que se auditen los sesgos antes de que los sistemas entren en producción. Que al final que la IA construya el mundo que queremos y no el que heredamos. Necesitamos a más niñas, a más mujeres desarrollando Inteligencia Artificial porque los equipos diversos crean mejores soluciones, más inclusivas y solo desde edades tempranas y estudios universitarios podemos hacer que sea más justa.