Nuria Oliver, ingeniera: "Podemos aprovechar todo el potencial de la IA sin renunciar a nuestra privacidad"

Convencida de que IA y ética pueden convivir, su trabajo demuestra que nos queda un camino por recorrer que, en su opinión, merece la pena por lo mucho que puede aportar a avances como la medicina, entre otros.

¿Cuándo escuchó el concepto de inteligencia artificial por primera vez?

Durante tercero de carrera, cuando una profesora me ofreció escribir un artículo científico para un congreso universitario internacional y elegí escribir sobre redes neuronales.

¿Qué le atrajo para dedicarse a su investigación?

La fascinación por la mente humana y por las posibilidades que nos brinda la inteligencia artificial para ayudarnos.

Con el verano, ¿la IA se va de vacaciones?

No (sonríe). Es uno de los factores que también están teniendo impacto en la relación entre las personas y la inteligencia artificial, porque evidentemente a diferencia de los humanos que nos cansamos, que dormimos, que comemos y que nos vamos de vacaciones, los modelos de IA no lo hacen y siempre están disponibles para atender nuestras peticiones.

Me consta que es una persona reservada ante este tipo de chats conversacionales y que no facilita datos personales. ¿Por qué no lo debemos hacer el resto?

Porque una vez compartimos información personal en el mundo digital, perdemos el control sobre ella y, con alta probabilidad, será utilizada para entrenar otros modelos de IA. Mi recomendación es no introducir en un chatbot ningún dato personal, sensible, confidencial o que pueda identificar a una persona. Podemos aprovechar todo el potencial de la IA sin renunciar a nuestra privacidad. La mejor protección sigue siendo compartir únicamente la información que sea realmente necesaria.

Es una las voces autorizadas que ha defendido que no todo vale en la IA, ¿pero somos los europeos los únicos adalides o esta visión la comparten sus colegas de otros continentes?

La preocupación por desarrollar una inteligencia artificial ética y responsable no es exclusiva de Europa. Es cierto que Europa ha sido especialmente activa a la hora de traducir estos valores en regulación, como demuestra la Ley Europea de IA (AI Act) y que fundación Ellis Alicante [de la que es directora y cofundadora] ha sido pionera en estar enfocada en esos aspectos. En otros países, como Estados Unidos, el impulso ha venido más desde la investigación, la industria o iniciativas voluntarias, mientras que China tiene un enfoque regulatorio diferente, más vinculado a sus prioridades estratégicas y de gobernanza.

Participó en una reciente investigación internacional que relaciona IA y salud mental que demostró los riesgos de dar credibilidad a los chatbots ante situaciones de crisis, como suicidios, ¿se referían a público joven solo?

No. Aunque los jóvenes pueden ser especialmente vulnerables porque utilizan estas herramientas con mucha frecuencia y tienden a establecer relaciones de confianza con la tecnología, el riesgo no se limita a ellos. Cualquier persona que atraviese una situación de ansiedad, depresión, soledad o una crisis emocional puede llegar a conceder a un chatbot una autoridad o una empatía que realmente no tiene. Los modelos de IA pueden ofrecer información útil o un primer apoyo, pero no comprenden las emociones ni sustituyen el criterio de un profesional de la salud mental.

Expuso que hay padres que han denunciado a estas empresas. ¿Tienen recorrido?

Creo que estas denuncias sí tienen recorrido, aunque jurídicamente serán complejas. Si un modelo detecta señales claras de riesgo y no responde de forma adecuada, o incluso refuerza conductas dañinas, es razonable preguntarse si existió una negligencia en su diseño. Más allá del resultado de estas demandas, que dependerá de cada caso concreto, probablemente tendrán un efecto muy relevante: acelerar la definición de estándares de seguridad, transparencia y rendición de cuentas para la IA. Igual que hoy exigimos normas estrictas de seguridad para medicamentos, automóviles o juguetes infantiles, tenemos que exigirlas también para sistemas de IA que mantienen conversaciones con millones de personas, especialmente con menores.

Igual que hoy exigimos normas estrictas de seguridad para medicamentos, automóviles o juguetes infantiles, tenemos que exigirlas también para sistemas de IA

¿Debería existir un filtro de edad o similar para acceder a una IA generativa como un ChatGPT para menores?

Creo que sí, aunque no basta con establecer una edad mínima. Además de mecanismos de verificación, es importante que existan versiones adaptadas para menores, con límites de uso, controles parentales y medidas de seguridad reforzadas. Algo similar sucede con las personas mayores. Al mismo tiempo, debemos enseñar a utilizar estas herramientas de forma crítica y responsable. La alfabetización en inteligencia artificial será tan importante como lo fue en su día la alfabetización digital.

Si no podemos contar con el sentido común de los seres humanos, ¿se debe entrenar a la IA sobre la frustración?

La frustración forma parte de la experiencia humana, pero la IA no la siente ni necesita experimentarla para ser útil. Lo que sí debemos hacer es entrenarla para reconocer cuándo una persona puede estar frustrada o en una situación de riesgo y responder de forma adecuada, segura y responsable.

Fuente: Información