Amparo Alonso, experta en IA: "Algunas tecnológicas priorizan el negocio sobre la ética"

Amparo Alonso, experta en Inteligencia Artificial ética y CEO de EAiD (Ethical AI for Human Development), ha participado recientemente en Zaragoza en la jornada 'IA en la pyme: productividad, ética y regulación. Adaptarse para seguir creando valor', organizada por IAON en colaboración con Microsoft, Ibercaja, Gobierno de Aragón y Fundación Ibercaja.

¿Cuáles son los mensajes principales que ha trasladado a los asistentes en la jornada?

En la jornada he querido poner en el centro tres aspectos: estrategia, ética y regulación. El mensaje clave es que la IA no es solo una decisión tecnológica, es una decisión estratégica. Incorporar la ética orienta con responsabilidad. Hay que tener claro para qué la vas a usar porque eso te permitirá entender qué obligaciones regulatorias son de aplicación como pyme.

¿Qué deberían hacer las pequeñas y medianas empresas para ponerse al día en IA y saber aprovecharla?

Lo primero es definir una visión clara. Quién eres como pyme, cuáles son tus límites y cuáles son tus valores. Es decir, que si empieza pequeño, que sea con una visión grande. Antes de integrar IA hay que hacerse algunas preguntas estratégicas. Qué control quiero que mantenga la persona, qué no automatizarías nunca porque es parte de mi misión o qué procesos sí se pueden automatizar con sentido. Después de esa reflexión, vienen otras fases: formación y asesoramiento. Son etapas que deben ir en orden.

El Reglamento Europeo de Inteligencia Artificial (AI Act) ha marcado un antes y un después en la materia. ¿En qué consiste?

Se aprobó en 2024, es el primer reglamento integral de IA y se aplicará de forma progresiva. La responsabilidad que tenga una pyme dependerá de su rol, si es desarrolladora del sistema o si es usuaria. Hay varias ideas clave en esta regulación. Se aplica a todos, proveedores, usuarios y distribuidores, y hay enfoques por niveles de riesgo. Por ejemplo, no es lo mismo un chatbot educativo que solo da información, que uno que decide criterios de admisión o evaluación. En su conjunto, lo que se hace es regular para que estos sistemas no puedan vulnerar los derechos fundamentales y la seguridad. Además, la Unión Europea se está creando una arquitectura institucional para ayudar especialmente a las pymes a adaptarse, con apoyo y guías prácticas.

Forma parte del comité de expertos de IAON. ¿Qué es y cuáles son sus objetivos?

IAON es un centro de excelencia para democratizar el uso de la inteligencia artificial desde una perspectiva ética y responsable. Participamos expertos con distintas áreas de especialización, desde ética hasta educación. Ya se han realizado jornadas educativas a gran escala, y se preparan otras específicas para administraciones locales, colegios y pymes. Hay una hoja de ruta muy interesante para 2026. La iniciativa nace en Aragón -impulsado por Fundación Ibercaja Sostenible, Gobierno de Aragón, Ibercaja y Microsoft- pero tiene vocación nacional e, incluso, dimensión internacional en su asesoría.

¿Cuál es el grado de implantación de la IA en las pymes?

Todavía existe una gran diferencia entre las grandes empresas y las pequeñas, tanto en Aragón como en España. Según los últimos datos, solo alrededor del 10% de las pymes está haciendo un uso significativo de la IA. Las limitaciones de infraestructura y recursos explican esta brecha. La intención es que IAON contribuya a reducirla.

Aragón se ha convertido en un polo de centros de datos a nivel nacional y europeo, una infraestructura esencial para el funcionamiento de la IA. ¿Cómo lo valora?

El tema de los datos es la gran apuesta en esta parte del mundo. Yo también observo y trabajo en otros países donde es más carente. La IA no existe sin datos. La inversión en centros de datos es, por tanto, necesaria.

"La inteligencia artificial no es perfecta. Puede fallar, ser opaca e incorporar sesgos"

Está especializada en la ética en IA. ¿Por qué es importante abordarla desde ese enfoque?

Más de noventa organizaciones del mundo han lanzado sus principios sobre ética y casi todas tiene elementos comunes. Uno de ellos es el tema de la transparencia, es decir, que debes de saber qué hace el sistema de inteligencia artificial y con qué datos, si no puedes explicarlo, no deberías usarlo. Porque la IA no es perfecta. Puede fallar, ser opaca e incorporar sesgos. También está el principio de responsabilidad: si el sistema falla, alguien debe poder responder. Otro tema crucial es la supervisión humana; debe mantenerse la capacidad de intervenir, revisar y detener decisiones automatizadas. Otro reto es la protección de derechos fundamentales: la IA debe estar al servicio de las personas. Y la seguridad y la sostenibilidad de los sistemas. No se trata de frenar la tecnología, sino de guiarla con inteligencia humana.

¿Se está aplicando la inteligencia artificial con criterios éticos en el mundo?

Depende de qué parte del mundo. En el ámbito global, que es en el que trabajo, hay una desigualdad vertiginosa entre quién puede acceder y cómo a la inteligencia artificial; qué datos y con qué datos se entrenan los modelos y para quién es el beneficio de ese entrenamiento. El avance tecnológico es justo y ese avance no está siendo igual para todos. Hay un sistema de gobernanza muy débil todavía porque esto queda en un entorno privado donde los sistemas, la regulación y toda la parte regulatoria mundial va mucho más lenta. Son procesos que requieren un consenso y una participación que no están llegando al ritmo de las aplicaciones.

¿Europa está haciendo bien los deberes en este sentido?

Europa ha empezado a hacer sus deberes regulatorios, aunque todavía está en fase de implantación. En otras regiones del mundo, esta regulación no existe, y el desarrollo tecnológico se guía primero por el negocio, no por las personas, como puede estar sucediendo en China o Estados Unidos. Esto puede traer consecuencias, por ejemplo, en el ámbito educativo o los menores. Eso implica desigualdad. Más de 6.000 millones de personas viven en países donde sus derechos no están garantizados en el uso de IA.

Pero los líderes tecnológicos de la IA son precisamente de EEUU y China.

Así es. Algunas de las grandes tecnológicas que existen ahora mismo en la IA no tienen la ética como estandarte, sino el valor del negocio. Por eso es tan importante que, desde Europa, desde las empresas, las organizaciones o iniciativas como IAON, sigamos colocando en el centro a la persona, los derechos fundamentales y los derechos humanos. Hay que poder decidir, el decidir.