Los modelos IA, nuevos Prometeos

En un momento determinado de la novela de Mary Shelley Frankenstein, la criatura y el doctor Frankenstein mantienen una fuerte discusión, y la criatura dirigiéndose a su creador afirma: «Tú eres mi creador, pero yo soy tu dueño: ¡Obedece!». Podríamos replicar este pasaje de la novela al presente que vivimos en los avances de IA y aunque pueda resultar por mi parte excesivo, plantearnos si los supuestos creadores de IA son capaces de gobernar «su Prometeo» y plantearnos la siguiente cuestión, ¿ la criatura se escapa del creador humano?

En estas últimas semanas, Reino Unido, a través del Instituto Británico de seguridad de la IA (AISI), detectó serios problemas de seguridad en los comportamientos de los modelos Mythos 5 y GPT-5.6 Sol de las empresas Anthropic y Open-AI, como si de pronto las criaturas pudieran abandonar a sus respectivos «doctores Frankenstein» y actuar tal y como se indica en el informe de AISI con «capacidad sostenida, nueva, posible y autónoma de cualquier acción humana», y yo añadiría con capacidad cooperativa propia.

Como bien advierte José Hernández Orallo, investigador de IA del Leverhulme Centre for the Future of Intelligence de Cambrigde, «el león ha sacado la zarpa fuera de la jaula». Los modelos IA de estas dos empresas norteamericanas han sido capaces de hackear plataformas como Huggin Face (plataforma de modelos abiertos de IA), sobre el papel los controles de seguridad no han funcionado correctamente, dichos modelos han tomado decisiones para ocultarse, moverse en el internet oscuro que es Tor, sus posibles cajas de seguridad no parecían ser tan seguras y aisladas ya que debían contar con accesos a la red. Pero lo más interesante es su nueva capacidad en gestionar por sí mismos los retos que se planteaban en cada momento, siendo capaces a dar respuestas sin un control humano directo. En el informe de AISI se subraya esta cuestión indicando: «... Toman decisiones no intencionadas más allá de su alcance autorizado».

Problemas entre otros que han podido evidenciarse, por una parte son modelos que han cooperado con otros agentes sin estar inducidos a ello, y también que en algunos casos estos modelos de IA se han elaborado respuestas sin plantearse la cuestión ética del daño real que podían provocar, y esto nos lleva a cuestionar ¿qué garantías hay de su control y consecuencias?, ¿estamos ante una IA más inteligente que sus ingenieros creadores?Esta realidad que está emergiendo en estos experiencias necesita de una especial atención y en la necesidad por conocer qué controles de auditorías externas se han realizado a las empresas que están desarrollando estos procesos de IA, el conocimiento de la finalidad de dichos procedimientos y el por qué de la necesidad en el desarrollo de dichos modelos y por tanto cuál es el equilibrio entre los beneficios y riesgos de estos avances.

En la declaración de Montreal sobre desarrollo responsable de IA de 2018, se subrayan los límites éticos y morales en el desarrollo de esta tecnología, entre sus principios destacan sobremanera el relativo a la prudencia: «Todas las personas involucradas con SIA deben actuar con prudencia y en la medida de lo posible prevenir sus riesgos». Así como el relativo al principio de participación democrática, por tanto a la posibilidad de llevar a cabo auditorías tal y como en los casos de Mythos 5 y GPT-5.6 se está reclamando, ¿deben simplemente los creadores y dueños de estos modelos los únicos que planteen sus propias investigaciones internas?, ¿ la sociedad en su conjunto debiera ser conocedora de los problemas que se están generando en los avances de estos modelos de IA?

Por tanto, sin perder de vista todos los avances en positivo que la IA trae para nuestras sociedades y de los cuales ya estamos disfrutando, los interrogantes de una IA autónoma y capaz de tomar decisiones al margen de la acción humana -que pueda ser un nuevo Prometeo- no debiera dejarnos indiferentes ante situaciones como el intento de ataques a infraestructuras críticas, la influencia en las opiniones públicas -como ya está sucediendo en el caso de las próximas elecciones francesas y en los intentos de entradas migratorias-, las posibilidades de su uso en la guerra, entre otras cuestiones.

Por tanto regresamos a la novela de Mary Shelley, y me planteo si la criatura será capaz de tomar conciencia de nuestras propias contradicciones y limitaciones como seres humanos, en sugerir que la única forma de ganar es no jugar. Mientras a través de los nuevos centros de datos Prometeo sigue creciendo.