La Unión Europea ultima entre críticas y presión la ley que regulará la inteligencia artificial

La Unión Europea (UE) está finalizando los trámites para presentar la esperada ley que regulará el uso de la inteligencia artificial (IA). El próximo miércoles, los legisladores de las principales comisiones del Parlamento Europeo votarán un acuerdo político que será clave para determinar los peligros de una tecnología que avanza a una velocidad de vértigo. Aunque lo pactado entonces no será definitivo, varios expertos ya han denunciado potenciales vacíos que plantean "graves riesgos".

El 21 de abril de 2021, la Comisión Europea propuso un nuevo reglamento para regular la IA que prohibía la manipulación, la puntuación social y algunos casos de reconocimiento facial. Después de más de un año y medio, la aparición el pasado noviembre del popular ChatGPT alteró las negociaciones y forzó a los eurodiputados a reabrir la batalla política para debatir la regulación de una tecnología cada día más presente en nuestras vidas.

La propuesta original de Bruselas categoriza la IA en base a sus riesgos. "Cuanto mayor sea el riesgo que puede conllevar más firme y estricta será la norma", explicó hace dos años la vicepresidenta europea, Margrethe Vestager. Ese abanico va de la prohibición para los usos que suponen un "riesgo inadmisible", como la categorización a través de datos biométricos o la policía predictiva, a no imponer ningún requisito para los de "riesgo mínimo o nulo".

Más de un centenar de oenegés europeas denunciaron entonces que las obligaciones y prohibiciones establecidas para los sistemas de "alto riesgo" no eran lo suficientemente estrictas para garantizar el respeto de los derechos fundamentales.

Regular ChatGPT

¿Qué pasará con ChatGPT? El famoso chatbot de OpenAI —ya integrado en los programas de Microsoft— forma parte de lo que se conoce como IA de propósito general (GPAI, en inglés), eso es, sistemas que pueden adaptarse a una amplia gama de tareas. ChatGPT puede usarse para generar correos electrónicos de forma más productiva, pero también para acelerar la desinformación a gran escala.

Las implicaciones de usar el ChatGTP en la educación: lenguaje sexista y prejuicios raciales

Este amplio rango de usos ha abierto un delicado debate en Bruselas que aún se está puliendo. La propuesta de los legisladores que redactan esta ley establece para los proveedores de esta IA general obligaciones inicialmente pensadas para los sistemas de alto riesgo. Así, quieren que modelos como ChatGPT se ajusten a los requisitos europeos de transparencia y gestión de riesgos para mitigar su impacto, que se supervisen los datos que usan para evitar sesgos y que se sometan periódicamente a estrictas auditorías externas que evalúen su buen funcionamiento. Generar textos de forma automática se considerará de alto riesgo siempre que no cuente con una supervisión editorial.

División interna

Las prohibiciones establecidas por esta propuesta, aún no definitiva, están causando fricciones. Según informa el portal Euractiv, los liberales quieren descartar el uso de cualquier herramienta de IA que sirva para detectar contenidos sospechosos de ser ilegales, algo a lo que los conservadores se oponen. La falta de consenso sobre la regulación de los sistemas de uso general como ChatGPT hacen que la votación de este miércoles 26 de abril pueda sufrir retrasos.

Tras la aprobación de la propuesta, serán la Comisión Europea, el Consejo de Europa y el Parlamento Europeo quienes tendrán la última palabra para negociar un texto final. Una investigación del grupo activista por la transparencia Corporate Europe Observatory ha destapado que gigantes tecnológicos de Silicon Valley como Microsoft y Google han acelerado la presión sobre los responsables políticos europeos para excluyan sus sistemas de IA general de las obligaciones impuestas a los de alto riesgo.

La semana pasada, un grupo de más de 50 científicos y expertos en IA pidieron en una carta a la UE no excluir los sistemas de uso general de su regulación. "Estos modelos conllevan riesgos inherentes y han causado daños demostrados y de gran alcance", apuntan. El miércoles, 42 asociaciones y sindicatos alemanes que representan a más de 140.000 creativos se sumaban a esa petición advirtiendo a Bruselas de la amenaza que generadores como ChatGPT suponen sobre sus derechos de autor.