Antoni Gomila: "El reto es construir robots con comprensión moral"

C. PONTE C. PONTE 12/05/2011

Su charla aborda los retos morales de la robótica en los ingenieros o en las propias máquinas?

--Aborda ambas cosas. Por un lado, una rama ética de la ingeniería, que tiene que ver con las reflexiones sobre las consecuencias éticas del trabajo. En una segunda parte, hablamos de construir un robot ético, una cuestión que mira más al futuro, pero que cada vez es más importante. Se trata de actualizar las leyes de.robótica que ya planteaba Asimov, como ciencia ficción (Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño; debe obedecer las órdenes dadas por los seres humanos, excepto si éstas entrasen en conflicto con la Primera Ley; debe proteger su propia existencia mientras que no entre en conflicto con la Primera o la Segunda Ley).

--¿En el primer caso, cuáles son los retos morales?

--Las consecuencias éticas del trabajo abarcan muchos temas. Un ejemplo son las empresas financieras que utilizan bots (programas informáticos que imitan el comportamiento humano, como un robot) para investigar y realizar sus inversiones, algo poco llamativo pero con una ética cuestionable. Más llamativo es el caso de la robótica japonesa, con sus robots sexuales. También hay implicaciones con la muerte, como los aviones no tripulados. Estamos hablando de prostitución, guerras, cuestiones que plantean problemas éticos. Pero por otro lado, en el caso de los robots de guerra, hay cuestiones contrapuestas. Las investigaciones sobre la experiencia militar en Irak indican que a más experiencia de combate, más abusos se cometen. Esta sería una cuestión a favor de utilizar dispositivos robóticos, sin implicaciones y que no se dejan llevar por el pánico o la rabia, sentimientos que llevan a cometer barbaridades.

--Dado que se tiende a construir robots que aprendan de la toma de decisiones, ¿no podrían reproducir ese pánico?

--Los robots son cada vez más autónomos, pero con la tecnología disponible la exigencia de garantías es mucho mayor. Esto se convierte en un problema de control. Hay varios planteamientos en ese sentido. Por un lado estaría evitar los daños, como plantea la ética de Asimov, pero resulta un sistema antiguo. Hay un enfoque híbrido, más avanzado, que habla del respeto a la Convención de Ginebra. Es el modelo plateado por Ronald Arkin. En conclusión, esto no garantiza la comprensión moral del robot, que es el reto del futuro. Se ha planteado ya en la ciencia ficción, con modelos contrapuestos como Mr. Spok y el Capitán Kirk, el frío o el emocional. Tener emociones puede llevar a consecuencias negativas. Pero lo cierto es que el modelo frío tampoco nos convence. Mi apuesta es que la moralidad depende de las emociones como la vergüenza o la culpa.

--¿Cree que la ciencia será capaz de reproducir esos sentimientos?

--En las máquinas no, pero sí podemos construir estados similares a esa estructura psicológica, que en ocasiones pasa a lo físico, como en los gestos. El cuerpo es necesario para transmitir emociones. Y en robótica, con los nuevos materiales, se está avanzando en esto, como el caso de los robots sexuales. Somos capaces de crear estados semejantes a nuestros sentimientos y los ingenieros se dirigen a estas líneas, a arquitecturas de control basadas en emociones.

--¿Hay interés entre los ingenieros por este tema?

--Por lo que conozco, en Zaragoza hay grupos desarrollando tecnología de videojuegos que están buscando más realismo psicológico, para que el jugador tenga la impresión de jugar con otro agente inteligente. En robótica no conozco este interés por la moral, pero sí con la consciencia.

--¿Cree que es necesarios transmitir esta preocupación a los ingenieros?

--Ese es el gran debate. A nivel europeo yo creo que ya existe, por ejemplo en la red europea Eucognition, a la que pertenezco. El desarrollo europeo de robots está vinculado al contexto social y médico, mientras que Estados Unidos se dirige a lo militar y en Japón, el más desarrollado, se lleva al campo recreativo.