¿Debemos permitir a los robots tomar decisiones?

Tiene usted formación en humanidades, luego fue profesora y de ahí entró en la política. ¿Cómo llegó de ahí a los robots?
Desde 2014 soy parlamentaria europea y formo parte del Comité de Asuntos Legales. Lo elegí porque nunca había trabajado en esa área y me gusta descubrir cosas nuevas. En un taller sobre desafíos para la legislación europea, una de las presentaciones fue sobre robótica y pensé: “esto tiene que ver con el futuro, con la tecnología más novedosa” y me interesé.
Ahora llevo casi tres años trabajando sobre los robots y cada día descubro cosas nuevas. Suponen un auténtico reto que afecta a todos los aspectos de nuestra vida. De verdad. Para una política es maravilloso tener un campo de acción tan amplio.

¿Cree que su procedencia de un ámbito no tecnológico ha influido en el enfoque de su propuesta?
Espero que sí. Siempre les digo a los expertos que tienen que explicar a la gente de a pie lo que están haciendo y tener en cuenta sus inquietudes y recelos. Ahora en las universidades y los comités éticos hay filósofos, además de ingenieros, porque los temas éticos tienen mucha trascendencia. ¿Qué vamos a permitirles hacer a los robots?¿cómo será nuestra interacción con ellos? Porque todo esto es nuevo.
Mientras los robots sigan en el ámbito industrial, protegidos y separados de los humanos, los problemas serán de seguridad. Pero esos nuevos robots que llegarán a los hogares para ayudar a las personas mayores, a los discaptacitados, o a los hospitales… eso va a cambiarlo todo mucho.

¿Cree que hasta ahora se han tenido en cuenta esas implicaciones de que habla o nos hemos limitado a superar los desafíos tecnológicos?
Mmm, es difícil saberlo. En general se ha dejado esto en manos de los ingenieros y científicos. Por supuesto, su principal preocupación es la seguridad, porque si las máquinas no son seguras, no se pueden sacar al mercado. Pero me temo que eso no es suficiente y veo que ya casi todas las universidades y empresas saben que hay otros aspectos.

¿Por qué cree que los robots nos fascinan tanto?
Porque los sereshumanos soñamos desde siempre con tener poder, y los robots pueden empoderarnos. En la Antigüedad ya teníamos sueños como poder volar. Creo que está en nuestra naturaleza aumentar nuestro poder y la capacidad de hacer más cosas. Los robots suponen un paso enorme en esa dirección. Pensemos en las personas discapacitadas y cómo podrán faciltarles la integración y otorgarles más independencia. Ahí hay un gran potencial.

¿También hay riesgos?
Claro, siempre van juntos.

¿No le asusta que las historias de ciencia-ficción en las que dominan los robots casi siempre terminen mal?
La verdad es que cuando empecé con este asunto me asustaban más que ahora. Porque, por supuesto, la literatura y las películas de robots y androides nos han influido a todos. Pero ahora sé lo que es un robot, y ahí es donde entran los principios éticos. A los robots los programa un humano, y para que realice ciertas tareas. Por eso debemos asegurarnos que lo programamos para cosas que queremos que haga y no para las que no queremos. En última instancia, lo importante somos los humanos. Lo fundamental aquí es quién tiene el poder o cómo podemos asegurarnos de que esta inovación y este progreso pueden beneficiar a todo el mundo.

¿Por qué necesitamos un marco legal nuevo?
En primer lugar, diría que no necesitamos una gran ley de robots, porque los hay de muchísimos tipos distintos. Lo que hay que ver son las aplicaciones de cada uno y comprobar si la legislación que tenemos es conveniente o hay que adaptarla. Uno de los grandes temas es el de la responsabilidad civil o jurídica. A medida que aumenta la interacción con los robots resulta más urgente organizarla. Por ejemplo, en el coche sin conductor, porque la industria automovilística está presionando mucho para sacarlo al mercado. Ahora lo normal es que la responsabilidad de un accidente la asuma el conductor. En un coche sin él hay que dejar muy claro quién la tiene.

Aparte de eso hay otros temas que conciernen a casi todos los robots, pero el más sofisticado es la protección de datos. Un robot en casa lo ve todo. No puede funcionar si no recaba un montón de datos. Y está conectado a otros robots u otras infraestructuras. Entonces ¿a quién pertenecen esos datos? ¿Quién tiene acceso a ellos? ¿Durante cuánto tiempo se pueden almacenar? ¿Deben almacenarse? Esas son las grandes preguntas.

Puede que esto no sea nuevo, pero nos encontramos con un mayor nivel de urgencia en la necesidad de regular. No tenemos las respuestas para todas estas preguntas, y tampoco queremos una legislación que asfixie la innovación. Porque, si no animamos a la industria europea a fabricar robots –y son muy, muy buenos en robótica–, nos invadirán los robots chinos o japoneses y, sinceramente, yo prefiero interactuar con robots europeos.

En otras partes del mundo ya se está desarrollando legislación sobre este tema. La falta de uniformidad en las leyes ¿podría crear brechas con zonas más y menos permisivas?
No lo sé, pero sí se que, si contamos con principios y estándares establecidos, podremos decir: en nuestro mercado queremos estos robots, y eso serviría de argumento para no dejar entrar a los que no correspondan a dichos principios. Por eso creo que lo primero que hay que desarrollar es la estandarización. Resultará la manera más atractiva de conseguir que se fabriquen robots seguros, éticos y todo lo que queramos. Y estoy contenta porque ya se está empezando a trabajar en la estandarización en cuanto a la privacidad y tenemos que continuar por ahí.

Supongo que se refiere una estandarización a nivel internacional.
Sí, tiene que ser internacional. Si tenemos estándares europeos buenos, podremos decir: los que no los cumplan, no entrarán en nuestro mercado. Y eso es un argumento de peso.

«Si no animamos a la industria europea a fabricar robots, nos invadirán los robots chinos o japoneses»

Otro de los aspectos importantes son los llamados soft impacts (impactos suaves), que en realidad parecen bastante serios.
Sí, pero ese es el término técnico. Son inquietudes que, de momento, no podemos medir con precisión: qué cambiará en la sociedad, en las relaciones entre humanos, cómo vamos a organizar nuestra vida o las ciudades con robots y cuáles podrían ser las consecuencias indeseadas de su incorporación. Todo esto es ahora especulación. No sabemos lo que va a ocurrir, pero podemos desarrollar diversos escenarios posibles y reflexionar sobre lo que ocurrirá si los robos conducen en tu lugar, si introducimos muchos en el sistema sanitario y cómo cambiaría eso la profesión de doctor o de enfermero,… Cuando empiezas a planteártelo llegas a supuestos muy interesantes, pero nadie sabe lo que va a ocurrir.

En el borrador de su informe se habla del posible impacto en la dignidad humana. ¿Cuál podría ser?
Hay dos aspectos: si tienes un robot privado en casa, registrará datos que hasta ahora nadie ha registrado sobre tu forma de vida, y eso supone un problema de privacidad. Pero si hablamos de usuarios ancianos, tendremos que asegurarnos de que los robots que los asistan no graben todos los detalles de su vida diaria, por ejemplo, cuando usan el baño y cosas así.
Por otro lado, está la cuestión de la mejora de capacidades, porque existen las prótesis robóticas. Normalmente para “reparar” a los humanos, pero, cuando pueden mejorar capacidades que no están mermadas, ¿qué pasa con la diginidad de alguien que se niegue a implantárselas? Todas esas preguntas son completamente nuevas.

Y lo que usted dice es que deberíamos discutirlo.
Sí, y ese debate debería ir más allá de quienes trabajan directamente con robots. Estos deberían explicar lo que es posible y lo que no lo es y que en la discusión participaran los legisladores, pero también la sociedad civil. Creemos que los programadores deberían explicar lo que hacen. Y que haya expertos públicos, en representación de la gente normal, que comprueben lo que se hace en la industria, la investigación y los laboratorios.

¿Qué ocurre con el tema del trabajo? ¿Nos quitarán nuestros puestos?
La verdad es que no lo sabemos. ¿Podemos hacer robots capaces de desarrollar nuevos motores? Los historiadores aducen que otras innovaciones anteriores crearon más trabajos, porque aumentó la productividad. Yo me encuentro con pesimistas y optimistas. En cualquier caso, debemos vigilar lo que ocurre en el mercado laboral y quizá preparanos para decidir cómo vamos a financiar a la gente si no hay trabajo. Es otro debate necesario.

Si los robots asumieran los trabajos de menor cualificación, habría mucha gente que tampoco estaría preparada para realizar otras tareas.
Es que esto implica también un gran reto para el sistema educativo. Es una transformación muy rápida y la cuestión es cómo vamos a preparar a la gente para que interactuén con los robots y cómo vamos a educar a los jóvenes para profesiones que aún no existen.

Y si deberíamos seguir educándolos para profesiones que van a desaparecer.
Sí, parece una cuestión secundaria, pero no lo es.

Otro aspecto del que hablan es el proceso de pruebas de los robots antes de ponerlos en el mercado. ¿Debería parecerse al de los medicamentos, por ejemplo, en cuanto a procedimientos con protocolos muy regulados?
Desde luego. Cuando hablo de la estandarización, también me refiero a que necesitamos protocolos para acceder al mercado. Proponemos que se creen áreas de pruebas en las condiciones de vida real, porque hay mucha diferencia entre probar un robot en el laboratorio o en una zona en la que puedan interactuar varios robots. Creo que eso aumentaría la seguridad.

Al menos se verían interacciones que quizá no se nos habría ocurrido tener en cuenta.
Sí. Pero deberíamos saber por ejemplo, qué ocurre si tienes un coche sin conductor en la calle, mientras hay un robot recogiendo la basura y otro tipo de robots también ¿cómo interactuarán? Sería bueno comprobarlo.

Uno de los ejemplos que ustedes mencionan me pareció muy interesante: las tareas de monitorización en robots “policía”.
Sí, lo es, pero eso ya está ocurriendo. Con todas esas cámaras y sensores. La diferencia con la próxima generación de robots serán las interconexiones de esas bases de datos, que ahora están separadas. Lo que sepa un robot lo sabrá otro, compartirán la información y eso supondrá un gran cambio.

«Debemos establecer comités éticos y códigos de conducta para los programadores, porque yo creo que no deberíamos permitir a los robots tomar decisiones».

Además, esa información ahora va a un humano que toma una decisión. Pero ¿y cuando ellos puedan decidir?
Sí, probablemente ese será el momento de asustarse, aunque aún no hemos llegado a eso. Por eso debemos establecer comités éticos y códigos de conducta para los programadores, porque yo creo que no deberíamos permitir a los robots tomar decisiones.

¿En ninguna circunstancia?
Bueno, las cosas no son siempre blancas o negras, pero sí creo que tenemos que ser muy, muy cautelosos con esto.

¿Y cree que si el ser humano es capaz de crear robots que puedan decidir va a renunciar a hacerlo?
Al menos deberíamos decidir o reflexionar sobre qué decisiones les dejamos tomar y no dejar que las tomen todas. Por eso necesitamos establecer ese diálogo con los expertos, con los científicos. Porque por supuesto los científicos van a programar todo lo que les sea posible programar.

Su borrador ha sido aprobado por la mayoría del Parlamento, pero eso no supone que se vaya a convertir en ley.
Esto es lo que llamamos un informe de iniciativa. Como el Parlamento no tiene derecho a proponer legislación, ahora irá a la Comisión Europea, que tiene tres meses para responder y decir si va a proponer una regulación sobre ello. Espero que ofrezca una agenda temporal y, si no quieren hacer nada, también tendrán que explicar por qué no quieren actuar en este tema. Así pues estamos a la espera de la Comisión Europea.

¿Cuál es su impresión al respecto?
Yo creo que están trabajando sobre todo sobre el tema de la responsabilidad civil y jurídica. Eso sí van a aprobarlo y ya veremos qué ocurre con el resto. Espero que se avance en algún tema más, pero veremos.

¿Usted tendría un robot en casa?
No. ¿y usted?

No dejéis de leer nuestro magnífico reportaje ¿Será esta la última generación más inteligente que los robots? (también en la edición impresa), en el que analizamos como las máquinas «amenazan» con superarnos en casi todas las áreas de la vida..

Pilar Gil Villar