Los famosos robots de Boston Dynamics ofrecen una brutal ilustración de la creciente autonomía de las máquinas

¿Por qué es difícil concebir la autonomía de la máquina?

La humanidad diseñó primero máquinas que permitían facilitar y automatizar tareas físicas (en especial en la agricultura, la construcción o la industria), y luego las intelectuales (calculadoras, etc.). Pero hasta hace poco, éstas respondían necesariamente a órdenes humanas y se limitaban a ejecutarlas. Por muy sofisticado que sea un robot tradicional en una fábrica, no puede adaptarse a una situación inesperada en la cadena de producción; una calculadora ejecuta lo que se le pide que calcule, etc.

Con el desarrollo de la inteligencia artificial (IA), en particular a través del «Machine Learning», se invita a los algoritmos a entrenarse rápidamente por sí mismos a partir de extensos bancos de datos, y bajo una escasa supervisión humana. Al mismo tiempo, la IA se “encarna” en robots cada vez más ágiles que le permite salir de los ordenadores para tener un impacto directo en lo físico. Sea cual sea su aplicación, IA y robots están llevados a interpretar la realidad por sí mismos y tomar decisiones que no estaban necesariamente contempladas por la persona que los programó.

Es la máxima fantasía prometeana: estas máquinas estarían a nuestro servicio sin que ni siquiera tuviéramos que darles órdenes. Pero los humanos ya no tienen la primera ni la última palabra. Al renunciar a lo que siempre habíamos conservado hasta ahora –la capacidad y responsabilidad de decidir– ¿somos plenamente conscientes de los términos de este pacto fáustico y de las consecuencias de esta nueva competencia para nuestra especie?

¿Dóciles maquinitas?

Nuestras vidas ya se están viendo afectadas por los robots y las máquinas autónomas. Uno de los ejemplos más populares es el robot aspirador Roomba, que se mueve, limpia, se vacía y se recarga de forma completamente autónoma. Esto suscita una serie de preocupaciones al margen del tema que nos ocupa, sobre todo en términos de recogida de datos (una mujer lo aprendió hace poco por las malas), Sobre todo porque su diseñador, iRobot, ha sido comprado por Amazon. Si no te parece que Roomba ocupa demasiado espacio en su casa, ¡espere a que crezca!

Las máquinas autónomas aún están en pañales, como si los humanos aún fuéramos los adultos a su lado y tuviéramos la última palabra. Pero ahora están en rodaje en diversos ámbitos:

• Google, Tesla, Uber y otros buscan ser los primeros en el coche autónomo y ya están desarrollando flotas de taxis robot;

• Robots semiautónomos cuidan de las personas mayores en Japon ;

• Los perros policía y militares están siendo sustituidos por robots cada vez más autónomos;

• Y los robots humanoides están apareciendo por todo el mundo, algunos con una agilidad asombrosa...

Es difícil establecer un umbral a partir del cual una máquina sea verdaderamente autónoma. Pero, ¿hasta cuándo tendrán un botón Off y se mantendrán dóciles? ¿Y cuál es el punto de no retorno antes de que seamos totalmente dependientes de ellas y sea demasiado tarde para apagarlas? Estas son algunas de las preguntas que desarrollo más a fondo en Anestesiados y que también podéis explorar en las referencias que indico más abajo.

Los robots asesinos ya están aquí

El concepto de robot asesino es sencillo pero escalofriante: se trata de una máquina que mata sin requerir una autorización humana.

Y por desgracia, no se limita a la ciencia ficción: los sistemas autónomos de armas letales (SALAS) están en el centro de las preocupaciones internacionales. Aunque todavía no se han desplegado en el campo de batalla, ya se están fase de experimentación y son objeto de intensas negociaciones diplomáticas. Estas armas plantean dos cuestiones clave:

1. ¿Podemos permitir éticamente que una máquina mate a seres humanos? ¿Medirá el paso que franquea en el momento en el que elimina una vida?

2. ¿Seremos capaces de controlarlos? Si se vuelven cada vez más autónomos, ¿qué garantía hay de que no escapen incluso a quienes los despliegan?

Científicos y expertos llevan varios años dando la voz de alarma: la campaña de la ONG Stop Killer Robots es el mejor ejemplo. Este año, por primera vez, 70 Estados firmaron una declaración conjunta en las Naciones Unidas (incluido Estados Unidos) para avanzar hacia un marco internacional sobre sistemas de armas autónomas. Esta normativa es indispensable, ya que la llegada de robots asesinos constituiría una ruptura imprevisible en nuestra historia.

La máquina autónoma no pedirá nuestra opinión

Hay pocas dudas de que los robots autónomos se multiplicarán en las próximas décadas con tantos usos como los que la imaginación humana sea capaz de producir. Las consecuencias, sin embargo, son aún inciertas.

Cada día, la recogida generalizada de nuestros datos y su tratamiento por las IA allana el camino hacia un entorno que pronto podrán utilizar las máquinas autónomas. Nos estamos poniendo en manos de aparatos que ya no controlaremos y que no nos pedirán nuestra opinión... Por supuesto, es posible que todo salga bien... o no.

En el capítulo 9 (ELIMINADOS) de mi libro Anestesiados, me baso en estudios para esbozar tres escenarios en los que esta autonomía podría volcarse contra nosotros:

1. Accidente de laboratorio: al estilo de un virus, una IA escapa a sus creadores y abandona el entorno experimental donde debía desarrollarse de forma aislada, con consecuencias imprevisibles.

2. Interpretación errónea: una IA no interpreta correctamente un mandato humano. Por ejemplo, se le pediría que produjera el mayor número posible de lápices y, pensando que está haciendo lo correcto, moviliza toda la materia del universo para lograr este objetivo.

3. Hostilidad: la máquina empezaría a desarrollar sus propios objetivos y a seguir una agenda propia, así como una especie de instinto de autoconservación que la llevaría a oponerse a los humanos. Considerando que son un obstáculo para su desarrollo, podría intentar someterlos o eliminarlos.

Entonces, ¿qué hacer?

Aquí propongo una respuesta todavía muy incompleta:

• Individualmente. Tomando conciencia de lo que delegamos en la máquina, sobre todo cuando se trata de entregar lo que nos hace humanos: nuestra capacidad de elegir, de tomar decisiones y de relacionarnos con los demás. Nuestras elecciones son las que dan forma, cada día, a nuestra humanidad.

• Colectivamente. Frente a una cuestión determinante para el destino de nuestra especie, no existe prácticamente debate. Es fundamental sensibilizar a los ciudadanos e invitar a los poderes públicos a crear las condiciones para mantener el control sobre estas tecnologías.

  > La ONG Stop Killer Robots (mencionada anteriormente) está realizando una gran labor de información e influencia en la legislación internacional en este ámbito.

  > También es posible movilizarse a menor escala: esto es lo que permitió el abandono de perros robot por parte de la policía de Nueva York.

¿Alguien pilota las máquinas autónomas?