Tal como escribía hace unos días en Un nuevo manifiesto para la era de la robótica: New Laws of Robotics, creo que deberíamos dedicar más tiempo a pensar en las implicaciones, positivas y negativas, del progreso reciente en inteligencia artificial, aprendizaje automático y visión artificial. El conflicto bélico en Ucrania ha vuelto a poner de actualidad, por desgracia, el uso intensivo de tecnología (drones, barcos, submarinos, tanques, municiones y tropas robóticas con niveles crecientes de inteligencia y autonomía), la superioridad y cómo puede impactar en el futuro de la guerra.
Por eso me parece interesante referenciar Army of None: Autonomous Weapons and the Future of War de Paul Scharre. Un libro cuyo propósito es explorar las siguientes preguntas: dado el rápido avance en la tecnología de inteligencia artificial (IA), ¿debería permitirse que los robots tomen decisiones de vida o muerte? ¿Hasta qué punto deberían participar los seres humanos en el proceso de toma de decisiones? ¿Deberíamos o podríamos prohibir las armas autónomas? El autor Paul Scharre es un ex guardabosques del ejército de los EE. UU. y actualmente es el director del Programa de Tecnología y Seguridad Nacional en el Centro para una Nueva Seguridad Estadounidense.
Mientras trabajaba para la Oficina del Secretario de Defensa de 2008 a 2013, influyó directamente en la política de defensa de EE. UU. sobre armas autónomas al liderar el grupo de trabajo del Departamento de Defensa que redactó la Directiva DOD 3000.09 , Autonomous Weapons.
Diferencias entre los sistemas automáticos, automatizados y autónomos
El objetivo aparente de Paul Scharre al escribir Army of None es abrir un diálogo sobre el uso de armas autónomas. En lugar de simplemente decirnos qué significan los términos y de qué son capaces las armas, Paul Scharre nos da una visión equilibrada de ingenieros, políticos y militares de ambos lados de sus dominios. Una vez que hayamos establecido el panorama general, que es más complejo y fascinante de lo que imaginaba, se nos invita a formarnos nuestras propias preguntas sobre si vale la pena persuadir este campo.
Primero debe definir «autonomía», que es más problemático de lo que parece. Las diferencias entre los sistemas automáticos, automatizados y autónomos son oscuras y difíciles de entender incluso para los expertos, pero Paul Scharre brinda ejemplos tangibles de su tiempo como Ranger en Irak y Afganistán que aclaran las difíciles distinciones para el lector profano. Paul Scharre también ayuda al lector al reducir las explicaciones complicadas a imágenes simples antes de pasar al siguiente tema, lo que permite que incluso el lector más inexperto comprenda conceptos como los sistemas de armas autónomas supervisadas.
Contexto sobre las armas autónomas
Para continuar construyendo el modelo mental del lector de armas autónomas, Scharre señala que la idea de tales armas no es nueva. El torpedo alemán G7e/T4 Falcon entró en combate en 1943, y utilizó un buscador acústico pasivo para cazar a su presa. Durante las próximas décadas, los países de todo el mundo desarrollarían armas cada vez más capaces, lo que daría como resultado muchos de los sistemas de armas que usamos hoy. Paul Scharre dedica varios capítulos a retratar el sistema de misiles Patriot basado en tierra y el sistema de combate Aegis basado en barcos. Entrevista a expertos en la materia en el DOD (U.S. Department of Defense) y describe las capacidades y los riesgos que cada sistema aporta a la lucha.
Buscando respuestas a ¿Quién decide?
Después de definir la autonomía y brindar una breve reseña sobre su uso pasado y actual en la guerra, Paul Scharre pasa la mayor parte del libro buscando respuestas sobre si debemos o no confiar las decisiones de vida o muerte a las máquinas y en qué medida. Lo hace entrevistando a una selección diversa de expertos de la industria y ofreciendo sus puntos de vista y cursos de acción percibidos, lo que permite a los lectores formarse sus propias opiniones sobre el tema. Los entrevistados van desde el ex subsecretario de defensa de EE. UU., Bob Work, hasta gerentes de programas en la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), hasta empresas privadas que desarrollan aplicaciones comerciales de IA. Para fomentar aún más la autorreflexión en el lector, Scharre se abstiene de exponer su postura personal hasta la conclusión, e incluso entonces admite que no hay una respuesta en blanco y negro.
Evolución tecnológica y superioridad moral
Si bien muchos fundamentos de la lucha en la guerra son atemporales, la tecnología que usamos para luchar está en constante evolución. Un cambio de enfoque hacia el conflicto entre pares obliga al DOD a abordar las preguntas espinosas que hace Scharre. Si la inteligencia artificial se utilizará o no en el campo de batalla no es la pregunta que debe hacerse. Más bien, quienes toman las decisiones deben continuar preguntándose cómo se utilizarán las armas autónomas en conflictos futuros sin comprometer la superioridad moral que el mundo espera que mantengan las fuerzas armadas estadounidenses.
La autonomía tiene grandes beneficios
Army of None también muestra que la autonomía tiene grandes beneficios en entornos donde los humanos no pueden sobrevivir Puede ser de gran ayuda tener un dron, tanque o submarino no tripulado que lleve a cabo una misión clara y limitada con poca comunicación de ida y vuelta con los controladores humanos. Scharre cita a expertos en robótica que argumentan que “las armas autónomas… podrían programarse para nunca infringir las leyes de la guerra… No buscarían venganza«. A pesar de estas y otras ventajas, Scharre no quiere que los militares entreguen el juicio a las computadoras. Para presentar su caso, ofrece convincentes casos de la vida real en los que el juicio humano fue esencial para evitar asesinatos innecesarios, como sus propias experiencias en Afganistán.
Prohibición internacional
Scharre termina el libro explorando la posibilidad de una prohibición internacional de armas totalmente autónomas. Sin embargo, tiene la esperanza de que el interés propio ilustrado pueda unir a los países para prohibir usos específicos de armas autónomas, como las que tienen como objetivo a personas individuales.
Dónde está la línea roja
Estando de acuerdo con Scharre en que debemos cuidarnos de no dejarnos «seducir por el encanto de las máquinas: su velocidad, su aparente perfección, su fría precisión«. Y que, por supuesto, no debemos dejar que los planificadores militares o las personas que escriben software determinen dónde están los límites. Es necesario abrir el debate para que expertos y ciudadanos de todo el mundo participen en este importante debate.
Conclusión de Army of None
En resumen, vale la pena leer Army of None para comprender cómo las tecnologías autónomas impactan nuestro mundo, ahora y en el futuro. Army of None explica la importancia y los peligros de las armas con poca parcialidad. Scharre es claro al hablar de los aspectos esenciales, y escribe en detalle sobre temas que van desde la informática hasta la historia, la filosofía y la ética.
Su conclusión es clara: “Las máquinas pueden hacer muchas cosas, pero no pueden crear significado. Ellos no pueden responder estas preguntas por nosotros. Las máquinas no pueden decirnos qué valoramos, qué elecciones debemos hacer. El mundo que estamos creando tendrá máquinas inteligentes, pero no es para ellas. Es un mundo para nosotros”.
Imagen: UAV, General Atomics MQ-1L Predator A (National Air and Space Museum)