Explicaba Ray Dalio en Principios para enfrentarse al Nuevo Orden Mundial que la educación, la innovación y tecnología, y la fuerza militar son una de las fortalezas clave para alcanzar/mantener el dominio mundial. En esta misma dirección, el consenso de muchos expertos es que el dominio de la IA determinará la próxima potencia global.
Para ilustrar esta lucha por el dominio de la IA hay que hacer referencia al libro de Paul Scharre Four Battlegrounds: Power in the Age of Artificial Intelligence. Scharre es vicepresidente y director de estudios del Center for New American Security, un grupo de expertos especializado en temas de seguridad nacional. Este libro es una continuación de su libro anterior Army of None: armas autónomas y el futuro de la guerra.
La IA es una tecnología habilitadora de propósito general
La IA no es una tecnología discreta, como los ferrocarriles o los aviones. Es una tecnología habilitadora de propósito general, como la electricidad, los ordenadores o el motor de combustión interna, con muchas aplicaciones.
Esas primeras tecnologías de propósito general trajeron cambios económicos, sociales y políticos radicales. Del mismo modo, la escala del cambio potencial de la inteligencia artificial es asombrosa. Según una estimación, casi la mitad de todas las tareas que se realizan actualmente en la economía de los EE.UU. podrían externalizarse a la automatización utilizando la tecnología existente. El cofundador de la revista Wired, Kevin Kelly, ha argumentado que “la IA dará vida a los objetos inertes, como lo hizo la electricidad hace más de un siglo. Todo lo que antes electrificábamos ahora lo conoceremos”.
La IA tiene aplicaciones en ciberseguridad, vigilancia, defensa, seguridad fronteriza, desinformación y guerra económica, lo que brinda importantes ventajas geopolíticas a quien mejor aproveche estas herramientas.
La primera y la segunda revolución industrial provocaron un proceso social de mecanización que vio la creación de máquinas que eran más fuertes que los humanos para tareas específicas. Si bien los sistemas de IA de hoy están muy lejos de los C-3PO y los Terminators de la ciencia ficción, la tecnología de IA es real hoy y una herramienta poderosa.
La IA «estrecha» o específica de tareas de hoy en día permite la creación de máquinas que son más inteligentes que los humanos para tareas cognitivas específicas y desencadenará un amplio proceso de conocimiento en toda la sociedad.
Mientras que el proceso de industrialización transformó la sociedad con máquinas físicas, la cognitización transformará la sociedad con máquinas inteligentes. La IA tiene muchas aplicaciones constructivas. La IA salvará vidas y aumentará la eficiencia y la productividad. También se está utilizando como arma de represión y para obtener ventajas militares. Four Battlegrounds trata sobre el lado más oscuro de la IA.
La IA es el frente de batalla
Hace unos días escribía que el mundo se encuentra en una era de conflicto permanente de bajo nivel (War Transformed: el futuro de la competencia y el conflicto), y en un momento en el que desdibuja la línea entre la guerra y la paz, surgen nuevas tácticas, donde prácticamente todo es susceptible de convertirse en arma tal como argumenta Mark Galeotti en The Weaponisation of Everything.
Justamente Four Battlegrounds explora la rivalidad entre EE.UU. y China en inteligencia artificial y analiza lo que está sucediendo con la IA. El libro concluye que los cuatro campos de batalla clave de la competencia global: en inteligencia artificial o datos, hardware informático o computación, talento humano y las instituciones necesarias para adoptar con éxito los sistemas de IA.
Estos «campos de batalla» son el equivalente a la producción de carbón y acero cuando se convirtieron en insumos críticos para la energía nacional durante la primera Revolución Industrial, facilitando el ascenso o la caída de las naciones en el escenario global. Y posteriormente, lo fue el petróleo.
Los recursos geoestratégicos de la IA
La tesis del autor es que los nuevos “insumos estratégicos”, que sustituyen al carbón, acero o petróleo, son diferentes. Ahora son los datos, el hardware informático, el talento humano y las instituciones son los cuatro campos de batalla de la competencia global de IA, quien lidere estas áreas clave, liderará un futuro impulsado por la IA.
- Datos: Se exagera la supuesta ventaja autoritaria de China en los datos. Tanto China como Estados Unidos tendrán acceso a amplios recursos de datos. Lo que importará más es usar sus datos de manera efectiva para entrenar sistemas de aprendizaje automático.
- Hardware: EE. UU. tiene una gran ventaja asimétrica sobre China en hardware de IA y ha utilizado esta posición para cortar el acceso de China a los chips de IA. Sin embargo, EE. UU. necesitará trabajar con aliados clave, especialmente. Japón y los Países Bajos, para limitar el desarrollo de chips nacionales de China.
- Talento: EE. UU. es el destino elegido por los científicos de IA de todo el mundo, incluso de China. Estados Unidos tiene una gran ventaja en el talento de IA, pero solo si aumenta la inmigración altamente calificada para atraer a los mejores y más brillantes del mundo.
- Instituciones: los ejércitos de EE. UU. y China deben incorporarse y adoptar la tecnología de IA desarrollada en el sector comercial. La historia sugiere que lo más importante no es tener la mejor tecnología, sino encontrar las mejores formas de usarla.
Estados Unidos tiene importantes ventajas asimétricas sobre China en hardware y talento de IA.
La guerra por el talento de la IA
La competencia de IA entre EE. UU. y China se complica por el hecho de que sus ecosistemas de IA están profundamente entrelazados. Los líderes militares de EE. UU. han dado la voz de alarma ante el modelo chino de “fusión militar-civil” y el temor de que las empresas estadounidenses que trabajan en China puedan, incluso indirectamente, beneficiar a las fuerzas armadas chinas. Sin duda, algunas empresas tecnológicas de EE.UU. han contribuido al crecimiento del ecosistema de IA en China, incluido, al menos en algunos casos, el trabajo con investigadores de instituciones militares chinas. Las asociaciones entre el ejército chino y la academia estadounidense son igualmente problemáticas.
Desde 2007, aproximadamente 500 científicos militares chinos han estudiado en los Estados Unidos. Entre 2006 y 2017, los científicos militares chinos escribieron en colaboración con científicos estadounidenses más de 1100 artículos de investigación. Las principales universidades estadounidenses, incluidas MIT y Princeton, han trabajado con empresas chinas que luego han sido sancionadas por abusos contra los derechos humanos. Estos lazos han llevado a los formuladores de políticas de EE.UU. a presionar cada vez más para “desacoplar” a Estados Unidos de China para detener la ola de capital intelectual que fluye de las empresas y la academia de EE.UU. a los brazos de un competidor estratégico.
Pero las empresas tecnológicas chinas como Baidu, Alibaba y Tencent son líderes mundiales en IA por derecho propio, y China tiene un vibrante ecosistema de puesta en marcha de IA. China cuenta con algunas de las empresas emergentes de inteligencia artificial más valoradas del mundo, incluidas Sense Time con más de $ 16 mil millones y ByteDance con $ 350 mil millones. En algunas áreas, como el reconocimiento facial, las empresas chinas como Sense Time y Megvii son líderes mundiales y tienen una gran ventaja sobre las empresas estadounidenses como Amazon, IBM y Microsoft, que se enfrentan a un entorno normativo mucho más estricto. Mientras tanto, las empresas chinas de IA se benefician de la agresiva vigilancia interna del Partido Comunista Chino.
Aplicación práctica de la IA para la comunidad de inteligencia o las operaciones militares
Scharre afirma que tecnología de IA tiene mucho potencial en aplicaciones de inteligencia. Según el autor “es bastante probable que el Departamento de Defensa de los EE.UU. y la comunidad de inteligencia usen IA para analizar imágenes, ya sea de satélites o drones y, aunque no lo han reconocido públicamente, es muy posible que esté jugando un papel en la información que los EE.UU. comparten con Ucrania”.
Se han visto algunos otros ejemplos de tecnología de IA utilizada directamente por las fuerzas ucranianas en el terreno, en particular algunos de los operadores civiles de drones. Y esto destaca realmente cuán omnipresente es la tecnología de IA que no necesita ser la persona más avanzada del mundo para usar la tecnología, está bastante disponible.
El impacto de la IA en la logística es muy relevante. La guerra en Ucrania ha dado relevancia a, por ejemplo, las operaciones de mantenimiento, y ese es el tipo de cosas en las que la mayor parte de lo que hacen los militares en el día a día es mover personas y cosas desde un punto A al punto B: se parece mucho a Walmart o Amazon, es solo lo que sucede al final lo que es diferente.
En este punto, según Scharre, es un aspecto donde los militares pueden optimizar su logística, la preparación del personal, el mantenimiento o las finanzas, en un 5%, la suma total de esos efectos en términos de efectividad militar podría ser bastante significativa y transformadora.
La IA está transformando la guerra tradicional
Conectando con su libro anterior Army of None, hay ejemplos de los avances militares en la guerra, también hay algunos ejemplos. En el proyecto de DARPA AlphaDogfight, el objetivo era construir un agente de IA que pudiera lograr un rendimiento sobrehumano en un simulador contra un humano en peleas de perros, que los humanos consideran como el crisol definitivo de los pilotos humanos. Para resumir, la IA tuvo éxito, se enfrentó cara a cara contra un piloto experimentado de la Fuerza Aérea y aplastó por completo al piloto humano, 15 a cero: el humano no disparó ni un solo tiro contra la IA.
En particular, los disparos de cabeza a cabeza están prohibidos en el entrenamiento de los pilotos humanos porque existe un alto riesgo de colisión si el piloto está tratando de maniobrar el avión cuando están compitiendo entre sí a cientos de millas por hora. Y es extremadamente difícil de hacer en cualquier caso y requiere niveles de precisión sobrehumanos, pero nada de eso fue un problema para el agente de IA. Puede lograr estos disparos en una fracción de segundo y al mismo tiempo evitar una colisión. Y el agente de IA aprendió a hacer todo esto por su cuenta, no estaba capacitado para hacerlo. El sistema de IA que ganó fue entrenado en un simulador y tenía más de 30 años de tiempo de vuelo simulado y esta fue una de las cosas que simplemente aprendió por sí solo de todos estos años de peleas de perros simuladas.
El uso de la IA fuera de la guerra
Probablemente la aplicación más fundamental de la IA que ayudará a promover el poder nacional es la aplicación generalizada de la IA para mejorar la productividad económica y la investigación científica. Cuando la tecnología de IA se adopte en una amplia gama de industrias y aumente la productividad económica, eso tendrá efectos de segundo y tercer orden en el poder nacional al aumentar el PIB y luego permitir que la nación convierta la productividad económica en otras herramientas, a veces más tangibles, de poder nacional, ya sea para los servicios de inteligencia que construyen satélites y procesan la información de inteligencia que se recopila o para la construcción de fuerzas militares.
Las aplicaciones de vigilancia de la IA
Un componente realmente crítico de esta competencia global en inteligencia artificial es la lucha emergente sobre cómo se usa la IA dentro de los países para la seguridad y vigilancia internas y la propagación progresiva que estamos viendo a nivel mundial de los modelos de tecnoautoritarismo al estilo chino en los que China ha sido pionera.
Es una represión muy distópica y mejorada por la tecnología. China tiene la mitad de los mil millones de cámaras de vigilancia del mundo, y cada vez utilizan más herramientas de inteligencia artificial como el reconocimiento facial o el reconocimiento de la forma de caminar para identificar quiénes son las personas en función de sus patrones de forma de caminar y cómo caminan. Y al conectar eso con otros tipos de datos, como datos de matrículas, llamadas o datos de geolocalización en teléfonos y comportamientos de compra de las personas para monitorear y rastrear a los ciudadanos chinos.
Y China está exportando gran parte de la tecnología al extranjero, por lo que 80 países de todo el mundo han comprado tecnología de vigilancia china. Y quizás aún más preocupante, estamos viendo cada vez más la exportación de las normas y leyes que usa China a otros países para usar esta tecnología. Entonces, el software social, por así decirlo, se combina con el hardware físico de parte de la tecnología de vigilancia. Y es profundamente preocupante porque no es solo que la tecnología se esté utilizando para abusos contra los derechos humanos en China, y potencialmente puede ser utilizada por otros países, sino que una de las cosas preocupantes sobre la opresión habilitada por IA es que mejora la capacidad del estado para monitorear a los ciudadanos, y por lo tanto acelerar el propio sistema de opresión.
¿Cómo sería un modelo de la competencia?
Para Scharre, eso es parte del problema. Uno de los desafíos que enfrentan las democracias es que aún no tenemos ese modelo. Entonces, para el reconocimiento facial, por ejemplo, tenemos un sistema de mosaico que se está desarrollando en los Estados Unidos de diferentes regulaciones sobre, por ejemplo, el uso del reconocimiento facial por parte de las fuerzas del orden según el lugar donde vive en los Estados Unidos y varias ciudades y estados diferentes.
han aprobado prohibiciones sobre el uso del reconocimiento facial por parte de las fuerzas del orden, ya sabes, creo que uno de los desafíos que enfrentan las democracias es que la naturaleza descentralizada del poder dentro de las democracias significa que encontrar una solución para la gobernanza tecnológica lleva más tiempo. Tarda más porque a veces la respuesta rápida no es la correcta.
Los peligros de la IA no son los peligros de los que nos advirtió la ciencia ficción. No debemos temer a los robots que se levantan para deshacerse de sus señores humanos, o al menos no en el corto plazo. Los peligros de la IA hoy provienen de personas que usan la tecnología de manera maliciosa o descuidadamente, causando daño a otros. Los militares de todo el mundo están invirtiendo en tecnología de inteligencia artificial y los regímenes autoritarios la están utilizando para reforzar su control de la represión interna. El Pentágono está aplicando las mismas técnicas de inteligencia artificial utilizadas para lograr una inteligencia sobrehumana en el póquer a la teoría de juegos estratégicos de mucho más alto nivel, como analizar en qué armas invertir para disuadir una guerra nuclear.
China está construyendo un estado de vigilancia tecno-distópico para monitorear y reprimir a sus ciudadanos a través del reconocimiento facial y un “sistema de crédito social” orwelliano. El video y el audio deepfake continúan mejorando, y es probable que las tendencias a largo plazo conduzcan a falsificaciones que no se pueden distinguir de la realidad, socavando la verdad. Y la tecnología de IA podría alterar radicalmente la naturaleza de la guerra, marcando el comienzo de una “singularidad” en el campo de batalla en la que la guerra se mueve demasiado rápido para el control humano.
China quiere ser el líder mundial en inteligencia artificial para 2030
Si China logra su objetivo de convertirse en el líder mundial en inteligencia artificial para 2030, empoderaría a un régimen culpable de graves abusos contra los derechos humanos, amenazando a sus vecinos e intimidando a países de todo el mundo. A medida que aumenta el poder de China, otras naciones pueden tratar de adoptar sus tendencias autoritarias, erosionando las libertades globales.
Las democracias deben trabajar juntas para liderar la IA y presentar un modelo eficaz para la gobernanza de la IA. Las naciones democráticas tienen muchas ventajas sobre los regímenes autoritarios en una competencia a largo plazo para determinar cómo se usa la IA. Colectivamente, las naciones democráticas tienen mayor talento, poder militar y control sobre tecnologías críticas. Sin embargo, este poder está fragmentado entre diferentes países y actores, incluidos gobiernos, corporaciones, académicos y trabajadores tecnológicos.
Definir reglas claras para la IA
El autor reclama que las sociedades democráticas necesitarán manejar sus divisiones internas para aprovechar su fuerza. Deberán trabajar con empresas de tecnología para gobernar la tecnología de vigilancia para garantizar que los regímenes autoritarios o las corporaciones no socaven las libertades individuales. Los expertos en seguridad nacional que quieran detener el flujo de tecnología de inteligencia artificial a las naciones competidoras deberán trabajar con académicos que favorezcan la apertura. Y los militares en las sociedades democráticas deberán demostrar que usarán la IA de manera responsable para ganarse a los científicos escépticos preocupados por lo que su propio gobierno puede hacer con la IA.
Se justifica la precaución, porque incluso cuando las naciones compiten para aprovechar la tecnología de IA para beneficio nacional, existen riesgos. La tecnología de IA es poderosa, pero tiene muchas vulnerabilidades. Los sistemas de aprendizaje automático pueden aprender cosas incorrectas si los datos con los que están entrenados están sesgados o han sido envenenados por un adversario.
Los sistemas de IA se pueden manipular mediante la explotación de vulnerabilidades en la forma en que el sistema «piensa», hacks cognitivos que son análogos a los ataques cibernéticos en el software de la computadora. Estas características hacen que la tecnología de IA sea a la vez transformadora y frágil. Los sistemas pueden funcionar de manera brillante en un entorno y luego fallar drásticamente si el entorno cambia ligeramente.
La naturaleza de «caja negra» de muchos métodos de IA significa que puede ser difícil predecir con precisión cuándo fallarán o incluso comprender por qué fallaron en retrospectiva. Potencialmente aún más peligrosa, la competencia global en IA corre el riesgo de una «carrera hacia el abismo en seguridad». En un deseo de vencer a otros, los países pueden tomar atajos para implementar sistemas de inteligencia artificial antes de que hayan sido probados por completo. Nos dirigimos hacia un mundo de sistemas de IA que son poderosos pero inseguros, poco confiables y peligrosos.
Pero la tecnología no es el destino, y hay personas en todo el mundo que trabajan para garantizar que el progreso tecnológico avance hacia un futuro mejor. El concurso por quién controla la IA es global, con muchas visiones radicalmente divergentes para el futuro. Las naciones europeas se están inclinando por regular la IA, con el objetivo de una «carrera hacia la cima en los estándares regulatorios». Han surgido movimientos de base contra el reconocimiento facial en todo Estados Unidos.
Objeción de conciencia para empleados tecnológicos
Los empleados tecnológicos objetores de conciencia han dicho «no» a la militarización de la IA, mientras que los expertos en defensa están presionando a los militares para que usen la IA de manera responsable.
La lucha por controlar la IA incluye poderosas megacorporaciones que controlan el contenido de miles de millones de personas, activistas de derechos humanos que han descubierto abusos utilizando tecnología de IA, investigadores que trabajan para construir detectores de falsificación profunda y científicos que están tratando de construir la próxima generación. de sistemas de IA más seguros y robustos.
La diversidad de voces en las sociedades democráticas que debaten el futuro de la IA es una fortaleza que puede conducir a un beneficio social a largo plazo, pero solo si construyen juntos un ecosistema tecnológico responsable. Las sociedades democráticas deben establecer un modelo positivo de gobernanza de la IA o arriesgarse a un futuro dominado por usos autoritarios de la IA que socavan la verdad y las libertades personales.
El futuro de la humanidad en manos de la IA
El futuro de la humanidad estará determinado en gran parte por la forma de la tecnología de IA a medida que se desarrolle en el mundo y quién determine su destino. La IA se puede utilizar para fortalecer sociedades democráticas o autoritarias, para reforzar la libertad individual o aplastarla. El presidente ruso, Vladimir Putin, ha dicho: “Quien se convierta en el líder de la inteligencia artificial se convertirá en el gobernante del mundo”.
La carrera está en marcha para liderar la IA y escribir las reglas del próximo siglo para controlar el futuro del poder y la seguridad globales.
La conclusión de Paul Scharre es que Estados Unidos puede liderar la revolución de la IA, pero solo si aprovecha sus fortalezas y trabaja con aliados.
Imagen de Gerd Altmann en Pixabay