EscucharHace casi 66 años, 22 prominentes científicos de diez países, entre ellos Estados Unidos y la Unión Soviética, se reunieron en Pugwash, Escocia, para identificar los peligros que significaban las armas nucleares e idear maneras pacíficas de resolver los conflictos entre países. Con ello, nació la organización internacional conocida como las Conferencias Pugwash sobre Asuntos Científicos y Mundiales, o Movimiento Pugwash.
Si bien el planeta está lejos de haber eliminado las armas nucleares, la influencia del Movimiento por avanzar en el desarme fue lo suficientemente potente como para merecer el Premio Nobel de la Paz de 1995.
Hoy el mundo necesita un nuevo Movimiento Pugwash, esta vez, centrado en la inteligencia artificial (IA). A diferencia de las armas nucleares, la IA es tanto una promesa como una amenaza, y su capacidad destructiva es todavía más teórica que real. Aun así, ambas tecnologías suponen riesgos existenciales para la humanidad.
En consecuencia, los líderes científicos y tecnológicos, los expertos en filosofía y ética, y los humanistas y filántropos de cada continente debieran reunirse y asegurarse de llegar a un acuerdo amplio de normas para gobernar la IA que concite apoyos locales, nacionales y globales.
A diferencia del Movimiento Pugwash original, la versión para la IA no tendría que idear un marco desde cero. Ya hay en camino muchas iniciativas para orientar y guiar el desarrollo y las aplicaciones de la IA. Algunos ejemplos son el Proyecto de Declaración de Derechos sobre Inteligencia Artificial en Estados Unidos, las Directrices Éticas para una IA Fiable en la Unión Europea, los Principios de la OCDE sobre la IA y la Recomendación sobre la Ética de la Inteligencia Artificial de la Unesco.
En su lugar, el nuevo Movimiento Pugwash debiera centrarse en gran parte en conectar entre sí a los actores relevantes, alinear las medidas necesarias y asegurarse de que estas se pongan en práctica con la mayor amplitud posible. Las instituciones serán vitales en este sentido. Pero ¿qué tipo de instituciones se necesitan y cuáles se pueden crear o empoderar de manera realista para abordar rápidamente el desafío de la IA?
Crear un organismo especializado
António Guterres, secretario general de las Naciones Unidas, llamó a un “multilateralismo interconectado” en el que la ONU, “las instituciones financieras internacionales, las organizaciones regionales, los bloques de comercio y otros actores” —incluidas varias entidades no gubernamentales— “colaboren entre sí de manera más estrecha y eficaz”. Pero, para ser eficaces, tales redes de múltiples partes interesadas tendrían que estar diseñadas para desempeñar funciones específicas.
Un estudio publicado por un grupo de académicos y expertos líderes en IA de universidades y empresas tecnológicas identifica cuatro de estas funciones: propagar los beneficios tecnológicos, armonizar las normas, asegurarse de que su desarrollo y uso sean seguros, y manejar los riesgos geopolíticos.
Es comprensible que muchos consideren el “asegurarse de que su desarrollo y uso sean seguros” como la prioridad principal. Así, hay en camino iniciativas para desarrollar una institución que identifique y monitoree los daños actuales y potenciales de las aplicaciones de la IA, de manera muy parecida a como el Panel Intergubernamental sobre el Cambio Climático vigila el riesgo existencial del cambio climático.
De hecho, el Observatorio Global de la IA, recientemente propuesto por la Iniciativa de Inteligencia Artificial e Igualdad, tendría al IPCC como modelo explícito, es decir, esencialmente una red de redes que funciona muy bien para acumular conocimientos procedentes de muchas fuentes distintas.
Las redes acumulativas —desde el Incident Reporting System (Sistema de Aviso de Incidentes) de la Agencia de Ciberseguridad y Seguridad para las Infraestructuras de EE. UU. hasta la Wikipedia— se caracterizan por tener un nodo de autoridad central que junta información y análisis de muchos tipos diferentes de instituciones, algunas de las cuales ya se encuentran interconectadas.
Pero un centro así no puede aproar medidas rápidas basadas en la información que reúne. Para gobernar la IA, todavía hace falta una institución multilateral jerárquica con el poder de adoptar y poner en práctica las decisiones que tome, como una especie de Consejo de Seguridad de la ONU funcional.
En cuanto a la función de propagar la tecnología beneficiosa (lo que la mayoría de la gente considera que es tan importante como prevenir daños), es probable que lo que funcione mejor sea una red mixta de innovación-colaboración.
Las redes de innovación suelen poseer muchos nodos apartados entre sí para asegurarse de acceder a la mayor cantidad posible de nuevas ideas y prácticas, y una cantidad limitada de nodos centralizados que transformen ideas en acciones, colaboren en torno a las mejores prácticas y prevengan la explotación. Debieran estar centrados en regiones específicas o, tal vez, estar vinculados con objetivos de desarrollo sostenible de la ONU específicos.
Cogobernanza digital
Para armonizar la normativa —lo que incluye experimentar con diferentes tipos de regulación— se necesitará una estructura más amplia, más flexible y con el máximo de capacidad de inclusión. Las tecnologías de IA son sencillamente demasiado amplias y veloces para que una o varias autoridades normativas centralizadas tengan alguna posibilidad de canalizarlas y guiarlas por sí misma. En lugar de ello, proponemos una red multimodo ampliamente distribuida que soporte lo que llamamos una cogobernanza digital.
Nuestro modelo se basa en el sistema de arquitectura distribuida y cogobernanza al que se le reconoce el mérito de mantener la estabilidad y la resiliencia de la internet. Hace ya décadas, investigadores tecnológicos, apoyados por el gobierno estadounidense y empresas de internet tempranas, crearon varias instituciones en una constelación poco estructurada, cada una con sus propias responsabilidades funcionales.
La Internet Society promueve una internet abierta y conectada globalmente. El Consorcio por la World Wide Web desarrolla estándares para la web. El Foro de Gobernanza de Internet reúne a las partes interesadas para hablar de asuntos de políticas relevantes. Y la Corporación de Nombres y Números Asignados de Internet (Icann) coordina y salvaguarda los identificadores únicos de internet.
La clave del éxito de estas instituciones es que su operación se realiza a través de redes autorreguladas que se distribuyen entre pares (peer-to-peer) que reúnen a una amplia gama de actores para diseñar en conjunto normas, reglas y pautas de implementación. Por ejemplo, el Icann cuenta con decenas de redes autoorganizadas que se ocupan del Sistema de Nombres de Dominios —crucial para que los usuarios naveguen en internet— y coordina otras redes autorreguladas, como las cinco instituciones regionales que administran la asignación de direcciones IP en el mundo.
Estas instituciones son capaces de manejar una amplia gama de medidas que van desde lo técnico hasta lo político. Cuando Rusia invadió Ucrania en el 2022, las autoridades ucranianas presionaron al Icann para que eliminara .ru del directorio maestro del Sistema de Nombres de Dominios, conocido como la zona raíz y manejado por 12 instituciones de cuatro países, coordinadas pero no controladas por el Icann. Finalmente, la Autoridad de Asignación de Números de Internet rechazó la petición.
Una conferencia como la de Pugwash sobre la IA tendría abundancia de participantes gubernamentales, académicos, corporativos y cívicos dispuestos a colaborar. Los participantes originales de Pugwash respondían a un llamado de gigantes intelectuales como el filósofo Bertrand Russell y el físico Albert Einstein. ¿Quién hará lo mismo hoy?
Anne-Marie Slaughter, exdirectora de planificación de políticas del Departamento de Estado de EE. UU., es directora ejecutiva del centro de estudios New America, profesora emérita de Política y Asuntos Internacionales en la Universidad de Princeton.
Fadi Chehadé, expresidente y director ejecutivo del Icann (2012-16), es miembro del Panel de Alto Nivel del Secretario General de la ONU sobre Cooperación Digital.
© Project Syndicate 1995–2023
