Tengo guardado en mi carrete un cartoon del New Yorker que tiene a un tipo sentado junto a una fogata, viste un traje destruido y está en medio de una ciudad en ruinas, contándoles a tres niños: “Sí, el planeta se destruyó. Pero por un hermoso momento generamos mucho valor para los accionistas”. Cuando lo guardé, hace unos 15 años, me daba mucha risa; ahora me parece algo que pasará en cualquier momento.
La semana pasada, Jacob Coxon, investigador que renunció a Anthropic, empresa dueña de Claude, dio una entrevista en la que advierte de que la industria está jugando con nuestras vidas y que quienes están construyendo la inteligencia artificial creen en privado que podría matarnos a todos en cuatro años.
Evan Hubinger, un excolega, no lo contradijo y afirmó que hay un 10 por ciento de probabilidad de extinción en esta década. Coxon afirmó que los propios desarrolladores conocen bien el riesgo y avanzan igual hacia el despeñadero a ritmo frenético, por temor a que la competencia llegue primero. A inicios de agosto, otro de estos caballos del apocalipsis anunció que uno de sus modelos alcanzó el nivel más alto de riesgo cibernético de su propia escala.
Entre tanto manifiesto y declaraciones, hay un mensaje claro: que alguien llame a alguien para que nos quite las armas, porque, si no, vamos a terminar matándonos entre nosotros. Pero léase la letra pequeña: el miedo no es a la extinción de nuestra especie, es a que la extinción llegue de la mano de un competidor.
Cada empresa prefiere fabricar el arma final antes que dejar que la fabrique el vecino, y esa preferencia sobrevive intacta a cualquier advertencia sobre el fin del mundo.
Destruir el planeta se convirtió en un riesgo tolerable; perder el dividendo de los accionistas, no. En este incendio, los bomberos son los mismos que generan el fuego, y ninguno soltará la antorcha primero, porque soltarla significa perder.
Newton dijo que podía calcular el movimiento de los cuerpos celestes, pero no la locura de la gente. Trescientos años después seguimos probando que tenía razón, en esta vorágine de locura colectiva donde estamos en capacidad de desarrollar sistemas informáticos capaces de destruirnos como especie, pero no de erradicar el hambre.
Lo que no parece que vaya a extinguirse es la locura que Newton no supo calcular, que es el combustible de este tecnofascismo del antropoceno que nos tocó vivir.
Por tanto, sigamos generando valor para los accionistas, que para el apocalipsis siempre habrá tiempo.
m@mauricioparis.com
Mauricio París es abogado.