Nuestro nombre es Legión

MJMA, una chica de Portland, Fátima una madre de Gaza y Aisha una niña de una escuela de primaria de Irán tienen en común que han sido seleccionadas por una IA como objetivos. La primera por una IA llamada Elite, que utilizan los agentes del ICE para maximizar la probabilidad de detener ilegales. La segunda por Lavender, utilizada por el ejército israelí para identificar posibles objetivos y eliminarlos cuando están en casa. Y en el caso de Aisha, su escuela ha sido seleccionada como objetivo militar por una IA del ejército estadounidense llamada Maven. También tienen en común que las tres son inocentes.

MJMA es de origen mexicano y residente legal en EE.UU. Ha sido identificada por su aspecto, y pese a llevar la documentación, detenida y trasladada a un centro de detención lejos de casa. JB, el agente que la identificó con la aplicación de reconocimiento facial Mobile Fortify, declaró al juez que no estaba seguro de si realmente era la persona de la foto.

El juicio humano a menudo es una mera formalidad en la inteligencia artificial

Elite es un sistema de la empresa Palantir que agrega datos de múltiples fuentes y los convierte en un mapa interactivo para que los agentes identifiquen las zonas con mayor probabilidad de encontrar objetivos. El sistema genera dossieres con nombres, fotografías, direcciones y un “índice de confianza” sobre si esa persona vive en ese lugar. Conocemos el (mal) funcionamiento de este Google Maps del terror por los testimonios de casos judicializados: “La aplicación puede decir 100%, y estar equivocada. La persona no vive allí”, dice el agente JB. La combinación de los errores propios de la IA y la presión para cumplir la cuota de, según el propio JB, 8 detenciones diarias por comando lleva a casos como el de MJMA.

Fátima y Aisha no han tenido tanta suerte. Su selección no supuso una detención errónea ni un viaje lejos de casa; o sí, si contamos la muerte como viaje. En el caso de Lavender, el sistema asigna probabilidades de pertenencia a organizaciones terroristas a partir de grandes volúmenes de datos. En el caso de Maven, de la empresa Palantir como Elite, los algoritmos analizan imágenes de drones y satélites para identificar posibles objetivos sobre el terreno. En ambos casos, la decisión final sigue siendo humana –al menos sobre el papel– pero la escala y la velocidad con la que se generan los objetivos hacen que el juicio humano sea a menudo una mera formalidad.

Un detalle: Palantir es una empresa del empresario estadounidense de origen alemán Peter Thiel. Thiel fue el primer gran magnate tecnológico en apoyar a Donald Trump ya en 2016 y quien financió la carrera política del vicepresidente J. D. Vance. Defiende la idea de que democracia y libertad no son compatibles.

Thiel es, además, especialista en el Anticristo, del que hace conferencias por todo el mundo. Según él, el Anticristo no es tanto una figura demoníaca como una fuerza que se opone a su visión de orden y progreso. Nuestro nombre es Legión, porque somos muchos.