Inteligencia Artificial para la guerra: Palantir

La inteligencia artificial sigue avanzando a pasos agigantados y la empresa Palantir, fundada en 2003 por el multimillonario Peter Thiel, no se queda atrás.

Ahora, con el lanzamiento de su Plataforma de Inteligencia Artificial (AIP), Palantir tiene como objetivo integrar la inteligencia artificial en la toma de decisiones militares. Al margen de polémicas y secretismo, es conveniente conocer cómo funciona exactamente esta plataforma y cómo puede afectar nuestras vidas. ¿Qué es Palantir en realidad?

¿Qué se sabe de Palantir?

Con sede en Palo Alto, California, Palantir fue fundada en 2003 por un grupo de exbecarios de PayPal y científicos de Computación de Stanford, entre los que se incluía a su CEO, Alex Karp. Palantir crea programas para gestionar, analizar y asegurar datos. Su nombre procede de un objeto místico y esférico de la saga de El Señor de los Anillos, que permite a su propietario en el mundo de fantasía “ver más allá”.

La compañía nació a raíz de la experiencia de Peter Thiel cuando trabajaba en PayPal, donde el fraude mediante tarjetas de crédito costaba millones de euros a la empresa cada mes. Para solucionar el problema, PayPal creó una aplicación de seguridad que ayuda a los trabajadores a analizar las transacciones sospechosas.

Además, Palantir usa una solución similar para encontrar patrones en sets de datos complejos. Como ejemplo, diversas agencias gubernamentales pueden usar sus herramientas para encontrar información en registros telefónicos, información sobre vehículos, historiales criminales, biometría, transacciones bancarias, direcciones e informes policiales, entre otras aplicaciones.

Vice ya informó que los programas de Palantir permiten a las agencias gubernamentales introducir el número de matrícula de un vehículo y de este modo conseguir los itinerarios recorridos. La policía puede incluso mapear con su uso redes familiares o empresariales.

La firma ha procurado mantener un perfil bajo durante toda su existencia. La empresa de big data Palantir valorada en 18.000 millones de dólares salió a bolsa, protagonizando un debut con altibajos.

Uno de los primeros hechos por los que Palantir fue conocida, es por ser cofundada por el miembro del board de Facebook, Peter Thiel, uno de los mayores aliados de Donald Trump en Silicon Valley.

Durante los últimos años, Palantir se ha ido convirtiendo en una de las startups más rentables de Estados Unidos. Levantando cerca de 2.500 millones de euros en capital riesgo, a pesar de operar bajo un halo de secretismo. Trabaja de cerca con el gobierno estadounidense y agencias como el FBI, la CIA o el Departamento de Defensa, entre otros. De hecho, su CEO, Alex Karp, criticó hace poco a otras startups, porque considera que hay reticencia a trabajar en proyectos relacionados con defensa.

Palantir se jacta de todo lo bueno que hace, especialmente su trabajo con las agencias gubernamentales. Karp ha llegado a asegurar que tiene conocimiento de un ataque terrorista frustrado en Europa, prácticamente cada semana.

No son pocos los que vigilan de cerca a Palantir por sus acuerdos con el Servicio de Inmigración y Control de Aduanas de Estados Unidos (la ICE), agencia responsable de llevar a cabo el “control” del presidente Trump (en su momento), contra la entrada de inmigrantes en el país. WNYC informó que sus agentes usan apps de Palantir durante las redadas contra estos inmigrantes.

Una polémica tras otra.

La polémica también ha afectado a Amazon, ya que Palantir trabaja con la nube de Amazon Web Services para ejecutar su programa de big data. Numerosos rostros conocidos, tanto dentro como fuera de la compañía de Jeff Bezos, han criticado esta vinculación.

Distintas organizaciones y activistas cargan constantemente contra Palantir por trabajar con el Servicio de Inmigración, al ofrecer los programas que hacen posible el éxito de la mayoría de sus operaciones. Por ejemplo, se manifestaron en las oficinas de Palantir en Palo Alto por sus contratos con este Servicio.

Por otro lado, los fundadores de Palantir contraatacan, criticando a otras compañías tecnológicas que no trabajan con el gobierno estadounidense, defiendiendo su buena fe patriótica. Joe Lonsdale, otro inversor que cofundó Palantir y que ya no está vinculado con las operaciones de la empresa, dijo allá por el año 2019 que posiblemente, Palantir es la compañía más patriótica de Silicon Valley.

La hermeticidad de Palantir se debe principalmente a que un gran número de sus clientes incluyen cláusulas de confidencialidad por la naturaleza de sus trabajos. Como resultado, Palantir tiende a tener un perfil bajo, compartiendo poca información sobre cómo son usados sus programas o sobre sus resultados financieros reales.

Al igual que Cambridge Analytica (CA), Palantir usa datos públicos, comprados y datos de terceros. A diferencia de CA, tiene acceso a los archivos del gobierno federal, estatales, locales y sus instituciones. Por lo tanto, sus bases de datos están llenas de arrestos, denuncias, informes policiales, multas, matrículas registradas por radares de carretera, etc. Un ‘leak’ de 2015 habla de hasta 160 bases de datos distintas sólo de la Policía de Los Ángeles, incluyendo mapeo de zonas de calor en barrios conflictivos.

Numerosos estudios confirman su toxicidad y el gran peligro de sus algoritmos sesgados. La “lista estratégica de sospechosos” en Chicago, ha demostrado en realidad generar más violencia de la que previene. Para colmo, Palantir tiene acceso a datos personales delicados, como huellas y otros datos biométricos, archivos médicos, historial de compras mediante tarjeta, registros de viajes, comunicaciones, impuestos e historial de menores. Conserva todo dato procesado, para usarlos con otros clientes. Lleva su sesgo algorítmico allí donde va. Gracias a varias filtraciones, se sabe que tienen contratos con agencias de inteligencia de Inglaterra, Australia, Nueva Zelanda y Canadá, entre otras.

Por ejemplo, los Marine Corps estadounidenses utilizan el software de Palantir en tareas de inteligencia y su programa sobre construcción para la Armada analiza el terreno, el movimiento y el clima en áreas remotas. Se llegó a rumorear que fue utilizado para encontrar a Osama Bin Laden, aunque Palantir no declaró nada al respecto.

Pero, ¿quién controla todo esto? Peter Thiel. Como reveló Bloomberg, un cambio en el modelo de gobernanza de la compañía otorgaba a Thiel mayor poder en voz y voto que cualquier otro inversor de la compañía y de forma perpetua. No es una rareza en Silicon Valley, ya que compañías como Facebook o WeWork, han usado un sistema similar para dar a sus fundadores pleno poder. Y son de sobra conocidos los baches que han atrevesado dichas compañías. La incógnita es comprobar si Palantir opera bajo un estricto cumplimiento de la ley o estamos ante un nuevo escándalo al estilo de Cambridge Analytica. Su salida a Bolsa pudo ser la aguja definitiva que pinchase el balón de humo aunque, hasta que un nuevo Edward Snowden o un Christopher Wylie se atrevan a dar el paso, es probable que nunca se sepa.

El uso de inteligencia artificial en la guerra ya atrae a los inversores.

Con el lanzamiento de su Artificial Intelligence Platform (AIP), herramienta militar capaz de monitorizar al enemigo y ayudar en la forma de responder ante cada situación. Palantir sacó músculo con su demostración, con una herramienta que promete revolucionar el campo de batalla empleando esta tecnología.

A partir del minuto dos del vídeo de demostración que Palantir muestra en su página web, se puede observar como la plataforma identifica un escuadrón blindado enemigo. Inmediatamente, da la opción de enviar un dron de reconocimiento automatizado como respuesta, para tomar imágenes. Posteriormente, sugiere cómo proceder ante el elemento blindado.

En el periodo que concluyó el pasado mes de marzo, tuvieron un beneficio de casi 17 millones y anticipan que seguirán en positivo todos los trimestres de este año. Generando unos ingresos que superan sus propias previsiones, todavía es poco en comparación con la oportunidad que tienen delante, según escribe en la carta destinada a los inversores Karp, CEO y cofundador de Palantir.

La AIP permite a los operadores militares usar la inteligencia artificial para realizar tareas como reconocimiento con drones, generación de planes de ataque y bloqueo de comunicaciones enemigas. Los operadores pueden hacer preguntas a la IA, como identificar unidades enemigas en la zona, solicitar imágenes de alta resolución y resumir planes operativos. El objetivo principal de esta plataforma según argumentan, es facilitar un uso “responsable, legal y ético” de la IA en contextos sensibles y clasificados.

Seguridad en el uso de modelos de lenguaje de gran tamaño.

Una de las principales características de la AIP, es permitir a las organizaciones utilizar modelos de lenguaje de gran tamaño (LLM) y otras tecnologías de inteligencia artificial de manera segura y protegida. Un LLM es un modelo de lenguaje que consta de una red neuronal con muchos parámetros, entrenados en grandes cantidades de texto sin etiquetar mediante aprendizaje autosupervisado o aprendizaje semisupervisado.

La plataforma permite desplegar dichos modelos en la red privada de una organización, anclados en sus propios datos. De esta manera, se crea una representación en tiempo real de todos los conceptos, acciones y decisiones a tomar, que luego pueden ser utilizados por la inteligencia artificial.

AIP proporciona un marco para controlar y gobernar la inteligencia artificial del mañana. La plataforma captura automáticamente la huella digital completa de todas las entradas, salidas y acciones de la IA, incluyendo la IA que se utilizó para la toma de cada decisión, quienes participaban en el proceso y cómo se alinean con los propósitos específicos.

Supone un avance significativo en la integración de la inteligencia artificial en la toma de decisiones, principalmente en el ámbito militar así como en otros contextos. Según la define la propia empresa, a través de sus características de seguridad, control y gobernanza, AIP busca garantizar un uso “responsable y ético” de la IA.

A medida que sigue evolucionando, es fundamental que seguir examinando y debatiendo el papel de la inteligencia artificial en nuestras vidas, para garantizar que se utilice de manera que beneficie a todos y no sólo a unos pocos.

Aunque pueda parecer que este artículo sigue la línea rutinaria sobre la Inteligencia Artificial, es mi intención con él, sensibilizar y dar a conocer las fronteras que dicha tecnología puede o está rebasando.

Del mismo modo que hace un tiempo se empezó a hablar bastante sobre blockchain, con la aparición en escena de la IA, surgen a diario miles de noticias y artículos sobre ella, pero en mi opinión, creo que además de conocer sus aplicaciones, pros y contras, debemos tomar conciencia de la repercusión que puede tener para la sociedad global su uso en determinados campos. Si bien es una tecnología que puede parecer imparable, no debemos dejarnos cegar por la inventiva y prestar más atención al resultado de su implantación.