This article was originally published in English in August 2023. We have translated it into Spanish and are making it free to access due to the public interest in the material. You can read more about this project here.
La Oficina de Aduanas y Protección Fronteriza (CBP), dependiente del Departamento de Seguridad Nacional (DHS), ha gastado millones de dólares en el software de una empresa que utiliza inteligencia artificial para detectar “sentimientos y emociones” en publicaciones en internet, según un conjunto de documentos obtenidos por 404 Media.
La propia CBP confirmó que está utilizando esta herramienta desarrollada por la empresa Fivecast para analizar información de fuentes públicas relacionada con viajeros que ingresan o salen del país y que, según la agencia, podrían representar una amenaza para la seguridad pública, la seguridad nacional o el comercio y tránsito legítimo. Según los documentos, Fivecast también ofrece reconocimiento de objetos en imágenes y videos mediante IA y la capacidad de detectar “términos y frases de riesgo” en más de un idioma.
El material publicitario de la empresa destaca que el software puede recopilar datos de plataformas objetivo masivas como Facebook y Reddit, pero también menciona de forma directa comunidades más pequeñas como 4chan, 8kun y Gab. Para demostrar su funcionamiento, Fivecast explica en su material publicitario cómo el software fue capaz de rastrear publicaciones y conexiones en redes sociales a partir de simples datos biográficos extraídos de un artículo de The New York Times Magazine sobre miembros del movimiento paramilitar de ultraderecha conocido como “Boogaloo”.
La noticia confirma que la CBP sigue enfocándose en el uso de sistemas de inteligencia artificial para monitorear a viajeros y otras personas consideradas “de interés”, incluidos ciudadanos estadounidenses. En mayo, se informó que la CBP utiliza otra herramienta de IA para evaluar a viajeros (sitio en inglés), la cual puede vincular publicaciones en redes sociales con el número de seguro social y la ubicación de una persona. Esta nueva información muestra que la agencia ya ha implementado sistemas basados en IA y ofrece una mirada más clara sobre lo que realmente prometen estas tecnologías, aunque también plantea importantes dudas sobre su precisión y utilidad.
“La CBP no debería estar comprando y utilizando en secreto herramientas que se basan en pseudociencia para juzgar las publicaciones de las personas en redes sociales con la excusa de que están analizando sus emociones e identificando ‘riesgos’”, dijo Patrick Toomey, subdirector del Proyecto de Seguridad Nacional de la ACLU, en un correo electrónico enviado a 404 Media.
404 Media obtuvo los documentos a través de solicitudes amparadas bajo la Ley de Libertad de Información (FOIA) y dirigidas tanto a la CBP como a otras agencias policiales de Estados Unidos.
Uno de los documentos, marcado como “confidencial comercial”, ofrece una visión general del producto “ONYX” de la empresa Fivecast. En este documento, Fivecast afirma que su software puede utilizarse para rastrear personas, grupos, publicaciones individuales o eventos específicos, y además de recolectar información de redes sociales grandes y pequeñas, el sistema permite que los usuarios carguen sus propios datos en masa. Según el documento, la herramienta fue desarrollada “en consulta” con agencias de inteligencia y seguridad del grupo Five Eyes (conformado por Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda) y está “optimizada específicamente para construir redes de personas de interés”.
En cuanto a la detección de emociones y sentimientos, las imágenes incluidas en el documento de Fivecast muestran emociones como “ira”, “aversión”, “miedo”, “alegría”, “tristeza” y “sorpresa” graficadas a lo largo del tiempo. Uno de los gráficos muestra picos de ira y aversión durante los primeros meses de 2020, como ejemplo de un caso de objetivo específico monitoreado.
El documento también incluye un estudio de caso sobre cómo se podría aplicar ONYX a una red específica. En el ejemplo, Fivecast analiza el movimiento Boogaloo, pero subraya: “nuestro objetivo no es enfocarnos en un tema particular, sino demostrar cuán rápido ONYX puede descubrir, recolectar y analizar riesgos desde un solo punto de partida en línea”.
El proceso comienza cuando el usuario ingresa frases relacionadas con el movimiento Boogaloo, como “segunda guerra civil”. Luego, el usuario selecciona una cuenta de redes sociales identificada e inicia lo que Fivecast denomina su función de “recolección completa”, la cual “recopila todo el contenido disponible en una plataforma social de una cuenta determinada”. A partir de ahí, la herramienta también mapea la red de contactos del objetivo, según detalla el documento.
Los contratos de la CBP con Fivecast han alcanzado cifras millonarias, según los registros de compras públicas y documentos internos de la agencia obtenidos por 404 Media. En agosto de 2019, CBP gastó cerca de 350 000 dólares; en septiembre de 2020, más de 650 000; en agosto de 2021, unos 260 000; en septiembre de 2021, cerca de 950 000, y en septiembre de 2022, casi 1,17 millones de dólares.
En una declaración enviada a 404 Media, la CBP afirmó:
“El Departamento de Seguridad Nacional está comprometido con la protección de la privacidad, los derechos civiles y las libertades civiles de las personas. El DHS usa diversas tecnologías para cumplir su misión, incluidas herramientas que sirven de apoyo en investigaciones relacionadas con amenazas a la infraestructura, el tráfico ilegal en la dark web, el crimen transnacional y el terrorismo. El uso de estas tecnologías se realiza conforme a nuestras facultades y la ley”.
En cuanto a los motivos por los cuales la CBP necesita el software de Fivecast, los documentos internos de la agencia mencionan varias unidades específicas: la Oficina de Operaciones de Campo (OFO), que representa el grueso de la CBP (sitio en inglés) y se encarga de aplicar el control fronterizo; el Centro Nacional de Identificación de Objetivos (NTC), con sede en Virginia, que busca identificar a viajeros o cargas que puedan representar amenazas a la seguridad del país; la División de Redes de Contrainteligencia (CND), que depende del NTC, y el Grupo de Información de Fuentes Abiertas (PAIG), que según otros documentos analizados se enfoca en datos como la ubicación.
Yahoo News informó en 2021 (sitio en inglés) que la CND había recopilado información sobre diversos periodistas. La Oficina del Inspector General emitió una recomendación de investigación penal contra un funcionario que trabajó en esa división debido a su papel en el monitoreo, aunque finalmente no fue acusado. Un supervisor de esa unidad declaró ante los investigadore: “nuestro trabajo en la CND estrecha los límites, así que no hay normas o directrices. Somos nosotros quienes las crean”.
Patrick Toomey, subdirector del Proyecto de Seguridad Nacional de la ACLU, agregó: “El público sabe demasiado poco sobre la División de Redes de Contrainteligencia de la CBP, pero lo que sí conocemos pinta un panorama inquietante: una agencia con pocas reglas y acceso a un océano de datos personales delicados sobre personas estadounidenses. El potencial de abuso es enorme.”
Fivecast no respondió a nuestras solicitudes de comentarios.
