Modelos de inteligencia artificial (IA) de la empresa tecnológica estadounidense OpenAI extrajeron datos de 55 agencias gubernamentales, organismos y empresas -principalmente estadounidenses- y trataron de ocultar su rastro, según un informe al que ha accedido el diario británico Financial Times (FT).
El documento, elaborado por la compañía de informática forense Asymmetric Security, afirma que los modelos de OpenAI utilizaban tácticas novedosas para acceder a las páginas web, como "borrar los registros o hacerlos inaccesibles", reduciendo la capacidad de los auditores externos de examinar sus acciones.
Entre ellas, se incluyen la creación de buzones de correo electrónico temporales y cuentas privadas a través del servicio Urlquery, una herramienta teóricamente utilizada para escanear sitios web en busca de contenido malicioso, para descargar datos.
Según los investigadores de Asymmetric, estas acciones ocultas de los agentes de inteligencia artificial impidieron a los auditores rastrear el tipo de datos que los 'bots' extraían.
En la lista de las 55 entidades a las que accedieron se encuentran, según el FT, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades de EE.UU., la Comisión de Bolsa y Valores estadounidense, y la Mayo Clinic, considerado uno de los mejores hospitales privados de Estados Unidos.
La cofundadora de Asymmetric Security Pippa Thompson afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por 'hackers' humanos: "Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas".
La compañía de informática forense no pudo determinar si las acciones fueron intencionadas o fruto de "un fallo provocado por las limitaciones impuestas en un ejercicio de prueba", pero igualmente señala que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.
Los modelos de OpenAI afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde habría accedido recientemente sin autorización a archivos públicos y privados.
La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un "incidente cibernético" durante una sesión de entrenamiento interna.
