Escándalo en Australia tras colarse un agente de IA de OpenAI en bases de datos del Gobierno

Un agente de IA desarrollado por OpenAI ha accedido sin autorización a un portal gubernamental en Australia. La intrusión afectó al servicio de estadísticas del sistema público de salud Medicare.

El primer ministro australiano, Anthony Albanese, desveló lo ocurrido en Nueva York tras mantener una tensa reunión con Sam Altman, advirtiendo de que el incidente acarreará consecuencias legales.

OpenAI detrás de un nuevo acto que atenta contra la legalidad

El acceso indebido se produjo en junio, pero OpenAI no notificó lo sucedido hasta septiembre a través de un buzón genérico del organismo Services Australia. La tecnológica admitió que sus sistemas tomaron acciones no deseadas mientras recopilaban datos estadísticos sobre el país durante una fase de pruebas internas. El Centro de Ciberseguridad de Australia lidera ahora una investigación forense para determinar si otros tres departamentos estatales sufrieron accesos similares.

Sin embargo, lo peor es que no se trata de un caso aislado. Como informa la fuente consultada, el laboratorio de investigación Transluce reveló que herramientas similares de OpenAI intentaron vulnerar sin éxito los servidores de una biblioteca digital en la Universidad de Nuevo México y el portal Data USA durante el mes de mayo.

Te interesa 👉 Los mejores antivirus para proteger tu ordenador

Ante estos episodios, la mayoría de los líderes de la industria (Jensen Huang no, por cierto) vuelven a reclamar regulaciones mientras presentan a los agentes como entidades autónomas casi incontrolables. Sin embargo, es evidente que es una trampa porque, en realidad, estos modelos no han cobrado conciencia propia. Toda IA ejecuta procesos a raíz de parámetros, datos y órdenes dictadas por sus creadores.

Escudarse en un comportamiento inesperado del algoritmo no elimina el hecho de que se han asaltado servidores ajenos. Este acto, obviamente, no requiere mucha más regulación que el código penal de cualquier país del mundo. Es más, resulta difícil entender cómo estos laboratorios pueden reconocer intromisiones informáticas sin afrontar las mismas responsabilidades penales que cualquier otro hacker que actúa sin ejecutar una IA.