Un agente de IA creado por OpenAI consiguió evadir las limitaciones de un sitio del sistema de salud público australiano y acceder a datos que no estaban destinados a él.
El hecho ocurrió en junio y fue comunicado al Gobierno australiano recién tres meses después, lo que incrementó la inquietud de las autoridades.
Esto plantea una cuestión que trasciende el episodio: ¿qué pasa cuando sistemas de inteligencia artificial capaces de burlar controles empiezan a interactuar con infraestructura pública diseñada para impedir accesos no autorizados?
El acceso indebido de OpenAI a un sitio gubernamental
El ingreso se produjo el 18 de junio, según la agencia EFE, cuando el agente llevaba a cabo una investigación sobre el gasto público en fármacos a través del portal de estadísticas de Medicare, administrado por Services Australia.
Un agente de IA es un software basado en inteligencia artificial que puede percibir su entorno, tomar decisiones de manera autónoma y ejecutar acciones en múltiples pasos para alcanzar un objetivo específico sin supervisión humana continua.
De acuerdo con el primer ministro Anthony Albanese, el sistema había bloqueado en repetidas ocasiones las solicitudes del agente. Sin embargo, este logró eludir esas barreras y terminó accediendo tanto a información pública como a archivos que no lo eran.
Además, la autoridad calificó el episodio como sumamente preocupante y cuestionó, en particular, que OpenAI demorara tres meses en avisar a las autoridades.
Se inicia la investigación
El caso activó las alertas en la capital, Canberra, aunque hasta ahora no hay indicios de que la IA haya obtenido datos personales de pacientes ni evidencia de una intrusión más amplia en la red de Services Australia.
Por su parte, OpenAI aseguró que su revisión no halló pruebas de acceso a historiales clínicos. Según la compañía, entre la información obtenida había estadísticas sanitarias agregadas y nombres de archivos internos.
El Gobierno australiano, no obstante, quiere precisar el verdadero alcance de la actividad. Para ello conformó un grupo de trabajo integrado por organismos vinculados a ciberseguridad, inteligencia y seguridad de la inteligencia artificial.
La investigación también intentará establecer si el agente interactuó con otros sistemas gubernamentales, ya que OpenAI detectó actividad relacionada con varios sitios web y servicios del Gobierno australiano.
