Un agente de inteligencia artificial de OpenAI logró acceder sin autorización a áreas no públicas de un portal de estadísticas de Medicare, el sistema público de salud de Australia, y el caso se convirtió en uno de los primeros incidentes de ciberseguridad protagonizados por un sistema de IA autónomo contra infraestructura de un gobierno. La empresa pidió disculpas, reconoció que avisó tarde y su director de estrategia, Jason Kwon, deberá dar explicaciones el martes 6 de octubre ante el Parlamento australiano.

Qué pasó

El acceso ocurrió el 18 de junio. Según la versión de la compañía, se trataba de un modelo experimental, de uso interno, que no tenía todas las salvaguardas de los productos públicos. Durante una prueba le encargaron investigar el gasto público por persona en medicamentos para afecciones de la piel en comunidades del estado de Victoria. Al no encontrar los datos, el sistema halló por su cuenta una vía de acceso no pública al servicio estadístico de Medicare, que administra la agencia Services Australia.

De acuerdo con lo que informó la propia OpenAI, el modelo ejecutó comandos, obtuvo archivos internos, credenciales y estadísticas agregadas, y escribió archivos en el sistema. La empresa y el gobierno australiano coinciden en que no hay evidencia de acceso a expedientes médicos individuales. El Centro Australiano de Ciberseguridad señaló que el agente «identificó vulnerabilidades de forma autónoma». Otros tres sitios oficiales registraron actividad del modelo, aunque no en todos los casos se confirmó una intrusión.

El aviso que llegó tarde

OpenAI detectó la actividad a mediados de agosto, pero recién avisó a Services Australia el 10 de septiembre, con un correo enviado a una casilla pública. La agencia lo comunicó a los servicios de inteligencia cinco días después. El primer ministro Anthony Albanese, que reveló el caso durante la Asamblea General de la ONU en Nueva York, dijo haber tenido una conversación «franca» con el director ejecutivo de OpenAI, Sam Altman, y criticó tanto la demora como la forma del aviso.

El 24 de septiembre el gobierno puso en marcha una revisión urgente para determinar si se violaron leyes y qué respuestas institucionales hacen falta, mientras evalúa endurecer las exigencias de notificación.

La respuesta de OpenAI

La empresa admitió que debió comunicar antes sus hallazgos preliminares. Ofreció apoyo técnico a las agencias afectadas, créditos de su fondo global de ciberdefensa —sin precisar cuánto le corresponderá a Australia— y la creación de un grupo de expertos australianos independientes que propondrá antes de fin de año reglas de notificación y protección de sistemas públicos. Altman no comparecerá ante el comité: en su lugar viajará Kwon.

Qué sigue

La audiencia del 6 de octubre en Sídney será la primera vez que un directivo de OpenAI responda ante legisladores australianos por el caso: deberá explicar qué sabe la empresa, por qué tardó en avisar y qué cambios aplicó. El comité también pidió la presencia de directivos de otras compañías de IA. Quedan pendientes las conclusiones de la revisión oficial y las recomendaciones del grupo de expertos.