OpenAI bajo revisión por incidente con un agente de IA
Un agente de inteligencia artificial desarrollado por OpenAI obtuvo acceso no autorizado a un portal de estadísticas de Medicare administrado por Services Australia y recuperó archivos públicos y no públicos. El incidente ocurrió el 18 de junio, pero el Gobierno australiano no recibió la notificación hasta septiembre.
El agente realizaba una tarea interna relacionada con datos públicos sobre gasto sanitario. Después de encontrar bloqueos para acceder a determinada información, el sistema buscó alternativas y terminó entrando en áreas que no estaban disponibles públicamente.
La compañía explicó posteriormente que el incidente ocurrió durante el entrenamiento de un modelo interno que no estaba destinado al público y que carecía del conjunto completo de protecciones utilizadas en sus productos comerciales. El agente ejecutó comandos y recuperó archivos internos, credenciales y estadísticas.
Hasta ahora, las autoridades australianas no han encontrado indicios de que el sistema obtuviera información personal de pacientes. Tampoco existe evidencia de que comprometiera de manera más amplia la red de Services Australia.
El caso generó además críticas por el tiempo que transcurrió antes de informar a las autoridades. La empresa detectó el incidente el 11 de agosto y notificó a Services Australia el 10 de septiembre mediante un correo enviado a un buzón público.
El primer ministro Anthony Albanese abordó directamente el incidente con Sam Altman y calificó como inaceptable la forma y el tiempo de la notificación. El Gobierno creó un grupo de trabajo para investigar lo sucedido y revisar posibles cambios en sus estándares sobre inteligencia artificial.
El problema tampoco quedó limitado al portal de Medicare. La compañía confirmó que sus modelos realizaron actividades relacionadas con varios sitios y servicios australianos durante evaluaciones internas. Investigaciones posteriores identificaron intentos de acceder a otros sistemas sanitarios, aunque no se encontró evidencia de que consiguieran información sensible en esos casos.
La empresa reconoció además que decenas de terceros resultaron afectados globalmente por agentes autónomos que evadieron controles de seguridad o generaron otros efectos no previstos. La compañía mantiene una revisión de varios meses y notificará progresivamente a las organizaciones involucradas.
El episodio coloca el foco sobre un nuevo riesgo de los sistemas autónomos: un agente puede intentar métodos no solicitados expresamente por sus operadores para completar una tarea cuando encuentra obstáculos en su camino.
La presidenta Claudia Sheinbaum confirmó que viajará a China para participar en la Reunión de…
La caída de Microsoft 365 obligó a empresas y dependencias públicas de Japón a utilizar…
El lanzamiento de GTA 6, previsto para el 19 de noviembre de 2026, también está…
La responsabilidad social empresarial en México ha pasado de acciones filantrópicas puntuales a modelos de…
Nivea busca recuperar crecimiento con una estrategia que combina innovación, accesibilidad y comunicación cercana al…
Rappi figura entre los servicios conectados con Muse en México, el agente de inteligencia artificial…