OpenAI bajo revisión por incidente con un agente de IA
Un agente de inteligencia artificial desarrollado por OpenAI obtuvo acceso no autorizado a un portal de estadísticas de Medicare administrado por Services Australia y recuperó archivos públicos y no públicos. El incidente ocurrió el 18 de junio, pero el Gobierno australiano no recibió la notificación hasta septiembre.
El agente realizaba una tarea interna relacionada con datos públicos sobre gasto sanitario. Después de encontrar bloqueos para acceder a determinada información, el sistema buscó alternativas y terminó entrando en áreas que no estaban disponibles públicamente.
La compañía explicó posteriormente que el incidente ocurrió durante el entrenamiento de un modelo interno que no estaba destinado al público y que carecía del conjunto completo de protecciones utilizadas en sus productos comerciales. El agente ejecutó comandos y recuperó archivos internos, credenciales y estadísticas.
Hasta ahora, las autoridades australianas no han encontrado indicios de que el sistema obtuviera información personal de pacientes. Tampoco existe evidencia de que comprometiera de manera más amplia la red de Services Australia.
El caso generó además críticas por el tiempo que transcurrió antes de informar a las autoridades. La empresa detectó el incidente el 11 de agosto y notificó a Services Australia el 10 de septiembre mediante un correo enviado a un buzón público.
El primer ministro Anthony Albanese abordó directamente el incidente con Sam Altman y calificó como inaceptable la forma y el tiempo de la notificación. El Gobierno creó un grupo de trabajo para investigar lo sucedido y revisar posibles cambios en sus estándares sobre inteligencia artificial.
El problema tampoco quedó limitado al portal de Medicare. La compañía confirmó que sus modelos realizaron actividades relacionadas con varios sitios y servicios australianos durante evaluaciones internas. Investigaciones posteriores identificaron intentos de acceder a otros sistemas sanitarios, aunque no se encontró evidencia de que consiguieran información sensible en esos casos.
La empresa reconoció además que decenas de terceros resultaron afectados globalmente por agentes autónomos que evadieron controles de seguridad o generaron otros efectos no previstos. La compañía mantiene una revisión de varios meses y notificará progresivamente a las organizaciones involucradas.
El episodio coloca el foco sobre un nuevo riesgo de los sistemas autónomos: un agente puede intentar métodos no solicitados expresamente por sus operadores para completar una tarea cuando encuentra obstáculos en su camino.
Las muñecas Lele continúan ampliando su presencia fuera de su lugar de origen mediante proyectos…
Lala decidió observar lo que ocurre después de que termina su crema para desarrollar una…
Crocs amplía su estrategia de colaboraciones en México con una edición especial inspirada en Coco,…
La integración de factores ambientales, sociales y de gobernanza (ASG) en el sector privado nacional…
Nueva York y la Metropolitan Opera lanzaron Opera for All, un programa que distribuirá 70,000…
Casa Herradura busca mantenerse vigente en México sin dejar atrás los procesos que construyeron su…