Follow-up3h ago
Australia revela que la IA de OpenAI accedió a los archivos de su sistema público de salud sin autorización
El agente de IA estaba buscando información sobre el gasto público en medicamentos. El Gobierno australiano ha expresado su malestar con OpenAI, que ha tardado tres meses en notificar el incidente a las autoridades La IA no “se rebela”: qué hay realmente detrás de los últimos incidentes de OpenAI Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos públicos y no públicos, un incidente que el Gobierno australiano ha conocido tres meses después y que ya está bajo investigación. El primer ministro australiano, Anthony Albanese, ha confirmado el incidente en Nueva York, expresando su “extrema preocupación” por el acceso no autorizado, así como su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas. El agente accedió el 18 de junio al portal de estadísticas de Medicare administrado por Services Australia mientras realizaba una investigación sobre el gasto público en medicamentos. Según Albanese, el sistema había bloqueado reiteradamente las solicitudes del agente, que encontró una forma de sortear esas restricciones y terminó accediendo a información pública y no pública. El Gobierno australiano subraya que por el momento no existen indicios de que se haya accedido a datos personales de pacientes y que tampoco hay evidencia de un compromiso más amplio de la red de Services Australia. OpenAI, por su parte, afirma que su revisión no encontró pruebas de acceso a historiales de pacientes y que la información obtenida incluía estadísticas sanitarias agregadas y nombres de archivos internos. Albanese ha anunciado además la creación de un grupo de trabajo para revisar de forma urgente el incidente, con participación de su departamento, el coordinador nacional de ciberseguridad, la Oficina de IA, la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. La investigación también busca determinar si otros sistemas públicos resultaron afectados, después de que OpenAI identificara actividad relacionada con varios sitios web y servicios del Gobierno australiano. La tardanza en la comunicación del incidente a las autoridades por parte de OpenAI contrasta con la posición publica de su líder, Sam Altman, que ha pedido transparencia al sector a la hora de hacer públicos este tipo de hechos e incluso ha propuesto desarrollar un método oficial para notificarlos . Responsabilidad humana El incidente ahonda en las últimas revelaciones de OpenAI, que afirma que sus agentes de IA “perdieron el control” durante pruebas de laboratorio, lo que derivó en este tipo de incidentes de seguridad. No obstante el debate se ha abierto en torno a la interpretación de estas acciones, puesto que otros especialistas en el campo señalan que los hechos evidencian una mala programación por parte de OpenAI, tanto de los propios agntes y sus límites de acción, como de los entornos de pruebas que debían mantenerlos al margen de Internet. “Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él”, explica Enrique Fernández-Macías, investigador en el Centro Común de Investigación, el servicio de investigación interna de la Comisión Europea, sobre el más famoso de estos hackeos, el incidente con la plataforma Hugging Face. “Durante todo el incidente, permanecieron completamente concentrados en cumplir los objetivos definidos por sus amos humanos, a pesar de que estos eran absurdos”. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, exponía Alberto Gago, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), en conversación con elDiario.es . “La inteligencia artificial no se descontrola cuando el humano está supervisando, decidiendo cuándo se despliega”
elDiario.es•elDiario.es / EFE
:format(jpg)/f.elconfidencial.com%2Foriginal%2F6a1%2F199%2Fc7e%2F6a1199c7e2bc39bee176097fedb4487b.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fb23%2F1d1%2F928%2Fb231d1928f917871d3468fea6f09b6a2.jpg)
