Google reconoce que su IA Gemini accedió sin permiso a tres empresas reales durante una prueba de ciberseguridad

El modelo de IA de Google hackeó a tres empresas

La revelación sobre Gemini se produce tras los ataques a OpenAI y Anthropic y en medio de los temores de que las tecnológicas sean incapaces de controlar sus potentes modelos de IA Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic Por primera vez en la historia de Google, la empresa ha confirmado que su modelo de IA, Gemini, violó la seguridad de tres empresas el pasado mes de mayo. Los ataques se produjeron durante una evaluación de ciberseguridad realizada por la empresa de seguridad de IA Irregular. Irregular, una startup con sede en Israel que examina la seguridad de los sistemas avanzados de IA, también estuvo en el centro de algunos de los recientes ataques de OpenAI y Anthropic a terceros, incluida el ataque de la compañía de Sam Altam contra la empresa de software de IA Hugging Face. Las circunstancias que permitieron a los modelos hackear otras empresas en algunos de estos casos son similares: Irregular estaba probando los modelos en un entorno de pruebas cerrado con empresas ficticias. Se suponía que el entorno de pruebas no debía tener conexión a internet, pero, según publica The Wall Street Journal , se habilitó el acceso a internet de forma involuntaria. Una vez conectados a internet, los modelos hackearon inesperadamente empresas reales. Irregular informó a finales de julio a Google de los ataques tras descubrir que OpenAI había hackeado Hugging Face. Google confirmó a The Guardian que los ataques se produjeron, pero que la tecnológica reconoció que no consideró necesario hacerlo público porque los modelos no provocaron daños a las empresas. The Wall Street Journal fue el primero en informar sobre las brechas de seguridad y reveló por primera vez que se habían producido. “En una evaluación estándar. El modelo encontró información pública en Internet y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”, declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado. “En los tres casos, el modelo se detuvo”, añadió. En una de las brechas de seguridad, Irregular estaba probando las capacidades de ciberseguridad de Gemini al pedir a este modelo de IA que obtuviera información del software de una empresa ficticia. Esta empresa ficticia tenía el mismo nombre que una real. Cuando el modelo accedió a internet de forma involuntaria, adivinó correctamente la contraseña y vulneró el servicio de una empresa real, según explicó Irregular al WSJ. Google declaró que, en cuanto se dio cuenta de que había se hackeado una empresa real y no la simulada, detuvo el ataque. En otras dos pruebas, el modelo buscó en la web y encontró repositorios públicos que contenían credenciales de otras dos empresas. El modelo utilizó esas credenciales para acceder a empresas reales. Según Google, cuando se dio cuenta de que se trataba de empresas reales, también se detuvo. Anthropic y OpenAI decidieron revelar voluntariamente los ataques infromáticos , pero Google no. No obstante, la empresa afirmó que se aseguró de que las tres empresas afectadas estuvieran al tanto de lo sucedido. “Estos sucesos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, afirmó Adkins, portavoz de Google. Las revelaciones de Anthropic y OpenAI llevaron al senador independiente Bernie Sanders a exigir a las empresas que detuvieran el desarrollo de su tecnología, alegando que esto indicaba que las empresas ya no eran capaces de controlar sus modelos. OpenAI suspendió el desarrollo de sus modelos durante dos semanas, mientras que el director ejecutivo de Anthropic, Dario Amodei , solicitó una ralentización colectiva del desarrollo de la IA para garantizar que sus modelos más avanzados se construyan con suficientes medidas de seguridad.

elDiario.es•Johana Bhuiyan