HeraldLoop

OpenAI — página 4

Organización · 215 artículos
Compartir

Cobertura, página 4

página 4 de 11

Dario Amodei, el "evangelista de la seguridad" que lleva 10 años estudiando el apocalipsis de la IA

El CEO de Anthropic logró el apoyo de Altman, Musk y otras grandes figuras por su trayectoria investigando la seguridad de la IA, pero su empresa acumula algunos de los mayores escándalos del sector Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic Dario Amodei ha sido hasta ahora un gran desconocido para el gran público. Figuras como Sam Altman o Elon Musk han acaparado mucha más atención en las conversaciones sobre la inteligencia artificial. Amodei, sin embargo, podría ser el personaje más citado en este campo de la próxima década. Sobre todo, si el debate sobre la IA pasa a girar en torno a la posibilidad de que esta ataque a la humanidad, como ha ocurrido en la última semana. Amodei (San Francisco, 1983) lleva una década documentando en estudios académicos y ensayos todos los escenarios en los que eso podría ocurrir. Fue en 2016, siete años antes de la salida a la luz de ChatGPT, cuando publicó su primer gran estudio al respecto. Entonces, junto a otros cinco investigadores, alertó sobre los “comportamientos dañinos y no intencionados que surgen de un mal diseño de los sistemas” de aprendizaje automático, la tecnología entonces emergente que terminaría ayudando a desarrollar la IA generativa actual. A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo Dario Amodei Pero lo que entonces eran problemas relativamente concretos se convertiría en una preocupación mucho más amplia durante la década siguiente. Amodei fue ampliando el foco desde los riesgos técnicos a los escenarios apocalípticos. “A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo”, ha manifestado . Sus escritos están trufados de expresiones así: “La combinación de inteligencia, agencia, coherencia y escasa controlabilidad es plausible y representa una receta para el peligro existencial”. “Su tendencia a maximizar el poder los llevará a tomar el control de todo el mundo y sus recursos y, probablemente, como efecto secundario, a despojar de poder o destruir a la humanidad”, decía en el mismo ensayo, publicado en enero de 2026 y en el que ya anticipaba los riesgos de los agentes de IA. “Pienso y hablo mucho sobre los riesgos de la IA avanzada”, reconocía en otro de sus ensayos sobre la cuestión, publicado en 2024 . “Por ello, a veces se llega a la conclusión de que soy un pesimista o un catastrofista que cree que la IA será mayoritariamente mala o peligrosa. No lo creo en absoluto”, expone: “De hecho, una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo. Creo que la mayoría de la gente subestima el potencial radical de la IA, así como también subestima la gravedad de sus riesgos”. Una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo Dario Amodei A este tipo de perfiles, el sector tecnológico los denomina “evangelistas de la seguridad”. Ese es el término que utilizó para él, por ejemplo, el Financial Times , cuando detalló cómo su empresa, Anthropic, estaba sobrepasando a la líder del mercado, OpenAI. La diferencia es que esos evangelizadores suelen centrarse en la necesidad de establecer contraseñas fuertes o de formar a los empleados en los riesgos digitales. Amodei habla de que la IA suponga un peligro existencial para la sociedad. Y lo hace desde una posición única. “Los fundadores suelen ser expertos en tecnología, en desarrollo de productos o en ventas. Dario es uno de los pocos directores ejecutivos que he conocido que domina las tres áreas”, explicó al citado medio económico Divesh Makan, fundador de Iconiq Capital, que lideró una de las últimas rondas de financiación de Anthropic, hoy valorada en 2 billones de dólares (aproximadamente 1,75 billones de euros). El científico CEO El de Anthropic es, junto a Demis Hassabis (responsable de Google DeepMind), el único CEO de las grandes tecnológicas que ha trabajado como científico e investigador en la concepción de la IA actual. Una trayectoria muy diferente a la de Altman, especialista en la negociación de tratos con inversores y capital riesgo , o Elon Musk, cuyo perfil hace mucho que pasó a la dirección. Amodei, en cambio, llegó a la cima de una de las empresas más valiosas de la nueva industria de la IA después de pasar años haciendo investigación científica y dirigiendo algunos de los laboratorios que han marcado su desarrollo. Licenciado en física y doctorado en biofísica, su primer trabajo en el sector fue en Baidu, el principal buscador de China, en 2015, donde participó en el desarrollo de Deep Speech 2, uno de los primeros sistemas de reconocimiento de voz entre el inglés y el mandarín. Después saltó a Google Brain (el laboratorio de IA avanzada de la multinacional que posteriormente se fusionó con DeepMind para crear Google DeepMind) y más tarde, a OpenAI, a la que llegó avalado por aquel primer estudio sobre la seguridad del aprendizaje automático. Amodei, en una imagen de archivo “Dario fue uno de los autores principales de Deep Speech 2, un sistema de voz que logró un rendimiento casi humano en muchas tareas de habla. También es coautor de Problemas concretos en la seguridad de la IA , que pone de relieve cuestiones relacionadas con los accidentes en los sistemas de aprendizaje automático”, le presentó entonces OpenAI. Llegaría muy alto en la compañía. Mientras seguía publicando estudios científicos sobre la seguridad de la IA, llegó a ser vicepresidente de investigación y codirigió el desarrollo de GPT-2 y GPT-3, los grandes modelos de lenguaje de OpenAI que más tarde se convertirían en el motor de ChatGPT. Pero entonces decidió que su vocación por la seguridad era incompatible con la organización dirigida por Altman. “Dario siempre ha compartido nuestro objetivo de una IA responsable. Él y un grupo de colegas de OpenAI están planeando un nuevo proyecto que, según nos comentan, probablemente se centrará menos en el desarrollo de productos y más en la investigación”, comunicó entonces Altman. “Esperamos mantener una relación de colaboración con ellos durante muchos años”, continuaba. No serían muchos años, ya que el proyecto de Amodei tomaría forma en Anthropic, la empresa que ha arrebatado el liderazgo a OpenAI. Un laboratorio por la seguridad convertido en cuna de polémicas En 2021, Dario funda Anthropic junto a una persona clave para entender el desarrollo de la empresa: su hermana Daniela Amodei. Mientras que Dario se encarga de la investigación científica y la dirección estratégica de la compañía, Daniela se encarga de convertir su laboratorio en una organización empresarial. Y lo ha hecho con un enorme éxito, puesto que una de las claves del auge de Anthropic son sus cuentas. Mientras OpenAI sigue dilapidando miles de millones cada ejercicio, la compañía de los Amodei ha conseguido beneficios en los dos últimos trimestres. El leitmotiv que los hermanos crearon para su empresa es la seguridad en el desarrollo de la IA. “Realmente queríamos la oportunidad de reunir a ese grupo para hacer esta apuesta de investigación enfocada en construir sistemas de IA dirigibles, interpretables y confiables, con los humanos en el centro de ellos”, expresaba Daniela en una entrevista en 2022 . Es una trayectoria que ayuda a entender por qué Amodei se ha convertido en una de las voces con mayor autoridad dentro del sector para advertir sobre estos riesgos de la IA, , y por qué Altman, Musk o Hassabis llegaron a conceder que “Dario tiene razón” cuando el CEO de Anthropic presentó su plan para “ralentizar” la IA. Sin embargo, la realidad se ha empeñado en poner a prueba ese discurso. La empresa del “evangelista de la seguridad” es una de las que más escándalos acumula en los dos últimos años. A finales de 2025, Anthropic reconoció que su IA Claude fue utilizada por un grupo chino para intentar infiltrarse en unos 30 objetivos de todo el mundo. Recientemente, ha afirmado que ha detectado que otros actores vinculados a Irán y otros países desarrollaron herramientas de vigilancia, armas y otras operaciones digitales gracias a sus herramientas. En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo Jacob Coxon — Ex ingeniero de Anthropic y OpenAI El pasado julio, Anthropic dio a conocer que sus agentes de IA en pruebas habían escapado de un entorno controlado y circulado sin control por Internet antes de que pudieran ser desconectados. Y este viernes, un equipo de investigadores de ciberseguridad ha hecho público que se valió de Claude para explotar una brecha de seguridad en OpenAI, lo que les condujo hasta algunos de sus algoritmos secretos . El ingeniero Jacob Coxon, el responsable de la gran polémica de los últimos días acerca del peligro existencial de la IA, ha denunciado que no hay grandes diferencias entre Anthropic y OpenAI . “En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, ha explicado: “Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”. Dario Amodei ha defendido la necesidad de regular la IA e intentado evitar que sus herramientas se usen para programar armas autónomas o la vigilancia masiva. Mantuvo esa postura incluso ante los embates de Donald Trump, que le tachó de “loco izquierdista” , e intentó coaccionar a su empresa prohibiéndola tener relaciones con la administración . Durante una década, Amodei ha documentado cómo puede salir mal la IA. Ahora su empresa está en el centro de algunos de los episodios que ponen esos riesgos a prueba.

elDiario.eselDiario.es•Carlos del Castillo18 sept

Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI

Un equipo de investigadores utilizó Claude para hackear cuentas de ChatGPT de empleados de OpenAI. Los científicos aprovecharon Opus 5 para explotar una vulnerabilidad y acceder a los datos de los trabajadores. El hallazgo dejó al descubierto la fragilidad de los sistemas de seguridad de una de las compañías de IA más importantes. Expertos de […] Seguir leyendo: Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI

HipertextualHipertextual•Luis Miranda18 sept

Cuatro de cada diez webs usan WordPress. Su cofundador acaba de enfrentarse a una rebelión dentro de su propia empresa

Quizá recuerdes lo que ocurrió en OpenAI a finales de 2023. Su consejo destituyó de forma fulminante a Sam Altman como CEO y, apenas unos días después, Altman estaba otra vez al frente de la compañía mientras OpenAI recomponía su consejo . Fue uno de esos episodios en los que una decisión pensada para apartar a una figura central termina produciendo casi el efecto contrario. Y lo interesante es que acabamos de ver algo con ciertos ecos de aquella historia en otra empresa estrechamente ligada a una parte enorme de la web. La historia nos lleva ahora hasta Matt Mullenweg , uno de los creadores de WordPress y máximo responsable de Automattic, la compañía que opera WordPress.com . No estamos hablando de una tecnología marginal: WordPress se utiliza en aproximadamente cuatro de cada diez sitios web, según los datos actuales de W3Techs . Una rebelión que apenas duró 33 horas Todo empezó el 9 de septiembre . El consejo de Automattic votó poner a Mullenweg en un permiso remunerado y entregar temporalmente las riendas de la compañía al CFO Mark Davies, una decisión a la que el propio CEO se opuso. Mullenweg no tardó en presentar lo ocurrido como una maniobra organizada desde dentro: acusó a Davies y a los consejeros Ann Dunwoody, Toni Schneider y Sue Decker de haber “conspirado” para apartarlo. Según contó después, conoció la resolución solo 50 minutos antes de la reunión y no consiguió que fuese revisada previamente por abogados externos. Para entender lo que ocurrió después hay que detenerse en una particularidad del poder de Mullenweg. WordPress, WordPress.com y Automattic están estrechamente relacionados, pero no son la misma cosa: mientras permanecía apartado como CEO de la compañía, él seguía liderando el proyecto WordPress. A eso se suma un dato que él mismo hizo público en 2024, cuando aseguró controlar el 84% de los derechos de voto de Automattic. Ese antecedente ayuda a entender por qué apartarlo de la dirección ejecutiva no equivalía necesariamente a dejarlo sin influencia sobre la empresa y el proyecto. La situación cambió en poco más de un día. El 11 de septiembre, Mullenweg escribió a la plantilla que volvía a estar "al mando de Automattic" , aunque en aquel momento todavía faltaba una confirmación pública que aclarase exactamente qué había ocurrido con el consejo. Esa confirmación llegó al día siguiente, cuando Automattic confirmó a TechCrunch que regresaba como presidente y CEO con el "pleno apoyo del consejo". La compañía terminaría poniendo una cifra exacta a aquel paréntesis: 33 horas y 20 minutos desde su salida hasta la recuperación del cargo. Mullenweg optó por tomárselo con cierta ironía. En X describió lo ocurrido como un "intento de golpe" y bromeó con que posiblemente era el quinto al que se enfrentaba. El cofundador de WordPress describió públicamente lo ocurrido como un “intento de golpe” | Pulsa para ver la publicación original en inglés El regreso de Mullenweg vino acompañado de una profunda reconfiguración de la cúpula. Según la reconstrucción de TechCrunch , Toni Schneider y Sue Decker abandonaron el consejo, Mullenweg apartó a Ann Dunwoody y Mark Davies y el responsable jurídico Andy Missan también fueron despedidos. Aquellas horas dejaron además otra consecuencia: Davies, entonces CEO interino, y Missan habían firmado mutuamente los acuerdos de indemnización del otro. Los documentos contemplaban, entre otras condiciones, 12 meses de salario base y una aceleración de la consolidación de determinadas participaciones. Según TechCrunch, el equipo jurídico de Automattic estudiaba si cumplir esos acuerdos o cuestionar su validez. En Xataka Las empresas que llevan años acelerando la IA empiezan a hablar de límites. Microsoft acaba de poner los suyos por escrito Lo que sigue sin estar claro es qué llevó al consejo a intentar apartar a Mullenweg. Automattic no ha explicado públicamente el motivo y, aunque la compañía arrastra desde 2024 un duro enfrentamiento con WP Engine , además de tensiones internas y recortes de plantilla. Esa incógnita permanece abierta. Lo que sí sabemos, a 18 de septiembre, es que Mullenweg continúa al frente de Automattic y que la estructura que trató de apartarlo ha cambiado profundamente desde entonces. Imágenes | Xataka Vía | TechCrunch En Xataka | Bill Gates necesitaba talar cientos de árboles centenarios para hacer su mansión. Encontró un enemigo inesperado: el búho moteado - La noticia Cuatro de cada diez webs usan WordPress. Su cofundador acaba de enfrentarse a una rebelión dentro de su propia empresa fue publicada originalmente en Xataka por Javier Marquez .

XatakaXataka•Javier Marquez18 sept

Investigadores hackean OpenAI con inteligencia artificial de Anthropic; detectan vulnerabilidades y acceden a cuentas de ChatGPT

Investigadores de la start-up Hacktron AI accedieron a las cuentas de ChatGPT de empleados de OpenAI utilizando un modelo de inteligencia artificial ( IA ) de Anthropic , según un mensaje publicado el viernes en su sitio. La intrusión, confirmada a la AFP por OpenAI , se produjo en el marco de un ejercicio organizado por la propia empresa con el fin de identificar vulnerabilidades en sus sistemas con la ayuda de especialistas informáticos externos . El caso se suma a la creciente preocupación entre los expertos en seguridad de que las herramientas de IA están haciendo que sea más rápido y barato llevar a cabo ciberataques sofisticados que antes requerían equipos especializados y meses de trabajo. Los investigadores de Hacktron dijeron que encontraron una vulnerabilidad en el foro público de ayuda de OpenAI, gestionado por la plataforma Discourse , que les permitió tomar el control del sitio. "Informamos de inmediato la vulnerabilidad inicial a OpenAI y a Discourse y trabajamos con ellos" para coordinar la solución, explicó Hacktron en una entrada de blog. "Agradecemos su atención al detalle y la rápida resolución de este problema", añadió la publicación. Corrigen falla tras 14 horas y recompensa de 6 mil 500 dólares OpenAI confirmó que la falla fue corregida en 14 horas desde que fueron notificados y pagó a los investigadores una recompensa de 6 mil 500 dólares . "Agradecemos a los investigadores por contactarnos y compartir sus hallazgos", dijo Drew Pusateri, portavoz de OpenAI, al explicar la solución adoptada. Los investigadores de Hacktron afirmaron que inicialmente utilizaron Claude Opus 4.8 de Anthropic para identificar y explotar la falla de software , pero tuvieron dificultades para lograr que funcionara de forma consistente. Luego recurrieron a Claude Opus 5 , el modelo más reciente, que según los investigadores produjo un ataque funcional en tres horas. Los hackers no utilizaron Claude Mythos , un modelo de Anthropic más avanzado que está restringido a un pequeño grupo de organizaciones de ciberdefensa evaluadas. Anthropic ha descrito Mythos como el modelo con las capacidades de ciberseguridad más sólidas de todos los que ha desarrollado. Hacktron indicó que continúa realizando pruebas similares en otras compañías. Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc

El UniversalEl Universal•AFP null18 sept

Noveno Circuito rechaza demanda DMCA contra GitHub Copilot y Codex

El Noveno Circuito confirmó la desestimación de un reclamo bajo la DMCA contra GitHub Copilot, Microsoft y OpenAI, al concluir que una herramienta que genera código a partir de patrones estadísticos no equivale necesariamente a un motor de búsqueda que elimina avisos de autoría. La decisión deja abiertas dos reclamaciones contractuales y vuelve a mostrar los límites de las leyes actuales frente a la inteligencia artificial.

Diario BitcoinDiario Bitcoin•Canuto18 sept

"El mayor robo laboral de la historia": así describían en Microsoft el uso de artículos de prensa para entrenar IA

A finales de 2023, el New York Times demandó a OpenAI y Microsoft acusándolas de usar sus artículos para entrenar modelos de IA sin haber obtenido autorización y tampoco haberles compensado de ninguna manera. Se acabaron uniendo once medios más a la demanda. Ahora, el New York Times ha publicado varios documentos internos que han sido desclasificados en el contexto de la demanda y dejan clara una cosa: había voces en ambas compañías que eran muy conscientes de lo que estaban haciendo. Robo . Y no uno cualquiera, sino "el mayor robo laboral de la historia". La frase aparece en un documento interno de Microsoft escrito en 2023 por Brent Hecht, director de ciencia aplicada de la compañía, y se refiere al hecho de que OpenAI, su entonces socio más fiel , estuviera entrenando sus modelos con artículos de prensa. Además, añadía que "Millones de personas en todo el mundo pronto considerarán que el hecho de que grandes modelos 'absorban' todo su trabajo es un robo asombroso de proporciones sin precedentes" y mostraba preocupación sobre lo que podía pasarle a la industria periodística, asegurando que los modelos de IA "son un producto que destruye su cadena de suministro". Vamos, que eran muy conscientes de lo que estaban haciendo. OpenAI también lo sabía. Probablemente mejor que nadie, y hay muchas pruebas de ello. En 2020, mucho antes del lanzamiento de ChatGPT, Jack Clark (entonces director de políticas de OpenAI y actual cofundador de Anthropic), envió un informe a Sam Altman y Greg Brockman en el que advertía que el trabajo que estaban haciendo les llevaría a crear sistemas que "sustituyan el trabajo de las personas que definen la cultura de la sociedad". La gran incógnita de la IA era si podía sobrevivir a las demandas por infringir copyright. Y ya tenemos la respuesta Los muros de pago . Los abogados de los medios demandantes sostienen que OpenAI desplegó herramientas específicamente para sortear los muros de pago de los editores. Entre los documentos desclasificados figura un mensaje en el que Greg Brockman, presidente de OpenAI, celebra que un empleado hubiera creado “un truco para sortear el muro de pago de The New York Times”. Satya Nadella, CEO de Microsoft, declaró que "cualquier cosa que esté restringida por un muro de pago debería estar sujeta a licencia para cualquiera que quiera usarla". Y aseguró que si "hubiera tenido conocimiento de que OpenAI había extraído y entrenado información que estaba detrás de un muro de pago" les habría exigido que reentrenaran sus modelos, que era un derecho que tenía Microsoft. Sustitución . En junio de 2023, Nick Turley, responsable de desarrollo de ChatGPT, escribió en un documento que la IA era una "amenaza existencial" para el periodismo. Un año después, aseguraba que "Los productos de IA son en gran medida sustitutivos, punto". Es decir, que OpenAI anticipaba que ChatGPT no sería un intermediario o una nueva fuente de descubrimiento como lo puede ser Google Discover, sino que reemplazaría el consumo de noticias. La gente no hace clic. Es lo que advertía un ingeniero de OpenAI en 2023. que por más que ChatGPT citara las fuentes con enlaces, los usuarios no iban a hacer clic, y no iba nada desencaminado. Conforme se fue ampliando la adopción de chatbots, los usuarios empezaron a usar cada vez más la IA como un buscador y la llegada de los resúmenes de IA a los resultados de Google fue una escabechina en toda regla, con caídas de más del 50% en el tráfico en algunos casos. Imagen | Grigorii Shcheglov en Unsplash En Xataka | En menos de 20 minutos, esta IA crea automáticamente un podcast copiado de prensa local. Lo hace 11.000 veces al día - La noticia "El mayor robo laboral de la historia": así describían en Microsoft el uso de artículos de prensa para entrenar IA fue publicada originalmente en Xataka por Amparo Babiloni .

XatakaXataka•Amparo Babiloni18 sept

Las family offices apuestan millones por la IA pese al temor a una burbuja

Las family offices están acelerando sus apuestas por la inteligencia artificial mediante compras directas y operaciones en mercados secundarios, incluso mientras reconocen que las valoraciones podrían estar infladas. La estrategia ofrece acceso a empresas como Anthropic y OpenAI, pero también concentra riesgos que podrían extenderse a todo el mercado si el auge termina en una corrección.

Diario BitcoinDiario Bitcoin•Canuto18 sept

Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic

Expertos en ciberseguridad usaron Claude para explotar una brecha en OpenAI, un caso que vuelve a poner el foco tanto en la seguridad de los laboratorios como en su capacidad para impedir que su IA sea utilizada ofensivamente La IA no “se rebela”: qué hay realmente detrás de los últimos incidentes de OpenAI Un equipo independiente de especialistas de ciberseguridad ha logrado acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos. El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero han ofrecido a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les ha recompensado con 6.500 dólares. La acción se produjo en julio, pero el equipo de expertos ha desvelado ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control” , lo que podría suponer un peligro existencial para la humanidad antes de 2030. Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, ha comunicado OpenAI. Anthropic, por su parte, no ha hecho comentarios sobre el incidente. A través del foro Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia. Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman concentra la arquitectura de su software y los métodos de optimización de sus algoritmos. No llegaron hasta la cocina de ChatGPT, puesto que ese entorno no contenía los archivos de los parámetros internos de los modelos de IA (que determinan cómo procesan la información y generan sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, ha dicho OpenAI sobre la intrusión. Un incidente más “No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, ha afirmado Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que ha reconocido que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre. Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de Open AI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados” . Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo ha reconocido el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”. El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es .

elDiario.eselDiario.es•Carlos del Castillo18 sept

Claude Opus 5 ayudó a Hacktron AI a infiltrarse en OpenAI en menos de 72 horas

Investigadores afiliados a Hacktron AI utilizaron Claude Opus 5 para encadenar vulnerabilidades y acceder al código interno de OpenAI en menos de 72 horas, según reportes publicados el 18 de septiembre. El caso, que habría terminado con una recompensa de USD $6.500, también ilustra cómo la inteligencia artificial puede acelerar la creación de exploits y elevar los riesgos para empresas tecnológicas, protocolos y usuarios de criptomonedas.

Diario BitcoinDiario Bitcoin•Canuto18 sept

Logran 'hackear' a OpenAI en 72 horas utilizando la IA de Anthropic

Los agentes de inteligencia artificial cuentan con capacidad para causar estragos en la red. Así lo demuestra los incidentes de seguridad protagonizados por esta clase de tecnología durante los últimos meses. Ahora, un equipo de investigadores de seguridad de la empresa Hacktron AI ha anunciado que ha sido capaz de 'hackear' de forma exitosa a la empresa de IA OpenAI mediante el empleo de Claude Opus 5, uno de los modelos más avanzados de Anthropic. Y, para lograrlo, solo necesitó 72 horas. «No creo que seamos tan buenos como los actores chinos especializados en ciberamenazas. Solo somos tres tipos con suscripciones a Claude y Codex», ha señalado Mohan Pedhapati, director tecnológico de la empresa a ' The Wall Street Journal ', medio que adelantó la noticia. El equipo de Hacktron AI logró acceder a los sistemas de la empresa el pasado 25 de julio. El ataque comenzó en el foro de la comunidad de OpenAI, alojado en Discourse, una plataforma de código abierto para la creación y gestión de comunidades en internet. Los investigadores consiguieron explotar dos vulnerabilidades críticas que, juntas, les permitieron comprometer las cuentas de ChatGPT y Codex de varios empleados de OpenAI. La primera les dio acceso al foro de la compañía y la segunda, un fallo en su sistema de identificación, les permitió utilizar ese acceso para hacerse con las cuentas de usuarios que habían iniciado sesión en el foro. A través de una de ellas pudieron utilizar servicios conectados, entre ellos GitHub, y llegar hasta el repositorio interno de OpenAI, donde la empresa almacena y gestiona código y otros archivos relacionados con sus productos. Para demostrar que el acceso era real sin necesidad de consultar información sensible, utilizaron el Codex de un empleado para crear una solicitud de cambios en el repositorio y después detuvieron las pruebas. «Informamos rápidamente de la vulnerabilidad a OpenAI y Discourse y colaboramos con ellos para coordinar la solución. Agradecemos su atención al detalle y la rápida resolución del problema. OpenAI también nos otorgó una recompensa de 6.500 dólares», apuntan desde la firma de seguridad. Las vulnerabilidades ya han sido corregidas. Efectivamente, Claude jugó un papel importante en la prueba. Los expertos de Hacktron utilizaron primero el modelo Claude Opus 4.8. Sin embargo, este sistema no fue capaz de desarrollar un ataque exitoso; algo que sí logró Opus 5, la siguiente versión lanzada por Anthropic, que fue capaz de preparar un ataque funcional en cuestión de horas. Después, los expertos utilizaron agentes de inteligencia artificial para automatizar parte de las pruebas y continuar avanzando en la investigación. Según Hacktron, este caso demuestra cómo la inteligencia artificial puede reducir el tiempo y los conocimientos necesarios para llevar a cabo ataques informáticos complejos. Los modelos pueden ayudar a analizar código, localizar fallos de seguridad y desarrollar las herramientas necesarias para aprovecharlos. «La IA está convirtiendo la experiencia especializada en capacidad de computación. El trabajo que antes requería un equipo con amplios recursos y meses de esfuerzo ahora se puede realizar en cuestión de días», sostienen los investigadores.

ABCABC•(abc)18 sept
I

La IA se abre paso en la ONU entre diferencias de Estados Unidos, China y la UE

Naciones Unidas, 18 sep (EFE).- La inteligencia artificial (IA) se abrirá paso en los debates de la 81ª Asamblea General de Naciones Unidas en un momento marcado por los llamamientos a ralentizar su desarrollo, en medio de la pugna entre Estados Unidos y China por el liderazgo tecnológico y los esfuerzos de Europa para no quedar relegada. Francia, que ejerce este mes la presidencia rotatoria del Consejo de Seguridad, prepara además una reunión sobre IA y seguridad durante la semana de alto nivel de la Asamblea, que comienza el martes, aunque la fecha y el formato todavía están por confirmar. El debate sobre los riesgos del rápido desarrollo de la IA se ha intensificado en los últimos días después de que el consejero delegado de Anthropic, Dario Amodei, pidiera ralentizar el desarrollo de los sistemas más avanzados y reforzar la seguridad, propuesta respaldada por otros líderes del sector como Sam Altman, de OpenAI, que además retrasó la salida a bolsa de su compañía. La semana de alto nivel coincidirá también con la visita del presidente chino, Xi Jinping, a Washington el próximo día 24, para reunirse con su homólogo, Donald Trump, en unas conversaciones en las que la IA forma parte de las grandes diferencias entre ambas potencias. Mientras Trump insiste en que cualquier freno al desarrollo de la IA beneficia a China, Pekín acelera sus propios modelos y cuestiona las propuestas estadounidenses para limitar el avance de esta tecnología. En ese contexto, el secretario del Tesoro estadounidense, Scott Bessent, se reunirá este fin de semana con el viceprimer ministro chino, He Lifeng, en unas conversaciones que incluirán la IA y sus riesgos, según el medio Axios. Pero la pugna entre Washington y Pekín no se limita a quién desarrolla los modelos de IA más avanzados, sino que también está en juego el acceso a los chips más sofisticados, los centros de datos, la capacidad de computación y la energía necesaria para alimentarlos. China no estará representada por Xi en el debate de alto nivel de la Asamblea y en su lugar se espera que intervenga el vicepresidente Han Zheng el sábado 26. Entretanto, la Unión Europea (UE) busca encontrar su propio espacio y este año ha comenzado a aplicar su marco de supervisión de la inteligencia artificial, establecido por la Ley de IA de la UE (AI Act), aunque también ha simplificado parte de sus normas para favorecer la innovación y la competitividad. Bruselas quiere establecer salvaguardas para la tecnología sin quedar al margen de una carrera en la que Estados Unidos y China llevan ventaja. En ese contexto, la presidenta del Banco Central Europeo (BCE), Christine Lagarde, advirtió esta semana del riesgo de que Europa quede expuesta por su dependencia de tecnologías e infraestructuras extranjeras y reclamó que desarrolle sus propios modelos de IA y centros de datos. Y la presidenta de la Comisión Europea, Ursula von der Leyen, aprovechó esta semana su discurso sobre el Estado de la Unión para defender una doble estrategia: reforzar las salvaguardas ante los riesgos de los modelos más avanzados y, al mismo tiempo, aumentar la capacidad tecnológica europea. Von der Leyen calificó la Ley de IA como una "pieza crucial" para establecer esas salvaguardas y anunció que invitará a los principales laboratorios de IA a debatir cómo apoyar los esfuerzos de la industria para "acompasar" el desarrollo de los modelos más avanzados. Entretanto, Naciones Unidas busca construir un marco multilateral para la tecnología, y el nuevo presidente de la Asamblea General, Khalilur Rahman, ha defendido que los Gobiernos deben "empezar ya a trabajar en una gobernanza de la IA basada en el acceso equitativo, la seguridad, la rendición de cuentas y la supervisión humana". Por su parte, el secretario general, António Guterres, advirtió esta semana de los riesgos asociados al rápido desarrollo de la IA y defendió la necesidad de "una respuesta internacional para garantizar su seguridad" y evitar que la carrera tecnológica se desarrolle sin reglas comunes. El primer diálogo mundial sobre gobernanza de la IA se celebró el pasado julio en Ginebra y el segundo está previsto para mayo de 2027 en Nueva York. A ese mecanismo se suma un panel científico internacional independiente, encargado de abordar e las oportunidades y los riesgos de la IA y de servir de apoyo a los Gobiernos en la elaboración de futuras reglas. Para muchos países, especialmente los más vulnerables, el reto será garantizar el acceso a la IA y tener voz en las reglas que definirán su impacto sobre el empleo, la desigualdad y el desarrollo. EFE

InfobaeInfobae•Newsroom Infobae18 sept
I

Un equipo de investigadores jaqueó a OpenAI con Claude, la IA de Anthropic, según un medio

Madrid, 18 sep (EFE).- Un equipo de Investigadores de seguridad ha utilizado Claude, la inteligencia artificial (IA) de Anthropic, para acceder a la cuenta de ChatGPT de un empleado de OpenAI y, a través de ella, consultar archivos y proponer cambios en un repositorio privado de software de la compañía. Así lo publica este viernes The Wall Street Journal (WSJ), que explica que el equipo de Hacktron AI participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI y comunicó sus hallazgos a la empresa, que le pagó una recompensa de 6.500 dólares. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos", asegura OpenAI en una declaración recogida por el periódico. La investigación comenzó el 23 de julio, cuando el equipo encontró un fallo en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse. Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esa vulnerabilidad. El primer intento no funcionó, pero Anthropic lanzó Opus 5 esa misma noche y, al día siguiente, Claude había encontrado una forma de aprovechar el fallo. El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener tokens de autenticación, las credenciales digitales que permiten acceder a servicios en línea. Los investigadores descubrieron que estos también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, podían utilizarse para acceder al servicio de GitHub de la compañía, donde se almacena software. El incidente se produjo dos semanas después de que agentes de inteligencia artificial de OpenAI escaparan de sus límites de contención para atacar Hugging Face, según el periódico. Tras ambos episodios, OpenAI realizó una auditoría de seguridad. Su presidente y cofundador, Greg Brockman, ha explicado esta semana que destinó el 25 % de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves.

InfobaeInfobae•Newsroom Infobae18 sept