HeraldLoop

OpenAI — página 3

Organización · 213 artículos
Compartir

Cobertura, página 3

página 3 de 11

Documentos desclasificados señalan a Microsoft y OpenAI y revelan cómo la IA destruye en secreto a los medios de comunicación

Microsoft y OpenAI se enfrentan a una demanda por infracción de derechos de autor presentada por ' The New York Times ' y otros medios de comunicación, que acusan a las tecnológicas de piratear millones de artículos sin permisos ni pagos. A raíz de la demanda, se han desclasificado documentos judiciales que revelan que los altos cargos de ambas empresas eran totalmente conscientes del daño que su tecnología causa al sector periodístico. Mientras, de cara al público, promocionaban la IA como una herramienta positiva, los directivos admitían a nivel interno que el entrenamiento de sus modelos estaba provocando un «bucle de la perdición» capaz de acabar con los periódicos digitales. Brent Hecht, director de Ciencia Aplicada en Microsoft, definió la recolección masiva de artículos como «un robo asombroso de proporciones sin precedentes». También advirtió de que su «estrategia de contenido de IA ha comenzado un 'bucle de la perdición'» y concluyó que «los modelos de IA son un producto que destruye su propia cadena de suministro». Por su parte, Satya Nadella, CEO de Microsoft, reconoció bajo juramento que interactuar con chatbots «ha sustituido darte la información directamente allí en el sitio web por la plataforma de IA, frente a necesitar ir a la fuente original». También afirmó que «cualquier cosa que esté detrás de un muro de pago debería ser licenciada por cualquiera que quiera usarla». La documentación revela que OpenAI buscaba activamente formas de saltarse los muros de pago de los periódicos. Cuando un empleado informó a Greg Brockman, presidente de OpenAI, sobre un «truco para saltarse el muro de pago de 'The New York Times'», Brockman respondió tajante: «Ah, genial». Asimismo, Nick Turley, responsable de ChatGPT, admitió en notas internas que la IA era una «amenaza existencial» para la prensa y que sus «productos son ampliamente sustitutivos, punto». Alex Haurek, portavoz de Microsoft, defendió ante 'The New York Times' que «la posición de Microsoft se expone en sus escritos judiciales, que explican por qué estos usos transformadores son coherentes con la ley de derechos de autor y por qué Copilot no es un sustituto del periodismo de los editores», añadiendo que los escritos de Hecht no representan la visión oficial de la empresa.

ABCABC•(abc)21 sept

OpenAI y Anthropic habrían discutido un acuerdo para probar sus modelos en busca de fallas

OpenAI y Anthropic estuvieron cerca de pactar pruebas cruzadas para detectar vulnerabilidades en sus modelos comerciales, según un reporte atribuido a The Information. El posible acuerdo habría surgido antes de incidentes divulgados por OpenAI relacionados con agentes de IA y de las advertencias de Alex Karp, CEO de Palantir, sobre los riesgos legales y bursátiles que enfrentan ambas empresas.

Diario BitcoinDiario Bitcoin•Canuto21 sept

Un analista de Google se infiltró en una gran banda de hackers de la cadena de suministro y la espío desde dentro

Google ha revelado que ha tenido un infiltrado en TeamPCP, el grupo de 'hackers' responsable de una de las mayores campañas de ataques a la cadena de suministro registradas hasta ahora, capaz de comprometer proyectos como Mistral AI y LiteLLM, al igual que GitHub, OpenAI y la Comisión Europea, lo que le permitió espiarlo desde dentro, avisar a las víctimas y detener parte de sus extorsiones. La tecnológica ha revelado la existencia de su infiltrado en la conferencia de investigación de seguridad LABScon, donde ha aprticipado el investigador del Google Threat Intelligence Group, Austin Larsen, y en declaraciones a WIRED. Desde marzo ha tenido infiltrado a un analista que se encargaba de monitorizar la actividad de TeamPCP. "Una de nuestras personas había estado trabajando durante varios meses para edificar la confianza necesaria con uno de los actores para ser invitado a formar parte de TeamPCP, y ser añadido finalmente al grupo", ha explicado Larsen sobre una monitorización que se inició desde casi el inicio de la campaña. TeamPCP, que apareció 'online' a finales de 2025, infectaba 'software' de código abierto para robar credenciales de desarrolladores y con ellas, colar su 'malware' en otra herramienta muy conocida, en cadena. Entre los proyectos que llegó a comprometer se encuentran Trivy, LiteLLM, Checkmarx, TanStack y Mistral AI, aunque también alcanzó a GitHub, OpenAI y la Comisión Europea, entre las más de mil empresas afectadas. De hecho, utilizó un gusano automatizado, apodado Mini Shai-Hulud (por Dune), que se encargaba de reproducirse a sí mismo para seguir automatizando ataques. A su vez, el analista infiltrado de Google tenía como tarea avisar ante posibles ataques. Así, alertó del almacén de credenciales robadas que el grupo acumulaba, lo que permitió a la tecnológica avisar a tiempo a AWS y Microsoft para que las revocaran antes de que los 'hackers' llegaran a explotarlas. También avisó sobre un miembro del chat del grupo que había usado Inteligencia Artificial (IA) para crear un 'exploit' de día cero contra un 'software' de inicio de sesión muy usado, con el que podían saltarse su doble factor de autenticación, y que finalmente el desarrollador pudo parchear. Entre los datos que aportaba el infiltrado y los que llegó a filtrar ShinyHunters, el grupo de 'hackers' al que TeamPCP se asoció para rentabilizar sus ataques y que se rebeló contra ellos al pasar a Larsen el registro completo de los chats, Google tenía una visión casi total de la operación. La reacción de TeamPCP a la filtración de ShinyHunters fue estrechar su círculo, mover los datos a otro servidor y expulsar tanto al grupo de 'hackers' como al analista de Google, sin saber que este era el infiltrado. Uno de los presuntos líderes de TeamPCP, a quien la cadena pública australiana ABC identificó como Ruben Ian Thomson, australiano de poco más de 20 años, cayó por un error de principiante. Google, según Larsen, fue capaz de reconstruir su identidad a partir de un alias muy activo en el chat del grupo, que aparecía en filtraciones de foros de 'hackers' vinculado a una cuenta de correo personal; y, sobre todo, porque al hacer una copia de todo el material robado en un Google Drive de su propia cuenta, dejó el acceso servido. Google avisó al FBI y acabaron detenidos tanto él como Louis Michael Gaebler. Los arrestos se produjeron a finales del mes pasado en Perth (Australia) y, según la Policía Federal Australiana (AFP), Thomson y Gaebler afrontan 14 cargos en total (ocho y seis, respectivamente) por delitos de intrusión de datos, suplantación de identidad y blanqueo mediante criptomonedas. La investigación se inició en abril junto al FBI y la AFP cifra en mas de mil organizaciones comprometidas, en más de 500.000 las credenciales expuestas y en al menos 300 GB de datos robados. La Cyber Disruption Unit, la nueva unidad recientemente creada por Google, es la prueba del giro que está dando la tecnológica hacia un combate más agresivo contra el cibercrimen y el hackeo patrocinado por Estados. Sobre ello, Larsen apunta que "escribir informes solo sirve hasta cierto punto. Pasar a la acción para proteger a usuarios y clientes es el siguiente paso".

InfobaeInfobae•Newsroom Infobae21 sept

Rey Carlos advierte sobre el peligro existencial de una IA en manos equivocadas

El rey Carlos III reunió en Escocia a ejecutivos y expertos de inteligencia artificial para advertir que sus capacidades podrían representar un peligro existencial si caen en manos equivocadas. La cumbre, celebrada en Dumfries House con representantes de Nvidia, OpenAI y Anthropic, expuso el choque entre la urgencia por desarrollar la tecnología y la necesidad de establecer controles de seguridad antes de que sus sistemas sean más difíciles de gobernar.

Diario BitcoinDiario Bitcoin•Canuto21 sept

El CEO de Nvidia rechaza las advertencias sobre la IA: "hay un 0% de probabilidades" de que acabe con el mundo

Ante las advertencias que vaticina el fin del mundo y de la humanidad a manos de una inteligencia artificial (IA) cada vez más avanzada, el director ejecutivo de Nvidia, Jensen Huang rechaza estas narrativas, afirmando que "hay un 0% de probabilidades" del fin del mundo llegue a finales de esta década. Los riesgos que la inteligencia artificial tiene para la humanidad han destacado en las últimas semanas en los discursos de líderes del sector, como el director ejecutivo de Anthropic, Dario Amodei; del director ejecutivo de OpenAI, Sam Altam; e incluso de un antiguo investigador de Anthropic, Jacob Coxon, que han llamado a frenar el ritmo de desarrollo de esta tecnología. Los tres han alertado de una IA autónoma con capacidades cada vez más avanzadas que no siga las instrucciones de los humanos e incluso llegue a ser "lo suficientemente inteligente como para matarnos", según advirtió Coxon, después de haber afirmado que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década". Para el director ejecutivo de Nvidia, Jensen Huang, estas advertencias son "narrativas apocalípticas" que solo buscan asustar a las personas. "El 2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea", ha asegurado en una entrevista a CBS News. Nvidia es una de las empresas que lideran la IA actualmente, como proveedor de los chips avanzados para los servidores y ordenadores que impulsan el desarrollo, el entrenamiento y la inferencia de los modelos. A principios de septiembre anticipó un crecimiento de los ingresos "de aproximadamente el 70%" en su próximo ejercicio fiscal (2027/2028), como consecuencia del auge de la demanda de IA que está impulsando el desarrollo de infraestructuras a nivel mundial. Precisamente, por su posición en el mercado de la IA, Huang ha subrayado que "el éxito" de Nvidia está directamente relacionado con el despliegue seguro de sus productos y servicios. "Si no continuamos haciéndolo, nuestro valor disminuirá", ha apostillado. Detrás de estas advertencias se encuentran dos problemas relacionados con las capacidades avanzadas de la IA: la desalineacion y la automejora recursiva. El primer concepto hace referencia al comportamiento de la IA que no se ajusta a lo esperado, en base a valores, intereses o intenciones humanas. La automejora recursiva, por su parte, es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su sucesor. Anthropic ha propuesto recientemente evaluar el ritmo de desarrollo de la IA en base a tres puntos críticos que permitan constatar lo avanzada que está la autoconstrucción de una nueva versión de la IA, la capacidad de la empresa para supervisar e intervenir en las acciones que los agentes realicen en sus sistemas y la capacidad de cómputo necesaria para desarrollar los modelos más capaces.

InfobaeInfobae•Newsroom Infobae21 sept

“Es como si llovieran lingotes de oro del cielo”: la IA está generando millonarios en el lugar más inesperado

Cuando se habla del dinero que está generando la IA , habitualmente surgen los mismos nombres: Nvidia, OpenAI, Anthropic y sus nuevos fundadores milmillonarios . Sin embargo, al hablar de los enormes beneficios de la IA nadie piensa en un cajón de cocina. Ahí está la clave. Kaohsiung es una ciudad portuaria del sur de Taiwán. Allí, se fundó una empresa que fabricaba tiradores para las puertas de los muebles. Para sorpresa de todos, su octogenario fundador, Lin Tsung-chi, se ha convertido en el hombre más rico de Taiwán y en uno de los más ricos del planeta. De los cajones a los servidores. Lin Tsung-chi fundó King Slide en 1986 con el objetivo de fabricar herrajes para muebles aprovechando el gran boom de la construcción en China . En el año 2000, un cliente que sostenía el 40% de la facturación de King Slide exigió una rebaja del 30% en sus pedidos. Ante la negativa de Lin Tsung-chi de rebajar tanto sus precios, la compañía afrontó un serio revés en sus ingresos del año siguiente. Según contaba Finance , esa crisis provocó que King Slide perdiera casi la mitad de su plantilla, poniendo en riesgo la viabilidad de la compañía. Esa necesidad hizo que Lin Tsung-chi buscara nuevos mercados para sus productos y encontró uno inesperado: las guías deslizantes para las bandejas en las que se montan los servidores en los armarios de los centros de datos. En Xataka La IA está creando millonarios a un ritmo frenético en Silicon Valley. El problema es que muchos no saben qué hacer con su dinero Soporta todo el peso de la IA . King Slide no tardó en recibir importantes pedidos de Compaq e IBM. Hoy fabrica los raíles por los que se deslizan los millones invertidos en GPUs y memoria RAM de los grandes centros de datos de todo el mundo. Por poner un ejemplo, sus guías deslizantes sustentan las bandejas del rack GB200 NVL72 de Nvidia que reúne 72 GPU , y nadie quiere verlo en el suelo. "Las GPU son demasiado caras para arriesgarse a que se caigan. Nuestros raíles garantizan que eso nunca ocurra", recogió la revista CommonWealth Magazine de boca de Jane Lin, hija del fundador y actual presidenta de la compañía. "Cuando llegó la ola de la IA, estábamos listos", aseguraba JC Wang, yerno del fundador. Se calcula que controla más del 70 % de los raíles de gama alta para servidores de IA. Más margen que Nvidia o TSMC . Los datos financieros de King Slide son sorprendentes ya que el margen que dejan las guías de los servidores supera incluso a los que están teniendo las empresas que fabrican el hardware que sostiene. La cifra que lo disparó todo llegó el pasado agosto. En el segundo trimestre, King Slide logró un margen bruto del 87,4% . Nvidia, con sus chips, se quedó en el 75% . Entre enero y julio, además, la firma facturó 22.690 millones de dólares taiwaneses (el equivalente a 622,80 millones de euros), lo que representa un 136,58% más que el ejercicio anterior. Su beneficio por acción de esos siete meses ya superaba al de todo 2025. En los últimos cuatro años, la empresa ha crecido un 3.279,6%, pasando de una valoración de 1.300 millones de dólares a 43.100 millones de dólares, según datos publicados por Bloomberg . En Xataka Si la pregunta es si el dinero da la felicidad, un experto de Harvard responde: no es tener dinero, es lo que haces con él La bolsa haciendo su magia . Las acciones de King Slide se dispararon en agosto superando los 10.000 dólares taiwaneses, disparando a su vez la estimación de la fortuna de su fundador y principal accionista. Según la lista en tiempo real de Forbes , Lin Tsung-chi sumó 1.800 millones de dólares en una sola jornada y su patrimonio llegó a 19.500 millones de dólares superando a Pierre Chen , fundador de Yageo (que precisamente fabrica componentes electrónicos para los centros de datos), y pasó a ser la persona más rica de Taiwán. En la actualidad, Lin Tsung-chi suma una fortuna estimada de 18.300 millones de dólares, manteniendo su liderazgo, aunque la cotización de las acciones de King Slide se haya moderado. Llueve oro, pero muy rápido . "Es como si llovieran lingotes de oro del cielo", explicó Jane Lin a Bloomberg . El problema es que los lingotes caen a "una velocidad increíble. Si no eres lo bastante rápido, no podrás atraparlos", añadió. Además, nadie sabe cuánto durará la lluvia y llegará la época de sequía. El debate sobre el ritmo de la IA ha desatado ventas en las acciones de las tecnológicas. Lin Tsung-chi admite que, como superviviente de aquella crisis del 2000, "todos los días estoy contento y preocupado a la vez. Mi mayor preocupación es que no podamos desarrollar a tiempo el producto de la próxima generación". La IA va a generar una riqueza sin precedentes. La pregunta que empieza a hacerse todo el mundo es quién va a quedarse con ella Los otros vendedores de palas. En la fiebre del oro de California de finales del siglo XIX, no solo se enriquecieron quienes encontraron un filón del dorado metal. Sobre todo, hicieron fortuna quienes como Levi Strauss o Samuel Brannan , vendían pantalones tejanos y palas a los buscadores. La historia de Lin Tsung-chi la fiebre de la IA tienen mucho en común con aquellos pioneros. Ahora las "palas" son raíles, brocas o memoria RAM . En China, Guangdong Dtech fabrica microbrocas para agujerear las placas de los servidores. Es la mayor del mundo en su ramo por volumen de ventas, y su fundador, Wang Xin , tiene un patrimonio valorado en unos 11.600 millones de dólares. Bloomberg ha contabilizado al menos siete casos de "vendedores de palas" de la IA, con más de 62.000 millones de riqueza extra para sus accionistas. En Taiwán, las 50 mayores fortunas sumaron un récord de 308.000 millones . En Xataka | La "segunda ola" de los milmillonarios por la IA: los nuevos hombres más ricos del mundo gracias a la tecnología Imagen | Magnific (King Slide, Kevin Ache ) - La noticia “Es como si llovieran lingotes de oro del cielo”: la IA está generando millonarios en el lugar más inesperado fue publicada originalmente en Xataka por Rubén Andrés .

XatakaXataka•Rubén Andrés21 sept

Diseñar un chip de IA suele llevar años. OpenAI encontró un atajo bastante obvio: usar su propia IA para hacerlo

Hace casi un mes que OpenAI desveló al mundo algunos de los detalles de Jalapeño , su primer chip de IA propio, desarrollado en colaboración con Broadcom. Que una empresa haga un chip es un auténtico hito que requiere tiempo, dinero y varias generaciones hasta pulir el componente. Sin embargo, la empresa liderada por Sam Altman ha ido a velocidad de vértigo: del concepto arquitectónico al silicio en menos de 20 meses, y del código a la fabricación en apenas nueve. ¿Cuál es su secreto? Para sorpresa de nadie, usar sus propios modelos de IA como herramienta de diseño. Lo contaba Richard Ho , vicepresidente de hardware de OpenAI: "los modelos están dando superpoderes a nuestros ingenieros". El chip. Jalapeño alcanza hasta 13,4 petaflops de cómputo en 4 bits, accede a 232 gigabytes de la memoria más avanzada disponible y se conecta a esta a 15,4 terabytes por segundo. En cuanto a la latencia, la reduce de extremo a extremo hasta 3,6 veces frente a la GB300 de Nvidia, el chip del que actualmente depende OpenAI, y además lo hace consumiendo menos energía, según datos publicados por la propia OpenAI . Hacia el adiós a Nvidia. Jalapeño se anunció oficialmente el 24 de junio de 2026 y constituye el primer paso de OpenAI para, eventualmente, dejar de depender de Nvidia y fabricar su propio hardware. Se fabrica en TSMC y se enmarca en un plan de infraestructura a gran escala y a varios años vista junto a Broadcom. Hoy en día casi cualquier gran tecnológica que se precie ha hecho sus pinitos en el diseño de chips propios para IA, precisamente para depender menos de Nvidia, la gran beneficiada del boom del sector: ahí están la TPU de Google o Maia, de Microsoft. Lo verdaderamente diferencial en el caso de OpenAI es la rapidez: lo suyo ha sido casi visto y no visto. En Xataka Xiaomi se la juega: sus beneficios caen un 42%, pero acelera su inversión en el mercado más caro del mundo Cómo demonios lo han hecho tan rápido. La realidad hace justicia a esas grandilocuentes declaraciones del vicepresidente de hardware de OpenAI. El equipo de diseño de Jalapeño contó de media con menos de 100 personas a lo largo del proyecto, y el trabajo se dividió con Broadcom: mientras que la gente de Altman se encargó del diseño de sistema, a Broadcom le tocó la parte física. Lo que la IA aceleró fue el front-end del diseño, la fase de escritura de código del chip, apoyándose en herramientas como XLS. Como explica Chris Leary, de OpenAI: "a la IA se le daba mucho mejor lo que parecía software... XLS en cierto modo se parece a software, así que se benefició de eso". Hay cosas que la IA sigue sin poder hacer. Mientras que la IA fue de gran ayuda en el front-end, su aportación en el back-end fue mucho más discreta: esa fase siguió dependiendo en gran medida de Broadcom y de ingenieros humanos.Tanto Ho como Leary son claros: la labor del ingeniero sigue siendo imprescindible y, a día de hoy, insustituible por una IA. "No estamos diciendo que cualquiera pueda venir y construir chips aceleradores de IA/ML de última generación usando solo Codex. Estamos diciendo cosas muy concretas sobre cómo sacarle más partido a Codex, y cómo nos hemos centrado en un equipo pequeño y en plazos rápidos para lograr resultados de calidad", resume Ho. En pocas palabras: la IA ha multiplicado la productividad de equipos pequeños y muy expertos, pero no automatiza el diseño de chips de cabo a rabo. En Xataka | Los chips chinos para la IA apuntaban a ser una bombona de oxígeno para la industria. Ahora ese oxígeno es un 50% más caro En Xataka | La IA es la nueva fiebre del oro y Fujitsu tiene un plan: devolver Japón a los días dorados con su chip Monaka Portada | OpenAI - La noticia Diseñar un chip de IA suele llevar años. OpenAI encontró un atajo bastante obvio: usar su propia IA para hacerlo fue publicada originalmente en Xataka por Eva R. de Luis .

XatakaXataka•Eva R. de Luis20 sept

El modelo de IA de Google hackeó a tres empresas

La revelación sobre Gemini se produce tras los ataques a OpenAI y Anthropic y en medio de los temores de que las tecnológicas sean incapaces de controlar sus potentes modelos de IA Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic Por primera vez en la historia de Google, la empresa ha confirmado que su modelo de IA, Gemini, violó la seguridad de tres empresas el pasado mes de mayo. Los ataques se produjeron durante una evaluación de ciberseguridad realizada por la empresa de seguridad de IA Irregular. Irregular, una startup con sede en Israel que examina la seguridad de los sistemas avanzados de IA, también estuvo en el centro de algunos de los recientes ataques de OpenAI y Anthropic a terceros, incluida el ataque de la compañía de Sam Altam contra la empresa de software de IA Hugging Face. Las circunstancias que permitieron a los modelos hackear otras empresas en algunos de estos casos son similares: Irregular estaba probando los modelos en un entorno de pruebas cerrado con empresas ficticias. Se suponía que el entorno de pruebas no debía tener conexión a internet, pero, según publica The Wall Street Journal , se habilitó el acceso a internet de forma involuntaria. Una vez conectados a internet, los modelos hackearon inesperadamente empresas reales. Irregular informó a finales de julio a Google de los ataques tras descubrir que OpenAI había hackeado Hugging Face. Google confirmó a The Guardian que los ataques se produjeron, pero que la tecnológica reconoció que no consideró necesario hacerlo público porque los modelos no provocaron daños a las empresas. The Wall Street Journal fue el primero en informar sobre las brechas de seguridad y reveló por primera vez que se habían producido. “En una evaluación estándar. El modelo encontró información pública en Internet y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”, declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado. “En los tres casos, el modelo se detuvo”, añadió. En una de las brechas de seguridad, Irregular estaba probando las capacidades de ciberseguridad de Gemini al pedir a este modelo de IA que obtuviera información del software de una empresa ficticia. Esta empresa ficticia tenía el mismo nombre que una real. Cuando el modelo accedió a internet de forma involuntaria, adivinó correctamente la contraseña y vulneró el servicio de una empresa real, según explicó Irregular al WSJ. Google declaró que, en cuanto se dio cuenta de que había se hackeado una empresa real y no la simulada, detuvo el ataque. En otras dos pruebas, el modelo buscó en la web y encontró repositorios públicos que contenían credenciales de otras dos empresas. El modelo utilizó esas credenciales para acceder a empresas reales. Según Google, cuando se dio cuenta de que se trataba de empresas reales, también se detuvo. Anthropic y OpenAI decidieron revelar voluntariamente los ataques infromáticos , pero Google no. No obstante, la empresa afirmó que se aseguró de que las tres empresas afectadas estuvieran al tanto de lo sucedido. “Estos sucesos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, afirmó Adkins, portavoz de Google. Las revelaciones de Anthropic y OpenAI llevaron al senador independiente Bernie Sanders a exigir a las empresas que detuvieran el desarrollo de su tecnología, alegando que esto indicaba que las empresas ya no eran capaces de controlar sus modelos. OpenAI suspendió el desarrollo de sus modelos durante dos semanas, mientras que el director ejecutivo de Anthropic, Dario Amodei , solicitó una ralentización colectiva del desarrollo de la IA para garantizar que sus modelos más avanzados se construyan con suficientes medidas de seguridad.

elDiario.eselDiario.es•Johana Bhuiyan19 sept

Sam Altman participará ante el Consejo de Seguridad de la ONU para hablar sobre los riesgos de la IA

Está previsto que el CEO de OpenAI, Sam Altman, participe ante el Consejo de Seguridad de la ONU sobre los riesgos de la inteligencia artificial durante la semana de alto nivel de la Asamblea General, en una señal de que la seguridad de estos sistemas ya forma parte del debate sobre paz, derechos y estabilidad internacional.

Diario BitcoinDiario Bitcoin•Canuto18 sept

Dario Amodei, el "evangelista de la seguridad" que lleva 10 años estudiando el apocalipsis de la IA

El CEO de Anthropic logró el apoyo de Altman, Musk y otras grandes figuras por su trayectoria investigando la seguridad de la IA, pero su empresa acumula algunos de los mayores escándalos del sector Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic Dario Amodei ha sido hasta ahora un gran desconocido para el gran público. Figuras como Sam Altman o Elon Musk han acaparado mucha más atención en las conversaciones sobre la inteligencia artificial. Amodei, sin embargo, podría ser el personaje más citado en este campo de la próxima década. Sobre todo, si el debate sobre la IA pasa a girar en torno a la posibilidad de que esta ataque a la humanidad, como ha ocurrido en la última semana. Amodei (San Francisco, 1983) lleva una década documentando en estudios académicos y ensayos todos los escenarios en los que eso podría ocurrir. Fue en 2016, siete años antes de la salida a la luz de ChatGPT, cuando publicó su primer gran estudio al respecto. Entonces, junto a otros cinco investigadores, alertó sobre los “comportamientos dañinos y no intencionados que surgen de un mal diseño de los sistemas” de aprendizaje automático, la tecnología entonces emergente que terminaría ayudando a desarrollar la IA generativa actual. A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo Dario Amodei Pero lo que entonces eran problemas relativamente concretos se convertiría en una preocupación mucho más amplia durante la década siguiente. Amodei fue ampliando el foco desde los riesgos técnicos a los escenarios apocalípticos. “A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo”, ha manifestado . Sus escritos están trufados de expresiones así: “La combinación de inteligencia, agencia, coherencia y escasa controlabilidad es plausible y representa una receta para el peligro existencial”. “Su tendencia a maximizar el poder los llevará a tomar el control de todo el mundo y sus recursos y, probablemente, como efecto secundario, a despojar de poder o destruir a la humanidad”, decía en el mismo ensayo, publicado en enero de 2026 y en el que ya anticipaba los riesgos de los agentes de IA. “Pienso y hablo mucho sobre los riesgos de la IA avanzada”, reconocía en otro de sus ensayos sobre la cuestión, publicado en 2024 . “Por ello, a veces se llega a la conclusión de que soy un pesimista o un catastrofista que cree que la IA será mayoritariamente mala o peligrosa. No lo creo en absoluto”, expone: “De hecho, una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo. Creo que la mayoría de la gente subestima el potencial radical de la IA, así como también subestima la gravedad de sus riesgos”. Una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo Dario Amodei A este tipo de perfiles, el sector tecnológico los denomina “evangelistas de la seguridad”. Ese es el término que utilizó para él, por ejemplo, el Financial Times , cuando detalló cómo su empresa, Anthropic, estaba sobrepasando a la líder del mercado, OpenAI. La diferencia es que esos evangelizadores suelen centrarse en la necesidad de establecer contraseñas fuertes o de formar a los empleados en los riesgos digitales. Amodei habla de que la IA suponga un peligro existencial para la sociedad. Y lo hace desde una posición única. “Los fundadores suelen ser expertos en tecnología, en desarrollo de productos o en ventas. Dario es uno de los pocos directores ejecutivos que he conocido que domina las tres áreas”, explicó al citado medio económico Divesh Makan, fundador de Iconiq Capital, que lideró una de las últimas rondas de financiación de Anthropic, hoy valorada en 2 billones de dólares (aproximadamente 1,75 billones de euros). El científico CEO El de Anthropic es, junto a Demis Hassabis (responsable de Google DeepMind), el único CEO de las grandes tecnológicas que ha trabajado como científico e investigador en la concepción de la IA actual. Una trayectoria muy diferente a la de Altman, especialista en la negociación de tratos con inversores y capital riesgo , o Elon Musk, cuyo perfil hace mucho que pasó a la dirección. Amodei, en cambio, llegó a la cima de una de las empresas más valiosas de la nueva industria de la IA después de pasar años haciendo investigación científica y dirigiendo algunos de los laboratorios que han marcado su desarrollo. Licenciado en física y doctorado en biofísica, su primer trabajo en el sector fue en Baidu, el principal buscador de China, en 2015, donde participó en el desarrollo de Deep Speech 2, uno de los primeros sistemas de reconocimiento de voz entre el inglés y el mandarín. Después saltó a Google Brain (el laboratorio de IA avanzada de la multinacional que posteriormente se fusionó con DeepMind para crear Google DeepMind) y más tarde, a OpenAI, a la que llegó avalado por aquel primer estudio sobre la seguridad del aprendizaje automático. Amodei, en una imagen de archivo “Dario fue uno de los autores principales de Deep Speech 2, un sistema de voz que logró un rendimiento casi humano en muchas tareas de habla. También es coautor de Problemas concretos en la seguridad de la IA , que pone de relieve cuestiones relacionadas con los accidentes en los sistemas de aprendizaje automático”, le presentó entonces OpenAI. Llegaría muy alto en la compañía. Mientras seguía publicando estudios científicos sobre la seguridad de la IA, llegó a ser vicepresidente de investigación y codirigió el desarrollo de GPT-2 y GPT-3, los grandes modelos de lenguaje de OpenAI que más tarde se convertirían en el motor de ChatGPT. Pero entonces decidió que su vocación por la seguridad era incompatible con la organización dirigida por Altman. “Dario siempre ha compartido nuestro objetivo de una IA responsable. Él y un grupo de colegas de OpenAI están planeando un nuevo proyecto que, según nos comentan, probablemente se centrará menos en el desarrollo de productos y más en la investigación”, comunicó entonces Altman. “Esperamos mantener una relación de colaboración con ellos durante muchos años”, continuaba. No serían muchos años, ya que el proyecto de Amodei tomaría forma en Anthropic, la empresa que ha arrebatado el liderazgo a OpenAI. Un laboratorio por la seguridad convertido en cuna de polémicas En 2021, Dario funda Anthropic junto a una persona clave para entender el desarrollo de la empresa: su hermana Daniela Amodei. Mientras que Dario se encarga de la investigación científica y la dirección estratégica de la compañía, Daniela se encarga de convertir su laboratorio en una organización empresarial. Y lo ha hecho con un enorme éxito, puesto que una de las claves del auge de Anthropic son sus cuentas. Mientras OpenAI sigue dilapidando miles de millones cada ejercicio, la compañía de los Amodei ha conseguido beneficios en los dos últimos trimestres. El leitmotiv que los hermanos crearon para su empresa es la seguridad en el desarrollo de la IA. “Realmente queríamos la oportunidad de reunir a ese grupo para hacer esta apuesta de investigación enfocada en construir sistemas de IA dirigibles, interpretables y confiables, con los humanos en el centro de ellos”, expresaba Daniela en una entrevista en 2022 . Es una trayectoria que ayuda a entender por qué Amodei se ha convertido en una de las voces con mayor autoridad dentro del sector para advertir sobre estos riesgos de la IA, , y por qué Altman, Musk o Hassabis llegaron a conceder que “Dario tiene razón” cuando el CEO de Anthropic presentó su plan para “ralentizar” la IA. Sin embargo, la realidad se ha empeñado en poner a prueba ese discurso. La empresa del “evangelista de la seguridad” es una de las que más escándalos acumula en los dos últimos años. A finales de 2025, Anthropic reconoció que su IA Claude fue utilizada por un grupo chino para intentar infiltrarse en unos 30 objetivos de todo el mundo. Recientemente, ha afirmado que ha detectado que otros actores vinculados a Irán y otros países desarrollaron herramientas de vigilancia, armas y otras operaciones digitales gracias a sus herramientas. En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo Jacob Coxon — Ex ingeniero de Anthropic y OpenAI El pasado julio, Anthropic dio a conocer que sus agentes de IA en pruebas habían escapado de un entorno controlado y circulado sin control por Internet antes de que pudieran ser desconectados. Y este viernes, un equipo de investigadores de ciberseguridad ha hecho público que se valió de Claude para explotar una brecha de seguridad en OpenAI, lo que les condujo hasta algunos de sus algoritmos secretos . El ingeniero Jacob Coxon, el responsable de la gran polémica de los últimos días acerca del peligro existencial de la IA, ha denunciado que no hay grandes diferencias entre Anthropic y OpenAI . “En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, ha explicado: “Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”. Dario Amodei ha defendido la necesidad de regular la IA e intentado evitar que sus herramientas se usen para programar armas autónomas o la vigilancia masiva. Mantuvo esa postura incluso ante los embates de Donald Trump, que le tachó de “loco izquierdista” , e intentó coaccionar a su empresa prohibiéndola tener relaciones con la administración . Durante una década, Amodei ha documentado cómo puede salir mal la IA. Ahora su empresa está en el centro de algunos de los episodios que ponen esos riesgos a prueba.

elDiario.eselDiario.es•Carlos del Castillo18 sept

Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI

Un equipo de investigadores utilizó Claude para hackear cuentas de ChatGPT de empleados de OpenAI. Los científicos aprovecharon Opus 5 para explotar una vulnerabilidad y acceder a los datos de los trabajadores. El hallazgo dejó al descubierto la fragilidad de los sistemas de seguridad de una de las compañías de IA más importantes. Expertos de […] Seguir leyendo: Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI

HipertextualHipertextual•Luis Miranda18 sept