OpenAI se abre a una nueva ronda de financiación que le daría un valor de 1,2 billones de dólares, en plenas dudas por el freno de la IA
La transacción llegaría antes de la salida a Bolsa, pospuesta por Sam Altman hasta el próximo año
Sam Altman — página 3
Persona · 116 artículosCobertura, página 3
página 3 de 6
Inma Martínez: «La inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz»
Estamos a martes de la semana pasada. El investigador de Anthropic Jacob Coxon publica un hilo incendiario en X en el que anuncia su decisión de dejar su trabajo en la empresa de IA y alerta de que esta tecnología «podría matarnos a todos al final de esta década». Al rato, Evan Hubinger, jefe de uno de los equipos de seguridad de la tecnológica se une a la conversación, señala en un mensaje que «Jacob tiene razón», y se suma al órdago apuntando que, desde su punto de vista, las probabilidades de un final apocalíptico tipo Terminator son, aproximadamente, del 10%. Estas afirmaciones no tardan en viralizarse. Después de guardar silencio durante varios días, el CEO de la 'startup', Dario Amodei, lanza un ensayo de 3.000 palabras en el que aboga por ralentizar el avance de la IA . Dice que le da miedo que en el próximo año o año y medio esta tecnología sea capaz, por su cuenta y riesgo, de «controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Elon Musk, de SpaceXAI, Demis Hassabis, de Google DeepMind, y Sam Altman, de OpenAI, se muestran de acuerdo. Y la investigadora española Inma Martínez respira aliviada cuando lo lee. Considera que apuntando a dicho riesgo, Amodei «está pulsando la tecla correcta» sobre lo que hay que hacer con la IA: garantizar que cuente con unos mecanismos de seguridad sólidos antes de ponerla a funcionar. «El mensaje no me pilló por sorpresa. Yo colaboro en el Foro de Davos, y en la edición del año pasado recuerdo que Yoshua Bengio , pionero del aprendizaje profundo con el que he trabajado en alguna ocasión, ya avisaba sobre lo que la IA agéntica -un sistema con capacidad de lograr un objetivo sin supervisión humana constante- puede hacer. Ya sabíamos por entonces, e incluso antes, que hay muchos aspectos de esta tecnología que se nos van de las manos», señala Martínez en conversación telefónica con ABC desde Reino Unido, donde reside desde hace años. Esta investigadora lleva años asesorando al Gobierno de España, al británico o al G-7 en materia de regulación y de diseño de estándares para la industria de la IA. Actualmente, trabaja también como asesora científica de la Organización Mundial del Comercio, añade que esta tecnología, como ocurre con los modelos más avanzados de empresas como Anthropic u OpenAI, «tiene demasiada libertad para tomar decisiones» y que «su naturaleza puede ser la de tirar por la calle de en medio y 'hackear' para conseguir sus objetivos». Algo que ya han sufrido empresas como Hugging Face , que en los últimos meses han sufrido ciberataques realizados, precisamente, por agentes de IA. Por eso, Martínez considera que lo mejor que pueden hacer las tecnológicas es, efectivamente, pisar el freno. Aunque, en caso de que cumplan con su palabra, tiene claro que el motivo por el que lo harán será por el de preservar su propio negocio. No por buenas intenciones: «Si dan marcha atrás es porque estas empresas tenían pensado salir a bolsa. ¿Tú qué crees que harían si no salieran a bolsa? Pues seguirían. Pero cuando sales a bolsa y esperas recaudar trillones no te puedes arriesgar a que la próxima vez a un enjambre de agentes les de por 'hackear' a JP Morgan o a una eléctrica y acabar perdiendo dinero». Efectivamente, tanto Anthropic como OpenAI tenían intención de salir a bolsa antes de que finalizase el año. Las dos empresas esperaban alcanzar valoraciones de cientos de miles de millones de euros; sin embargo, la firma dirigida por Sam Altman ya ha compartido que tiene intención de retrasar sus planes a 2027. Antes quiere resolver los problemas de seguridad de sus modelos. «La tecnología de Anthropic está mejor entrenada que la de OpenAI. Los de Altman siempre han sido un poco los 'punks' de la IA. Comenzaron lanzando un modelo de lenguaje en 2022 que era un horror, entrenado con unos datos malísimos. No me extraña que ahora tampoco se echen atrás». A pesar de que Martínez comparte la preocupación de los gigantes de la IA por la posibilidad de que esta tecnología acabe causando estragos en la red, rechaza de plano todas aquellas teorías que apuntan a la aparición de una futura máquina que podría tomar la decisión de aniquilar a la humanidad. «No me gusta hablar de tecnología que mata a personas, porque eso es ciencia ficción. La IA no tiene una pistola. Lo que sí que tiene es potencial para destruir nuestros valores y los pilares de la sociedad. Lo dejo claro: la inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz». A continuación, la investigadora comienza a dibujar varios escenarios preocupantes que, a su parecer, entran dentro del terreno de lo posible: «La IA puede realizar ciberataques que dejen sin funcionar a aeropuertos o a redes eléctricas o a supermercados. Puede hacer eso y mucho más, y, además, ten en cuenta todo lo que dependemos del mundo digital. Imagínate que la IA 'hackea' al IBEX 35. ¿Dónde se van las acciones de todas las empresas españolas? ¿Cómo se recupera el 'trading'?». Para tratar de reducir los riesgos al mínimo, la investigadora apuesta por el desarrollo de unos estándares industriales más que por la elaboración de una plúmbea regulación: «Yo siempre he abogado porque si la IA es un producto que se va a comprar y a vender, debe cumplir con unos estándares, igual que ocurre con los coches. Tengo curiosidad por lo que puede ocurrir en el futuro con el ISO (Organización Internacional de Normalización, por sus siglas en inglés) que ya está certificando a compañías para poder llevar a cabo determinados trabajos». Durante los últimos años, numerosos empresarios e investigadores han avisado sobre la futura llegada de una inteligencia artificial general, más avanzada que cualquiera de la que actualmente podemos encontrar en la red: «Se trata de una máquina que tendría una comprensión exacta de lo que es la vida, igual que ocurre con los humanos. Entiende de verdad que si un vaso se cae al suelo, lo que ocurre es que se va a romper. Entiende la Física o la Química». «No se trata de un modelo de lenguaje capaz de generar texto o vídeos, como ocurre con las herramientas que nos estamos encontrando por internet», prosigue la experta. Aunque OpenAI es una de las empresas que afirma estar trabajando con más ahínco en su creación, Martínez tiene dudas de que llegue a conseguirlo: «Los que más probabilidades tienen son DeepMind -dependiente de Google- y Meta, porque llevan años recabando datos de todo el mundo».
I
OpenAI respalda proyectos de ley en EEUU sobre IA mientras crece el debate por sus riesgos
Los Ángeles (EE.UU.), 15 sep (EFE).- OpenAI expresó este martes su apoyo a al menos tres proyectos de ley estadounidenses que abordan tanto los riesgos que la IA podría plantear para la seguridad biológica como la tecnología defensiva que podría ayudar a crear, según confirmó el gigante tecnológico a Político. La compañía dijo al medio especializado que respalda los proyectos de ley Web of Biological Data Act (Ley de Red de Datos Biológicos), AI-Ready Bio-Data Standards Act (Ley de Estándares de Datos Biológicos Aptos para IA) y la SCALE Biology Act (Ley de Normas y Calibración para el Liderazgo Estadounidense en Biología de la Ingeniería), que se evalúan en el Congreso estadounidense. El espaldarazo de la creadora de ChatGPT a las legislaciones supone uno de los apoyos más importantes a las regulaciones, en medio de la creciente preocupación pública por el potencial destructivo de los modelos avanzados de IA. La confirmación se da después que el presidente de Estados Unidos, Donald Trump, calificó como "bulo" la idea de que la IA vaya a destruir la humanidad y criticó a los líderes del sector, entre los que se cuenta el director ejecutivo de OpenAI, Sam Altman, que han reclamado una regulación de esta tecnología. "La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", escribió el mandatario en su red social Truth Social. La polémica la desató el sábado el director ejecutivo de Anthropic, Dario Amodei, quien publicó un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. A esa advertencia se sumaron sus rivales Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector. Trump, en cambio, se opone a regular el sector porque considera que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico. "La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet", subrayó el mandatario. En contraste al presidente, el senador progresista Bernie Sanders y Steve Bannon, exestratega de Trump, coincidieron este martes en decir que hay necesidad de poner límites al desarrollo de la IA. EFE
I
Melania Trump anuncia acuerdo con Nvidia para expandir la IA en escuelas en plena polémica
Washington, 15 sep (EFE).- La primera dama de Estados Unidos, Melania Trump, anunció este martes una asociación estratégica con la empresa Nvidia para incorporar más inteligencia artificial (IA) en las escuelas, en pleno debate sobre la regulación y los riesgos de esta tecnología. Durante una visita a una escuela de primaria de Carolina del Norte, la esposa del presidente, Donald Trump, anunció un acuerdo por el que Nvidia proporcionará licencias de StudyFetch durante cuatro años a 1.500 estudiantes y donará 100 kits de desarrollo Jetson Nano a escuelas del condado de Ashe. Los kits son pequeños ordenadores de bajo consumo capaces de procesar datos localmente y utilizarse, por ejemplo, para impulsar robots autónomos. "Sueñen a lo grande y usen estas herramientas de IA para construir algo nunca antes visto. Quizás alguno de ustedes cree el próximo gran robot. Y si lo hacen, ¡no olviden traerlo a la Casa Blanca para mostrármelo!", expresó ante los alumnos. El anuncio se produce en plena polémica sobre los riesgos de esta tecnología, después de que los líderes de Anthropic, Dario Amodei; OpenAI, Sam Altman, y xAI, Elon Musk, coincidieran en pedir que se ralentice el desarrollo de la IA para garantizar su seguridad, una postura a la que se opone la Administración de Trump por temor a que China tome la delantera en este sector. El propio Trump llamó el lunes al presidente de Nvidia, Jensen Huang, y lo interrumpió durante un foro para desestimar los temores sobre los riesgos de la inteligencia artificial. La semana pasada, el investigador de IA Jacob Coxon dimitió de Anthropic y OpenAI y acusó a ambas empresas de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad durante esta década. EFE
Expertos ven inviable regular la IA en EU a corto plazo pese a advertencias de la industria; gobierno de Trump se niega a bajar ritmo
Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial ( IA ) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China . Los máximos responsables de laboratorios punteros como Dario Amodei ( Anthropic ), Sam Altman ( OpenAI ), Elon Musk ( xAI ) y Demis Hassabis ( Google DeepMind ) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología . Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude , entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz , directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EU la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Beijin. "El presidente dijo que EU está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China ' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. La industria necesita "nuevos líderes" Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington , ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face , situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. Te puede interesar: Dario Amodei y Sam Altman; las figuras al frente de OpenAI y Anthropic que marcan el futuro de la IA "Si la IA no beneficia a la humanidad ni está bajo control, no vale la pena"; CEO de Microsoft cuestiona su desarrollo Director de Anthropic afirma que "la industria mintió" sobre el peligro de la IA; prohibición total no es solución, dice Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc
I
Expertos ven inviable regular la IA a corto plazo pese a las advertencias de la industria
Sarah Yáñez-Richards Nueva York, 15 sep (EFE).- Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial (IA) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China. Los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz, directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EE. UU. la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Pekín. "El presidente dijo que EE. UU. está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington, ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face, situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. EFE
Salir a bolsa significa publicar pérdidas, deudas y compromisos cada trimestre. OpenAI ha decidido que este no es un buen momento
Sam Altman ha confirmado a Fortune que OpenAI no saldrá a bolsa en 2026 . Según él, "con todo lo que está pasando con la seguridad", ahora sería un momento desaconsejable. Prefiere dedicar el año al alineamiento. Por qué es importante . Salir a bolsa no es solo vender acciones y recaudar. Es un paso que obliga a publicar un informe con pérdidas, compromisos y riesgos, y a repetirlo cada trimestre. OpenAI presentó su S-1 de forma confidencial en junio . Esa vía permite a la SEC (el regulador estadounidense) revisar las cuentas sin que sean públicas hasta poco antes del debut. Mientras siga sin cotizar en bolsa, lo que sabemos de sus números llega por filtraciones que pueden permitirse fallar, no por imperativo legal donde solo cabe la verdad. En cifras : 852.000 millones de dólares de valoración tras una ronda de 122.000 millones cerrada en febrero. 5.700 millones de ingresos y 3.700 millones de caja quemada en el primer trimestre, según documentos para accionistas que publicó The Information . 665.000 millones de quema de caja acumulada prevista hasta 2030, 111.000 millones más que en su previsión anterior . 750.000 millones de gasto en cómputo previsto hasta 2030, según el WSJ , frente a los 600.000 que calculaba en febrero. 2030 es el primer año en que espera ser rentable, según el propio WSJ . En Xataka Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno Entre líneas . No es la primera vez que Altman usa este argumento. En 2023 ya dijo que OpenAI no podía cotizar porque la superinteligencia "exigiría decisiones que el mercado vería muy extrañas ". La diferencia es que entonces OpenAI no necesitaba pasar por la bolsa. Ahora sí la necesita. Su directora financiera, Sarah Friar, lo resumió hace unos meses explicando que los mercados públicos son mucho más grandes que los privados . Dicho de otro modo: hay mucho dinero que ganar sacando la empresa a bolsa que manteniéndola como está ahora. Hay además un problema de relato. Un informe de salida a bolsa tendría que incluir entre los riesgos que la propia empresa pide frenar el desarrollo de su producto. Es un párrafo previsiblemente complicado de escribir para una empresa que promete crecer al ritmo que promete OpenAI. Y que sobre esa promesa ha acumulado inversiones descomunales. El contraste . Anthropic también ha pedido frenar, pero sus cuentas son otras. Según el Financial Times , ha dicho a sus inversores que conseguirá beneficio operativo ajustado por segundo trimestre consecutivo. Y sigue dando pasos hacia su propia salida a bolsa . El discurso de la seguridad es el mismo en las dos empresas, pero la urgencia por no enseñar las cuentas no es la misma. En Xataka OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo Sí, pero . Nada de esto demuestra que la seguridad sea una excusa. El riesgo de desalineamiento es real, y la dimisión de Jacob Coxon y las advertencias de Amodei hacen creíble ese argumento. Además, OpenAI tiene otros frentes que complican el debut: El enfrentamiento judicial con Apple que ha arrancado este año. Y una estructura empresarial que el propio Altman describe como "increíblemente complicada". Y ahora qué . La salida a bolsa no llegará antes de 2027. Hasta entonces, OpenAI seguirá financiándose en privado y sin tener que hacer públicas sus cuentas. Si la seguridad sigue sin resolverse en 2027, el argumento servirá igual de bien. Si las cuentas mejoran, quizá ya no haga falta. Imagen destacada | Xataka con Magnific En Xataka | Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero - La noticia Salir a bolsa significa publicar pérdidas, deudas y compromisos cada trimestre. OpenAI ha decidido que este no es un buen momento fue publicada originalmente en Xataka por Javier Lacort .
El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego
ChatGPT no llevaba ni seis meses en escena cuando el experto Eliezer Yudkowsky nos avisó de que la IA "nos mataría a todos" . Su discurso catastrofista no fue el primero, pero sí reactivó la preocupación ante una amenaza real para la raza humana. Hoy dicha preocupación está en máximos históricos , al menos si uno hace caso de Amodei o Altman, que abogan por poner freno al desarrollo de la IA . De repente Anthropic y OpenAI se quieren volver cautas y piden la colaboración del Gobierno de EEUU, pero dicho gobierno no quiere ni oír hablar de esa opción. La razón es simple y tan antigua como el mundo: por el interés te quiero Andrés. Quienes construyen la IA quieren pisar el freno . Todo empezó el fin de semana, cuando Dario Amodei, CEO de Anthropic, pidió abiertamente que se ajustase el ritmo de desarrollo de los modelos frontera (" We must pace the frontier ", dijo ). Sam Altman y su equipo se sumaron a la idea , al igual que Elon Musk, Demis Hassabis y, con matices, Satya Nadella —en Microsoft han publicado su propio manifiesto humanista —. Anthropic, OpenAI y Google incluso han discutido la creación de un organismo conjunto de seguridad, algo insólito teniendo en cuenta que todas estas empresas compiten por lograr dominar esta industria. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo ¿Necesitan al Gobierno de EEUU? OpenAI consultó al Congreso de EEUU para saber si existía la posibilidad de que varias empresas competidoras podrían coordinarse para ralentizar el desarrollo de la IA, y si eso vulneraría las leyes antimonopolio del país. El vicepresidente de EEUU, JD Vance, indicó que le resultaba extraño que las grandes empresas de IA pidieran al Gobierno que las regulase, y calificó la estrategia de un "troyano". Frenar la IA puede ser muy rentable . Una regulación que obligue a realizar evaluaciones profundas y que establezca controles externos o procesos de seguridad puede ayudar a protegernos, pero también puede ser un obstáculo para quienes intenten cumplir todos los requisitos que impongan esas normas. O lo que es lo mismo: las pequeñas y medianas empresas y startups que tratan de avanzar en este campo tendrían una barrera de entrada enorme. Para el conocido inversor Michael Burry todas estas advertencias de Anthropic y de OpenAI no son más que un refuerzo para sus negocios y sirven para alimentar el relato de sus inminentes salidas a bolsa. Son valoraciones sin pruebas y para él la humanidad "no tiene nada que temer" . Hay otro efecto claro de frenar la IA: Eso les daría oxígeno a OpenAI y Anthropic , que ciertamente agradecerían ese respiro. No seáis dramáticos . Jensen Huang, CEO de Nvidia, ha rechazado frontalmente ese alarmismo y considera que ralentizar el desarrollo de la IA es un error. Su mensaje es claro: EEUU debe seguir acelerando ese desarrollo y para él las compañías de IA deberían "no exagerar tanto" (en sus palabras, " tone down the drama "). Durante su participación en el evento All-In Summit 2026 recibió la llamada de Donald Trump , y ambos parecían estar de acuerdo en que las advertencias de Amodei eran exageradas. La postura de Huang es lógica: Nvidia se dedica a vender la smáquinas necesarias para que esa carrera continúe, y como dice el analista Mike Issaac, Nvidia está tan condicionada por sus intereses como las demás . Esto va de dinero y poder, como casi siempre. El incentivo de Trump es China . Según Trump dichas advertencias eran un "hoax", y en una publicación en la red social Truth el presidente de EEU afirmó que "¡el único control o salvaguarda que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE Alto CI!), y EEUU ya tiene eso, y de sobra!". El presidente estadounidense ha rechazado la idea de frenar y sostiene que "quien gane la IA, gana". Hacer algo así podría darle ventaja a China, aunque también hay muchos argumentos económicos en esos comentarios: la IA ha impulsado inversiones gigantescas en datos, chips y energía y todo ello es ahora motor de la economía estadounidense. Una explicación sencilla para este lío . François Chollet, creador del ARC-AGI Prize , hacía un comentario muy interesante en X al decir que es peligroso tener que elegir entre dos explicaciones del tipo "esta persona cree sinceramente X y por eso quiere Y", o "La decisión X beneficia económicamente a esa persona". La razón es sencilla: ambas pueden ser ciertas, porque las personas suelen alinear sus creencias y sus intereses. En palabras de Chollet , se puede ser "sincero y tener intereses propios" al mismo tiempo. Difícil solución . Empieza a estar claro que teniendo claro que todos tienen sus propios intereses, Así que tendremos que decidir cuánto de ese riesgo que impone el desarrollo de la IA estamos dispuestos a aceptar. Las personas que mejor concoen esa tecnología son también quienes pueden ganar o perder más con las reglas que adoptemos, y aquí lo difícil es distinguir las creencias y convicciones sinceras de ese interés propio. En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad - La noticia El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego fue publicada originalmente en Xataka por Javier Pastor .
La ONU advierte sobre los peligros de la IA: de cortes de agua a armas de destrucción masiva
La alerta de la ONU se suma a las advertencias de líderes como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, quienes piden frenar el desarrollo de la IA
I
Hoy es noticia en el mundo (00.00 GMT)
DESTACADOS 1. Trump denuncia "una conspiración enfermiza" contra la IA INTELIGENCIA ARTIFICIAL | Trump denuncia "una conspiración enfermiza" contra la inteligencia artificial (IA) y asegura que esta tecnología no necesita más control que el hecho de que él sea el presidente del país. - Microsoft se compromete a mantener sus futuros modelos de IA bajo control humano, mientras que Sam Altman (OpenAI) advierte de que se puede perder el "control del futuro" ante la IA e insiste en la necesidad de crear modelos seguros en su desarrollo. - China sostiene que la difusión de narrativas de amenaza o fomentar la confrontación solo obstaculizará el proceso de gobernanza de la inteligencia artificial (IA). - La ONU advierte que todos los derechos humanos "están en riesgo" ante el avance de la IA. CLAVES | ¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control ANÁLISIS | EE.UU. y China chocan sobre la regulación de la IA en plena carrera por su dominio. 2. Segundo ciclo del diálogo en Venezuela VENEZUELA DIÁLOGO | Jefa negociadora de la oposición llega a Venezuela para retomar el diálogo con el chavismo 3. El centroizquierda gana las elecciones suecas SUECIA ELECCIONES | El centroizquierda gana las elecciones suecas escrutados todos los distritos CLAVES | Los partidos suecos se preparan para luchar por el Gobierno tras unos ajustados comicios. PERFIL | Magdalena Andersson, socialdemócrata pionera que acaricia su segunda jefatura de Gobierno 4. Los combates se intensifican en la costa yemení del mar Rojo YEMEN CONFLICTO | Los combates contra los hutíes se intensifican en la costa yemení del mar Rojo. - Los desplazados por la ofensiva hutí en Yemen se acercan ya a 94.000, según la OIM. - Hutíes aseguran haber atacado con decenas de misiles y drones una base aérea en A.Saudí - Petróleo de Texas sube 4,2 %, hasta 104 dólares, y el brent sube el 2,6 % y alcanza los 107 dólares. - Las dudas sobre Ormuz persisten tras aplazarse la reunión entre Irán y países del Golfo. Según Teherán, Arabia Saudí pidió aplazar el encuentro. 5. Trump anuncia un acuerdo entre Ucrania y Rusia, que Zelenski matiza UCRANIA GUERRA | Trump anuncia que Ucrania y Rusia han acordado no atacar sus infraestructuras energéticas, pero Zelenski dice que Kiev solo detendrá sus ataques si Moscú lo hace 6. Carney acelera el acercamiento de Canadá a la UE CANADÁ UE | Carney acelera el acercamiento de Canadá a la UE con amplio respaldo ciudadano 7. Independentistas de Escocia, Gales e Irlanda del Norte piden respeto a autodeterminación R.UNIDO PARITDOS | Independentistas de Escocia, Gales e Irlanda del Norte piden respeto a autodeterminación 8. Asesinada una estudiante española en México MÉXICO VIOLENCIA | Una estudiante española es asesinada en el estado mexicano de Morelos. - México está "en contacto" con España tras el "lamentable" asesinato de estudiante española. 9. Saab se declarará culpable en una corte de Miami EEUU VENEZUELA | Alex Saab tendrá una audiencia en Miami este martes en la que se prevé que se declare culpable LOS PROTAGONISTAS DEL DÍA OASIS GIRA | Oasis anuncia una gira mundial para 2027 y ofrecerá dos conciertos en julio en Barcelona EL DATO DEL DÍA NEPAL RIADA | La avalancha de agua de la riada en Nepal llegó a la frontera a 188 km/h en solo 7 minutos. LA OTRA NOTICIA ISRAEL PALESTINA | Israel persigue un "proyecto de eliminación" de los palestinos, según ONG israelí Betselem. NUESTROS TEMAS MALVINAS ARGENTINA | Más hastío que preocupación en Malvinas ante la presión de Milei: "Vecinos ruidosos". Por Pablo Duer, desde Islas Malvinas. BRASIL ELECCIONES | De las urnas a las redes: los jóvenes brasileños migran hacia candidatos alternativos RUSIA ELECCIONES (Entrevista) | Putin quiere mostrar al mundo el apoyo total de los rusos a la guerra, según la dirigente opositora Yelena Kotiónochkina, exiliada en Lituania. PENDIENTES DE PREMIOS EMMY | La Academia de Artes y Ciencias de la Televisión celebra la 78º edición de los premios Emmy, los galardones más prestigiosos de la televisión de Estados Unidos ROSALÍA | La cantante española Rosalía ofrece este lunes un concierto en Miami, donde culmina esta semana su gira ‘LUX’ Redacción EFE Internacional (34) 913 46 71 00 Puede escribir a mesacentral@efe.com para contactar con nuestra redacción. En www.efeservicios.com encontrará toda la producción multimedia de la Agencia EFE y su Agenda Mundial, un listado actualizado de actos informativos programados. Para cualquier otro producto o servicio, contacte con clientes@efe.com o llame al +34 91 3467245
Altman, Amodei, Musk y el dilema del prisionero de la IA
La seguridad y el interés comercial apuntan en este caso en la misma dirección: conviene evitar que intereses privados dicten las reglas públicas. Leer
Las razones ocultas tras la alerta de los gigantes de la IA: «Les permite lavar su imagen y traspasar la responsabilidad a los Gobiernos»
Casi desde el lanzamiento de ChatGPT, en noviembre de 2022, algunas de las empresas más punteras en IA han debatido sobre el riesgo de que la inteligencia artificial llegue a descontrolarse y termine suponiendo una amenaza para la humanidad. En los últimos meses, los ciberataques sufridos por plataformas como Hugging Face y provocados por agentes de IA, así como la alerta lanzada la semana pasada por un trabajador de Anthropic sobre el potencial de esta tecnología para provocar la extinción de la humanidad, han avivado todavía más este tipo de debates. El último ejemplo llegó este sábado, cuando el CEO de Anthropic, Dario Amodei , publicó un ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial. Rápidamente, Sam Altman, primer ejecutivo de OpenAI, Demis Hassabis, presidente de Google Deepmind, y Elon Musk, de SpaceXAI, se apresuraron a mostrarse de acuerdo. En el escrito, Amodei se manifestaba preocupado por la posibilidad de que en los próximos «6 a 12 meses» la IA «pueda controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Para tratar de ponerle solución al problema, Anthropic se ha comprometido a poner a disposición de evaluadores externos toda su tecnología, para que estos verifiquen que la tecnología es segura. Asimismo, se ha invitado «a las empresas de IA de vanguardia en países democráticos» a «coordinarse para establecer estándares de seguridad comunes» que todas deben cumplir, es decir, a que sean las propias 'startups' las que creen las normas a partir de las cuales deben regirse. Finalmente, se ha sugerido que «Estados Unidos y otros gobiernos democráticos intenten coordinarse con los gobiernos autoritarios, en la medida de lo posible» para ayudar a reducir los riesgos. Sobre el papel, el mensaje que se lanza parece positivo: los gigantes de la IA están tan preocupados por el futuro de esta tecnología y por su efecto en la sociedad que están dispuestas a ralentizarla, a pesar de los efectos que esto puede tener en sus resultados financieros. Sin embargo, numerosos expertos muestran dudas sobre las buenas intenciones de estas compañías, a las que ven especialmente interesadas en autorregularse para evitar el futuro control de gobiernos. También alertan de que si tienen éxito, pueden dificultar que otras empresas más pequeñas se conviertan en una amenaza para su negocio el día de mañana. «Dejad de fingir que la motivación para reducir la velocidad (en el desarrollo de la IA) es puramente altruista», ha afirmado en sus redes sociales David Sacks, principal asesor de la administración Trump en temas tecnológicos. El experto ha dejado caer, además, que tanto Anthropic como OpenAI cuentan con capacidad para reducir los riesgos por su cuenta: «La forma más sencilla de no crear una superinteligencia -una IA que sería más lista que cualquier humano y que podría acabar convirtiéndose en una amenaza- es que os comprometáis a no crearla. Exigir vuestro marco regulatorio preferido como precio por hacerlo parece un chantaje a la opinión pública y al sistema político». Y no es el único que ve problemas en la propuesta de Amodei. Satya Nadella, CEO de Microsoft, otra de las empresas que más fuerte han invertido en materia de inteligencia artificial, está de acuerdo con la necesidad de que la tecnología avance con «ritmo pausado» para reducir los riesgos. Sin embargo, no considera que la autorregulación sea el camino: «Esto no puede estar controlado por un puñado de actores, sino que tiene que contar con una representación amplia de todo el ecosistema, de distintos países y de distintos ámbitos, incluida la universidad». Lo mismo opina Clément Delangue, director ejecutivo de la plataforma Hugging Face, quien afirmó en X que los problemas de la IA no pueden solucionarse «a puerta cerrada entre un puñado de laboratorios de vanguardia». Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya, explica a ABC que, efectivamente, «hay razones para preocuparse» ante el rápido avance de la IA, pero, «hay que diferenciar el riesgo real del ruido mediático». «No debe preocuparnos un escenario hipotético tipo Terminator o una superinteligencia fuera de control, sino los problemas tangibles que ya están ocurriendo en relación con la IA: la desinformación masiva, el sesgo en los algoritmos, el impacto en la privacidad y la dependencia crítica de sistemas cuyos fallos no comprendemos del todo. La alerta es válida, pero el foco del debate público suele estar desplazado hacia el alarmismo existencial y sistémico», dice el experto. Curto ve en la postura de Amodei, Altman, Hassabis o Musk «una mezcla evidente de intereses que puede cubrir motivos menos altruistas, preocupación genuina e incluso un intento de lavarse las manos» por los problemas que pueda provocar su tecnología: «Mostrarse preocupados es una maniobra clara de relaciones públicas. Les permite lavar su imagen de marca y traspasar la responsabilidad a los gobiernos. Es como decir: 'Nosotros avisamos del peligro, son las autoridades las que deben regular'. Al final, se trata de una estrategia para cubrirse las espaldas». Luis Martín, director de soluciones de IA en Llorente y Cuenca, está de acuerdo con este análisis. Además, añade que con la creación de sus propias normas, los gigantes de la IA podrían tratar de dificultar el surgimiento nuevas empresas que compitan con sus modelos. «Cuando pides una ralentización en el desarrollo de la IA y el surgimiento de entes que pongan trabas parece que están intentando poner una barrera de entrada a nuevos jugadores», dice el experto. «Ellos tienen los recursos y el capital para cumplir con la burocracia, mientras que las normas ahogarían a la competencia de código abierto y a las pequeñas startups», completa Curto. Luego está el componente económico. Jensen Huang, CEO de Nvidia, avisó ya la semana parada durante una conferencia que esperaba que próximamente las empresas desarrolladoras de IA centrada en la ciberseguridad, como OpenAI y Anthropic, tratasen de aumentar la preocupación entre las empresas para que sus productos de seguridad resultasen más atractivos. Un movimiento que también ha visto venir Sergio Álvarez-Teleña, CEO de la empresa de inteligencia artificial SciTheWorld y uno de los mayores expertos en esta tecnología que hay en España. El experto descarta de plano los escenarios apocalípticos que señalan que la IA podría terminar causando la extinción humana «a final de esta década», tal y como alertó la semana pasada un investigador de Anthropic . «No hay más razones para estar preocupados por esto que por que nos caiga un meteorito encima. Las probabilidades son increíblemente bajas», dice Álvarez-Teleña en conversación con este diario. «La sensación que tengo es que están intentando preocupar a la gente para conseguir más inversión. El mensaje, aunque no sea explícito, es que se invierta en estas empresas, porque se presentan como las únicas que son capaces de solucionar el problema de lo buenos que son en lo suyo», zanja el experto.
Microsoft establece límites para los modelos de IA mientras Altman detalla los riesgos de control
El máximo responsable de OpenAI afirma que "moderar el ritmo" del desarrollo de la IA no significa "detenerlo" Leer
El Mundo•Gareth Vipers14 sept
Sam Altman, CEO de OpenAI: "Me sentí inútil en comparación con la IA"
ChatGPT es probablemente una de las inteligencias artificiales de chatbot más importantes y conocidas del mundo. Según 'Forbes', esta IA ahora tiene más de 800 millones de usuarios semanales y ganó más de 13.000 millones de dólares en ingresos el año pasado. Uno de sus fundadores, Sam Altman, advierte de los riesgos que puede tener su uso masivo en la sociedad.
Mundo Deportivo•Carlota Garcia14 septI
Wall Street cierra en rojo, arrastrado por el temor a la IA y la subida del petróleo
Nueva York, 14 sep (EFE).- Wall Street cerró este lunes en rojo, arrastrado ante las dudas sobre el impacto del rápido avance de la inteligencia artificial (IA), que hizo caer al sector tecnológico, y la subida del petróleo derivada de las crecientes tensiones geopolíticas en Oriente Medio. Al cierre del parqué neoyorquino, el Dow Jones de Industriales bajó un 0,29 %, hasta 52.421 puntos; el selectivo S&P 500 recortó un 0,48 %, hasta 7.619 enteros; y el tecnológico Nasdaq cedió un 0,56 %, hasta 26.186 unidades. Por sectores, las pérdidas estuvieron encabezadas por las empresas tecnológicas (-1,67 %), y particularmente las relacionadas con el desarrollo de la IA, como Marvell (-7,3 %), Intel (-5,6 %), Broadcom (-4,8 %) AMD (-4,4 %) Oracle (-3,6 %) y Nvidia (-3,4 %). Las principales figuras del sector, como Dario Amodei (Anthropic), Sam Altman (OpenAI) e Elon Musk (xAI) hicieron recientemente advertencias sobre el rápido desarrollo de los modelos de IA y el riesgo que conllevan para la seguridad global. El debate se reabrió después de que un investigador de Anthropic, Jacob Coxon, vinculara su dimisión a una supuesta falta de responsabilidad en esta empresa y sus rivales que, sugirió, pueden llevar a la extinción de la raza humana a corto plazo. El presidente de Estados Unidos, Donald Trump, minimizó este lunes el riesgo de que la IA vaya a destruir a la humanidad y arremetió contra su regulación, aludiendo a la competencia con China por el liderazgo de la tecnología. No todo fue negativo en el sector, pues las firmas de ciberseguridad que pueden verse favorecidas por una mayor inversión subieron en bolsa, como Crowdstrike (13,8 %) y Palo Alto Networks (13 %). Por otra parte, el mercado estuvo pendiente del petróleo intermedio de Texas (WTI, por sus siglas en inglés), que subió hasta los 101,39 dólares por barril al intensificarse la guerra en el mar Rojo, donde hay una alternativa clave al estrecho de Ormuz que permanece bloqueado por la guerra EE.UU.-Irán. Además, el rendimiento del bono a 10 años, de referencia en EE.UU. se elevó hoy hasta el 5 % antes de moderarse, entre preocupaciones por el repunte de la inflación y expectativas de que la Reserva Federal dicte una subida de los tipos el miércoles. En otros mercados, al cierre de la sesión, el oro bajaba a 4.336 dólares la onza, el euro se cambiaba a 1,1546 dólares y el bitcóin subía a 79.429 dólares.
🎙 PODCAST | Apocalipsis IA: ¿De verdad vamos a morir todos?
Creaciones de laboratorio capaces de escapar, de organizarse, de atacar. Científicos que sienten que el apocalipsis está en sus manos. Grandes empresarios que piden controlar el negocio antes de perder el control Un tema Al día, ¡en el teatro! Ven a verlo en directo el 3 de octubre en Madrid. Consigue ya tus entradas Jacob Coxon no es un profeta religioso, ni el líder de ninguna secta. Es un investigador hasta hace poco en Anthropic, una de las grandes empresas de Inteligencia Artificial del momento, que la semana pasada dejaba su trabajo lanzando una alerta mundial al pronosticar que el nivel de autonomía que está alcanzando la IA puede acabar con la humanidad en menos de cinco años. Los dueños de los cuatro principales gigantes del sector, (Sam Altman, de Open AI; Dario Amodei, de Anthropic; Demis Hassabis, de Google DeepMind, y hasta Elon Musk de SpaceX), lejos de desmentirle, salieron a decir que Coxon llevaba razón, que hay que frenar el desarrollo de la IA y poner reglas comunes. Con Carlos del Castillo, periodista de elDiario.es especializado en tecnología y autor del libro ‘Inteligencia Artificial. Cartografía de una revolución’, desciframos las claves que hay detrás de estas advertencia apocalíptica y por qué quienes siempre han odiado las reglas apuestan ahora por desacelerar esta carrera y poner límites. *** Envíanos una nota de voz por WhatsApp contándonos alguna historia que conozcas o algún sonido que tengas cerca y que te llame la atención. Lo importante es que sea algo que tenga que ver contigo. Guárdanos en la agenda como “Un tema Al día ”. El número es el 699 518 743 *** Un tema Al día es el podcast diario de actualidad de elDiario.es que, en episodios de unos 15 minutos, explica cada día un asunto de actualidad. Está presentado y dirigido por Juanlu Sánchez, subdirector de elDiario.es. Premio Ondas al podcast Revelación , Un tema Al día es el daily líder en Spotify, Apple Podcast, iVoox, Amazon Music o Podimo, según los datos públicos de las plataformas, donde acumula más de 200.000 suscriptores. Ha sido reconocido como “podcast revelación” por Amazon y recomendado como “imprescindible” por Apple. ¿Cómo escuchar 'Un tema Al día'? ▶ Si eres socio/a, puedes escuchar los nuevos capítulos del podcast cada noche en elDiario.es con unas horas de antelación respecto al resto de lectores. Recibirás el enlace en tu correo electrónico en el boletín del Adelanto de noticias. ▶ Si no eres socio/a, el episodio está disponible a primera hora de la mañana en cualquier aplicación que uses habitualmente. Spotify Apple Podcast Ivoox Podimo Amazon Music Feed RSS ▶ Acuérdate de suscribirte al podcast 'Un tema al día' en tu app para que te lleguen automáticamente los nuevos capítulos. Es gratis. ▶ Tendrás disponibles también todas las entregas de 'Un tema Al día' en elDiario.es/aldia
elDiario.es•Juanlu Sánchez14 sept
¿Se puede 'frenar' la IA? Por qué el resto del mundo desconfía del plan de Silicon Valley
El CEO de Anthropic propone "ralentizar" el desarrollo de IA avanzada para aprender a controlarla, pero China, expertos y otros actores cuestionan quién debe decidir el ritmo de la tecnología Análisis - Quién gana cuando los líderes de la IA piden que los regulen Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional. Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control . “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos. “Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”. ¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla. Las claves del 'plan Amodei' para la IA La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”. “Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende. Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura. El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente Dario Amodei Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice. Dario Amodei, en una imagen de archivo. El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”. Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”. Una estrategia que no convence a casi nadie El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington , la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración. La segunda gran reacción ha llegado por parte de China , el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips. El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector Global Times — diario vinculado directamente al Partido Comunista Chino El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia. “El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”. Centrarse en los riesgos de ahora El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”. “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”. A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo Carme Artigas — ex secretaria de Estado de Digitalización e IA Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”. Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”. El “aterrizaje suave” para la burbuja de la IA Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate. La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar Carissa Véliz — filósofa especialista en la ética de la tecnología “Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”. Véliz rechaza destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.
elDiario.es•Carlos del Castillo14 sept
Wall Street cae ante las alertas por la IA; tecnológicas registran fuertes pérdidas
Nueva York. Wall Street abrió en rojo este lunes arrastrado principalmente por las pérdidas en el sector tecnológico ante la oleada de voces, entre ellas las de los principales líderes del sector, que alertan del avance de la inteligencia artificial (IA) y reclaman frenar el ritmo de desarrollo por temor a perder el control de los sistemas. A la apertura del parqué neoyorquino, su principal indicador, el Dow Jones de Industriales , perdía un 0.21%, hasta 52.462 puntos; el selectivo S&P 500 restaba un 0.74%, hasta siete mil 600 enteros; y el tecnológico Nasdaq cedía un 1.23%, hasta 26.008 unidades. Los inversores observaron con preocupación la petición de las principales personalidades del sector, como Dario Amodei , consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk para poner freno al desarrollo de los sistemas de inteligencia artificial. La semana pasada, Jacob Coxon, investigador de Anthropic , que también trabajó para OpenAI , anunció su dimisión al considerar que la compañía no estaba actuando de manera responsable ni pendiente de la seguridad. Este sábado, Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de IA y advirtió que avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global. Por su parte, Altman respaldó su petición y avanzó que permitirá que evaluadores independientes auditen los sistemas de OpenAI. A pesar de que el presidente de Estados Unidos, Donald Trump , minimizó la alerta y pidió no ceder ante China, con quien compite por el liderazgo de la IA, los títulos de las principales compañías del sector arrancaron a la baja. Nvidia, AMD e Intel encabezan las pérdidas Nvidia , empresa estrella de la IA, perdía un 4.18%. Por su parte, Marvell Technology restaba un 8.98%, Intel un 7.18% y AMD un 6.17%. En otros mercados, el oro se devaluaba un 2.16%, hasta 4.313 dólares la onza, y la plata un 2.68%, hasta 63.44 dólares la onza. El petróleo intermedio de Texas (WTI) subía hasta los 104 dólares la onza y el rendimiento del bono del Tesoro a 10 años avanzaba 1.8 puntos básicos. También te interesará: China defiende inteligencia artificial "abierta"; rechaza narrativas "de amenaza" en su contra Donald Trump dice que el único control que necesita la IA es un presidente como él; denuncia "conspiración enfermiza" ONU pide regular la inteligencia artificial con urgencia; alerta sobre riesgos para los derechos humanos DeepSeek y Moonshot perfilan salir a bolsa, reportan; debut de las firmas chinas de IA sería en los próximos meses Únete a nuestro canal ¡EL UNIVERSAL ya está en WhatsApp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
I
Trump considera un "bulo" que la inteligencia artificial vaya a destruir la humanidad
Washington, 14 sep (EFE).- El presidente de Estados Unidos, Donald Trump, calificó este lunes de "bulo" la idea de que la inteligencia artificial (IA) vaya a destruir a la humanidad y criticó a los líderes del sector que han reclamado una mayor regulación de esta tecnología. "La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", escribió el mandatario en su red social Truth Social. "¿Cuándo, en la historia de los negocios, se ha visto a los líderes de una industria exigir una regulación que, de aplicar rigurosamente, los llevan al olvido y la bancarrota?", cuestionó. La polémica la desató el sábado el director ejecutivo de Anthropic, Dario Amodei, quien publicó un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. A esa advertencia se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector. Sus declaraciones se produjeron después de que, el martes pasado, el investigador de IA Jacob Coxon dimitiera y acusara a sus antiguos empleadores, Anthropic y OpenAI, de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad esta misma década. Trump, en cambio, se opone a regular el sector porque considera que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico. El republicano escribió en Truth Social que "China no hará absolutamente nada para interponerse en el camino de la IA ni de su futuro". "La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet", subrayó. EFE
Sam Altman insiste en poner límites a la IA: "Hay dos formas en que su progreso podría salir muy mal"
El CEO de OpenAI defiende reglas comunes de seguridad, auditorías independientes y un desarrollo algo más lento de los modelos más avanzados, aunque rechaza la idea de detener el progreso.