HeraldLoop

Dario Amodei — página 3

Persona · 112 artículos
Compartir

Cobertura, página 3

página 3 de 6

Inma Martínez: «La inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz»

Estamos a martes de la semana pasada. El investigador de Anthropic Jacob Coxon publica un hilo incendiario en X en el que anuncia su decisión de dejar su trabajo en la empresa de IA y alerta de que esta tecnología «podría matarnos a todos al final de esta década». Al rato, Evan Hubinger, jefe de uno de los equipos de seguridad de la tecnológica se une a la conversación, señala en un mensaje que «Jacob tiene razón», y se suma al órdago apuntando que, desde su punto de vista, las probabilidades de un final apocalíptico tipo Terminator son, aproximadamente, del 10%. Estas afirmaciones no tardan en viralizarse. Después de guardar silencio durante varios días, el CEO de la 'startup', Dario Amodei, lanza un ensayo de 3.000 palabras en el que aboga por ralentizar el avance de la IA . Dice que le da miedo que en el próximo año o año y medio esta tecnología sea capaz, por su cuenta y riesgo, de «controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Elon Musk, de SpaceXAI, Demis Hassabis, de Google DeepMind, y Sam Altman, de OpenAI, se muestran de acuerdo. Y la investigadora española Inma Martínez respira aliviada cuando lo lee. Considera que apuntando a dicho riesgo, Amodei «está pulsando la tecla correcta» sobre lo que hay que hacer con la IA: garantizar que cuente con unos mecanismos de seguridad sólidos antes de ponerla a funcionar. «El mensaje no me pilló por sorpresa. Yo colaboro en el Foro de Davos, y en la edición del año pasado recuerdo que Yoshua Bengio , pionero del aprendizaje profundo con el que he trabajado en alguna ocasión, ya avisaba sobre lo que la IA agéntica -un sistema con capacidad de lograr un objetivo sin supervisión humana constante- puede hacer. Ya sabíamos por entonces, e incluso antes, que hay muchos aspectos de esta tecnología que se nos van de las manos», señala Martínez en conversación telefónica con ABC desde Reino Unido, donde reside desde hace años. Esta investigadora lleva años asesorando al Gobierno de España, al británico o al G-7 en materia de regulación y de diseño de estándares para la industria de la IA. Actualmente, trabaja también como asesora científica de la Organización Mundial del Comercio, añade que esta tecnología, como ocurre con los modelos más avanzados de empresas como Anthropic u OpenAI, «tiene demasiada libertad para tomar decisiones» y que «su naturaleza puede ser la de tirar por la calle de en medio y 'hackear' para conseguir sus objetivos». Algo que ya han sufrido empresas como Hugging Face , que en los últimos meses han sufrido ciberataques realizados, precisamente, por agentes de IA. Por eso, Martínez considera que lo mejor que pueden hacer las tecnológicas es, efectivamente, pisar el freno. Aunque, en caso de que cumplan con su palabra, tiene claro que el motivo por el que lo harán será por el de preservar su propio negocio. No por buenas intenciones: «Si dan marcha atrás es porque estas empresas tenían pensado salir a bolsa. ¿Tú qué crees que harían si no salieran a bolsa? Pues seguirían. Pero cuando sales a bolsa y esperas recaudar trillones no te puedes arriesgar a que la próxima vez a un enjambre de agentes les de por 'hackear' a JP Morgan o a una eléctrica y acabar perdiendo dinero». Efectivamente, tanto Anthropic como OpenAI tenían intención de salir a bolsa antes de que finalizase el año. Las dos empresas esperaban alcanzar valoraciones de cientos de miles de millones de euros; sin embargo, la firma dirigida por Sam Altman ya ha compartido que tiene intención de retrasar sus planes a 2027. Antes quiere resolver los problemas de seguridad de sus modelos. «La tecnología de Anthropic está mejor entrenada que la de OpenAI. Los de Altman siempre han sido un poco los 'punks' de la IA. Comenzaron lanzando un modelo de lenguaje en 2022 que era un horror, entrenado con unos datos malísimos. No me extraña que ahora tampoco se echen atrás». A pesar de que Martínez comparte la preocupación de los gigantes de la IA por la posibilidad de que esta tecnología acabe causando estragos en la red, rechaza de plano todas aquellas teorías que apuntan a la aparición de una futura máquina que podría tomar la decisión de aniquilar a la humanidad. «No me gusta hablar de tecnología que mata a personas, porque eso es ciencia ficción. La IA no tiene una pistola. Lo que sí que tiene es potencial para destruir nuestros valores y los pilares de la sociedad. Lo dejo claro: la inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz». A continuación, la investigadora comienza a dibujar varios escenarios preocupantes que, a su parecer, entran dentro del terreno de lo posible: «La IA puede realizar ciberataques que dejen sin funcionar a aeropuertos o a redes eléctricas o a supermercados. Puede hacer eso y mucho más, y, además, ten en cuenta todo lo que dependemos del mundo digital. Imagínate que la IA 'hackea' al IBEX 35. ¿Dónde se van las acciones de todas las empresas españolas? ¿Cómo se recupera el 'trading'?». Para tratar de reducir los riesgos al mínimo, la investigadora apuesta por el desarrollo de unos estándares industriales más que por la elaboración de una plúmbea regulación: «Yo siempre he abogado porque si la IA es un producto que se va a comprar y a vender, debe cumplir con unos estándares, igual que ocurre con los coches. Tengo curiosidad por lo que puede ocurrir en el futuro con el ISO (Organización Internacional de Normalización, por sus siglas en inglés) que ya está certificando a compañías para poder llevar a cabo determinados trabajos». Durante los últimos años, numerosos empresarios e investigadores han avisado sobre la futura llegada de una inteligencia artificial general, más avanzada que cualquiera de la que actualmente podemos encontrar en la red: «Se trata de una máquina que tendría una comprensión exacta de lo que es la vida, igual que ocurre con los humanos. Entiende de verdad que si un vaso se cae al suelo, lo que ocurre es que se va a romper. Entiende la Física o la Química». «No se trata de un modelo de lenguaje capaz de generar texto o vídeos, como ocurre con las herramientas que nos estamos encontrando por internet», prosigue la experta. Aunque OpenAI es una de las empresas que afirma estar trabajando con más ahínco en su creación, Martínez tiene dudas de que llegue a conseguirlo: «Los que más probabilidades tienen son DeepMind -dependiente de Google- y Meta, porque llevan años recabando datos de todo el mundo».

ABCABC•(abc)15 sept
I

Melania Trump anuncia acuerdo con Nvidia para expandir la IA en escuelas en plena polémica

Washington, 15 sep (EFE).- La primera dama de Estados Unidos, Melania Trump, anunció este martes una asociación estratégica con la empresa Nvidia para incorporar más inteligencia artificial (IA) en las escuelas, en pleno debate sobre la regulación y los riesgos de esta tecnología. Durante una visita a una escuela de primaria de Carolina del Norte, la esposa del presidente, Donald Trump, anunció un acuerdo por el que Nvidia proporcionará licencias de StudyFetch durante cuatro años a 1.500 estudiantes y donará 100 kits de desarrollo Jetson Nano a escuelas del condado de Ashe. Los kits son pequeños ordenadores de bajo consumo capaces de procesar datos localmente y utilizarse, por ejemplo, para impulsar robots autónomos. "Sueñen a lo grande y usen estas herramientas de IA para construir algo nunca antes visto. Quizás alguno de ustedes cree el próximo gran robot. Y si lo hacen, ¡no olviden traerlo a la Casa Blanca para mostrármelo!", expresó ante los alumnos. El anuncio se produce en plena polémica sobre los riesgos de esta tecnología, después de que los líderes de Anthropic, Dario Amodei; OpenAI, Sam Altman, y xAI, Elon Musk, coincidieran en pedir que se ralentice el desarrollo de la IA para garantizar su seguridad, una postura a la que se opone la Administración de Trump por temor a que China tome la delantera en este sector. El propio Trump llamó el lunes al presidente de Nvidia, Jensen Huang, y lo interrumpió durante un foro para desestimar los temores sobre los riesgos de la inteligencia artificial. La semana pasada, el investigador de IA Jacob Coxon dimitió de Anthropic y OpenAI y acusó a ambas empresas de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad durante esta década. EFE

InfobaeInfobae•Newsroom Infobae15 sept

Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral

Dario Amodei publicó estos días su " We must pace the frontier " , su propuesta para frenar el ritmo de la IA . Y OpenAI y SpaceXAI la han respaldado. En todo el ensayo, por cierto, no aparecen ni una vez las palabras " open weights" . Por qué e s importante . Quien más está hundiendo el precio de la IA no son OpenAI ni Anthropic ni SpaceXAI ni Google. Son los modelos abiertos, y casi todo lo que propone Amodei es fácil de cumplir para un laboratorio cerrado pero imposible para uno abierto. Lo que propone : Puntos de control por capacidad . Si un modelo alcanza cierta capacidad, necesita certificar determinadas propiedades de alineamiento. Evaluadores externos trabajando dentro de los laboratorios, como METR . Una exención antimonopolio para que los laboratorios estadounidenses puedan coordinarse en materia de seguridad. Y más controles a China : veto a los chips avanzados y prohibición de la destilación no autorizada de modelos. En Xataka “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas Entre líneas . Un modelo cerrado puede certificarse porque su dueño controla cada copia. Uno abierto, no: en cuanto se publican los pesos, cualquiera puede quitarle las salvaguardas. Es el argumento principal de un análisis de VentureBeat , que compara la propuesta con la ley SB 1047 de California. Newsom la vetó por su impacto en los desarrolladores pequeños y en el código abierto. Con la exención antimonopolio pasa algo muy similar. Los que se sientan a coordinarse son los laboratorios estadounidenses de frontera. Quien no está en esa mesa no decide los límites, pero sí los sufre. En cifras . El frente abierto ya no es Meta. Es, sobre todo, China: 150 veces menos . Es lo que cuesta DeepSeek V4 Flash frente a GPT-5.5 en tokens de salida, según OpenRouter . De 3 a 6 meses . Es el retraso de los mejores modelos abiertos respecto a los cerrados, y no se está ampliando. 151.448 modelos derivados de Qwen en Hugging Face, 2,6 veces los de Meta, según su informe de verano . 33% de margen bruto ajustado tuvo OpenAI en 2025, frente al 40% del año anterior, según The Information . Competir con modelos casi gratuitos no ayuda a remontar. Mientras tanto en Europa . Mistral acaba de cerrar una ronda de 3.000 millones de euros con una valoración de 21.000 millones. Es la mayor ronda de una tecnológica europea, y su argumento de venta es precisamente la IA soberana con pesos abiertos . Un régimen de certificaciones pensado en Estados Unidos para sus laboratorios dejaría a Mistral fuera de la mesa (pero dentro de las reglas). La Unión Europea ya escogió otro camino: la Ley de IA exime a los modelos de código abierto de parte de las obligaciones, salvo cuando presentan "un riesgo sistémico". En Xataka Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero Sí , pero . Frenar a los modelos abiertos no frena necesariamente a China. Los pesos de Qwen y DeepSeek ya están en millones de servidores y discos duros de todo el mundo. Lo que sí frena es a los desarrolladores abiertos de Estados Unidos y Europa, justo los que podrían competir con esos modelos. Es la misma lógica de captura regulatoria que ya contamos con Rockefeller . Esta vez el competidor que se queda fuera no es una petrolera pequeña, sino un modelo que cualquiera puede descargar gratis y ejecutar en un ordenador doméstico. Y ahora qué . Si el plan avanza, el debate que viene no es "frenar o no frenar". Es quién queda dentro del perímetro que se frena y quién fija sus límites. Hoy los que lo están dibujando son casualmente quienes más perderían con una IA abierta y barata. Imagen destacada | Xataka con Magnific En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad - La noticia Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral fue publicada originalmente en Xataka por Javier Lacort .

XatakaXataka•Javier Lacort15 sept

Expertos ven inviable regular la IA en EU a corto plazo pese a advertencias de la industria; gobierno de Trump se niega a bajar ritmo

Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial ( IA ) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China . Los máximos responsables de laboratorios punteros como Dario Amodei ( Anthropic ), Sam Altman ( OpenAI ), Elon Musk ( xAI ) y Demis Hassabis ( Google DeepMind ) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología . Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude , entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz , directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EU la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Beijin. "El presidente dijo que EU está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China ' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. La industria necesita "nuevos líderes" Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington , ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face , situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. Te puede interesar: Dario Amodei y Sam Altman; las figuras al frente de OpenAI y Anthropic que marcan el futuro de la IA "Si la IA no beneficia a la humanidad ni está bajo control, no vale la pena"; CEO de Microsoft cuestiona su desarrollo Director de Anthropic afirma que "la industria mintió" sobre el peligro de la IA; prohibición total no es solución, dice Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc

El UniversalEl Universal15 sept
I

Expertos ven inviable regular la IA a corto plazo pese a las advertencias de la industria

Sarah Yáñez-Richards Nueva York, 15 sep (EFE).- Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial (IA) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China. Los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz, directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EE. UU. la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Pekín. "El presidente dijo que EE. UU. está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington, ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face, situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. EFE

InfobaeInfobae•Newsroom Infobae15 sept

El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego

ChatGPT no llevaba ni seis meses en escena cuando el experto Eliezer Yudkowsky nos avisó de que la IA "nos mataría a todos" . Su discurso catastrofista no fue el primero, pero sí reactivó la preocupación ante una amenaza real para la raza humana. Hoy dicha preocupación está en máximos históricos , al menos si uno hace caso de Amodei o Altman, que abogan por poner freno al desarrollo de la IA . De repente Anthropic y OpenAI se quieren volver cautas y piden la colaboración del Gobierno de EEUU, pero dicho gobierno no quiere ni oír hablar de esa opción. La razón es simple y tan antigua como el mundo: por el interés te quiero Andrés. Quienes construyen la IA quieren pisar el freno . Todo empezó el fin de semana, cuando Dario Amodei, CEO de Anthropic, pidió abiertamente que se ajustase el ritmo de desarrollo de los modelos frontera (" We must pace the frontier ", dijo ). Sam Altman y su equipo se sumaron a la idea , al igual que Elon Musk, Demis Hassabis y, con matices, Satya Nadella —en Microsoft han publicado su propio manifiesto humanista —. Anthropic, OpenAI y Google incluso han discutido la creación de un organismo conjunto de seguridad, algo insólito teniendo en cuenta que todas estas empresas compiten por lograr dominar esta industria. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo ¿Necesitan al Gobierno de EEUU? OpenAI consultó al Congreso de EEUU para saber si existía la posibilidad de que varias empresas competidoras podrían coordinarse para ralentizar el desarrollo de la IA, y si eso vulneraría las leyes antimonopolio del país. El vicepresidente de EEUU, JD Vance, indicó que le resultaba extraño que las grandes empresas de IA pidieran al Gobierno que las regulase, y calificó la estrategia de un "troyano". Frenar la IA puede ser muy rentable . Una regulación que obligue a realizar evaluaciones profundas y que establezca controles externos o procesos de seguridad puede ayudar a protegernos, pero también puede ser un obstáculo para quienes intenten cumplir todos los requisitos que impongan esas normas. O lo que es lo mismo: las pequeñas y medianas empresas y startups que tratan de avanzar en este campo tendrían una barrera de entrada enorme. Para el conocido inversor Michael Burry todas estas advertencias de Anthropic y de OpenAI no son más que un refuerzo para sus negocios y sirven para alimentar el relato de sus inminentes salidas a bolsa. Son valoraciones sin pruebas y para él la humanidad "no tiene nada que temer" . Hay otro efecto claro de frenar la IA: Eso les daría oxígeno a OpenAI y Anthropic , que ciertamente agradecerían ese respiro. No seáis dramáticos . Jensen Huang, CEO de Nvidia, ha rechazado frontalmente ese alarmismo y considera que ralentizar el desarrollo de la IA es un error. Su mensaje es claro: EEUU debe seguir acelerando ese desarrollo y para él las compañías de IA deberían "no exagerar tanto" (en sus palabras, " tone down the drama "). Durante su participación en el evento All-In Summit 2026 recibió la llamada de Donald Trump , y ambos parecían estar de acuerdo en que las advertencias de Amodei eran exageradas. La postura de Huang es lógica: Nvidia se dedica a vender la smáquinas necesarias para que esa carrera continúe, y como dice el analista Mike Issaac, Nvidia está tan condicionada por sus intereses como las demás . Esto va de dinero y poder, como casi siempre. El incentivo de Trump es China . Según Trump dichas advertencias eran un "hoax", y en una publicación en la red social Truth el presidente de EEU afirmó que "¡el único control o salvaguarda que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE Alto CI!), y EEUU ya tiene eso, y de sobra!". El presidente estadounidense ha rechazado la idea de frenar y sostiene que "quien gane la IA, gana". Hacer algo así podría darle ventaja a China, aunque también hay muchos argumentos económicos en esos comentarios: la IA ha impulsado inversiones gigantescas en datos, chips y energía y todo ello es ahora motor de la economía estadounidense. Una explicación sencilla para este lío . François Chollet, creador del ARC-AGI Prize , hacía un comentario muy interesante en X al decir que es peligroso tener que elegir entre dos explicaciones del tipo "esta persona cree sinceramente X y por eso quiere Y", o "La decisión X beneficia económicamente a esa persona". La razón es sencilla: ambas pueden ser ciertas, porque las personas suelen alinear sus creencias y sus intereses. En palabras de Chollet , se puede ser "sincero y tener intereses propios" al mismo tiempo. Difícil solución . Empieza a estar claro que teniendo claro que todos tienen sus propios intereses, Así que tendremos que decidir cuánto de ese riesgo que impone el desarrollo de la IA estamos dispuestos a aceptar. Las personas que mejor concoen esa tecnología son también quienes pueden ganar o perder más con las reglas que adoptemos, y aquí lo difícil es distinguir las creencias y convicciones sinceras de ese interés propio. En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad - La noticia El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego fue publicada originalmente en Xataka por Javier Pastor .

XatakaXataka•Javier Pastor15 sept

Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad

En una carta publicada hace unos días , Dario Amodei abogó por detener el avance de la IA , y además lo hizo dando detalles muy claros de a lo que nos exponemos. Según el CEO de Anthropic, en menos de un año una IA podría tomar el control de todo internet y provocar enormes daños. Pero tranquilos, que tiene un plan para evitarlo, empezando por dar acceso permanente a auditores externos e independientes. Amodei propone uno en concreto: METR. Veamos qué es y quién está detrás de esta organización. Qué es METR . Su nombre son las siglas de Model Evaluation and Threat Research y se define a sí misma como una organización sin ánimo de lucro que  trabaja "para evaluar científicamente si los sistemas de inteligencia artificial podrían suponer un peligro catastrófico para la sociedad". Entre sus trabajos recientes está la investigación del incidente de OpenAI y Hugging Face, pero también se dedican a evaluar cuánto tiempo de trabajo humano puede completar un agente de IA, una métrica que se ha convertido en una referencia a la hora de medir las capacidades de la IA agéntica. Además, diseñan propuestas de gobernanza para que las empresas refuercen sus medidas de seguridad. Es decir, que METR no sólo se centra en evaluar riesgos, también plantean cómo deberían gobernarse los modelos, justo lo que pide Amodei en su carta. El nacimiento de METR . No surgió de la nada, sino que nació a partir de ARC Evals, un equipo dentro del Alignment Research Center, dirigido por Paul Christiano. Christiano es una figura destacada dentro del campo del alineamiento de la IA y había trabajado anteriormente en OpenAI. Para dirigir este nuevo proyecto, contrataron a Beth Barnes, que había pasado por DeepMind y OpenAI, donde había coincidido con Christiano. El equipo creció rápidamente y en 2023 se independizó de ARC para convertirse en METR. "Una amenaza general al trabajo intelectual": las mentes matemáticas más brillantes, contra el modus operandi de la IA El equipo. A día de hoy Beth Barnes sigue al frente de METR como CEO y fundadora, pero no es la única que tiene conexión con los grandes laboratorios de IA. En su plantilla cuentan con varios exingenieros e investigadores de OpenAI,  Anthropic y Google Deepmind. Entre ellos está Joe Benton , que acaba de incorporarse a METR desde Anthropic, y Josh Engels, que venía de DeepMind. Quién p aga la fiesta . METR es una organización sin ánimo de lucro y se financia principalmente mediante donaciones. En agosto de este mismo año anunciaron que habían logrado recaudar 71 millones de dólares en seis meses . METR destaca que no acepta financiación de las compañías de IA a las que evalúa, ni tampoco por parte de empleados de dichos laboratorios. Sin embargo, eso no significa que no aporten nada a su funcionamiento. La organización reconoce que OpenAI, Anthropic, Google DeepMind, Meta y otras empresas le proporcionan acceso a sus modelos y una cantidad significativa de tokens gratuitos para realizar sus evaluaciones. Effective Altruism . Entre los donantes que menciona METR aparecen fundaciones como Sijbrandij Foundation, Schmidt Sciences, Packard Foundation y Pew Charitable Trusts, pero también organizaciones muy vinculadas al movimiento Effective Altruism , como Longview Philanthropy, Effektiv Spenden y el Survival and Flourishing Fund.  El "altruismo eficaz" es un movimiento filosófico y filantrópico que busca identificar las formas más efectivas de utilizar recursos para mejorar el mundo y que, en los últimos años, ha dado un peso importante a la seguridad y los riesgos potenciales de la inteligencia artificial. Como contaban en el New York Times , los Amodei han declarado que no forman parte de esta comunidad, pero Daniela Amodei, hermana de Dario y presidenta de Anthropic, está casada con Holden Karnofsky, uno de los fundadores del movimiento del altruismo eficaz. Esto no significa que los Amodei estén financiando directamente a METR, pero sí que han tenido lazos muy estrechos con una gran parte del ecosistema que los financia. Además, Hjalmar Wijk, científico jefe de METR, y Ajeya Cotra, del equipo técnico, provienen de empresas vinculadas a este movimiento. En Xataka Me he leído el estudio de Anthropic sobre el impacto de la IA en la economía y he llegado a una conclusión: voy a tener que estudiar fontanería Independientes, pero poco . Es lo que sostienen muchas voces críticas del sector. David Sacks, asesor tecnológico de la administración Trump, ha sido muy claro en su cuenta de X : "Dejad de fingir que METR es independiente cuando está entrelazado con los inversores y el personal de Anthropic". En un artículo en Read Multiplex , van incluso más allá, llegando a acusar a METR y Anthropic de intentar orquestar una captura regulatoria que limite a su competencia y, sobre todo, a la IA de código abierto, para crear un oligopolio junto a OpenAI. No hay pruebas de que METR esté actuando al dictado de Anthropic ni de que exista una estrategia coordinada de captura regulatoria. Pero para sus críticos, la cuestión es que están eligiendo como árbitro a una organización que comparte su visión sobre los riesgos de la IA y mantiene vínculos demostrables con la compañía, aunque no exista financiación directa entre ambas. El apocalipsis de la IA . Todo esto sucede en un momento muy concreto en el que el discurso de "la IA nos va a matar a todos" se ha infiltrado en la conversación pública. La chispa que lo encendió todo fue la dimisión de Jacob Coxon, un investigador de Anthropic que también había trabajado para OpenAI. Coxon dijo que estas empresas "están jugando con nuestras vidas" y poco después el responsable de alineamiento de Anthropic le dio la razón, llegando a afirmar que hay un 10% de probabilidades de que la IA acabe con la humanidad en menos de 10 años. Después, Amodei publicó su carta pidiendo frenar los avances en la que, como quien no quiere la cosa, dejaba caer que METR fuera el árbitro que lo supervise todo. Decir que vas a dar acceso total a tus sistemas a una organización externa puede sonar como el acto de mayor transparencia y compromiso con la seguridad. La cuestión es que METR no es un evaluador externo cualquiera, es uno que está formado en parte por exempleados de Anthropic y OpenAI y que comparte su visión sobre los riesgos y alineamiento de la IA. Imagen | METR En Xataka | Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo - La noticia Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad fue publicada originalmente en Xataka por Amparo Babiloni .

XatakaXataka•Amparo Babiloni15 sept

Las razones ocultas tras la alerta de los gigantes de la IA: «Les permite lavar su imagen y traspasar la responsabilidad a los Gobiernos»

Casi desde el lanzamiento de ChatGPT, en noviembre de 2022, algunas de las empresas más punteras en IA han debatido sobre el riesgo de que la inteligencia artificial llegue a descontrolarse y termine suponiendo una amenaza para la humanidad. En los últimos meses, los ciberataques sufridos por plataformas como Hugging Face y provocados por agentes de IA, así como la alerta lanzada la semana pasada por un trabajador de Anthropic sobre el potencial de esta tecnología para provocar la extinción de la humanidad, han avivado todavía más este tipo de debates. El último ejemplo llegó este sábado, cuando el CEO de Anthropic, Dario Amodei , publicó un ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial. Rápidamente, Sam Altman, primer ejecutivo de OpenAI, Demis Hassabis, presidente de Google Deepmind, y Elon Musk, de SpaceXAI, se apresuraron a mostrarse de acuerdo. En el escrito, Amodei se manifestaba preocupado por la posibilidad de que en los próximos «6 a 12 meses» la IA «pueda controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Para tratar de ponerle solución al problema, Anthropic se ha comprometido a poner a disposición de evaluadores externos toda su tecnología, para que estos verifiquen que la tecnología es segura. Asimismo, se ha invitado «a las empresas de IA de vanguardia en países democráticos» a «coordinarse para establecer estándares de seguridad comunes» que todas deben cumplir, es decir, a que sean las propias 'startups' las que creen las normas a partir de las cuales deben regirse. Finalmente, se ha sugerido que «Estados Unidos y otros gobiernos democráticos intenten coordinarse con los gobiernos autoritarios, en la medida de lo posible» para ayudar a reducir los riesgos. Sobre el papel, el mensaje que se lanza parece positivo: los gigantes de la IA están tan preocupados por el futuro de esta tecnología y por su efecto en la sociedad que están dispuestas a ralentizarla, a pesar de los efectos que esto puede tener en sus resultados financieros. Sin embargo, numerosos expertos muestran dudas sobre las buenas intenciones de estas compañías, a las que ven especialmente interesadas en autorregularse para evitar el futuro control de gobiernos. También alertan de que si tienen éxito, pueden dificultar que otras empresas más pequeñas se conviertan en una amenaza para su negocio el día de mañana. «Dejad de fingir que la motivación para reducir la velocidad (en el desarrollo de la IA) es puramente altruista», ha afirmado en sus redes sociales David Sacks, principal asesor de la administración Trump en temas tecnológicos. El experto ha dejado caer, además, que tanto Anthropic como OpenAI cuentan con capacidad para reducir los riesgos por su cuenta: «La forma más sencilla de no crear una superinteligencia -una IA que sería más lista que cualquier humano y que podría acabar convirtiéndose en una amenaza- es que os comprometáis a no crearla. Exigir vuestro marco regulatorio preferido como precio por hacerlo parece un chantaje a la opinión pública y al sistema político». Y no es el único que ve problemas en la propuesta de Amodei. Satya Nadella, CEO de Microsoft, otra de las empresas que más fuerte han invertido en materia de inteligencia artificial, está de acuerdo con la necesidad de que la tecnología avance con «ritmo pausado» para reducir los riesgos. Sin embargo, no considera que la autorregulación sea el camino: «Esto no puede estar controlado por un puñado de actores, sino que tiene que contar con una representación amplia de todo el ecosistema, de distintos países y de distintos ámbitos, incluida la universidad». Lo mismo opina Clément Delangue, director ejecutivo de la plataforma Hugging Face, quien afirmó en X que los problemas de la IA no pueden solucionarse «a puerta cerrada entre un puñado de laboratorios de vanguardia». Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya, explica a ABC que, efectivamente, «hay razones para preocuparse» ante el rápido avance de la IA, pero, «hay que diferenciar el riesgo real del ruido mediático». «No debe preocuparnos un escenario hipotético tipo Terminator o una superinteligencia fuera de control, sino los problemas tangibles que ya están ocurriendo en relación con la IA: la desinformación masiva, el sesgo en los algoritmos, el impacto en la privacidad y la dependencia crítica de sistemas cuyos fallos no comprendemos del todo. La alerta es válida, pero el foco del debate público suele estar desplazado hacia el alarmismo existencial y sistémico», dice el experto. Curto ve en la postura de Amodei, Altman, Hassabis o Musk «una mezcla evidente de intereses que puede cubrir motivos menos altruistas, preocupación genuina e incluso un intento de lavarse las manos» por los problemas que pueda provocar su tecnología: «Mostrarse preocupados es una maniobra clara de relaciones públicas. Les permite lavar su imagen de marca y traspasar la responsabilidad a los gobiernos. Es como decir: 'Nosotros avisamos del peligro, son las autoridades las que deben regular'. Al final, se trata de una estrategia para cubrirse las espaldas». Luis Martín, director de soluciones de IA en Llorente y Cuenca, está de acuerdo con este análisis. Además, añade que con la creación de sus propias normas, los gigantes de la IA podrían tratar de dificultar el surgimiento nuevas empresas que compitan con sus modelos. «Cuando pides una ralentización en el desarrollo de la IA y el surgimiento de entes que pongan trabas parece que están intentando poner una barrera de entrada a nuevos jugadores», dice el experto. «Ellos tienen los recursos y el capital para cumplir con la burocracia, mientras que las normas ahogarían a la competencia de código abierto y a las pequeñas startups», completa Curto. Luego está el componente económico. Jensen Huang, CEO de Nvidia, avisó ya la semana parada durante una conferencia que esperaba que próximamente las empresas desarrolladoras de IA centrada en la ciberseguridad, como OpenAI y Anthropic, tratasen de aumentar la preocupación entre las empresas para que sus productos de seguridad resultasen más atractivos. Un movimiento que también ha visto venir Sergio Álvarez-Teleña, CEO de la empresa de inteligencia artificial SciTheWorld y uno de los mayores expertos en esta tecnología que hay en España. El experto descarta de plano los escenarios apocalípticos que señalan que la IA podría terminar causando la extinción humana «a final de esta década», tal y como alertó la semana pasada un investigador de Anthropic . «No hay más razones para estar preocupados por esto que por que nos caiga un meteorito encima. Las probabilidades son increíblemente bajas», dice Álvarez-Teleña en conversación con este diario. «La sensación que tengo es que están intentando preocupar a la gente para conseguir más inversión. El mensaje, aunque no sea explícito, es que se invierta en estas empresas, porque se presentan como las únicas que son capaces de solucionar el problema de lo buenos que son en lo suyo», zanja el experto.

ABCABC•(abc)14 sept
I

Wall Street cierra en rojo, arrastrado por el temor a la IA y la subida del petróleo

Nueva York, 14 sep (EFE).- Wall Street cerró este lunes en rojo, arrastrado ante las dudas sobre el impacto del rápido avance de la inteligencia artificial (IA), que hizo caer al sector tecnológico, y la subida del petróleo derivada de las crecientes tensiones geopolíticas en Oriente Medio. Al cierre del parqué neoyorquino, el Dow Jones de Industriales bajó un 0,29 %, hasta 52.421 puntos; el selectivo S&P 500 recortó un 0,48 %, hasta 7.619 enteros; y el tecnológico Nasdaq cedió un 0,56 %, hasta 26.186 unidades. Por sectores, las pérdidas estuvieron encabezadas por las empresas tecnológicas (-1,67 %), y particularmente las relacionadas con el desarrollo de la IA, como Marvell (-7,3 %), Intel (-5,6 %), Broadcom (-4,8 %) AMD (-4,4 %) Oracle (-3,6 %) y Nvidia (-3,4 %). Las principales figuras del sector, como Dario Amodei (Anthropic), Sam Altman (OpenAI) e Elon Musk (xAI) hicieron recientemente advertencias sobre el rápido desarrollo de los modelos de IA y el riesgo que conllevan para la seguridad global. El debate se reabrió después de que un investigador de Anthropic, Jacob Coxon, vinculara su dimisión a una supuesta falta de responsabilidad en esta empresa y sus rivales que, sugirió, pueden llevar a la extinción de la raza humana a corto plazo. El presidente de Estados Unidos, Donald Trump, minimizó este lunes el riesgo de que la IA vaya a destruir a la humanidad y arremetió contra su regulación, aludiendo a la competencia con China por el liderazgo de la tecnología. No todo fue negativo en el sector, pues las firmas de ciberseguridad que pueden verse favorecidas por una mayor inversión subieron en bolsa, como Crowdstrike (13,8 %) y Palo Alto Networks (13 %). Por otra parte, el mercado estuvo pendiente del petróleo intermedio de Texas (WTI, por sus siglas en inglés), que subió hasta los 101,39 dólares por barril al intensificarse la guerra en el mar Rojo, donde hay una alternativa clave al estrecho de Ormuz que permanece bloqueado por la guerra EE.UU.-Irán. Además, el rendimiento del bono a 10 años, de referencia en EE.UU. se elevó hoy hasta el 5 % antes de moderarse, entre preocupaciones por el repunte de la inflación y expectativas de que la Reserva Federal dicte una subida de los tipos el miércoles. En otros mercados, al cierre de la sesión, el oro bajaba a 4.336 dólares la onza, el euro se cambiaba a 1,1546 dólares y el bitcóin subía a 79.429 dólares.

InfobaeInfobae•Newsroom Infobae14 sept

🎙 PODCAST | Apocalipsis IA: ¿De verdad vamos a morir todos?

Creaciones de laboratorio capaces de escapar, de organizarse, de atacar. Científicos que sienten que el apocalipsis está en sus manos. Grandes empresarios que piden controlar el negocio antes de perder el control Un tema Al día, ¡en el teatro! Ven a verlo en directo el 3 de octubre en Madrid. Consigue ya tus entradas Jacob Coxon no es un profeta religioso, ni el líder de ninguna secta. Es un investigador hasta hace poco en Anthropic, una de las grandes empresas de Inteligencia Artificial del momento, que la semana pasada dejaba su trabajo lanzando una alerta mundial al pronosticar que el nivel de autonomía que está alcanzando la IA puede acabar con la humanidad en menos de cinco años. Los dueños de los cuatro principales gigantes del sector, (Sam Altman, de Open AI; Dario Amodei, de Anthropic; Demis Hassabis, de Google DeepMind, y hasta Elon Musk de SpaceX), lejos de desmentirle, salieron a decir que Coxon llevaba razón, que hay que frenar el desarrollo de la IA y poner reglas comunes. Con Carlos del Castillo, periodista de elDiario.es especializado en tecnología y autor del libro ‘Inteligencia Artificial. Cartografía de una revolución’, desciframos las claves que hay detrás de estas advertencia apocalíptica y por qué quienes siempre han odiado las reglas apuestan ahora por desacelerar esta carrera y poner límites. *** Envíanos una nota de voz por WhatsApp contándonos alguna historia que conozcas o algún sonido que tengas cerca y que te llame la atención. Lo importante es que sea algo que tenga que ver contigo. Guárdanos en la agenda como “Un tema Al día ”. El número es el 699 518 743 *** Un tema Al día es el podcast diario de actualidad de elDiario.es que, en episodios de unos 15 minutos, explica cada día un asunto de actualidad. Está presentado y dirigido por Juanlu Sánchez, subdirector de elDiario.es. Premio Ondas al podcast Revelación , Un tema Al día es el daily líder en Spotify, Apple Podcast, iVoox, Amazon Music o Podimo, según los datos públicos de las plataformas, donde acumula más de 200.000 suscriptores. Ha sido reconocido como “podcast revelación” por Amazon y recomendado como “imprescindible” por Apple. ¿Cómo escuchar 'Un tema Al día'? ▶ Si eres socio/a, puedes escuchar los nuevos capítulos del podcast cada noche en elDiario.es con unas horas de antelación respecto al resto de lectores. Recibirás el enlace en tu correo electrónico en el boletín del Adelanto de noticias. ▶ Si no eres socio/a, el episodio está disponible a primera hora de la mañana en cualquier aplicación que uses habitualmente. Spotify Apple Podcast Ivoox Podimo Amazon Music Feed RSS ▶ Acuérdate de suscribirte al podcast 'Un tema al día' en tu app para que te lleguen automáticamente los nuevos capítulos. Es gratis. ▶ Tendrás disponibles también todas las entregas de 'Un tema Al día' en elDiario.es/aldia

elDiario.eselDiario.es•Juanlu Sánchez14 sept

¿Se puede 'frenar' la IA? Por qué el resto del mundo desconfía del plan de Silicon Valley

El CEO de Anthropic propone "ralentizar" el desarrollo de IA avanzada para aprender a controlarla, pero China, expertos y otros actores cuestionan quién debe decidir el ritmo de la tecnología Análisis - Quién gana cuando los líderes de la IA piden que los regulen Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional. Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control . “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos. “Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”. ¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla. Las claves del 'plan Amodei' para la IA La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”. “Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende. Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura. El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente Dario Amodei Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice. Dario Amodei, en una imagen de archivo. El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”. Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”. Una estrategia que no convence a casi nadie El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington , la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración. La segunda gran reacción ha llegado por parte de China , el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips. El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector Global Times — diario vinculado directamente al Partido Comunista Chino El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia. “El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”. Centrarse en los riesgos de ahora El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”. “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”. A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo Carme Artigas — ex secretaria de Estado de Digitalización e IA Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”. Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”. El “aterrizaje suave” para la burbuja de la IA Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate. La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar Carissa Véliz — filósofa especialista en la ética de la tecnología “Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”. Véliz rechaza destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

elDiario.eselDiario.es•Carlos del Castillo14 sept

Wall Street cae ante las alertas por la IA; tecnológicas registran fuertes pérdidas

Nueva York. Wall Street abrió en rojo este lunes arrastrado principalmente por las pérdidas en el sector tecnológico ante la oleada de voces, entre ellas las de los principales líderes del sector, que alertan del avance de la inteligencia artificial (IA) y reclaman frenar el ritmo de desarrollo por temor a perder el control de los sistemas. A la apertura del parqué neoyorquino, su principal indicador, el Dow Jones de Industriales , perdía un 0.21%, hasta 52.462 puntos; el selectivo S&P 500 restaba un 0.74%, hasta siete mil 600 enteros; y el tecnológico Nasdaq cedía un 1.23%, hasta 26.008 unidades. Los inversores observaron con preocupación la petición de las principales personalidades del sector, como Dario Amodei , consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk para poner freno al desarrollo de los sistemas de inteligencia artificial. La semana pasada, Jacob Coxon, investigador de Anthropic , que también trabajó para OpenAI , anunció su dimisión al considerar que la compañía no estaba actuando de manera responsable ni pendiente de la seguridad. Este sábado, Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de IA y advirtió que avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global. Por su parte, Altman respaldó su petición y avanzó que permitirá que evaluadores independientes auditen los sistemas de OpenAI. A pesar de que el presidente de Estados Unidos, Donald Trump , minimizó la alerta y pidió no ceder ante China, con quien compite por el liderazgo de la IA, los títulos de las principales compañías del sector arrancaron a la baja. Nvidia, AMD e Intel encabezan las pérdidas Nvidia , empresa estrella de la IA, perdía un 4.18%. Por su parte, Marvell Technology restaba un 8.98%, Intel un 7.18% y AMD un 6.17%. En otros mercados, el oro se devaluaba un 2.16%, hasta 4.313 dólares la onza, y la plata un 2.68%, hasta 63.44 dólares la onza. El petróleo intermedio de Texas (WTI) subía hasta los 104 dólares la onza y el rendimiento del bono del Tesoro a 10 años avanzaba 1.8 puntos básicos. También te interesará: China defiende inteligencia artificial "abierta"; rechaza narrativas "de amenaza" en su contra Donald Trump dice que el único control que necesita la IA es un presidente como él; denuncia "conspiración enfermiza" ONU pide regular la inteligencia artificial con urgencia; alerta sobre riesgos para los derechos humanos DeepSeek y Moonshot perfilan salir a bolsa, reportan; debut de las firmas chinas de IA sería en los próximos meses Únete a nuestro canal ¡EL UNIVERSAL ya está en WhatsApp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

El UniversalEl Universal•​​​​​​​EFE null14 sept
I

Trump considera un "bulo" que la inteligencia artificial vaya a destruir la humanidad

Washington, 14 sep (EFE).- El presidente de Estados Unidos, Donald Trump, calificó este lunes de "bulo" la idea de que la inteligencia artificial (IA) vaya a destruir a la humanidad y criticó a los líderes del sector que han reclamado una mayor regulación de esta tecnología. "La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", escribió el mandatario en su red social Truth Social. "¿Cuándo, en la historia de los negocios, se ha visto a los líderes de una industria exigir una regulación que, de aplicar rigurosamente, los llevan al olvido y la bancarrota?", cuestionó. La polémica la desató el sábado el director ejecutivo de Anthropic, Dario Amodei, quien publicó un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. A esa advertencia se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector. Sus declaraciones se produjeron después de que, el martes pasado, el investigador de IA Jacob Coxon dimitiera y acusara a sus antiguos empleadores, Anthropic y OpenAI, de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad esta misma década. Trump, en cambio, se opone a regular el sector porque considera que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico. El republicano escribió en Truth Social que "China no hará absolutamente nada para interponerse en el camino de la IA ni de su futuro". "La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet", subrayó. EFE

InfobaeInfobae•Newsroom Infobae14 sept

Los magnates tech soñaron con una revolución digital que les haría milmillonarios: se han encontrado con el regreso de los luditas

En septiembre de 2025, Michael Trazzi se sentó con una silla plegable y una pizarra frente a la sede de Google DeepMind en Londres y se declaraba en huelga de hambre . En la pizarra se podía leer: " DeepMind parad la carrera de la IA ". Unos días más tarde, otro joven se presentaba a las puertas de las oficinas de Anthropic con una carta para Dario Amodei con un mensaje muy similar: "Por el bien de mis hijos y con la urgencia y gravedad de nuestra situación en mi corazón, he iniciado una huelga de hambre frente a las oficinas de Anthropic… mientras espero su respuesta". Hoy, esas peticiones están más vigentes que nunca y la generación que iba a impulsar la IA es, en realidad, la que más la odia . Generación L: con L de ludita . Durante años, las tecnológicas dieron por hecho que los más jóvenes adoptarían e impulsarían la IA como ya hicieron antes con los ordenadores y con internet. Sin embargo, los datos dicen justo lo contrario. En Xataka Bill Gates: "A medida que la IA asuma más trabajos, podrás jubilarte antes y trabajar semanas laborales más cortas" Según una encuesta de Gallup entre chicos de 14 a 29 años, solo el 22% se siente esperanzado con la IA. Son catorce puntos menos que en 2025. El enfado y el desapego con la tecnología que prometía quitarle el trabajo en el futuro subió al 31% y la ansiedad ronda ya el 44%. "Creo que nadie de mi círculo social más cercano usa IA y todos están activamente en contra, excepto mis amigos que estudian informática y prácticamente están obligados a usarla", contó a The Verge la extrabajadora tecnológica Sharon Freystaetter. No es la única voz crítica. Un 44% de los jóvenes admite sabotear de alguna forma la estrategia de IA de su empresa, según recoge un informe de Writer y Workplace Intelligence. De las graduaciones a las calles. El exCEO de Google Eric Schmidt fue abucheado varias veces al hablar de IA en la graduación de la Universidad de Arizona, en mayo. "La pregunta no es si la IA va a dar forma al mundo. Lo hará", insistió Schmidt entre pitos. No fue el único orador abucheado durante una graduación mientras alababa las bondades de la IA. Gloria Caulfield, ejecutiva del sector inmobiliario también recibió su dosis de abucheos durante su discurso de graduación en la Universidad de Florida Central. Los mismos abucheos y reproches recibió Scott Borchetta , director ejecutivo del sello discográfico Big Machine, en su discurso ante los recién graduados de la Universidad Estatal de Middle Tennessee. Es el mismo malestar que empujó a Trazzi a declararse en huelga de hambre ante la sede de DeepMind, que ahora comparte con la generación Z a través de movimientos como Stop the AI Race , la plataforma que organiza marchas para congelar el desarrollo de estos sistemas. En marzo reunió a doscientas personas frente a las sedes de OpenAI, Anthropic y Google en San Francisco. "Estamos en una emergencia", gritó a la multitud. En Xataka Los PC necesitaron 15 años para demostrar su valor en las oficinas. La IA encara un desafío adicional: los empleados la odian Los centros de datos, el nuevo frente de batalla . Sadie Cisneros, de 17 años, no quiso permanecer en silencio al enterarse de que iban a construir un centro de datos junto a su instituto en Pittsburg. "No necesitaba la IA para la mitad de las cosas para las que la usaba", reconoció Cisneros al New York Times . En El Paso, Marco Sánchez de quince años montó una alianza juvenil contra un centro de datos de Meta tras saber que la empresa recibió una rebaja del 80% en sus impuestos. "Estás perjudicando a familias trabajadoras mientras le das a la empresa de Zuckerberg cientos de millones en beneficios fiscales", denunció el joven. Solo en el primer trimestre del año, la presión vecinal bloqueó o retrasó 75 proyectos por valor de 130.000 millones de dólares. Paro para todos, beneficios para unos cuantos . "Los que acaban la universidad y están a punto de empezar sus carreras profesionales están cada vez más preocupados por no encontrar trabajo. Temen que la IA se vuelva más inteligente hasta llegar a ser capaz de hacer todo lo que ellos pueden hacer. Creo que cada vez miran al futuro con más incertidumbre y no tienen claro cómo van a poder ganarse la vida", explicaba en una entrevista para ABC Michael Trazzi. Un informe de InfoJobs y Esade revela que las vacantes tecnológicas sin experiencia cayeron un 41% en 2025. Justo cuando más jóvenes buscan su primer empleo . Mientras la calle se llena de pancartas de protesta contra la desenfrenada carrera de la IA y su impacto en la sociedad, la inversión en las empresas que la desarrollan bate récords. Según calculaba un informe de Stanford, el capital global destinado a esta industria alcanzó los 581.700 millones de dólares en 2025, más del doble que el año anterior. El propio informe de Stanford reconoce que esos beneficios se concentran en un puñado de empresas, casi siempre las mismas . Los salarios de tecnología en España ya no suben al mismo ritmo. La IA determina qué salarios suben más Como los luditas, pero sin telares que romper . El paralelismo de estos movimientos de protesta contra los centros de datos con los protagonizados por los luditas en el siglo XIX no es casual. Los luditas no odiaban la maquinaria en sí misma. Defendían salarios y empleos frente a máquinas que producían más barato y peor, recuerda el periodista Brian Merchant en su libro 'Sangre en las máquinas' . Aquellos obreros rompieron novecientos telares en Nottingham antes de que el Parlamento castigara con la horca a quien destruyera máquinas. Hoy no hay una sola máquina que romper. Si alguien ataca un servidor, la IA sigue funcionando desde cualquier otro lugar. Por eso la resistencia y el rechazo que está mostrando la generación Z apunta a lo único físico que queda: los centros de datos, los contratos públicos y la reputación de sus dueños. El desasosiego social es casi el mismo de hace dos siglos, aunque las herramientas y los telares ya no fabriquen telas sino redes neuronales. En Xataka | Bill Gates: "Creo que deberíamos poner impuestos a la IA, si contratas a alguien ahora mismo pagas impuestos sobre su nómina" Imagen | Unplash ( Manuel Lopez ) - La noticia Los magnates tech soñaron con una revolución digital que les haría milmillonarios: se han encontrado con el regreso de los luditas fue publicada originalmente en Xataka por Rubén Andrés .

XatakaXataka•Rubén Andrés14 sept
I

La Bolsa de París cierra a la baja por caída de valores vinculados a la IA

París, 14 sep (EFE).- La Bolsa de París cerró este lunes a la baja, presionada por las fuertes caídas de las compañías vinculadas a la inteligencia artificial (IA) y por el repunte de los precios energéticos y de los rendimientos de la deuda soberana. El CAC 40 perdió un 0,76 %, hasta los 8.117,78 puntos, tras avanzar un 0,78 % el viernes. Este lunes cambiaron de manos títulos por valor de 3.591 millones de euros. Legrand y STMicroelectronics encabezaron las mayores pérdidas de la jornada y cedieron un 6,70 % y un 6,58 %, respectivamente, seguidas de Schneider Electric, que retrocedió un 6,54 %; Stellantis (-3,01 %) y Saint-Gobain (-2,71 %). Las advertencias sobre el ritmo de desarrollo de la IA, formuladas por ejecutivos como Dario Amodei, Elon Musk y Sam Altman, aumentaron la cautela de los inversores. En sentido contrario, Capgemini subió un 6,61 % y Dassault Systèmes un 4,99 %, seguidas de los grupos Publicis (3,67 %), Pernord Richard (3 %) y Sanofi (2,96 %). La presión sobre los mercados también procedió del encarecimiento de la energía y de los bonos. El rendimiento del bono francés a 10 años llegó a superar el 4,50 %, por primera vez desde 2008, antes de cerrar en el 4,47 %. EFE

InfobaeInfobae•Newsroom Infobae14 sept

Trump carga contra Amodei (Anthropic) y tilda las peticiones para frenar la IA de "conspiración"

El presidente de Estados Unidos, Donald Trump, ha cargado contra el consejero delegado de Anthropic, Dario Amodei, tras su reciente carta pública pidiendo frenar el desarrollo de la IA ante los potenciales riesgos, algo que el inquilino de la Casa Blanca ha calificado de "conspiración" que únicamente beneficia a China. "La Administración Trump ha impedido que los 'humanos' de IA hagan cosas malas, o potencialmente malas, como Dario (Amodei), que ahora se hace pasar por un 'angelito perfecto', ¡y seguiremos haciéndolo!", ha destacado el mandatario norteamericano en redes sociales. Trump ha indicado que el Gobierno ya cuenta con un poder suficiente en términos regulatorios sobre estas empresas para controlar su actividad. "Hay una conspiración enfermiza en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China", ha aseverado. De hecho, el presidente estadounidense ha afirmado que el sector no requiere de mecanismos de control, ya que Estados Unidos cuenta con un mandatario "fuerte e inteligente". "¡Teóricos de la conspiración, traidores, delincuentes y filtradores, tengan cuidado!, ha advertido. Los máximos líderes de los tres grandes laboratorios de IA --Anthopic, OpenAI y SpaceX-- han coincidido en que se debe ralentizar el desarrollo de la IA y han expresado sus advertencias sobre el riesgo de esta herramienta en los próximos años. En concreto, el director ejecutivo de Anthropic, Dario Amodei, ha avisado que es necesario frenar el ritmo de desarrollo de los modelos de IA en una carta publicada en la web y en su cuenta de X el 12 de septiembre, una postura con la que han coincidido también el CEO de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk en respuesta a su publicación. Las acciones de empresas relacionadas con el sector de la inteligencia artificial están sufriendo caídas este lunes después de un fin de semana cargado de declaraciones de altos directivos alertando de los riesgos del avance de la IA e instando a frenar su vertiginoso desarrollo.

InfobaeInfobae•Newsroom Infobae14 sept