El CEO de OpenAI defiende reglas comunes de seguridad, auditorías independientes y un desarrollo algo más lento de los modelos más avanzados, aunque rechaza la idea de detener el progreso.
París, 14 sep (EFE).- La Bolsa de París cerró este lunes a la baja, presionada por las fuertes caídas de las compañías vinculadas a la inteligencia artificial (IA) y por el repunte de los precios energéticos y de los rendimientos de la deuda soberana. El CAC 40 perdió un 0,76 %, hasta los 8.117,78 puntos, tras avanzar un 0,78 % el viernes. Este lunes cambiaron de manos títulos por valor de 3.591 millones de euros. Legrand y STMicroelectronics encabezaron las mayores pérdidas de la jornada y cedieron un 6,70 % y un 6,58 %, respectivamente, seguidas de Schneider Electric, que retrocedió un 6,54 %; Stellantis (-3,01 %) y Saint-Gobain (-2,71 %). Las advertencias sobre el ritmo de desarrollo de la IA, formuladas por ejecutivos como Dario Amodei, Elon Musk y Sam Altman, aumentaron la cautela de los inversores. En sentido contrario, Capgemini subió un 6,61 % y Dassault Systèmes un 4,99 %, seguidas de los grupos Publicis (3,67 %), Pernord Richard (3 %) y Sanofi (2,96 %). La presión sobre los mercados también procedió del encarecimiento de la energía y de los bonos. El rendimiento del bono francés a 10 años llegó a superar el 4,50 %, por primera vez desde 2008, antes de cerrar en el 4,47 %. EFE
Satya Nadella ha fijado un límite claro para el desarrollo de la inteligencia artificial avanzada, sosteniendo que «cualquier iniciativa encaminada a la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo», como dijo en su perfil de X . El CEO de Microsoft llamó así a la seguridad y la distribución democrática del poder tecnológico. Dario Amodei, CEO de Anthropic ; Sam Altman, CEO de OpenAI , y Elon Musk, CEO de SpaceXAI, también expresaron públicamente su deseo de ralentizar el desarrollo de la IA durante este fin de semana, alegando la pérdida de control de la misma. Nadella defendió que la gobernanza de la superinteligencia no debería estar únicamente en las manos de unos pocos actores corporativos y abogó por incorporar a gobiernos, universidades y a la comunidad científica al sector para garantizar un proceso de decisión representativo e inclusivo. Asimismo, el director ejecutivo de la multinacional respaldó soluciones técnicas como contar con «evaluadores integrados», unas herramientas que pueden verificar de forma continua que los principios de seguridad estén realmente cumpliéndose. «También debemos acelerar y difundir los beneficios de la IA, de modo que se extiendan ampliamente por todos los países, comunidades y empresas», añadió Nadella, «esto requiere un ecosistema de vanguardia en el que puedan prosperar tanto los modelos cerrados como los de código abierto». El directivo también propuso proteger la autonomía operativa del tejido empresarial frente a los grandes proveedores de tecnología. Nadella advirtió contra el peligro de que las organizaciones desarrollen una dependencia permanente respecto a una única plataforma de IA. «Toda organización debería poder crear su propio ciclo de aprendizaje continuo o 'máquina de escalada', sin depender de ningún proveedor de modelos en concreto, y tener la capacidad de integrar su propio conocimiento en los modelos y los pesos que controla», afirmó. Además, añadió que «la clave es que esto no puede estar controlado por un puñado de entidades, sino que debe contar con una amplia representación en todo el ecosistema, los países y los ámbitos, incluido el mundo académico». Como complemento a esta visión, Nadella confirmó que la empresa estadounidense presentará un Código de Conducta que fundamenta los modelos Microsoft AI, con lo que pretende ofrecer libertad de elección y control efectivo a las organizaciones.
"Nos estamos pasando de frenada con la IA". Básicamente, ese es el mensaje que Dario Amodei, CEO de Anthropic, mandaba este fin de semana , poniendo sobre la mesa, otra vez, que pese al enorme potencial de la tecnología, es algo que también puede generar enormes riesgos. En esta ocasión, Amodei no estaba solo, ya que Elon Musk, Demis Hassabis y Sam Altman se han sumado a la idea de dejar de pisar el acelerador de la IA. El problema es que quizá es sólo una cortina de humo para camuflar otra cuestión: son las empresas privadas las que se están gastando un dineral en algo que no avanza al ritmo que ellos quieren. Hay muchas aristas aquí. Nos va a matar a todos . No es la primera vez que alguno de los desarrolladores de la IA manda este mensaje en el que se apunta que los sistemas se están volviendo extremadamente capaces en tiempo récord, tanto que puede que pronto nos quedemos sin capacidad de respuesta y sin poder controlarlos con seguridad. De hecho, tanto Anthropic como OpenAI llevan meses jugando al juego de "lanzamos algo muy potente y decimos que es tan potente que es peligroso". En un principio, ese mensaje apocalíptico venía por parte de empleados de mayor o menor entidad en estas empresas. En el Statement of Superintelligence firmado por más de 800 personas en otoño de 2025, ingenieros ya hablaban sobre la posibilidad de prohibir el desarrollo de una superinteligencia hasta que hubiera un consenso sobre lo que se quería lograr y cómo hacerlo seguro. Este 2026, el mensaje empieza a venir por parte de los directivos de las propias empresas que están empujando el desarrollo de la IA. De hecho, OpenAI y Anthropic han construido buena parte de su discurso alrededor de la idea de que la tecnología que venden es potencialmente catastrófica . Es una contradicción mayúscula y también un patrón que se repite estos últimos meses (o semanas, porque el ritmo que van lanzando modelos de vanguardia es endiablado). En Xataka OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos El punto de inflexión . Todo esto nos lleva a la situación de esta semana en la que los que pueden echar el ancla piden, efectivamente, echar el ancla. Sin embargo, para entender por qué ese frenazo interesa justo ahora, hay que volver atrás en el tiempo, concretamente a comienzos de 2025. Fue entonces cuando la startup china Deepseek lanzó su modelo R1, borrando en un sólo día 600.000 millones de capitalización de Nvidia. La lógica era sencilla: si un modelo tan avanzado se podía entrenar con una fracción del gasto de las big tech y sin acceso a la última tecnología de una Nvidia que lleva la voz cantante, ¿por qué no lo están haciendo todos? ¿Acaso el sistema de gasto está sobredimensionado? Pero ocurrió todo lo contrario, y la respuesta de las big tech (en este caso ya dejamos startups de IA como OpenAI y Anthropic al margen, centrándonos en Microsoft, Google, Meta y Amazon) fue gastar... más. De los 250.000 millones de dólares , pasaron a 410.000 millones en 2025 . Y de esa cifra, a los 725.000 millones previstos para este 2026 . El verdadero punto de inflexión es que ninguna empresa del sector podía permitirse gastar menos que las demás. Gráfico de BofA de la emisión de deuda en EEUU, modificado para indicar el lanzamiento de Deepseek: Deuda. Y el problema es que ese gasto ya no se financia sólo con la caja propia. Los cinco grandes hiperescaladores (Amazon, Alphabet, Microsoft, Meta y Oracle) emitieron 121.o00 millones de dólares en bonos en 2025, más de cuatro veces la media anual del año anterior. Esta tendencia se ha acelerado, con una previsión de nueva deuda para 2026 de entre 140.000 y 175.000 millones de dólares, hasta 320.000 millones en los próximos tres años. Según las estimaciones , el gasto de capital absorberá el 94% del flujo de caja operativo de estas compañías en 2026. Hace apenas dos años, cuando comenzó esta fiebre, esa cifra era del 50%. Y los propios bancos de inversión están empezando a hablar de los hiperescaladores y empresas de la IA c asi como si fueran soberanos . Alphabet ha colocado 31.000 millones de dólares en deuda en el primer trimestre de 2026, la de Amazon ha pasado de 65.600 a 119.100 millones interanuales y se estima que Oracle no generará caja libre positiva hasta 2029. La traducción es que los inversores están nerviosos porque el endeudamiento no es infinito y es más que posible que el mercado empiece a mostrar fatiga por esa avalancha de deuda. Vamos, que se pinche la burbuja. “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas Si el dinero no fuera un problema... Incluso si el capital fuera ilimitado, hay un límite que nadie puede saltarse: no hay suficiente gente para construir centros de datos. CEOs como Satya Nadella de Microsoft o Jensen Huang de Nvidia han hablado en alguna ocasión que no estamos ante una burbuja porque ellos no pueden escalar la IA como les gustaría y como el mercado necesita debido a que hay dos cuellos de botella. El primero es el de los chips, ya que no hay componentes suficientes ( la memoria NAND ) y las fundiciones como TSMC no pueden fabricar a la velocidad necesaria. El segundo es el de las propias instalaciones. Los permisos van a su ritmo, hay vecinos que no los quieren y ralentizan los proyectos y, aunque todo, todo fuera rodado, no hay profesionales de la construcción suficientes. Según los cálculos, sólo en Estados Unidos hay un déficit de unos 439.000 trabajadores de la construcción como electricistas, soldadores o instaladores que tengan las capacidades como para levantar los centros de datos y conectar la infraestcuctura de la IA. La energía también es otro cuello de botella importante porque estamos viendo que sólo con las renovables no basta y es otro punto de fricción tanto a la hora de alimentar estos centros de datos como al momento de conseguir el beneplácito político en algunas ciudades que no quieren que sus factures aumenten de la noche a la mañana. En Xataka En China los tokens de IA son los nuevos puntos de fidelización: te los regalan por comer, beber o usar una tarjeta Papá Estado al volante . Ahí está la pregunta. ¿Los grandes de la IA piden pausa porque creen sinceramente que están yendo demasiado rápido o porque están quemando dinero a la vez que hay un freno físico que no pueden superar simplemente quemando más y más dinero? Y, a si lo que ha ocurrido este fin de semana es una cortina de humo, se suman otras declaraciones de Dario Amodei en las que apunta que es "muy extraño" que algo tan importante como los modelos avanzados de IA dependan sólo de empresas privadas . Sin pedir un rescate, Amodei asegura que lo que debería producirse es una gobernanza conjunta entre gobiernos y empresas de la IA aludiendo a algo básico: la IA se ha convertido en geopolítica, el caballo de batalla en la guerra comercial entre Estados Unidos y China, y si es tan importante, Amodei defiende que el Estado debería tener mano en la industria más allá de regular el acceso a los chips. Alguien ha echado un vistazo a las cuentas de Microsoft con los chips para IA y ha descubierto algo preocupante: no cuadran Gu erra frí a . Pero bueno, si se quiere que el Estado meta uñas en el asunto, ¿qué dice el Estado? Trump ha rechazado la desaceleración por un motivo muy sencillo: "quien gane la IA, gana". China más de lo mismo, con toda la lógica del mundo porque, como decimos, la IA no es un producto: es geopolítica. El desarrollo de esta tecnología es otro frente abierto entre las dos potencias y, en caso de echar el ancla, hablaríamos de una guerra fría en la que ninguno se puede fiar del otro: ni Anthropic de Google, X y OpenAI (y viceversa), ni Estados Unidos de China (y viceversa). El resumen es que nadie se fía del vecino , pero bueno, al final... ha ocurrido lo de siempre. Es el cuento de Pedro y el lobo, ese en el que Amodei, en este caso, afirma que deberían pisar el freno con la IA para, acto seguido, afirmar que seguirán lanzando modelos avanzados. Y si piden un frenazo es porque, realmente, tienen que ganar oxígeno tanto en los centros de datos como en la caja. Imagen | Gemini En Xataka | Buena parte de la economía mundial ahora mismo consiste en Google y Amazon comprando GPUs: el 95% están inactivas - La noticia Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno fue publicada originalmente en Xataka por Alejandro Alcolea .
En las últimas semanas los grandes desarrolladores de Inteligencia Artificial han llamado a frenar el rápido desarrollo de esta tecnología en aras de la seguridad tanto de los ciudadanos como de la economía. Los CEOs de Anthropic y OpenAI coinciden en que los sistemas podrían, eventualmente, provocar problemas cuya solución escape al control humano . En este contexto, y con la batalla entre EE.UU. y China por liderar el desarrollo de la IA, los grandes desarrolladores se plantean crear un organismo de seguridad que regule la evolución de esta tecnología, según The Washington Post. Los líderes de estas empresas han advertido que un gran descontrol podría causar estragos multimillonarios. El ensayo publicado por el CEO de Anthropic , Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. La relevancia de este comunicado se suma a la dimisión de un ingeniero de Anthropic, Jacob Coxon, que ha alertado de que «están avanzando a toda velocidad hacia la creación de una superinteligencia artificial -algo así como una IA más lista que cualquier humano- capaz de auto mejorarse y jugando con nuestras vidas », llegando a asegurar que «quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década ». Incluso la ONU ha alertado de los peligros de la IA. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, asegura que «todos los derechos humanos están en riesgo» y ha llamado a «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo». Entre las reacciones a la advertencia de Amodei se encuentra la de Hassabis, que publicó en X su apoyo, mientras que Altman le siguió en la red social al compartir que « el progreso ha sido rápido y continuará siéndolo . Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face , propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. A pesar de la voluntad de los líderes de las empresas, estos se enfrentan al gobierno estadounidense. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo asegurando que «se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China». «Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo», ha afirmado. Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños , frenaría la ventaja estratégica del país frente a potencias rivales como China. Entre los movimientos dentro de la industria de la IA, el gigante tecnológico Microsoft ha presentado este lunes un borrador de código de conducta para su inteligencia artificial interna. El documento exigiría que la IA de Microsoft nunca se resistiera a ser corregida o apagada , que se comunicara de forma comprensible para los humanos y que considerara cualquier infracción de conducta como un fallo. El código de conducta «representa una especie de constitución para los futuros modelos creados por la empresa», afirmó Mustafa Suleyman, director ejecutivo de IA de Microsoft, en una entrevista con Reuters. Microsoft lo elaboró tras consultar con expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites del usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable , explicó. «Después de eso, se utilizará para entrenar los modelos que desarrollemos», afirmó refiriéndose al código. La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar conciencia o estatus moral. Microsoft, por su parte, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».
Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse. El ensayo publicado este sábado por el CEO de Anthropic, Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. Entre las reacciones se encuentra la de Hassabis, que publicó en X (antes Twitter) su apoyo a la llamada de Amodei, mientras que Altman le siguió en la red social al compartir que "el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento", recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face, propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención "limitada" en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así". Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un "cartel" para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.
Desde hace meses, el discurso en torno a los últimos modelos de IA se ha ido volviendo más y más apocalíptico. Desde hace unos días ya no se habla tanto de modelos que pueden ser un riesgo para la ciberseguridad , se habla de extinción de la humanidad directamente. En medio de esta escalada de pesimismo, los mismísimos Dario Amodei y Sam Altman están abogando por detener el progreso de la IA . Pero lo que por fuera suena a preocupación genuina esconde un truco tan viejo como el propio capitalismo, uno que Rockefeller usó hace más de un siglo. Rockefeller did it first . En 1899, John D. Rockefeller se plantó ante la Comisión Industrial de Estados Unidos y los convenció de que las grandes combinaciones empresariales eran necesarias para competir en una economía internacional cada vez más compleja y que no había que eliminarlas, sino que había que regularlas y supervisarlas. Los argumentos recuerdan mucho a los que están esgrimiendo los líderes de la IA. Qué está pasando . La semana pasada un ingeniero de Anthropic dimitió de su cargo. Acto seguido apareció en diversos medios de comunicación acusando a la empresa de "jugar con nuestras vidas" y diciendo que cree que hay un 10% de probabilidad de que la IA acabe con la humanidad esta misma década. Poco después, el CEO de Anthropic Dario Amodei dijo que una IA podía tomar el control de internet en menos de un año y abogó por "frenar el ritmo". Demis Hassabis, director de Google DeepMind, Elon Musk y Satya Nadella también se han mostrado a favor. De momento, ninguno ha parado nada. “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas Reguladnos, por favor . Aquí viene la parte interesante. En la carta publicada por Dario Amodei dice que la forma más eficaz de imponer este freno es mediante una regulación que afecte a todas las empresas de IA por igual. También señala que algunas formas de coordinación entre compañías pueden chocar con las leyes antimonopolio, por lo que pide que el Gobierno las medie o facilite mediante una exención específica. No están pidiendo que las empresas de IA sean más prudentes, están pidiendo que el Gobierno estadounidense convierta esa prudencia en una obligación para toda la industria. Las mismas compañías que compiten por construir los modelos más potentes del mundo están pidiendo ahora que el estado establezca las reglas sobre cuándo y cómo pueden seguir construyéndolos. Cuando los líderes de una industria pide que les regulen , hay motivos para levantar la ceja. Captura regulatoria. Es lo que ocurre cuando una industria influye para que los reguladores diseñen unas reglas que favorecen sus propios intereses. Ha habido más casos además del de Rockefeller, como el del operador AT&T que abogó por una regulación que la convirtió en un monopolio natural durante más de 70 años , o el del sector de las aerolíneas, que durante décadas impidió la entrada de nuevas empresas , beneficiando a las grandes como Pan Am o TWA. La regulación de quien ya domina. OpenAI y Anthropic no son dos pequeñas startups que acaban de empezar en esto de la IA, son las dos empresas que están marcando la pauta del desarrollo de los grandes modelos de frontera. No quiere decir que no haya motivos para tener que parar, pero cuando quien pide más regulación ya es líder de la industria, hay más intereses en juego que la seguridad. Es de lo que se está acusando a OpenAI y Anthropic: tratar de usar los riesgos de seguridad para levantar una barrera de entrada a sus competidores. El inversor y asesor del gobierno David Sacks ha sido demoledor en su cuenta de X: "Dejad de fingir que necesitáis el permiso de nadie. Dejad de fingir que la ley antimonopolio debe suspenderse para que podáis formar un cártel. Dejad de fingir que necesitáis un proceso de aprobación regulatoria que anule la responsabilidad del producto". En Xataka Europa ha encontrado la fórmula perfecta para regular a ChatGPT con mano dura: tratarlo como un gran buscador Si queréis parar, parad . El antiguo comisario de la FTC Alvaro Bedoya, les recuerda que "La ley antimonopolio no impide que las empresas de IA se coordinen para asegurarse de que la IA no dañe a las personas" y advierte que "La legislación antimonopolio impide categóricamente que las empresas de IA se organicen para impedir la entrada de rivales emergentes más baratos". David Sacks coincide: "La forma más sencilla de no crear superinteligencia es que te pongas de acuerdo en no crearla". Dicho de otro modo, OpenAI y Anthropic conducen el coche, no hay nada que les impida pisar el freno. Si lo hacen, se ganarán "la buena voluntad para el próximo debate. Si no lo hacen, sabremos que esto fue solo otro intento de captura regulatoria" afirma Sacks. Por cierto, la FCT ya les ha dicho que se vayan olvidando de tocar las leyes antimonopolio. El cuento del lobo. No es la primera vez que escuchamos eso de que la IA acabará con la humanidad , y ese es precisamente el problema en todo esto. Incidentes recientes como el de Hugging Face han dejado claro que hay motivos para querer detener o, como mínimo, ralentizar el ritmo de los avances en IA, pero cuando todo acaba en afirmaciones tan categóricas y apocalípticas, consiguen que nadie se tome en serio las verdaderas preocupaciones . Imagen | Xataka con Magnific En Xataka | Me he leído el estudio de Anthropic sobre el impacto de la IA en la economía y he llegado a una conclusión: voy a tener que estudiar fontanería - La noticia Las grandes de la IA están resucitando una estrategia que inventó Rockefeller fue publicada originalmente en Xataka por Amparo Babiloni .
Nueva York, 14 sep (EFE).- Wall Street abrió en rojo este lunes arrastrado principalmente por las pérdidas en el sector tecnológico ante la oleada de voces, entre ellas las de los principales líderes del sector, que alertan del avance de la inteligencia artificial (IA) y reclaman frenar el ritmo de desarrollo por temor a perder el control de los sistemas. A la apertura del parqué neoyorquino, su principal indicador, el Dow Jones de Industriales, perdía un 0,21 %, hasta 52.462 puntos; el selectivo S&P 500 restaba un 0,74 %, hasta 7.600 enteros; y el tecnológico Nasdaq cedía un 1,23 %, hasta 26.008 unidades. Los inversores observaron con preocupación la petición de las principales personalidades del sector como Dario Amodei, consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk para poner freno al desarrollo de los sistema de IA. La semana pasada, Jacob Coxon, investigador de Anthropic, que también trabajó para OpenAI, anunció su dimisión al considerar que la compañía no estaba actuando de manera responsable ni pendiente de la seguridad. Este sábado, Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de IA y advirtió que avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global. Por su parte, Altman respaldó su petición y avanzó que permitirá que evaluadores independientes auditen los sistemas de OpenAI. A pesar de que el presidente de Estados Unidos, Donald Trump, minimizó la alerta y pidió no ceder ante China, con quien compite por el liderzgo de la IA, los títulos de las principales compañías del sector arrancaron a la baja. Nvidia, empresa estrella de la IA, perdía un 4,18 %. Por su parte, Marvell Technology restaba un 8,98 %, Intel un 7,18 % y AMD un 6,17 %. En otros mercados, el oro se devaluaba un 2,16 %, hasta 4.313 dólares la onza, y la plata un 2,68 %, hasta 63,44 dólares la onza. El petróleo intermedio de Texas (WTI) subía hasta los 104 dólares la onza y el rendimiento del bono del Tesoro a 10 años avanzaba 1,8 puntos básicos hasta el 4,992 %. EFE
Sam Altman, Demis Hassabis y Elon Musk apoyaron con matices la propuesta de Anthropic, centrada en evaluar la seguridad antes de ampliar las capacidades de estos sistemas
Mientras Occidente debate frenar el ritmo de la IA, modelos chinos de peso abierto ya circulan libres, pudiendo ser usados por hackers. La entrada Las advertencias de Amodei, Altman y Musk llegaron demasiado tarde se publicó primero en CriptoNoticias - Noticias de Bitcoin, Ethereum y criptomonedas .
Pekín/Washington, 14 sep (EFE).- El debate sobre la regulación de la inteligencia artificial (IA) se topó con la carrera por su dominio entre Estados Unidos y China: mientras el presidente Donald Trump tachó de "fuerzas negativas" a quienes piden más normas y defendió el liderazgo estadounidense, Pekín acusó a Washington de esconder una agenda para frenar su desarrollo tecnológico y abogó por una IA "abierta". La controversia llega después de que el fundador de Anthropic, Dario Amodei, pidiera un "ritmo más lento" en el desarrollo de modelos avanzados, posición respaldada por otros directivos de grandes tecnológicas como Sam Altman (OpenAI) y Elon Musk (xAI), aunque contestada por el presidente de su propio país. Frente a estos posicionamientos, Trump tachó de "fuerzas negativas" a quienes piden regular esta herramienta, al considerar que Estados Unidos está "liderando ante China en IA", es "el país más sofisticado del mundo" y él desea "mantenerlo de esa manera". El mismo domingo, China respondió a través de una editorial del diario oficialista Global Times, dependiente de un órgano del Partido Comunista de China (PCCh), donde acusó a parte de la comunidad tecnológica estadounidense de esconder tras esta llamada a la prudencia un "manual de guerra fría" contra la IA china. Según el rotativo, el llamamiento de Amodei contiene una "agenda oculta" que buscaría "estrangular" el desarrollo chino, con medidas como la prohibición de venta de chips avanzados, para ampliar la brecha tecnológica, y solo después negociar con Pekín una ralentización del sector. Esta lectura se sustenta en el propio texto del director ejecutivo de Anthropic, que planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China. Asimismo, el ministro chino de Seguridad del Estado, Chen Yixin, definió la IA como un nuevo terreno de "rivalidad entre grandes potencias" y pidió construir una "barrera de seguridad" en torno a la tecnología, reforzando la supervisión sobre datos, algoritmos, infraestructura de cómputo y aplicaciones de uso civil y militar. También lanzó una crítica velada a Estados Unidos, al que acusó de usar el pretexto de la "seguridad nacional" para limitar el acceso de otros países a equipos y capacidades de vanguardia. Pekín, lejos de buscar ralentizar su tecnología, trata de liderar su desarrollo más allá de sus fronteras: este verano, el presidente chino, Xi Jinping, pidió una gobernanza "precisa y efectiva" de la IA y China lanzó en Shanghái una organización internacional de cooperación sobre IA con una treintena de países. Durante la reciente cumbre de países BRICS en Nueva Delhi, el mandatario ofreció el respaldo del gigante asiático para acelerar el despegue tecnológico y desarrollo de la inteligencia artificial en los Estados miembros del bloque. Este lunes, el portavoz del Ministerio chino de Exteriores Guo Jiakun sostuvo que la difusión de narrativas de amenaza o fomentar la confrontación solo obstaculizará el proceso de gobernanza de la IA, un campo que "concierne al bienestar de toda la humanidad", por lo que todas las partes deben promover conjuntamente una IA "abierta, inclusiva, accesible para todos y orientada al bien". La advertencia llega en un momento de intensa actividad del sector chino, con empresas como DeepSeek, Moonshot, Alibaba, Tencent o Zhipu compitiendo mediante modelos abiertos, precios bajos y rápida implantación comercial, pese a las restricciones estadounidenses sobre chips avanzados. Recientemente, DeepSeek y Moonshot han perfilado posibles salidas a bolsa y modelos como Kimi K3, Qwen3.8-Max o GLM-5.2 se han acercado a los sistemas más avanzados de firmas estadounidenses como OpenAI o Anthropic. EFE
Sam Altman emitió un nuevo comunicado en sus redes sociales donde indicó que se podría "perder el control del futuro" en manos de la IA. Ayer había comunicado que su empresa no saldría a la bolsa este año.
Clarín•Clarin.com - Home14 sept
Donald Trump rechazó el llamado de Dario Amodei, Sam Altman y Elon Musk para ralentizar la evolución de los modelos de inteligencia artificial, al advertir que Estados Unidos no puede permitirse perder la carrera tecnológica frente a China. La disputa ocurre después de que Anthropic documentara usos indebidos de Claude relacionados con estafas, espionaje, ciberseguridad y desarrollo de armas.
El empresario advirtió sobre los riesgos del avance de los modelos más potentes y de una excesiva concentración de poder; pidió reglas de seguridad comunes y respaldó la implementación de auditorías independientes
Redacción Ciencia, 14 sep (EFE).- El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención esta madrugada sobre la perdida del "control del futuro" ante la Inteligencia Artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X. Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si un IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos". "Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó. El directivo de OpenAI consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país o un laboratorio tenga demasiado poder. Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado". En este sentido, apeló a un marco legal federal en EEUU que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual. Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado. El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA. Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsables de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China. EFE
Sam Altman, CEO de OpenAI, pidió regular el ritmo del desarrollo de la inteligencia artificial y advirtió que la humanidad podría perder el control del futuro ante sistemas cada vez más poderosos. Su llamado también apunta al riesgo de una concentración extrema de poder en manos de una empresa, una persona o un país.
Es posible regular la inteligencia artificial. Lo difícil será proteger a la sociedad sin convertir la seguridad en el privilegio comercial de unas pocas empresas. China será imprescindible en esa negociación, Europa corre el riesgo de quedarse fuera Los cuatro gigantes de la IA piden frenar desarrollos y Trump desprecia el riesgo Cuando quienes compiten por dominar una tecnología piden que se frene su desarrollo , conviene prestar atención. Pueden haber visto un peligro que los demás todavía no comprendemos. También pueden haber descubierto que unas buenas barreras protegen mejor su negocio que otra ronda de inversión. Ambas cosas pueden ser ciertas a la vez. Dario Amodei, consejero delegado de Anthropic, propone ralentizar el avance de la IA más potente. Sam Altman ha respaldado la idea y anunciado que OpenAI también incorporará evaluadores independientes con un acceso comparable al de sus empleados. El compromiso merece atención. Pero aceptar inspectores no equivale a aceptar que una autoridad pública decida qué puedes vender, te obligue a reparar daños o limite tu poder de mercado. ¿Se puede regular la IA? Sí. Se pueden imponer obligaciones a quienes la desarrollan y despliegan, prohibir determinados usos, investigar incidentes y exigir responsabilidades. Pretender controlar cada copia de un modelo que circula por internet es otra cosa. Confundir ambas tareas conduce a dos errores: declarar inútil cualquier regulación o prometer una seguridad imposible a cambio de entregar el sector a sus actuales líderes. La propuesta de Amodei tiene tres niveles: evaluadores dentro de los laboratorios, coordinación entre empresas de países democráticos y acuerdos internacionales. También plantea una excepción limitada a las normas de competencia para facilitar conversaciones sobre seguridad. Defiende restringir chips y destilación no autorizada para preservar la ventaja estadounidense frente a China. Estamos, por tanto, ante una propuesta de seguridad que incorpora una estrategia industrial y geopolítica. Hay buenas razones para supervisar. Un agente es un programa que utiliza un modelo para planificar y ejecutar acciones mediante herramientas. Si dispone de permisos para modificar archivos, enviar mensajes o acceder a sistemas, sus errores tienen consecuencias distintas de las de una respuesta equivocada en un chat. La autonomía, los accesos y el número de operaciones importan tanto como la inteligencia del modelo. El informe de amenazas de Anthropic de septiembre describe usuarios del norte de Yemen que intentaron desarrollar sistemas de guiado de armas con Claude. La empresa no acredita que consiguieran un arma operativa. La diferencia importa: documentar asistencia a un proyecto peligroso no demuestra que un chatbot pueda fabricar un misil por sí solo. Pero sí justifica investigar cuánto abarata y acelera tareas que antes exigían especialistas. La seguridad convertida en barrera de entrada El problema empieza cuando quienes deben ser vigilados participan en decidir cuánto cuesta entrar en el mercado. Pensemos en un sistema de certificaciones complejas, auditorías permanentes y autorizaciones lentas. Para una empresa con abundante financiación, ese coste puede convertirse en una partida asumible. Para una cooperativa tecnológica, una universidad o una startup, puede convertirse en una barrera infranqueable. OpenAI y Anthropic podrían ganar de varias maneras. Elevarían el coste de competir; reforzarían su condición de interlocutores de los gobiernos; y convertirían sus procedimientos internos en referencia para todo el sector. Si la regulación favorece servicios centralizados, donde el proveedor conserva el control del acceso, también favorecería el negocio de vender inteligencia por suscripción o por uso. Cada alternativa descartada se convierte en demanda potencial para esos servicios. Esto no prueba que sus advertencias sean falsas. Describe incentivos que el legislador debe anticipar. Un auditor necesita recursos, libertad para publicar y protección frente a quien puede retirarle el contrato. La supervisión debe responder ante la sociedad. Cualquier excepción a las reglas de competencia debe ser limitada, pública y supervisada. Compartir información sobre un fallo peligroso puede ser necesario. Coordinar quién lanza productos y a qué ritmo puede restringir la competencia. La seguridad no debe legitimar un reparto del mercado. El peligro también cabe en un ordenador Hay otro problema: concentrar toda la vigilancia en los modelos gigantes y dejar fuera a los modelos locales pequeños ya muy capaces. Existen modelos pequeños de pesos abiertos, como los de la familia Qwen, que pueden ejecutarse localmente en algo tan barato como un mac mini. Pequeño no significa inofensivo. Para personalizar una estafa, producir mensajes de acoso o ayudar a automatizar tareas ciberataque o ciberterrorismo no hace falta superar a todos los seres humanos en todas las disciplinas. Basta imaginar a narcotraficantes, terroristas, extorsionadores o simplemente hackers con 10-100 macs mini gestionando 10.000–100.000 agentes muy potentes. ¿Quién para eso? Localizarlos ya es un problema ingente. Tampoco podemos prohibir indiscriminadamente los modelos abiertos. Permiten investigación independiente y alternativas a los grandes proveedores, además de procesar datos sin enviárselos a otra empresa. Cerrarlos dejaría a universidades y servicios públicos dependiendo de plataformas privadas. Hay que evaluar capacidades peligrosas sin convertir la apertura en una presunción de culpabilidad. Una regulación progresista debe ocuparse también de quién sufre los daños y quién recibe los beneficios. El debate sobre una futura catástrofe no puede desplazar el control de la vigilancia laboral, la discriminación o las decisiones automatizadas sobre prestaciones. Hacen falta vías para reclamar, representación de los trabajadores y responsabilidades exigibles. Certificar que un modelo es técnicamente seguro no convierte en justo cualquier negocio construido sobre él. China es imprescindible Un pacto global que excluya a China tendrá un agujero central. Sus desarrolladores participan en la expansión de modelos abiertos que otros pueden adaptar e incorporar a sus productos. Un acuerdo entre laboratorios estadounidenses no obligaría a esas empresas ni controlaría la circulación mundial de sus modelos. Tampoco un acuerdo con Pekín borraría las copias ya distribuidas, pero ampliaría sustancialmente el alcance de la prevención. Cooperar no exige confiar ciegamente. China, Estados Unidos y la Unión Europea participaron en la Declaración de Bletchley sobre riesgos de la IA. El siguiente paso requiere obligaciones verificables, intercambio de incidentes y acuerdos sobre usos especialmente peligrosos. Aquí aparece una contradicción estratégica. Si Washington plantea la seguridad como una forma de conservar su superioridad y limitar a sus rivales, Pekín tendrá razones para desconfiar. El control internacional necesita alguna reciprocidad: nadie acepta fácilmente que su competidor actúe como inspector y, además, determine cuánto puede avanzar. Habrá que negociar con China porque dispone de capacidades propias, no porque Occidente le conceda una invitación. Europa y la mesa de los demás Europa no parte de cero. El Reglamento de IA impone obligaciones a los proveedores de modelos de propósito general y requisitos adicionales a los que presentan riesgo sistémico, como evaluar y mitigar riesgos, comunicar incidentes y reforzar la ciberseguridad. Es una diferencia sustancial respecto a una promesa voluntaria. Su mercado también le permite condicionar cómo operan empresas extranjeras. Pero regular el acceso a un mercado no equivale a dirigir una negociación sobre capacidades estratégicas. Si Estados Unidos y China pactan el ritmo del desarrollo, las restricciones tecnológicas y los mecanismos de inspección, Europa corre el riesgo de recibir las condiciones cuando ya estén acordadas. Podrá discutir su aplicación, pero habrá perdido la oportunidad de decidir su contenido. La IA se puede regular. Lo que está en disputa es el reparto del poder que producirá esa regulación. Si las reglas las diseñan quienes ya dominan el negocio, los primeros beneficiarios pueden ser OpenAI, Anthropic y los demás grandes proveedores. Si Europa confunde legislar con tener poder, ni siquiera estará en la mesa donde se cierre ese reparto. Y los ciudadanos corremos el riesgo de pagar dos veces: por utilizar la tecnología y por proteger de la competencia a sus propietarios.
elDiario.es•Esteve Almirall14 sept
Otra de las amenazas es que “podríamos terminar en un mundo con demasiada concentración de poder” de un gobierno o una empresa
La Vanguardia•Francisco Bracero Osuna14 sept
El CEO de Anthropic, Dario Amodei, sorprendía a todos el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados . Eso, explica, nos daría tiempo para entender los riesgos. Sam Altman y Elon Musk han respaldado la idea, y Demis Hassabis y Satya Nadella también se han pronunciado a favor de la reflexión. Pero una cosa es decirlo y otra muy distinta hacerlo. Amodei y un problema llamado China . El propio CEO de Anthropic reconoce que el "dilema más difícil" de su propuesta está en China . Si las empresas estadounidenses de IA ralentizan su desarrollo de modelos pero las chinas continúan avanzando, EEUU podría perder su ventaja en una tecnología que cada vez es más estratégica y potencialmente militar. Amodei cree que a largo plazo harán falta acuerdos entre países para frenar el ritmo, pero reconoce que hay demasiados incentivos para que unos rivales traten de adelantar a los otros. Cuanto más sabemos sobre Mythos 5 y GPT-5.6 Sol, más aclaramos algo: si necesitan engañar para cumplir su objetivo, lo harán Trump no está dispuesto a correr ese riesgo . El presidente de EEUU ha rechazado esa posibilidad, y su razonamiento es mucho más sencillo. Según él , frenar no es posible porque "quien gane la IA, gana". Aunque no descarta diseñar algún tipo de salvaguarda, sí se niega a frenar el desarrollo de modelos avanzados porque eso permitiría a China reducir la ventaja o incluso superar a EEUU en este ámbito. Es como si el comentario de Amodei le hubiera dado "gasolina" al argumento gubernamental: si la IA puede llegar a ser tan poderosa como dice Anthropic, EEUU no se puede permitir frenar su desarrollo. Curiosamente, China también quiere reglas . Xi Jinping se ha metido de lleno en el debate y pide un marco global de gobernanza de la IA "basado en el consenso". Hasta ha presentado dicha propuesta a los países de BRICS (Brasil, Rusia, India y China) para fortalecer esa alianza. China plantea además la creación de una comunidad de IA Open Source dentro de ese bloque. O lo que es lo mismo: el discurso es muy parecido al de EEUU, aunque no lo digan de forma clara. Un periódico estatal chino ha calificado el discurso de Amodei de una táctica de la Guerra Fría. Otros hablan de que lo que está haciendo Amodei es usar la misma técnica que las instituciones religiosas han usado durante siglos enteros . Qquizás frenar sea más bien cerrar . Una de las críticas a las propuestas de Amodei es que los grandes laboratorios de IA no dejarán necesariamente de desarrollar modelos cada vez más avanzados: simplemente limitarán quién puede utilizarlos. El conocido analista Ben Bajarin cree que habrá modelos frontera de ciberseguridad reservados para gobiernos y grandes empresas —Mythos es el ejemplo perfecto—. Así pues la carrera por la IA seguirá existiendo, pero una parte cada vez mayor estaría desarrollándose tras las bambalinas, a puerta cerrada. Hola, dilema del prisionero . EEUU y China pueden tener un interés común en evitar que aparezca una IA que nadie pueda controlar, y eso debería hacer que ambas potencias frenaran el ritmo de desarrollo. El problema es el que hemos comentado: la decisión clara para cada "jugador" es seguir corriendo mientras no haya garantías de que el rival va a detenerse. Es el viejo dilema del prisionero : dos personas pueden no cooperar incluso si ello va en contra del interés de ambas. Las empresas tienen el mismo problema . La reflexión de Amodei y Anthropic es justo lo que el público necesita oir, pero hay una realidad: si quisieran retrasar su próximo Claude, podrían hacerlo: nadie se lo impide. El conocido emprendedor e inversor David Sacks precisamente critica esa postura de Amodei o Altman: si realmente quieren ir más despacio, pueden hacerlo sin esperar una regulación . Sin embargo Anthropic tendría que asumir que OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese tiempo para alcanzarla y superarla. Y si varias empresas deciden conjuntamente no competir, quizás aparecerían preguntas regulatorias antimonopolio. El resultado: todos quieren ser prudentes, pero ninguno quiere comprometerse. En Xataka OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero El problema también está en saber si está frenando de verdad . Durante la Guerra Fría, EEUU y la Unión Soviética podían negociar límites sobre misiles, bombarderos o cabezas nucleares y establecer mecanismos de inspección y vigilancia para que se cumplieran esos límites. Con la IA controlar el ritmo de entrenamiento es mucho más complicado. El acceso a recursos como chips o energía permite plantear puntos de control, pero el software mejora, los algoritmos son cada vez más eficientes y los modelos pueden entrenarse en sistemas distribuidos. Que EEUU confíe sin más en China y viceversa parece realmente difícil. En Xataka | OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos - La noticia Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero fue publicada originalmente en Xataka por Javier Pastor .
Elon Musk, Sam Altman, Dario Amodei y Demis Hassabis alertan de los riesgos de avanzar demasiado rápido con la inteligencia artificial y reclaman más controles.