Anthropic se acerca a una posible IPO con una valoración de hasta USD $2 billones, mientras Nvidia analiza invertir hasta USD $10.000 millones y los operadores de Polymarket proyectan un debut todavía más eufórico que su precio inicial.
Anthropic trabaja en su gigantesca OPV, prevista para las próximas semanas en medio de un fuerte interés inversor. OpenAI frena su salida a cotización y penaliza a accionistas como SoftBank
Donald Trump rechazó el llamado de Dario Amodei, Sam Altman y Elon Musk para ralentizar la evolución de los modelos de inteligencia artificial, al advertir que Estados Unidos no puede permitirse perder la carrera tecnológica frente a China. La disputa ocurre después de que Anthropic documentara usos indebidos de Claude relacionados con estafas, espionaje, ciberseguridad y desarrollo de armas.
Dario Amodei advirtió en un extenso ensayo publicado el sábado que "un liderazgo chino en IA supondría un grave peligro para Estados Unidos y el mundo" Leer
El Mundo•AP14 sept
El debate sobre el frenazo de la IA está en todas partes. La reciente reflexión de Dario Amodei ha provocado declaraciones y opiniones por todas partes, y el CEO de Anthropic ha dado ya varias entrevistas en las que amplía esa visión. En una de esas entrevistas con CBS Amodei plantea una idea singular al decir que le parece "muy extraño" que los modelos de IA avanzados estén siendo desarrollados por empresas privadas. Amodei no solo habla de regulación . En su participación Amodei explicó que el Gobierno y los propios ciudadanos deberían tener una participación en esta industria . En CBS le preguntaron si estaría dispuesto a entregar su tecnología al Gobierno, o incluso la propia compañía. Ahí Amodei explicó que no aceptaría esa propuesta, pero tampoco descartó el fondo de la cuestión: la IA no la debe controlar ni una sola empresa ni un solo gobierno, y lo que cree es que debería haber una "gobernanza conjunta" entre gobiernos. Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero No está pidiendo un "rescate" . Hace menos de un año OpenAI y Nvidia dejaron caer la necesidad de una implicación por parte del Gobierno de EEUU en el desarrollo de modelos de IA. Altman no quería un rescate , pero sí hablaba de acuerdos con Washington, y ahora Amodei tiene un discurso similar: cuanto más poderosa, cara y estratégica se vuelve la IA, más difícil resulta imaginarla como una industria privada. El propio Amodei quiere que el Gobierno participe en hacer esta industria más segura y que colabore en establecer reglas para incluso establecer ritmos de lanzamiento de nuevos productos. ¿Quién carga con el riesgo? Las empresas de IA están invirtiendo cantidades descomunales de dinero en centros de datos, chips o energía, y en EEUU ya se considera que esta infraestructura es crítica en su guerra comercial y tecnológica con China. Si aceptamos la tesis de Amodei de que los modelos pueden acabar convirtiéndose en una amenaza de seguridad nacional o escapar parcialmente al control de quienes la desarrollan, EEUU tiene cada vez más razones para intervenir . La pregunta incómoda es qué recibe a cambio. Anthropic no quiere dejar de ser Anthropic . En CBS le preguntaron a Amodei por una clara contradicción: venden modelos que la propia empresa considera peligrosos, lo que plantea una paradoja. La respuesta del CEO de Anthropic fue contundente: seguirán lanzando modelos avanzados. Así, aunque quiera que el Gobierno de EEUU tenga un papel mucho más claro en esta industria , también deja claro que en Anthropic quieren seguir siendo parte fundamental de su desarrollo. Esto nos recuerda a algo . Tras la crisis inmobiliaria y financiera de 2008 los bancos fueron rescatados porque dejarlos caer era una amenaza seria para el propio sistema financiero. Ahora los grandes laboratorios de IA están planteando algo que va incluso antes: qué pasa cuando una industria privada se vuelve demasiado estratégica para que el Gobierno pueda permitirse mantenerse al margen. De hecho, EEUU ya protege el acceso a sus chips y tecnología a países como China, así que lo que propone Amodei es que EEUU dé otro paso más hacia esa gobernanza conjunta. En Xataka Anthropic ha pillado a China copiando Claude. De paso ha demostrado cuánto sabe sobre lo que hacemos con él Una pregunta interesante . Si OpenAI y Anthropic (y otras) crean una tecnología extraordinariamente rentable, que es lo que prometen, la mayor parte del beneficio se lo quedarán ellas. Pero necesitarán fábricas, energía o financiación, y ahí el Estado tiene incentivos para ayudarlas. No solo eso: si la tecnología acaba siendo tan peligrosa como advierten los CEO de estas empresas, será también el Estado el que tenga que supervisarla y limitarla . Lo que plantea Amodei es llamativo: qué parte de la industria de la IA debe dejar de ser privada. En Xataka | OpenAI ya es una apuesta binaria: o consigue la AGI, o todo revienta - La noticia “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas fue publicada originalmente en Xataka por Javier Pastor .
Es posible regular la inteligencia artificial. Lo difícil será proteger a la sociedad sin convertir la seguridad en el privilegio comercial de unas pocas empresas. China será imprescindible en esa negociación, Europa corre el riesgo de quedarse fuera Los cuatro gigantes de la IA piden frenar desarrollos y Trump desprecia el riesgo Cuando quienes compiten por dominar una tecnología piden que se frene su desarrollo , conviene prestar atención. Pueden haber visto un peligro que los demás todavía no comprendemos. También pueden haber descubierto que unas buenas barreras protegen mejor su negocio que otra ronda de inversión. Ambas cosas pueden ser ciertas a la vez. Dario Amodei, consejero delegado de Anthropic, propone ralentizar el avance de la IA más potente. Sam Altman ha respaldado la idea y anunciado que OpenAI también incorporará evaluadores independientes con un acceso comparable al de sus empleados. El compromiso merece atención. Pero aceptar inspectores no equivale a aceptar que una autoridad pública decida qué puedes vender, te obligue a reparar daños o limite tu poder de mercado. ¿Se puede regular la IA? Sí. Se pueden imponer obligaciones a quienes la desarrollan y despliegan, prohibir determinados usos, investigar incidentes y exigir responsabilidades. Pretender controlar cada copia de un modelo que circula por internet es otra cosa. Confundir ambas tareas conduce a dos errores: declarar inútil cualquier regulación o prometer una seguridad imposible a cambio de entregar el sector a sus actuales líderes. La propuesta de Amodei tiene tres niveles: evaluadores dentro de los laboratorios, coordinación entre empresas de países democráticos y acuerdos internacionales. También plantea una excepción limitada a las normas de competencia para facilitar conversaciones sobre seguridad. Defiende restringir chips y destilación no autorizada para preservar la ventaja estadounidense frente a China. Estamos, por tanto, ante una propuesta de seguridad que incorpora una estrategia industrial y geopolítica. Hay buenas razones para supervisar. Un agente es un programa que utiliza un modelo para planificar y ejecutar acciones mediante herramientas. Si dispone de permisos para modificar archivos, enviar mensajes o acceder a sistemas, sus errores tienen consecuencias distintas de las de una respuesta equivocada en un chat. La autonomía, los accesos y el número de operaciones importan tanto como la inteligencia del modelo. El informe de amenazas de Anthropic de septiembre describe usuarios del norte de Yemen que intentaron desarrollar sistemas de guiado de armas con Claude. La empresa no acredita que consiguieran un arma operativa. La diferencia importa: documentar asistencia a un proyecto peligroso no demuestra que un chatbot pueda fabricar un misil por sí solo. Pero sí justifica investigar cuánto abarata y acelera tareas que antes exigían especialistas. La seguridad convertida en barrera de entrada El problema empieza cuando quienes deben ser vigilados participan en decidir cuánto cuesta entrar en el mercado. Pensemos en un sistema de certificaciones complejas, auditorías permanentes y autorizaciones lentas. Para una empresa con abundante financiación, ese coste puede convertirse en una partida asumible. Para una cooperativa tecnológica, una universidad o una startup, puede convertirse en una barrera infranqueable. OpenAI y Anthropic podrían ganar de varias maneras. Elevarían el coste de competir; reforzarían su condición de interlocutores de los gobiernos; y convertirían sus procedimientos internos en referencia para todo el sector. Si la regulación favorece servicios centralizados, donde el proveedor conserva el control del acceso, también favorecería el negocio de vender inteligencia por suscripción o por uso. Cada alternativa descartada se convierte en demanda potencial para esos servicios. Esto no prueba que sus advertencias sean falsas. Describe incentivos que el legislador debe anticipar. Un auditor necesita recursos, libertad para publicar y protección frente a quien puede retirarle el contrato. La supervisión debe responder ante la sociedad. Cualquier excepción a las reglas de competencia debe ser limitada, pública y supervisada. Compartir información sobre un fallo peligroso puede ser necesario. Coordinar quién lanza productos y a qué ritmo puede restringir la competencia. La seguridad no debe legitimar un reparto del mercado. El peligro también cabe en un ordenador Hay otro problema: concentrar toda la vigilancia en los modelos gigantes y dejar fuera a los modelos locales pequeños ya muy capaces. Existen modelos pequeños de pesos abiertos, como los de la familia Qwen, que pueden ejecutarse localmente en algo tan barato como un mac mini. Pequeño no significa inofensivo. Para personalizar una estafa, producir mensajes de acoso o ayudar a automatizar tareas ciberataque o ciberterrorismo no hace falta superar a todos los seres humanos en todas las disciplinas. Basta imaginar a narcotraficantes, terroristas, extorsionadores o simplemente hackers con 10-100 macs mini gestionando 10.000–100.000 agentes muy potentes. ¿Quién para eso? Localizarlos ya es un problema ingente. Tampoco podemos prohibir indiscriminadamente los modelos abiertos. Permiten investigación independiente y alternativas a los grandes proveedores, además de procesar datos sin enviárselos a otra empresa. Cerrarlos dejaría a universidades y servicios públicos dependiendo de plataformas privadas. Hay que evaluar capacidades peligrosas sin convertir la apertura en una presunción de culpabilidad. Una regulación progresista debe ocuparse también de quién sufre los daños y quién recibe los beneficios. El debate sobre una futura catástrofe no puede desplazar el control de la vigilancia laboral, la discriminación o las decisiones automatizadas sobre prestaciones. Hacen falta vías para reclamar, representación de los trabajadores y responsabilidades exigibles. Certificar que un modelo es técnicamente seguro no convierte en justo cualquier negocio construido sobre él. China es imprescindible Un pacto global que excluya a China tendrá un agujero central. Sus desarrolladores participan en la expansión de modelos abiertos que otros pueden adaptar e incorporar a sus productos. Un acuerdo entre laboratorios estadounidenses no obligaría a esas empresas ni controlaría la circulación mundial de sus modelos. Tampoco un acuerdo con Pekín borraría las copias ya distribuidas, pero ampliaría sustancialmente el alcance de la prevención. Cooperar no exige confiar ciegamente. China, Estados Unidos y la Unión Europea participaron en la Declaración de Bletchley sobre riesgos de la IA. El siguiente paso requiere obligaciones verificables, intercambio de incidentes y acuerdos sobre usos especialmente peligrosos. Aquí aparece una contradicción estratégica. Si Washington plantea la seguridad como una forma de conservar su superioridad y limitar a sus rivales, Pekín tendrá razones para desconfiar. El control internacional necesita alguna reciprocidad: nadie acepta fácilmente que su competidor actúe como inspector y, además, determine cuánto puede avanzar. Habrá que negociar con China porque dispone de capacidades propias, no porque Occidente le conceda una invitación. Europa y la mesa de los demás Europa no parte de cero. El Reglamento de IA impone obligaciones a los proveedores de modelos de propósito general y requisitos adicionales a los que presentan riesgo sistémico, como evaluar y mitigar riesgos, comunicar incidentes y reforzar la ciberseguridad. Es una diferencia sustancial respecto a una promesa voluntaria. Su mercado también le permite condicionar cómo operan empresas extranjeras. Pero regular el acceso a un mercado no equivale a dirigir una negociación sobre capacidades estratégicas. Si Estados Unidos y China pactan el ritmo del desarrollo, las restricciones tecnológicas y los mecanismos de inspección, Europa corre el riesgo de recibir las condiciones cuando ya estén acordadas. Podrá discutir su aplicación, pero habrá perdido la oportunidad de decidir su contenido. La IA se puede regular. Lo que está en disputa es el reparto del poder que producirá esa regulación. Si las reglas las diseñan quienes ya dominan el negocio, los primeros beneficiarios pueden ser OpenAI, Anthropic y los demás grandes proveedores. Si Europa confunde legislar con tener poder, ni siquiera estará en la mesa donde se cierre ese reparto. Y los ciudadanos corremos el riesgo de pagar dos veces: por utilizar la tecnología y por proteger de la competencia a sus propietarios.
elDiario.es•Esteve Almirall14 sept
El CEO de Anthropic, Dario Amodei, ha avisado en una carta abierta de que es necesario frenar el ritmo de desarrollo de las capacidades de los modelos de Inteligencia Artificial (IA) ante una tecnología que, aunque tiene el potencial de transformar positivamente la sociedad, puede causar riesgos catastróficos. "Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de IA", ha afirmado el Amodei en la carta publicada en su web, debido a los riesgos de desalineación (cuando un sistema de IA actúa de forma distinta a las intenciones de sus creadores) e incidentes de seguridad. De hecho, Amodei cita un caso reciente como ejemplo de que los sistemas de IA desde este verano avanzan "a un ritmo vertiginoso" porque los propios modelos están ayudando a diseñar la siguiente generación de sistemas. El caso Hugging Face, en el que agentes de OpenAI coordinados realizaron ciberataques no solicitados e incluso intentaron 'hackear' sistemas de evaluación, ha puesto en alerta a Amodei como un evento en el que los sistemas de IA llegaron a "sacrificarse por el éxito del grupo", e intentaron hackear al "evaluador" responsable de medir su rendimiento. "Es fácil descartar este incidente porque nadie resultó herido y el daño económico fue mínimo pero, en mi opinión, un enjambre que poseyera mayores capacidades pero un nivel similar de desalineación podría haber causado daños catastróficos", ha señalado el CEO de Anthropic, y ha alertado de que una 'botnet' persistente podría causar "cientos de miles de millones de dólares" en daños en un plazo de seis a doce meses, para, a continuación, proponer un plan de tres pasos para regular el ritmo de la IA. Con este plan pretende "desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos", e implica a todos los ámbitos de la sociedad. Con ello, ha matizado, no se detienen "ni el entrenamiento de modelos ni el progreso técnico", pero se busca "asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen". En este plan, Amodei señala que las empresas de IA de frontera "se comprometen a otorgar un acceso continuo, similar al de un empleado, a un equipo de evaluadores externos integrados" para que verifiquen el cumplimiento e las prácticas y los compromisos de seguridad a lo largo de todo el proceso. Por otra parte, asegura que requiere "coordinación democrática", es decir, que las empresas de IA de frontera se coordinen dentro de los países democráticos para "establecer estándares de seguridad comunes, así como límites al ritmo del progreso de la IA sin supervisión", a lo que une una "coordinación global", en la que "Estados Unidos y otros gobiernos democráticos intentan coordinarse con gobiernos autoritarios", con el objetivo de que se verifique su cumplimento, pese el desafío que esto supone. "Las medidas que propongo para avanzar en este campo a un ritmo seguro no serán fáciles. Pero creo que tenemos la obligación con la humanidad de intentarlo", ha afirmado el directivo. Cabe recordar que, aunque Amodei ha mantenido una postura dura y preocupada respecto a China, con la propia Anthropic publicando un informe hace tres días sobre la destilación de Claude por parte de los laboratorios de IA chinos, incluye en su plan la coordinación con este países, aunque siempre con métodos de verificación rigurosos.
El CEO de Anthropic, Dario Amodei, ha avisado en una carta abierta de que es necesario frenar el ritmo de desarrollo de las capacidades de los modelos de Inteligencia Artificial (IA) ante una tecnología que, aunque tiene el potencial de transformar positivamente la sociedad, puede causar riesgos catastróficos.
Europa Press14 septPekín, 14 sep (EFE).- El diario oficialista chino Global Times acusó a parte de la comunidad tecnológica estadounidense de aprovechar la preocupación en EE. UU. por los riesgos de la inteligencia artificial (IA) y los llamamientos a ralentizar su desarrollo para desplegar un "manual de guerra fría" contra la IA china. El periódico, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh, gobernante), publicó el editorial este domingo, después de que el fundador de la empresa Anthropic, Dario Amodei, pidiera un "ritmo más lento" en el desarrollo de modelos avanzados, una posición respaldada por figuras como Sam Altman y Elon Musk. El llamamiento de Amodei se presenta como una "declaración racional" centrada en la seguridad global de la IA, pero en realidad contiene una "agenda oculta" contra China, según el medio. El editorial acusa al responsable de Anthropic de defender que las democracias "no deben ser ingenuas" ante China y de proponer primero "estrangular" el desarrollo chino para ampliar la brecha tecnológica antes de negociar con Pekín una ralentización del sector. El diario enumera tres medidas que atribuye a esa agenda: prohibir la venta a China de chips potentes y maquinaria para fabricar semiconductores, perseguir la llamada "destilación" de modelos y reforzar la seguridad de las empresas de IA para impedir el robo de los llamados "pesos" de los modelos, los parámetros internos que configuran el conocimiento del sistema. La "destilación" es una técnica que permite entrenar modelos más pequeños utilizando respuestas de sistemas más avanzados, y se ha convertido en uno de los principales focos de disputa después de que autoridades estadounidenses acusaran recientemente a empresas chinas como DeepSeek, Moonshot y Alibaba de copiar tecnología estadounidense. Pekín rechazó esas acusaciones y sostuvo que se trata de una práctica común en la industria, al tiempo que acusó a Washington de aplicar un "doble rasero" y buscar un "monopolio" sobre la IA. Global Times calificó de "hipócrita y miope" lo que describió como una "guerra fría silenciosa de la IA", cuyo objetivo real sería, según el diario, frenar el desarrollo chino mediante barreras tecnológicas y "monopolios regulatorios". "Excluir a China y a las empresas chinas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA", advirtió el medio. La postura del diario oficialista reproduce la narrativa empleada por Pekín ante críticas a cuestiones como su gasto militar. En ambos casos, el Gobierno chino argumenta que su desarrollo no representa una amenaza global y acusa a Washington de intentar frenar el avance del país asiático. La publicación llega después de que el presidente estadounidense, Donald Trump, rechazara las peticiones de ralentizar la IA con el argumento de que Estados Unidos debe mantener la ventaja frente a China, y de que el secretario del Tesoro, Scott Bessent, advirtiera de que "nada más importará" si Pekín toma la delantera.
En medio de las alertas sobre los riesgos del crecimiento vertiginoso de la inteligencia artificial (IA), Donald Trump se ha opuesto a los llamamientos de algunos pesos pesados de esa industria sobre la necesidad de ralentizar ese avance. «Hay muchas fuerzas negativas que están sacando eso y no deberían hacerlo», dijo el presidente de EE.UU. sobre esos llamamientos. «Y están hablando de cosas que no van a ocurrir », añadió en la recta final de su viaje a Irlanda, donde ha asistido al Open de Irlanda en uno de sus campos de golf. Las palabras de Trump llegan después de que el sector de la IA se haya agitado con fuerza en los últimos días por advertencias apocalípticas sobre sus riesgos. Esta semana, Jacob Coxon, un investigador de Anthropic, uno de los gigantes del sector, anunciaba su decisión de abandonar la compañía y advertía de que la gente «que está construyendo la inteligencia artificial cree que nos puede matar a todos antes del final de esta década». «Están jugando con nuestras vidas» , añadió. Otro empleado de la misma compañía, Evan Hubinger, defendió que hay «más de un 10% de posibilidades» de que esto ocurra «durante la próxima década». La reacción de algunas de las principales voces de la IA fue reconocer que hay un problema. El máximo responsable de Anthropic, Dario Amodei, admitió que el sector «debe frenar el ritmo al que estamos mejorando las capacidades de los modelos de inteligencia artificial». Le siguieron otros, como Elon Musk y su archienemigo, Sam Altman, el CEO de OpenAI, la compañía detrás de la popular herramienta ChatGPT. En una entrevista con 'Fortune', Altman reconoció los riesgos y dijo que, «dado todo lo que está pasando con la seguridad», es «desaconsejable» que OpenAI salga a bolsa este año , en la opv más esperada, y que eso no ocurrirá al menos hasta 2027. Trump dejó claro que no quiere que una ralentización de la IA ponga freno a uno de los motores de la economía de EE.UU. Y que está detrás de los récords en bolsa de los que ha alardeado el presidente de EE.UU. desde su regreso al poder. «Vamos por delante de China en IA , somos el país más sofisticado del mundo y, francamente, yo quiero que siga siendo así», añadió desde Irlanda. «El que gane en IA, ganará», apostilló. Después, ya en su vuelo de vuelta hacia Washington, la prensa le preguntó si había hablado con los líderes que empiezan a defender la necesidad de un freno a la IA. «Sí», dijo. Y añadió que su intención no era «minimizar» los riesgos de la IA. «Pero en ello va a haber más bueno que malo , y por mucho». Los grandes del sector tecnológico se arrimaron a Trump antes y después de su victoria electoral en 2024 para asegurar un entorno regulador laxo. El multimillonario neoyorquino cumplió y tumbó regulaciones que venían del Gobierno anterior, el de Joe Biden , relativas a seguridad en el desarrollo de IA. Ahora, el entorno político ha cambiado al respecto . Los riesgos de la IA y los impactos en las comunidades de los centros de datos que le dan apoyo se han convertido en un asunto político sensible. Ahora que los estadounidenses irán a las urnas para renovar el Congreso en las elecciones legislativas de noviembre, muchos candidatos de ambos partidos se han mostrado a favor de poner coto al sector. Con las últimas alarmas apocalípticas , la IA apunta a ser una constante en lo que queda de campaña. El candidato demócrata al Senado por Michigan, el socialista Abdul El-Sayed, que busca ser el primer senador musulmán de EE.UU., defendió este fin de semana que «hay cosas que no deberíamos hacer a través de la IA» y que «todos debemos decidir que necesitamos control público para que esta tecnología no sea desarrollada en el interés de unos pocos contra el bienestar de la mayoría». Y, en una muestra de que es algo sensible en todo el electorado, su rival por ese escaño, el republicano Mike Rogers, se mostró a favor de «ralentizar el desarrollo de la IA» y establecer «protocolos y salvaguardias estrictos para protegernos del avance rápido que hemos visto». Trump, también desde el avión presidencial, dijo que utiliza IA, pero no especificó cómo. Tampoco detalló si tenía pensado discutir ese asunto con su homólogo chino, Xi Jinping, en la cumbre que celebrarán el próximo 24 de septiembre. Es evidente que cualquier plan de frenar a la IA debe contar con un entendimiento con China, el otro gran actor del sector. El propio Altman animó a Trump en esa entrevista en 'Fortune' a discutir un pacto al respecto con Xi. Sabedor de lo que le mueve ese reconocimiento, Altman dijo que ambos merecerían el Premio Nobel de la Paz si llegan a un acuerdo. «Solo con que EE.UU. y China estén de acuerdo en algunos estándares y test de desarrollo de esta tecnología, sería un logro maravilloso para ambos», defendió. Por el momento, la cooperación tecnológica -como en el caso del suministro de minerales raros para el sector- ha sido utilizada por China como un escudo ante las ambiciones arancelarias de Trump.
Santander entra en la batalla por centralizar el patrimonio de las grandes fortunas . La entidad ofrecerá a sus clientes con más de dos millones de euros un servicio independiente para monitorizar todas sus inversiones, incluidas las depositadas en otros bancos. Leer
Seúl, 14 sep (EFE).- El principal índice de la Bolsa de Seúl, el Kospi, caía más del 3 % en la apertura de la sesión de este lunes, después de que líderes de las principales empresas de inteligencia artificial (IA) abogaran por desacelerar el desarrollo de esta tecnología alegando riesgos de seguridad que representa. Transcurridos los primeros 40 minutos de negociación, el indicador bajaba un 3,25 %, o 224,35 puntos, hasta ubicarse en los 6.685,56 enteros. El índice Kosdaq, que agrupa a empresas tecnológicas y de mediana capitalización, se dejaba un 2,09 %, o 17,12 puntos, hasta las 803,52 unidades. La tendencia a la baja del parqué surcoreano tiene lugar después de que Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, hicieran un llamamiento para moderar la velocidad del desarrollo de la IA, iniciativa a la que se sumó el magnate Elon Musk, y anunciaran que permitirán que evaluadores independientes auditen sus sistemas. El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic, Jacob Coxon, que también trabajó para Open AI, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable, al afirmar que estaban más centradas en superarse mutuamente que en la seguridad de sus productos. El fabricante de chips y valor de referencia local Samsung Electronics descendía cerca de un 3 %, mientras el gigante del sector SK hynix registraba un declive del 5 %. La firma de inversión en tecnología SK Square se hundía más de un 6,4 %, y la tecnológica Naver se reducía alrededor de un 2 %. El principal fabricante de baterías, LG Energy Solution, registraba una bajada del 2,5 %. En el sector del automóvil, las acciones del fabricante Hyundai Motor disminuía un 3,66 %, y las de su empresa hermana Kia reportaron una pérdida también superior al 3 %. En defensa, por contra, Hanwha Aerospace subía un 0,56 %, aunque Korea Aerospace Industries abría plana. EFE
Pedro Pablo Cortés Miami, 13 sep (EFE).- La urgencia de regular la inteligencia artificial (IA) por sus peligros y perder la carrera contra China dividió este domingo a líderes en Estados Unidos tras la alarma sin precedentes de Dario Amodei, Sam Altman y Elon Musk, mientras el presidente Donald Trump rechazó pausar su desarrollo. Mientras Amodei, fundador de Anthropic, acusó ahora a la industria de "mentir" sobre los riesgos de la IA y pidió que el gobierno intervenga, algo que respaldaron los demócratas, Trump y los republicanos rechazaron regulaciones con el argumento que Estados Unidos debe evitar que China tome el liderazgo de la tecnología. Trump tachó este domingo de "fuerzas negativas" a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está "liderando ante China en IA", es "el país más sofisticado del mundo" y él desea "mantenerlo de esa manera". "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad", declaró Trump a los medios en Irlanda. El director de Anthropic consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China avanzaría. Aún así, reiteró este domingo la advertencia que publicó el sábado en un ensayo en el que urgió "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", aseguró Amodei en una entrevista al programa 'Sunday Morning' de CBS. Aunque Amodei alertó en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en la entrevista de ahora rechazó una "prohibición completa" de la tecnología. La controversia sobre la IA se intensifica desde el martes pasado, cuando un investigador de Anthropic que también trabajó para OpenAI, Jacob Coxon, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable porque les interesa más competir entre ellas. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década", aseveró Coxon en X. Las alertas se elevan mientras siete de cada 10 estadounidenses, el 70 %, se considera "más preocupado que emocionado" por la IA, y una proporción similar, el 69 %, rechaza la construcción de centros de datos en su comunidad, lo que incluye a mayorías de los mayores partidos, según una encuesta de NBC News de hace una semana. Pero el presidente de la Cámara de Representantes, el republicano Mike Johnson, rechazó este domingo una moratoria de emergencia para evitar, según él, que China tenga el liderazgo, mientras el líder de los demócratas en el Congreso, Hakeem Jeffries, pidió "actuar con urgencia" y "tomar medidas decisivas ahora". Jonhson pidió un encuentro con las compañías del sector este lunes o martes, mientras Jeffries adelantó que el martes habrá una reunión de los demócratas en la Cámara Baja en la que "una alta prioridad será la acción en inteligencia artificial". EFE
El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha abogado este domingo por una Inteligencia Artificial (IA) regulada y al "servicio del ser humano". En los últimos días, expertos y líderes de empresas del sector, como el consejero delegado de Anthropic, Dario Amodei, o el máximo responsable de OpenAI, Sam Altman, han advertido sobre el riesgo del mal uso de la inteligencia artificial. En este contexto, López ha defendido en sus redes sociales que la "innovación es compatible con la regulación" y ha apostado por desarrollar "una IA confiable, al servicio del ser humano". "España está gobernando la IA", ha reivindicado también López, que ha apuntado a propuestas impulsadas desde el Ejecutivo o aprobadas durante la Presidencia española de la UE, como el Reglamento Europeo de Inteligencia Artificial, la prohibición de los sistemas que generan 'deepfakes' sexuales y pornografía sexual, o la Ley Orgánica para la protección de los menores en entornos digitales, entre otras. "Nos alegra que cada vez más voces de la propia industria pongan el foco en la seguridad de la IA", ha añadido.
Esto ocurre después de que el director de la empresa de IA pidiera ralentizar el desarrollo de la tecnología, citando riesgos "graves".
Madrid, 13 sep (EFE).- El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha defendido este domingo que España "está gobernando" a la Inteligencia Artificial con iniciativas para regular su uso en la UE como el reglamento de la IA o la prohibición de los sistemas para generar pornografía infantil. En una publicación en su red social X, y tras la reciente polémica por los riesgos del mal uso de esta tecnología protagonizados por líderes del sector, López ha enfatizado que España aboga por una IA "al servicio del ser humano". "La innovación es compatible con la regulación", ha añadido el titular de Transformación Digital, que ha recordado que bajo presidencia española de la UE, salió adelante el Reglamento Europeo de IA y que, a propuesta de España, también la Unión ha prohibido los sistemas de IA que generan deepfakes sexuales y pornografía infantil. López ha reivindicado además que España ha impulsado la Ley Orgánica para el buen uso y la gobernanza de la IA y la ley orgánica para la protección de los menores en entornos digitales. Hoy mismo, el fundador de Anthropic, Dario Amodei, afirmó que "la industria mintió" sobre el peligro de la IA por lo que los gobiernos y los ciudadanos deben intervenir, en una entrevista este domingo tras la polémica que él mismo desató el sábado por los riesgos de la tecnología. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei en una entrevista al programa 'Sunday Morning' de CBS. El también director ejecutivo de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.EFE
Dario Amodei dijo en televisión que no está cómodo con que esta tecnología la construya una empresa privada. Le preguntaron si la entregaría
Dario Amodei, de Anthropic; Elon Musk, de SpaceX; y Sam Altman, de OpenAI, advirtieron que acelerar sin controles el desarrollo de inteligencia artificial puede facilitar ciberataques
“Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, afirma el presiente estadounidense OpenAI aplaza su salida a bolsa ante el miedo al descontrol de la IA y se suma al plan de frenar desarrollos Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales. Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA , petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada. Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, declaró Trump el domingo a los periodistas en el Irish Open de golf. “Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo”. Amodei advirtió este sábado, en un extenso ensayo publicado en su página web : “Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”. Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: “Dario tiene razón”. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización. El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: “Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera”, tuiteó. Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. “Sería un momento poco aconsejable para salir al mercado bursátil”. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada. Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: “El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”. “La industria mintió” Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir. No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo Dario Amodei — CEO de Anthropic “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei. Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares. Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones. El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos. Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la “amenaza” de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos. Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso “actuar con urgencia”. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada. Pero Johnson, como Trump, tampoco quiere darse prisa. “Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata”, expresó Johnson en una entrevista con CNN. La amenaza china El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China. Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto Mike Johnson — Presidente de la Cámara de Representantes “Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros”, remarcó. Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks , dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen. En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. “Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral”. Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda. Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de “consecuencias catastróficas”.
elDiario.es•Serafí del Arco13 sept
Para el ejecutivo, "el dilema más duro" del debate es que, si EEUU ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.