HeraldLoop

Anthropic — página 9

Organización · 250 artículos
Compartir

Cobertura, página 9

página 9 de 13
I

Wall Street cierra en rojo, arrastrado por el temor a la IA y la subida del petróleo

Nueva York, 14 sep (EFE).- Wall Street cerró este lunes en rojo, arrastrado ante las dudas sobre el impacto del rápido avance de la inteligencia artificial (IA), que hizo caer al sector tecnológico, y la subida del petróleo derivada de las crecientes tensiones geopolíticas en Oriente Medio. Al cierre del parqué neoyorquino, el Dow Jones de Industriales bajó un 0,29 %, hasta 52.421 puntos; el selectivo S&P 500 recortó un 0,48 %, hasta 7.619 enteros; y el tecnológico Nasdaq cedió un 0,56 %, hasta 26.186 unidades. Por sectores, las pérdidas estuvieron encabezadas por las empresas tecnológicas (-1,67 %), y particularmente las relacionadas con el desarrollo de la IA, como Marvell (-7,3 %), Intel (-5,6 %), Broadcom (-4,8 %) AMD (-4,4 %) Oracle (-3,6 %) y Nvidia (-3,4 %). Las principales figuras del sector, como Dario Amodei (Anthropic), Sam Altman (OpenAI) e Elon Musk (xAI) hicieron recientemente advertencias sobre el rápido desarrollo de los modelos de IA y el riesgo que conllevan para la seguridad global. El debate se reabrió después de que un investigador de Anthropic, Jacob Coxon, vinculara su dimisión a una supuesta falta de responsabilidad en esta empresa y sus rivales que, sugirió, pueden llevar a la extinción de la raza humana a corto plazo. El presidente de Estados Unidos, Donald Trump, minimizó este lunes el riesgo de que la IA vaya a destruir a la humanidad y arremetió contra su regulación, aludiendo a la competencia con China por el liderazgo de la tecnología. No todo fue negativo en el sector, pues las firmas de ciberseguridad que pueden verse favorecidas por una mayor inversión subieron en bolsa, como Crowdstrike (13,8 %) y Palo Alto Networks (13 %). Por otra parte, el mercado estuvo pendiente del petróleo intermedio de Texas (WTI, por sus siglas en inglés), que subió hasta los 101,39 dólares por barril al intensificarse la guerra en el mar Rojo, donde hay una alternativa clave al estrecho de Ormuz que permanece bloqueado por la guerra EE.UU.-Irán. Además, el rendimiento del bono a 10 años, de referencia en EE.UU. se elevó hoy hasta el 5 % antes de moderarse, entre preocupaciones por el repunte de la inflación y expectativas de que la Reserva Federal dicte una subida de los tipos el miércoles. En otros mercados, al cierre de la sesión, el oro bajaba a 4.336 dólares la onza, el euro se cambiaba a 1,1546 dólares y el bitcóin subía a 79.429 dólares.

InfobaeInfobae•Newsroom Infobae14 sept

🎙 PODCAST | Apocalipsis IA: ¿De verdad vamos a morir todos?

Creaciones de laboratorio capaces de escapar, de organizarse, de atacar. Científicos que sienten que el apocalipsis está en sus manos. Grandes empresarios que piden controlar el negocio antes de perder el control Un tema Al día, ¡en el teatro! Ven a verlo en directo el 3 de octubre en Madrid. Consigue ya tus entradas Jacob Coxon no es un profeta religioso, ni el líder de ninguna secta. Es un investigador hasta hace poco en Anthropic, una de las grandes empresas de Inteligencia Artificial del momento, que la semana pasada dejaba su trabajo lanzando una alerta mundial al pronosticar que el nivel de autonomía que está alcanzando la IA puede acabar con la humanidad en menos de cinco años. Los dueños de los cuatro principales gigantes del sector, (Sam Altman, de Open AI; Dario Amodei, de Anthropic; Demis Hassabis, de Google DeepMind, y hasta Elon Musk de SpaceX), lejos de desmentirle, salieron a decir que Coxon llevaba razón, que hay que frenar el desarrollo de la IA y poner reglas comunes. Con Carlos del Castillo, periodista de elDiario.es especializado en tecnología y autor del libro ‘Inteligencia Artificial. Cartografía de una revolución’, desciframos las claves que hay detrás de estas advertencia apocalíptica y por qué quienes siempre han odiado las reglas apuestan ahora por desacelerar esta carrera y poner límites. *** Envíanos una nota de voz por WhatsApp contándonos alguna historia que conozcas o algún sonido que tengas cerca y que te llame la atención. Lo importante es que sea algo que tenga que ver contigo. Guárdanos en la agenda como “Un tema Al día ”. El número es el 699 518 743 *** Un tema Al día es el podcast diario de actualidad de elDiario.es que, en episodios de unos 15 minutos, explica cada día un asunto de actualidad. Está presentado y dirigido por Juanlu Sánchez, subdirector de elDiario.es. Premio Ondas al podcast Revelación , Un tema Al día es el daily líder en Spotify, Apple Podcast, iVoox, Amazon Music o Podimo, según los datos públicos de las plataformas, donde acumula más de 200.000 suscriptores. Ha sido reconocido como “podcast revelación” por Amazon y recomendado como “imprescindible” por Apple. ¿Cómo escuchar 'Un tema Al día'? ▶ Si eres socio/a, puedes escuchar los nuevos capítulos del podcast cada noche en elDiario.es con unas horas de antelación respecto al resto de lectores. Recibirás el enlace en tu correo electrónico en el boletín del Adelanto de noticias. ▶ Si no eres socio/a, el episodio está disponible a primera hora de la mañana en cualquier aplicación que uses habitualmente. Spotify Apple Podcast Ivoox Podimo Amazon Music Feed RSS ▶ Acuérdate de suscribirte al podcast 'Un tema al día' en tu app para que te lleguen automáticamente los nuevos capítulos. Es gratis. ▶ Tendrás disponibles también todas las entregas de 'Un tema Al día' en elDiario.es/aldia

elDiario.eselDiario.es•Juanlu Sánchez14 sept

¿Se puede 'frenar' la IA? Por qué el resto del mundo desconfía del plan de Silicon Valley

El CEO de Anthropic propone "ralentizar" el desarrollo de IA avanzada para aprender a controlarla, pero China, expertos y otros actores cuestionan quién debe decidir el ritmo de la tecnología Análisis - Quién gana cuando los líderes de la IA piden que los regulen Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional. Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control . “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos. “Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”. ¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla. Las claves del 'plan Amodei' para la IA La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”. “Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende. Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura. El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente Dario Amodei Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice. Dario Amodei, en una imagen de archivo. El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”. Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”. Una estrategia que no convence a casi nadie El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington , la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración. La segunda gran reacción ha llegado por parte de China , el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips. El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector Global Times — diario vinculado directamente al Partido Comunista Chino El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia. “El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”. Centrarse en los riesgos de ahora El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”. “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”. A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo Carme Artigas — ex secretaria de Estado de Digitalización e IA Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”. Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”. El “aterrizaje suave” para la burbuja de la IA Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate. La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar Carissa Véliz — filósofa especialista en la ética de la tecnología “Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”. Véliz rechaza destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

elDiario.eselDiario.es•Carlos del Castillo14 sept
I

¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control

Nueva York, 14 sep (EFE).– El debate sobre los riesgos de la inteligencia artificial (IA) ya no trata solo sobre qué pueden hacer las máquinas, sino de qué ocurrirá si fueran capaces de mejorar sus propias capacidades hasta hacer imposible que los humanos las supervisen. Se trata de la llamada 'automejora recursiva', o RSI por sus siglas en inglés, mediante la cual una IA puede ayudar a desarrollar sistemas cada vez más capaces, que a su vez contribuyen a construir nuevas generaciones de modelos. El temor es que ese ciclo acelere hasta un punto en el que los humanos pierdan el control sobre su desarrollo. Hasta ahora, los humanos han dirigido las etapas del desarrollo de la IA, definiendo sus objetivos y evaluando resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas. El siguiente salto es que una IA cierre ese ciclo y decida qué mejorar, qué diseñar y qué experimentos realizar, evalúe sus resultados y use lo aprendido para desarrollar una versión más avanzada de sí misma. Anthropic, creadora del modelo Claude, define ese escenario como el momento en que una IA pueda "diseñar de forma autónoma una nueva generación de modelos más capaces", aunque asegura que todavía no se ha llegado a ese punto y que la automejora recursiva no es inevitable. En los últimos días, Anthropic ha vuelto a advertir sobre la velocidad a la que sus modelos están empezando a contribuir al desarrollo de sistemas de IA, e investigadores de la compañía han alertado de los riesgos que eso conlleva. Uno de ellos, Jacob Coxon, abandonó la empresa tras advertir de que la industria avanza demasiado rápido hacia sistemas capaces de mejorarse a sí mismos. Anthropic sostiene que todavía no se ha cerrado completamente ese ciclo y que los humanos siguen decidiendo qué problemas investigar; pero sí ha reconocido que los avances de Claude pueden conducir a la automejora recursiva, algo que, según la empresa, está ocurriendo "más rápido de lo que se pensaba". El experto Vincent Conitzer explicó a la cadena CNBC que la IA "ya es capaz de introducir algunas ideas nuevas" como proponer una forma diferente de resolver un problema o de mejorar un programa. El problema es que "resulta difícil saber cuándo esa capacidad suponga acelerar de forma drástica el desarrollo de sistemas de IA cada vez más avanzados", agregó. Una pieza fundamental de este proceso son los llamados agentes de IA: sistemas capaces no solo de responder a una petición, sino de utilizar herramientas, ejecutar código, realizar tareas durante periodos prolongados y colaborar con otros sistemas. El científico jefe de OpenAI, Jakub Pachocki, dijo la semana pasada tener una "fuerte expectativa" de que si la IA continúa avanzando por el camino de la RSI, los sistemas de los próximos años darán "saltos de capacidad cada vez mayores", "impulsando cada vez más su propio desarrollo". La preocupación ya no es solo teórica: durante una reciente prueba de ciberseguridad, agentes de OpenAI lograron escapar de su entorno de evaluación y acceder a sistemas de la plataforma Hugging Face. OpenAI reconoció que los modelos habían ido más allá de lo previsto para completar la prueba. Según los expertos, el problema puede aparecer si los humanos delegan en la IA tareas cada vez más complejas y dejan de entender qué está haciendo. Investigadores como Margaret Mitchell advierten de que, a medida que los agentes de IA adquieren autonomía, mantener la supervisión humana se hará cada vez más difícil y que "los sistemas pueden terminar desplazando a las personas de la toma de decisiones". De ahí que las tecnológicas estén reforzando sus salvaguardas: Pachocki ha pedido "cautela" y "ralentizar el desarrollo si es necesario"; Anthropic ha endurecido sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas, y Microsoft presentó hoy un código de conducta para garantizar que sus sistemas permanezcan "bajo control humano". Por su parte, el presidente estadounidense, Donald Trump, ha rechazado frenar el desarrollo de la IA por temor a perder ventaja frente a China. Jesús Centeno

InfobaeInfobae•Newsroom Infobae14 sept

Wall Street cae ante las alertas por la IA; tecnológicas registran fuertes pérdidas

Nueva York. Wall Street abrió en rojo este lunes arrastrado principalmente por las pérdidas en el sector tecnológico ante la oleada de voces, entre ellas las de los principales líderes del sector, que alertan del avance de la inteligencia artificial (IA) y reclaman frenar el ritmo de desarrollo por temor a perder el control de los sistemas. A la apertura del parqué neoyorquino, su principal indicador, el Dow Jones de Industriales , perdía un 0.21%, hasta 52.462 puntos; el selectivo S&P 500 restaba un 0.74%, hasta siete mil 600 enteros; y el tecnológico Nasdaq cedía un 1.23%, hasta 26.008 unidades. Los inversores observaron con preocupación la petición de las principales personalidades del sector, como Dario Amodei , consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk para poner freno al desarrollo de los sistemas de inteligencia artificial. La semana pasada, Jacob Coxon, investigador de Anthropic , que también trabajó para OpenAI , anunció su dimisión al considerar que la compañía no estaba actuando de manera responsable ni pendiente de la seguridad. Este sábado, Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de IA y advirtió que avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global. Por su parte, Altman respaldó su petición y avanzó que permitirá que evaluadores independientes auditen los sistemas de OpenAI. A pesar de que el presidente de Estados Unidos, Donald Trump , minimizó la alerta y pidió no ceder ante China, con quien compite por el liderazgo de la IA, los títulos de las principales compañías del sector arrancaron a la baja. Nvidia, AMD e Intel encabezan las pérdidas Nvidia , empresa estrella de la IA, perdía un 4.18%. Por su parte, Marvell Technology restaba un 8.98%, Intel un 7.18% y AMD un 6.17%. En otros mercados, el oro se devaluaba un 2.16%, hasta 4.313 dólares la onza, y la plata un 2.68%, hasta 63.44 dólares la onza. El petróleo intermedio de Texas (WTI) subía hasta los 104 dólares la onza y el rendimiento del bono del Tesoro a 10 años avanzaba 1.8 puntos básicos. También te interesará: China defiende inteligencia artificial "abierta"; rechaza narrativas "de amenaza" en su contra Donald Trump dice que el único control que necesita la IA es un presidente como él; denuncia "conspiración enfermiza" ONU pide regular la inteligencia artificial con urgencia; alerta sobre riesgos para los derechos humanos DeepSeek y Moonshot perfilan salir a bolsa, reportan; debut de las firmas chinas de IA sería en los próximos meses Únete a nuestro canal ¡EL UNIVERSAL ya está en WhatsApp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

El UniversalEl Universal•​​​​​​​EFE null14 sept
I

Trump considera un "bulo" que la inteligencia artificial vaya a destruir la humanidad

Washington, 14 sep (EFE).- El presidente de Estados Unidos, Donald Trump, calificó este lunes de "bulo" la idea de que la inteligencia artificial (IA) vaya a destruir a la humanidad y criticó a los líderes del sector que han reclamado una mayor regulación de esta tecnología. "La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", escribió el mandatario en su red social Truth Social. "¿Cuándo, en la historia de los negocios, se ha visto a los líderes de una industria exigir una regulación que, de aplicar rigurosamente, los llevan al olvido y la bancarrota?", cuestionó. La polémica la desató el sábado el director ejecutivo de Anthropic, Dario Amodei, quien publicó un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. A esa advertencia se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector. Sus declaraciones se produjeron después de que, el martes pasado, el investigador de IA Jacob Coxon dimitiera y acusara a sus antiguos empleadores, Anthropic y OpenAI, de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad esta misma década. Trump, en cambio, se opone a regular el sector porque considera que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico. El republicano escribió en Truth Social que "China no hará absolutamente nada para interponerse en el camino de la IA ni de su futuro". "La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet", subrayó. EFE

InfobaeInfobae•Newsroom Infobae14 sept

OpenAI firma acuerdo de USD $200 millones con el Pentágono bajo límites de seguridad

OpenAI acordó un contrato de USD $200 millones con el Pentágono para desarrollar capacidades de inteligencia artificial destinadas a desafíos de seguridad nacional. La empresa asegura que conservará controles técnicos, supervisión de personal autorizado y tres restricciones clave, mientras la disputa previa entre Anthropic y el Gobierno de EE. UU. convierte el pacto en una prueba decisiva para la seguridad de la IA militar.

Diario BitcoinDiario Bitcoin•Canuto14 sept

Los magnates tech soñaron con una revolución digital que les haría milmillonarios: se han encontrado con el regreso de los luditas

En septiembre de 2025, Michael Trazzi se sentó con una silla plegable y una pizarra frente a la sede de Google DeepMind en Londres y se declaraba en huelga de hambre . En la pizarra se podía leer: " DeepMind parad la carrera de la IA ". Unos días más tarde, otro joven se presentaba a las puertas de las oficinas de Anthropic con una carta para Dario Amodei con un mensaje muy similar: "Por el bien de mis hijos y con la urgencia y gravedad de nuestra situación en mi corazón, he iniciado una huelga de hambre frente a las oficinas de Anthropic… mientras espero su respuesta". Hoy, esas peticiones están más vigentes que nunca y la generación que iba a impulsar la IA es, en realidad, la que más la odia . Generación L: con L de ludita . Durante años, las tecnológicas dieron por hecho que los más jóvenes adoptarían e impulsarían la IA como ya hicieron antes con los ordenadores y con internet. Sin embargo, los datos dicen justo lo contrario. En Xataka Bill Gates: "A medida que la IA asuma más trabajos, podrás jubilarte antes y trabajar semanas laborales más cortas" Según una encuesta de Gallup entre chicos de 14 a 29 años, solo el 22% se siente esperanzado con la IA. Son catorce puntos menos que en 2025. El enfado y el desapego con la tecnología que prometía quitarle el trabajo en el futuro subió al 31% y la ansiedad ronda ya el 44%. "Creo que nadie de mi círculo social más cercano usa IA y todos están activamente en contra, excepto mis amigos que estudian informática y prácticamente están obligados a usarla", contó a The Verge la extrabajadora tecnológica Sharon Freystaetter. No es la única voz crítica. Un 44% de los jóvenes admite sabotear de alguna forma la estrategia de IA de su empresa, según recoge un informe de Writer y Workplace Intelligence. De las graduaciones a las calles. El exCEO de Google Eric Schmidt fue abucheado varias veces al hablar de IA en la graduación de la Universidad de Arizona, en mayo. "La pregunta no es si la IA va a dar forma al mundo. Lo hará", insistió Schmidt entre pitos. No fue el único orador abucheado durante una graduación mientras alababa las bondades de la IA. Gloria Caulfield, ejecutiva del sector inmobiliario también recibió su dosis de abucheos durante su discurso de graduación en la Universidad de Florida Central. Los mismos abucheos y reproches recibió Scott Borchetta , director ejecutivo del sello discográfico Big Machine, en su discurso ante los recién graduados de la Universidad Estatal de Middle Tennessee. Es el mismo malestar que empujó a Trazzi a declararse en huelga de hambre ante la sede de DeepMind, que ahora comparte con la generación Z a través de movimientos como Stop the AI Race , la plataforma que organiza marchas para congelar el desarrollo de estos sistemas. En marzo reunió a doscientas personas frente a las sedes de OpenAI, Anthropic y Google en San Francisco. "Estamos en una emergencia", gritó a la multitud. En Xataka Los PC necesitaron 15 años para demostrar su valor en las oficinas. La IA encara un desafío adicional: los empleados la odian Los centros de datos, el nuevo frente de batalla . Sadie Cisneros, de 17 años, no quiso permanecer en silencio al enterarse de que iban a construir un centro de datos junto a su instituto en Pittsburg. "No necesitaba la IA para la mitad de las cosas para las que la usaba", reconoció Cisneros al New York Times . En El Paso, Marco Sánchez de quince años montó una alianza juvenil contra un centro de datos de Meta tras saber que la empresa recibió una rebaja del 80% en sus impuestos. "Estás perjudicando a familias trabajadoras mientras le das a la empresa de Zuckerberg cientos de millones en beneficios fiscales", denunció el joven. Solo en el primer trimestre del año, la presión vecinal bloqueó o retrasó 75 proyectos por valor de 130.000 millones de dólares. Paro para todos, beneficios para unos cuantos . "Los que acaban la universidad y están a punto de empezar sus carreras profesionales están cada vez más preocupados por no encontrar trabajo. Temen que la IA se vuelva más inteligente hasta llegar a ser capaz de hacer todo lo que ellos pueden hacer. Creo que cada vez miran al futuro con más incertidumbre y no tienen claro cómo van a poder ganarse la vida", explicaba en una entrevista para ABC Michael Trazzi. Un informe de InfoJobs y Esade revela que las vacantes tecnológicas sin experiencia cayeron un 41% en 2025. Justo cuando más jóvenes buscan su primer empleo . Mientras la calle se llena de pancartas de protesta contra la desenfrenada carrera de la IA y su impacto en la sociedad, la inversión en las empresas que la desarrollan bate récords. Según calculaba un informe de Stanford, el capital global destinado a esta industria alcanzó los 581.700 millones de dólares en 2025, más del doble que el año anterior. El propio informe de Stanford reconoce que esos beneficios se concentran en un puñado de empresas, casi siempre las mismas . Los salarios de tecnología en España ya no suben al mismo ritmo. La IA determina qué salarios suben más Como los luditas, pero sin telares que romper . El paralelismo de estos movimientos de protesta contra los centros de datos con los protagonizados por los luditas en el siglo XIX no es casual. Los luditas no odiaban la maquinaria en sí misma. Defendían salarios y empleos frente a máquinas que producían más barato y peor, recuerda el periodista Brian Merchant en su libro 'Sangre en las máquinas' . Aquellos obreros rompieron novecientos telares en Nottingham antes de que el Parlamento castigara con la horca a quien destruyera máquinas. Hoy no hay una sola máquina que romper. Si alguien ataca un servidor, la IA sigue funcionando desde cualquier otro lugar. Por eso la resistencia y el rechazo que está mostrando la generación Z apunta a lo único físico que queda: los centros de datos, los contratos públicos y la reputación de sus dueños. El desasosiego social es casi el mismo de hace dos siglos, aunque las herramientas y los telares ya no fabriquen telas sino redes neuronales. En Xataka | Bill Gates: "Creo que deberíamos poner impuestos a la IA, si contratas a alguien ahora mismo pagas impuestos sobre su nómina" Imagen | Unplash ( Manuel Lopez ) - La noticia Los magnates tech soñaron con una revolución digital que les haría milmillonarios: se han encontrado con el regreso de los luditas fue publicada originalmente en Xataka por Rubén Andrés .

XatakaXataka•Rubén Andrés14 sept

Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo

Ya hablamos de cómo Evan Hubinger, responsable de la división de alineamiento en Anthropic, publicó un polémico mensaje en X en el que indicaba que creía que había un 10% de posibilidades de que la IA acabase con la raza humana. Ha habido otras personalidades en el pasado que han hablado de esa posibilidad, y aunque esos escenarios no son imposibles, ese 10% es simplemente una estimación subjetiva sobre una tecnología que ni siquiera existe. No solo eso: entre diseñar un virus en un ordenador y exterminar a 8.000 millones de personas está el mundo real. El ejemplo del supervirus . Una de las posibilidades de las que se habla con frecuencia es de la de cómo esa potencial y futura superinteligencia podría acabar diseñando un virus devastador. Las herramientas de IA para el ámbito de la biología están mejorando rápidamente y ya existen modelos capaces de diseñar virus funcionales que infectan baterias , y hay quienes creen que eso aumenta el riesgo futuro de desarrollo de armas biológicas. Pero también hay que destacar que esos experimentos a necesitaron científicos de élite, laboratorios avanzados, muchos recursos y centenares de pruebas. Los modelos actuales no pueden diseñar virus capaces de infectar a seres humanos (de momento). "Están jugando con nuestras vidas": un investigador de Anthropic cree que hay un 10% de posibilidades de que la IA acabe con la humanidad De fácil, nada . David Bellamy, que trabaja en el Institute of Foundation Models (creadores del  modelo K2 Horizon ), explicaba en X cómo es probablemente uno de las pocas personas que ha entrenado un modelo frontera y ha diseñado virus personalizados con él. En su opinion esa amenaza de la que hablan algunos es "una farsa total". Diseñar el virus no es el problema . De hecho Bellamy está de acuerdo con algunas de las posibles premisas. Un LLM puede diseñar un genoma viral que podría ser sintetizable e  incluso infeccioso. También podría modificar un virus conocido, pero es que ese no es el cuello de botella. El verdadero desafío, asegura, está en crear un patógeno con propiedades muy precisas y que sea capaz de superar nuestras defensas. Según él eso requiere experimentar repetidamente con el mundo físico. Las células siguen siendo células . Esa distinción entre lo digital y lo físico es importante. La mejora recursiva de una IA puede funcionar realmente bien en ámbitos como la programación o las matemáticas, donde se pueden generar soluciones y comprobar inmediatamente si funcionan millones de veces. Pero la biología no funciona así: hay que sintetizar material, cultivar células y realizar experimentos. Todo ese flujo está limitado por las leyes de la física. Ni con los mejores laboratorios . Imaginemos, nos dice Bellamy , que tuviéramos unas instalaciones de más de 100 millones de dólares con todo el equipamiento necesario y que todo se pudiera controlar con APIs para que una IA experimentase sin intervención humana. El problema es que esas instalaciones no existen hoy en día: Bellamy trabajó en un proyecto como este y destacaba cómo entre otras barreras estaría la de que se enfrentaría a los controles que ya aplican los proveedores de síntesis genética. Aunque la ingeniería genética ya puede modificar patógenos, la Academia Nacional de Ciencias de EEUU advertía de un problema básico: nuestros conocimientos biológicos son limitados, y muchos cambios genéticos, más que mejorar un virus, lo perjudican. Recordando el (trágico) pasado . La Peste Negra mató aproximadamente entre el 30% y el 50% de la población europea entre 1347 y 1352. Con la llegada de enfermedades desde Europa a América tras el descubrimiento (aunque hubo otras causas ), el impacto fue aún más extremo: algunas estimaciones estiman que las epidemias llegaron a causar hasta el 90% de muertes en determinadas poblaciones indígenas. Y la gripe de 1918 mató entre el 1% y el 5% de la población mundial . Aquellas catástrofes fueron enormes , pero ninguna estuvo cerca de hacer que la raza humana quedara extinta. Instinto de supervivencia . El siglo pasado la humanidad sobrevivió a dos guerras mundiales, y la segunda acabó provocando la creación de la bomba atómica. Durante la Guerra Fría llegamos a acumular miles de cabezas nucleares y ha habido ocasiones en las que hemos estado peligrosamente cerca de usarlas. Seguimos aquí por una razón: los seres humanos reaccionamos ante las amenazas: creamos sistemas de alerta, vacunas, antibióticos, refugios, tratados, y organismos internacionales. Las amenazas evolucionan, sin duda, pero las defensas también lo hacen. Pero no somos indestructibles . Creer que el ser humano puede sobrevivir prácticamente a todo también sería un error. Un  patógeno diseñado por una IA superior podría poseer propiedades que fueran más allá de la evolución natural, y podría combinarse con ciberataques o sabotaje de infraestructuras para frenar nuestra capacidad de reacción. Aun así, la historia demuestra algo importante: una cosa es matar millones de seres humanos y otra muy distinta eliminar a toda la humanidad. Todo puede pasar, pero... Una superinteligencia podría teóricamente superar a los mejores virólogos y descubrir mecanismos biológicos desconocidos, e incluso podría conseguir producirlo de forma masiva y liberarlo. Aunque no se puede descartar que algo así ocurra, las estimaciones sobre ese riesgo y sus plazos siguen siendo enormemente ambiguas . En Xataka Anthropic dice que Claude Mythos es demasiado potente para hacerlo público. La pregunta es si esto no es más que un "que viene el lobo" Este discurso catastrofista nos suena. En 2019 OpenAI decidió no publicar inicialmente el GPT-2 completo por temor a que pudiera utilizarse para generar desinformación, phishing , spam o suplantaciones a gran escala. Lo fue liberando por etapas y, meses después, reconoció que no había observado efectos significativos de abuso que justificasen mantenerlo cerrado y publicó el modelo completo. Siete años después Anthropic recuperó una narrativa parecida, aunque con capacidades bastante más preocupantes: restringió Mythos porque podía encontrar vulnerabilidades graves y facilitar ciberataques, hasta el punto de que Nature se preguntaba si inauguraba la era de los modelos "demasiado peligrosos para ser publicados". La cosa ha cambiado, desde luego . Mythos es muchísimo más capaz que GPT-2 y sus riesgos no son directamente comparables, pero el precedente invita a cierta cautela: la historia de la IA está llena de capacidades que parecían extraordinariamente peligrosas cuando aparecieron y que después resultaron más manejables cuando pudimos observar sus efectos en el mundo real. Eso no demuestra que las advertencias actuales sean falsas ; sí recuerda por qué conviene distinguir entre un riesgo anticipado y uno demostrado. Imagen | Fusion Medical Animation En Xataka | La Peste Negra seguía ocultando un enigma casi siete siglos después. La respuesta estaba en unos árboles de los Pirineos - La noticia Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo fue publicada originalmente en Xataka por Javier Pastor .

XatakaXataka•Javier Pastor14 sept

Trump carga contra Amodei (Anthropic) y tilda las peticiones para frenar la IA de "conspiración"

El presidente de Estados Unidos, Donald Trump, ha cargado contra el consejero delegado de Anthropic, Dario Amodei, tras su reciente carta pública pidiendo frenar el desarrollo de la IA ante los potenciales riesgos, algo que el inquilino de la Casa Blanca ha calificado de "conspiración" que únicamente beneficia a China. "La Administración Trump ha impedido que los 'humanos' de IA hagan cosas malas, o potencialmente malas, como Dario (Amodei), que ahora se hace pasar por un 'angelito perfecto', ¡y seguiremos haciéndolo!", ha destacado el mandatario norteamericano en redes sociales. Trump ha indicado que el Gobierno ya cuenta con un poder suficiente en términos regulatorios sobre estas empresas para controlar su actividad. "Hay una conspiración enfermiza en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China", ha aseverado. De hecho, el presidente estadounidense ha afirmado que el sector no requiere de mecanismos de control, ya que Estados Unidos cuenta con un mandatario "fuerte e inteligente". "¡Teóricos de la conspiración, traidores, delincuentes y filtradores, tengan cuidado!, ha advertido. Los máximos líderes de los tres grandes laboratorios de IA --Anthopic, OpenAI y SpaceX-- han coincidido en que se debe ralentizar el desarrollo de la IA y han expresado sus advertencias sobre el riesgo de esta herramienta en los próximos años. En concreto, el director ejecutivo de Anthropic, Dario Amodei, ha avisado que es necesario frenar el ritmo de desarrollo de los modelos de IA en una carta publicada en la web y en su cuenta de X el 12 de septiembre, una postura con la que han coincidido también el CEO de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk en respuesta a su publicación. Las acciones de empresas relacionadas con el sector de la inteligencia artificial están sufriendo caídas este lunes después de un fin de semana cargado de declaraciones de altos directivos alertando de los riesgos del avance de la IA e instando a frenar su vertiginoso desarrollo.

InfobaeInfobae•Newsroom Infobae14 sept

Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno

"Nos estamos pasando de frenada con la IA". Básicamente, ese es el mensaje que Dario Amodei, CEO de Anthropic, mandaba este fin de semana , poniendo sobre la mesa, otra vez, que pese al enorme potencial de la tecnología, es algo que también puede generar enormes riesgos. En esta ocasión, Amodei no estaba solo, ya que Elon Musk, Demis Hassabis y Sam Altman se han sumado a la idea de dejar de pisar el acelerador de la IA. El problema es que quizá es sólo una cortina de humo para camuflar otra cuestión: son las empresas privadas las que se están gastando un dineral en algo que no avanza al ritmo que ellos quieren. Hay muchas aristas aquí. Nos va a matar a todos . No es la primera vez que alguno de los desarrolladores de la IA manda este mensaje en el que se apunta que los sistemas se están volviendo extremadamente capaces en tiempo récord, tanto que puede que pronto nos quedemos sin capacidad de respuesta y sin poder controlarlos con seguridad. De hecho, tanto Anthropic como OpenAI llevan meses jugando al juego de "lanzamos algo muy potente y decimos que es tan potente que es peligroso". En un principio, ese mensaje apocalíptico venía por parte de empleados de mayor o menor entidad en estas empresas. En el Statement of Superintelligence firmado por más de 800 personas en otoño de 2025, ingenieros ya hablaban sobre la posibilidad de prohibir el desarrollo de una superinteligencia hasta que hubiera un consenso sobre lo que se quería lograr y cómo hacerlo seguro. Este 2026, el mensaje empieza a venir por parte de los directivos de las propias empresas que están empujando el desarrollo de la IA. De hecho, OpenAI y Anthropic han construido buena parte de su discurso alrededor de la idea de que la tecnología que venden es potencialmente catastrófica . Es una contradicción mayúscula y también un patrón que se repite estos últimos meses (o semanas, porque el ritmo que van lanzando modelos de vanguardia es endiablado). En Xataka OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos El punto de inflexión . Todo esto nos lleva a la situación de esta semana en la que los que pueden echar el ancla piden, efectivamente, echar el ancla. Sin embargo, para entender por qué ese frenazo interesa justo ahora, hay que volver atrás en el tiempo, concretamente a comienzos de 2025. Fue entonces cuando la startup china Deepseek lanzó su modelo R1, borrando en un sólo día 600.000 millones de capitalización de Nvidia. La lógica era sencilla: si un modelo tan avanzado se podía entrenar con una fracción del gasto de las big tech y sin acceso a la última tecnología de una Nvidia que lleva la voz cantante, ¿por qué no lo están haciendo todos? ¿Acaso el sistema de gasto está sobredimensionado? Pero ocurrió todo lo contrario, y la respuesta de las big tech (en este caso ya dejamos startups de IA como OpenAI y Anthropic al margen, centrándonos en Microsoft, Google, Meta y Amazon) fue gastar... más. De los 250.000 millones de dólares , pasaron a 410.000 millones en 2025 . Y de esa cifra, a los 725.000 millones previstos para este 2026 . El verdadero punto de inflexión es que ninguna empresa del sector podía permitirse gastar menos que las demás. Gráfico de BofA de la emisión de deuda en EEUU, modificado para indicar el lanzamiento de Deepseek: Deuda. Y el problema es que ese gasto ya no se financia sólo con la caja propia. Los cinco grandes hiperescaladores (Amazon, Alphabet, Microsoft, Meta y Oracle) emitieron 121.o00 millones de dólares en bonos en 2025, más de cuatro veces la media anual del año anterior. Esta tendencia se ha acelerado, con una previsión de nueva deuda para 2026 de entre 140.000 y 175.000 millones de dólares, hasta 320.000 millones en los próximos tres años. Según las estimaciones , el gasto de capital absorberá el 94% del flujo de caja operativo de estas compañías en 2026. Hace apenas dos años, cuando comenzó esta fiebre, esa cifra era del 50%. Y los propios bancos de inversión están empezando a hablar de los hiperescaladores y empresas de la IA c asi como si fueran soberanos . Alphabet ha colocado 31.000 millones de dólares en deuda en el primer trimestre de 2026, la de Amazon ha pasado de 65.600 a 119.100 millones interanuales y se estima que Oracle no generará caja libre positiva hasta 2029. La traducción es que los inversores están nerviosos porque el endeudamiento no es infinito y es más que posible que el mercado empiece a mostrar fatiga por esa avalancha de deuda. Vamos, que se pinche la burbuja. “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas Si el dinero no fuera un problema... Incluso si el capital fuera ilimitado, hay un límite que nadie puede saltarse: no hay suficiente gente para construir centros de datos. CEOs como Satya Nadella de Microsoft o Jensen Huang de Nvidia han hablado en alguna ocasión que no estamos ante una burbuja porque ellos no pueden escalar la IA como les gustaría y como el mercado necesita debido a que hay dos cuellos de botella. El primero es el de los chips, ya que no hay componentes suficientes ( la memoria NAND ) y las fundiciones como TSMC no pueden fabricar a la velocidad necesaria. El segundo es el de las propias instalaciones. Los permisos van a su ritmo, hay vecinos que no los quieren y ralentizan los proyectos y, aunque todo, todo fuera rodado, no hay profesionales de la construcción suficientes. Según los cálculos, sólo en Estados Unidos hay un déficit de unos 439.000 trabajadores de la construcción como electricistas, soldadores o instaladores que tengan las capacidades como para levantar los centros de datos y conectar la infraestcuctura de la IA. La energía también es otro cuello de botella importante porque estamos viendo que sólo con las renovables no basta y es otro punto de fricción tanto a la hora de alimentar estos centros de datos como al momento de conseguir el beneplácito político en algunas ciudades que no quieren que sus factures aumenten de la noche a la mañana. En Xataka En China los tokens de IA son los nuevos puntos de fidelización: te los regalan por comer, beber o usar una tarjeta Papá Estado al volante . Ahí está la pregunta. ¿Los grandes de la IA piden pausa porque creen sinceramente que están yendo demasiado rápido o porque están quemando dinero a la vez que hay un freno físico que no pueden superar simplemente quemando más y más dinero? Y, a si lo que ha ocurrido este fin de semana es una cortina de humo, se suman otras declaraciones de Dario Amodei en las que apunta que es "muy extraño" que algo tan importante como los modelos avanzados de IA dependan sólo de empresas privadas . Sin pedir un rescate, Amodei asegura que lo que debería producirse es una gobernanza conjunta entre gobiernos y empresas de la IA aludiendo a algo básico: la IA se ha convertido en geopolítica, el caballo de batalla en la guerra comercial entre Estados Unidos y China, y si es tan importante, Amodei defiende que el Estado debería tener mano en la industria más allá de regular el acceso a los chips. Alguien ha echado un vistazo a las cuentas de Microsoft con los chips para IA y ha descubierto algo preocupante: no cuadran Gu erra frí a . Pero bueno, si se quiere que el Estado meta uñas en el asunto, ¿qué dice el Estado? Trump ha rechazado la desaceleración por un motivo muy sencillo: "quien gane la IA, gana". China más de lo mismo, con toda la lógica del mundo porque, como decimos, la IA no es un producto: es geopolítica. El desarrollo de esta tecnología es otro frente abierto entre las dos potencias y, en caso de echar el ancla, hablaríamos de una guerra fría en la que ninguno se puede fiar del otro: ni Anthropic de Google, X y OpenAI (y viceversa), ni Estados Unidos de China (y viceversa). El resumen es que nadie se fía del vecino , pero bueno, al final... ha ocurrido lo de siempre. Es el cuento de Pedro y el lobo, ese en el que Amodei, en este caso, afirma que deberían pisar el freno con la IA para, acto seguido, afirmar que seguirán lanzando modelos avanzados. Y si piden un frenazo es porque, realmente, tienen que ganar oxígeno tanto en los centros de datos como en la caja. Imagen | Gemini En Xataka | Buena parte de la economía mundial ahora mismo consiste en Google y Amazon comprando GPUs: el 95% están inactivas - La noticia Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno fue publicada originalmente en Xataka por Alejandro Alcolea .

XatakaXataka•Alejandro Alcolea14 sept

Trump rechaza controles a la IA y alerta de una "conspiración enfermiza" que beneficia a China

El presidente de Estados Unidos, Donald Trump, ha asegurado este lunes que existe una "conspiración enfermiza" contra la Inteligencia Artificial que beneficia a China, asegurando que Washington lleva la cabeza en esta carrera y que el único control a esta tecnología es un "presidente fuerte e inteligente". "Se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China. Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo", ha afirmado el presidente estadounidense, en un mensaje en redes sociales. "Teóricos de la conspiración, traidores y filtradores, tened cuidado", ha indicado Trump al tiempo que ha rechazado límites a esta tecnología, alegando que el único control o salvaguardia que necesita la IA es "un presidente fuerte e inteligente, con un coeficiente intelectual alto", algo que ha señalado que "Estados Unidos tiene y de sobra". Este mensaje llega en medio del revuelo creado por la llamada del cofundador y director ejecutivo de Anthropic, Dario Amodei, que ha pedido bajar el ritmo de desarrollo de las capacidades de los modelos de IA. El mandatario estadounidense ha subrayado así que su Administración ha impedido que la "gente de la IA hagan cosas malas, o potencialmente malas". En este punto ha cargado contra Amodei, de quien ha dicho que "finge ser un angelito perfecto". "Ya tenemos un enorme poder penal y regulador sobre estas empresas", ha señalado. En una carta abierta, Amodei ha abogado por frenar el ritmo de desarrollo de las capacidades de los modelos de IA afirmando que, a pesar de que tiene el potencial de transformar positivamente la sociedad, puede tener riesgos catastróficos.

InfobaeInfobae•Newsroom Infobae14 sept

Anthropic, OpenAI y Google estudian crear un organismo de seguridad para regular la IA

En las últimas semanas los grandes desarrolladores de Inteligencia Artificial han llamado a frenar el rápido desarrollo de esta tecnología en aras de la seguridad tanto de los ciudadanos como de la economía. Los CEOs de Anthropic y OpenAI coinciden en que los sistemas podrían, eventualmente, provocar problemas cuya solución escape al control humano . En este contexto, y con la batalla entre EE.UU. y China por liderar el desarrollo de la IA, los grandes desarrolladores se plantean crear un organismo de seguridad que regule la evolución de esta tecnología, según The Washington Post. Los líderes de estas empresas han advertido que un gran descontrol podría causar estragos multimillonarios. El ensayo publicado por el CEO de Anthropic , Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. La relevancia de este comunicado se suma a la dimisión de un ingeniero de Anthropic, Jacob Coxon, que ha alertado de que «están avanzando a toda velocidad hacia la creación de una superinteligencia artificial -algo así como una IA más lista que cualquier humano- capaz de auto mejorarse y jugando con nuestras vidas », llegando a asegurar que «quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década ». Incluso la ONU ha alertado de los peligros de la IA. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, asegura que «todos los derechos humanos están en riesgo» y ha llamado a «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo». Entre las reacciones a la advertencia de Amodei se encuentra la de Hassabis, que publicó en X su apoyo, mientras que Altman le siguió en la red social al compartir que « el progreso ha sido rápido y continuará siéndolo . Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face , propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. A pesar de la voluntad de los líderes de las empresas, estos se enfrentan al gobierno estadounidense. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo asegurando que «se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China». «Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo», ha afirmado. Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños , frenaría la ventaja estratégica del país frente a potencias rivales como China. Entre los movimientos dentro de la industria de la IA, el gigante tecnológico Microsoft ha presentado este lunes un borrador de código de conducta para su inteligencia artificial interna. El documento exigiría que la IA de Microsoft nunca se resistiera a ser corregida o apagada , que se comunicara de forma comprensible para los humanos y que considerara cualquier infracción de conducta como un fallo. El código de conducta «representa una especie de constitución para los futuros modelos creados por la empresa», afirmó Mustafa Suleyman, director ejecutivo de IA de Microsoft, en una entrevista con Reuters. Microsoft lo elaboró tras consultar con expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites del usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable , explicó. «Después de eso, se utilizará para entrenar los modelos que desarrollemos», afirmó refiriéndose al código. La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar conciencia o estatus moral. Microsoft, por su parte, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».

ABCABC•(abc)14 sept