Mark Zuckerberg, Elon Musk y Jensen Huang habrían llamado por separado al presidente Donald Trump para oponerse a un organismo de supervisión de la inteligencia artificial. La disputa ocurre mientras Meta, SpaceX y NVIDIA comprometen grandes sumas en cómputo, chips e infraestructura, y mientras el sector enfrenta una demanda de capacidad que supera la oferta disponible.
Starship lleva años acostumbrándonos a imágenes difíciles de ignorar: un vehículo gigantesco despegando, etapas separándose en vuelo y pruebas que unas veces han terminado con avances claros y otras con pérdidas inesperadas . Lo hemos visto progresar misión tras misión, con SpaceX modificando el sistema después de cada intento . Sin embargo, esa sucesión de vuelos todavía no ha cerrado algunas de las pruebas más importantes de su desarrollo. La próxima ya está programada y apunta directamente a uno de esos objetivos que el programa lleva tiempo persiguiendo. La fecha marcada es el 22 de septiembre , siempre que llegue la autorización regulatoria necesaria. Ese día, Starship intentará entrar por primera vez en una órbita de unos 275 kilómetros, completar aproximadamente seis vueltas al planeta y comenzar después su regreso mediante un encendido de desorbitado tras casi diez horas de misión. El plan contempla terminar con una reentrada y un amerizaje controlado en el Pacífico, al oeste de Chile. Pero el vuelo no irá vacío: SpaceX transportará 26 Starlink V3 , y entre esa carga se encuentra uno de los detalles que hacen especialmente interesante esta prueba. La misión tendrá sus propios ojos a través de satélites Starlink Entre los 26 satélites habrá tres con una tarea que va mucho más allá de conectarse después a la constelación Starlink. Esas unidades incorporan cámaras para observar desde el exterior la etapa superior de Starship , especialmente la zona del escudo térmico, y enviar esas imágenes a los operadores de SpaceX. Así que veremos cómo algunos de los satélites que la nave lleve hasta la órbita se convertirán después en sus propios observadores. Es una imagen llamativa, pero detrás hay bastante más que una buena fotografía del vehículo flotando sobre la Tierra. No será la primera vez que SpaceX utilice sus propios satélites para mirar a Starship desde fuera. En el vuelo de julio, seis de los 20 Starlink V3 ya llevaban cámaras con las que observaron la nave después del despliegue y enviaron esas imágenes a tierra. La diferencia ahora está en el contexto: esos ojos externos acompañarán el primer intento de mantener Starship realmente en órbita durante horas, justo antes de una reentrada especialmente importante para el programa. La etapa superior de Starship tras su recuperación del océano | Imagen: SpaceX La compañía quiere utilizar esa información para seguir desarrollando métodos que permitan evaluar si el sistema de protección térmica está preparado para futuros regresos al lugar de lanzamiento. Para este vuelo ha reforzado la sujeción de algunas losetas, ha introducido cambios en zonas donde se habían detectado caminos por los que el plasma podía penetrar detrás de ellas y probará zonas con un diseño de loseta curva que ya ha mostrado capacidad para reducir el calentamiento entre piezas. Los nuevos satélites de Starlink | Imagen: SpaceX La presencia de los V3 también ayuda a entender por qué SpaceX necesita que Starship deje de ser únicamente un vehículo experimental. En el vuelo anterior ya vimos cómo la nave liberaba satélites de esta generación, aunque aquellos siguieron una trayectoria suborbital y reentraron poco después, como estaba previsto. Ahora la compañía quiere que la carga permanezca en órbita y pueda empezar a cumplir la función para la que fue construida. El vínculo con Starlink es directo: la constelación sostiene una parte fundamental del negocio de SpaceX y Starship debería permitir desplegar mucha más capacidad en cada lanzamiento. La recuperación de Starship permite llevar el vehículo de vuelta a tierra para analizarlo después del vuelo | Imagen: SpaceX Todo esto adquiere otra escala cuando miramos hacia la Luna. SpaceX desarrolla para la NASA la variante Starship HLS , concebida como módulo de alunizaje para el programa Artemis , y la propia agencia utiliza la evolución del vehículo como parte de ese camino tecnológico. Eso sí, no significa que Flight 14 sea un ensayo de Artemis ni que el regreso estadounidense dependa únicamente de lo que ocurra aquí. En Xataka La NASA apuntó con tanta precisión a su destino que el telescopio Roman se ha ganado 12 años más de vida. Ni ellos se lo esperaban Después de años viendo a Starship como un gigantesco laboratorio de vuelo, este intento apunta a algo distinto: empezar a demostrar que el sistema puede hacer el trabajo para el que fue concebido. Ya no basta con despegar, separar etapas o sobrevivir a una reentrada. SpaceX necesita que el vehículo pueda colocar carga útil donde corresponde y regresar con cada vez más control sobre lo que ocurre en el camino. Imágenes | SpaceX Vía | SpaceX En Xataka | Japón no ha hecho tanto ruido como la NASA con DART, pero su Hayabusa 2 lleva tiempo ensayando cómo defender la Tierra de un asteroide - La noticia Starship irá por fin a por la órbita. Una parte clave del vuelo estará escondida entre sus satélites fue publicada originalmente en Xataka por Javier Marquez .
La secreta misión USSF-259 de la Fuerza Espacial de EEUU despegó este miércoles a bordo de un cohete Falcon 9 de SpaceX desde la Base de la Fuerza Espacial Vandenberg, California. Este fue el decimotercer vuelo del propulsor de la primera etapa que da soporte a esta misión, el cual ya ha lanzado las misiones […] La entrada La secreta misión USSF-259 de la Fuerza Espacial de EEUU despegó a bordo de un Falcon 9 de SpaceX se publicó primero en Actualidad Aeroespacial .
Actualidad Aeroespacial•Actualidad Aeroespacial17 sept
La Nasa y SpaceX tienen previsto lanzar a la Estación Espacial Internacional (ISS) la misión tripulada Crew-13 a principios de octubre para completar las actividades previas al lanzamiento, las revisiones de preparación y la coordinación de las operaciones de la estación espacial. Ambas agencias aplazaron sine die el lanzamiento de la misión Crew-13 a la ISS, […] La entrada La Nasa y SpaceX prevén lanzar a la ISS la misión tripulada Crew-13 a primeros de octubre se publicó primero en Actualidad Aeroespacial .
Actualidad Aeroespacial•Actualidad Aeroespacial17 sept
Valor Equity Partners, la firma fundada por Antonio Gracias, transfirió a sus socios limitados el 8,5% de sus acciones de SpaceX, con un valor estimado de USD $8.500 millones. La decisión evita una venta masiva en el mercado y podría ofrecer ventajas fiscales a los inversores, mientras la empresa aún conserva más de 460 millones de acciones.
Los Ángeles.- El director ejecutivo de Meta , Mark Zuckerberg , defendió que cada empresa debe asumir por su cuenta “la responsabilidad ” de garantizar que sus modelos de inteligencia artificial ( IA ) sean seguros , con lo que se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología . El fundador de Facebook usó sus redes sociales para opinar en medio del debate sobre los peligros de la inteligencia artificial y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación. "Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió. Zuckerberg se refirió directamente al “gran debate” sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación como ha propuesto Dario Amodei , director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman , de OpenAI, y Elon Musk , de SpaceX y xAI. También destacó que Meta retrasó el lanzamiento de su agente de IA , Muse, durante varios meses para centrarse en la seguridad y la protección. “No exigimos que los demás hicieran lo mismo antes que nosotros”, señaló Zuckerberg, quien evitó mencionar explícitamente al líder de Anthropic ni a sus otros competidores. A su juicio, una forma de garantizar que la IA se desarrolle de manera segura reside en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora. Los comentarios de Zuckerberg siguen a la propuesta de Musk que a inicios de esta semana abogó para que los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos. En ese sentido, el director de Meta dijo que MLS , su laboratorio de inteligencia artificial, ya cuenta con evaluadores y asesores independientes. "En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", agregó. La iniciativa del fundador de Tesla se dio en medio de pedidos de los máximos responsables de laboratorios punteros como Amodei, Altman y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. La oleada de llamados se dio tras los comentarios del ingeniero tecnológico Jacob Coxon , exempleado de Anthropic y OpenAI, quien dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Te puede interesar: Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas OpenAI, Anthropic y Google DeepMind van por ente que supervise a la IA "La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc
El vuelo no incluirá el intento de atrapar la etapa superior con la torre de lanzamiento ni la recuperación del propulsor Super Heavy
La expectativa por el próximo vuelo orbital de Starship coloca a SpaceX en el centro de una disputa entre las proyecciones alcistas de Cathie Wood y una acción que se aproxima a un soporte técnico decisivo. Mientras el mercado evalúa los ingresos potenciales de Starship, Starlink y xAI, Elon Musk también vuelve a alimentar los rumores sobre una eventual fusión con Tesla.
El próximo vuelo de prueba número 14 del cohete gigante Starship de SpaceX, cuyo lanzamiento aprobó la Administración Federal de Aviación (FAA) de EEUU para el próximo jueves, se ha aplazado al día 22, según estableció después el propio órgano regulador. Se trata del primer vuelo orbital de la Starship que transportará una carga útil real. […] La entrada Aplazado el lanzamiento del vuelo 14 de la Starship de SpaceX al próximo día 22 se publicó primero en Actualidad Aeroespacial .
Actualidad Aeroespacial•Actualidad Aeroespacial16 sept
Una bajada de marcha en la carrera por la IA permitirá ganar terreno a regiones rezagadas como los países europeos y empresas como Meta y SpaceX al tiempo que tensa a los accionistas de Anthropic, OpenAI y todo su ecosistema Leer
El Mundo•José M. Rodríguez Silva15 sept
La compañía de Musk planea lanzar su gigantesco cohete en un vuelo orbital, marcando un hito en su desarrollo hacia misiones lunares y marcianas. El ensayo busca también expandir su red de internet satelital con 26 satélites, iniciando una etapa crucial en su evolución tecnológica.
Clarín•Clarin.com - Home15 sept
La directora financiera de OpenAI, Sarah Friar, afirmó que la empresa podría reducir el ritmo de desarrollo de sus modelos si sus investigadores concluyen que existen riesgos graves. Sus declaraciones llegan mientras líderes de OpenAI, Anthropic y SpaceX reactivan el debate sobre la seguridad de la inteligencia artificial y sus posibles efectos sobre los planes de cotización bursátil.
Los Ángeles.- El magnate Elon Musk ha abogado para que los principales desarrolladores de inteligencia artificial sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos, en medio de los llamamientos de los líderes del sector, que advierten sobre los peligros de esta tecnología . El director ejecutivo de Tesla y SpaceX se hizo eco de las crecientes preocupaciones sobre la seguridad de la IA durante su intervención en la cumbre All-In Summit , que se lleva a cabo en Los Ángeles, y donde participan los dirigentes de los más importantes desarrolladores de esta tecnología. "Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás", explicó Musk en su participación remota la noche del lunes. En concreto, el magnate afirmó que tanto su empresa, como OpenAI , Anthropic , Google , Meta y "tres o cuatro de las principales compañías chinas " deberían permitir que sus rivales sometieran sus modelos a pruebas de evaluación de seguridad, según información citada por CNBC . "En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación", indicó el dueño de xAI . La propuesta de Musk se produce cuando los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), y Demis Hassabis (Google DeepMind) han instado a bajar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. La oleada de mensajes se dio tras los comentarios del investigador tecnológico Jacob Coxon , exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Te puede interesar: "La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo OpenAI, Anthropic y Google buscan crear organismo de supervisión de riesgos de IA; sería similar al que regula la industria financiera Donald Trump dice que el único control que necesita la IA es un presidente como él Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc
SpaceX programó para el 22 de septiembre el vuelo 14 de Starship, una misión que intentará llevar su etapa superior a la órbita terrestre por primera vez y desplegar 26 satélites Starlink V3.
Los Ángeles (EE.UU.), 15 sep (EFE).- El magnate Elon Musk ha abogado para que los principales desarrolladores de inteligencia artificial sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos, en medio de los llamamientos de los líderes del sector, que advierten sobre los peligros de esta tecnología. El director ejecutivo de Tesla y SpaceX se hizo eco de las crecientes preocupaciones sobre la seguridad de la IA durante su intervención en la cumbre All-In Summit, que se lleva a cabo en Los Ángeles, y donde participan los dirigentes pde los más importantes desarrolladores de esta tecnología. "Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás", explicó Musk en su participación remota la noche del lunes. En concreto, el magnate afirmó que tanto su empresa, como OpenAI, Anthropic, Google, Meta y "tres o cuatro de las principales compañías chinas" deberían permitir que sus rivales sometieran sus modelos a pruebas de evaluación de seguridad, según información citada por CNBC. "En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación", indicó el dueño de xAI. La propuesta de Musk se produce cuando los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), y Demis Hassabis (Google DeepMind) han instado a ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. La oleada de mensajes se dio tras los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. EFE
Elon Musk volvió a sugerir que la colaboración entre Tesla y SpaceX podría desembocar en una operación corporativa más profunda, incluida una eventual fusión. Sus vínculos abarcan participación accionaria, baterías, inteligencia artificial, conectividad satelital y el proyecto de fabricación de chips Terafab.
Londres se convirtió en el primer territorio fuera de Estados Unidos que admite públicamente el uso de tecnología de Elon Musk para defensa, con unas 1.000 terminales activas
Creaciones de laboratorio capaces de escapar, de organizarse, de atacar. Científicos que sienten que el apocalipsis está en sus manos. Grandes empresarios que piden controlar el negocio antes de perder el control Un tema Al día, ¡en el teatro! Ven a verlo en directo el 3 de octubre en Madrid. Consigue ya tus entradas Jacob Coxon no es un profeta religioso, ni el líder de ninguna secta. Es un investigador hasta hace poco en Anthropic, una de las grandes empresas de Inteligencia Artificial del momento, que la semana pasada dejaba su trabajo lanzando una alerta mundial al pronosticar que el nivel de autonomía que está alcanzando la IA puede acabar con la humanidad en menos de cinco años. Los dueños de los cuatro principales gigantes del sector, (Sam Altman, de Open AI; Dario Amodei, de Anthropic; Demis Hassabis, de Google DeepMind, y hasta Elon Musk de SpaceX), lejos de desmentirle, salieron a decir que Coxon llevaba razón, que hay que frenar el desarrollo de la IA y poner reglas comunes. Con Carlos del Castillo, periodista de elDiario.es especializado en tecnología y autor del libro ‘Inteligencia Artificial. Cartografía de una revolución’, desciframos las claves que hay detrás de estas advertencia apocalíptica y por qué quienes siempre han odiado las reglas apuestan ahora por desacelerar esta carrera y poner límites. *** Envíanos una nota de voz por WhatsApp contándonos alguna historia que conozcas o algún sonido que tengas cerca y que te llame la atención. Lo importante es que sea algo que tenga que ver contigo. Guárdanos en la agenda como “Un tema Al día ”. El número es el 699 518 743 *** Un tema Al día es el podcast diario de actualidad de elDiario.es que, en episodios de unos 15 minutos, explica cada día un asunto de actualidad. Está presentado y dirigido por Juanlu Sánchez, subdirector de elDiario.es. Premio Ondas al podcast Revelación , Un tema Al día es el daily líder en Spotify, Apple Podcast, iVoox, Amazon Music o Podimo, según los datos públicos de las plataformas, donde acumula más de 200.000 suscriptores. Ha sido reconocido como “podcast revelación” por Amazon y recomendado como “imprescindible” por Apple. ¿Cómo escuchar 'Un tema Al día'? ▶ Si eres socio/a, puedes escuchar los nuevos capítulos del podcast cada noche en elDiario.es con unas horas de antelación respecto al resto de lectores. Recibirás el enlace en tu correo electrónico en el boletín del Adelanto de noticias. ▶ Si no eres socio/a, el episodio está disponible a primera hora de la mañana en cualquier aplicación que uses habitualmente. Spotify Apple Podcast Ivoox Podimo Amazon Music Feed RSS ▶ Acuérdate de suscribirte al podcast 'Un tema al día' en tu app para que te lleguen automáticamente los nuevos capítulos. Es gratis. ▶ Tendrás disponibles también todas las entregas de 'Un tema Al día' en elDiario.es/aldia
elDiario.es•Juanlu Sánchez14 sept
El CEO de Anthropic propone "ralentizar" el desarrollo de IA avanzada para aprender a controlarla, pero China, expertos y otros actores cuestionan quién debe decidir el ritmo de la tecnología Análisis - Quién gana cuando los líderes de la IA piden que los regulen Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional. Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control . “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos. “Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”. ¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla. Las claves del 'plan Amodei' para la IA La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”. “Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende. Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura. El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente Dario Amodei Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice. Dario Amodei, en una imagen de archivo. El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”. Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”. Una estrategia que no convence a casi nadie El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington , la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración. La segunda gran reacción ha llegado por parte de China , el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips. El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector Global Times — diario vinculado directamente al Partido Comunista Chino El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia. “El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”. Centrarse en los riesgos de ahora El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”. “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”. A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo Carme Artigas — ex secretaria de Estado de Digitalización e IA Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”. Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”. El “aterrizaje suave” para la burbuja de la IA Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate. La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar Carissa Véliz — filósofa especialista en la ética de la tecnología “Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”. Véliz rechaza destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.
elDiario.es•Carlos del Castillo14 sept
En las últimas semanas los grandes desarrolladores de Inteligencia Artificial han llamado a frenar el rápido desarrollo de esta tecnología en aras de la seguridad tanto de los ciudadanos como de la economía. Los CEOs de Anthropic y OpenAI coinciden en que los sistemas podrían, eventualmente, provocar problemas cuya solución escape al control humano . En este contexto, y con la batalla entre EE.UU. y China por liderar el desarrollo de la IA, los grandes desarrolladores se plantean crear un organismo de seguridad que regule la evolución de esta tecnología, según The Washington Post. Los líderes de estas empresas han advertido que un gran descontrol podría causar estragos multimillonarios. El ensayo publicado por el CEO de Anthropic , Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. La relevancia de este comunicado se suma a la dimisión de un ingeniero de Anthropic, Jacob Coxon, que ha alertado de que «están avanzando a toda velocidad hacia la creación de una superinteligencia artificial -algo así como una IA más lista que cualquier humano- capaz de auto mejorarse y jugando con nuestras vidas », llegando a asegurar que «quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década ». Incluso la ONU ha alertado de los peligros de la IA. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, asegura que «todos los derechos humanos están en riesgo» y ha llamado a «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo». Entre las reacciones a la advertencia de Amodei se encuentra la de Hassabis, que publicó en X su apoyo, mientras que Altman le siguió en la red social al compartir que « el progreso ha sido rápido y continuará siéndolo . Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face , propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. A pesar de la voluntad de los líderes de las empresas, estos se enfrentan al gobierno estadounidense. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo asegurando que «se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China». «Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo», ha afirmado. Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños , frenaría la ventaja estratégica del país frente a potencias rivales como China. Entre los movimientos dentro de la industria de la IA, el gigante tecnológico Microsoft ha presentado este lunes un borrador de código de conducta para su inteligencia artificial interna. El documento exigiría que la IA de Microsoft nunca se resistiera a ser corregida o apagada , que se comunicara de forma comprensible para los humanos y que considerara cualquier infracción de conducta como un fallo. El código de conducta «representa una especie de constitución para los futuros modelos creados por la empresa», afirmó Mustafa Suleyman, director ejecutivo de IA de Microsoft, en una entrevista con Reuters. Microsoft lo elaboró tras consultar con expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites del usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable , explicó. «Después de eso, se utilizará para entrenar los modelos que desarrollemos», afirmó refiriéndose al código. La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar conciencia o estatus moral. Microsoft, por su parte, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».