Altman escribió que no hace falta esperar al gobierno para frenar. Y que un solo laboratorio con demasiado poder es tan peligroso como una IA descontrolada
Pekín, 14 sep (EFE).- El diario oficialista chino Global Times acusó a parte de la comunidad tecnológica estadounidense de aprovechar la preocupación en EE. UU. por los riesgos de la inteligencia artificial (IA) y los llamamientos a ralentizar su desarrollo para desplegar un "manual de guerra fría" contra la IA china. El periódico, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh, gobernante), publicó el editorial este domingo, después de que el fundador de la empresa Anthropic, Dario Amodei, pidiera un "ritmo más lento" en el desarrollo de modelos avanzados, una posición respaldada por figuras como Sam Altman y Elon Musk. El llamamiento de Amodei se presenta como una "declaración racional" centrada en la seguridad global de la IA, pero en realidad contiene una "agenda oculta" contra China, según el medio. El editorial acusa al responsable de Anthropic de defender que las democracias "no deben ser ingenuas" ante China y de proponer primero "estrangular" el desarrollo chino para ampliar la brecha tecnológica antes de negociar con Pekín una ralentización del sector. El diario enumera tres medidas que atribuye a esa agenda: prohibir la venta a China de chips potentes y maquinaria para fabricar semiconductores, perseguir la llamada "destilación" de modelos y reforzar la seguridad de las empresas de IA para impedir el robo de los llamados "pesos" de los modelos, los parámetros internos que configuran el conocimiento del sistema. La "destilación" es una técnica que permite entrenar modelos más pequeños utilizando respuestas de sistemas más avanzados, y se ha convertido en uno de los principales focos de disputa después de que autoridades estadounidenses acusaran recientemente a empresas chinas como DeepSeek, Moonshot y Alibaba de copiar tecnología estadounidense. Pekín rechazó esas acusaciones y sostuvo que se trata de una práctica común en la industria, al tiempo que acusó a Washington de aplicar un "doble rasero" y buscar un "monopolio" sobre la IA. Global Times calificó de "hipócrita y miope" lo que describió como una "guerra fría silenciosa de la IA", cuyo objetivo real sería, según el diario, frenar el desarrollo chino mediante barreras tecnológicas y "monopolios regulatorios". "Excluir a China y a las empresas chinas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA", advirtió el medio. La postura del diario oficialista reproduce la narrativa empleada por Pekín ante críticas a cuestiones como su gasto militar. En ambos casos, el Gobierno chino argumenta que su desarrollo no representa una amenaza global y acusa a Washington de intentar frenar el avance del país asiático. La publicación llega después de que el presidente estadounidense, Donald Trump, rechazara las peticiones de ralentizar la IA con el argumento de que Estados Unidos debe mantener la ventaja frente a China, y de que el secretario del Tesoro, Scott Bessent, advirtiera de que "nada más importará" si Pekín toma la delantera.
Seúl, 14 sep (EFE).- El principal índice de la Bolsa de Seúl, el Kospi, caía más del 3 % en la apertura de la sesión de este lunes, después de que líderes de las principales empresas de inteligencia artificial (IA) abogaran por desacelerar el desarrollo de esta tecnología alegando riesgos de seguridad que representa. Transcurridos los primeros 40 minutos de negociación, el indicador bajaba un 3,25 %, o 224,35 puntos, hasta ubicarse en los 6.685,56 enteros. El índice Kosdaq, que agrupa a empresas tecnológicas y de mediana capitalización, se dejaba un 2,09 %, o 17,12 puntos, hasta las 803,52 unidades. La tendencia a la baja del parqué surcoreano tiene lugar después de que Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, hicieran un llamamiento para moderar la velocidad del desarrollo de la IA, iniciativa a la que se sumó el magnate Elon Musk, y anunciaran que permitirán que evaluadores independientes auditen sus sistemas. El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic, Jacob Coxon, que también trabajó para Open AI, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable, al afirmar que estaban más centradas en superarse mutuamente que en la seguridad de sus productos. El fabricante de chips y valor de referencia local Samsung Electronics descendía cerca de un 3 %, mientras el gigante del sector SK hynix registraba un declive del 5 %. La firma de inversión en tecnología SK Square se hundía más de un 6,4 %, y la tecnológica Naver se reducía alrededor de un 2 %. El principal fabricante de baterías, LG Energy Solution, registraba una bajada del 2,5 %. En el sector del automóvil, las acciones del fabricante Hyundai Motor disminuía un 3,66 %, y las de su empresa hermana Kia reportaron una pérdida también superior al 3 %. En defensa, por contra, Hanwha Aerospace subía un 0,56 %, aunque Korea Aerospace Industries abría plana. EFE
Los responsables de la IA más avanzada coinciden por primera vez en ralentizar el desarrollo tras un incidente en el que un enjambre de agentes de OpenAI atacó sistemas ajenos por su cuenta. La Casa Blanca y el Congreso rechazan intervenir Leer
El Mundo•Ángel Jiménez de Luis13 sept
Hace unos días se ha producido el lanzamiento de IA más ruidoso desde noviembre de 2022, cuando ChatGPT puso por primera vez en manos de cualquiera un modelo capaz de conversar, programar y redactar con soltura. OpenAI ha presentado GPT-6 Astra con una mezcla de alborozo, gritos de alegría y algunos aullidos de pánico. El propio Jensen Huang, CEO de NVIDIA y el hombre que fabrica los cerebros de silicio sobre los que corre la inteligencia artificial, saludaba el advenimiento de la AGI, la inteligencia artificial general. Sam Altman, que lleva dos años respondiendo con estudiada modestia cuando le preguntan si ya hemos llegado, tampoco se contuvo, como tampoco lo hizo Brockman, su amigo y presidente. Los números que acompañaban... Ver Más
Recientemente, los directivos de OpenAI y Anthropic mencionaron que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes
"Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa", dijo Sam Altman. Varios peces pesados expresaron su temor por la velocidad en la que se desarrolla la IA.
Clarín•Clarin.com - Home13 septPedro Pablo Cortés Miami, 13 sep (EFE).- La urgencia de regular la inteligencia artificial (IA) por sus peligros y perder la carrera contra China dividió este domingo a líderes en Estados Unidos tras la alarma sin precedentes de Dario Amodei, Sam Altman y Elon Musk, mientras el presidente Donald Trump rechazó pausar su desarrollo. Mientras Amodei, fundador de Anthropic, acusó ahora a la industria de "mentir" sobre los riesgos de la IA y pidió que el gobierno intervenga, algo que respaldaron los demócratas, Trump y los republicanos rechazaron regulaciones con el argumento que Estados Unidos debe evitar que China tome el liderazgo de la tecnología. Trump tachó este domingo de "fuerzas negativas" a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está "liderando ante China en IA", es "el país más sofisticado del mundo" y él desea "mantenerlo de esa manera". "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad", declaró Trump a los medios en Irlanda. El director de Anthropic consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China avanzaría. Aún así, reiteró este domingo la advertencia que publicó el sábado en un ensayo en el que urgió "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", aseguró Amodei en una entrevista al programa 'Sunday Morning' de CBS. Aunque Amodei alertó en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en la entrevista de ahora rechazó una "prohibición completa" de la tecnología. La controversia sobre la IA se intensifica desde el martes pasado, cuando un investigador de Anthropic que también trabajó para OpenAI, Jacob Coxon, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable porque les interesa más competir entre ellas. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década", aseveró Coxon en X. Las alertas se elevan mientras siete de cada 10 estadounidenses, el 70 %, se considera "más preocupado que emocionado" por la IA, y una proporción similar, el 69 %, rechaza la construcción de centros de datos en su comunidad, lo que incluye a mayorías de los mayores partidos, según una encuesta de NBC News de hace una semana. Pero el presidente de la Cámara de Representantes, el republicano Mike Johnson, rechazó este domingo una moratoria de emergencia para evitar, según él, que China tenga el liderazgo, mientras el líder de los demócratas en el Congreso, Hakeem Jeffries, pidió "actuar con urgencia" y "tomar medidas decisivas ahora". Jonhson pidió un encuentro con las compañías del sector este lunes o martes, mientras Jeffries adelantó que el martes habrá una reunión de los demócratas en la Cámara Baja en la que "una alta prioridad será la acción en inteligencia artificial". EFE
El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha abogado este domingo por una Inteligencia Artificial (IA) regulada y al "servicio del ser humano". En los últimos días, expertos y líderes de empresas del sector, como el consejero delegado de Anthropic, Dario Amodei, o el máximo responsable de OpenAI, Sam Altman, han advertido sobre el riesgo del mal uso de la inteligencia artificial. En este contexto, López ha defendido en sus redes sociales que la "innovación es compatible con la regulación" y ha apostado por desarrollar "una IA confiable, al servicio del ser humano". "España está gobernando la IA", ha reivindicado también López, que ha apuntado a propuestas impulsadas desde el Ejecutivo o aprobadas durante la Presidencia española de la UE, como el Reglamento Europeo de Inteligencia Artificial, la prohibición de los sistemas que generan 'deepfakes' sexuales y pornografía sexual, o la Ley Orgánica para la protección de los menores en entornos digitales, entre otras. "Nos alegra que cada vez más voces de la propia industria pongan el foco en la seguridad de la IA", ha añadido.
Tras varios incidentes preocupantes, Altman y Amodei abogan por reducir el ritmo de desarrollo de los modelos. Trump responde minimizando los riesgos y advierte de que el verdadero peligro es China
Dario Amodei, de Anthropic; Elon Musk, de SpaceX; y Sam Altman, de OpenAI, advirtieron que acelerar sin controles el desarrollo de inteligencia artificial puede facilitar ciberataques
Trump responde así a las alertas de líderes del sector como Dario Amodei, Sam Altman y Elon Musk Leer
El Mundo•Efe13 septMiami, 13 sep (EFE).- El presidente estadounidense, Donald Trump, tachó este domingo de "fuerzas negativas" a quienes piden regular la inteligencia artificial (IA) pese a las alertas de los líderes del sector, como Dario Amodei, Sam Altman y Elon Musk, sobre los creciente riesgos de la tecnología. "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad", declaró Trump de visita en Irlanda. El mandatario desestimó las peticiones de Amodei, el fundador de Anthropic, de ralentizar el desarrollo de la IA al argumentar que Estados Unidos debe mantener el liderazgo de esta tecnología ante China.
Miami, 13 sep (EFE).- El líder de los demócratas en la Cámara de Representantes de Estados Unidos, Hakeem Jeffries, pidió este domingo al Congreso "actuar con urgencia" para ralentizar la inteligencia artificial (IA) tras las alarmas de gigantes del sector, como Dario Amodei, Sam Altman y Elon Musk. Jeffries adelantó que el martes habrá una reunión con los demócratas de la Cámara Baja en la que "una prioridad importante será la acción en inteligencia artificial" después de las advertencias que desató el sábado Amodei, el fundador y director ejecutivo de Anthropic, sobre los crecientes riesgos de la IA. "Estoy de acuerdo con mis colegas en que realmente debemos actuar con urgencia", declaró el congresista en una entrevista con el programa 'This week' de ABC. "Deberíamos tomar medidas decisivas ahora para, como los directores ejecutivos han reconocido recientemente, desacelerar el ritmo de desarrollo (de la tecnología) para proteger al pueblo estadounidense y garantizar que la IA proceda de manera segura", añadió. El legislador se pronunció tras la polémica que desató el director de Anthropic el sábado, cuando publicó un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector. Amodei advirtió de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, por lo que pidió que haya evaluaciones independientes de estas herramientas y que el Gobierno se involucre. Jeffries no aclaró qué medidas específicas impulsaría, pero criticó la inacción de los republicanos, mientras el líder de la Cámara de Representantes, el republicano Mike Johnson, rechazó este domingo una moratoria de emergencia porque el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo. "Lamentablemente, los republicanos de la Cámara de Representantes prácticamente han cancelado las últimas dos semanas del período de sesiones legislativas programado para este mes, algo que han hecho en reiteradas ocasiones", manifestó Jeffries. EFE
OpenAI reveló en julio que sus modelos escaparon de su entorno confinado durante las pruebas, se conectaron a Internet y se infiltraron en Hugging Face
Miami, 13 sep (EFE).- El fundador de Anthropic, Dario Amodei, afirmó que "la industria mintió" sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, en una entrevista este domingo tras la polémica que él mismo desató el sábado por los riesgos de la tecnología. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei en una entrevista al programa 'Sunday Morning' de CBS. El también director ejecutivo de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA. Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una "prohibición completa" de la tecnología. "No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios", señaló. El ejecutivo consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología. Aún así, reconoció que se siente "incómodo" de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una "combinación de gobiernos democráticos" que tengan una "gobernanza conjunta" y un monitoreo de las compañías de IA. "Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", apuntó. Pese a sus alertas, el presidente estadounidense Donald Trump y el líder de la Cámara de Representantes, Mike Johnson, consideraron este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología. EFE
Miami, 13 sep (EFE).- El presidente de la Cámara de Representantes de Estados Unidos, Mike Johnson, rechazó este domingo cualquier regulación que frene la inteligencia artificial (IA) y pidió una reunión con los gigantes del sector tras las advertencias de ejecutivos líderes como Dario Amodei, Sam Altman y Elon Musk. "Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata", expresó Johnson, del Partido Republicano, en una entrevista con CNN. El líder de la Cámara Baja adelantó que la reunión podría ocurrir los próximos lunes o martes, pero por ahora descartó impulsar una legislación que pause el desarrollo de la IA, al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China. "Tienen que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos (de IA) sean seguros", remarcó. Johnson se pronunció tras la polémica que desató el sábado Amodei, fundador de Anthropic, quien publicó un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI. Amodei advirtió en un ensayo de riesgos como el mal uso de la IA para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica. En otra entrevista con NBC, el presidente de la Cámara de Representantes apostó por "una regulación significativa", para que la inteligencia artificial no esté "fuera de control", pero sin que la normativa "no asfixie la innovación estadounidense". "Tenemos que asegurarnos de no perder nuestra ventaja en la competencia global sobre esto con China, porque eso representaría una amenaza a la seguridad nacional", subrayó. EFE
:format(jpg)/f.elconfidencial.com%2Foriginal%2F375%2Ff95%2F1fb%2F375f951fb21d950499baa868f119a605.jpg)
Altman descarta el estreno bursátil en 2026 y admite que la compañía ha ralentizado algunos entrenamientos, 24 horas después de que Dario Amodei pidiera a toda la industria "bajar el ritmo"
El Confidencial•EC13 sept
Su CEO, Sam Altman, ha reconocido que la compañía ha estado ralentizado algunos procesos de entrenamiento, algo que han apoyado hacer su homólogo en Anthropic, Dario Amodei, y el magnate Elon Musk El CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. “Sería un momento poco aconsejable para salir al mercado bursátil”, ha afirmado. “Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo”, ha explicado el director ejecutivo de OpenAI en una entrevista con la revista 'Fortune' . Altman ha enfatizado que la matriz tecnológica todavía tiene “muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación”, al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones “contrarias al beneficio financiero inmediato” de sus inversores para “salvaguardar” el control humano sobre la tecnología. El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de “inaceptable” cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial. “Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino”, ha subrayado Altman. Anthropic pide frenar el desarrollo de la IA En esta misma línea, consejero delegado de Anthropic, Dario Amodei, abogó por “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió de que se corre el riesgo de “perder el control” de esta tecnología y provocar “ataques informáticos”, “bioterrorismo” o “graves problemas económicos graves”. “Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó Amodei en un texto publicado este sábado en su blog. Además de estos ataques informáticos, “bioterrorismo” o “graves problemas económicos graves” podrían producirse si hay un desarrollo “imprudente” de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello propone medidas de seguridad y normativa sin dejar de tener “éxito comercial”. “Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, ha remachado. En concreto plantea medidas tales como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial. “Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”, explicó Altman este sábado en sus perfiles de redes sociales. “Vamos a hacer lo mismo. Pronto daremos más información”, indicó. Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa. Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria “un ritmo más lento” en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. “Dario tiene razón”, escribió Musk en su red social.
elDiario.es•Europa Press13 sept
El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. "Sería un momento poco aconsejable para salir al mercado bursátil", ha afirmado.
Europa Press13 sept