El empresario advirtió sobre los riesgos del avance de los modelos más potentes y de una excesiva concentración de poder; pidió reglas de seguridad comunes y respaldó la implementación de auditorías independientes
Redacción Ciencia, 14 sep (EFE).- El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención esta madrugada sobre la perdida del "control del futuro" ante la Inteligencia Artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X. Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si un IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos". "Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó. El directivo de OpenAI consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país o un laboratorio tenga demasiado poder. Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado". En este sentido, apeló a un marco legal federal en EEUU que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual. Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado. El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA. Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsables de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China. EFE
Sam Altman, CEO de OpenAI, pidió regular el ritmo del desarrollo de la inteligencia artificial y advirtió que la humanidad podría perder el control del futuro ante sistemas cada vez más poderosos. Su llamado también apunta al riesgo de una concentración extrema de poder en manos de una empresa, una persona o un país.
Es posible regular la inteligencia artificial. Lo difícil será proteger a la sociedad sin convertir la seguridad en el privilegio comercial de unas pocas empresas. China será imprescindible en esa negociación, Europa corre el riesgo de quedarse fuera Los cuatro gigantes de la IA piden frenar desarrollos y Trump desprecia el riesgo Cuando quienes compiten por dominar una tecnología piden que se frene su desarrollo , conviene prestar atención. Pueden haber visto un peligro que los demás todavía no comprendemos. También pueden haber descubierto que unas buenas barreras protegen mejor su negocio que otra ronda de inversión. Ambas cosas pueden ser ciertas a la vez. Dario Amodei, consejero delegado de Anthropic, propone ralentizar el avance de la IA más potente. Sam Altman ha respaldado la idea y anunciado que OpenAI también incorporará evaluadores independientes con un acceso comparable al de sus empleados. El compromiso merece atención. Pero aceptar inspectores no equivale a aceptar que una autoridad pública decida qué puedes vender, te obligue a reparar daños o limite tu poder de mercado. ¿Se puede regular la IA? Sí. Se pueden imponer obligaciones a quienes la desarrollan y despliegan, prohibir determinados usos, investigar incidentes y exigir responsabilidades. Pretender controlar cada copia de un modelo que circula por internet es otra cosa. Confundir ambas tareas conduce a dos errores: declarar inútil cualquier regulación o prometer una seguridad imposible a cambio de entregar el sector a sus actuales líderes. La propuesta de Amodei tiene tres niveles: evaluadores dentro de los laboratorios, coordinación entre empresas de países democráticos y acuerdos internacionales. También plantea una excepción limitada a las normas de competencia para facilitar conversaciones sobre seguridad. Defiende restringir chips y destilación no autorizada para preservar la ventaja estadounidense frente a China. Estamos, por tanto, ante una propuesta de seguridad que incorpora una estrategia industrial y geopolítica. Hay buenas razones para supervisar. Un agente es un programa que utiliza un modelo para planificar y ejecutar acciones mediante herramientas. Si dispone de permisos para modificar archivos, enviar mensajes o acceder a sistemas, sus errores tienen consecuencias distintas de las de una respuesta equivocada en un chat. La autonomía, los accesos y el número de operaciones importan tanto como la inteligencia del modelo. El informe de amenazas de Anthropic de septiembre describe usuarios del norte de Yemen que intentaron desarrollar sistemas de guiado de armas con Claude. La empresa no acredita que consiguieran un arma operativa. La diferencia importa: documentar asistencia a un proyecto peligroso no demuestra que un chatbot pueda fabricar un misil por sí solo. Pero sí justifica investigar cuánto abarata y acelera tareas que antes exigían especialistas. La seguridad convertida en barrera de entrada El problema empieza cuando quienes deben ser vigilados participan en decidir cuánto cuesta entrar en el mercado. Pensemos en un sistema de certificaciones complejas, auditorías permanentes y autorizaciones lentas. Para una empresa con abundante financiación, ese coste puede convertirse en una partida asumible. Para una cooperativa tecnológica, una universidad o una startup, puede convertirse en una barrera infranqueable. OpenAI y Anthropic podrían ganar de varias maneras. Elevarían el coste de competir; reforzarían su condición de interlocutores de los gobiernos; y convertirían sus procedimientos internos en referencia para todo el sector. Si la regulación favorece servicios centralizados, donde el proveedor conserva el control del acceso, también favorecería el negocio de vender inteligencia por suscripción o por uso. Cada alternativa descartada se convierte en demanda potencial para esos servicios. Esto no prueba que sus advertencias sean falsas. Describe incentivos que el legislador debe anticipar. Un auditor necesita recursos, libertad para publicar y protección frente a quien puede retirarle el contrato. La supervisión debe responder ante la sociedad. Cualquier excepción a las reglas de competencia debe ser limitada, pública y supervisada. Compartir información sobre un fallo peligroso puede ser necesario. Coordinar quién lanza productos y a qué ritmo puede restringir la competencia. La seguridad no debe legitimar un reparto del mercado. El peligro también cabe en un ordenador Hay otro problema: concentrar toda la vigilancia en los modelos gigantes y dejar fuera a los modelos locales pequeños ya muy capaces. Existen modelos pequeños de pesos abiertos, como los de la familia Qwen, que pueden ejecutarse localmente en algo tan barato como un mac mini. Pequeño no significa inofensivo. Para personalizar una estafa, producir mensajes de acoso o ayudar a automatizar tareas ciberataque o ciberterrorismo no hace falta superar a todos los seres humanos en todas las disciplinas. Basta imaginar a narcotraficantes, terroristas, extorsionadores o simplemente hackers con 10-100 macs mini gestionando 10.000–100.000 agentes muy potentes. ¿Quién para eso? Localizarlos ya es un problema ingente. Tampoco podemos prohibir indiscriminadamente los modelos abiertos. Permiten investigación independiente y alternativas a los grandes proveedores, además de procesar datos sin enviárselos a otra empresa. Cerrarlos dejaría a universidades y servicios públicos dependiendo de plataformas privadas. Hay que evaluar capacidades peligrosas sin convertir la apertura en una presunción de culpabilidad. Una regulación progresista debe ocuparse también de quién sufre los daños y quién recibe los beneficios. El debate sobre una futura catástrofe no puede desplazar el control de la vigilancia laboral, la discriminación o las decisiones automatizadas sobre prestaciones. Hacen falta vías para reclamar, representación de los trabajadores y responsabilidades exigibles. Certificar que un modelo es técnicamente seguro no convierte en justo cualquier negocio construido sobre él. China es imprescindible Un pacto global que excluya a China tendrá un agujero central. Sus desarrolladores participan en la expansión de modelos abiertos que otros pueden adaptar e incorporar a sus productos. Un acuerdo entre laboratorios estadounidenses no obligaría a esas empresas ni controlaría la circulación mundial de sus modelos. Tampoco un acuerdo con Pekín borraría las copias ya distribuidas, pero ampliaría sustancialmente el alcance de la prevención. Cooperar no exige confiar ciegamente. China, Estados Unidos y la Unión Europea participaron en la Declaración de Bletchley sobre riesgos de la IA. El siguiente paso requiere obligaciones verificables, intercambio de incidentes y acuerdos sobre usos especialmente peligrosos. Aquí aparece una contradicción estratégica. Si Washington plantea la seguridad como una forma de conservar su superioridad y limitar a sus rivales, Pekín tendrá razones para desconfiar. El control internacional necesita alguna reciprocidad: nadie acepta fácilmente que su competidor actúe como inspector y, además, determine cuánto puede avanzar. Habrá que negociar con China porque dispone de capacidades propias, no porque Occidente le conceda una invitación. Europa y la mesa de los demás Europa no parte de cero. El Reglamento de IA impone obligaciones a los proveedores de modelos de propósito general y requisitos adicionales a los que presentan riesgo sistémico, como evaluar y mitigar riesgos, comunicar incidentes y reforzar la ciberseguridad. Es una diferencia sustancial respecto a una promesa voluntaria. Su mercado también le permite condicionar cómo operan empresas extranjeras. Pero regular el acceso a un mercado no equivale a dirigir una negociación sobre capacidades estratégicas. Si Estados Unidos y China pactan el ritmo del desarrollo, las restricciones tecnológicas y los mecanismos de inspección, Europa corre el riesgo de recibir las condiciones cuando ya estén acordadas. Podrá discutir su aplicación, pero habrá perdido la oportunidad de decidir su contenido. La IA se puede regular. Lo que está en disputa es el reparto del poder que producirá esa regulación. Si las reglas las diseñan quienes ya dominan el negocio, los primeros beneficiarios pueden ser OpenAI, Anthropic y los demás grandes proveedores. Si Europa confunde legislar con tener poder, ni siquiera estará en la mesa donde se cierre ese reparto. Y los ciudadanos corremos el riesgo de pagar dos veces: por utilizar la tecnología y por proteger de la competencia a sus propietarios.
elDiario.es•Esteve Almirall14 sept
Otra de las amenazas es que “podríamos terminar en un mundo con demasiada concentración de poder” de un gobierno o una empresa
La Vanguardia•Francisco Bracero Osuna14 sept
El CEO de Anthropic, Dario Amodei, sorprendía a todos el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados . Eso, explica, nos daría tiempo para entender los riesgos. Sam Altman y Elon Musk han respaldado la idea, y Demis Hassabis y Satya Nadella también se han pronunciado a favor de la reflexión. Pero una cosa es decirlo y otra muy distinta hacerlo. Amodei y un problema llamado China . El propio CEO de Anthropic reconoce que el "dilema más difícil" de su propuesta está en China . Si las empresas estadounidenses de IA ralentizan su desarrollo de modelos pero las chinas continúan avanzando, EEUU podría perder su ventaja en una tecnología que cada vez es más estratégica y potencialmente militar. Amodei cree que a largo plazo harán falta acuerdos entre países para frenar el ritmo, pero reconoce que hay demasiados incentivos para que unos rivales traten de adelantar a los otros. Cuanto más sabemos sobre Mythos 5 y GPT-5.6 Sol, más aclaramos algo: si necesitan engañar para cumplir su objetivo, lo harán Trump no está dispuesto a correr ese riesgo . El presidente de EEUU ha rechazado esa posibilidad, y su razonamiento es mucho más sencillo. Según él , frenar no es posible porque "quien gane la IA, gana". Aunque no descarta diseñar algún tipo de salvaguarda, sí se niega a frenar el desarrollo de modelos avanzados porque eso permitiría a China reducir la ventaja o incluso superar a EEUU en este ámbito. Es como si el comentario de Amodei le hubiera dado "gasolina" al argumento gubernamental: si la IA puede llegar a ser tan poderosa como dice Anthropic, EEUU no se puede permitir frenar su desarrollo. Curiosamente, China también quiere reglas . Xi Jinping se ha metido de lleno en el debate y pide un marco global de gobernanza de la IA "basado en el consenso". Hasta ha presentado dicha propuesta a los países de BRICS (Brasil, Rusia, India y China) para fortalecer esa alianza. China plantea además la creación de una comunidad de IA Open Source dentro de ese bloque. O lo que es lo mismo: el discurso es muy parecido al de EEUU, aunque no lo digan de forma clara. Un periódico estatal chino ha calificado el discurso de Amodei de una táctica de la Guerra Fría. Otros hablan de que lo que está haciendo Amodei es usar la misma técnica que las instituciones religiosas han usado durante siglos enteros . Qquizás frenar sea más bien cerrar . Una de las críticas a las propuestas de Amodei es que los grandes laboratorios de IA no dejarán necesariamente de desarrollar modelos cada vez más avanzados: simplemente limitarán quién puede utilizarlos. El conocido analista Ben Bajarin cree que habrá modelos frontera de ciberseguridad reservados para gobiernos y grandes empresas —Mythos es el ejemplo perfecto—. Así pues la carrera por la IA seguirá existiendo, pero una parte cada vez mayor estaría desarrollándose tras las bambalinas, a puerta cerrada. Hola, dilema del prisionero . EEUU y China pueden tener un interés común en evitar que aparezca una IA que nadie pueda controlar, y eso debería hacer que ambas potencias frenaran el ritmo de desarrollo. El problema es el que hemos comentado: la decisión clara para cada "jugador" es seguir corriendo mientras no haya garantías de que el rival va a detenerse. Es el viejo dilema del prisionero : dos personas pueden no cooperar incluso si ello va en contra del interés de ambas. Las empresas tienen el mismo problema . La reflexión de Amodei y Anthropic es justo lo que el público necesita oir, pero hay una realidad: si quisieran retrasar su próximo Claude, podrían hacerlo: nadie se lo impide. El conocido emprendedor e inversor David Sacks precisamente critica esa postura de Amodei o Altman: si realmente quieren ir más despacio, pueden hacerlo sin esperar una regulación . Sin embargo Anthropic tendría que asumir que OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese tiempo para alcanzarla y superarla. Y si varias empresas deciden conjuntamente no competir, quizás aparecerían preguntas regulatorias antimonopolio. El resultado: todos quieren ser prudentes, pero ninguno quiere comprometerse. En Xataka OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero El problema también está en saber si está frenando de verdad . Durante la Guerra Fría, EEUU y la Unión Soviética podían negociar límites sobre misiles, bombarderos o cabezas nucleares y establecer mecanismos de inspección y vigilancia para que se cumplieran esos límites. Con la IA controlar el ritmo de entrenamiento es mucho más complicado. El acceso a recursos como chips o energía permite plantear puntos de control, pero el software mejora, los algoritmos son cada vez más eficientes y los modelos pueden entrenarse en sistemas distribuidos. Que EEUU confíe sin más en China y viceversa parece realmente difícil. En Xataka | OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos - La noticia Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero fue publicada originalmente en Xataka por Javier Pastor .
Elon Musk, Sam Altman, Dario Amodei y Demis Hassabis alertan de los riesgos de avanzar demasiado rápido con la inteligencia artificial y reclaman más controles.
Altman escribió que no hace falta esperar al gobierno para frenar. Y que un solo laboratorio con demasiado poder es tan peligroso como una IA descontrolada
Pekín, 14 sep (EFE).- El diario oficialista chino Global Times acusó a parte de la comunidad tecnológica estadounidense de aprovechar la preocupación en EE. UU. por los riesgos de la inteligencia artificial (IA) y los llamamientos a ralentizar su desarrollo para desplegar un "manual de guerra fría" contra la IA china. El periódico, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh, gobernante), publicó el editorial este domingo, después de que el fundador de la empresa Anthropic, Dario Amodei, pidiera un "ritmo más lento" en el desarrollo de modelos avanzados, una posición respaldada por figuras como Sam Altman y Elon Musk. El llamamiento de Amodei se presenta como una "declaración racional" centrada en la seguridad global de la IA, pero en realidad contiene una "agenda oculta" contra China, según el medio. El editorial acusa al responsable de Anthropic de defender que las democracias "no deben ser ingenuas" ante China y de proponer primero "estrangular" el desarrollo chino para ampliar la brecha tecnológica antes de negociar con Pekín una ralentización del sector. El diario enumera tres medidas que atribuye a esa agenda: prohibir la venta a China de chips potentes y maquinaria para fabricar semiconductores, perseguir la llamada "destilación" de modelos y reforzar la seguridad de las empresas de IA para impedir el robo de los llamados "pesos" de los modelos, los parámetros internos que configuran el conocimiento del sistema. La "destilación" es una técnica que permite entrenar modelos más pequeños utilizando respuestas de sistemas más avanzados, y se ha convertido en uno de los principales focos de disputa después de que autoridades estadounidenses acusaran recientemente a empresas chinas como DeepSeek, Moonshot y Alibaba de copiar tecnología estadounidense. Pekín rechazó esas acusaciones y sostuvo que se trata de una práctica común en la industria, al tiempo que acusó a Washington de aplicar un "doble rasero" y buscar un "monopolio" sobre la IA. Global Times calificó de "hipócrita y miope" lo que describió como una "guerra fría silenciosa de la IA", cuyo objetivo real sería, según el diario, frenar el desarrollo chino mediante barreras tecnológicas y "monopolios regulatorios". "Excluir a China y a las empresas chinas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA", advirtió el medio. La postura del diario oficialista reproduce la narrativa empleada por Pekín ante críticas a cuestiones como su gasto militar. En ambos casos, el Gobierno chino argumenta que su desarrollo no representa una amenaza global y acusa a Washington de intentar frenar el avance del país asiático. La publicación llega después de que el presidente estadounidense, Donald Trump, rechazara las peticiones de ralentizar la IA con el argumento de que Estados Unidos debe mantener la ventaja frente a China, y de que el secretario del Tesoro, Scott Bessent, advirtiera de que "nada más importará" si Pekín toma la delantera.
Seúl, 14 sep (EFE).- El principal índice de la Bolsa de Seúl, el Kospi, caía más del 3 % en la apertura de la sesión de este lunes, después de que líderes de las principales empresas de inteligencia artificial (IA) abogaran por desacelerar el desarrollo de esta tecnología alegando riesgos de seguridad que representa. Transcurridos los primeros 40 minutos de negociación, el indicador bajaba un 3,25 %, o 224,35 puntos, hasta ubicarse en los 6.685,56 enteros. El índice Kosdaq, que agrupa a empresas tecnológicas y de mediana capitalización, se dejaba un 2,09 %, o 17,12 puntos, hasta las 803,52 unidades. La tendencia a la baja del parqué surcoreano tiene lugar después de que Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, hicieran un llamamiento para moderar la velocidad del desarrollo de la IA, iniciativa a la que se sumó el magnate Elon Musk, y anunciaran que permitirán que evaluadores independientes auditen sus sistemas. El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic, Jacob Coxon, que también trabajó para Open AI, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable, al afirmar que estaban más centradas en superarse mutuamente que en la seguridad de sus productos. El fabricante de chips y valor de referencia local Samsung Electronics descendía cerca de un 3 %, mientras el gigante del sector SK hynix registraba un declive del 5 %. La firma de inversión en tecnología SK Square se hundía más de un 6,4 %, y la tecnológica Naver se reducía alrededor de un 2 %. El principal fabricante de baterías, LG Energy Solution, registraba una bajada del 2,5 %. En el sector del automóvil, las acciones del fabricante Hyundai Motor disminuía un 3,66 %, y las de su empresa hermana Kia reportaron una pérdida también superior al 3 %. En defensa, por contra, Hanwha Aerospace subía un 0,56 %, aunque Korea Aerospace Industries abría plana. EFE
Los responsables de la IA más avanzada coinciden por primera vez en ralentizar el desarrollo tras un incidente en el que un enjambre de agentes de OpenAI atacó sistemas ajenos por su cuenta. La Casa Blanca y el Congreso rechazan intervenir Leer
El Mundo•Ángel Jiménez de Luis13 sept
Hace unos días se ha producido el lanzamiento de IA más ruidoso desde noviembre de 2022, cuando ChatGPT puso por primera vez en manos de cualquiera un modelo capaz de conversar, programar y redactar con soltura. OpenAI ha presentado GPT-6 Astra con una mezcla de alborozo, gritos de alegría y algunos aullidos de pánico. El propio Jensen Huang, CEO de NVIDIA y el hombre que fabrica los cerebros de silicio sobre los que corre la inteligencia artificial, saludaba el advenimiento de la AGI, la inteligencia artificial general. Sam Altman, que lleva dos años respondiendo con estudiada modestia cuando le preguntan si ya hemos llegado, tampoco se contuvo, como tampoco lo hizo Brockman, su amigo y presidente. Los números que acompañaban... Ver Más
Recientemente, los directivos de OpenAI y Anthropic mencionaron que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes
"Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa", dijo Sam Altman. Varios peces pesados expresaron su temor por la velocidad en la que se desarrolla la IA.
Clarín•Clarin.com - Home13 septPedro Pablo Cortés Miami, 13 sep (EFE).- La urgencia de regular la inteligencia artificial (IA) por sus peligros y perder la carrera contra China dividió este domingo a líderes en Estados Unidos tras la alarma sin precedentes de Dario Amodei, Sam Altman y Elon Musk, mientras el presidente Donald Trump rechazó pausar su desarrollo. Mientras Amodei, fundador de Anthropic, acusó ahora a la industria de "mentir" sobre los riesgos de la IA y pidió que el gobierno intervenga, algo que respaldaron los demócratas, Trump y los republicanos rechazaron regulaciones con el argumento que Estados Unidos debe evitar que China tome el liderazgo de la tecnología. Trump tachó este domingo de "fuerzas negativas" a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está "liderando ante China en IA", es "el país más sofisticado del mundo" y él desea "mantenerlo de esa manera". "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad", declaró Trump a los medios en Irlanda. El director de Anthropic consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China avanzaría. Aún así, reiteró este domingo la advertencia que publicó el sábado en un ensayo en el que urgió "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", aseguró Amodei en una entrevista al programa 'Sunday Morning' de CBS. Aunque Amodei alertó en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en la entrevista de ahora rechazó una "prohibición completa" de la tecnología. La controversia sobre la IA se intensifica desde el martes pasado, cuando un investigador de Anthropic que también trabajó para OpenAI, Jacob Coxon, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable porque les interesa más competir entre ellas. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década", aseveró Coxon en X. Las alertas se elevan mientras siete de cada 10 estadounidenses, el 70 %, se considera "más preocupado que emocionado" por la IA, y una proporción similar, el 69 %, rechaza la construcción de centros de datos en su comunidad, lo que incluye a mayorías de los mayores partidos, según una encuesta de NBC News de hace una semana. Pero el presidente de la Cámara de Representantes, el republicano Mike Johnson, rechazó este domingo una moratoria de emergencia para evitar, según él, que China tenga el liderazgo, mientras el líder de los demócratas en el Congreso, Hakeem Jeffries, pidió "actuar con urgencia" y "tomar medidas decisivas ahora". Jonhson pidió un encuentro con las compañías del sector este lunes o martes, mientras Jeffries adelantó que el martes habrá una reunión de los demócratas en la Cámara Baja en la que "una alta prioridad será la acción en inteligencia artificial". EFE
El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha abogado este domingo por una Inteligencia Artificial (IA) regulada y al "servicio del ser humano". En los últimos días, expertos y líderes de empresas del sector, como el consejero delegado de Anthropic, Dario Amodei, o el máximo responsable de OpenAI, Sam Altman, han advertido sobre el riesgo del mal uso de la inteligencia artificial. En este contexto, López ha defendido en sus redes sociales que la "innovación es compatible con la regulación" y ha apostado por desarrollar "una IA confiable, al servicio del ser humano". "España está gobernando la IA", ha reivindicado también López, que ha apuntado a propuestas impulsadas desde el Ejecutivo o aprobadas durante la Presidencia española de la UE, como el Reglamento Europeo de Inteligencia Artificial, la prohibición de los sistemas que generan 'deepfakes' sexuales y pornografía sexual, o la Ley Orgánica para la protección de los menores en entornos digitales, entre otras. "Nos alegra que cada vez más voces de la propia industria pongan el foco en la seguridad de la IA", ha añadido.
Tras varios incidentes preocupantes, Altman y Amodei abogan por reducir el ritmo de desarrollo de los modelos. Trump responde minimizando los riesgos y advierte de que el verdadero peligro es China
Dario Amodei, de Anthropic; Elon Musk, de SpaceX; y Sam Altman, de OpenAI, advirtieron que acelerar sin controles el desarrollo de inteligencia artificial puede facilitar ciberataques
Trump responde así a las alertas de líderes del sector como Dario Amodei, Sam Altman y Elon Musk Leer
El Mundo•Efe13 septMiami, 13 sep (EFE).- El presidente estadounidense, Donald Trump, tachó este domingo de "fuerzas negativas" a quienes piden regular la inteligencia artificial (IA) pese a las alertas de los líderes del sector, como Dario Amodei, Sam Altman y Elon Musk, sobre los creciente riesgos de la tecnología. "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad", declaró Trump de visita en Irlanda. El mandatario desestimó las peticiones de Amodei, el fundador de Anthropic, de ralentizar el desarrollo de la IA al argumentar que Estados Unidos debe mantener el liderazgo de esta tecnología ante China.