La alarma pública sobre el posible peligro que representa la tecnología sigue creciendo, con varios expertos e importantes empresarios pidiendo la desaceleración de su desarrollo
Tras el freno que quieren imponer los laboratorios de Inteligencia Artificial (IA) estadounidenses frente a unos sistemas de IA que dan muestra de su peligrosidad cuando se desalinean, dirigentes como el presidente de Estados Unidos o directores ejecutivos de algunas de las mayores compañías tecnológicas, como Jensen Huang de Nvidia, se oponen a estas medidas, y evidencian cada vez más las posturas distintas entre Estados Unidos y China en torno a la IA. En un discurso que se orienta hacia la geopolítica, con China de nuevo en el disparadero como sucedió en su momento con Huawei al ser prohibida en Estados Unidos, la realidad de los despliegues de los modelos de IA se queda en modelos cerrados disponibles a través de los 'chatbots' desde la web en occidente, mientras que China apuesta por pesos abiertos para competir por coste y ecosistema, dando a los usuarios la posibilidad de utilizar una IA local que los hace independientes. Son dos fuerzas con perspectivas muy distintas sobre el espacio que sostiene la IA. Por un lado, están Anthropic, OpenAI y Google, que apuestan por modelos de frontera cerrados, disponibles solo a través de sus servidores (web y API), con un enfoque ligado ahora a la peligrosidad que esos sistemas supondrían si se desalinean, tal como afirma el director ejecutivo de Anthropic, Dario Amodei, en su carta publicada este fin de semana, a la que poco después ha seguido OpenAI con su negativa a salir en bolsa este año ante los riesgos de seguridad que presentan esta tecnología. Por otro lado, están los laboratorios chinos como DeepSeek, Qwen (Alibaba) y Kimi (Moonshot), que apuestan por los pesos abiertos, que permiten a cualquier usuario con un Mac o un PC potente ejecutar IA local, y al que se ha sumado en su opinión el director ejecutivo de Meta, Mark Zuckerberg, criticando las "restricciones" estadounidenses. La IA local, aunque no llega al rendimiento de los modelos de frontera, se apoya en la privacidad de los datos y una experiencia productiva que es suficiente para el usuario medio. Un hecho que ha provocado que, debido al 'boom' de los modelos instalados en una computadora, Apple registre una gran demanda de sus Mac Mini y Mac Studio, según Tom's Hardware. Cuatro de los cinco principales laboratorios de pesos abiertos son chinos (DeepSeek, Qwen, Kimi y GLM), según la guía técnica de AItraining2U, lo que permite constatar el dominio en el terreno de los pesos abiertos; y, entre sus logros, se encuentra haber cerrado la distancia con la frontera cerrada en programación, aunque en razonamiento los modelos cerrados de Anthropic (Fable) y OpenAI (GPT-6 Astra) mantienen todavía una ventaja de entre tres y ocho puntos en las pruebas más exigentes, según el análisis de Digital Applied. LOS MOVIMIENTOS DE LOS ÚLTIMOS MESES Con este mapa de los sistemas de IA que cada actor despliega para los usuarios en todo el mundo, resulta más fácil entender los movimientos de cada uno en los últimos meses, en una industria en plena revolución cuyos efectos, para bien y para mal, alcanzan a todo el planeta. En julio, una coalición de más de 270 empresas (Microsoft, Google, Amazon, Meta, Nvidia, OpenAI y otras) firmó una carta abierta defendiendo que los modelos de pesos abiertos son clave para el liderazgo de Estados Unidos en esta industria, y que concentrar la IA en unos pocos proveedores cerrados es un riesgo en sí mismo. Es más, Zuckerberg, en unas declaraciones hechas días después a Financial Times, sostiene que una prohibición no sería "una solución eficaz" para obtener ventaja frente a esta tecnología. Es uno de los rostros de la industria tecnológica más reconocidos que ha dejado clara su postura en el momento de tensión actual, si bien con la aparición de Muse Spark en abril, Meta dio un giro a la IA propietaria y cerrada, después de apostar por el código abierto con la familia Llama y de que algunos de sus componentes se encontraran en el modelo de razonamiento DeepSeek R1. El que se quedó fuera de la coalición fue Anthropic, al no firmarla. No obstante, en la primera carta, "Our position on open-weights models", Amodei tuvo que aclarar que nunca ha pedido prohibirlos, aunque sí advirtió de que, si un gobierno autoritario, y nombró al Partido Comunista Chino como "la amenaza más capaz", construye modelos superiores, podría usarlos para la superioridad militar o la represión. A principios de año, OpenAI, Google y Anthropic unieron sus fuerzas a través de la iniciativa conjunta Frontier Model Forum para combatir los intentos de destilación de modelos de inteligencia artificial por parte de empresas chinas, ante la aparición de imitaciones de sus productos. En la World AI Conference de Shanghái, celebrada a mediados de julio, China anunció la creación de la Organización Mundial de Cooperación en IA (WAICO), con 29 países firmantes de partida, en la que el marco de discusión es opuesto al estadounidense, con una apuesta por una IA "abierta, inclusiva, de beneficio universal", y con un enfoque "centrado en las personas". LA SEGUNDA CARTA DE AMODEI Y REACCIONES Ahora en septiembre, la nueva carta de Amodei ha vuelto a poner el conflicto sobre la mesa, con una postura respaldada tanto por OpenAI como por Google, al igual que Elon Musk, director ejecutivo de SpaceXAI, al solicitar "ralentizar el ritmo en el que se mejoran las capacidades de los modelos de IA" para poner las salvaguardas necesarias que eviten que se desalineen, siempre con la alerta del posible estrago económico que un enjambre de agentes de IA podría provocar, tal como ocurrió con en 'hackeo' de Hugging Face en julio por parte de un modelo de OpenAI. Anteriormente estas compañías se reunieron para estudiar la creación de un organismo autorregulador (tipo FINRA) que se encargara de controlar unos sistemas de IA que, según los avances que se han logrado en los últimos meses con los modelos de clase Mythos centrados en la ciberseguridad, podrían descontrolarse en lo llamado como desalineacion, es decir, el comportamiento de un modelo distinto al esperado. Es más, director ejecutivo de OpenAI, Sam Altman, declaró a través de X que el "progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento". Son unas posturas que han generado el rechazo de una parte de la industria y que, según recoge TechCrunch, llevaron al director ejecutivo de Nvidia, Jensen Huang, a rechazar frenar el desarrollo de la IA en una intervención durante una llamada que recibió de el presidente de Estados Unidos, en la que respondió: "No vamos a dejar que ocurra". Asimismo, Trump se ha mostrado abiertamente contrario a las medidas. "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así", afirmó, rechazando el freno al desarrollo propuesto. LA REACCIÓN DE CHINA La reacción de Pekín al ensayo de Amodei del fin de semana no se hizo esperar. El portavoz de Exteriores, Guo Jiakun, respondió reiterando la postura lanzada por China en julio, con una IA "abierta, inclusiva y ética", y avisó de que "el alarmismo, la confrontación y la competencia despiadada" solo perturban la gobernanza mundial, como recoge Bloomberg. Por último, el investigador del Centro de Estrategia y Seguridad Internacional de la Universidad Tsinghua (Pekín), Sun Chenghao, que anteriormente ha debatido sobre IA con homólogos estadounidenses, encuadra la confrontación iniciada por los laboratorios de IA estadounidenses: "La frontera entre 'seguridad de la IA' y la 'competencia en IA' es cada vez más difusa", y añade que "si cada cuestión de seguridad termina interpretándose a través del prisma de la competencia estratégica, un diálogo significativo será muy difícil"
ChatGPT no llevaba ni seis meses en escena cuando el experto Eliezer Yudkowsky nos avisó de que la IA "nos mataría a todos" . Su discurso catastrofista no fue el primero, pero sí reactivó la preocupación ante una amenaza real para la raza humana. Hoy dicha preocupación está en máximos históricos , al menos si uno hace caso de Amodei o Altman, que abogan por poner freno al desarrollo de la IA . De repente Anthropic y OpenAI se quieren volver cautas y piden la colaboración del Gobierno de EEUU, pero dicho gobierno no quiere ni oír hablar de esa opción. La razón es simple y tan antigua como el mundo: por el interés te quiero Andrés. Quienes construyen la IA quieren pisar el freno . Todo empezó el fin de semana, cuando Dario Amodei, CEO de Anthropic, pidió abiertamente que se ajustase el ritmo de desarrollo de los modelos frontera (" We must pace the frontier ", dijo ). Sam Altman y su equipo se sumaron a la idea , al igual que Elon Musk, Demis Hassabis y, con matices, Satya Nadella —en Microsoft han publicado su propio manifiesto humanista —. Anthropic, OpenAI y Google incluso han discutido la creación de un organismo conjunto de seguridad, algo insólito teniendo en cuenta que todas estas empresas compiten por lograr dominar esta industria. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo ¿Necesitan al Gobierno de EEUU? OpenAI consultó al Congreso de EEUU para saber si existía la posibilidad de que varias empresas competidoras podrían coordinarse para ralentizar el desarrollo de la IA, y si eso vulneraría las leyes antimonopolio del país. El vicepresidente de EEUU, JD Vance, indicó que le resultaba extraño que las grandes empresas de IA pidieran al Gobierno que las regulase, y calificó la estrategia de un "troyano". Frenar la IA puede ser muy rentable . Una regulación que obligue a realizar evaluaciones profundas y que establezca controles externos o procesos de seguridad puede ayudar a protegernos, pero también puede ser un obstáculo para quienes intenten cumplir todos los requisitos que impongan esas normas. O lo que es lo mismo: las pequeñas y medianas empresas y startups que tratan de avanzar en este campo tendrían una barrera de entrada enorme. Para el conocido inversor Michael Burry todas estas advertencias de Anthropic y de OpenAI no son más que un refuerzo para sus negocios y sirven para alimentar el relato de sus inminentes salidas a bolsa. Son valoraciones sin pruebas y para él la humanidad "no tiene nada que temer" . Hay otro efecto claro de frenar la IA: Eso les daría oxígeno a OpenAI y Anthropic , que ciertamente agradecerían ese respiro. No seáis dramáticos . Jensen Huang, CEO de Nvidia, ha rechazado frontalmente ese alarmismo y considera que ralentizar el desarrollo de la IA es un error. Su mensaje es claro: EEUU debe seguir acelerando ese desarrollo y para él las compañías de IA deberían "no exagerar tanto" (en sus palabras, " tone down the drama "). Durante su participación en el evento All-In Summit 2026 recibió la llamada de Donald Trump , y ambos parecían estar de acuerdo en que las advertencias de Amodei eran exageradas. La postura de Huang es lógica: Nvidia se dedica a vender la smáquinas necesarias para que esa carrera continúe, y como dice el analista Mike Issaac, Nvidia está tan condicionada por sus intereses como las demás . Esto va de dinero y poder, como casi siempre. El incentivo de Trump es China . Según Trump dichas advertencias eran un "hoax", y en una publicación en la red social Truth el presidente de EEU afirmó que "¡el único control o salvaguarda que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE Alto CI!), y EEUU ya tiene eso, y de sobra!". El presidente estadounidense ha rechazado la idea de frenar y sostiene que "quien gane la IA, gana". Hacer algo así podría darle ventaja a China, aunque también hay muchos argumentos económicos en esos comentarios: la IA ha impulsado inversiones gigantescas en datos, chips y energía y todo ello es ahora motor de la economía estadounidense. Una explicación sencilla para este lío . François Chollet, creador del ARC-AGI Prize , hacía un comentario muy interesante en X al decir que es peligroso tener que elegir entre dos explicaciones del tipo "esta persona cree sinceramente X y por eso quiere Y", o "La decisión X beneficia económicamente a esa persona". La razón es sencilla: ambas pueden ser ciertas, porque las personas suelen alinear sus creencias y sus intereses. En palabras de Chollet , se puede ser "sincero y tener intereses propios" al mismo tiempo. Difícil solución . Empieza a estar claro que teniendo claro que todos tienen sus propios intereses, Así que tendremos que decidir cuánto de ese riesgo que impone el desarrollo de la IA estamos dispuestos a aceptar. Las personas que mejor concoen esa tecnología son también quienes pueden ganar o perder más con las reglas que adoptemos, y aquí lo difícil es distinguir las creencias y convicciones sinceras de ese interés propio. En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad - La noticia El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego fue publicada originalmente en Xataka por Javier Pastor .
Samsung, a través de Google, le acaba de copiar al iPhone una de las mejores funciones que presentó con iOS 26, y que sigue presente en iOS 27. Hablamos de los 'Indicadores de movimiento en vehículos', una característica que presentó la californiana para paliar la sensación de mareo y malestar cuando utilizas el móvil en […] Seguir leyendo: Los móviles Samsung ya tienen una de las mejores funciones del iPhone: adiós al mareo en el coche, el avión o el tren
Hipertextual•Quelian Sanz15 sept
La alarma pública sobre los peligros potenciales de la IA va en aumento después de que el investigador de Anthropic Jacob Coxon anunciara la semana pasada su dimisión
La Vanguardia•Reuters Reuters15 sept
Más controles y reglas para la inteligencia artificial pueden reducir riesgos, pero también reforzar a las grandes compañías que ya dominan el mercado.
Casi desde el lanzamiento de ChatGPT, en noviembre de 2022, algunas de las empresas más punteras en IA han debatido sobre el riesgo de que la inteligencia artificial llegue a descontrolarse y termine suponiendo una amenaza para la humanidad. En los últimos meses, los ciberataques sufridos por plataformas como Hugging Face y provocados por agentes de IA, así como la alerta lanzada la semana pasada por un trabajador de Anthropic sobre el potencial de esta tecnología para provocar la extinción de la humanidad, han avivado todavía más este tipo de debates. El último ejemplo llegó este sábado, cuando el CEO de Anthropic, Dario Amodei , publicó un ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial. Rápidamente, Sam Altman, primer ejecutivo de OpenAI, Demis Hassabis, presidente de Google Deepmind, y Elon Musk, de SpaceXAI, se apresuraron a mostrarse de acuerdo. En el escrito, Amodei se manifestaba preocupado por la posibilidad de que en los próximos «6 a 12 meses» la IA «pueda controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Para tratar de ponerle solución al problema, Anthropic se ha comprometido a poner a disposición de evaluadores externos toda su tecnología, para que estos verifiquen que la tecnología es segura. Asimismo, se ha invitado «a las empresas de IA de vanguardia en países democráticos» a «coordinarse para establecer estándares de seguridad comunes» que todas deben cumplir, es decir, a que sean las propias 'startups' las que creen las normas a partir de las cuales deben regirse. Finalmente, se ha sugerido que «Estados Unidos y otros gobiernos democráticos intenten coordinarse con los gobiernos autoritarios, en la medida de lo posible» para ayudar a reducir los riesgos. Sobre el papel, el mensaje que se lanza parece positivo: los gigantes de la IA están tan preocupados por el futuro de esta tecnología y por su efecto en la sociedad que están dispuestas a ralentizarla, a pesar de los efectos que esto puede tener en sus resultados financieros. Sin embargo, numerosos expertos muestran dudas sobre las buenas intenciones de estas compañías, a las que ven especialmente interesadas en autorregularse para evitar el futuro control de gobiernos. También alertan de que si tienen éxito, pueden dificultar que otras empresas más pequeñas se conviertan en una amenaza para su negocio el día de mañana. «Dejad de fingir que la motivación para reducir la velocidad (en el desarrollo de la IA) es puramente altruista», ha afirmado en sus redes sociales David Sacks, principal asesor de la administración Trump en temas tecnológicos. El experto ha dejado caer, además, que tanto Anthropic como OpenAI cuentan con capacidad para reducir los riesgos por su cuenta: «La forma más sencilla de no crear una superinteligencia -una IA que sería más lista que cualquier humano y que podría acabar convirtiéndose en una amenaza- es que os comprometáis a no crearla. Exigir vuestro marco regulatorio preferido como precio por hacerlo parece un chantaje a la opinión pública y al sistema político». Y no es el único que ve problemas en la propuesta de Amodei. Satya Nadella, CEO de Microsoft, otra de las empresas que más fuerte han invertido en materia de inteligencia artificial, está de acuerdo con la necesidad de que la tecnología avance con «ritmo pausado» para reducir los riesgos. Sin embargo, no considera que la autorregulación sea el camino: «Esto no puede estar controlado por un puñado de actores, sino que tiene que contar con una representación amplia de todo el ecosistema, de distintos países y de distintos ámbitos, incluida la universidad». Lo mismo opina Clément Delangue, director ejecutivo de la plataforma Hugging Face, quien afirmó en X que los problemas de la IA no pueden solucionarse «a puerta cerrada entre un puñado de laboratorios de vanguardia». Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya, explica a ABC que, efectivamente, «hay razones para preocuparse» ante el rápido avance de la IA, pero, «hay que diferenciar el riesgo real del ruido mediático». «No debe preocuparnos un escenario hipotético tipo Terminator o una superinteligencia fuera de control, sino los problemas tangibles que ya están ocurriendo en relación con la IA: la desinformación masiva, el sesgo en los algoritmos, el impacto en la privacidad y la dependencia crítica de sistemas cuyos fallos no comprendemos del todo. La alerta es válida, pero el foco del debate público suele estar desplazado hacia el alarmismo existencial y sistémico», dice el experto. Curto ve en la postura de Amodei, Altman, Hassabis o Musk «una mezcla evidente de intereses que puede cubrir motivos menos altruistas, preocupación genuina e incluso un intento de lavarse las manos» por los problemas que pueda provocar su tecnología: «Mostrarse preocupados es una maniobra clara de relaciones públicas. Les permite lavar su imagen de marca y traspasar la responsabilidad a los gobiernos. Es como decir: 'Nosotros avisamos del peligro, son las autoridades las que deben regular'. Al final, se trata de una estrategia para cubrirse las espaldas». Luis Martín, director de soluciones de IA en Llorente y Cuenca, está de acuerdo con este análisis. Además, añade que con la creación de sus propias normas, los gigantes de la IA podrían tratar de dificultar el surgimiento nuevas empresas que compitan con sus modelos. «Cuando pides una ralentización en el desarrollo de la IA y el surgimiento de entes que pongan trabas parece que están intentando poner una barrera de entrada a nuevos jugadores», dice el experto. «Ellos tienen los recursos y el capital para cumplir con la burocracia, mientras que las normas ahogarían a la competencia de código abierto y a las pequeñas startups», completa Curto. Luego está el componente económico. Jensen Huang, CEO de Nvidia, avisó ya la semana parada durante una conferencia que esperaba que próximamente las empresas desarrolladoras de IA centrada en la ciberseguridad, como OpenAI y Anthropic, tratasen de aumentar la preocupación entre las empresas para que sus productos de seguridad resultasen más atractivos. Un movimiento que también ha visto venir Sergio Álvarez-Teleña, CEO de la empresa de inteligencia artificial SciTheWorld y uno de los mayores expertos en esta tecnología que hay en España. El experto descarta de plano los escenarios apocalípticos que señalan que la IA podría terminar causando la extinción humana «a final de esta década», tal y como alertó la semana pasada un investigador de Anthropic . «No hay más razones para estar preocupados por esto que por que nos caiga un meteorito encima. Las probabilidades son increíblemente bajas», dice Álvarez-Teleña en conversación con este diario. «La sensación que tengo es que están intentando preocupar a la gente para conseguir más inversión. El mensaje, aunque no sea explícito, es que se invierta en estas empresas, porque se presentan como las únicas que son capaces de solucionar el problema de lo buenos que son en lo suyo», zanja el experto.
A la altura de este lunes apenas cuatro decenas de empresas, 223 entidades si se suman consultoras de relaciones públicas, asociaciones profesionales, ONG y otros grupos de interés, se habían dado de alta en el Registro Estatal de Grupos de Interés que crea el decreto ley aprobado por el Gobierno el pasado mes de agosto, cuya puesta en marcha ha generado no pocos problemas para la dinámica normal de la Administración. Se trata de una cantidad escasa si se tiene en cuenta que el Registro de Grupos de Interés de un organismo como la CNMC tiene registradas más de 600 entidades. La mayoría de las empresas y de las organizaciones empresariales ha optado por esperar a la votación de la... Ver Más
¿Quieres echarte un pozole en CDMX? Te presentamos los lugares mejor calificados por usuarios de Google para que te lances a probar su menú
Trump criticó a una empresa tecnológica por planear una gran inversión en inteligencia artificial en Europa, buscando que reconsideren su decisión. La compañía anunció un proyecto millonario en el norte de Europa, destacando beneficios económicos significativos y creación de empleo.
Clarín•Clarin.com - Home14 sept
En las últimas semanas los grandes desarrolladores de Inteligencia Artificial han llamado a frenar el rápido desarrollo de esta tecnología en aras de la seguridad tanto de los ciudadanos como de la economía. Los CEOs de Anthropic y OpenAI coinciden en que los sistemas podrían, eventualmente, provocar problemas cuya solución escape al control humano . En este contexto, y con la batalla entre EE.UU. y China por liderar el desarrollo de la IA, los grandes desarrolladores se plantean crear un organismo de seguridad que regule la evolución de esta tecnología, según The Washington Post. Los líderes de estas empresas han advertido que un gran descontrol podría causar estragos multimillonarios. El ensayo publicado por el CEO de Anthropic , Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. La relevancia de este comunicado se suma a la dimisión de un ingeniero de Anthropic, Jacob Coxon, que ha alertado de que «están avanzando a toda velocidad hacia la creación de una superinteligencia artificial -algo así como una IA más lista que cualquier humano- capaz de auto mejorarse y jugando con nuestras vidas », llegando a asegurar que «quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década ». Incluso la ONU ha alertado de los peligros de la IA. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, asegura que «todos los derechos humanos están en riesgo» y ha llamado a «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo». Entre las reacciones a la advertencia de Amodei se encuentra la de Hassabis, que publicó en X su apoyo, mientras que Altman le siguió en la red social al compartir que « el progreso ha sido rápido y continuará siéndolo . Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face , propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. A pesar de la voluntad de los líderes de las empresas, estos se enfrentan al gobierno estadounidense. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo asegurando que «se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China». «Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo», ha afirmado. Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños , frenaría la ventaja estratégica del país frente a potencias rivales como China. Entre los movimientos dentro de la industria de la IA, el gigante tecnológico Microsoft ha presentado este lunes un borrador de código de conducta para su inteligencia artificial interna. El documento exigiría que la IA de Microsoft nunca se resistiera a ser corregida o apagada , que se comunicara de forma comprensible para los humanos y que considerara cualquier infracción de conducta como un fallo. El código de conducta «representa una especie de constitución para los futuros modelos creados por la empresa», afirmó Mustafa Suleyman, director ejecutivo de IA de Microsoft, en una entrevista con Reuters. Microsoft lo elaboró tras consultar con expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites del usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable , explicó. «Después de eso, se utilizará para entrenar los modelos que desarrollemos», afirmó refiriéndose al código. La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar conciencia o estatus moral. Microsoft, por su parte, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».
Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse. El ensayo publicado este sábado por el CEO de Anthropic, Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. Entre las reacciones se encuentra la de Hassabis, que publicó en X (antes Twitter) su apoyo a la llamada de Amodei, mientras que Altman le siguió en la red social al compartir que "el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento", recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face, propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención "limitada" en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así". Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un "cartel" para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.
Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse.
Europa Press14 sept
Check Point Research ha descubierto una campaña global de Gambling Goblin, un grupo ciberdelincuente de habla china vinculado a Earth Berberoka (centrado en la industria del juego y las apuestas online), que se dedica a comprometer servidores Linux de organismos gubernamentales y educativos para promover apuestas ilegales y contenido malicioso. La organización cibercriminal Gambling Goblin se dedica a transformar servidores web gubernamentales y educativos en servidores proxy inversos encubiertos para promover el 'gambling' (juego online) y la instalación de código malicioso. El grupo ciberdelincuente, según el informe de Check Point Research, lo que busca es el secuestro y abuso de la puntuación de autoridad alta que los algoritmos de Google conceden a estos dominios. Su operativa se basa en la inyección de contenido en los servidores Linux para posicionar páginas fraudulentas en los primeros resultados de búsqueda. Técnicamente, lo que hacen es instalar módulos dinámicos que reescriben las solicitudes HTTP entrantes y salientes y que se encargan de eliminar las cabeceras de seguridad del servidor, lo que permite la ejecución de código JavaScript malicioso, además de aplicar filtros (geolocalización e inspección de agentes de usuario) para mostrar el contenido fraudulento solo a visitantes reales (evita que los rastreadores de seguridad automáticos lo identifiquen). Es decir, que cuando la víctima hace clic en uno de estos enlaces oficiales indexados, el servidor gubernamental se convierte en el "puente" (como una pasarela o proxy inverso) para mostrar la página de falsas descargas o apuestas, mientras que en la barra de dirección todo parece normal con la URL oficial. Esto lleva a la confusión del usuario, además de erosionar la confianza que puede poner en las instituciones públicas cuando se encuentra ante una página de descargas falsas o apuestas 'online'. Se trata de un refinamiento avanzado: con el kit de "ataque" que usan para tomar el control total del servidor, mantienen la infección invisible y pueden usar los servidores sin que los dueños del sitio sean conscientes de ello. "Esta campaña representa un abuso industrializado de la confianza en los dominios públicos. La infraestructura identificada no solo promociona apuestas ilegales, sino que está a una sola modificación de configuración de ser utilizada para distribuir malware o ransomware directamente a millones de usuarios en todo el mundo", señala Check Point Research. Por último, el grupo tiene su foco principal en servidores públicos de Brasil, aunque según la firma de ciberseguridad, "la red de distribución dispone de plantillas y páginas adaptadas a español, inglés y vietnamita". Asimismo, Check Point Research recomienda a las administraciones públicas y empresas adoptar medidas como realizar auditorías rigurosas en los módulos de servidores web y mantener una monitorización constante de las cabeceras HTTP, además de la protección proactiva del dominio frente al enmascaramiento o la recolección de credenciales.
Jeff Dean y otros exlíderes de Google buscan elevar la valoración de Discovery Loop hasta USD $50.000 millones, aunque la startup aún no ha presentado productos, clientes ni ingresos públicos. Su apuesta consiste en crear máquinas capaces de ejecutar e iterar miles de experimentos científicos de manera autónoma.
OpenAI, Anthropic y Google conducen el intenso debate sobre los riesgos de esta tecnología hacia una autorregulación que controle la industria
La palabra, «el arma más poderosa» para Ramón Llull, esa que en boca de Dios -según la Biblia- «está más afilada que cualquier espada de dos filos» es la munición del mundo global y de ese ente infinito que es Internet. De ella nace el lenguaje, y precisamente una lingüista acaba de incorporarse como académica correspondiente a la Real Academia Galega das Ciencias. Maite Taboada (Madrid, 1970) es Catedrática Distinguida de Lingüística en la Universidad Simon Fraser de Vancouver (Canadá), participa en el Programa de Ciencia Cognitiva y dirige el Laboratorio de Procesamiento del Discurso . En uno de sus grupos de trabajo estudian para Google la detección de determinados patrones en los discursos de odio y la desinformación que... Ver Más
Con hesta herramienta, Google permite aprender cualquie tema con una guía que genera imágenes, videos y más
Dario Amodei, de Anthropic; Elon Musk, de SpaceX; y Sam Altman, de OpenAI, advirtieron que acelerar sin controles el desarrollo de inteligencia artificial puede facilitar ciberataques
“Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, afirma el presiente estadounidense OpenAI aplaza su salida a bolsa ante el miedo al descontrol de la IA y se suma al plan de frenar desarrollos Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales. Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA , petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada. Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, declaró Trump el domingo a los periodistas en el Irish Open de golf. “Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo”. Amodei advirtió este sábado, en un extenso ensayo publicado en su página web : “Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”. Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: “Dario tiene razón”. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización. El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: “Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera”, tuiteó. Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. “Sería un momento poco aconsejable para salir al mercado bursátil”. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada. Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: “El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”. “La industria mintió” Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir. No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo Dario Amodei — CEO de Anthropic “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei. Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares. Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones. El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos. Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la “amenaza” de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos. Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso “actuar con urgencia”. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada. Pero Johnson, como Trump, tampoco quiere darse prisa. “Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata”, expresó Johnson en una entrevista con CNN. La amenaza china El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China. Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto Mike Johnson — Presidente de la Cámara de Representantes “Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros”, remarcó. Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks , dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen. En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. “Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral”. Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda. Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de “consecuencias catastróficas”.
elDiario.es•Serafí del Arco13 sept