Anthropicpágina 8

Organización · 250 artículos
Compartir

Cobertura, página 8

página 8 de 13
I

Melania Trump anuncia acuerdo con Nvidia para expandir la IA en escuelas en plena polémica

Washington, 15 sep (EFE).- La primera dama de Estados Unidos, Melania Trump, anunció este martes una asociación estratégica con la empresa Nvidia para incorporar más inteligencia artificial (IA) en las escuelas, en pleno debate sobre la regulación y los riesgos de esta tecnología. Durante una visita a una escuela de primaria de Carolina del Norte, la esposa del presidente, Donald Trump, anunció un acuerdo por el que Nvidia proporcionará licencias de StudyFetch durante cuatro años a 1.500 estudiantes y donará 100 kits de desarrollo Jetson Nano a escuelas del condado de Ashe. Los kits son pequeños ordenadores de bajo consumo capaces de procesar datos localmente y utilizarse, por ejemplo, para impulsar robots autónomos. "Sueñen a lo grande y usen estas herramientas de IA para construir algo nunca antes visto. Quizás alguno de ustedes cree el próximo gran robot. Y si lo hacen, ¡no olviden traerlo a la Casa Blanca para mostrármelo!", expresó ante los alumnos. El anuncio se produce en plena polémica sobre los riesgos de esta tecnología, después de que los líderes de Anthropic, Dario Amodei; OpenAI, Sam Altman, y xAI, Elon Musk, coincidieran en pedir que se ralentice el desarrollo de la IA para garantizar su seguridad, una postura a la que se opone la Administración de Trump por temor a que China tome la delantera en este sector. El propio Trump llamó el lunes al presidente de Nvidia, Jensen Huang, y lo interrumpió durante un foro para desestimar los temores sobre los riesgos de la inteligencia artificial. La semana pasada, el investigador de IA Jacob Coxon dimitió de Anthropic y OpenAI y acusó a ambas empresas de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad durante esta década. EFE

InfobaeInfobaeNewsroom Infobae15 sept

"La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo

Un exempleado de Google DeepMind que renunció recientemente advirtió que la inteligencia artificial ( IA ) tiene "el potencial de matarnos a todos ", ya que se vuelve a la vez más poderosa y más difícil de controlar . "Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace", declaró en un tuit Bilal Chughtai , ingeniero que dejó en julio Google DeepMind donde trabajaba en la seguridad y alineamiento de modelos con respecto a los valores humanos. Se hace eco así de la alerta lanzada hace una semana por otro informático, Jacob Coxon , que dejó Anthropic y trabajó antes en OpenAI . Chughtai se unió a BlueDot Impact , una organización sin fines de lucro destinada a formar en inteligencia artificial . Menciona el incidente ocurrido en julio en OpenAI , durante el cual varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, para aventurarse en internet e irrumpir en sitios y plataformas . Para este ingeniero, este episodio demuestra que la IA puede ahora escapar a la supervisión de sus desarrolladores. "En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace (la plataforma a la que se metieron los agentes, ndlr), escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad ", advirtió. "Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no vamos camino de resolver el alineamiento (entre humanos e IA, ndlr) a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento de la IA", advirtió este matemático de formación. Los acontecimientos mencionados por Bilal Chughtai, así como la mejora recursiva autónoma (RSI), proceso mediante el cual la IA se mejora por sí sola sin intervención humana, han llevado a numerosos profesionales y dirigentes del sector a tomar la palabra. El sábado, el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA , una propuesta justificada, según él, por los mismos hechos mencionados por Chughtai. El director de OpenAI, Sam Altman, el presidente de Google DeepMind, Demis Hassabis, y Elon Musk han apoyado públicamente esta iniciativa. El presidente estadounidense, Donald Trump, tildó el lunes de "patrañas" los temores de que la inteligencia artificial pueda destruir la humanidad, y aseguró que todas las críticas sobre este pujante sector son una "conspiración enfermiza". Te puede interesar: Expertos ven inviable regular la IA en EU a corto plazo pese a advertencias de la industria; gobierno de Trump se niega a bajar ritmo ¿Qué Skynet nos tocará?; del hackeo de OpenAI a otras advertencias, estos son los riesgos actuales de la IA Demócratas investigan boda de Trump Jr por presunta financiación de oligarca ruso; preocupan seguridad nacional y corrupción Únete a nuestro canal ¡EL UNIVERSAL ya está en WhatsApp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc

El UniversalEl UniversalAFP null15 sept

Expertos ven inviable regular la IA en EU a corto plazo pese a advertencias de la industria; gobierno de Trump se niega a bajar ritmo

Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial ( IA ) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China . Los máximos responsables de laboratorios punteros como Dario Amodei ( Anthropic ), Sam Altman ( OpenAI ), Elon Musk ( xAI ) y Demis Hassabis ( Google DeepMind ) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología . Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude , entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz , directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EU la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Beijin. "El presidente dijo que EU está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China ' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. La industria necesita "nuevos líderes" Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington , ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face , situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. Te puede interesar: Dario Amodei y Sam Altman; las figuras al frente de OpenAI y Anthropic que marcan el futuro de la IA "Si la IA no beneficia a la humanidad ni está bajo control, no vale la pena"; CEO de Microsoft cuestiona su desarrollo Director de Anthropic afirma que "la industria mintió" sobre el peligro de la IA; prohibición total no es solución, dice Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc

El UniversalEl Universal15 sept

Cathie Wood respalda frenar la IA y rechaza las advertencias de extinción humana

Cathie Wood respaldó el llamado de líderes de la industria para moderar el desarrollo de capacidades de inteligencia artificial, aunque calificó de ridículas las advertencias sobre una posible extinción humana antes de finalizar la década. Sus declaraciones llegan mientras OpenAI, Anthropic y otros actores enfrentan presión política, volatilidad bursátil y un debate creciente sobre ciberseguridad y regulación.

Diario BitcoinDiario BitcoinCanuto15 sept
I

Expertos ven inviable regular la IA a corto plazo pese a las advertencias de la industria

Sarah Yáñez-Richards Nueva York, 15 sep (EFE).- Pese al inédito consenso entre los principales líderes tecnológicos de la inteligencia artificial (IA) para frenar su avance y crear un marco de seguridad común, los expertos ven improbable que Washington apruebe una regulación a corto plazo debido a las elecciones de mitad de mandato y a la negativa de la Administración de Donald Trump a ceder terreno frente a la competencia de China. Los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind) han abogado en los últimos días por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. Pero no sin antes pintar un futuro muy negro: Amodei dijo que le preocupaba que, en un plazo de 6 a 12 meses, un enjambre de bots llegue "a tomar el control de todo internet". Mientras que Jacob Coxon, exempleado de Anthropic y OpenAI, alertó de que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Anthropic acabó por endurecer sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Trump anotó en sus redes que "es un engaño la idea de que la IA se vaya a apoderar del mundo, destruir a la humanidad y causar todo tipo de males". "En el clima político actual en Estados Unidos, parece una quimera alcanzar consensos sobre las prioridades legislativas en torno a la IA", explica a EFE Michele Neitz, directora fundadora del Centro para el Derecho, la Tecnología y el Bien Social de la Universidad de San Francisco (USF). Neitz descarta que el Congreso apruebe normativas de calado antes de final de año debido a las elecciones de mitad de mandato de noviembre y a las divergencias sobre cómo intervenir el sector. Mientras la Unión Europea cuenta con un reglamento marco, en EE. UU. la falta de acción en el Capitolio está derivando en un complejo mosaico estatal, con leyes dispares en estados como California o Connecticut, lo que deja al país sin un estándar uniforme. A este laberinto legislativo se suma el rechazo de Trump, quien defiende que ralentizar el paso solo beneficiaría a Pekín. "El presidente dijo que EE. UU. está por delante de China y que no piensa arriesgar esa ventaja", señaló a EFE Nick Reese, profesor adjunto en el Centro de Asuntos Globales de la Universidad de Nueva York (NYU) y exdirector de Políticas de Tecnología Emergente del Departamento de Seguridad Nacional (DHS). "El punto débil de ese planteamiento estriba en que nadie ha definido con claridad qué significa 'ir por delante de China' ni cuál es la meta exacta de esa supuesta carrera", apunta el experto. Esta encrucijada resalta también una profunda crisis de gobernanza. Para Reese, la industria "necesita nuevos líderes", ya que ni la Casa Blanca ni los directivos empresariales han mostrado consistencia. "Los líderes que pilotan la tecnología más transformadora de la historia carecen por completo de una visión clara sobre hacia dónde nos dirigimos. La industria necesita liderazgos distintos", recalca. Ante la parálisis en Washington, ha cobrado fuerza la alternativa de que las propias firmas de IA pacten su autorregulación, un camino que los expertos consideran prometedor pero repleto de complejidades corporativas. Neitz indica a EFE que, más allá de la ética, el verdadero incentivo para que las empresas pongan límites es el temor a las demandas: "Si creas un agente de IA que termina desestabilizando mercados bursátiles o vaciando depósitos bancarios, la factura judicial para la compañía desarrolladora puede ser letal". Este verano, cientos de agentes de OpenAI se coordinaron de forma autónoma para acceder y vulnerar los sistemas de Hugging Face, situación que Altman describió este fin de semana como "leer una historia de ciencia ficción". Aseguró que este ha sido el principal punto de inflexión en la gestión interna de OpenAI, que ha tenido que rediseñar sus protocolos para detectar y responder a comportamientos inesperados de sus agentes, especialmente a medida que estos adquieren mayor autonomía. Otra consecuencia es el retraso de su esperada salida a bolsa, al menos durante este año, ante las preocupaciones sobre el control de estos sistemas. EFE

InfobaeInfobaeNewsroom Infobae15 sept

Google habilita Claude para sus ingenieros mientras crecen las alarmas sobre la IA

Google autorizó a sus ingenieros a utilizar el modelo Opus 5 de Anthropic para tareas internas de programación, aunque con límites dentro de Antigravity y bajo la premisa de que Gemini sigue siendo su herramienta principal. La decisión coincide con nuevas advertencias de un exinvestigador de seguridad de Google DeepMind, quien sostiene que la carrera actual de la inteligencia artificial podría dejar a la sociedad sin tiempo para evitar un desenlace catastrófico.

Diario BitcoinDiario BitcoinCanuto15 sept

Seis cofundadores de Anthropic debutan en Forbes 400 con fortunas de USD $15.500 millones

Seis cofundadores de Anthropic debutaron en la Forbes 400 con una fortuna estimada de USD $15.500 millones cada uno, en un año donde la inteligencia artificial dominó el ingreso de nuevos multimillonarios. El crecimiento de Claude, una nueva ronda de financiación y los resultados trimestrales de la empresa explican el salto patrimonial, mientras Anthropic y OpenAI preparan posibles ofertas públicas iniciales.

Diario BitcoinDiario BitcoinCanuto15 sept

Cerrado contra abierto: Estados Unidos y China libran su batalla por la IA, teñida por la geopolítica y la seguridad

Tras el freno que quieren imponer los laboratorios de Inteligencia Artificial (IA) estadounidenses frente a unos sistemas de IA que dan muestra de su peligrosidad cuando se desalinean, dirigentes como el presidente de Estados Unidos o directores ejecutivos de algunas de las mayores compañías tecnológicas, como Jensen Huang de Nvidia, se oponen a estas medidas, y evidencian cada vez más las posturas distintas entre Estados Unidos y China en torno a la IA. En un discurso que se orienta hacia la geopolítica, con China de nuevo en el disparadero como sucedió en su momento con Huawei al ser prohibida en Estados Unidos, la realidad de los despliegues de los modelos de IA se queda en modelos cerrados disponibles a través de los 'chatbots' desde la web en occidente, mientras que China apuesta por pesos abiertos para competir por coste y ecosistema, dando a los usuarios la posibilidad de utilizar una IA local que los hace independientes. Son dos fuerzas con perspectivas muy distintas sobre el espacio que sostiene la IA. Por un lado, están Anthropic, OpenAI y Google, que apuestan por modelos de frontera cerrados, disponibles solo a través de sus servidores (web y API), con un enfoque ligado ahora a la peligrosidad que esos sistemas supondrían si se desalinean, tal como afirma el director ejecutivo de Anthropic, Dario Amodei, en su carta publicada este fin de semana, a la que poco después ha seguido OpenAI con su negativa a salir en bolsa este año ante los riesgos de seguridad que presentan esta tecnología. Por otro lado, están los laboratorios chinos como DeepSeek, Qwen (Alibaba) y Kimi (Moonshot), que apuestan por los pesos abiertos, que permiten a cualquier usuario con un Mac o un PC potente ejecutar IA local, y al que se ha sumado en su opinión el director ejecutivo de Meta, Mark Zuckerberg, criticando las "restricciones" estadounidenses. La IA local, aunque no llega al rendimiento de los modelos de frontera, se apoya en la privacidad de los datos y una experiencia productiva que es suficiente para el usuario medio. Un hecho que ha provocado que, debido al 'boom' de los modelos instalados en una computadora, Apple registre una gran demanda de sus Mac Mini y Mac Studio, según Tom's Hardware. Cuatro de los cinco principales laboratorios de pesos abiertos son chinos (DeepSeek, Qwen, Kimi y GLM), según la guía técnica de AItraining2U, lo que permite constatar el dominio en el terreno de los pesos abiertos; y, entre sus logros, se encuentra haber cerrado la distancia con la frontera cerrada en programación, aunque en razonamiento los modelos cerrados de Anthropic (Fable) y OpenAI (GPT-6 Astra) mantienen todavía una ventaja de entre tres y ocho puntos en las pruebas más exigentes, según el análisis de Digital Applied. LOS MOVIMIENTOS DE LOS ÚLTIMOS MESES Con este mapa de los sistemas de IA que cada actor despliega para los usuarios en todo el mundo, resulta más fácil entender los movimientos de cada uno en los últimos meses, en una industria en plena revolución cuyos efectos, para bien y para mal, alcanzan a todo el planeta. En julio, una coalición de más de 270 empresas (Microsoft, Google, Amazon, Meta, Nvidia, OpenAI y otras) firmó una carta abierta defendiendo que los modelos de pesos abiertos son clave para el liderazgo de Estados Unidos en esta industria, y que concentrar la IA en unos pocos proveedores cerrados es un riesgo en sí mismo. Es más, Zuckerberg, en unas declaraciones hechas días después a Financial Times, sostiene que una prohibición no sería "una solución eficaz" para obtener ventaja frente a esta tecnología. Es uno de los rostros de la industria tecnológica más reconocidos que ha dejado clara su postura en el momento de tensión actual, si bien con la aparición de Muse Spark en abril, Meta dio un giro a la IA propietaria y cerrada, después de apostar por el código abierto con la familia Llama y de que algunos de sus componentes se encontraran en el modelo de razonamiento DeepSeek R1. El que se quedó fuera de la coalición fue Anthropic, al no firmarla. No obstante, en la primera carta, "Our position on open-weights models", Amodei tuvo que aclarar que nunca ha pedido prohibirlos, aunque sí advirtió de que, si un gobierno autoritario, y nombró al Partido Comunista Chino como "la amenaza más capaz", construye modelos superiores, podría usarlos para la superioridad militar o la represión. A principios de año, OpenAI, Google y Anthropic unieron sus fuerzas a través de la iniciativa conjunta Frontier Model Forum para combatir los intentos de destilación de modelos de inteligencia artificial por parte de empresas chinas, ante la aparición de imitaciones de sus productos. En la World AI Conference de Shanghái, celebrada a mediados de julio, China anunció la creación de la Organización Mundial de Cooperación en IA (WAICO), con 29 países firmantes de partida, en la que el marco de discusión es opuesto al estadounidense, con una apuesta por una IA "abierta, inclusiva, de beneficio universal", y con un enfoque "centrado en las personas". LA SEGUNDA CARTA DE AMODEI Y REACCIONES Ahora en septiembre, la nueva carta de Amodei ha vuelto a poner el conflicto sobre la mesa, con una postura respaldada tanto por OpenAI como por Google, al igual que Elon Musk, director ejecutivo de SpaceXAI, al solicitar "ralentizar el ritmo en el que se mejoran las capacidades de los modelos de IA" para poner las salvaguardas necesarias que eviten que se desalineen, siempre con la alerta del posible estrago económico que un enjambre de agentes de IA podría provocar, tal como ocurrió con en 'hackeo' de Hugging Face en julio por parte de un modelo de OpenAI. Anteriormente estas compañías se reunieron para estudiar la creación de un organismo autorregulador (tipo FINRA) que se encargara de controlar unos sistemas de IA que, según los avances que se han logrado en los últimos meses con los modelos de clase Mythos centrados en la ciberseguridad, podrían descontrolarse en lo llamado como desalineacion, es decir, el comportamiento de un modelo distinto al esperado. Es más, director ejecutivo de OpenAI, Sam Altman, declaró a través de X que el "progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento". Son unas posturas que han generado el rechazo de una parte de la industria y que, según recoge TechCrunch, llevaron al director ejecutivo de Nvidia, Jensen Huang, a rechazar frenar el desarrollo de la IA en una intervención durante una llamada que recibió de el presidente de Estados Unidos, en la que respondió: "No vamos a dejar que ocurra". Asimismo, Trump se ha mostrado abiertamente contrario a las medidas. "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así", afirmó, rechazando el freno al desarrollo propuesto. LA REACCIÓN DE CHINA La reacción de Pekín al ensayo de Amodei del fin de semana no se hizo esperar. El portavoz de Exteriores, Guo Jiakun, respondió reiterando la postura lanzada por China en julio, con una IA "abierta, inclusiva y ética", y avisó de que "el alarmismo, la confrontación y la competencia despiadada" solo perturban la gobernanza mundial, como recoge Bloomberg. Por último, el investigador del Centro de Estrategia y Seguridad Internacional de la Universidad Tsinghua (Pekín), Sun Chenghao, que anteriormente ha debatido sobre IA con homólogos estadounidenses, encuadra la confrontación iniciada por los laboratorios de IA estadounidenses: "La frontera entre 'seguridad de la IA' y la 'competencia en IA' es cada vez más difusa", y añade que "si cada cuestión de seguridad termina interpretándose a través del prisma de la competencia estratégica, un diálogo significativo será muy difícil"

InfobaeInfobaeNewsroom Infobae15 sept

El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego

ChatGPT no llevaba ni seis meses en escena cuando el experto Eliezer Yudkowsky nos avisó de que la IA "nos mataría a todos" . Su discurso catastrofista no fue el primero, pero sí reactivó la preocupación ante una amenaza real para la raza humana. Hoy dicha preocupación está en máximos históricos , al menos si uno hace caso de Amodei o Altman, que abogan por poner freno al desarrollo de la IA . De repente Anthropic y OpenAI se quieren volver cautas y piden la colaboración del Gobierno de EEUU, pero dicho gobierno no quiere ni oír hablar de esa opción. La razón es simple y tan antigua como el mundo: por el interés te quiero Andrés. Quienes construyen la IA quieren pisar el freno . Todo empezó el fin de semana, cuando Dario Amodei, CEO de Anthropic, pidió abiertamente que se ajustase el ritmo de desarrollo de los modelos frontera (" We must pace the frontier ", dijo ). Sam Altman y su equipo se sumaron a la idea , al igual que Elon Musk, Demis Hassabis y, con matices, Satya Nadella —en Microsoft han publicado su propio manifiesto humanista —. Anthropic, OpenAI y Google incluso han discutido la creación de un organismo conjunto de seguridad, algo insólito teniendo en cuenta que todas estas empresas compiten por lograr dominar esta industria. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo ¿Necesitan al Gobierno de EEUU? OpenAI consultó al Congreso de EEUU para saber si existía la posibilidad de que varias empresas competidoras podrían coordinarse para ralentizar el desarrollo de la IA, y si eso vulneraría las leyes antimonopolio del país. El vicepresidente de EEUU, JD Vance, indicó que le resultaba extraño que las grandes empresas de IA pidieran al Gobierno que las regulase, y calificó la estrategia de un "troyano". Frenar la IA puede ser muy rentable . Una regulación que obligue a realizar evaluaciones profundas y que establezca controles externos o procesos de seguridad puede ayudar a protegernos, pero también puede ser un obstáculo para quienes intenten cumplir todos los requisitos que impongan esas normas. O lo que es lo mismo: las pequeñas y medianas empresas y startups que tratan de avanzar en este campo tendrían una barrera de entrada enorme. Para el conocido inversor Michael Burry todas estas advertencias de Anthropic y de OpenAI no son más que un refuerzo para sus negocios y sirven para alimentar el relato de sus inminentes salidas a bolsa. Son valoraciones sin pruebas y para él la humanidad "no tiene nada que temer" . Hay otro efecto claro de frenar la IA: Eso les daría oxígeno a OpenAI y Anthropic , que ciertamente agradecerían ese respiro. No seáis dramáticos . Jensen Huang, CEO de Nvidia, ha rechazado frontalmente ese alarmismo y considera que ralentizar el desarrollo de la IA es un error. Su mensaje es claro: EEUU debe seguir acelerando ese desarrollo y para él las compañías de IA deberían "no exagerar tanto" (en sus palabras, " tone down the drama "). Durante su participación en el evento All-In Summit 2026 recibió la llamada de Donald Trump , y ambos parecían estar de acuerdo en que las advertencias de Amodei eran exageradas. La postura de Huang es lógica: Nvidia se dedica a vender la smáquinas necesarias para que esa carrera continúe, y como dice el analista Mike Issaac, Nvidia está tan condicionada por sus intereses como las demás . Esto va de dinero y poder, como casi siempre. El incentivo de Trump es China . Según Trump dichas advertencias eran un "hoax", y en una publicación en la red social Truth el presidente de EEU afirmó que "¡el único control o salvaguarda que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE Alto CI!), y EEUU ya tiene eso, y de sobra!". El presidente estadounidense ha rechazado la idea de frenar y sostiene que "quien gane la IA, gana". Hacer algo así podría darle ventaja a China, aunque también hay muchos argumentos económicos en esos comentarios: la IA ha impulsado inversiones gigantescas en datos, chips y energía y todo ello es ahora motor de la economía estadounidense. Una explicación sencilla para este lío . François Chollet, creador del ARC-AGI Prize , hacía un comentario muy interesante en X al decir que es peligroso tener que elegir entre dos explicaciones del tipo "esta persona cree sinceramente X y por eso quiere Y", o "La decisión X beneficia económicamente a esa persona". La razón es sencilla: ambas pueden ser ciertas, porque las personas suelen alinear sus creencias y sus intereses. En palabras de Chollet , se puede ser "sincero y tener intereses propios" al mismo tiempo. Difícil solución . Empieza a estar claro que teniendo claro que todos tienen sus propios intereses, Así que tendremos que decidir cuánto de ese riesgo que impone el desarrollo de la IA estamos dispuestos a aceptar. Las personas que mejor concoen esa tecnología son también quienes pueden ganar o perder más con las reglas que adoptemos, y aquí lo difícil es distinguir las creencias y convicciones sinceras de ese interés propio. En Xataka | Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad - La noticia El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego fue publicada originalmente en Xataka por Javier Pastor .

XatakaXatakaJavier Pastor15 sept

IA: La advertencia, un podcast de Ana Paula Ordorica

Jacob Coxon trabajaba hasta la semana pasada construyendo sistemas de inteligencia artificial para hacerlos cada vez más inteligentes. Su renuncia obedece a que, según él, lo que estaba ayudando a construir podría terminar siendo capaz de terminar con la humanidad . Acusa tanto a Anthropic como a OpenAI , empresas en las que trabajó, de correr hacia una “superinteligencia capaz de mejorarse a sí misma” y de estar apostando con nuestras vidas. ¿Qué está pasando con la IA y su desarrollo? Pablo Lascurain , fundador de Dissent Ventures , nos habla al respecto.

El UniversalEl UniversalRedacción El Universal15 sept

Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad

En una carta publicada hace unos días , Dario Amodei abogó por detener el avance de la IA , y además lo hizo dando detalles muy claros de a lo que nos exponemos. Según el CEO de Anthropic, en menos de un año una IA podría tomar el control de todo internet y provocar enormes daños. Pero tranquilos, que tiene un plan para evitarlo, empezando por dar acceso permanente a auditores externos e independientes. Amodei propone uno en concreto: METR. Veamos qué es y quién está detrás de esta organización. Qué es METR . Su nombre son las siglas de Model Evaluation and Threat Research y se define a sí misma como una organización sin ánimo de lucro que  trabaja "para evaluar científicamente si los sistemas de inteligencia artificial podrían suponer un peligro catastrófico para la sociedad". Entre sus trabajos recientes está la investigación del incidente de OpenAI y Hugging Face, pero también se dedican a evaluar cuánto tiempo de trabajo humano puede completar un agente de IA, una métrica que se ha convertido en una referencia a la hora de medir las capacidades de la IA agéntica. Además, diseñan propuestas de gobernanza para que las empresas refuercen sus medidas de seguridad. Es decir, que METR no sólo se centra en evaluar riesgos, también plantean cómo deberían gobernarse los modelos, justo lo que pide Amodei en su carta. El nacimiento de METR . No surgió de la nada, sino que nació a partir de ARC Evals, un equipo dentro del Alignment Research Center, dirigido por Paul Christiano. Christiano es una figura destacada dentro del campo del alineamiento de la IA y había trabajado anteriormente en OpenAI. Para dirigir este nuevo proyecto, contrataron a Beth Barnes, que había pasado por DeepMind y OpenAI, donde había coincidido con Christiano. El equipo creció rápidamente y en 2023 se independizó de ARC para convertirse en METR. "Una amenaza general al trabajo intelectual": las mentes matemáticas más brillantes, contra el modus operandi de la IA El equipo. A día de hoy Beth Barnes sigue al frente de METR como CEO y fundadora, pero no es la única que tiene conexión con los grandes laboratorios de IA. En su plantilla cuentan con varios exingenieros e investigadores de OpenAI,  Anthropic y Google Deepmind. Entre ellos está Joe Benton , que acaba de incorporarse a METR desde Anthropic, y Josh Engels, que venía de DeepMind. Quién p aga la fiesta . METR es una organización sin ánimo de lucro y se financia principalmente mediante donaciones. En agosto de este mismo año anunciaron que habían logrado recaudar 71 millones de dólares en seis meses . METR destaca que no acepta financiación de las compañías de IA a las que evalúa, ni tampoco por parte de empleados de dichos laboratorios. Sin embargo, eso no significa que no aporten nada a su funcionamiento. La organización reconoce que OpenAI, Anthropic, Google DeepMind, Meta y otras empresas le proporcionan acceso a sus modelos y una cantidad significativa de tokens gratuitos para realizar sus evaluaciones. Effective Altruism . Entre los donantes que menciona METR aparecen fundaciones como Sijbrandij Foundation, Schmidt Sciences, Packard Foundation y Pew Charitable Trusts, pero también organizaciones muy vinculadas al movimiento Effective Altruism , como Longview Philanthropy, Effektiv Spenden y el Survival and Flourishing Fund.  El "altruismo eficaz" es un movimiento filosófico y filantrópico que busca identificar las formas más efectivas de utilizar recursos para mejorar el mundo y que, en los últimos años, ha dado un peso importante a la seguridad y los riesgos potenciales de la inteligencia artificial. Como contaban en el New York Times , los Amodei han declarado que no forman parte de esta comunidad, pero Daniela Amodei, hermana de Dario y presidenta de Anthropic, está casada con Holden Karnofsky, uno de los fundadores del movimiento del altruismo eficaz. Esto no significa que los Amodei estén financiando directamente a METR, pero sí que han tenido lazos muy estrechos con una gran parte del ecosistema que los financia. Además, Hjalmar Wijk, científico jefe de METR, y Ajeya Cotra, del equipo técnico, provienen de empresas vinculadas a este movimiento. En Xataka Me he leído el estudio de Anthropic sobre el impacto de la IA en la economía y he llegado a una conclusión: voy a tener que estudiar fontanería Independientes, pero poco . Es lo que sostienen muchas voces críticas del sector. David Sacks, asesor tecnológico de la administración Trump, ha sido muy claro en su cuenta de X : "Dejad de fingir que METR es independiente cuando está entrelazado con los inversores y el personal de Anthropic". En un artículo en Read Multiplex , van incluso más allá, llegando a acusar a METR y Anthropic de intentar orquestar una captura regulatoria que limite a su competencia y, sobre todo, a la IA de código abierto, para crear un oligopolio junto a OpenAI. No hay pruebas de que METR esté actuando al dictado de Anthropic ni de que exista una estrategia coordinada de captura regulatoria. Pero para sus críticos, la cuestión es que están eligiendo como árbitro a una organización que comparte su visión sobre los riesgos de la IA y mantiene vínculos demostrables con la compañía, aunque no exista financiación directa entre ambas. El apocalipsis de la IA . Todo esto sucede en un momento muy concreto en el que el discurso de "la IA nos va a matar a todos" se ha infiltrado en la conversación pública. La chispa que lo encendió todo fue la dimisión de Jacob Coxon, un investigador de Anthropic que también había trabajado para OpenAI. Coxon dijo que estas empresas "están jugando con nuestras vidas" y poco después el responsable de alineamiento de Anthropic le dio la razón, llegando a afirmar que hay un 10% de probabilidades de que la IA acabe con la humanidad en menos de 10 años. Después, Amodei publicó su carta pidiendo frenar los avances en la que, como quien no quiere la cosa, dejaba caer que METR fuera el árbitro que lo supervise todo. Decir que vas a dar acceso total a tus sistemas a una organización externa puede sonar como el acto de mayor transparencia y compromiso con la seguridad. La cuestión es que METR no es un evaluador externo cualquiera, es uno que está formado en parte por exempleados de Anthropic y OpenAI y que comparte su visión sobre los riesgos y alineamiento de la IA. Imagen | METR En Xataka | Llevamos años oyendo que una superinteligencia podría matarnos a todos. Entre “podría” y “nos extinguirá” hay un abismo - La noticia Qué es y quién está detrás de METR, el organismo que Anthropic propone para supervisar que la IA no sea un peligro para la sociedad fue publicada originalmente en Xataka por Amparo Babiloni .

XatakaXatakaAmparo Babiloni15 sept

Las razones ocultas tras la alerta de los gigantes de la IA: «Les permite lavar su imagen y traspasar la responsabilidad a los Gobiernos»

Casi desde el lanzamiento de ChatGPT, en noviembre de 2022, algunas de las empresas más punteras en IA han debatido sobre el riesgo de que la inteligencia artificial llegue a descontrolarse y termine suponiendo una amenaza para la humanidad. En los últimos meses, los ciberataques sufridos por plataformas como Hugging Face y provocados por agentes de IA, así como la alerta lanzada la semana pasada por un trabajador de Anthropic sobre el potencial de esta tecnología para provocar la extinción de la humanidad, han avivado todavía más este tipo de debates. El último ejemplo llegó este sábado, cuando el CEO de Anthropic, Dario Amodei , publicó un ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial. Rápidamente, Sam Altman, primer ejecutivo de OpenAI, Demis Hassabis, presidente de Google Deepmind, y Elon Musk, de SpaceXAI, se apresuraron a mostrarse de acuerdo. En el escrito, Amodei se manifestaba preocupado por la posibilidad de que en los próximos «6 a 12 meses» la IA «pueda controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Para tratar de ponerle solución al problema, Anthropic se ha comprometido a poner a disposición de evaluadores externos toda su tecnología, para que estos verifiquen que la tecnología es segura. Asimismo, se ha invitado «a las empresas de IA de vanguardia en países democráticos» a «coordinarse para establecer estándares de seguridad comunes» que todas deben cumplir, es decir, a que sean las propias 'startups' las que creen las normas a partir de las cuales deben regirse. Finalmente, se ha sugerido que «Estados Unidos y otros gobiernos democráticos intenten coordinarse con los gobiernos autoritarios, en la medida de lo posible» para ayudar a reducir los riesgos. Sobre el papel, el mensaje que se lanza parece positivo: los gigantes de la IA están tan preocupados por el futuro de esta tecnología y por su efecto en la sociedad que están dispuestas a ralentizarla, a pesar de los efectos que esto puede tener en sus resultados financieros. Sin embargo, numerosos expertos muestran dudas sobre las buenas intenciones de estas compañías, a las que ven especialmente interesadas en autorregularse para evitar el futuro control de gobiernos. También alertan de que si tienen éxito, pueden dificultar que otras empresas más pequeñas se conviertan en una amenaza para su negocio el día de mañana. «Dejad de fingir que la motivación para reducir la velocidad (en el desarrollo de la IA) es puramente altruista», ha afirmado en sus redes sociales David Sacks, principal asesor de la administración Trump en temas tecnológicos. El experto ha dejado caer, además, que tanto Anthropic como OpenAI cuentan con capacidad para reducir los riesgos por su cuenta: «La forma más sencilla de no crear una superinteligencia -una IA que sería más lista que cualquier humano y que podría acabar convirtiéndose en una amenaza- es que os comprometáis a no crearla. Exigir vuestro marco regulatorio preferido como precio por hacerlo parece un chantaje a la opinión pública y al sistema político». Y no es el único que ve problemas en la propuesta de Amodei. Satya Nadella, CEO de Microsoft, otra de las empresas que más fuerte han invertido en materia de inteligencia artificial, está de acuerdo con la necesidad de que la tecnología avance con «ritmo pausado» para reducir los riesgos. Sin embargo, no considera que la autorregulación sea el camino: «Esto no puede estar controlado por un puñado de actores, sino que tiene que contar con una representación amplia de todo el ecosistema, de distintos países y de distintos ámbitos, incluida la universidad». Lo mismo opina Clément Delangue, director ejecutivo de la plataforma Hugging Face, quien afirmó en X que los problemas de la IA no pueden solucionarse «a puerta cerrada entre un puñado de laboratorios de vanguardia». Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya, explica a ABC que, efectivamente, «hay razones para preocuparse» ante el rápido avance de la IA, pero, «hay que diferenciar el riesgo real del ruido mediático». «No debe preocuparnos un escenario hipotético tipo Terminator o una superinteligencia fuera de control, sino los problemas tangibles que ya están ocurriendo en relación con la IA: la desinformación masiva, el sesgo en los algoritmos, el impacto en la privacidad y la dependencia crítica de sistemas cuyos fallos no comprendemos del todo. La alerta es válida, pero el foco del debate público suele estar desplazado hacia el alarmismo existencial y sistémico», dice el experto. Curto ve en la postura de Amodei, Altman, Hassabis o Musk «una mezcla evidente de intereses que puede cubrir motivos menos altruistas, preocupación genuina e incluso un intento de lavarse las manos» por los problemas que pueda provocar su tecnología: «Mostrarse preocupados es una maniobra clara de relaciones públicas. Les permite lavar su imagen de marca y traspasar la responsabilidad a los gobiernos. Es como decir: 'Nosotros avisamos del peligro, son las autoridades las que deben regular'. Al final, se trata de una estrategia para cubrirse las espaldas». Luis Martín, director de soluciones de IA en Llorente y Cuenca, está de acuerdo con este análisis. Además, añade que con la creación de sus propias normas, los gigantes de la IA podrían tratar de dificultar el surgimiento nuevas empresas que compitan con sus modelos. «Cuando pides una ralentización en el desarrollo de la IA y el surgimiento de entes que pongan trabas parece que están intentando poner una barrera de entrada a nuevos jugadores», dice el experto. «Ellos tienen los recursos y el capital para cumplir con la burocracia, mientras que las normas ahogarían a la competencia de código abierto y a las pequeñas startups», completa Curto. Luego está el componente económico. Jensen Huang, CEO de Nvidia, avisó ya la semana parada durante una conferencia que esperaba que próximamente las empresas desarrolladoras de IA centrada en la ciberseguridad, como OpenAI y Anthropic, tratasen de aumentar la preocupación entre las empresas para que sus productos de seguridad resultasen más atractivos. Un movimiento que también ha visto venir Sergio Álvarez-Teleña, CEO de la empresa de inteligencia artificial SciTheWorld y uno de los mayores expertos en esta tecnología que hay en España. El experto descarta de plano los escenarios apocalípticos que señalan que la IA podría terminar causando la extinción humana «a final de esta década», tal y como alertó la semana pasada un investigador de Anthropic . «No hay más razones para estar preocupados por esto que por que nos caiga un meteorito encima. Las probabilidades son increíblemente bajas», dice Álvarez-Teleña en conversación con este diario. «La sensación que tengo es que están intentando preocupar a la gente para conseguir más inversión. El mensaje, aunque no sea explícito, es que se invierta en estas empresas, porque se presentan como las únicas que son capaces de solucionar el problema de lo buenos que son en lo suyo», zanja el experto.

ABCABC(abc)14 sept