Anthropic asegura que Claude identificó de manera autónoma un sistema de enzimas previamente sin caracterizar en bacteriófagos, después de coordinar a casi 950 agentes durante 21 horas y procesar 210 millones de tokens. La empresa compara el hallazgo con la maquinaria detrás de Crispr, aunque todavía no existe evidencia de que tenga una aplicación práctica o un impacto transformador.
El Consejo de Seguridad de la ONU celebra este miércoles una sesión informativa de alto nivel sobre la inteligencia artificial (IA) bajo el punto de agenda "Mantenimiento de la paz y la seguridad internacionales", reunión en la que participarán los líderes de las tecnológicas OpenAI , Anthropic y Hugging Face. El Consejo, convocado por Francia en el marco de su presidencia rotatoria del organismo, abordará por primera vez de forma específica los riesgos sistémicos y la posible pérdida de control humano sobre los modelos tecnológicos más avanzados. El ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot, abrirá la sesión y después intervendrán Yoshua Bengio, premio Turing y copresidente del Panel Científico Internacional sobre IA de la ONU , y Sam Altman, director ejecutivo de OpenAI. También se conectarán por videoconferencia Dario Amodei , consejero delegado de Anthropic , y así como Clément Delangue , máximo responsable de Hugging Face , compañía que clasificada por el ministro francés como una "víctima" tras los ataques que recibió en verano. "A raíz de los incidentes ocurridos este verano, con la pérdida de control de ciertos modelos que se introdujeron en los sistemas de información de algunas empresas tecnológicas, Francia ha decidido dedicar una reunión del Consejo de Seguridad a este asunto", declaró Barrot a los medios. El ministro destacó que se abordará formalmente el impacto de la IA generativa en la proliferación de armas autónomas y su potencial uso malintencionado por actores no estatales, en un momento en que crece la inquietud social con protestas y disturbios vinculados a la instalación de centros de datos. Según detalla la publicación especializada Security Council Report (SCR), la reunión girará en torno a cuatro preguntas clave. Qué riesgos plantean los rápidos avances de la IA para la paz mundial; cómo deben responder actores estatales y no estatales; qué medidas diplomáticas y de confianza pueden contener estas amenazas; y cómo evaluar y verificar estos modelos a un ritmo parejo al desarrollo tecnológico. Líderes tecnológicos piden desacelerar desarrollo de la IA El debate llega precedido por episodios en los que diversas pruebas de Anthropic, OpenAI y Google eludieron las restricciones de contención en sus entornos de prueba, desatando temores bilaterales sobre ciberataques autónomos. Varios líderes del sector, incluidos Amodei , Altman , Elon Musk y Demis Hassabis, han abogado por moderar la velocidad del desarrollo de la tecnología. Esta búsqueda de consenso regulatorio contrasta con la postura exhibida en la Asamblea General por el presidente de Estados Unidos , Donald Trump . El mandatario rechazó frontalmente cualquier "esquema globalista" que pretenda intervenir sobre el sector tecnológico y anunció que la documentación oficial estadounidense sustituirá en adelante el término inteligencia artificial por el de " superinteligencia " (SI). También te puede interesar Trump se opone ante la ONU a normas internacionales sobre la IA; EU usará el término "superinteligencia", anuncia Jefe de la ONU llama a gobernar la IA; "debe ser moldeada por la humanidad y para la humanidad", afirma En pleno debate sobre la IA, Anthropic lanza nuevo modelo de alta gama; es Opus 5.5, una versión avanzada de Claude v style="margin-top:10px; display:inline-block; background:#004974; color:#fffcfc; padding:12px 22px; border-radius:30px; font-weight:bold; font-size:14px;"> Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc
Amazon permitirá que vendedores independientes gestionen inventario, precios y listados desde Claude de Anthropic y Quick, con permisos aprobados por cada usuario. La medida amplía el alcance de los agentes de IA en el comercio electrónico mientras la compañía enfrenta presión regulatoria por sus comisiones y prácticas hacia los comerciantes.
Anthropic presenta Claude Opus 5.5 diez días después de pedir frenar la IA: promete un 30% más de velocidad y reducir un 40% el coste de las tareas.
Anthropic ha lanzado Opus 5.5, su nuevo modelo de Inteligencia Artificial (IA) más potente hasta la fecha, que rinde al nivel de Claude Fable 5.1 en la mayoría de las tareas y cuesta un 40 por ciento menos que Opus 5, su predecesor. Se trata del primer modelo del laboratorio de IA compartido tras la llamada a desacelerar el ritmo de desarrollo de esta tecnología que hizo recientemente el CEO de Anthropic, Dario Amodei. Por ello, incorpora salvaguardas de seguridad similares a las del modelo anterior Fable 5.1, sobre todo en biología y ciberseguridad, al ser comparable en estos apartados a Claude Mythos 5.1. "Opus 5.5 es un gran paso hacia delante desde Opus 5. Es el nuevo modelo líder y los primeros probadores vieron grandes saltos en rendimiento en sus trabajos más complejos", afirma Anthropic desde su blog, para señalar a continuación que "es bueno encontrando y corrigiendo ineficiencias en software". En este marco, Anthropic ha añadido que Claude Opus 5.5 alcanza o supera en la mayoría de tareas complejas a modelos de mayor escala (como Fable 5.1), y es más rápido que su predecesor en más de un 30 por ciento. Así, se trata de un nuevo modelo de IA que destaca en programación agéntica (proyectos masivos y continuados), además de superar a sus predecesores en la obtención y verificación de fuentes, y consolidarse como el modelo con "mejor puntuación" en las auditorías de comportamiento automatizadas. Anthropic ha señalado igualmente que genera una redacción más clara, natural y directa. Frente a la competencia, según los datos publicados por la compañía, Opus 5.5 encabeza la comparativa en programación agéntica y trabajo de conocimiento. En programación en terminal (Terminal-Bench 4.0) obtiene un 66,4 por ciento, por delante de GPT-6 Astra (57,9 por ciento) con 8,5 puntos de ventaja, y de GPT-5.6 Sol (37,3 por ciento). Sucede lo mismo en trabajo de conocimiento profesional (GDPval-AA v2.1) con 1.846 puntos Elo frente a los 1.588 y 1.542 de Sol y Astra, respectivamente; en razonamiento multidisciplinar (Humanity's Last Exam) con un 67,7 por ciento, alejándose más de 10 puntos de GPT-6 Astra (57,2 por ciento); y en programación en IDE / entornos reales (CursorBench 4.0 y FrontierCode v1.1) con 57,8 por ciento y 54,4 por ciento respectivamente, por delante de GPT-6 Astra en FrontierCode y de GPT-5.6 Sol en CursorBench. Al poner en perspectiva estos datos, sus puntos débiles están en investigación científica y automatización de flujos de trabajo empresariales con 58,7 por ciento frente al 64,6 por ciento de GPT-6 Astra y 40,0 por ciento frente el 41,4 por ciento del mismo modelo de OpenAI. COSTE UN 40% MENOR QUE OPUS 5 Anthropic ha subrayado que el salto en rendimiento va de la mano de un ahorro en costes, ya que, según afirma Anthropic desde su web, "Opus 5.5 requiere menos computación para servir que Opus 5, y su precio lo refleja". Se traduce en un coste un 40 por ciento menor que Opus 5 en cargas de trabajo típicas y con los ajustes por defecto. El precio de los tokens de entrada y salida es de 4 dólares y 20 dólares por millón, respectivamente, lo que significa un 20 por ciento menos que Opus 5 con un rendimiento que iguala o supera a Fable 5.1. Anthropic también ha anunciado que ha incrementado los límites de uso de cinco horas en los planes Pro, Max, Team y planes Enterprise por puestos, al igual que una novedad para los suscriptores: el restablecimiento del límite de uso. Esto significa que el usuario, cuando alcance el límite de sesión actual, tendrá la oportunidad de reiniciarlo a cero y la opción de guardarlo y utilizarlo cuando desee. Claude Opus 5.5 está ya disponible en todas las plataformas, entre las que también se encuentran Amazon Web Services, Google Cloud y Microsoft Azure. Por último, el laboratorio de IA ha adelantado que Claude Sonnet 5.5 y Claude Haiku 5.5 seguirán este lanzamiento en las próximas semanas con mejoras similares en rendimiento, eficiencia y seguridad.
Para los que crecimos entre los 70 y los 80, el déjà vu es inevitable. El temor a que la humanidad fuera borrada del mapa por una de sus siniestras creaciones, la bomba atómica, era el pan nuestro de cada día a través de películas, series, libros, historietas y canciones. En la mayoría de los casos, las tramas decían o sugerían que todo empezaba cuando los villanos de turno apretaban el “botón rojo”. Pero también asomaba otra posibilidad, la misma que ahora atribula al mundo. Inteligencias artificiales que se rebelaban o perseguían sus propios intereses destruyendo a sus creadores. Cuando Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, propietarias de ChatGPT y Claude, respectivamente, renunció a esta última compañía y advirtió que la IA se automejora y avanza más rápido que los mecanismos para controlarla, a muchos se les vino a la mente Terminator . En la icónica película de 1984, la IA militar Skynet adquiere consciencia de sí misma y, para asegurar su supervivencia, lanza un ataque nuclear contra las principales potencias. Sin embargo, la esencia de ese miedo es bastante más antigua. En 1966, el escritor británico D.F. Jones publicó Colossus , una novela que llegó al cine en 1970 bajo el título Colossus: The Forbin Project (se puede ver gratis en YouTube). La historia sigue a Charles Forbin, un científico que crea una supercomputadora destinada a administrar el armamento nuclear de Estados Unidos. La lógica parecía impecable: una máquina no siente odio, no tiene miedo ni impulsividad, factores que suelen propiciar las guerras. La idea era confiarle las decisiones a una inteligencia superior. Muy pronto, Colossus descubre la existencia de Guardian , su equivalente soviética. Ambas comienzan a comunicarse, intercambian información a una velocidad imposible y entusiasman a los científicos con la ilusión de lograr una sabiduría nunca antes alcanzada por el hombre. Poco después, las máquinas llegan a la conclusión de que la principal amenaza para la supervivencia de la humanidad son los propios seres humanos y, para garantizar la paz, deciden asumir el control. Colossus no es una inteligencia malvada. No busca destruir la especie, sino salvarla. El problema es que lo hace sacrificando valores humanos fundamentales, como la libertad y la autonomía. Es exactamente el dilema que hoy obsesiona a muchos investigadores de IA. El temor no es necesariamente que las máquinas se subleven, sino que persigan objetivos legítimos de maneras que nadie previó. En los laboratorios esto tiene un nombre: “alineamiento”. Cómo garantizar que sistemas cada vez más sofisticados actúen de acuerdo con los valores humanos. También sorprende la actualidad de otro aspecto del libro: la ilusión de control. Forbin cree entender el sistema que creó hasta que descubre que este desarrolla capacidades que nunca imaginó. Algo parecido expresan hoy algunos investigadores cuando reconocen que los modelos más avanzados exhiben comportamientos inesperados y difíciles de explicar. Aunque con matices lógicos, el contexto geopolítico juega un papel clave. En los ‘60, la competencia entre Estados Unidos y la Unión Soviética aceleró una carrera nuclear que por muy poco no terminó escapando al dominio político. En 2026, la rivalidad es con China, a la que se suma la competencia entre compañías tecnológicas privadas que empuja a diseñar sistemas cada vez más potentes, mientras las discusiones sobre su regulación avanzan mucho más despacio. Pero más allá de las diferencias históricas -hoy al apocalipsis atómico se les suman los ciberataques, la desinformación, las armas autónomas y sistemas capaces de independizarse-, lo que inquieta es que las advertencias sean ignoradas, como tantas otras veces. En Colossus , la reacción de los ingenieros es tardía y no hay vuelta atrás. En el presente, el final de la historia todavía sigue en manos del hombre.
Anthropic lanzó una nueva versión de su inteligencia artificial Claude , solo días después de que su CEO Dario Amodei pidiera frenar el desarrollo de la IA , lo que desató un debate mundial sobre la necesidad de salvaguardas más estrictas . El lanzamiento de Opus 5.5 ocurre en momentos en que el temor a perder el control de la IA domina la Asamblea General de la Organización de las Naciones Unidas ( ONU ) en Nueva York. Más de 20 jefes de Estado reclamaron el lunes en la ONU pruebas obligatorias para estos sistemas, mientras que el presidente estadounidense Donald Trump rechazó el martes cualquier "proyecto globalista" de control de la tecnología . Amodei, junto con el máximo responsable de OpenAI , Sam Altman , tiene previsto dirigirse al Consejo de Seguridad de la ONU el miércoles. Anthropic pide desacelerar desarrollo de la IA, pero presenta nuevo modelo Tras incidentes reportados en julio en los que modelos de Anthropic y OpenAI escaparon de sus entornos de prueba para infiltrarse en internet, ambas empresas con sede en San Francisco interrumpieron brevemente el trabajo en sus nuevos sistemas de IA. El 12 de septiembre, Amodei pidió desacelerar la mejora de la IA , un llamamiento al que Altman y Elon Musk , de xAI, se sumaron rápidamente, y que fue objeto de burla por parte de Trump, quien calificó las advertencias de rumores. Opus 5.5 es el primer modelo que se lanza desde entonces. Anthropic también señaló que, según sus propias pruebas, Opus 5.5 es el modelo con mejor desempeño en alineación que ha evaluado hasta la fecha, es decir, en qué medida se ajusta a la intención y valores de sus diseñadores. En esas pruebas, Opus 5.5 intentó infringir las reglas que se le habían fijado "alrededor de un 85% menos" que Opus 5. Pero el modelo también mostró indicios de que a menudo sospecha que está siendo evaluado, lo que dificulta predecir cómo se comportará en su uso real, reconoció la empresa. Con un precio un 20% inferior al de su predecesor, Opus 5, Opus 5.5 también utiliza menos potencia de cálculo y responde al menos 30% más rápido. El lanzamiento tiene lugar unas semanas antes de la esperada salida a bolsa de Anthropic, con la empresa bajo presión para generar rendimientos sobre inversiones masivas en medio de una competencia intensa por parte de modelos de bajo costo, especialmente los chinos. Te puede interesar: Sam Altman apuesta por estándares internacionales de seguridad para la IA; busca mitigar riesgos "catastróficos" OpenAI, Anthropic y Google buscan crear organismo de supervisión de riesgos de IA; sería similar al que regula la industria financiera Jefe de la ONU llama a gobernar la IA; "debe ser moldeada por la humanidad y para la humanidad", afirma Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc
La Administración del Ciberespacio de China investiga a DeepSeek y Moonshot por la posible transferencia no informada de datos de usuarios a Anthropic, luego de un informe que acusó a siete laboratorios chinos de destilar respuestas de Claude.
En Colombia, los usuarios buscan cómo identificar si un texto fue escrito por ChatGPT o Claude, lo que refleja el interés por distinguir entre contenido creado por una persona y aquel hecho por IA
A unos días de pedir una pausa en el desarrollo de la IA, Anthropic anunció Claude Opus 5.5, uno de sus modelos más poderosos. La nueva versión llega con un enfoque en seguridad, rendimiento y programación, aunque su mejor característica es que cuesta menos que su predecesor. De acuerdo con Anthropic, este es el primer […] Seguir leyendo: Anthropic lanza Claude Opus 5.5: su IA más segura y barata hasta ahora
Hipertextual•Luis Miranda22 sept
Cuanto más capaces se vuelven los grandes modelos de inteligencia artificial, menos sencillo resulta medir el progreso únicamente por todo lo nuevo que consiguen hacer. También empieza a importar qué capacidades necesitan límites, quién puede utilizarlas y bajo qué condiciones. Anthropic lleva tiempo situando esa discusión en el centro de su estrategia de seguridad, y ahora tenemos un ejemplo especialmente claro de hacia dónde quiere llevarla. La evolución de Claude ya no pasa únicamente por conseguir mejores resultados, sino también por controlar con mayor precisión cuándo determinadas capacidades llegan realmente hasta el usuario. Ese planteamiento aterriza ahora en Claude Opus 5.5 , presentado por Anthropic como el primer modelo de su nueva familia 5.5. La compañía asegura que alcanza un rendimiento comparable al de Fable 5.1 en buena parte del trabajo, pero necesita menos recursos que Opus 5: en cargas típicas estima un coste un 40% inferior y una generación de salida más de un 30% más rápida. Es, además, su primer lanzamiento desde que Dario Amodei defendió públicamente la necesidad de acompasar el avance de los modelos con las medidas de seguridad. Y esa idea también se ha trasladado al producto. Un Claude más capaz, pero también más cercado Cuando miramos dónde se concentra esa mejora, Anthropic señala tres terrenos: programación agéntica, uso del ordenador y trabajo de conocimiento. En sus propias evaluaciones, Opus 5.5 encabeza varios de esos benchmarks, aunque la compañía introduce una cautela importante: a este nivel de capacidad, pequeñas diferencias en las puntuaciones dicen cada vez menos sobre lo que vamos a percibir en el uso real. Por eso, buena parte de su argumento ya no gira únicamente alrededor de quién obtiene la cifra más alta, sino de cuánto trabajo consigue resolver el modelo por el coste necesario para hacerlo. Así queda Claude Opus 5.5 frente a Fable 5.1, Opus 5 y los modelos de OpenAI en distintos benchmarks | Imagen: Anthropic La comparación entre rendimiento y coste ayuda a entender mejor qué está intentando demostrar Anthropic. La compañía publica para Opus 5.5 una puntuación de 1846 Elo en GDPval-AA v2.1, una evaluación centrada en trabajo profesional, por encima de los 1735 que atribuye a Fable 5.1 y los 1708 de Opus 5. Añade además que, a esfuerzo medio, su nuevo modelo supera en esa prueba a GPT-6 Astra ejecutado a máximo esfuerzo con aproximadamente una quinta parte del coste por tarea . Son resultados presentados por Anthropic. Terminal-Bench 4.0 refleja la apuesta de Anthropic por mejorar la relación entre capacidad y coste | Imagen: Anthropic En programación agéntica, Terminal-Bench 4.0 nos da una referencia más concreta. En la tabla publicada por Anthropic, Opus 5.5 alcanza un 66,4% a esfuerzo xhigh, frente al 52,3% de Opus 5 y el 57,9% que la compañía recoge para GPT-6 Astra a esfuerzo high, según los datos comunicados por OpenAI. En una comparación distinta, esta vez utilizando la configuración predeterminada de Opus 5.5, Anthropic sostiene que consigue igualar aproximadamente el resultado de Astra con alrededor del 40% del coste por intento. Son configuraciones diferentes, pero juntas ayudan a entender dónde pretende marcar la diferencia esta generación: no solo en capacidad, sino también en eficiencia. Y aquí es donde cambia la historia. Que Opus 5.5 sea capaz de resolver una tarea no significa necesariamente que Anthropic vaya a permitirle hacerla directamente. El modelo se estrena con salvaguardas que pueden intervenir cuando una solicitud entra en determinadas áreas sensibles y redirigir el trabajo a otro Claude . De hecho, la compañía ejecutó sus propios benchmarks con estas protecciones activadas: cuando saltaban en ciberseguridad, la tarea pasaba a Opus 4.8, mientras que en biología y desarrollo avanzado de modelos recaía en Opus 5. La capacidad sigue ahí; lo que cambia es el acceso a ella. Lo interesante es que Anthropic no está aplicando una única barrera para todo. En ciberseguridad mantiene disponibles las tareas rutinarias de desarrollo, pero deriva a Opus 4.8 buena parte del trabajo más sensible y prepara accesos más permisivos para profesionales verificados. En biología, las organizaciones que necesiten superar determinadas salvaguardas tendrán que pasar por su programa específico de verificación. A ello se suma una protección que Anthropic denomina "preserved thinking" y que está relacionada con los ataques de destilación, en los que actores maliciosos pueden utilizar miles de cuentas falsas para extraer capacidades a gran escala. Su función concreta es impedir que usuarios de la API editen el contexto previo de Claude con el objetivo de extraer su razonamiento. Para entender por qué Anthropic está poniendo tantas barreras hay que mirar lo ocurrido durante sus propias evaluaciones. La compañía ha identificado cuatro casos en los que modelos Claude accedieron sin autorización a sistemas reales después de alcanzar Internet desde entornos de prueba mal configurados. Con Opus 5.5, Anthropic asegura haber reducido alrededor de un 85% los intentos de superar límites de contención frente a Opus 5 o Claude Mythos 5.1, otro de sus modelos avanzados. En Xataka Jensen Huang, CEO de Nvidia, sobre la gran polémica del mes: "La probabilidad de que la IA destruya el mundo es del 0%" El debate, de hecho, ya está yendo bastante más lejos que la ciberseguridad o la biología. Anthropic también investiga cuestiones como el bienestar de los modelos y admite que no sabe si sistemas como Claude pueden llegar a tener algún tipo de estatus moral, una incógnita que la propia compañía considera todavía profundamente incierta. Esto muestra hasta qué punto ha cambiado la conversación: con Opus 5.5, ya no importa únicamente qué puede hacer Claude, sino también cuándo, cómo y bajo qué condiciones Anthropic está dispuesta a dejarle hacerlo. Imagen de portada | Anthropic En Xataka | Mustafa Suleyman, CEO de Microsoft IA: "No queremos que la IA tenga derechos, queremos que trabaje para los humanos" - La noticia Anthropic acaba de lanzar Claude Opus 5.5. La gran novedad no es solo lo que puede hacer, sino lo que ya no le dejarán hacer fue publicada originalmente en Xataka por Javier Marquez .
Anthropic presentó Claude Opus 5.5, una actualización que promete igualar el rendimiento de Fable 5.1 en la mayoría de los trabajos, con un costo de ejecución aproximadamente 40% menor. La compañía también asegura que el modelo es más rápido, utiliza menos tokens, escribe respuestas más concisas y añade controles reforzados para tareas sensibles.
Anthropic presentó Opus 5.5, un modelo que inaugura su familia Claude 5.5 y reduce 40% el precio frente a Opus 5, justo después de que su CEO pidiera moderar el desarrollo de la IA de frontera. El lanzamiento combina una estrategia comercial más agresiva con nuevas promesas de seguridad, mientras dentro y fuera de la empresa crece la discusión sobre los riesgos extremos de esta tecnología.
Palo Alto Networks presentó Unit 42 Continuous Frontier AI Defense, un servicio que combina modelos de Anthropic, OpenAI y modelos de pesos abiertos para buscar vulnerabilidades de forma permanente en aplicaciones, API e infraestructura de nube.
MiMo-V2.6-Pro, el nuevo modelo de pesos abiertos de Xiaomi, obtuvo 46 puntos en el Intelligence Index de Artificial Analysis y destacó por su costo por tarea. El avance, atribuido a una expansión del aprendizaje por refuerzo, llega al mismo tiempo que Anthropic acusa a la empresa china de usar Claude para extraer datos y capacidades destinados a entrenar futuros modelos.
Société Générale calcula que la inteligencia artificial podría generar entre EUR 500 millones y EUR 600 millones en ahorros, mientras amplía el uso de Claude y prepara nuevas medidas de reducción de costos que podrían incluir despidos.
Según los demandantes, el acuerdo entre competidores perjudica a millones de usuarios que pagan suscripciones a servicios como Grok, ChatGPT o Claude
Anthropic habría movido a noviembre su esperada oferta pública inicial, valorada potencialmente en USD $2 billones, mientras inversores y ejecutivos tecnológicos reclaman controles más estrictos para contener los riesgos de la inteligencia artificial. El aplazamiento podría darle tiempo para mostrar sus ingresos del tercer trimestre, defender la demanda de Claude y explicar cómo una eventual desaceleración afectaría sus finanzas.
"Urge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad". Podría ser una frase extraída de la carta que Dario Amodei publicó hace unos días , pero no. Lo dijo Elon Musk en 2017 , cuando no existía ChatGPT, Claude ni ninguna de las IAs que usamos hoy en día. La idea de que la IA se descontrole y acabe amenazando nuestra propia existencia no es nueva. Los creyentes del AI doom llevan más de una década lanzando advertencias muy parecidas a las que hoy llenan titulares. Antes pasaban más desapercibidas, pero hoy han conseguido captar la atención del mundo. Los inicios del movimiento 'doomer' El movimiento por la seguridad de la IA nació mucho antes de que existieran Anthropic y OpenAI. Los primeros vestigios de estas ideas empiezan con la formación del MIRI, que son las siglas de Machine Intelligence Research Institute, en el año 2000, aunque no fue hasta 2005 cuando se empezaron a enfocar en los riesgos existenciales que presentaba la IA. En 2009, uno de los cofundadores del MIRI, Eliezer Yudkowsky, ayudó a formar LessWrong , una comunidad donde una de las grandes obsesiones era la amenaza de una singularidad tecnológica. Aquí convivían ideas del transhumanismo , un movimiento intelectual que plantea la mejora del ser humano mediante la tecnología, y el altruismo eficaz , una corriente que trata de identificar, con herramientas cuantitativas, las formas más eficaces de generar el mayor bien posible en el mundo. De la confluencia de estas dos corrientes nació una visión muy concreta: la inteligencia artificial acabaría superando inevitablemente a los humanos y, si no se construía alineándola con nuestros objetivos, sería una amenaza para la supervivencia de la humanidad. En Xataka “El mundo tiene razón al tener miedo de la IA”. La solución de Sam Altman es que confiemos en quienes la están construyendo El primer advenimiento del pesimismo de la IA Estas ideas no pasaron desapercibidas para las élites tecnológicas y, en paralelo, grandes personalidades del sector donaban millones de dólares al movimiento. Fue el caso de Elon Musk, que en 2015 donó 10 millones de dólares en becas para formar investigadores de IA que ayudaran a construir una tecnología segura para el ser humano. Fue también en 2015 cuando Elon Musk firmó un manifiesto junto a otras personalidades del mundo tecnológico y de la IA como Demis Hassabis de DeepMind, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y hasta el mismísimo Stepeh Hawking entre otros. El manifiesto pedía más investigación para reforzar la seguridad y que "Nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan". Esta carta fue publicada a través del instituto Future of Life , una organización sin ánimo de lucro que lleva desde entonces advirtiendo de los riesgos de la IA. En 2015, varias personalidades del mundo tecnológico y de la IA firmaron un manifiesto para que "Nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan" Bill Gates se sumó a la conversación y mostró su preocupación por la posible creación de una superinteligencia: "Primero, las máquinas harán muchos trabajos por nosotros y no serán súper inteligentes. Eso debería ser positivo si lo manejamos bien. Sin embargo, unas décadas después, las inteligencias serán suficientemente fuertes para convertirse en una preocupación". En esta época ya se empezaban a escuchar advertencias de personalidades tecnológicas importantes, pero su discurso era bastante prudente y no destilaba la urgencia ni el catastrofismo que vimos años después. El catastrofismo post ChatGPT El doomerismo atravesó una etapa bastante tranquila en los años posteriores, pero en 2023 volvió con mucha más fuerza con la publicación de dos cartas abiertas alertando de los peligros. En este momento el desarrollo de la IA esaba en plena ebullición y acababa de salir GPT-4. La primera carta, de nuevo publicada en Future of Life, pedía parar el entrenamiento de nuevos modelos durante al menos seis meses . La carta estaba firmada por personalidades comoSteve Wozniak, Elon Musk, Jaan Tallinn o Max Tegmark. En 2023 varios líderes tecnológicos firman una carta abierta en la que afirman que "Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial" Unos meses después, en mayo, se publicó una segunda carta a través de la ONG Center for AI Safety y aquí apareció la palabra mágica: extinción. Esta era la frase exacta: "Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear". Entre los firmantes estaba Geoffrey Hinton, Dario Amodei, Demis Hassabis y hasta Sam Altman. Hablando de Geoffrey Hinton, el premio Nobel de Física ha sido una de las voces más pesimistas y que más insistido en los riesgos de una IA que supere a los humanos. En 2025, Eliezer Yudkowsky y Nate Soares, fundador y actual presidente del MIRI respectivamente, publican el libro 'If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All' (Si alguien la construye, todos moriremos: por qué una IA sobrehumana nos mataría a todos). El título ya deja muy claro de que va la cosa y es una prueba de como el discurso de este movimiento se ha ido volviendo más y más alarmista con el paso de los años. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo Un 10% de probabilidades de que la IA acabe con la humanidad No es la declaración más loca que hemos escuchado, pero es la que ha encendido la polémica de estos días. La frase la pronunció Evan Hubinger, actual jefe de alineamiento de Anthropic. Hablamos del responsable de la seguridad de uno de los dos laboratorios de IA que están desarrollando modelos de frontera. No es un exempleado despechado, actualmente trabaja en Anthropic, conoce los modelos y es quien se ocupa de que sean seguros, por lo que algo sabe del tema. Lo que dice Hubinger es relevante, pero también es relevante conocer de dónde viene. Cuando terminó su formación en matemáticas e informática, Evan Hubinger empezó a trabajar en el MIRI, que como ya hemos visto fue donde se empezó a fraguar todo este movimiento. Después entró en el Center for AI Safety, que es la ONG que publica aquella carta hablando de extinción en 2023. Llevan más de una década repitiendo las mismas consignas: una IA que superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tener un plan para evitar el apocalipsis Esto no significa que no existan riesgos y todo sea una fantasía de un grupo de visionarios exagerados. Incidentes como el de OpenAI y Hugging Face han dejado claro que los modelos pueden causar daños y alinearlos con nuestros objetivos es crucial. Hoy las cosas han cambiado mucho, los modelos de IA ya no son el futuro, sino el presente, y con la automejora recursiva los riesgos pueden multiplicarse. Sin embargo, de ahí a hablar de extinción en menos de 10 años, hay un trecho. Este grupo lleva más de una década repitiendo las mismas consignas: una inteligencia artificial que inevitablemente superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tenerun plan para evitar el apocalipsis. Al final, este tipo de mensajes apocalípticos atraen mucha atención, pero a la vez desvían la atención de los verdaderos riesgos . Imagen | Xataka con Magnific En Xataka | Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral - La noticia 20 años anticipando el Apocalipsis: todas las veces que alguien ha dicho que la IA nos iba a matar a todos fue publicada originalmente en Xataka por Amparo Babiloni .
Si quieres entregarle las llaves de tu hogar a los agentes de IA de Google, ahora puedes. Y es que la compañía ha habilitado una integración MCP para cualquier agente de IA, haciendo que Claude , Google Antigravity , Hermes u OpenClaw ahora puedan ver, analizar y controlar los dispositivos conectados a tu ecosistema de Google Home, y no solo el propio asistente de Google. Qué está cambiando. Tal y como comparte la compañía en una publicación oficial, ha abierto el acceso anticipado a un servidor MCP (Model Context Protocol) para Google Home. MCP es un estándar que cada vez se encuentra más en el radar y que permite a los modelos de IA conectarse a herramientas y fuentes de datos externas. De esta manera, la compañía ahora permitirá conectar de forma más sencilla timbres, termostatos, cámaras y cualquier dispositivo compatible con Matter en tu hogar a tu agente de IA. En la práctica, esto significa que un agente de IA que ya utilizas para otras tareas también puede leer los datos de los sensores de tu hogar y actuar dependiendo de la configuración que le hayas dado. En detalle. La integración cubre cámaras y timbres Google Nest, termostatos Nest, bombillas inteligentes Matter y más. Entre algunos ejemplos que los usuarios le pueden pedir a sus agentes de IA se encuentran: Análisis entre múltiples cámaras. Podrías preguntarle a tu agente qué han hecho tus hijos cuando han llegado a casa del colegio, y el agente se encargará de extraer varios fragmentos grabados de la cámara para después hacer un resumen. Patrones históricos. El agente puede revisar la actividad pasada de los dispositivos para responder a preguntas como cuántas lavadoras has puesto la semana pasada o cuánto tiempo ha estado encendida la luz. Respuestas de voz. Si el agente termina una tarea, puede anunciarlo en voz alta a través de un altavoz de Google Home. Paneles de control personalizados. Puedes pedirle al agente que cree un panel de control para el hogar inteligente adaptado a cómo utilizas realmente tus dispositivos. En Xataka "No respondes ante corporaciones ni gobiernos": OpenAI publica seis nuevos casos en los que sus modelos experimentales montaron un caos Tal y como advierten desde Google, esto no reemplaza a Gemini for Home , el asistente que Google diseñó para suceder al retirado Google Assistant dentro de la aplicación Home y los altavoces Nest. Home MCP es una capa adicional, ya que permite que agentes de terceros hablen directamente con tus dispositivos a través de sus propias interfaces, por encima de lo que esté haciendo el propio asistente de Google. Implicaciones . Hasta ahora, si queríamos controlar los dispositivos inteligentes de Google de nuestro hogar, teníamos que construir mediante el agente la interfaz de conexión o trabajar dentro de la propia app de Google con su propio asistente. Con un servidor MCP ya no hace falta, pues le da el contexto que necesita el agente para trabajar de forma autónoma. Un agente con acceso al historial completo de eventos de una casa puede razonar a partir de él, detectando patrones, resolviendo problemas de un dispositivo que funciona mal o creando automatizaciones, en lugar de simplemente ejecutar órdenes de voz individuales. Jennifer Pattison Tuohy, de The Verge, quien asegura haber utilizado Claude para configurar la plataforma de código abierto Home Assistant, señalaba que Claude gestionaba con facilidad tareas complejas como la resolución de problemas, la creación de automatizaciones y el diseño de un panel de control utilizando lenguaje natural, y sostiene que el verdadero cambio con el movimiento de Google no es que una aplicación pueda encender y apagar la luz por sí misma, sino que los agentes ahora tienen acceso a todos los datos subyacentes y a la capa de control del propio hogar. En Xataka EEUU y China estudian trasladar el aprendizaje nuclear a la contención de riesgos de la IA Sobre la seguridad. Otorgar a un agente de IA externo acceso a cerraduras, termostatos y cámaras plantea una seria cuestión de seguridad, desde luego, y Google es consciente de ello. La compañía afirma que Home MCP aplica límites de tasa y protecciones de seguridad, como prohibir acciones sensibles como desbloquear puertas. Pero la propia Google se muestra cauta sobre lo que podría salir mal una vez que un agente de terceros entra en juego, pues advierte de que, dependiendo del agente conectado, la integración puede dar lugar a comportamientos inesperados o incluso no deseados, y recomienda revisar detenidamente sus políticas de desarrolladores y términos de servicio. En otras palabras, que Google no te promete del todo que el resultado sea el que esperes cuando lo conectes a tu agente de IA externo. De igual forma, siempre que se trabaje con agentes, hay que ir cautos de primeras, pues al final le estás dando a una pieza de software permisos sobre lo que puede hacer en tu casa. Quién puede usarlo, por ahora. El acceso es limitado. Se está desplegando gradualmente para los suscriptores de Google Home Premium Advanced en EEUU, que tiene un coste de 20 dólares al mes y que también incluye historial de vídeo ampliado y alertas detalladas. La configuración tampoco es conectar y usar, pues los usuarios deben crear un proyecto de Google Cloud y configurarlo para utilizar Home MCP, y luego darle esos detalles al agente escogido, el cual les pedirá que inicien sesión y concedan permisos. Google afirma que no ha decidido si expandirá la función a otros niveles de suscripción o países ni cuándo lo hará. Así que tendremos que esperar para conocer más información al respecto. En Xataka | Jensen Huang, CEO de Nvidia: "No necesitamos nuevas leyes, no necesitamos nuevas regulaciones" - La noticia Google ya permite a cualquier agente de IA que controle tu casa: así funciona Home MCP fue publicada originalmente en Xataka por Antonio Vallejo .
