HeraldLoop

OpenAI — página 2

Organización · 213 artículos
Compartir

Cobertura, página 2

página 2 de 11

OpenAI asegura que su IA ha resuelto más de 100 problemas matemáticos. Hay un problema: qué significa exactamente "resolver"

OpenAI asegura que un modelo de IA interno ha resuelto más de 100 problemas matemáticos abiertos, y lo ha logrado en apenas unas semanas. Es un logro extraordinario, pero uno que abre un melón importante: plantear soluciones quizás no sea suficiente. La demostración que la empresa publicó sobre las ecuaciones de Navier-Stokes parece responder a una de las formulaciones oficiales de un Problema del Milenio, pero deja abierta una cuestión que muchos matemáticos consideran fundamental. En OpenAI van a trabajar con un grupo de asesores independientes para publicar y comunicar sus futuros resultados, pero la pregunta está ahí: ¿cuando una IA resuelve un problema matemático, lo resuelve realmente? Qué ha pasado . OpenAI indicaba ayer que además de "resolver" el problema de Navier-Stokes definido como uno de los Problemas del Milenio, su modelo interno, que llevan entrenando desde el pasado 28 de agosto, también ha resuelto 100 problemas abiertos desde hace años. En ese anuncio, no obstante, no se dan detalles sobre qué problemas han resuelto ni se incluyen evaluaciones independientes de esos resultados. En Xataka Según OpenAI y Anthropic, hay que parar el desarrollo de la IA para salvar a la humanidad. Hay motivos para dudar Navier-Stokes y los matices . A principios de septiembre OpenAI publicó una demostración al problema de existencia y suavidad de Navier-Stokes , uno de los siete Problemas del Milenio del Clay Mathematics Institute. Estas ecuaciones describen el movimiento de los fluidos y la gran incógnita consistía en saber si, partiendo de condiciones "suaves" se podía desarrollar una singularidad. Esto es, si se generaba una situación en la que ciertas magnitudes crecen sin límite en un tiempo finito. La compañía presentó tanto un artículo matemático como la formalización en Lean, una plataforma informática que permite comprobar este tipo de demostraciones matemáticas. Las cuatro formulaciones (A, B, C y D) del problema de Navier-Stokes La solución tiene una peculiaridad . El enunciado oficial admite varias formas de resolver el problema. Algunas estudian la evolución del fluido sin fuerza aplicada desde fuera, mientras que otras sí permiten introducir una fuerza suave. OpenAI afirma haber resuelto estas últimas (formulaciones C y D). Par lograrlo parten del fluido en reposo y aplican una fuerza con un diseño especial hasta que aparece la singularidad, lo cual no es una "trampa": esa posibilidad está expresamente contemplada en el enunciado, y OpenAI explica claramente cómo ha "resuelto" el problema. Los matemáticos no las tienen todas consigo . Lo que se critica ahora es que lo que interesaba especialmente era saber si las propias ecuaciones podían generar esa singularidad sin fuerzas externas "de diseño". La demostración de OpenAI no contesta a esa pregunta, y como explican en Scientific American , la polémica ha surgido por dicha discrepancia. Una cosa es ajustarse al enunciado del problema y aprovechar lo que permite, y otra la de resolver realmente la cuestión física y matemática que plantea y que llevaba décadas investigándose . ¿Pero está resuelto o no? El propio Clay Mathematics Institute comentó que el problema había quedado aparentemente resuelto, pero sus responsables también destacaron que el proceso de evaluación de la solución lleva tiempo. De momento no hay comentarios concluyentes de este organismo, pero en OpenAI ya han dicho que no pretenden reclamar el millón de dólares. Así pues, de momento no sabemos si cuando OpenAI dice que ha resuelto el problema realmente puede decir que lo ha resuelto. "Estamos cerca que la IA resuelva un problema y los humanos no puedan explicarlo": los matemáticos opinan sobre la IA Hay que comprender las cosas . La formalización en Lean de la solución propuesta por OpenAI supone una garantía importante a la hora de validar la corrección de la solución, pero aquí hay más elementos para el debate. En el blog de Terence Tao los investigadores Silvia De Toffoli y Eamon Duede precisamente hablan de cómo hay diferencias entre una respuesta formal y una demostración que los matemáticos puedan comprender. Precisamente el Advisory Group on Mathematics and Artificial Intelligence creado por OpenAI, que incluye a nueve matemáticos, está creado para resolver este tipo de dilemas. Sus integrantes no cobran un sueldo de OpenAI, pero sus miembros explican que sus recomendaciones no son vinculantes. En Xataka | OpenAI ya había presentado los papeles para salir a bolsa. Tres meses después, Sam Altman ha encontrado un motivo para no hacerlo - La noticia OpenAI asegura que su IA ha resuelto más de 100 problemas matemáticos. Hay un problema: qué significa exactamente "resolver" fue publicada originalmente en Xataka por Javier Pastor .

XatakaXataka•Javier Pastorhace 23 h

A16z lanza una academia gratuita para jóvenes constructores de la era de la inteligencia artificial

The Horowitz Andreessen Academy abrirá en San Francisco un programa gratuito de un año para jóvenes constructores, con acceso a empresas como Anthropic, Coinbase, Google, Meta, NVIDIA, OpenAI, Palantir, Replit y Stripe. Su modelo reemplaza los exámenes por proyectos, cursos intensivos y experiencias laborales, mientras a16z prepara una posible expansión hacia un programa de dos años con matrícula.

Diario BitcoinDiario Bitcoin•Canuto22 sept

Amazon corta el acceso de Muse, el agente de IA de Meta, a su tienda online

Amazon ha cortado el acceso de Muse, el nuevo agente de Inteligencia Artificial (IA) de Meta, impidiéndole tanto navegar como realizar compras en su 'eCommerce' en nombre de los usuarios, una función que es uno de los ejes de la nueva 'app' de Meta. Amazon ha decidido bloquear Muse tras tras intentar en varias ocasiones que Meta excluyera su tienda 'online' de la nueva experiencia de que ofrece este agente, como ha explicado un portavoz al medio especializado GeekWire. Amazon ha señalado que nunca llegó a un acuerdo para que el agente de IA de Meta accediera a la tienda, pero aun así ha navegado por ella e, incluso, lo ha hecho sin identificrse. También indica que el agente ha llegado a capturar y almacenar las credenciales de los clientes, lo cual, según afirma la tecnológica, podría provocar riesgos de privacidad y seguridad. "Creemos que es bastante obvio que las aplicaciones de terceros que ofrecen realizar compras en nombre de clientes de otras empresas deberían operar abiertamente y respetar las decisiones del proveedor del servicio sobre si participar o no", concluye el portavoz. Meta recalcó en el anuncio de su agente que Muse "no tiene visibilidad sobre las contraseñas o métodos de pago". De hecho, tal como se recoge en el tercer punto de la sección 'Built to be Private, Safe, and Secure' del anuncio, la tecnológica afirmó directamente que "cualquier credencial que una persona comparta va a un espacio seguro". Muse de Meta es una nueva 'app' disponible desde el 8 de septiembre que pone a un agente de IA en la mano de los usuarios para gestionar el calendario, reservar un viaje, cambiar de póliza de seguro del coche o renegociar una factura, entre otras tareas, y siempre con los permisos que ha de conceder el usuario en su móvil para que realice todo lo mencionado en su nombre. Así, desde el domingo, cuando un usuario intenta comprar algo en la tienda de Amazon con Muse AI verá una notificación emergente en la que se puede leer que "el acceso continuado por un agente de IA no autorizado viola las Condiciones de Uso de Amazon, que los clientes han aceptado". Ante el auge de los agentes de IA que, entre otras tareas, están siendo utilizados para las compras 'online', Amazon ha puesto a buen recaudo su tienda frente a los agentes de Google y OpenAI al bloquearlos desde 2025 e incluso llegó a demandar a Perplexity por el uso de su navegador Comet para las tareas agénticas de compra en su tienda. A ello se suma que cuenta con su propia experiencia de compra impulsada por IA, Alexa for Shopping, con capacidad para operar tanto en la aplicación móvil como en la web y a trávés de los dispositivos Echo Show. De todas maneras, Amazon y Meta mantienen una relación como aliados estratégicos, con Amazon dando acceso a sus listas desde Facebook o Instagram y Meta firmando un contrato multimillonario para usar los chips Graviton de Amazon.

InfobaeInfobae•Newsroom Infobae22 sept

Tras las advertencias de Anthropic, OpenAI presenta su propio plan para una IA segura

"Nuestro objetivo es garantizar que la inteligencia artificial (IA) general beneficie a toda la humanidad". Así empieza el artículo titulado "Desarrollar los estándares para la próxima fase de la IA" que publicó ayer mismo OpenAI. Sam Altman, el director general de este laboratorio, y Jakub Pachocki, su científico jefe, se han mostrado preocupados públicamente durante los últimos días por el desarrollo vertiginoso que está experimentando la IA. El artículo titulado "Una mente alienígena" que este último publicó el pasado 6 de septiembre no tiene desperdicio. Sea como sea, algo está cambiando en los principales laboratorios de IA estadounidenses. Hasta hace apenas dos semanas se habían precipitado a una carrera desenfrenada por liderar el desarrollo de los modelos de frontera, y ahora estas mismas corporaciones quieren echar el freno. No obstante, hay algo más. Están empezando a proponer itinerarios que, en teoría, persiguen minimizar los riesgos asociados a la posible llegada de un modelo de IA lo suficientemente avanzado como para poder desarrollar por sí mismo modelos aún más sofisticados. Este concepto se conoce como mejora recursiva . La solución a este escenario propuesta por OpenAI en el artículo que publicó ayer requiere establecer unos estándares técnicos comunes para los modelos de IA de frontera. De esta forma la seguridad, las evaluaciones y la gestión de los incidentes no dependerán únicamente de los laboratorios implicados y los países a los que pertenecen; habrá una supervisión presumiblemente neutral y superior que aprovechará el trabajo que ya están realizando los institutos de seguridad de la IA. El auténtico desafío es proteger el control humano de los modelos de IA El punto de partida de la estrategia que propone OpenAI consiste en encontrar la forma de que el desarrollo de los modelos de frontera esté acompañado por un desarrollo equiparable de la investigación en alineamiento. El propósito del alineamiento es garantizar que los modelos de IA más capaces y autónomos se comportan de acuerdo con los objetivos del ser humano y permanecen en todo momento bajo su supervisión. En este contexto la principal amenaza es, según los laboratorios estadounidenses que se han pronunciado, la automejora recursiva. En Xataka China ha logrado lo que parecía imposible: una batería capaz de seguir funcionando incluso a -70 ºC La automejora recursiva completamente autónoma todavía no existe Si un modelo de frontera adquiere la capacidad de mejorar sus propias habilidades generando nuevas versiones de sí mismo u otros modelos aún más avanzados sin la intervención y la supervisión de sus creadores, el ser humano podría perder el control de su invención. Además, OpenAI advierte que a medida que se incrementa el grado de automatización mayor es también la velocidad de progreso de la IA. No obstante, reconoce que la automejora recursiva completamente autónoma todavía no existe. De hecho, este laboratorio sostiene que esta última capacidad no debe perseguirse hasta que pueda implementarse de una forma segura. La preocupación por el correcto alineamiento de la IA está presente en todo el artículo de OpenAI, pero sus propuestas no se ciñen solo a este desafío. Altman y sus compañeros defienden que es necesario crear un protocolo que identifique aquellos incidentes ocasionados por los modelos de IA de frontera que es preciso notificar a las autoridades. Además, creen que es necesario que los países cooperen para elaborar mecanismos de actuación conjunta ante este escenario. Esta propuesta de OpenAI ha llegado en un momento en el que el debate acerca de la gestión de los riesgos derivados del desarrollo de los sistemas de IA avanzados parece estar alcanzando su punto álgido. Puede que las iniciativas de Anthropic, OpenAI y otros laboratorios estadounidenses no caigan en saco roto y finalmente prosperen, pero no basta. A EEUU probablemente no le va a costar conseguir la complicidad de sus aliados, pero lo más importante es que se alinee en este ámbito con China para que los laboratorios de IA de ambos países estén sometidos a los mismos estándares de seguridad y protocolos de actuación. Y ahora mismo nada parece indicar que este acuerdo sea posible a corto plazo. Imagen | Generada por Xataka con ChatGPT Más información | OpenAI En Xataka | "No confío en que Anthropic y OpenAI abran la IA de frontera": un ingeniero de DeepSeek carga contra EEUU - La noticia Tras las advertencias de Anthropic, OpenAI presenta su propio plan para una IA segura fue publicada originalmente en Xataka por Laura López .

XatakaXataka•Laura López22 sept

SpaceX AI lanza Grok 4.7, más potente en programación y tareas de conocimiento general al mismo precio que su predecesor

SpaceX AI ha anunciado Grok 4.7, su nuevo modelo de Inteligencia Artificial (IA) que integra mejoras tanto en programación avanzada como en tareas complejas de conocimiento general, manteniéndose al mismo precio y con la misma velocidad de ejecución que su modelo predecesor Grok 4.6. El laboratorio de IA ha dado a conocer todos los detalles del nuevo modelo subrayando sus capacidades más avanzadas, que se deben, en parte, a ha sido entrenado con un modelo base nuevo y más grande que el utilizado para Grok 4.6, mediante técnicas de aprendizaje de refuerzo prolongado en tareas complejas que pueden requerir horas de ejecución, en vez del entrenamiento base que se distingue por la lectura de millones de textos para aprender lenguaje y conocimiento general (memoriza patrones). Como resultado, SpaceX AI ha asegurado en un comunicado en su web que Grok 4.7 destaca por ser capaz de verificar su propio trabajo y gestionar contextos de gran extensión, lo que permite conversaciones más extensas en las que el usuario no tiene que estar recordando los contextos iniciales. Siguiendo esta línea, SpaceX AI ha trabajado laboriosamente para que Grok 4.7 sea un modelo mejorado en programación (integrado en CursorBench 4.0), redacción técnica, análisis legal y tareas avanzadas de oficina o ingeniería eléctrica. Asimismo, el modelo contiene una nueva arquitectura de mitigación de riesgos que ha logrado una de las tasas más bajas de 'jailbreak' y acceso indebido. Concretamente, SpaceX AI ha destacado que ha sido capaz de bloquear el 96,7 por ciento de solicitudes de uso malicioso en HackerBench v0.3. A la hora de comparar el rendimiento de Grok 4.7 frente a Grok 4.6, GPT-5.6 Sol Max y Fable 5.1 Max, cabe destacar que en trabajo legal (Harvey Legal Agent Benchmark) se diferencia abruptamente con un 19,6 por ciento para triplicar la puntuación de Fable 5.1 (6,7 por ciento) y multiplica casi por 8 a GPT-5.6 Sol (2,5 por ciento). En cuanto al coste, Grok 4.7 es 8,3 veces más barato en salida que Fable 5.1 costando 2 y 6 dólares en entrada y salida respectivamente, y 3,3 veces más barato que Sol, destacando en varios campos frente a estos modelos. No obstante, Fable 5.1 sigue dominando la ejecución autónoma de Terminal (57,9 por ciento) para sacar 19,9 puntos a Grok (38 por ciento) y 20,6 puntos a Sol de OpenAI. Grok 4.7 ya está disponible en la API de Grok, Cursor, Grok Build y plataformas en la nube asociadas. Además, SpaceX AI ofrece una variante más rápida que dobla la velocidad de salida a dos veces el precio.

InfobaeInfobae•Newsroom Infobae22 sept

El estado de Columbia Británica demanda a OpenAI por un tiroteo en escuela de Canadá

El estado canadiense de Columbia Británica ha presentado este lunes una demanda contra OpenAI en Estados Unidos por no haber informado sobre la actitud violenta del responsable de un tiroteo en un colegio de Canadá. La fiscal general de este estado del oeste canadiense, Niki Sharma, anunció en julio que la provincia tenía previsto emprender acciones legales contra el gigante tecnológico estadounidense por el tiroteo en la localidad Tumbler Ridge, en el que murieron ocho personas . Sharma declaró que la demanda busca «que OpenAI rinda cuentas y cambie su forma de actuar» después de que la compañía no advirtiera de la cuenta de una transgénero de 18 años que mató a principios de febrero a ocho personas en su domicilio y en un colegio en la localidad de Tumbler Ridge . Las familias de las víctimas del tiroteo ya habían presentado demandas por separado contra OpenAI en California, pero la compañía ya ha pedido que se desestimen las demandas familiares bajo el argumento de que cualquier acción legal relacionada con el tiroteo debe tramitarse en Columbia Británica. Preguntada por qué Columbia Británica había acudido a la justicia estadounidense, Sharma contestó: «La decisión de no denunciar se tomó en California». «Lo que alegamos en nuestra demanda es que OpenAI sabía que estaban ocurriendo cosas graves en ese chat y no lo denunció». El director ejecutivo de OpenAI, Sam Altman, pidió en abril disculpas a los vecinos de Tumbler Ridge y afirmó en una carta pública que lamentaba «profundamente no haber alertado a las fuerzas del orden sobre la cuenta que fue suspendida en junio» de 2025. OpenAI ha declarado que no denunció la cuenta de Jesse Van Rootselaar en el momento de la suspensión porque no vio indicios de un ataque inminente. Altman señaló entonces que, según las directrices de seguridad actualizadas en junio de 2025, esa cuenta se habría denunciado a la policía.

ABCABC•(abc)21 sept