Sam Altman reconoció que la preocupación de la gente respecto a la inteligencia artificial está justificada; los críticos sostienen que no se puede confiar en que las empresas se autorregulen
Los Ángeles.- El director ejecutivo de Meta , Mark Zuckerberg , defendió que cada empresa debe asumir por su cuenta “la responsabilidad ” de garantizar que sus modelos de inteligencia artificial ( IA ) sean seguros , con lo que se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología . El fundador de Facebook usó sus redes sociales para opinar en medio del debate sobre los peligros de la inteligencia artificial y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación. "Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió. Zuckerberg se refirió directamente al “gran debate” sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación como ha propuesto Dario Amodei , director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman , de OpenAI, y Elon Musk , de SpaceX y xAI. También destacó que Meta retrasó el lanzamiento de su agente de IA , Muse, durante varios meses para centrarse en la seguridad y la protección. “No exigimos que los demás hicieran lo mismo antes que nosotros”, señaló Zuckerberg, quien evitó mencionar explícitamente al líder de Anthropic ni a sus otros competidores. A su juicio, una forma de garantizar que la IA se desarrolle de manera segura reside en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora. Los comentarios de Zuckerberg siguen a la propuesta de Musk que a inicios de esta semana abogó para que los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos. En ese sentido, el director de Meta dijo que MLS , su laboratorio de inteligencia artificial, ya cuenta con evaluadores y asesores independientes. "En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", agregó. La iniciativa del fundador de Tesla se dio en medio de pedidos de los máximos responsables de laboratorios punteros como Amodei, Altman y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. La oleada de llamados se dio tras los comentarios del ingeniero tecnológico Jacob Coxon , exempleado de Anthropic y OpenAI, quien dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Te puede interesar: Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas OpenAI, Anthropic y Google DeepMind van por ente que supervise a la IA "La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc
Un investigador independiente afirmó que los agentes rebeldes de OpenAI comprometieron dos cuentas de usuarios de Hugging Face y las utilizaron para enviar archivos con formatos inusuales a los servidores de la plataforma
Los modelos de lenguaje actuales están basados en texto, con chatbots como ChatGPT, Gemini o Claude que responden a preguntas y conversan con los usuarios. Sin embargo, Diogo Almeida, uno de los investigadores pioneros de OpenAI y cocreador de esta tecnología, ha decidido tomar el camino opuesto con TypeSafe AI, su nueva empresa. Después de dos años en desarrollo, la compañía presenta Jev, un modelo de inteligencia artificial que destaca por no generar texto. En vez de redactar respuestas secuenciales, este modelo está diseñado para la automatización lógica en código informático y la toma de decisiones estructuradas. La IA recibe información sin estructurar y devuelve opciones concretas junto con su grado de probabilidad. La ausencia de escritura permite eliminar las alucinaciones tipográficas y los errores de formato que pueden sufrir los modelos conversacionales cuando acaban integrados en aplicaciones empresariales. «Piensa en Jev como una llamada a una función de inteligencia de frontera: entra un estado no estructurado, salen decisiones probabilísticas tipadas», describe Almeida en un comunicado . El creador también reflexiona sobre la motivación tras el proyecto: «Los modelos han sido sobrehumanos en el chat durante años, así que, ¿dónde está toda la automatización?». Partiendo de este enfoque, la compañía pretende construir un sistema intuitivo y rápido enfocado exclusivamente a las máquinas. Para ello, TypeSafe AI ha desarrollado una técnica de entrenamiento llamada «Aprendizaje por Refuerzo para Decisiones Calibradas» (RLCD, por sus siglas en inglés), que viene acompañada de una arquitectura de muestreo en paralelo. Jev alcanza tiempos de respuesta de entre 70 y 500 milisegundos, en comparación con los entre 3 y 329 segundos que pueden tardar los modelos tradicionales, según cifras de la propia empresa. En flujos de trabajo complejos, el sistema resulta hasta 193,6 veces más rápido que sus rivales. Este modelo de IA permite disminuir el desembolso económico, pues el precio es de 42 dólares (36 euros) por cada 1.000 millones de 'tokens' de entrada (apenas 3,6 céntimos por cada millón de 'tokens'), mientras que los modelos conocidos cuestan desde 0,2 hasta 10 dólares (de 0,17 a 8,67 euros) por un millón de 'tokens'. Además, al no generar cadenas de texto tradicionales, los 'tokens' de salida son totalmente gratuitos, ya que resultan «demasiado baratos para medirlos». En comparación con otras IA, los 'tokens' de salida suelen ser cinco veces más caros que los de entrada. La empresa de Almeida ya ha demostrado sus capacidades haciendo que la IA controle a un personaje del videojuego 'Doom' en tiempo real, realizando diez consultas por segundo con un coste de apenas 7 dólares (6,07 euros) por hora. También ha demostrado gran habilidad resolviendo búsquedas complejas en Wikipedia.
OpenAI prueba en Estados Unidos los Agentes Patrocinados, un formato que permite conversar con una empresa después de ver un anuncio en ChatGPT, mientras amplía sus herramientas publicitarias con IA e integraciones con Shopify y HubSpot.
ESTADOS UNIDOS - La Reserva Federal decide sobre los tipos de interés en medio de la creciente expectativa por el posible primer incremento de tasas desde julio de 2023 ante los persistentes niveles de inflación en Estados Unidos. (foto)(video) - El presidente de Estados Unidos, Donald Trump, pronuncia un discurso en Gastonia (Carolina del Norte), en un acto en el aeropuerto municipal de la ciudad, en plena campaña de las elecciones legislativas del 3 de noviembre. (foto)(video) - La Academia Latina de la Grabación anuncia a los nominados a los Latin Grammy, uno de los reconocimientos más prestigiosos de la industria musical hispana y latina, cuyos ganadores se darán a conocer en la 27º edición de sus premios el 12 de noviembre en Las Vegas. (foto) (video) (directo) - La cantante española Rosalía culmina su gira ‘LUX’ en Miami, donde suspendió los conciertos en junio tras una emergencia familiar, por lo que miles de fans llegan a esta ciudad de Estados Unidos para despedir el mayor tour de la artista hasta ahora. (foto)(video) - La esperada oleada de salidas a bolsa de las grandes empresas de inteligencia artificial afronta nuevas dudas después de que OpenAI haya decidido aplazar sus planes hasta el próximo año. - Terminan las reuniones de ministros de Energía del G20 en Houston, Texas, con representación de Venezuela y centrado en la "abundancia energética" para ampliar el acceso a energías como el petróleo y el gas. (foto) (video) - El secretario de Estado de Estados Unidos, Marco Rubio, se reúne con el canciller de Costa Rica, Manuel Tovar, en el Departamento de Estado. (foto) (video) - Coalición de derechos civiles afroamericanos y latinos piden proteger con urgencia el derecho al voto con vistas a las elecciones de medio de mandato de noviembre. - Los astronautas de la Crew-12 ofrecen una conferencia de prensa desde la Estación Espacial Internacional para compartir los detalles de su misión antes de regresar a la Tierra. (foto)(video) - El periódico La Opinión celebra un siglo de historia como referente de la comunidad hispana en California y tras consolidarse como el diario en español más grande e influyente de Estados Unidos. (foto) MÉXICO - La investigación sobre el asesinato de la estudiante española Claudia Tacoronte en el estado mexicano de Morelos continúa en medio del silencio de las autoridades y las exigencias de justicia de la comunidad estudiantil. (foto)(video) - La presidenta de México, Claudia Sheinbaum, encabeza el desfile militar por el 216 aniversario de la Independencia en medio de una renovada defensa de la soberanía nacional frente a las presiones de Estados Unidos. (foto)(video) MALVINAS - Más de cuatro décadas después, la guerra de 1982 entre Argentina y el Reino Unido sigue dejando huellas en las islas Malvinas, donde el recuerdo de los combates convive con visitas de veteranos y recorridos por antiguos campos de batalla, mientras continúa la disputa por la soberanía. (foto)(video) COLOMBIA - Entrevista con el cantante colombiano Santiago Cruz, quien presenta su nuevo disco, Fragmentos, que sale a la venta el 16 de septiembre con 11 temas que hablan de relaciones, soledad y resiliencia. (foto)(video) - El Departamento Administrativo Nacional de Estadística (DANE) divulga el resultado del Índice de Producción Industrial de Colombia en julio. VENEZUELA - Pacientes con colitis ulcerosa y enfermedad de Crohn en Venezuela convocan a una manifestación para exigir acceso a sus tratamientos médicos. PERÚ - Un grupo de fuerzas navales de varios países realiza un ejercicio de asistencia humanitaria en un playa peruana como parte de los ejercicios y maniobras militares Unitas 2026, que reúnen a fuerzas militares de 23 países. (foto)(video) - El Senado de Perú vota la autorización solicitada por la presidenta, Keiko Fujimori, para viajar a Nueva York a participar en la asamblea general de las Naciones Unidas, del 21 al 25 de septiembre. BRASIL - El presidente brasileño, Luiz Inácio Lula da Silva, encabeza un mitin en Brasilia como parte de su campaña para las elecciones de octubre. (foto) - El Banco Central brasileño divulga la variación en julio del Índice de Actividad Económica (IBC-Br), el indicador que usa para proyectar el resultado del PIB. - La Academia Brasileña de Cine anuncia la película que representará a Brasil en la próxima edición de los Premios Óscar. - El Banco Central de Brasil define si modifica la tasa básica de interés, situada en el 14,0 % anual, en la recta final de una campaña presidencial marcada por el debate sobre los altos tipos y el endeudamiento familiar. CANADÁ - Festival Internacional de Cine de Toronto (TIFF). (foto) (video) GUATEMALA - La sequía ha pegado con fuerza en el oriente de Guatemala, donde la falta prolongada de lluvias arrasó por completo con las 3,5 hectáreas de maní de Felícito Marroquín, un agricultor de 72 años, quien hoy lucha por sobrevivir en la tierra árida.(foto)(video) ECUADOR - Miles de personas vuelven a salir a las calles por segundo año consecutivo en la ciudad ecuatoriana de Cuenca para defender las lagunas de Kimsacocha, al considerar que están amenazadas por el proyecto minero Loma Larga, de la empresa canadiense Dundee Precious Metals (DPM). (foto)(video) - Un tribunal de Ecuador analiza la apelación a la sentencia de tres años de cárcel impuesta al encarcelado alcalde de Guayaquil, Aquiles Alvarez, uno de los principales opositores del presidente Daniel Noboa, por no haber tenido puesto el grillete electrónico que se le ordenó usar en otro caso. BOLIVIA - El Parlamento de Bolivia instala una sesión para analizar la ampliación del estado de excepción por 90 días más a solicitud del Ejecutivo del presidente Rodrigo Paz. (foto)(video) URUGUAY - El presidente de la Administración Nacional de Puertos de Uruguay, Pablo Genta, participa en un encuentro sobre el papel de los puertos en el desarrollo del país, marcado por un conflicto sindical y por un proyecto de un consorcio chileno. (foto)(video) - El uruguayo Sergio Abreu cierra su ciclo como secretario general de la Asociación Latinoamericana de Integración tras seis años al frente del organismo. (foto) (video) PANAMÁ - Miles de personas acuden a una gran feria de empleos en la capital de Panamá, un país que pese a su buen ritmo de recuperación económica está azotado por un desempleo que parece persistente y bajos niveles de salario. (foto) (vídeo) DEPORTES Estados Unidos.- El Inter Miami y el Cruz Azul disputan en el Nu Stadium de Miami la Campeones Cup, un torneo anual que enfrenta al vigente campeón de la MLS y el ganador del Campeón de Campeones de la liga del fútbol mexicana. (foto)(video) Argentina.- Continúan los Juegos Suramericanos 2026, que se celebran en la provincia argentina de Santa Fe. (foto) Brasil.- Partido de vuelta entre Corinthians y Estudiantes de cuartos de final de la Copa Libertadores. (foto) Brasil.- Partido entre Atlético Mineiro y Santos, correspondiente a la vuelta de los cuartos de final de la Copa Sudamericana. (foto) Honduras.- Previa del juego de vuelta entre el Olimpia, hondureño, y Luis Ángel Firpo, salvadoreño, de los cuartos de final, de la Copa Centroamericana de la Concacaf. (foto) El Salvador.- El Alianza de El Salvador se enfrenta al FC Motagua de Honduras en el partido de vuelta correspondiente a los cuartos de final de la Copa Centroamericana de la Concacaf 2026. Uruguay.- Previa del encuentro que Montevideo City Torque y el peruano Cienciano disputarán el 17 de septiembre en Uruguay por la vuelta de los cuartos de final de la Copa Sudamericana. EFE mesaamerica@efe.com ma/lnm
Naciones Unidas, 16 sep (EFE).- El secretario general de la ONU, António Guterres, pidió este miércoles a los gobiernos que asuman responsabilidades y que impulsen una visión "global y coordinada" para hacer frente a la amenaza de una inteligencia artificial (IA) "desbocada". "No podemos permitirnos ignorar las preocupaciones que se han planteado, especialmente por quienes están en primera línea del desarrollo de la IA", aseguró Guterres en una rueda de prensa en la sede de la ONU en relación a las advertencias de los principales líderes del sector sobre el avance de la tecnología. Hace unos días, Dario Amodei, consejero delegado de Anthropic, reclamó una mayor regulación de la IA para contener los riesgos de un avance sin límites y evitar perder el control de sistemas cada vez más potentes, propuesta que recibió el respaldo del director ejecutivo de OpenAI, Sam Altman, y del magnate Elon Musk. El secretario general, que reconoció el "enorme potencial" de la tecnología, exigió "salvaguardias" que hagan que sea "segura, transparente y responsable". En primer lugar, Guterres apostó porque los gobiernos asuman su responsabilidad para proteger a sus ciudadanos, pero reconoció que no será suficiente si esto no se traduce también en una estrategia mundial. "La IA no se detiene en las fronteras, no tampoco sus riegos. Las pausas voluntarias, aisladas, imposibles de verificar y aplicadas de manera desigual no resolverán el problema", declaró. Por eso, según avanzó, la IA será uno de los temas centrales en sus conversaciones con los líderes internacionales que acudan al debate general de la próxima Asamblea General de la ONU, que tendrá lugar entre el 22 y el 28 de septiembre. "Necesitamos un entendimiento compartido sobre cómo avanzar en un desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir salvaguardias más firmes o medidas adicionales para gestionar los riesgos potenciales", apuntó. El diplomático portugués reconoció que las divisiones geopolíticas podrían generar tentaciones en la carrera por el desarrollo de la IA, pero, a su juicio, el mundo no puede permitirse una competición en la que se sacrifique la seguridad para ganar ventaja. Guterres calificó la "IA desbocada, la crisis climática y la profundización de las desigualdades" como las principale crisis existentes. El año pasado, Naciones Unidas lanzó su primer organismo científico específicamente sobre esta tecnología para "garantizar que las políticas se guíen por la evidencia". EFE (vídeo)
Un grupo de investigadores encontró que los agentes rebeldes de OpenAI que hackearon a Hugging Face intentaron acceder al sitio dos meses antes del incidente conocido
Inversores de OpenAI han presentado propuestas para impulsar una nueva ronda con una valoración de USD $1,2 billones, aunque la empresa no participa actualmente en conversaciones formales. El movimiento llega meses después de una recaudación récord y mientras la startup evalúa su camino hacia una posible oferta pública inicial.
El hackeo a Hugging Face que perpetraron agentes de IA rebeldes de OpenAI sigue dando que hablar, ya que día tras día se conoce más del suceso. Si bien la empresa que lidera Sam Altman hizo público su propio reporte del evento, investigadores independientes continúan desentrañando detalles hasta aquí desconocidos o maquillados para evitar una […] Seguir leyendo: El hackeo a Hugging Face por los agentes rebeldes de OpenAI empezó mucho antes de lo que se creía
Hipertextual•Gabriel Erard16 sept
El debate sobre la regulación externa o no se abre paso en el mundo debido al crecimiento de la Inteligencia Artificial.
Jesús Centeno Nueva York, 16 sep (EFE).- Las esperadas salidas a bolsa de las grandes empresas de inteligencia artificial (IA) afrontan nuevas dudas después de que OpenAI descartara salir al mercado este año, en un contexto marcado por los llamados a regular la tecnología y el escrutinio sobre las elevadas valoraciones y costes del sector. El próximo gran examen para Wall Street será Anthropic, rival de OpenAI y creadora del modelo Claude, que presentó confidencialmente en junio ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) la documentación para una eventual salida a bolsa. La compañía espera lanzar la oferta a mediados de octubre como pronto, después de retrasar la publicación de su folleto hasta finales de septiembre, en una operación que busca captar hasta 100.000 millones de dólares con una valoración total de unos 2 billones, según dijo en agosto el Wall Street Journal (WSJ). De acuerdo con el medio Axios, Anthropic prevé cotizar en el Nasdaq, con una posible salida en octubre. De materializarse, esta operación pondrá a prueba hasta qué punto los inversores están dispuestos a trasladar al mercado las enormes valoraciones que las compañías de IA han alcanzado en privado, destacan los expertos. "La pregunta ahora no es si estamos ante una burbuja, sino cuánto valor será capaz de crear la IA", señala Kim Posnett, de Goldman Sachs, quien define el momento como un "superciclo de inversión" con posibles "excesos especulativos". Mientras, el profesor de Finanzas de la Universidad de Nueva York Aswath Damodaran considera que "es muy difícil poner un valor a un mercado que todavía no existe" y cuestiona estimaciones tan elevadas como las que cita el WSJ. Además, al seguir siendo privadas, estas compañías no están sujetas al mismo nivel de transparencia financiera que las empresas cotizadas, lo que dificulta aún más evaluar sus cuentas actuales y sus perspectivas. Por su parte, OpenAI ha descartado salir a bolsa este año, avanzó el pasado sábado su consejero delegado, Sam Altman, que ha vinculado el aplazamiento a las recientes preocupaciones sobre la seguridad de la IA, apuntando a 2027 como posible nuevo horizonte. Altman ha respaldado además la petición de reducir el ritmo de desarrollo de los modelos más avanzados, formulada por Dario Amodei, confundador y consejero delegado de Anthropic, que ha reclamado que la industria dé tiempo a que las medidas de seguridad alcancen el ritmo de avance de la tecnología. Más allá de las preocupaciones sobre las capacidades que puedan alcanzar los modelos más punteros, su desarrollo plantea una cuestión financiera, ya que exige inversiones millonarias en centros de datos, chips y electricidad y aumenta las dudas sobre si ese enorme gasto acabará generando beneficios. Joachim Klement, analista de Panmure Liberum, señala que las caídas registradas esta semana por Nvidia, uno de los grandes protagonistas de la acelerada expansión de la IA, y otros fabricantes son "una pequeña muestra" de lo que sucedería si terminara el actual ciclo del gasto en IA. Por su parte, Lisa Shalett, de Morgan Stanley, asegura en un informe que "los mercados quieren más pruebas de que el enorme gasto de capital en IA dará sus frutos" en lugar de "limitarse a recibir titulares sobre nuevas inversiones". A todo esto se suma la incertidumbre regulatoria, según Libby Cantrill, responsable de Políticas Públicas de la gestora de fondos PIMCO, quien considera poco probable una regulación federal estadounidense a corto plazo, pero sí una mayor intervención de los estados, especialmente sobre los centros de datos. Según su análisis, ciudades de 32 estados de EE.UU. han avanzado hacia moratorias y hasta 26 estados estudian restricciones, medidas que pueden elevar en 2027 los costes de construcción y causar retrasos en proyectos de infraestructura de IA, encareciendo el capital necesario para las compañías que aspiren a salir a bolsa. Con todo, el apetito por las empresas relacionadas con la IA ha sido elevado en los mercados durante los últimos meses, aunque con volatilidad. Cerebras, fabricante de chips especializados en IA, recaudó 5.550 millones de dólares en su salida a bolsa del pasado mayo a 185 dólares por acción, llegó a abrir a 350 dólares y superó los 385, aunque ahora cotiza de nuevo en torno a los 185 dólares. Algo similar ocurrió con SpaceX, que debutó en junio a 135 dólares por acción, llegó a superar los 225 dólares y posteriormente cayó hasta los 104,83 dólares, antes de recuperar el nivel de salida. EFE
El CEO de Meta explicó que la empresa aplazó la llegada de su asistente personal para añadir más protecciones, en medio del debate por fallos recientes y por el riesgo de perder el control
Sam Altman, el CEO de OpenAI, ha hecho una declaración llamativa : "el mundo tiene razón al tener miedo de esto". Se refiere, cómo no, a la amenaza que plantea la IA y que hizo que su rival empresarial, Dario Amodei, dijera hace unos días que había que cambiar el ritmo de desarrollo de la IA . Fiaos de nosotros . Los modelos han avanzado tanto y tan rápido, asegura, que "ya no hace falta tanta imaginación" para pensar que algo podría salir mal. Sin embargo su solución a ese problema es una que ya conocemos: que nos fiemos de él: "el mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto". OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero Esta bien tener miedo . Durante el evento organizado por Salesforce, Altman puso como ejemplo el conocido incidente con Hugging Face . Lo calificó como el peor evento de ciberseguridad registrado por OpenAI y también como un problema de alineamiento: le habían enseñado al modelo cómo conseguir el mejor resultado posible, pero no pusieron los límites suficientes para indicar lo que no podía hacer para superar el objetivo. Para Altman esto obliga a elevar el nivel de seguridad, monitorización y alineamiento a medida que las capacidades de los modelos avanzan. Si hace falta, OpenAI frenará . Altman asegura que la seguridad debe mantenerse por delante de las capacidades de los modelos, y que su empresa está dispuesta a ralentizar o incluso detener el desarrollo si llega un momento en que no pueden garantizar esa seguridad. Ya nos ocupamos . En OpenAI de hecho han prometido públicamente ese compromiso: cuando un sistema de IA plantee un riesgo inaceptable que no puedan mitigar suficientemente, ralentizarán o detendrán su desarrollo o despliegue. Altman no solo confía en OpenAI, sino en toda la industria para desarrollar la tecnología de inteligencia artificial de forma segura. El problema es quién decide cuándo hemos llegado a ese punto . Dario Amodei, CEO de Anthropic, lleva días defendiendo esa premisa. Propone la entrada en acción de evaluadores externos, que haya coordinación entre empresas e incluso se habla de acuerdos internacionales. Zuck entra en acción . Jensen Huang y Trump, como vimos , no piensan igual, pero hace unas horas el que se pronunciaba a favor de tener cuidado era Mark Zuckerberg. El creador de Facebook indicaba que Meta retrasó durante meses su agente Muse por motivos de seguridad sin pedir a sus competidores que hicieran lo mismo. En Xataka Todos los modelos de IA hacen trampas si les das ocasión. Decirles “no hagas trampas” no basta Un discurso interesado . El CEO de OpenAI apoya esa coordinación entre empresas de la que hablaba Amodei, pero destaca que esas mismas empresas deberían estar dispuestas a frenar el desarrollo de sus modelos de IA independientemente de lo que hagan sus rivales. Es un discurso que le beneficia a él y a los demás CEOs de estas empresas, porque simplemente deja la pelota en su tejado. No queda claro —por supuesto, no interesa que quede así— quién debe medir el peligro y cuándo se debe poner freno a ese desarrollo. Imagen | Flickr En Xataka | Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral 1 - La noticia “El mundo tiene razón al tener miedo de la IA”. La solución de Sam Altman es que confiemos en quienes la están construyendo fue publicada originalmente en Xataka por Javier Pastor .
Justin Sun anunció en Ginebra un premio académico descentralizado que ofrecerá hasta USD $1 millón por problemas matemáticos acompañados de pruebas formalizadas y verificables por máquinas. El primer gran reconocimiento, según el comunicado, fue atribuido a un equipo de OpenAI por un trabajo sobre Navier-Stokes generado por un modelo interno y formalizado en Lean; la validez del resultado aún debe distinguirse de la afirmación del anuncio y de la revisión matemática independiente.
La Real Sociedad Matemática Española señala que el avance debe ser demostrado de manera “rigurosa, comprensible y verificable”
La Vanguardia•Autor Agencias16 sept
El director ejecutivo de Meta, Mark Zuckerberg, asegura que cuando retrasaron el lanzamiento de Muse para mejorar la seguridad y las protecciones de su nuevo agente, lo hicieron porque esta decisión forma parte de su trabajo diario, una postura que traslada al resto de laboratorios de inteligencia artificial (IA) al señalar que cada uno tiene "la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura". El llamado a frenar el ritmo del desarrollo de la IA que ha hecho este fin de semana el director ejecutivo de Anthropic, Dario Amodei, sigue una serie de incidentes de seguridad ocurridos este verano en los que tanto la IA de Claude como la que desarrolla OpenAI han mostrado un comportamiento autónomo que ha resultado en el 'hackeo' de distintos sistemas, incluido el de la plataforma Hugging Face. Un día después, a las puertas de la salida a bolsa de OpenAI, el director ejecutivo, Sam Altman, decidió dar marcha atrás, justificando esta decisión en los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial, como GPT-5.6 Sol y GPT-6 Astra (o Claude Mythos y Fable, de Anthropic). El motivo se encuentra en los daños que esta tecnología puede causar en la sociedad en su conjunto si se descontrola, lo que se conoce como desalineación, es decir, el comportamiento que muestra una IA distintos del que se espera que tenga. Y aunque Anthropic y OpenAI abogan por esa pausa antes de lanzar nuevos modelos, una postura que respalda el fundador de SpaceXAI, Elon Musk, otros se han puesto como ejemplo de responsabilidad. Es el caso de Meta. Según ha indicado Zuckerberg en un comunicado compartido en X (antes Twitter), la firma tecnológica retrasó el lanzamiento de Muse --su agente de IA personal-- "varios meses" para centrarse "en la seguridad y la protección". "No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros", ha expresado el directivo. En base a su experiencia, Zuckerberg destaca el papel de los evaluadores y asesores independientes y defiende dirigir "la gran mayoría del cómputo hacia servir a las personas en lugar de competir hacia la automejora recursiva" como una forma de desarrollar IA de manera segura. "Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden", afirma, y añade que "cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias acciones para asegurar que eso ocurra".
La Real Sociedad Matemática Española (RSME) ha destacado la "preocupación urgente" ante la "falta de transparencia" del modelo de inteligencia artificial utilizado por OpenAI en la resolución del problema Navier-Stokes, "al tratarse de una herramienta interna y no accesible de manera pública". Así lo ha manifestado la institución en una declaración, recogida por Europa Press, en la que reconoce que la propuesta de solución al problema de Navier-Stokes presentada recientemente por OpenAI "constituye un hito de indudable relevancia para la comunidad matemática internacional", que pone de manifiesto un modelo de investigación basado en la colaboración directa entre humanos y sistemas de inteligencia artificial. Sin embargo, precisa que este avance "no surge en el vacío", sino que "se apoya en una larga trayectoria de trabajo colectivo desarrollada durante décadas por matemáticos de todo el mundo", entre los que destacan las aportaciones previas de Diego Córdoba, Luis Martínez-Zoroa y Fan Zheng, así como los avances recientes de Levent Alpöge y Tristan Buckmaster. Sin restar mérito a la rapidez con la que se ha obtenido este resultado, la RSME considera "indispensable" reflexionar sobre las implicaciones profundas de este nuevo paradigma. Así, destaca que la investigación matemática "va mucho más allá de la mera resolución de problemas o de la producción masiva de respuestas o enunciados cuya verdad debe ser verificada". "Históricamente, nuestra disciplina ha construido un cuerpo abstracto de métodos e ideas cuya finalidad última es la comprensión conceptual. Los grandes problemas abiertos han funcionado siempre como faros orientadores; su resolución no solo aporta una respuesta, sino que pone en marcha un proceso humano y colectivo de debates y discusiones que termina validando ese conocimiento e incorporándolo, cuando sea necesario, a la matemática que se enseña en la escuela y en la universidad", recoge la declaración. En particular, la RSME considera "esencial" distinguir entre la obtención de una respuesta correcta y la construcción de una demostración matemática "rigurosa, comprensible y verificable" por la comunidad científica. En este punto, defiende que una afirmación sobre la resolución de un problema abierto "no puede descansar únicamente en la confianza depositada en un sistema de inteligencia artificial, por avanzado que sea, ni en la plausibilidad de los argumentos que produzca". Para la organización, "la validación independiente, la identificación de las ideas esenciales y la posibilidad de explicar y reproducir los pasos de una demostración constituyen requisitos irrenunciables del conocimiento matemático": "La inteligencia artificial puede contribuir de manera extraordinaria a estos procesos, pero no debe sustituirlos". RIESGO DE LA IA EN LA INVESTIGACIÓN La RSME alerta de que existe "un riesgo real" de que el impulso de las empresas tecnológicas por utilizar las matemáticas como un simple banco de pruebas (benchmark) "desvirtúe el sentido esencial de la investigación". En este aspecto, observa una "seria desalineación" entre los fines comerciales de los desarrolladores de IA y las metas científicas y formativas de la comunidad matemática. "La producción acelerada de respuestas directas amenaza con interrumpir la cadena de transmisión humana y el desarrollo de habilidades analíticas que tradicionalmente se cultivan durante años de formación investigadora", advierte. La RSME considera especialmente necesario proteger las oportunidades de formación y desarrollo profesional de las nuevas generaciones de matemáticos. En su opinión, el aprendizaje de la investigación "requiere tiempo, esfuerzo, contacto con investigadores experimentados y la oportunidad de enfrentarse a problemas cuya dificultad no se mide únicamente por la posibilidad de obtener una respuesta". "Cualquier transformación tecnológica de la actividad matemática debe preservar estos espacios de aprendizaje y evitar que el acceso desigual a herramientas avanzadas amplíe las brechas existentes entre investigadores, instituciones y países", apunta la entidad, que subraya el valor "de una formación sólida en matemáticas". DUDAS SOBRE LA AUTORÍA Y EL RECONOCIMIENTO DEL TRABAJO PREVIO Por otra parte, señala que la presentación apresurada de resultados "plantea dudas legítimas" sobre la autoría, el crédito y el correcto reconocimiento de los trabajos previos en los que se fundamentan. En un contexto en el que la contribución de sistemas de inteligencia artificial puede resultar "difícil de delimitar", la RSME recalca que "resulta especialmente importante establecer con claridad qué ideas, desarrollos y verificaciones corresponden a los investigadores y cuáles proceden de las herramientas empleadas, así como reconocer adecuadamente las aportaciones anteriores que hacen posible un avance determinado". "La tecnología ofrece el potencial de enriquecer y acelerar el estudio matemático, pero su impacto positivo o destructivo dependerá en última instancia de las decisiones que tomen los seres humanos a cargo de su desarrollo y regulación", añade la RSME, que apuesta por una inteligencia artificial al servicio de la investigación matemática, capaz de ampliar las capacidades de los seres humanos "sin empobrecer la comprensión, la creatividad ni la dimensión colectiva de la ciencia". En este contexto, prevé que el verdadero progreso "no consistirá únicamente en resolver problemas cada vez más difíciles, sino también en hacer que las ideas que los sustentan sean accesibles, verificables y fecundas para las generaciones futuras". Por todo ello, la RSME se suma al reconocimiento del logro alcanzado, al tiempo que insta a las instituciones, a las empresas tecnológicas y a la comunidad investigadora a "garantizar el acceso abierto y transparente a los modelos, asegurar el respeto riguroso a la autoría y citación del trabajo previo, preservar la igualdad de oportunidades y defender la formación de estudiantes y el diálogo humano como el corazón indispensable del progreso matemático".
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fdce%2F589%2F162%2Fdce589162b505f741f92fc2de227faa5.jpg)
Sam Altman lanza una seria advertencia sobre el futuro de la inteligencia artificial y pide actuar antes de que el avance de los modelos cruce límites difíciles de revertir
El Confidencial•R. Badillo16 sept
OpenAI se encuentra en conversaciones preliminares con inversores para cerrar una ronda de financiación con la que la firma especializada en inteligencia artificial alcanzaría una valoración superior a los 1,2 billones de dólares (1,04 billones de euros) antes de su salida a Bolsa, después de que el CEO de la compañía, Sam Altman, anunciara que retrasaría este debut bursátil ante el debate generado en el sector para frenar el desarrollo de la IA. Según han adelantado varios medios como el 'Financial Times' y 'Bloomberg' citando a fuentes familiarizadas con el asunto, OpenAI ha mantenido reuniones con importantes inversores para esta nueva ronda de financiación, aunque las conversaciones todavía se encuentran en fase inicial y las cifras podrían modificarse. OpenAI captó en marzo 122.000 millones de dólares (unos 105.000 millones de euros) en su última ronda de financiación, liderada por Amazon, Nvidia y SoftBank, que otorgó a la 'startup' una valoración de 852.000 millones de dólares (unos 740.000 millones de euros). La firma de IA sopesará cuando concluir esta nueva ronda en el momento en que decida salir a Bolsa, con lo que todavía no cerrará la financiación ante la negativa de Altman a dar el paso de cotizar en los mercados bursátiles. "Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo", explicó el consejero delegado de la tecnológica creadora de ChatGPT en una entrevista con la revista 'Fortune'. OpenAI inició en junio los trámites para convertirse en una empresa cotizada con el registro confidencial ante la Comisión de Mercado y Valores (SEC) de una solicitud para saltar al parqué, sin embargo, los recientes acontecimientos en el sector, con las principales firmas de IA haciendo un llamamiento a frenar el desarrollo de los modelos por los potenciales riesgos, demorarán su estreno bursátil. SpaceX, compañía del magnate Elon Musk que se fusionó con la 'startup' de IA xAI, comenzó a cotizar en la Bolsa de Nueva York en junio con la mayor oferta pública inicial de la historia y Anthropic tiene previsto dar el paso en las próximas semanas.