"Reducir el ritmo"; Anthropic, OpenAI y Elon Musk urgen a desacelerar desarrollo de la IA y se abren a auditorías
Chronological coverage
First seen12 Sept, 17:13"Reducir el ritmo"; Anthropic, OpenAI y Elon Musk urgen a desacelerar desarrollo de la IA y se abren a auditorías
El jefe de OpenAI, Sam Altman , y el director de xAI, Elon Musk , dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei , en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial ( IA ), tras advertir que la tecnología avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global . "Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", anota Amodei en un extenso ensayo publicado hoy. Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face , en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento". "Excelente idea", bajar ritmo al desarrollo de la IA: Sam Altman Por separado, Altman respaldó el llamado del líder de Anthropic para moderar la velocidad del desarrollo de la inteligencia artificial , y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas. "Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", publicó Altman en la red social X poco después de conocerse la postura de su principal competidor . Altman calificó de "excelente idea" la iniciativa de abrir las puertas a auditores externos : "Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir", añadió. También descartó que la compañía creadora de ChatGPT vaya a debutar en el parqué bursátil a corto plazo y aseguró que 2026 "sería un momento poco aconsejable para salir a bolsa", ante la prioridad de resolver los desafíos de seguridad de los modelos avanzados de IA. "No nos estamos apresurando a una IPO (oferta pública inicial). En realidad, creo que dado todo lo que está sucediendo con la seguridad, este sería un momento poco aconsejable para salir al mercado bursátil", señaló Altman durante una entrevista con la revista Fortune , en la que descartó de forma taxativa un debut durante 2026. El ejecutivo subrayó que la matriz tecnológica continuará operando como firma no cotizada para esquivar presiones financieras externas: "Tenemos muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación", explicó, al tiempo que remarcó que la firma está dispuesta a tomar determinaciones contrarias al beneficio financiero inmediato de sus inversores en pos de salvaguardar el control humano sobre la tecnología. Musk, dueño de X, SpaceX y Tesla, también se sumó al llamado de Amodei y dijo que tiene razón, al repostear el mensaje del directivo en la red social. Anthropic, abierta a evaluaciones externas Según Amodei, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de IA " y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una " carrera hacia el abismo ". Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China . Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos. La propuesta contempla asimismo una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado , respaldados por mediación institucional y excepciones a las normas antimonopolio , además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Beijing. Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica. Frenar avance de la IA reducirá riesgos de un descontrol El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad. Esta semana, un investigador de Anthropic anunció su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable . El investigador, Jacob Coxon , quien también trabajó para OpenAI , competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el pasado martes. También te puede interesar OpenAI y Anthropic "están jugando con nuestras vidas", acusa ingeniero; IA "podría matarnos antes de que termine la década" OpenAI pide al Congreso de EU aprobar reglas obligatorias para la IA; busca controles para modelos más avanzados Crecen advertencias sobre el riesgo de la IA Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc
El Universal•EFE null
Follow-up14 Sept, 13:40¿Es posible desacelerar el desarrollo de la IA?
Líderes de IA proponen desacelerar su desarrollo por riesgos, pero la competencia feroz y falta de apoyo gubernamental complican el panorama. Empresas como Anthropic y OpenAI permiten verificación externa de seguridad, pero enfrentan escepticismo sobre sus verdaderas intenciones.
Clarín•Clarin.com - Home:format(jpg)/f.elconfidencial.com%2Foriginal%2Fbe5%2F8e8%2F6b5%2Fbe58e86b5873dffd946c9ecc6e0d33b3.jpg)
Follow-up14 Sept, 14:33Trump rechaza desacelerar el desarrollo de la IA: "Hay una conspiración enfermiza"
El mandatario responde así al dueño de la empresa de Claude, Dario Amodei, quien había hecho un llamamiento para frenar el avance sin frenos de esta industria
El Confidencial•P. Campos
Latest14 Sept, 21:18Qué significa desacelerar el desarrollo de la IA como pide el director de Anthropic
Aunque frenar el desarrollo de la IA puede parecer una solución rápida, dista mucho de ser algo fácil.
BBC Mundo