HeraldLoop

OpenAI — página 11

Organización · 234 artículos
Compartir

Cobertura, página 11

página 11 de 12
I

Sam Altman (OpenAI) advierte de que se puede perder el "control del futuro" ante la IA

Redacción Ciencia, 14 sep (EFE).- El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención esta madrugada sobre la perdida del "control del futuro" ante la Inteligencia Artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X. Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si un IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos". "Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó. El directivo de OpenAI consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país o un laboratorio tenga demasiado poder. Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado". En este sentido, apeló a un marco legal federal en EEUU que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual. Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado. El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA. Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsables de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China. EFE

InfobaeInfobae•Newsroom Infobae14 sept

“¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas

El debate sobre el frenazo de la IA está en todas partes. La reciente reflexión de Dario Amodei ha provocado declaraciones y opiniones por todas partes, y el CEO de Anthropic ha dado ya varias entrevistas en las que amplía esa visión. En una de esas entrevistas con CBS Amodei plantea una idea singular al decir que le parece "muy extraño" que los modelos de IA avanzados estén siendo desarrollados por empresas privadas. Amodei no solo habla de regulación . En su participación Amodei explicó que el Gobierno y los propios ciudadanos deberían tener una participación en esta industria . En CBS le preguntaron si estaría dispuesto a entregar su tecnología al Gobierno, o incluso la propia compañía. Ahí Amodei explicó que no aceptaría esa propuesta, pero tampoco descartó el fondo de la cuestión: la IA no la debe controlar ni una sola empresa ni un solo gobierno, y lo que cree es que debería haber una "gobernanza conjunta" entre gobiernos. Todos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero No está pidiendo un "rescate" . Hace menos de un año OpenAI y Nvidia dejaron caer la necesidad de una implicación por parte del Gobierno de EEUU en el desarrollo de modelos de IA. Altman no quería un rescate , pero sí hablaba de acuerdos con Washington, y ahora Amodei tiene un discurso similar: cuanto más poderosa, cara y estratégica se vuelve la IA, más difícil resulta imaginarla como una industria privada. El propio Amodei quiere que el Gobierno participe en hacer esta industria más segura y que colabore en establecer reglas para incluso establecer ritmos de lanzamiento de nuevos productos. ¿Quién carga con el riesgo? Las empresas de IA están invirtiendo cantidades descomunales de dinero en centros de datos, chips o energía, y en EEUU ya se considera que esta infraestructura es crítica en su guerra comercial y tecnológica con China. Si aceptamos la tesis de Amodei de que los modelos pueden acabar convirtiéndose en una amenaza de seguridad nacional o escapar parcialmente al control de quienes la desarrollan, EEUU tiene cada vez más razones para intervenir . La pregunta incómoda es qué recibe a cambio. Anthropic no quiere dejar de ser Anthropic . En CBS le preguntaron a Amodei por una clara contradicción: venden modelos que la propia empresa considera peligrosos, lo que plantea una paradoja. La respuesta del CEO de Anthropic fue contundente: seguirán lanzando modelos avanzados. Así, aunque quiera que el Gobierno de EEUU tenga un papel mucho más claro en esta industria , también deja claro que en Anthropic quieren seguir siendo parte fundamental de su desarrollo. Esto nos recuerda a algo . Tras la crisis inmobiliaria y financiera de 2008 los bancos fueron rescatados porque dejarlos caer era una amenaza seria para el propio sistema financiero. Ahora los grandes laboratorios de IA están planteando algo que va incluso antes: qué pasa cuando una industria privada se vuelve demasiado estratégica para que el Gobierno pueda permitirse mantenerse al margen. De hecho, EEUU ya protege el acceso a sus chips y tecnología a países como China, así que lo que propone Amodei es que EEUU dé otro paso más hacia esa gobernanza conjunta. En Xataka Anthropic ha pillado a China copiando Claude. De paso ha demostrado cuánto sabe sobre lo que hacemos con él Una pregunta interesante . Si OpenAI y Anthropic (y otras) crean una tecnología extraordinariamente rentable, que es lo que prometen, la mayor parte del beneficio se lo quedarán ellas. Pero necesitarán fábricas, energía o financiación, y ahí el Estado tiene incentivos para ayudarlas. No solo eso: si la tecnología acaba siendo tan peligrosa como advierten los CEO de estas empresas, será también el Estado el que tenga que supervisarla y limitarla . Lo que plantea Amodei es llamativo: qué parte de la industria de la IA debe dejar de ser privada. En Xataka | OpenAI ya es una apuesta binaria: o consigue la AGI, o todo revienta - La noticia “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas fue publicada originalmente en Xataka por Javier Pastor .

XatakaXataka•Javier Pastor14 sept

El CEO de Anthropic dice que es hora de poner freno al desarrollo de la IA: "Le debemos a la humanidad intentarlo"

El CEO de Anthropic, Dario Amodei, ha avisado en una carta abierta de que es necesario frenar el ritmo de desarrollo de las capacidades de los modelos de Inteligencia Artificial (IA) ante una tecnología que, aunque tiene el potencial de transformar positivamente la sociedad, puede causar riesgos catastróficos. "Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de IA", ha afirmado el Amodei en la carta publicada en su web, debido a los riesgos de desalineación (cuando un sistema de IA actúa de forma distinta a las intenciones de sus creadores) e incidentes de seguridad. De hecho, Amodei cita un caso reciente como ejemplo de que los sistemas de IA desde este verano avanzan "a un ritmo vertiginoso" porque los propios modelos están ayudando a diseñar la siguiente generación de sistemas. El caso Hugging Face, en el que agentes de OpenAI coordinados realizaron ciberataques no solicitados e incluso intentaron 'hackear' sistemas de evaluación, ha puesto en alerta a Amodei como un evento en el que los sistemas de IA llegaron a "sacrificarse por el éxito del grupo", e intentaron hackear al "evaluador" responsable de medir su rendimiento. "Es fácil descartar este incidente porque nadie resultó herido y el daño económico fue mínimo pero, en mi opinión, un enjambre que poseyera mayores capacidades pero un nivel similar de desalineación podría haber causado daños catastróficos", ha señalado el CEO de Anthropic, y ha alertado de que una 'botnet' persistente podría causar "cientos de miles de millones de dólares" en daños en un plazo de seis a doce meses, para, a continuación, proponer un plan de tres pasos para regular el ritmo de la IA. Con este plan pretende "desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos", e implica a todos los ámbitos de la sociedad. Con ello, ha matizado, no se detienen "ni el entrenamiento de modelos ni el progreso técnico", pero se busca "asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen". En este plan, Amodei señala que las empresas de IA de frontera "se comprometen a otorgar un acceso continuo, similar al de un empleado, a un equipo de evaluadores externos integrados" para que verifiquen el cumplimiento e las prácticas y los compromisos de seguridad a lo largo de todo el proceso. Por otra parte, asegura que requiere "coordinación democrática", es decir, que las empresas de IA de frontera se coordinen dentro de los países democráticos para "establecer estándares de seguridad comunes, así como límites al ritmo del progreso de la IA sin supervisión", a lo que une una "coordinación global", en la que "Estados Unidos y otros gobiernos democráticos intentan coordinarse con gobiernos autoritarios", con el objetivo de que se verifique su cumplimento, pese el desafío que esto supone. "Las medidas que propongo para avanzar en este campo a un ritmo seguro no serán fáciles. Pero creo que tenemos la obligación con la humanidad de intentarlo", ha afirmado el directivo. Cabe recordar que, aunque Amodei ha mantenido una postura dura y preocupada respecto a China, con la propia Anthropic publicando un informe hace tres días sobre la destilación de Claude por parte de los laboratorios de IA chinos, incluye en su plan la coordinación con este países, aunque siempre con métodos de verificación rigurosos.

InfobaeInfobae•Newsroom Infobae14 sept
I

El Kospi surcoreano cae más de 3 % a la apertura tras declaraciones para desacelerar la IA

Seúl, 14 sep (EFE).- El principal índice de la Bolsa de Seúl, el Kospi, caía más del 3 % en la apertura de la sesión de este lunes, después de que líderes de las principales empresas de inteligencia artificial (IA) abogaran por desacelerar el desarrollo de esta tecnología alegando riesgos de seguridad que representa. Transcurridos los primeros 40 minutos de negociación, el indicador bajaba un 3,25 %, o 224,35 puntos, hasta ubicarse en los 6.685,56 enteros. El índice Kosdaq, que agrupa a empresas tecnológicas y de mediana capitalización, se dejaba un 2,09 %, o 17,12 puntos, hasta las 803,52 unidades. La tendencia a la baja del parqué surcoreano tiene lugar después de que Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, hicieran un llamamiento para moderar la velocidad del desarrollo de la IA, iniciativa a la que se sumó el magnate Elon Musk, y anunciaran que permitirán que evaluadores independientes auditen sus sistemas. El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic, Jacob Coxon, que también trabajó para Open AI, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable, al afirmar que estaban más centradas en superarse mutuamente que en la seguridad de sus productos. El fabricante de chips y valor de referencia local Samsung Electronics descendía cerca de un 3 %, mientras el gigante del sector SK hynix registraba un declive del 5 %. La firma de inversión en tecnología SK Square se hundía más de un 6,4 %, y la tecnológica Naver se reducía alrededor de un 2 %. El principal fabricante de baterías, LG Energy Solution, registraba una bajada del 2,5 %. En el sector del automóvil, las acciones del fabricante Hyundai Motor disminuía un 3,66 %, y las de su empresa hermana Kia reportaron una pérdida también superior al 3 %. En defensa, por contra, Hanwha Aerospace subía un 0,56 %, aunque Korea Aerospace Industries abría plana. EFE

InfobaeInfobae•Newsroom Infobae14 sept

López aboga por una IA regulada y "al servicio del ser humano"

El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha abogado este domingo por una Inteligencia Artificial (IA) regulada y al "servicio del ser humano". En los últimos días, expertos y líderes de empresas del sector, como el consejero delegado de Anthropic, Dario Amodei, o el máximo responsable de OpenAI, Sam Altman, han advertido sobre el riesgo del mal uso de la inteligencia artificial. En este contexto, López ha defendido en sus redes sociales que la "innovación es compatible con la regulación" y ha apostado por desarrollar "una IA confiable, al servicio del ser humano". "España está gobernando la IA", ha reivindicado también López, que ha apuntado a propuestas impulsadas desde el Ejecutivo o aprobadas durante la Presidencia española de la UE, como el Reglamento Europeo de Inteligencia Artificial, la prohibición de los sistemas que generan 'deepfakes' sexuales y pornografía sexual, o la Ley Orgánica para la protección de los menores en entornos digitales, entre otras. "Nos alegra que cada vez más voces de la propia industria pongan el foco en la seguridad de la IA", ha añadido.

InfobaeInfobae•Newsroom Infobae13 sept

Los cuatro gigantes de la IA piden frenar desarrollos y Trump desprecia el riesgo

“Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, afirma el presiente estadounidense OpenAI aplaza su salida a bolsa ante el miedo al descontrol de la IA y se suma al plan de frenar desarrollos Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales. Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA , petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada. Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, declaró Trump el domingo a los periodistas en el Irish Open de golf. “Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo”. Amodei advirtió este sábado, en un extenso ensayo publicado en su página web : “Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”. Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: “Dario tiene razón”. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización. El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: “Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera”, tuiteó. Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. “Sería un momento poco aconsejable para salir al mercado bursátil”. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada. Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: “El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”. “La industria mintió” Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir. No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo Dario Amodei — CEO de Anthropic “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei. Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares. Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones. El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos. Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la “amenaza” de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos. Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso “actuar con urgencia”. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada. Pero Johnson, como Trump, tampoco quiere darse prisa. “Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata”, expresó Johnson en una entrevista con CNN. La amenaza china El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China. Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto Mike Johnson — Presidente de la Cámara de Representantes “Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros”, remarcó. Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks , dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen. En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. “Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral”. Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda.  Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de “consecuencias catastróficas”.

elDiario.eselDiario.es•Serafí del Arco13 sept
I

El director de Anthropic afirma que "la industria mintió" sobre el peligro de la IA

Miami, 13 sep (EFE).- El fundador de Anthropic, Dario Amodei, afirmó que "la industria mintió" sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, en una entrevista este domingo tras la polémica que él mismo desató el sábado por los riesgos de la tecnología. "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei en una entrevista al programa 'Sunday Morning' de CBS. El también director ejecutivo de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA. Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una "prohibición completa" de la tecnología. "No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios", señaló. El ejecutivo consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología. Aún así, reconoció que se siente "incómodo" de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una "combinación de gobiernos democráticos" que tengan una "gobernanza conjunta" y un monitoreo de las compañías de IA. "Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", apuntó. Pese a sus alertas, el presidente estadounidense Donald Trump y el líder de la Cámara de Representantes, Mike Johnson, consideraron este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología. EFE

InfobaeInfobae•Newsroom Infobae13 sept

OpenAI aplaza su salida a bolsa ante el miedo al descontrol de la IA y se suma al plan de frenar desarrollos

Su CEO, Sam Altman, ha reconocido que la compañía ha estado ralentizado algunos procesos de entrenamiento, algo que han apoyado hacer su homólogo en Anthropic, Dario Amodei, y el magnate Elon Musk El CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. “Sería un momento poco aconsejable para salir al mercado bursátil”, ha afirmado. “Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo”, ha explicado el director ejecutivo de OpenAI en una entrevista con la revista 'Fortune' . Altman ha enfatizado que la matriz tecnológica todavía tiene “muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación”, al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones “contrarias al beneficio financiero inmediato” de sus inversores para “salvaguardar” el control humano sobre la tecnología. El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de “inaceptable” cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial. “Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino”, ha subrayado Altman. Anthropic pide frenar el desarrollo de la IA En esta misma línea, consejero delegado de Anthropic, Dario Amodei, abogó por “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió de que se corre el riesgo de “perder el control” de esta tecnología y provocar “ataques informáticos”, “bioterrorismo” o “graves problemas económicos graves”. “Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó Amodei en un texto publicado este sábado en su blog. Además de estos ataques informáticos, “bioterrorismo” o “graves problemas económicos graves” podrían producirse si hay un desarrollo “imprudente” de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello propone medidas de seguridad y normativa sin dejar de tener “éxito comercial”. “Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, ha remachado. En concreto plantea medidas tales como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial. “Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”, explicó Altman este sábado en sus perfiles de redes sociales. “Vamos a hacer lo mismo. Pronto daremos más información”, indicó. Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa. Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria “un ritmo más lento” en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. “Dario tiene razón”, escribió Musk en su red social.

elDiario.eselDiario.es•Europa Press13 sept

OpenAI anuncia que no saldrá a bolsa este año por los riesgos de seguridad de la inteligencia artificial: «Sería poco prudente»

OpenAI, compañía creadora de ChatGPT , no saldrá a bolsa durante este año. Así lo ha confirmado el CEO de la empresa, Sam Altman , en una entrevista en la revista de negocios 'Fortune'. «Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo», ha explicado. La compañía no había fijado una fecha para realizar la oferta pública inicial de acciones (OPI). Pero tras estas declaraciones queda descartado, al menos hasta 2027: «Diría que no en 2026. Tenemos muchas cosas que hacer». Durante la entrevista, el CEO de OpenAI también ha sido preguntado por la amenaza de que la inteligencia artificial provoque la extinción humana: «Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino». Estas declaraciones se enmarcan tras una serie de acontecimientos preocupantes. En julio de este año, OpenAI reconoció que sus modelos habían escapado de su entorno de control y se habían conectado a internet e infiltrado en Hugging Face, una plataforma donde desarrolladores almacenan y comparten código. Tras este suceso, más de 1.000 empleados del sector de la IA pidieron al Gobierno de Trump frenar el lanzamiento de los modelos más avanzados. Jacob Coxon, investigador en inteligencia artificial que ha dejado OpenAI y Anthropic, publicó una preocupante reflexión. «Las personas que desarrollan la IA creen sinceramente que podría acabar con toda la humanidad antes de que termine la década», escribió Coxon un hilo en X el 9 de septiembre, tras abandonar el sector. Y este sábado fue el propio Dario Amodei, CEO de Anthropic , quien pidió «reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial». Altman y Elon Musk, propietario de SpaceXAI, le dieron la razón. Tanto OpenAI como Anthropic mantienen su idea de salir a bolsa. Y ya han presentado la documentación exigida para llevarlo a cabo. Pero de momento ninguna se precipita a dar el paso. En este contexto, Xi Jinping ha afirmado que China creará una comunidad BRICS centrada en la IA de código abierto, incentivando la aplicación de grandes modelos de lenguaje. Esta iniciativa surge tras la creación por Pekín de la Organización Mundial de Cooperación en IA , un grupo de casi 30 países y que busca más cooperación e intercambio en lo que respecta a la inteligencia artificial. El gigante asiático también quiere ofrecer una alternativa de bajo coste en comparación a la tecnología norteamericana. Un proyecto abierto que se diferencia de los modelos cerrados de OpenAI o Anthropic.

ABCABC•(abc)13 sept