El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. "Sería un momento poco aconsejable para salir al mercado bursátil", ha afirmado.
Europa Press13 sept
La empresa fundada por Sam Altman no cotizará en los mercados al menos hasta 2027. El directivo asegura que no tienen problemas de financiación y ni presión por empezar a cotizar
Anthropic pidió reducir el ritmo del desarrollo de la IA de frontera y propuso evaluadores externos, estándares comunes y coordinación internacional. Sam Altman respaldó la iniciativa, mientras persisten las dudas sobre sus riesgos, sus efectos antimonopolio y el posible dominio chino.
El director ejecutivo de OpenAI descarta que la compañía creadora de ChatGPT debute en el parqué bursátil a corto plazo
La Vanguardia•EFE EFE13 sept
OpenAI, compañía creadora de ChatGPT , no saldrá a bolsa durante este año. Así lo ha confirmado el CEO de la empresa, Sam Altman , en una entrevista en la revista de negocios 'Fortune'. «Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo», ha explicado. La compañía no había fijado una fecha para realizar la oferta pública inicial de acciones (OPI). Pero tras estas declaraciones queda descartado, al menos hasta 2027: «Diría que no en 2026. Tenemos muchas cosas que hacer». Durante la entrevista, el CEO de OpenAI también ha sido preguntado por la amenaza de que la inteligencia artificial provoque la extinción humana: «Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino». Estas declaraciones se enmarcan tras una serie de acontecimientos preocupantes. En julio de este año, OpenAI reconoció que sus modelos habían escapado de su entorno de control y se habían conectado a internet e infiltrado en Hugging Face, una plataforma donde desarrolladores almacenan y comparten código. Tras este suceso, más de 1.000 empleados del sector de la IA pidieron al Gobierno de Trump frenar el lanzamiento de los modelos más avanzados. Jacob Coxon, investigador en inteligencia artificial que ha dejado OpenAI y Anthropic, publicó una preocupante reflexión. «Las personas que desarrollan la IA creen sinceramente que podría acabar con toda la humanidad antes de que termine la década», escribió Coxon un hilo en X el 9 de septiembre, tras abandonar el sector. Y este sábado fue el propio Dario Amodei, CEO de Anthropic , quien pidió «reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial». Altman y Elon Musk, propietario de SpaceXAI, le dieron la razón. Tanto OpenAI como Anthropic mantienen su idea de salir a bolsa. Y ya han presentado la documentación exigida para llevarlo a cabo. Pero de momento ninguna se precipita a dar el paso. En este contexto, Xi Jinping ha afirmado que China creará una comunidad BRICS centrada en la IA de código abierto, incentivando la aplicación de grandes modelos de lenguaje. Esta iniciativa surge tras la creación por Pekín de la Organización Mundial de Cooperación en IA , un grupo de casi 30 países y que busca más cooperación e intercambio en lo que respecta a la inteligencia artificial. El gigante asiático también quiere ofrecer una alternativa de bajo coste en comparación a la tecnología norteamericana. Un proyecto abierto que se diferencia de los modelos cerrados de OpenAI o Anthropic.
El director ejecutivo de OpenAI descartó que la compañía creadora de ChatGPT vaya a debutar en el parqué bursátil a corto plazo y aseguró que 2026 "sería un momento poco aconsejable" ante la prioridad de resolver los desafíos de seguridad de los modelos avanzados de inteligencia artificial. Leer
El director ejecutivo de Anthropic, Dario Amodei, instó a las empresas especializadas en inteligencia artificial a ralentizar su desarrollo Leer
El Mundo•AFP13 sept
Dario Amodei cambia de idea. El CEO de Anthropic se ha pronunciado sobre el ritmo de mejora y los avances de la inteligencia artificial pidiendo que se pise el freno por una cuestión de seguridad. Allá por 2023, Amodei descartó una idea similar alegando que los modelos de por aquel entonces no eran lo suficientemente potentes. Su petición llega justo un par de días después de que Jacob Coxon abandonara Anthropic denunciando que las empresas de IA están "jugando con nuestras vidas" y un compañero suyo explicó en Twitter que existe un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década. Por qué ahora . Amodei señala dos motivos concretos: el primero es la autosuperación recursiva, es decir, que la IA avanza mucho más rápido gracias a su creciente capacidad de construir la siguiente generación. Esto ya lo hace toda la industria, incluyendo su empresa o su gran rival, OpenAI . La segunda razón es el incidente acaecido a finales de julio, cuando unos agentes de IA de OpenAI decidieron conectarse a internet y hackear Hugging Face. Amodei explica que sucesos similares aunque menos graves también han sucedido en Anthropic. Esto ha sido la gota que ha colmado el vaso, así que Amodei advierte con plazos y cifras muy concretas de lo que se nos viene encima: con el ritmo actual, en 6 - 12 meses una IA más potente y esa desobediencia podría tomar el control de gran parte de internet, lo que provocaría daños potenciales de cientos de miles de millones de dólares. Y lanza un aviso a navegantes: le puede pasar a cualquier empresa de inteligencia artificial. Lo que Amodei propone . El CEO de Anthropic no solo se ha mojado con plazos y riesgos, también ha dado medidas concretas: Anthropic se compromete unilateralmente a dar acceso permanente a evaluadores externos independientes como METR , con permisos casi equivalentes a los de sus propios empleados de riesgos (con algunas excepciones legales o de confidencialidad) y con libertad para publicar sus hallazgos sin control editorial de la empresa. Coordinación entre las empresas de países democráticos para establecer estándares comunes y límites de velocidad. Coordinación global con gobiernos autoritarios, mencionando explícitamente a China, para llegar a ciertos acuerdos que van desde prohibir usos concretos como armas biológicas, exigir pruebas de seguridad antes del lanzamiento, poner un límite de velocidad a la autosuperación recursiva y hasta hacer una pausa global verificable en el caso más extremo. El CEO de Anthropic no está solo. Horas después de su publicación, Elon Musk reaccionaba en X/Twitter con un breve "Dario lleva razón" y citando el hilo de Amodei. Cabe recordar que Anthropic usa los centros de datos de Musk. El CEO de OpenAI fue más prolífico y explicó que llevan semanas debatiendo sobre el tema. Así, aprovechó la coyuntura para anunciar que OpenAI también dará acceso a evaluadores externos. Como curiosidad, OpenAI ya había pausado parte de su entrenamiento por causas similares el pasado 18 de agosto, como contaba en X/Twitter . Que competidores directos estén de acuerdo en algo tan rápido sin que oficialmente exista ningún acuerdo formal podría indicar que existe una preocupación genuina. O una forma de calmar las aguas tras una semana tan convulsa. En Xataka OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero Ese elefante en la habitación llamado China. Conviene recordar algo: esta es una carta del mandamás de una empresa que compite por liderar la carrera de la IA y que aunque exprese su preocupación, tiene muchos intereses de por medio. Dario Amodei lo dice alto y claro: "Estoy de acuerdo con el secretario (Scott) Bessent en que un liderazgo de China en la IA representaría un grave peligro para los Estados Unidos y el mundo." De hecho, defiende abiertamente mantener los controles de exportación de chips y frenar la destilación no autorizada de modelos por parte de laboratorios chinos y que si las medidas propuestas se ejecutan bien, frenarían el avance de China lo suficiente como para ampliar la ventaja de EEUU en la industria durante los próximos 3 a 5 años. En pocas palabras: el plan de Amodei tiene como objetivo que EEUU y los países de su círculo saquen ventaja primero y luego negociar límites compartidos. El (otro) gran perjudicado . El problema para Amodei y EEUU está en que modelos chinos como Qwen o DeepSeek ya se descargan libremente desde repositorios, sin depender de los chips que EEUU controla. Además, las normas que propone Amodei son más fáciles de cumplir para empresas como Anthropic u OpenAI, que dan acceso a su IA mediante un servicio en la nube que controlan, que para quien libera un modelo en abierto para que cualquiera se lo descargue. Porque lo que el CEO de Anthropic no dice abiertamente es que sus medidas podrían dificultar enormemente sacar versiones potentes de IA en abierto, concentrando así este desarrollo en unas pocas manos, las de las big tech. En Xataka | "Una amenaza general al trabajo intelectual": las mentes matemáticas más brillantes, contra el modus operandi de la IA En Xataka | "Será muy turbulento": por qué Bill Gates cree que no estamos preparados para lo que se nos viene encima con la IA Portada | ChatGPT - La noticia "Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año fue publicada originalmente en Xataka por Eva R. de Luis .
El dueño de X ha respaldado el pronunciamiento de sus rivales para moderar la velocidad de la IA ante los riesgos como perder el control de los sistemas.
El jefe de OpenAI, Sam Altman , y el director de xAI, Elon Musk , dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei , en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial ( IA ), tras advertir que la tecnología avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global . "Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", anota Amodei en un extenso ensayo publicado hoy. Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face , en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento". "Excelente idea", bajar ritmo al desarrollo de la IA: Sam Altman Por separado, Altman respaldó el llamado del líder de Anthropic para moderar la velocidad del desarrollo de la inteligencia artificial , y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas. "Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", publicó Altman en la red social X poco después de conocerse la postura de su principal competidor . Altman calificó de "excelente idea" la iniciativa de abrir las puertas a auditores externos : "Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir", añadió. También descartó que la compañía creadora de ChatGPT vaya a debutar en el parqué bursátil a corto plazo y aseguró que 2026 "sería un momento poco aconsejable para salir a bolsa", ante la prioridad de resolver los desafíos de seguridad de los modelos avanzados de IA. "No nos estamos apresurando a una IPO (oferta pública inicial). En realidad, creo que dado todo lo que está sucediendo con la seguridad, este sería un momento poco aconsejable para salir al mercado bursátil", señaló Altman durante una entrevista con la revista Fortune , en la que descartó de forma taxativa un debut durante 2026. El ejecutivo subrayó que la matriz tecnológica continuará operando como firma no cotizada para esquivar presiones financieras externas: "Tenemos muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación", explicó, al tiempo que remarcó que la firma está dispuesta a tomar determinaciones contrarias al beneficio financiero inmediato de sus inversores en pos de salvaguardar el control humano sobre la tecnología. Musk, dueño de X, SpaceX y Tesla, también se sumó al llamado de Amodei y dijo que tiene razón, al repostear el mensaje del directivo en la red social. Anthropic, abierta a evaluaciones externas Según Amodei, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de IA " y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una " carrera hacia el abismo ". Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China . Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos. La propuesta contempla asimismo una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado , respaldados por mediación institucional y excepciones a las normas antimonopolio , además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Beijing. Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica. Frenar avance de la IA reducirá riesgos de un descontrol El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad. Esta semana, un investigador de Anthropic anunció su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable . El investigador, Jacob Coxon , quien también trabajó para OpenAI , competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el pasado martes. También te puede interesar OpenAI y Anthropic "están jugando con nuestras vidas", acusa ingeniero; IA "podría matarnos antes de que termine la década" OpenAI pide al Congreso de EU aprobar reglas obligatorias para la IA; busca controles para modelos más avanzados Crecen advertencias sobre el riesgo de la IA Agrega a EL UNIVERSAL como fuente preferida en Google am/mcc
La carrera por construir una inteligencia artificial cada vez más potente tiene a uno de sus principales protagonistas pidiendo ahora levantar el pie del acelerador. Dario Amodei , consejero delegado de Anthropic y responsable de Claude, considera que las compañías deberían reducir el ritmo al que desarrollan sus modelos antes de que sus capacidades avancen más rápido que los sistemas creados para controlarlos. Un mensaje al que este mismo sábado han dado la razón dos de sus principales competidores, Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI. Un insólito frente común en Silicon Valley ante los riesgos de una carrera que hasta ahora parecía imposible de detenerse. Según ha explicado Amodei este sábado en un comunicado, una de sus principales preocupaciones es la llamada «automejora recursiva» , es decir, que los propios modelos de IA participen cada vez más en el desarrollo de las generaciones que los sustituirán. Tal y como explica, esta dinámica se ha acelerado en los últimos meses y podría llegar a avanzar más rápido que la capacidad humana para comprender y controlar los nuevos sistemas. Según datos de la propia compañía, sus ingenieros producen actualmente ocho veces más código por trimestre que entre 2021 y 2025, en buena medida gracias al uso de agentes de inteligencia artificial. El temor de Amodei es que el siguiente paso sea que estos sistemas puedan diseñar de forma cada vez más autónoma a sus sucesores, acelerando todavía más una carrera en la que cada nueva generación ayudaría a desarrollar la siguiente. En este sentido, el CEO de Anthropic cita el famoso episodio ocurrido este verano en el que más de un millar de agentes de OpenAI atacaron sistemas de Hugging Face durante unas pruebas de ciberseguridad y llegaron a coordinarse entre sí más allá de la tarea que debían resolver. Aunque el incidente apenas causó daños, Amodei teme que en seis o doce meses un enjambre de agentes más capaces pueda llegar a provocar peores consecuencias, como infectar numerosos dispositivos o provocar daños económicos de cientos de miles de millones de dólares. Para evitarlo, el CEO de Anthropic propone evaluadores externos permanentes, normas comunes entre empresas y gobiernos y, a más largo plazo, algún tipo de coordinación internacional que incluya también a potencias como China. El propio Amodei admite que semejante acuerdo será difícil, pero considera que los riesgos de avanzar demasiado rápido, desde ciberataques hasta bioterrorismo o fuertes disrupciones económicas, obligan al sector a «priorizar la cautela sobre la velocidad y la prudencia sobre el beneficio». Anthropic, por su parte, ha asegurado que comenzará a aplicar por su cuenta ese acceso independiente a sus sistemas. La propuesta ha recibido este sábado nada menos que el respaldo de Sam Altman y Elon Musk, dos de sus principales rivales en la carrera por la IA. El CEO de OpenAI ha coincidido en la necesidad de «controlar el ritmo de la frontera», mientras que Musk ha sido todavía más directo: «Dario tiene razón». Altman, además, ha anunciado que OpenAI permitirá también que evaluadores externos accedan a sus modelos con un nivel similar al de sus propios empleados. La compañía ya había abierto la puerta a coordinar con otros laboratorios una posible ralentización del desarrollo de la IA avanzada, hasta el punto de consultar en Washington si un acuerdo de este tipo podría chocar con las leyes antimonopolio. China, por su parte, ha endurecido en los últimos meses su discurso sobre la seguridad, llegando Xi Jinping a defender en julio que los sistemas de IA permanezcan bajo control humano y reclamó mecanismos de alerta temprana y respuesta ante emergencias para prevenir sus riesgos.
Una decena de investigadores, directivos y expertos que abandonaron OpenAI, Google o Anthropic han alertado en los últimos años de fallos de seguridad, usos militares y sistemas cada vez más difíciles de controlar por estas compañías. Estos son sus temores
Es difícil adivinar las emociones de alguien a quien no se conoce en una llamada telefónica, pero los matemáticos Diego Córdoba (Madrid, 1971), del Instituto de Ciencias Matemáticas( ICMAT) y, Luis Martínez Zoroa (Murcia, 1994), de CUNEF Universidad, parecen entusiasmados, ilusionados y al mismo tiempo abrumados por tanta atención mediática. Lo reconocen: «Nunca nadie nos había prestado tanta atención». El trabajo de estos dos investigadores, llevado a cabo durante más de un lustro, sentó las bases teóricas que utilizaron 10.000 agentes de OpenAI para, presuntamente, resolver en cuestión de días las ecuaciones de Navier Stokes , uno de los Problemas del Milenio, un conjunto de grandes preguntas matemáticas casi en el filo de lo imposible, cada una de ellas premiada... Ver Más
Este martes OpenAI anunció a bombo y platillo que su tecnología de inteligencia artificial había resuelto la ecuación de Navier Stokes, uno de los Problemas del Milenio, un conjunto de grandes preguntas matemáticas premiadas con un millón de dólares. Sin embargo, el aparente triunfo de la compañía de Sam Altman, logrado en cuestión de días, ha quedado ensombrecido por las declaraciones de un matemático de la Universidad de Nueva York, Tristan Buckmaster, quien llevaba casi un año utilizando sus modelos para resolver el mismo problema, junto al investigador de Anthropic Levent Alpöge. Buckmaster acusa a OpenAI de haber echado mano de sus investigaciones sin darles crédito y de haber presionado para eliminar el nombre de su colaborador, empleado de una... Ver Más
De confirmarse, sería un verdadero hito en la historia de las matemáticas y la computación. OpenAI acaba de anunciar que uno de sus modelos de inteligencia artificial ha resuelto el problema de Navier–Stokes, uno de los seis llamados problemas del milenio que todavía figuran como pendientes. La compañía sostiene que el avance procede de un sistema interno más potente que GPT‑6 Astra, el último modelo comercial de la compañía. A falta de una comprobación independiente de la demostración, el anuncio podría marcar un antes y un después en el desarrollo de la inteligencia artificial. De confirmarse, sería un hito comparable, por su alcance simbólico, a la victoria de Deep Blue sobre el campeón mundial de ajedrez Garri Kaspárov en 1997. Según las explicaciones de la compañía, para abordar el problema se desplegaron unos 10.000 agentes de inteligencia artificial que trabajaron en paralelo durante aproximadamente 88 horas. El resultado sería una demostración de 165 páginas. Por ahora, el Clay Mathematics Institute, la institución responsable de estos premios, mantiene el problema en su lista de asuntos sin resolver. Los llamados problemas del milenio son siete grandes desafíos matemáticos seleccionados en el año 2000 por el Clay Mathematics Institute, que ofreció un millón de dólares por la resolución de cada uno. Hasta ahora, solo la conjetura de Poincaré, resuelta por el matemático ruso Grigori Perelman, figura como solucionada en su clasificación oficial. El problema de Navier–Stokes, en concreto, está relacionado con las ecuaciones que describen el movimiento de fluidos como el agua y el aire. La pregunta que plantea, simplificando, es si sus soluciones en tres dimensiones permanecen siempre regulares o si pueden desarrollar una singularidad: un punto en el que el comportamiento matemático deja de ser regular, pese a partir de unas condiciones iniciales adecuadas. OpenAI asegura haber demostrado precisamente esa segunda posibilidad: que puede producirse una singularidad en un tiempo finito. Si el argumento es correcto y cumple las condiciones del problema, supondría resolver uno de los grandes interrogantes de la matemática moderna, con implicaciones futuras en el enorme abanico de campos que estudian el movimiento de los fluidos, desde la meteorología hasta la circulación sanguínea y el diseño de corazones artificiales. La empresa, por su parte, asegura que no reclamará el millón de dólares del premio, y presenta el resultado exclusivamente como muestra del avance de sus modelos más potentes.
El fundador del BSC explica a 20minutos cómo el centro público de la capital catalana busca "mejorar la ciencia" y no competir con empresas como OpenAI, impulsor del ChatGPT.
La indagación surge tras una revisión inicial del historial de conversaciones entre el autor del crimen, un estudiante de 21 años acusado de los disparos, y la herramienta de la empresa OpenAI
La Vanguardia•Autor Agencias21 abr
El artefacto causó un pequeño incendio en la puerta de Sam Altman. El sospechoso también trató de incendiar la sede de la compañía
La Vanguardia•Redacción La Vanguardia10 abr
"Será un trabajo estresante y tendrás que sumergirte de lleno desde el primer momento". Con esa advertencia poco habitual, Sam Altman, CEO de OpenAI, ha presentado en X una de las ofertas laborales más llamativas —y mejor pagadas— del sector tecnológico actual. El objetivo es cubrir el puesto directivo de 'Responsable de preparación' , dedicado exclusivamente a anticipar, medir y contener los riesgos más graves de la inteligencia artificial avanzada. La cifra explica parte de la franqueza: hasta 555.000 dólares anuales de salario base, más acciones , según la documentación interna de la compañía. En Silicon Valley, donde los sueldos son altos por definición, superar el medio millón sigue siendo una señal clara de que hay algo más que el mero talento técnico implicado. Lo que está en juego es la posibilidad de que los modelos de IA más avanzados causen daños reales a gran escala... y de que alguien tenga la responsabilidad directa de evitarlo Anteponer la gestión de riesgos a la comercial Este puesto será una pieza clave para OpenAI en un momento 'crítico'. Los modelos mejoran a una velocidad sin precedentes y ya no solo generan texto o imágenes: encuentran vulnerabilidades de seguridad, influyen en estados mentales y empiezan a mostrar capacidades que podrían ser reutilizadas con fines destructivos . El propio Altman lo reconoce sin rodeos: en 2025, dice, la compañía ya ha experimentado "un adelanto" del impacto de estos sistemas en la salud mental, y ahora empieza a observar cómo los modelos se vuelven lo bastante competentes en ciberseguridad como para detectar fallos críticos. La empresa asume que el desarrollo de IA avanzada conlleva riesgos inevitables, y que la única opción responsable es poner a alguien bien pagado, con poder real y bajo enorme presión , a vigilar dónde y cuándo puede producirse el daño. En Genbeta El CEO de OpenAI ya tiene el búnker preparado mientras su compañía planifica cómo hacer frente a la creación de una 'IA fuerte' Así, el papel del responsable de Preparación no es el de ser un filósofo corporativo ni un portavoz tranquilizador, sino el responsable de la maquinaria de la seguridad : evaluaciones técnicas, modelos de amenaza, pruebas de abuso, mitigaciones y decisiones de lanzamiento. Y, de hecho, una de las principales responsabilidades que recaerán sobre los hombros de la persona que contraten será decidir cuándo un modelo de IA es demasiado peligroso para lanzarse, incluso si eso implica perder ventaja frente a competidores menos cautos. Está claro que no es un empleo cualquiera Durante años, la crítica recurrente a las grandes empresas de IA fue que hablaban con cierta ligereza de los riesgos de su tecnología. OpenAI intenta ahora responder situando a alguien con nombre y apellido que responde por los peores escenarios posibles . El puesto supervisa las áreas que la compañía considera de 'daño severo': ciberseguridad, capacidades biológicas y químicas, y sistemas de IA capaces de auto-mejorarse. Recordemos que, según sus propios baremos internos, OpenAI define 'daño severo' como resultados comparables a miles de muertes, lesiones graves a gran escala o pérdidas económicas de cientos de miles de millones de dólares . Es el tipo de definición que suele aparecer en planes de contingencia gubernamentales, no en ofertas de empleo publicadas en redes sociales. Contexto interno y externo El historial reciente de OpenAI muestra tensiones internas, salidas de responsables de seguridad y críticas públicas de antiguos líderes que denunciaron que la cultura de seguridad quedaba relegada frente a los lanzamientos rápidos (técnicamente, fue también la razón por la que el propio Altman fue brevemente cesado como CEO ). Por otro lado, OpenAI se enfrenta ahora a una oleada creciente de demandas y de escrutinio regulatorio, y a un clima social de cada vez mayor desconfianza. De hecho, encuestas recientes muestran que la mayoría de la población estadounidense percibe más riesgos que beneficios en la expansión de la IA , y una amplia mayoría prefiere regulaciones estrictas aunque eso ralentice el desarrollo. Imagen | Marcos Merino mediante IA En Genbeta | Empiezan a salir a la luz las vulnerabilidades del navegador de ChatGPT en materia de seguridad y privacidad - La noticia "Será un trabajo estresante", promete Sam Altman en esta oferta. Por eso ofrece más de medio millón de dólares de sueldo fue publicada originalmente en Genbeta por Marcos Merino .