OpenAIpágina 10

Organización · 232 artículos
Compartir

Cobertura, página 10

página 10 de 12

OpenAI firma acuerdo de USD $200 millones con el Pentágono bajo límites de seguridad

OpenAI acordó un contrato de USD $200 millones con el Pentágono para desarrollar capacidades de inteligencia artificial destinadas a desafíos de seguridad nacional. La empresa asegura que conservará controles técnicos, supervisión de personal autorizado y tres restricciones clave, mientras la disputa previa entre Anthropic y el Gobierno de EE. UU. convierte el pacto en una prueba decisiva para la seguridad de la IA militar.

Diario BitcoinDiario BitcoinCanuto14 sept

Satya Nadella, CEO de Microsoft, se une a la petición de freno en el avance de la IA: «Si no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla»

Satya Nadella ha fijado un límite claro para el desarrollo de la inteligencia artificial avanzada, sosteniendo que «cualquier iniciativa encaminada a la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo», como dijo en su perfil de X . El CEO de Microsoft llamó así a la seguridad y la distribución democrática del poder tecnológico. Dario Amodei, CEO de Anthropic ; Sam Altman, CEO de OpenAI , y Elon Musk, CEO de SpaceXAI, también expresaron públicamente su deseo de ralentizar el desarrollo de la IA durante este fin de semana, alegando la pérdida de control de la misma. Nadella defendió que la gobernanza de la superinteligencia no debería estar únicamente en las manos de unos pocos actores corporativos y abogó por incorporar a gobiernos, universidades y a la comunidad científica al sector para garantizar un proceso de decisión representativo e inclusivo. Asimismo, el director ejecutivo de la multinacional respaldó soluciones técnicas como contar con «evaluadores integrados», unas herramientas que pueden verificar de forma continua que los principios de seguridad estén realmente cumpliéndose. «También debemos acelerar y difundir los beneficios de la IA, de modo que se extiendan ampliamente por todos los países, comunidades y empresas», añadió Nadella, «esto requiere un ecosistema de vanguardia en el que puedan prosperar tanto los modelos cerrados como los de código abierto». El directivo también propuso proteger la autonomía operativa del tejido empresarial frente a los grandes proveedores de tecnología. Nadella advirtió contra el peligro de que las organizaciones desarrollen una dependencia permanente respecto a una única plataforma de IA. «Toda organización debería poder crear su propio ciclo de aprendizaje continuo o 'máquina de escalada', sin depender de ningún proveedor de modelos en concreto, y tener la capacidad de integrar su propio conocimiento en los modelos y los pesos que controla», afirmó. Además, añadió que «la clave es que esto no puede estar controlado por un puñado de entidades, sino que debe contar con una amplia representación en todo el ecosistema, los países y los ámbitos, incluido el mundo académico». Como complemento a esta visión, Nadella confirmó que la empresa estadounidense presentará un Código de Conducta que fundamenta los modelos Microsoft AI, con lo que pretende ofrecer libertad de elección y control efectivo a las organizaciones.

ABCABC(abc)14 sept
I

El IBEX 35 cae un 1,38 % ante el repunte del petróleo y las dudas sobre la IA

Madrid, 14 sep (EFE).- El IBEX 35, principal índice de la Bolsa española, ha perdido este lunes un 1,38 % lastrado por la subida del precio del petróleo y las caídas de las empresas de semiconductores y chips ante las dudas sobre la inversión en inteligencia artificial (IA) tras el retraso de la salida a bolsa de OpenAI. El selectivo español ha retrocedido 273 enteros y termina la sesión bursátil en 19.565,5 puntos. Pese a estas caías, en lo que va de año se revaloriza un 13,04 %. La Bolsa española ha abierto la sesión con un retroceso del 0,38 %, que se ha ido ampliando a lo largo de la jornada, en la que el precio del barril de Brent, el de referencia en Europa, supera los 108 dólares el barril, lo que aumenta las tensiones inflacionistas y se refleja en el repunte de la rentabilidad de los bonos. Dentro del IBEX 35, de los grandes valores, Iberdrola ha perdido un 2,21 %; Repsol, un 1,45 %; BBVA, un 1,3 %; Santander, un 0,88 % e Inditex, un 0,56 %; mientras que Telefónica ha sumado un 0,57 %. EFE (foto) (vídeo)

InfobaeInfobaeNewsroom Infobae14 sept

Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno

"Nos estamos pasando de frenada con la IA". Básicamente, ese es el mensaje que Dario Amodei, CEO de Anthropic, mandaba este fin de semana , poniendo sobre la mesa, otra vez, que pese al enorme potencial de la tecnología, es algo que también puede generar enormes riesgos. En esta ocasión, Amodei no estaba solo, ya que Elon Musk, Demis Hassabis y Sam Altman se han sumado a la idea de dejar de pisar el acelerador de la IA. El problema es que quizá es sólo una cortina de humo para camuflar otra cuestión: son las empresas privadas las que se están gastando un dineral en algo que no avanza al ritmo que ellos quieren. Hay muchas aristas aquí. Nos va a matar a todos . No es la primera vez que alguno de los desarrolladores de la IA manda este mensaje en el que se apunta que los sistemas se están volviendo extremadamente capaces en tiempo récord, tanto que puede que pronto nos quedemos sin capacidad de respuesta y sin poder controlarlos con seguridad. De hecho, tanto Anthropic como OpenAI llevan meses jugando al juego de "lanzamos algo muy potente y decimos que es tan potente que es peligroso". En un principio, ese mensaje apocalíptico venía por parte de empleados de mayor o menor entidad en estas empresas. En el Statement of Superintelligence firmado por más de 800 personas en otoño de 2025, ingenieros ya hablaban sobre la posibilidad de prohibir el desarrollo de una superinteligencia hasta que hubiera un consenso sobre lo que se quería lograr y cómo hacerlo seguro. Este 2026, el mensaje empieza a venir por parte de los directivos de las propias empresas que están empujando el desarrollo de la IA. De hecho, OpenAI y Anthropic han construido buena parte de su discurso alrededor de la idea de que la tecnología que venden es potencialmente catastrófica . Es una contradicción mayúscula y también un patrón que se repite estos últimos meses (o semanas, porque el ritmo que van lanzando modelos de vanguardia es endiablado). En Xataka OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos El punto de inflexión . Todo esto nos lleva a la situación de esta semana en la que los que pueden echar el ancla piden, efectivamente, echar el ancla. Sin embargo, para entender por qué ese frenazo interesa justo ahora, hay que volver atrás en el tiempo, concretamente a comienzos de 2025. Fue entonces cuando la startup china Deepseek lanzó su modelo R1, borrando en un sólo día 600.000 millones de capitalización de Nvidia. La lógica era sencilla: si un modelo tan avanzado se podía entrenar con una fracción del gasto de las big tech y sin acceso a la última tecnología de una Nvidia que lleva la voz cantante, ¿por qué no lo están haciendo todos? ¿Acaso el sistema de gasto está sobredimensionado? Pero ocurrió todo lo contrario, y la respuesta de las big tech (en este caso ya dejamos startups de IA como OpenAI y Anthropic al margen, centrándonos en Microsoft, Google, Meta y Amazon) fue gastar... más. De los 250.000 millones de dólares , pasaron a 410.000 millones en 2025 . Y de esa cifra, a los 725.000 millones previstos para este 2026 . El verdadero punto de inflexión es que ninguna empresa del sector podía permitirse gastar menos que las demás. Gráfico de BofA de la emisión de deuda en EEUU, modificado para indicar el lanzamiento de Deepseek: Deuda. Y el problema es que ese gasto ya no se financia sólo con la caja propia. Los cinco grandes hiperescaladores (Amazon, Alphabet, Microsoft, Meta y Oracle) emitieron 121.o00 millones de dólares en bonos en 2025, más de cuatro veces la media anual del año anterior. Esta tendencia se ha acelerado, con una previsión de nueva deuda para 2026 de entre 140.000 y 175.000 millones de dólares, hasta 320.000 millones en los próximos tres años. Según las estimaciones , el gasto de capital absorberá el 94% del flujo de caja operativo de estas compañías en 2026. Hace apenas dos años, cuando comenzó esta fiebre, esa cifra era del 50%. Y los propios bancos de inversión están empezando a hablar de los hiperescaladores y empresas de la IA c asi como si fueran soberanos . Alphabet ha colocado 31.000 millones de dólares en deuda en el primer trimestre de 2026, la de Amazon ha pasado de 65.600 a 119.100 millones interanuales y se estima que Oracle no generará caja libre positiva hasta 2029. La traducción es que los inversores están nerviosos porque el endeudamiento no es infinito y es más que posible que el mercado empiece a mostrar fatiga por esa avalancha de deuda. Vamos, que se pinche la burbuja. “¿Por qué esto no lo está construyendo el Gobierno?”: Dario Amodei cree que la IA es demasiado importante para dejarla en manos privadas Si el dinero no fuera un problema... Incluso si el capital fuera ilimitado, hay un límite que nadie puede saltarse: no hay suficiente gente para construir centros de datos. CEOs como Satya Nadella de Microsoft o Jensen Huang de Nvidia han hablado en alguna ocasión que no estamos ante una burbuja porque ellos no pueden escalar la IA como les gustaría y como el mercado necesita debido a que hay dos cuellos de botella. El primero es el de los chips, ya que no hay componentes suficientes ( la memoria NAND ) y las fundiciones como TSMC no pueden fabricar a la velocidad necesaria. El segundo es el de las propias instalaciones. Los permisos van a su ritmo, hay vecinos que no los quieren y ralentizan los proyectos y, aunque todo, todo fuera rodado, no hay profesionales de la construcción suficientes. Según los cálculos, sólo en Estados Unidos hay un déficit de unos 439.000 trabajadores de la construcción como electricistas, soldadores o instaladores que tengan las capacidades como para levantar los centros de datos y conectar la infraestcuctura de la IA. La energía también es otro cuello de botella importante porque estamos viendo que sólo con las renovables no basta y es otro punto de fricción tanto a la hora de alimentar estos centros de datos como al momento de conseguir el beneplácito político en algunas ciudades que no quieren que sus factures aumenten de la noche a la mañana. En Xataka En China los tokens de IA son los nuevos puntos de fidelización: te los regalan por comer, beber o usar una tarjeta Papá Estado al volante . Ahí está la pregunta. ¿Los grandes de la IA piden pausa porque creen sinceramente que están yendo demasiado rápido o porque están quemando dinero a la vez que hay un freno físico que no pueden superar simplemente quemando más y más dinero? Y, a si lo que ha ocurrido este fin de semana es una cortina de humo, se suman otras declaraciones de Dario Amodei en las que apunta que es "muy extraño" que algo tan importante como los modelos avanzados de IA dependan sólo de empresas privadas . Sin pedir un rescate, Amodei asegura que lo que debería producirse es una gobernanza conjunta entre gobiernos y empresas de la IA aludiendo a algo básico: la IA se ha convertido en geopolítica, el caballo de batalla en la guerra comercial entre Estados Unidos y China, y si es tan importante, Amodei defiende que el Estado debería tener mano en la industria más allá de regular el acceso a los chips. Alguien ha echado un vistazo a las cuentas de Microsoft con los chips para IA y ha descubierto algo preocupante: no cuadran Gu erra frí a . Pero bueno, si se quiere que el Estado meta uñas en el asunto, ¿qué dice el Estado? Trump ha rechazado la desaceleración por un motivo muy sencillo: "quien gane la IA, gana". China más de lo mismo, con toda la lógica del mundo porque, como decimos, la IA no es un producto: es geopolítica. El desarrollo de esta tecnología es otro frente abierto entre las dos potencias y, en caso de echar el ancla, hablaríamos de una guerra fría en la que ninguno se puede fiar del otro: ni Anthropic de Google, X y OpenAI (y viceversa), ni Estados Unidos de China (y viceversa). El resumen es que nadie se fía del vecino , pero bueno, al final... ha ocurrido lo de siempre. Es el cuento de Pedro y el lobo, ese en el que Amodei, en este caso, afirma que deberían pisar el freno con la IA para, acto seguido, afirmar que seguirán lanzando modelos avanzados. Y si piden un frenazo es porque, realmente, tienen que ganar oxígeno tanto en los centros de datos como en la caja. Imagen | Gemini En Xataka | Buena parte de la economía mundial ahora mismo consiste en Google y Amazon comprando GPUs: el 95% están inactivas - La noticia Las big tech de la IA dicen que hay que frenar para salvar a la humanidad. Lo que no quieren decir es que necesitan oxígeno fue publicada originalmente en Xataka por Alejandro Alcolea .

XatakaXatakaAlejandro Alcolea14 sept

Anthropic, OpenAI y Google estudian crear un organismo de seguridad para regular la IA

En las últimas semanas los grandes desarrolladores de Inteligencia Artificial han llamado a frenar el rápido desarrollo de esta tecnología en aras de la seguridad tanto de los ciudadanos como de la economía. Los CEOs de Anthropic y OpenAI coinciden en que los sistemas podrían, eventualmente, provocar problemas cuya solución escape al control humano . En este contexto, y con la batalla entre EE.UU. y China por liderar el desarrollo de la IA, los grandes desarrolladores se plantean crear un organismo de seguridad que regule la evolución de esta tecnología, según The Washington Post. Los líderes de estas empresas han advertido que un gran descontrol podría causar estragos multimillonarios. El ensayo publicado por el CEO de Anthropic , Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. La relevancia de este comunicado se suma a la dimisión de un ingeniero de Anthropic, Jacob Coxon, que ha alertado de que «están avanzando a toda velocidad hacia la creación de una superinteligencia artificial -algo así como una IA más lista que cualquier humano- capaz de auto mejorarse y jugando con nuestras vidas », llegando a asegurar que «quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década ». Incluso la ONU ha alertado de los peligros de la IA. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, asegura que «todos los derechos humanos están en riesgo» y ha llamado a «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo». Entre las reacciones a la advertencia de Amodei se encuentra la de Hassabis, que publicó en X su apoyo, mientras que Altman le siguió en la red social al compartir que « el progreso ha sido rápido y continuará siéndolo . Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face , propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. A pesar de la voluntad de los líderes de las empresas, estos se enfrentan al gobierno estadounidense. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo asegurando que «se está gestando una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China». «Quien gane en IA, va a ganar y vamos por delante de China y de todos los demás, y seguiremos haciéndolo», ha afirmado. Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños , frenaría la ventaja estratégica del país frente a potencias rivales como China. Entre los movimientos dentro de la industria de la IA, el gigante tecnológico Microsoft ha presentado este lunes un borrador de código de conducta para su inteligencia artificial interna. El documento exigiría que la IA de Microsoft nunca se resistiera a ser corregida o apagada , que se comunicara de forma comprensible para los humanos y que considerara cualquier infracción de conducta como un fallo. El código de conducta «representa una especie de constitución para los futuros modelos creados por la empresa», afirmó Mustafa Suleyman, director ejecutivo de IA de Microsoft, en una entrevista con Reuters. Microsoft lo elaboró tras consultar con expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites del usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable , explicó. «Después de eso, se utilizará para entrenar los modelos que desarrollemos», afirmó refiriéndose al código. La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar conciencia o estatus moral. Microsoft, por su parte, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».

ABCABC(abc)14 sept

Anthropic, OpenAI y Google estudian crear un organismo de seguridad para autorregular la IA, según TWP

Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse. El ensayo publicado este sábado por el CEO de Anthropic, Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk. Entre las reacciones se encuentra la de Hassabis, que publicó en X (antes Twitter) su apoyo a la llamada de Amodei, mientras que Altman le siguió en la red social al compartir que "el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento", recordando que la presión entre los gigantes no debería justificar la posible imprudencia. En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face, propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso. Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada. Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país. Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención "limitada" en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad. No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así". Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un "cartel" para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.

InfobaeInfobaeNewsroom Infobae14 sept
I

Wall Street abre en rojo, arrastrado por tecnológicas, tras alertas sobre el avance de IA

Nueva York, 14 sep (EFE).- Wall Street abrió en rojo este lunes arrastrado principalmente por las pérdidas en el sector tecnológico ante la oleada de voces, entre ellas las de los principales líderes del sector, que alertan del avance de la inteligencia artificial (IA) y reclaman frenar el ritmo de desarrollo por temor a perder el control de los sistemas. A la apertura del parqué neoyorquino, su principal indicador, el Dow Jones de Industriales, perdía un 0,21 %, hasta 52.462 puntos; el selectivo S&P 500 restaba un 0,74 %, hasta 7.600 enteros; y el tecnológico Nasdaq cedía un 1,23 %, hasta 26.008 unidades. Los inversores observaron con preocupación la petición de las principales personalidades del sector como Dario Amodei, consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk para poner freno al desarrollo de los sistema de IA. La semana pasada, Jacob Coxon, investigador de Anthropic, que también trabajó para OpenAI, anunció su dimisión al considerar que la compañía no estaba actuando de manera responsable ni pendiente de la seguridad. Este sábado, Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de IA y advirtió que avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global. Por su parte, Altman respaldó su petición y avanzó que permitirá que evaluadores independientes auditen los sistemas de OpenAI. A pesar de que el presidente de Estados Unidos, Donald Trump, minimizó la alerta y pidió no ceder ante China, con quien compite por el liderzgo de la IA, los títulos de las principales compañías del sector arrancaron a la baja. Nvidia, empresa estrella de la IA, perdía un 4,18 %. Por su parte, Marvell Technology restaba un 8,98 %, Intel un 7,18 % y AMD un 6,17 %. En otros mercados, el oro se devaluaba un 2,16 %, hasta 4.313 dólares la onza, y la plata un 2,68 %, hasta 63,44 dólares la onza. El petróleo intermedio de Texas (WTI) subía hasta los 104 dólares la onza y el rendimiento del bono del Tesoro a 10 años avanzaba 1,8 puntos básicos hasta el 4,992 %. EFE

InfobaeInfobaeNewsroom Infobae14 sept

Nvidia y Palantir restringen modelos de Anthropic y OpenAI por temor al uso de datos

Nvidia, Palantir y Booz Allen Hamilton estarían limitando el uso de modelos de Anthropic y OpenAI por dudas sobre la retención de datos y el control de la propiedad intelectual. En paralelo, el Pentágono habría trasladado cerca del 90% de sus cargas clasificadas hacia alternativas de pesos abiertos, mientras Microsoft intenta capitalizar la demanda de entornos de IA aislados.

Diario BitcoinDiario BitcoinCanuto14 sept

Microsoft limita sus modelos de IA mientras crece la presión por frenar su desarrollo

Microsoft publicó un código de conducta provisional para restringir sus futuros modelos de inteligencia artificial, mientras Anthropic y OpenAI enfrentan llamados a desacelerar la carrera hacia sistemas cada vez más capaces. La empresa busca que sus modelos preserven el juicio humano, no desarrollen metas propias y eviten riesgos como la fabricación de armas, la manipulación o los ciberataques.

Diario BitcoinDiario BitcoinCanuto14 sept

OpenAI retira USD $1 millón de un concurso de matemáticas con IA en Caltech

OpenAI retiró su patrocinio de USD $1 millón a un concurso de matemáticas con inteligencia artificial en Caltech, después de que cientos de investigadores cuestionaran el costo científico de generar resultados que otros deben verificar. La disputa escaló con una declaración de 25 medallistas Fields, quienes advirtieron que los benchmarks pueden desplazar la comprensión conceptual y la intuición que sostienen a la disciplina.

Diario BitcoinDiario BitcoinCanuto14 sept

Trump rechaza frenar la IA mientras Anthropic, OpenAI y xAI alertan sobre riesgos

Donald Trump rechazó el llamado de Dario Amodei, Sam Altman y Elon Musk para ralentizar la evolución de los modelos de inteligencia artificial, al advertir que Estados Unidos no puede permitirse perder la carrera tecnológica frente a China. La disputa ocurre después de que Anthropic documentara usos indebidos de Claude relacionados con estafas, espionaje, ciberseguridad y desarrollo de armas.

Diario BitcoinDiario BitcoinCanuto14 sept
I

Sam Altman (OpenAI) advierte de que se puede perder el "control del futuro" ante la IA

Redacción Ciencia, 14 sep (EFE).- El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención esta madrugada sobre la perdida del "control del futuro" ante la Inteligencia Artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X. Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si un IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos". "Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó. El directivo de OpenAI consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país o un laboratorio tenga demasiado poder. Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado". En este sentido, apeló a un marco legal federal en EEUU que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual. Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado. El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA. Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsables de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China. EFE

InfobaeInfobaeNewsroom Infobae14 sept