HeraldLoop
← Volver a las noticias
7 fuentesSeguimiento desde 16 sept, 03:50

Mark Zuckerberg rechaza los llamados a ralentizar el desarrollo de la IA

CompartirXWhatsAppFacebookLinkedIn

Cobertura cronológica

  1. 16 de septiembre
  2. Más reciente16 sept, 20:25

    Zuckerberg se desmarca de propuestas para ralentizar desarrollo de la IA; defiende que cada empresa asuma seguridad de sus modelos

    Los Ángeles.- El director ejecutivo de Meta , Mark Zuckerberg , defendió que cada empresa debe asumir por su cuenta “la responsabilidad ” de garantizar que sus modelos de inteligencia artificial ( IA ) sean seguros , con lo que se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología . El fundador de Facebook usó sus redes sociales para opinar en medio del debate sobre los peligros de la inteligencia artificial y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación. "Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió. Zuckerberg se refirió directamente al “gran debate” sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación como ha propuesto Dario Amodei , director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman , de OpenAI, y Elon Musk , de SpaceX y xAI. También destacó que Meta retrasó el lanzamiento de su agente de IA , Muse, durante varios meses para centrarse en la seguridad y la protección. “No exigimos que los demás hicieran lo mismo antes que nosotros”, señaló Zuckerberg, quien evitó mencionar explícitamente al líder de Anthropic ni a sus otros competidores. A su juicio, una forma de garantizar que la IA se desarrolle de manera segura reside en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora. Los comentarios de Zuckerberg siguen a la propuesta de Musk que a inicios de esta semana abogó para que los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos. En ese sentido, el director de Meta dijo que MLS , su laboratorio de inteligencia artificial, ya cuenta con evaluadores y asesores independientes. "En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", agregó. La iniciativa del fundador de Tesla se dio en medio de pedidos de los máximos responsables de laboratorios punteros como Amodei, Altman y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología. La oleada de llamados se dio tras los comentarios del ingeniero tecnológico Jacob Coxon , exempleado de Anthropic y OpenAI, quien dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década. Te puede interesar: Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas OpenAI, Anthropic y Google DeepMind van por ente que supervise a la IA "La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. mcc

    El UniversalEl Universal•​​​​​​​EFE null
  3. Seguimiento16 sept, 15:00

    Para Zuckerberg, la seguridad de la IA no es un freno: es el argumento de venta contra Anthropic y OpenAI

    Las empresas de IA están "jugando con nuestras vidas" . Es lo que dijo Jacob Coxon, exingeniero de Anthropic justo después de abandonar la compañía. Lo que le siguió fue un terremoto que ha puesto patas arriba la industria de la IA. De un lado tenemos a los responsables de las empresas de IA, con Dario Amodei al frente, abogan por echar el freno y ralentizar el desarrollo ante un inminente riesgo para la humanidad . Del otro lado tenemos a Trump y  Jensen Huang, que quieren justo lo contrario: acelerar. Había un líder tecnológico que aún no se había pronunciado: Mark Zuckerberg. Zuck ha hablado . En un mensaje publicado en su cuenta de X , el CEO de Meta se ha pronunciado sobre la polémica de estos días, criticando de forma indirecta el discurso de Anthropic y OpenAI: "Cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura". Zuckerberg no niega que existan riesgos, pero rechaza una pausa coordinada para toda la industria y traslada la responsabilidad de crear productos seguros directamente a los laboratorios. Además, les recuerda que los laboratorios "enfrentan una responsabilidad legal significativa si sus modelos causan daño". La alineación no es secundaria . Para Zuckerberg, la seguridad y alineación de los modelos no es algo secundario, sino primordial en el desarrollo de la IA. La propuesta encabezada por Amodei es ralentizar el desarrollo para permitir que la seguridad consiga ponerse al mismo nivel. Zuckerberg es claro ahí: "Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. Cualquier laboratorio que no se enfoque en la alineación se quedará atrás". Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral Automejora no, gracias. Zuckerberg también ha criticado la carrera por la llamada automejora recursiva de la IA, es decir, que los modelos logren mejorarse a sí mismos. En su opinión, los laboratorios no deberían estar enfocando gran parte del cómputo en esto, sino en "servir a las personas" porque es "una de las mejores formas de asegurar que desarrollemos esta tecnología de manera segura". Es una crítica indirecta, pero bastante clara, a l a creación de una superinteligencia que Anthropic ha puesto en el centro de su argumentario. Meta ya lo hace . Zuckerberg no ha perdido la oportunidad de destacar que Meta ya está cumpliendo con todas esas acciones que propone Amodei. Asegura que retrasaron el lanzamiento de su modelo Muse "durante varios meses para enfocarse en la seguridad y la protección" y añade que "No pedimos que todos los demás lo hicieran. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros". Esto es claramente un dardo contra el discurso de Amodei, que pide que todos paren a la vez y se cree un marco regulatorio en torno a esto. El CEO de Meta también destaca que su empresa ya integra evaluadores y asesores independientes "en varias áreas porque ayuda a producir un mejor trabajo", y suelta otro dardo: "Otros laboratorios simplemente pueden hacer esto también". Son su competencia . Que Zuckerberg no se alinee con OpenAI y Anthropic tiene todo el sentido desde el punto de vista competitivo. La compañía ha hecho grandes esfuerzos para recortar distancia con su competencia, empezando por el fichaje de numerosos ingenieros e investigadores a los que ofrecieron sueldos de locura. Meta ya ha lanzado su modelo de IA Muse Spark , un agente personal y se espera que en las próximas semanas haya un nuevo lanzamiento, según el New York Times . Se habla de un modelo al que internamente se refieren como Watermelon, y será el más potente que han hecho hasta la fecha. Imagen | Xataka con Magnific En Xataka | ¿Hay realmente un 10% de posibilidades de que la IA extinga al ser humano? La realidad tras el nuevo pánico apocalíptico - La noticia Para Zuckerberg, la seguridad de la IA no es un freno: es el argumento de venta contra Anthropic y OpenAI fue publicada originalmente en Xataka por Amparo Babiloni .

    XatakaXataka•Amparo Babiloni
  4. Seguimiento16 sept, 13:15

    Zuckerberg responde a la alerta de OpenAI y Anthropic: “Cada empresa debe garantizar su propia IA segura”

    El CEO de Meta explicó que la empresa aplazó la llegada de su asistente personal para añadir más protecciones, en medio del debate por fallos recientes y por el riesgo de perder el control

    InfobaeInfobae•Dylan Escobar Ruiz
  5. Seguimiento16 sept, 09:47

    Zuckerberg cree que cada empresa tiene "la responsabilidad para avanzar al ritmo necesario" que garantice una IA segura

    El director ejecutivo de Meta, Mark Zuckerberg, asegura que cuando retrasaron el lanzamiento de Muse para mejorar la seguridad y las protecciones de su nuevo agente, lo hicieron porque esta decisión forma parte de su trabajo diario, una postura que traslada al resto de laboratorios de inteligencia artificial (IA) al señalar que cada uno tiene "la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura". El llamado a frenar el ritmo del desarrollo de la IA que ha hecho este fin de semana el director ejecutivo de Anthropic, Dario Amodei, sigue una serie de incidentes de seguridad ocurridos este verano en los que tanto la IA de Claude como la que desarrolla OpenAI han mostrado un comportamiento autónomo que ha resultado en el 'hackeo' de distintos sistemas, incluido el de la plataforma Hugging Face. Un día después, a las puertas de la salida a bolsa de OpenAI, el director ejecutivo, Sam Altman, decidió dar marcha atrás, justificando esta decisión en los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial, como GPT-5.6 Sol y GPT-6 Astra (o Claude Mythos y Fable, de Anthropic). El motivo se encuentra en los daños que esta tecnología puede causar en la sociedad en su conjunto si se descontrola, lo que se conoce como desalineación, es decir, el comportamiento que muestra una IA distintos del que se espera que tenga. Y aunque Anthropic y OpenAI abogan por esa pausa antes de lanzar nuevos modelos, una postura que respalda el fundador de SpaceXAI, Elon Musk, otros se han puesto como ejemplo de responsabilidad. Es el caso de Meta. Según ha indicado Zuckerberg en un comunicado compartido en X (antes Twitter), la firma tecnológica retrasó el lanzamiento de Muse --su agente de IA personal-- "varios meses" para centrarse "en la seguridad y la protección". "No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros", ha expresado el directivo. En base a su experiencia, Zuckerberg destaca el papel de los evaluadores y asesores independientes y defiende dirigir "la gran mayoría del cómputo hacia servir a las personas en lugar de competir hacia la automejora recursiva" como una forma de desarrollar IA de manera segura. "Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden", afirma, y añade que "cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias acciones para asegurar que eso ocurra".

    InfobaeInfobae•Newsroom Infobae
  6. Seguimiento16 sept, 08:44

    Mark Zuckerberg rechaza frenar el avance de la IA y defiende que hay suficientes incentivos para la seguridad

    Mark Zuckerberg, jefe de Meta, ha rechado este martes los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA) , al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología. La preocupación sobre la IA ha aumentado estas últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana. «La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados», escribió Zuckerberg en X. El «alineamiento» hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. «Todo laboratorio que no se centre en el alineamiento se quedará atrás», añadió. El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas. Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de «manera responsable» . Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección. También se manifestó a favor de evaluaciones independientes de los sistemas de IA , subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos. Y pidió la creación de un «ecosistema más amplio y más diverso de evaluadores» en el sector. Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla. Ninguna norma debería retrasar la salida de los modelos estadounidenses, «ni siquiera un mes», defendió el fempresario a comienzos de agosto.

    ABCABC•(abc)
  7. Seguimiento16 sept, 06:56

    Zuckerberg, CEO de Meta, apuesta por evaluadores independientes que analicen las IA, no por frenar

    Zuckerberg presume ahora de que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad, Meta pagará hasta 18.000 millones de dólares para cerrar las demandas por adicción infantil a Instagram y Facebook El consejero delegado Meta, Mark Zuckerberg, propone que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial (IA) que desarrollan las empresas, pero no por frenar su desarrollo. Meta es el gigante tecnológico dueño de Facebook, Instagram y WhatsApp, entre otras. Zuckerberg recuerda que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad, pero también que no exigieron al resto de empresas que lo hicieran también. “Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, explica. La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén “alineados” con ellos y que no hagan lo que se les pide, por lo que los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos. Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas , Zuckerberg asegura que “la confianza y la alineación” se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. “Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, ha escrito en X, donde defiende que contratar evaluadores y asesores independientes “es la mejor práctica de la industria”. Reitera que Meta ha asumido ese compromiso con la seguridad y que “otros laboratorios también pueden hacerlo”, y que la clave para construir un futuro positivo para todos “reside en mantener el equilibrio de poder adecuado”.

    elDiario.eselDiario.es•EFE
  8. Seguimiento16 sept, 06:40

    Mark Zuckerberg rechaza frenar la IA como piden otros líderes tecnológicos: esta es su fórmula para hacerla más segura

    Mark Zuckerberg defiende que las empresas de IA avancen sin frenar su desarrollo, con evaluadores independientes y más medidas de seguridad.

    20minutos20minutos•Marta Gascón
  9. Infobae
    Seguimiento16 sept, 06:00

    Mark Zuckerberg apuesta por evaluadores independientes para analizar las IA, no por frenar

    Redacción Ciencia, 16 sep (EFE).- El director ejecutivo de Meta, Mark Zuckerberg, ha apostado por que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial que desarrollan las empresas, pero no por frenar su desarrollo. Lo ha hecho en una entrada en la red social X, en la que ha señalado que cada laboratorio tiene "la responsabilidad y el incentivo" de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura y la capacidad de tomar sus propias medidas para garantizar que eso suceda. Zuckerberg ha recordado que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad, pero también que no exigieron al resto de empresas que lo hicieran también; "simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros", mantiene. La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén "alineados" con ellos y que no hagan lo que se les pide, por lo que los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos. Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas, Zuckerberg asegura que "la confianza y la alineación" se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. "Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo", ha escrito en X, donde mantiene que contratar evaluadores y asesores independientes "es la mejor práctica de la industria". Afirma que Meta ha asumido ese compromiso con la seguridad y que "otros laboratorios también pueden hacerlo" , y que la clave para construir un futuro positivo para todos "reside en mantener el equilibrio de poder adecuado".

    InfobaeInfobae•Newsroom Infobae
  10. Primera noticia16 sept, 03:50

    Mark Zuckerberg rechaza los llamados a ralentizar el desarrollo de la IA

    El líder de Meta defiende que el mercado y el riesgo legal son suficientes para regular la IA, rechazando frenar su desarrollo. Zuckerberg aboga por evaluaciones externas y un entorno diverso de verificadores, mientras Meta invierte fuertemente en infraestructura.

    ClarínClarín•Clarin.com - Home