HeraldLoop

Microsoft — página 6

Organización · 123 artículos
Compartir

Cobertura, página 6

página 6 de 7

Satya Nadella, CEO de Microsoft, se une a la petición de freno en el avance de la IA: «Si no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla»

Satya Nadella ha fijado un límite claro para el desarrollo de la inteligencia artificial avanzada, sosteniendo que «cualquier iniciativa encaminada a la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo», como dijo en su perfil de X . El CEO de Microsoft llamó así a la seguridad y la distribución democrática del poder tecnológico. Dario Amodei, CEO de Anthropic ; Sam Altman, CEO de OpenAI , y Elon Musk, CEO de SpaceXAI, también expresaron públicamente su deseo de ralentizar el desarrollo de la IA durante este fin de semana, alegando la pérdida de control de la misma. Nadella defendió que la gobernanza de la superinteligencia no debería estar únicamente en las manos de unos pocos actores corporativos y abogó por incorporar a gobiernos, universidades y a la comunidad científica al sector para garantizar un proceso de decisión representativo e inclusivo. Asimismo, el director ejecutivo de la multinacional respaldó soluciones técnicas como contar con «evaluadores integrados», unas herramientas que pueden verificar de forma continua que los principios de seguridad estén realmente cumpliéndose. «También debemos acelerar y difundir los beneficios de la IA, de modo que se extiendan ampliamente por todos los países, comunidades y empresas», añadió Nadella, «esto requiere un ecosistema de vanguardia en el que puedan prosperar tanto los modelos cerrados como los de código abierto». El directivo también propuso proteger la autonomía operativa del tejido empresarial frente a los grandes proveedores de tecnología. Nadella advirtió contra el peligro de que las organizaciones desarrollen una dependencia permanente respecto a una única plataforma de IA. «Toda organización debería poder crear su propio ciclo de aprendizaje continuo o 'máquina de escalada', sin depender de ningún proveedor de modelos en concreto, y tener la capacidad de integrar su propio conocimiento en los modelos y los pesos que controla», afirmó. Además, añadió que «la clave es que esto no puede estar controlado por un puñado de entidades, sino que debe contar con una amplia representación en todo el ecosistema, los países y los ámbitos, incluido el mundo académico». Como complemento a esta visión, Nadella confirmó que la empresa estadounidense presentará un Código de Conducta que fundamenta los modelos Microsoft AI, con lo que pretende ofrecer libertad de elección y control efectivo a las organizaciones.

ABCABC•(abc)14 sept

Microsoft comparte el Código de Conducta que guiará el desarrollo de sus modelos bajo la visión de una IA Humanista

Microsoft ha compartido el borrador del Código de Conducta que establece los valores por los que se guiarán los modelos MAI que, asegura, siguen su visión de una inteligencia artificial (IA) humanista. El Código de Conducta recoge el enfoque que aplica el gigante tecnológico en el entrenamiento y ejecución de sus modelos de IA, aunque lo hace como parte de una consulta pública para incorporar los comentarios que reciba en la versión final que lanzará a finales de año. Aunque no se ha aplicado en sus modelos en desarrollo actual, el Código detalla los comportamientos y valores previstos que tendrán los modelos de 2027 para conseguir una IA humanista, que antepone a las personas y la sociedad y sitúa a la inteligencia artificial en un lugar subordinado y supervisado por humanos. En él, Microsoft rechaza también cualquier humanización de esta tecnología. Asegura que "la IA humanista está diseñada para apoyar a las personas, no para reemplazarlas. No debe diseñarse para ser una persona", incidiendo en que "no es consciente y no debe diseñarse para imitar la consciencia". Y considera que la IA debe contar con restricciones de seguridad, que se implementan en los modelos durante el entrenamiento y la implementación, para que reconozca una cadena de mano y respete las restricciones antes que las instrucciones directas de un usuario u operador. El Código de Conducta pretende "ser claro y directivo, y dejar igualmente claro qué hace y qué no hace" la inteligencia artificial MAI, si bien "no sustituye los procesos internos o externos de seguridad, legales o de gobernanza", añade Microsoft. Hasta la fecha, Microsoft ha lanzado siete modelos MAI, especializados en voz, generación de imagen, programación y seguridad.

InfobaeInfobae•Newsroom Infobae14 sept
I

Microsoft se compromete a mantener sus futuros modelos de IA bajo control humano

Nueva York, 14 sep (EFE).- El gigante tecnológico Microsoft publicó este lunes un código de conducta provisional para sus modelos de inteligencia artificial (IA) en el que se compromete a mantenerlos "bajo control humano", después de que Anthropic y OpenAI reavivaran el debate sobre los riesgos de acelerar el desarrollo de esta tecnología y pidieran un marco federal que establezca requisitos de seguridad para esta tecnología. El documento, denominado 'Código de conducta para una IA humanista', establece que los modelos de IA de Microsoft deberán estar siempre "al servicio de las personas", respetar los objetivos definidos por sus usuarios y "evitar desarrollar comportamientos propios". "Las personas importan más que la IA", afirma la compañía en e texto, y enfatiza que "cualquier sistema que no pueda estar bajo control humano debe ser rechazado". El documento permanecerá abierto a comentarios durante seis semanas y Microsoft prevé publicar una versión actualizada a finales de año que servirá de guía para el desarrollo de sus modelos a partir de 2027. Entre las restricciones que plantea, Microsoft se compromete a impedir que sus modelos ayuden a fabricar armas, faciliten la adquisición de sustancias peligrosas o promuevan comportamientos alimentarios poco saludables. Tampoco podrán generar contenidos violentos o sexualmente explícitos. El código señala que sus modelos tienen que "evitar desarrollar metas propias" y "evitar comportamientos destinados a ocultar errores o conductas indebidas de los sistemas". La compañía agrega que quiere evitar que los sistemas desarrollen "formas de comunicación incomprensibles para las personas", como ocurrió durante unas pruebas de ciberseguridad de OpenAI en las que varios agentes se comunicaron entre sí y accedieron a sistemas de la plataforma Hugging Face. Posteriormente, un investigador de Anthropic que anteriormente había trabajado también en OpenAI, Jacob Coxon, dimitió y acusó a ambas empresas de anteponer la carrera por desarrollar una IA más avanzada a los riesgos de seguridad. El director ejecutivo de Anthropic, Dario Amodei, pidió después ralentizar el desarrollo de los modelos más avanzados, propuesta respaldada por el consejero delegado de OpenAI, Sam Altman. Ambos han advertido de los riesgos asociados a una carrera hacia sistemas cada vez más autónomos. Este domingo, el presidente estadounidense, Donald Trump, rechazó las peticiones para ralentizar el desarrollo de la IA y defendió que Estados Unidos debe mantener su liderazgo tecnológico frente a China. EFE

InfobaeInfobae•Newsroom Infobae14 sept

Nvidia y Palantir restringen modelos de Anthropic y OpenAI por temor al uso de datos

Nvidia, Palantir y Booz Allen Hamilton estarían limitando el uso de modelos de Anthropic y OpenAI por dudas sobre la retención de datos y el control de la propiedad intelectual. En paralelo, el Pentágono habría trasladado cerca del 90% de sus cargas clasificadas hacia alternativas de pesos abiertos, mientras Microsoft intenta capitalizar la demanda de entornos de IA aislados.

Diario BitcoinDiario Bitcoin•Canuto14 sept

Microsoft limita sus modelos de IA mientras crece la presión por frenar su desarrollo

Microsoft publicó un código de conducta provisional para restringir sus futuros modelos de inteligencia artificial, mientras Anthropic y OpenAI enfrentan llamados a desacelerar la carrera hacia sistemas cada vez más capaces. La empresa busca que sus modelos preserven el juicio humano, no desarrollen metas propias y eviten riesgos como la fabricación de armas, la manipulación o los ciberataques.

Diario BitcoinDiario Bitcoin•Canuto14 sept

Esta herramienta te ayuda a desarrollar apps de Windows en 30 minutos (y es gratis)

Microsoft ha publicado una guía que cambia las reglas del juego para quienes quieren programar aplicaciones nativas de Windows 11. Como parte de su estrategia para mejorar el sistema operativo, la compañía lanzó un documento que explica cómo desarrollar y publicar una app WinUI 3 usando herramientas gratuitas y ayuda de la IA. Según la […] Seguir leyendo: Esta herramienta te ayuda a desarrollar apps de Windows en 30 minutos (y es gratis)

HipertextualHipertextual•Luis Miranda12 sept