He Lifeng

"China no es receptiva": por qué Pekín da la espalda a los avisos de EEUU sobre los riesgos de la IA

Pekín cree que los llamamientos a la desaceleración tienen como objetivo consolidar la ventaja de Silicon Valley y busca un equilibrio diferente entre seguridad y velocidad de desarrollo Los avances de China en IA, chips y robótica siembran el pánico en Silicon Valley y la Casa Blanca Hace aproximadamente dos años, el emprendedor del sector educativo Boris But tuvo lo que él llama una “revelación”: se dio cuenta de que, al igual que muchas otras empresas en China , su compañía necesitaba adoptar la IA antes de que esta la volviera obsoleta. Sus clientes, padres adinerados que buscan enviar a sus hijos a estudiar al extranjero, habían comenzado a llegar a su oficina recitando información y opiniones obtenidas no de empresas rivales, sino de sus conversaciones con esta tecnología. En respuesta, But comenzó a desarrollar su propia herramienta de estudio basada en inteligencia artificial, llegando a la conclusión: “Si no puedes vencerlos, únete a ellos”. El ritmo y la calidad del desarrollo de la IA en China solo son superados por los de Estados Unidos, y ambas superpotencias se encuentran inmersas en una rivalidad cada vez más intensa a medida que aumentan las expectativas con las capacidades de cada nuevo modelo. Los analistas coinciden en general en que los modelos estadounidenses de vanguardia, o de última generación, todavía están bastante por delante de sus homólogos chinos. Pero en las últimas semanas, el ambiente en Silicon Valley ha sido decididamente sombrío, ya que un experto tras otro han advertido sobre las posibles catástrofes que podrían resultar de la “pérdida de control” de las IA más avanzadas. Todo tomó un nuevo rumbo cuando el director ejecutivo de Anthropic, Dario Amodei, propuso una “ralentización mundial”. Algo que, según dijo, “requeriría la cooperación con China”. “China definitivamente no es receptiva” a una desaceleración en los términos que imponen las empresas estadounidenses, contesta Lian Jye Su, del grupo de investigación tecnológica Omdia. Para el gobierno, la IA es una “capacidad fundamental de soberanía”, y Pekín no quiere poner en peligro el progreso logrado para reducir la brecha con los modelos estadounidenses de vanguardia, continúa Su. “Considera que estos llamamientos [a una desaceleración] son un intento de afianzar la ventaja de Estados Unidos”, explica. Un freno o una maniobra geopolítica Amodei lo dejó claro , mencionando específicamente a China al argumentar que era clave “mantener la ventaja de las democracias en inteligencia artificial sobre las autocracias lo más amplia posible”. El estadounidense aboga por medidas que incluyen el mantenimiento de los controles de exportación a China sobre chips y maquinaria avanzados, cuya existencia, para China, ya equivale a un “control de ritmo” unilateral forzado. El Ministerio de Asuntos Exteriores chino respondió al artículo de Amodei diciendo que “la incitación al miedo, la confrontación y la competencia feroz solo perturbarán el proceso de gobernanza global de la IA”. Sin embargo, varios analistas avisan que sería un error suponer que esto implica un rechazo a las preocupaciones más amplias planteadas en el ensayo. Esta semana, China publicó la tercera versión de su marco de gobernanza de seguridad de la IA. Un documento que funciona como un “mapa del panorama de riesgos de la IA y de lo que se debería hacer al respecto”, describe Gabriel Wagner, investigador de Concordia, una consultora de seguridad de la IA con sede en Pekín. Las actualizaciones incluyen los riesgos que plantean los agentes, las amenazas a la ciberseguridad derivadas de los modelos de vanguardia y la cuestión de la auto-mejora recursiva : un escenario aún hipotético en el que la IA llega a ser lo suficientemente avanzada como para mejorarse a sí misma. El presidente de Estados Unidos, Donald Trump, y el presidente de China, Xi Jinping, durante su cumbre de mayo en Pekín (China). “En muchos sentidos, creo que hay más puntos en común de lo que la gente podría suponer entre lo que dice Amodei y lo que dice el gobierno chino”, afirma Wagner. Esto contrasta con el presidente estadounidense Donald Trump, quien calificó de “ conspiración enfermiza ” los temores de que la IA pueda aniquilar a la humanidad . Está previsto que Trump se reúna con su homólogo Xi Jinping en Washington esta semana, y se espera que la inteligencia artificial figure en la agenda, aunque los analistas se muestran escépticos de que se produzca un avance importante. Las protecciones de China El Partido Comunista, muy atento a los riesgos para su control político, ha sido proactivo a la hora de garantizar que la nueva tecnología se haya desarrollado dentro de los límites establecidos por el Estado . Según Su, de Omdia, la autoridad centralizada sobre la infraestructura crítica y la actividad comercial significa que China está, en general, en mejor posición que Estados Unidos “para afrontar cualquier desastre relacionado con la IA”. Sin embargo, las empresas chinas realizan menos labores voluntarias de seguimiento y evaluación que las estadounidenses, según Leia Wang, de la Fundación Carnegie para la Paz Internacional (CEIP). Según esta experta, ninguno de los dos gobiernos parece estar preparado para un incidente de pérdida de control como los descritos en las últimas semanas. Sin embargo, la regulación china es “iterativa, se adaptan rápidamente y publican nuevas medidas”, añade. China cuenta con un registro de algoritmos desde 2022, pero las advertencias sobre los agentes publicadas este año sugieren un cambio de enfoque, “de controlar lo que dice la IA a controlar lo que hace”, según Concordia AI. Este año, Pekín también emitió regulaciones nacionales destinadas a frenar la dependencia emocional de las inteligencias artificiales de compañía. Existe una verdadera preocupación por el empleo y la desinformación, pero esto coexiste con la firme convicción de que China debe dominar la IA en lugar de ralentizar su desarrollo Ni Tao — editor fundador del sitio web de tecnología yangtzeer.com Al mismo tiempo, se está fomentando activamente la IA en toda la economía para promover el crecimiento, objetivo que queda plasmado en su último Plan Quinquenal. Los gobiernos locales están ofreciendo financiación y alquileres bajos a las empresas para ayudar a lograrlo. El empresario But fue invitado recientemente a presentar su empresa, Hampshire Education, a una pequeña ciudad a tres horas de Shanghái, decidida a establecer una reputación como centro tecnológico. También se está animando a las fábricas de todo el enorme sector manufacturero del país a que adapten sus procesos a la era de la inteligencia artificial. “La seguridad y la capacidad de control son, sin duda, aspectos de gran importancia, y se debaten activamente”, declara un representante de Black Lake Technologies, una plataforma de agentes industriales que afirma haber trabajado con 40.000 fábricas en todo el mundo. “Pero en el sector manufacturero, estas preocupaciones tienden a ser mucho más concretas y operativas… lo que más les importa a las empresas es si la IA es fiable”. Un trabajador chino en una factoría La vida cotidiana en China ya está altamente digitalizada, y el hecho de que tradicionalmente haya menos debate sobre la privacidad de los datos está contribuyendo a su adopción generalizada. Por ejemplo, el servicio de salud digital A-fu, que cuenta con versiones de chatbots de inteligencia artificial de médicos prominentes entrenados en estudios clínicos reales, alcanzó recientemente los 150 millones de usuarios. “La mayoría de la gente considera la IA como una herramienta cotidiana ya útil, no como una amenaza abstracta, por lo que la actitud práctica es aprender a convivir con ella”, dijo Ni Tao, editor fundador del sitio web de tecnología yangtzeer.com. “Existe una verdadera preocupación por el empleo y la desinformación, pero esto coexiste con la firme convicción de que China debe dominar la IA en lugar de ralentizar su desarrollo”.