La lección equivocada de la estrategia de inteligencia artificial de China

Center For Internacional Governance Innovation

Susan Ariel Aaronson y Michael Moreno

Estados Unidos está imitando el enfoque de China en materia de datos centralizados, poniendo en riesgo la privacidad, la seguridad y la responsabilidad democrática en nombre del liderazgo de la IA.

Los líderes chinos reconocieron tempranamente la importancia de los datos para la inteligencia artificial (IA). En 2015, los funcionarios anunciaron incentivos para tratar los datos como un factor clave de producción. Más recientemente, China se convirtió en el primer país en crear mercados oficiales para los datos. Los formuladores de políticas chinos desarrollaron estándares que permitieron a las entidades privadas reclamar datos como un activo en los balances. Pero China puede haber cometido un "paso en falso" de datos. En 2014, Pekín anunció que permitiría a las agencias gubernamentales compartir datos sobre empresas y ciudadanos chinos, crear un mecanismo de puntuación centralizado para evaluar la solvencia financiera de individuos y empresas, y usar esos datos para impulsar a los ciudadanos hacia "valores morales" sancionados por el estado. Los observadores señalaron que el plan ha arrojado resultados mixtos y efectos secundarios como la corrupción y la desconfianza. No obstante, el 1 de abril de 2025, el gobierno anunció nuevas directrices sobre el sistema de crédito social, destinados a crear un "mercado nacional unificado".

Aunque la administración Trump ha trabajado para frustrar el liderazgo de China en IA, está copiando algunos aspectos de las políticas de datos de China al crear un conjunto de datos federales unificado. El 20 de marzo de 2025, el presidente Trump firmó una orden ejecutiva para "eliminar los silos de información" en las agencias federales, exigiendo que estas compartan datos no clasificados entre sí para combatir el fraude y el despilfarro. La Casa Blanca ha publicado pocos detalles sobre esta "base de datos maestra". Sin embargo, tanto The New Republic como The New York Times informaron que la Casa Blanca "recurrió a Palantir", una gran empresa de análisis de datos, para construirla. Ante la creciente preocupación pública sobre su trabajo , Palantir ha afirmado que estos informes son incorrectos.

Pero un conjunto de datos como este pone en riesgo la privacidad de los estadounidenses y parece violar la legislación estadounidense. La IA puede facilitar la extracción, la reidentificación y la acción sobre información sensible sobre las personas, como su ubicación o intereses. La Ley de Privacidad de 1974 establece límites sobre cómo y cuándo las agencias gubernamentales estadounidenses pueden recopilar y utilizar datos. En concreto, las agencias deben justificar cualquier "sistema de registros", limitar el uso de los datos y otorgar acceso a los archivos de las personas para que se puedan corregir errores. Con estas protecciones de la privacidad, los estadounidenses se sintieron cómodos expresando sus opiniones e ideas.

“El Congreso puede aprovechar esta regulación estableciendo reglas claras sobre cómo se pueden recopilar, almacenar y analizar los datos personales de los estadounidenses con IA y otras técnicas analíticas sofisticadas.”

Además, un conjunto de datos federales unificado presenta otros problemas para el pueblo estadounidense. En primer lugar, es mucho más fácil piratear un conjunto de datos unificado que los conjuntos de datos de múltiples agencias. Una vez pirateada o robada la información, actores maliciosos podrían venderla o usarla para manipular y atacar a individuos y grupos estadounidenses. En segundo lugar, sin normas claras que regulen la creación y el uso de dichos conjuntos de datos, los responsables políticos estadounidenses podrían utilizarlos para crear perfiles detallados de los estadounidenses, como China intenta hacer con sus ciudadanos en el marco de su programa de crédito social. Los funcionarios del gobierno también podrían atacar a individuos o grupos que no gozan del favor del gobierno actual

En tercer lugar, a largo plazo, si los estadounidenses sienten que sus datos están siendo explotados o mal utilizados, pueden mentir sobre sus datos o dejar de compartirlos, lo que podría, con el tiempo, comprometer la precisión, integridad y representatividad de los conjuntos de datos federales. Si las empresas no creen que los datos federales tienen integridad, pueden estar menos dispuestas a invertir en bonos estadounidenses. Finalmente, ninguna empresa debe tener acceso a información sobre individuos estadounidenses, ya que le daría a dicha empresa una ventaja competitiva en datos y acceso a tesoros de datos que no deberían recopilar, usar, reutilizar ni vender. El Digital Trade and Data Governance Hub ha creado una guía bibliográfica que describe los esfuerzos de la administración Trump para crear un conjunto de datos, así como documenta los esfuerzos para impugnar su creación.

Pero los intentos de la administración Trump de crear un conjunto de datos unificado tienen un potencial positivo. Podría motivar al Congreso a actualizar finalmente las leyes de privacidad para la era de la información y prohibir la creación de dicho conjunto de datos. En marzo, la congresista Lori Trahan (demócrata por Massachusetts) intentó impulsar estos esfuerzos al escribir una carta solicitando información a expertos y ciudadanos sobre cómo reevaluar la Ley de Privacidad. Basándose en sus hallazgos, Trahan planea centrarse en las normas que rigen el uso gubernamental de la información personal.

Irónicamente, la administración Trump reconoce que la agregación de datos plantea riesgos para la seguridad nacional. En abril, emitió normas que regulan el acceso de extranjeros a los datos de los estadounidenses. El Programa de Seguridad de Datos establece un tipo de control de las exportaciones que impide que adversarios extranjeros, y aquellos sujetos a su control, jurisdicción, propiedad y dirección, accedan a datos relacionados con el gobierno estadounidense, así como a datos personales masivos, genómicos, de geolocalización, biométricos, de salud, financieros y otros datos personales sensibles.

El Congreso puede basarse en esta regulación estableciendo reglas claras sobre cómo se pueden recopilar, almacenar y analizar los datos personales de los estadounidenses con IA y otras técnicas analíticas sofisticadas. Como ha señalado el Centro para la Democracia y la Tecnología , la ley de 1974 permitió a las agencias divulgar información personal si la divulgación es "rutinaria", lo que significa que es compatible con el propósito para el que se recopiló. Las futuras iteraciones de la ley deben limitar dicha divulgación. Además, el Congreso debe prohibir el uso de datos personales por parte del gobierno para rastrear o discriminar a las personas. El Congreso debe exigir al gobierno de los EE. UU. que informe trimestralmente sobre cómo utiliza la IA para analizar conjuntos de datos federales que contienen información personal y delinear quién es responsable del uso y la reutilización de los datos. Finalmente, el Congreso debería aprender de China y prohibir la creación de un conjunto de datos unificado sobre los estadounidenses.

El presidente Trump ha declarado que el liderazgo estadounidense en IA es esencial para la seguridad económica y nacional del país. Pero el liderazgo internacional en IA comienza en casa, protegiendo los datos personales de los estadounidenses.

Susan Ariel Aaronson es investigadora senior del CIGI, profesora de investigación de asuntos internacionales en la Universidad George Washington (GWU) y coinvestigadora principal del Instituto NSF-NIST para IA confiable en derecho y sociedad, donde dirige investigaciones sobre datos y gobernanza de IA.

Michael Moreno es investigador de inteligencia artificial y gobernanza de datos en el Centro de Comercio Digital y Gobernanza de Datos de la Universidad George Washington.