El debate global sobre la inteligencia artificial está pasando de las salvaguardas voluntarias a las demandas de una autoridad internacional, justo cuando Estados Unidos y China, las dos potencias de IA más importantes, permanecen fuera de la coalición que impulsa esta iniciativa.

Lideradas por Noruega y Finlandia, 20 naciones han respaldado una declaración que pide a las Naciones Unidas examinar la creación de una institución capaz de establecer estándares, verificar el cumplimiento y convocar a los gobiernos cuando los sistemas de IA superen umbrales peligrosos de capacidad. Los firmantes presentan la iniciativa como una forma de gestionar los riesgos sin permitir que el acceso a los beneficios de la IA amplíe la brecha entre los países.

Anthony Albanese, de Australia, presentó la posición de la coalición como favorable a la innovación, pero firmemente delimitada por el juicio humano. La IA podría «mejorar vidas», fortalecer la productividad y hacer avanzar la ciencia médica, afirmó, pero «los seres humanos deben tener el control de ella».¹ La declaración también señala que la IA debe permanecer bajo «la dirección, supervisión y control humanos» y operar dentro del derecho internacional.²

La propuesta también refleja las preocupaciones planteadas por destacados ejecutivos tecnológicos, entre ellos el director ejecutivo de Anthropic, Dario Amodei, y el responsable de OpenAI, Sam Altman. Sus partidarios sostienen que las pruebas, evaluaciones y verificaciones comunes son necesarias porque los sistemas avanzados pueden generar riesgos en materia de ciberseguridad, biología y control humano que ningún país puede gestionar por sí solo.

Sin embargo, el aparente consenso de la coalición oculta una marcada división geopolítica y política. Estados Unidos, China, Reino Unido, Francia, Italia, Polonia y Japón no han firmado. Los críticos presentan la supervisión internacional como un intento de ampliar el control gubernamental, un cártel tecnológico que favorece a las empresas ya establecidas o una estrategia impulsada por el miedo que podría ralentizar a Estados Unidos mientras China avanza.

Incluso los partidarios de la propuesta reconocen su principal debilidad: una institución podría ser viable, pero dotarla de «verdaderos dientes» y verificar sistemas de IA secretos o militares sería difícil.² Por tanto, la declaración representa menos un régimen global operativo que una primera reivindicación en una disputa sobre quién definirá los límites de la IA y si los actores más poderosos los aceptarán.