La carrera por desarrollar una inteligencia artificial cada vez más capaz está produciendo un consenso inusual entre las personas internas del sector: la tecnología podría volverse peligrosamente difícil de controlar, incluso mientras los expertos discrepan profundamente sobre cuándo podría ocurrir y sobre si las salvaguardas están avanzando al mismo ritmo.

El exinvestigador de Anthropic Jacob Coxon afirma que las empresas que persiguen la superinteligencia están «jugando con nuestras vidas», mientras que el investigador de alineación de Anthropic Evan Hubinger ha situado en más del 10 % la probabilidad de que la IA mate a todos los seres humanos durante la próxima década.¹ Sus advertencias no se centran en los sistemas actuales, que ambos describen como una amenaza inmediata relativamente limitada, sino en la auto-mejora recursiva: la posibilidad de que los sistemas de IA puedan construir de forma autónoma sucesores más capaces.

La interpretación más alarmista es que esta transición podría producirse en cuestión de años. Los críticos sostienen que los laboratorios están intentando, en la práctica, automatizar la investigación en IA, acelerando potencialmente el desarrollo más rápido de lo que los seres humanos pueden comprenderlo o supervisarlo. La preocupación no es simplemente un fallo de funcionamiento, sino una pérdida de control concentrada en un puñado de empresas o responsables de la toma de decisiones.

La descripción de Coxon es igualmente grave, pero más abiertamente política. Dijo a Fox News que la auto-mejora recursiva «podría ocurrir tan pronto como el año que viene», al tiempo que insistió en que la crisis sigue siendo «perfectamente solucionable» mediante la regulación y la cooperación internacional.² Describió la IA como una posible «superarma» en una carrera armamentística y argumentó que los gobiernos deben impedir que las empresas se precipiten hacia un desastre irreversible.

Por tanto, ambas perspectivas convergen en el riesgo fundamental, pero divergen en el énfasis. La advertencia de Hubinger subraya la incertidumbre y la ausencia de un plan fiable de alineación; Coxon insiste en que el peligro es un fracaso de las políticas, no un destino tecnológico inevitable. Otros expertos citados en el debate creen que la superinteligencia podría estar todavía a décadas de distancia, aunque reconocen que el aprendizaje autónomo sería una señal de alarma decisiva.

Ese desacuerdo deja sin resolver la tensión central: los gobiernos podrían tener tiempo para regular la IA avanzada —o quizá ya se hayan quedado atrás.