Story
22. Sept. 2026
Zwanzig Nationen wollen KI unter menschlicher Kontrolle – doch die größten Mächte bleiben außen vor
Eine Koalition aus 20 Nationen fordert die UN auf, eine globale Aufsicht über hochentwickelte KI zu prüfen, und argumentiert, dass Sicherheit gemeinsame Standards und menschliche Kontrolle erfordert. Kritiker warnen, der Vorschlag könnte die Macht der Regierungen ausweiten, Technologiekartelle schaffen und die Wettbewerbsfähigkeit des Westens schwächen.
Die weltweite Debatte über künstliche Intelligenz verlagert sich von freiwilligen Schutzmaßnahmen hin zu Forderungen nach internationaler Autorität – gerade während die Vereinigten Staaten und China, die beiden einflussreichsten KI-Mächte, außerhalb der Koalition bleiben, die diesen Vorstoß vorantreibt.
Unter der Führung Norwegens und Finnlands haben 20 Nationen eine Erklärung unterstützt, in der die Vereinten Nationen aufgefordert werden, eine Institution zu prüfen, die Standards festlegen, die Einhaltung überprüfen und Regierungen zusammenbringen kann, wenn KI-Systeme gefährliche Fähigkeitsschwellen überschreiten. Die Unterzeichner stellen den Vorstoß als eine Möglichkeit dar, Risiken zu bewältigen, ohne zuzulassen, dass der Zugang zu den Vorteilen der KI die Kluft zwischen den Ländern vergrößert.
Australiens Premierminister Anthony Albanese stellte die Position der Koalition als innovationsfreundlich, aber klar durch menschliches Urteilsvermögen begrenzt dar. KI könne „das Leben verbessern“, die Produktivität steigern und die medizinische Forschung voranbringen, sagte er, aber „der Mensch muss die Kontrolle darüber behalten.“1 In der Erklärung heißt es entsprechend, KI müsse unter „menschlicher Leitung, Aufsicht und Kontrolle“ bleiben und im Rahmen des Völkerrechts operieren.2
Der Vorschlag spiegelt auch Bedenken wider, die von führenden Technologieunternehmen geäußert wurden, darunter Dario Amodei, CEO von Anthropic, und OpenAI-Chef Sam Altman. Die Befürworter argumentieren, dass gemeinsame Tests, Bewertungen und Überprüfungen notwendig seien, weil fortschrittliche Systeme Risiken in den Bereichen Cybersicherheit, Biologie und menschliche Kontrolle schaffen könnten, die kein einzelnes Land allein bewältigen könne.
Doch der scheinbare Konsens der Koalition verdeckt eine scharfe geopolitische und politische Spaltung. Die Vereinigten Staaten, China, Großbritannien, Frankreich, Italien, Polen und Japan haben nicht unterzeichnet. Kritiker stellen die internationale Aufsicht als Versuch dar, die Kontrolle der Regierungen auszuweiten, als Technologiekartell zugunsten etablierter Unternehmen oder als angstgetriebene Strategie, die die Vereinigten Staaten bremsen könnte, während China voranschreitet.
Selbst die Befürworter des Vorschlags räumen die zentrale Schwäche ein: Eine Institution mag machbar sein, doch ihr „echte Durchsetzungskraft“ zu verleihen und geheime oder militärische KI-Systeme zu überprüfen, wäre schwierig.2 Die Erklärung stellt daher weniger ein funktionierendes globales Regelwerk dar als vielmehr einen ersten Anspruch in einem Wettstreit darüber, wer die Grenzen der KI definieren wird – und ob die mächtigsten Akteure sie akzeptieren werden.