Story
10. Sept. 2026
Anthropic-Insider sagen, KI könnte die Menschheit auslöschen, während die Regulierung kaum Schritt hält
Zwei mit Anthropic verbundene Forscher sind sich einig, dass unkontrollierte, sich selbst verbessernde KI eine existenzielle Bedrohung darstellen könnte, argumentieren jedoch, dass die Gefahr noch abwendbar ist. Ihre Warnungen unterscheiden sich hauptsächlich hinsichtlich des Zeitrahmens und der Frage, wie dringend Regierungen eingreifen müssen.
Das Wettrennen um die Entwicklung immer leistungsfähigerer künstlicher Intelligenz führt unter Insidern zu einem ungewöhnlichen Konsens: Die Technologie könnte gefährlich schwer zu kontrollieren werden, auch wenn Experten sich stark darüber uneinig sind, wie bald dies geschehen könnte und ob die Schutzmaßnahmen Schritt halten.
Der ehemalige Anthropic-Forscher Jacob Coxon sagt, Unternehmen, die nach Superintelligenz streben, würden „mit unserem Leben spielen“, während der Anthropic-Forscher im Bereich Alignment, Evan Hubinger, die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts alle Menschen tötet, auf mehr als 10 % beziffert.1 Ihre Warnungen beziehen sich nicht auf die heutigen Systeme, die beide als unmittelbare Bedrohung von relativ begrenztem Ausmaß beschreiben, sondern auf die rekursive Selbstverbesserung – die Möglichkeit, dass KI-Systeme autonom leistungsfähigere Nachfolger entwickeln könnten.
Die alarmierendere Interpretation lautet, dass dieser Übergang innerhalb weniger Jahre eintreten könnte. Kritiker sagen, Labore versuchten faktisch, die KI-Forschung zu automatisieren, und könnten dadurch die Entwicklung schneller vorantreiben, als Menschen sie verstehen oder überwachen können. Die Sorge gilt nicht nur Fehlfunktionen, sondern auch einem Kontrollverlust, der sich in den Händen einer Handvoll Unternehmen oder Entscheidungsträger konzentriert.
Coxons Darstellung ist ähnlich drastisch, aber deutlich politischer geprägt. Er sagte gegenüber Fox News, rekursive Selbstverbesserung könne „schon im nächsten Jahr geschehen“, beharrte jedoch darauf, dass die Krise durch Regulierung und internationale Zusammenarbeit weiterhin „sehr gut lösbar“ sei.2 Er bezeichnete KI als potenzielle „Superwaffe“ in einem Wettrüsten und argumentierte, Regierungen müssten verhindern, dass Unternehmen in eine unumkehrbare Katastrophe hineinrasen.
Die beiden Perspektiven stimmen daher beim Kernrisiko überein, unterscheiden sich jedoch in ihrer Schwerpunktsetzung. Hubingers Warnung unterstreicht die Unsicherheit und das Fehlen eines verlässlichen Alignment-Plans; Coxon betont, dass die Gefahr auf ein politisches Versagen zurückgeht und nicht auf ein unvermeidliches technologisches Schicksal. Andere in der Debatte zitierte Experten glauben, dass Superintelligenz noch Jahrzehnte entfernt sein könnte, räumen jedoch ein, dass autonomes Lernen ein entscheidendes Warnsignal wäre.
Diese Uneinigkeit lässt die zentrale Spannung ungelöst: Regierungen könnten noch Zeit haben, fortgeschrittene KI zu regulieren – oder bereits hinter der Entwicklung zurückliegen.